首先初步了解 DParser 這一由 J. Plevyak 編寫的簡單而強大的解析工具。然後了解用於 Python 的 DParser,它為 Python 程序員提供了一個訪問 DParser 的無縫接口,並看看它與上一期中介紹的解析器的比較。語法規則以類似於 Spark 或 PLY 的方式通過 Python 函數文檔字符串加入到 DParser 中。 有很多可用的 Python 解析器程序庫。我已經在本專欄中討論過 mx.TextTools、SimpleParse 和 SPARK,並在我的書中介紹了 PLY(請參閱 參考資料,獲得這些文檔的鏈接)。無需考慮,我也知道有 PyGgy、Yapps、PLEX、PyLR、PyParsing 和 TPG,而且我還模糊地記得讀過半打其他解析器的聲明。用戶可能會對此門類感到失落,不是因為缺少高質量程序庫,而是太多了。 DParser 與所有其他解析器的不同之處是什麼?是這樣,類似於 PLY 和 Spark,用於 Python 的 DParser 使用函數文檔字符串來表示其結果(prodUCtions)。這種風格使得您可以將動作代碼直接插入到一個結果中,以處理當一個特定的語法規則得到滿足時將發生的事件。與 PLY 或 Spark 相反,DParser 本身是用 C 編寫的,因而可能會比純粹的 Python 解析器快得多。用於 Python 的 DParser 是底層的 C 程序庫之外的一個非常精簡的包裝器(wrapper) —— 對 Python 的回調需要一些額外的時間,但是基本的解析是以 C 語言的速度來進行的。不過,就本文而言,我沒有嘗試進行任何具體的基准測試。所以,相對於其他解析器來說,DParser 到底有多快或多慢不是我所能直接評論的。 就我自己而言,我仍是非常喜歡 SimpleParse 的方法。SimpleParse 是快速的 mx.TextTools 程序庫(也是用 C 所編寫的)的一個包裝器,可以將 EBNF 語法語言從 Python 代碼中完全分離出來。一般來說,使用 SimpleParse 就意味著在一個函數調用中生成一個解析樹,然後在分開的代碼中遍歷這個樹。對於特別大的被解析的文檔來說,這種兩步方法可能是低效的,但是我發現這樣更容易理解編寫的代碼。 盡管如此,還是有很多讀者推薦說用於 Python DParaser 值得關注,雖然我更喜歡單獨的 EBNF 定義。順便提一句,如您將在示例中所看到的,DParser 不使用任何單獨的標記傳遞,而只是直接解析。您可以通過定義保留的 d_whitespace() 函數來控制空格的識別(它分離解析符號);這樣就使得您可以隨意使用標記。
找到最長的結果 作為用於 Python 的 DParser 程序的第一個示例,我創建了一個查找幾個模式的語法,這些模式依次為另一個的子結果。這個語法處理的問題類似於很多解析器遇到的“dangling else”問題。具體說,也就是您如何才能知道什麼時候停止查找更長的結果?(例如,“if”後是否跟有“else”?)我的語法會去分析的短語可能按次序包括有以“a”、“b”和“c” 結尾的單詞。所有沒有被包括進來的單詞只是短語的“head”或“tail”的部分。這需要一些例子來展示。首先,程序本身: 清單 1. 解析器 abc.py #!/usr/bin/env python2.3 "Identify sequence of a-, b-, c- Words" # #-- The grammar def d_phrase(t, s): 'phrase : words ( ABC AB A ) words' print "Head:", ''.join(s[0]) print t[1][0]+":", ''.join(s[1]) print "Tail:", ''.join(s[2]) def d_words(t): 'words : word*' def d_word(t): 'word : "[a-z]+" ' def d_A(t): '''A : "a[a-z]*" ''' return 'A' def d_AB(t): '''AB : A "b[a-z]*" ''' return 'AB' def d_ABC(t): '''ABC : AB "c[a-z]*" ''' return 'ABC' # #-- Parse STDIN from dparser import Parser from sys import argv, stdin phrase, arg = stdin.read(), argv[-1] Parser().parse(phrase, print_debug_info=(arg=='--debug')) 讓我們給出一些短語來運行這個解析器,如下: 清單 2. 簡單地解析短語 $ echo -n "alpha" ./abc.py Head: A: alpha Tail: echo -n "xavier alpha beta charlie will" ./abc.py Head: xavier ABC: alpha beta charlie Tail: will $ echo -n "mable delta xavier bruce" ./abc.py Traceback (most recent call last): [...] dparser.SyntaxError: syntax error, line:1 mable delta xavier bruce[syntax error] 顯然,到目前為止,一切都沒問題。我的語法當其條件允許時找到了一個 ABC,但是當只能找到 A 或者 AB 時,也能滿足於此。 不過說實話,當遇到含糊的短語時,我的語法會有很多問題。在大部分情況下,當 DParser 不能確定如何解析一個短語時,它會陷入一個無限循環(可能是最壞的結果;至少回溯或者報告的錯誤可以告訴您哪裡出現了問題)。有時(至少在我的 Mac OSX 機器上),它會轉而生成一個“Bus error”。那些情形我哪個都不喜歡。
處理含糊的短語 由於所有的最終結果都有相同的優先級,所以解析器不能確定如何解析類似如下的內容: 清單 3. 嘗試解析一個含糊的短語 $ echo -n "alex bruce alice benny carl" ./abc.py AB 在前然後是單詞?單詞在前然後是 ABC?對於那個問題來說,它是全部都是單詞嗎(包括五個單詞結果),它是不是應該引發一個 dparser.SyntaxError?我最後會得到一個“Bus error” 或停止了的任務,而不是一個解析。在先前的例子中,含糊的短語碰巧被解析出來的原因在於每個結果的急切性(eagerness);一旦找到一個 ABC,則先導和結尾單詞就都各就其位。 實際上,在先前的語法可以生效的情況下,要確切地理解為什麼能夠生效很令人迷惑 —— 在某種程度上,比理解為什麼它有時不能生效更令人迷惑。 讓我們假定我們希望解析一個短語,並當存在 ABC 結果時找它,即便在從左到右的遍歷過程中,有一些其他的結果(也就是 AB)得到了滿足。我可以通過提高 ABC 最終結果的優先級來完成: 清單 4. abc2.py 中修訂的 d_ABC() 結果函數 def d_ABC(t): 'ABC : AB "c[a-z]*" $term 1' return 'ABC' 如果沒有指定優先級,則結果的優先級是 0。否則,任何正整數或負整數都可以用來對結果排序。現在我們可以運行: 清單 5. 成功地找到後面的 ABC $ echo -n "alex bruce alice benny carl" ./abc2.py Head: alex bruce ABC: alice benny carl Tail: 注意,在解析器尋找末尾的單詞之前,會嘗試(ABCABA)系列中的全部可選項。所以這樣不需要任何優先級規范就可以成功。 清單 6. A 與 AB 之間不存在含糊短語問題 $ echo -n "alex alice benny" ./abc.py Head: alex AB: alice benny Tail: 在處理含糊短語時 DParser 的行為中,我發現了一些難以解釋的異常現象。例如,添加一個絕對不是 A 的末尾單詞,解析器可以工作 —— 但 只能 在有調試信息的條件下運行! 清單 7. 處理含糊短語時的不穩定行為 $ echo -n "alex bruce alice benny carl dave" ./abc.py [...process freezes...] $ echo -n "alex bruce alice benny carl dave" ./abc.py --debug [...debugging trace of speculative and final productions...] Head: alex bruce ABC: alice benny carl Tail: dave abc2.py 中的優先級規范會完成任意一種情況下的解析。 含糊短語的解析相當難以捉摸,難以確切理解。基本上,結果的生成是按遍歷的順序從左到右執行的,每一個結果都嘗試去從左到右獲取盡可能多的單詞。只有當向前查找過程中發生明顯錯誤時,才會進行回溯。總之,這只是大概。
調試簡介 DParser 可以顯示調試信息的選項,這是我所喜歡的它的一個方面。觀察這些信息並不是直觀地創建正確語法所必需的,但是至少可以通過它洞察當處理特定的短語時解析器所采取的動作。例如: 清單 8. 展示對不確定結果的追蹤 #------- Showing a trace of speculative productions $ echo -n "alex alice benny carl dave" ./abc2.py --debug d_words ???: d_A ???: alex d_word ???: alex d_words ???: d_phrase ???: alex d_words ???: alex d_A ???: alice d_word ???: alice d_words ???: d_words ???: alice d_phrase ???: alex alice d_phrase ???: alex alice d_words ???: alex alice d_word ???: benny d_AB ???: alice benny d_words ???: benny d_words ???: alice benny d_words ???: d_phrase ???: al