PEGを書きやすくする拡張構文の調査（構文ルール編）

[字句ルール編](http://qiita.com/yhirose/items/e8d70c00bc516dfe229e)からかなり日が空いてしまいましたが、続いて構文ルールについても調査してみました。

 * 左再帰
 * Metaルール
 * 中置演算子
 * 文脈依存パース

## 左再帰

オリジナルのPEGは、以下のような左再帰文法を扱うことができません。パース時に無限ループに陥ってしまいます。

```peg
// 直接左再帰（Aの再帰）
A <- A "a"
```

```peg
// 間接左再帰 (Bの再帰)
A <- B "a"
B <- C "b"
C <- B / A / "c"
```

左再帰文法を扱えるようにするアルゴリズムがいろいろと研究されています。

* [Packrat Parsers Can Support Left Recursion](http://www.vpri.org/pdf/tr2007002_packrat.pdf)
* [Hacker News (上記のアルゴリズムが正しく動作しない実例)](https://news.ycombinator.com/item?id=1198967)
* [左再帰に対応する Packrat Parser の実装](https://www.google.com/url?sa=t&rct=j&q=&esrc=s&source=web&cd=2&cad=rja&uact=8&ved=0ahUKEwj5-Lmn5O_SAhUI4mMKHZFcCngQFggmMAE&url=https%3A%2F%2Fipsj.ixsq.nii.ac.jp%2Fej%2Findex.php%3Faction%3Dpages_view_main%26active_action%3Drepository_action_common_download%26item_id%3D82737%26item_no%3D1%26attribute_id%3D1%26file_no%3D1%26page_id%3D13%26block_id%3D8&usg=AFQjCNFwzyCkEaKLBE1n4KgCC2QD90Rm6w&sig2=gTHTbNgxU374ete2U5mLtA&bvm=bv.150729734,d.cGc)
* [Left Recursion in Parsing Expression Grammars](https://arxiv.org/pdf/1207.0443.pdf)

しかしシンプルな実装が難しいためか、[PEG.js](https://github.com/pegjs/pegjs/issues/231)、[rust-peg](https://www.reddit.com/r/rust/comments/4uaqls/rustpeg_stack_overflow/)、[parboiled2](https://github.com/sirthias/parboiled2/issues/24)などの人気のあるライブラリでも、左再帰文法をサポートしない、さらにはサポートするつもりはないとしています。

左再帰をサポートすると表明するライブラリもあります。

* [Peggy (Support left recursion)](http://tanakh.github.io/Peggy/)
* [Rats! (Left-Recursive Productions)](https://cs.nyu.edu/rgrimm/xtc/rats-intro.html#left-recursion)
* [ScanRat (Direct and mutual left recursion)](https://github.com/pragmatrix/ScanRat)
* [Rattler](https://www.relishapp.com/jarhart/rattler/docs/tutorial)
* [IronMeta](https://github.com/kulibali/ironmeta#features)

## Metaルール

ライブラリによって、マクロ、テンプレート、パラメタライズド・ルールなど様々な呼ばれ方をします。
この拡張によって、似たようなルールの重複をなくすことができます。文法の規模が大きくなるにつれて、とても役立つ機能です。

rust-pegの例ですが、`keyword<E>`Metaルールに空白処理を含めています。

```peg
keyword<E> = E !identifierChar whitespace*

STRUCT = keyword<"struct">
ENUM = keyword<"enum">
```

もしこのMetaルールを使用しない場合、以下のように各キーワード毎に空白処理を含めなければなくなります。

```peg
STRUCT = "struct" !identifierChar whitespace*
ENUM = "enum" !identifierChar whitespace*
```

以下はPeggedのドキュメントに載せられていた、`List`ルールの例です。

```peg
List(Elem, Sep) <  Elem (Sep Elem)*
ArgList <- '(' List(Identifier, ',') ')'
```
`Elem (Sep Elem)*`が`List`と簡潔に名前付けされて、文法が読みやすくなります。

現段階でMetaルールをサポートするPEGライブラリです。

* [Pegged (Parameterized Rules)](https://github.com/PhilippeSigaud/Pegged/wiki/Parameterized-Rules)
* [Parpoiled2 (Meta-Rules)](https://github.com/sirthias/parboiled2#meta-rules)
* [rust-peg (Template rules)](https://github.com/kevinmehall/rust-peg#template-rules) 
* [Macro PEG (PEG with macro-like rules)](https://github.com/kmizu/macro_peg)

## 中置演算子

`1*(2+3)*4`のような優先順位が関係する中置記法を扱う場合、通常以下のように演算子レベルことにネストさせてルールを定義します。

```peg
Additive    <- Multitive [-+] Additive / Multitive
Multitive   <- Primary [/*] Multitive / Primary
Primary     <- '(' Additive ')' / Number
Number      <- < [0-9]+ >
```

特に問題ないように見えます。しかしこの方法は、演算子レベルが増加するに連れてネストが深くなり、CやJavaScriptのような相当数の演算子を持つ言語を定義しようとなると、文法はすぐに肥大化してしまいます。また演算子によっては、結合順序が右結合のものもあり、頭を悩ませます。

PEGライブラリの中には、中置演算子の文法を簡潔に記述できるようにしているものがあります。

例えばrust-pegでは、以下のような表記が可能です。（使用しているアルゴリズムは [Precedence Climbing Algorithm](http://eli.thegreenplace.net/2012/08/02/parsing-expressions-by-precedence-climbing)です。）

```peg
pub arithmetic -> i64 = #infix<number> {
	#L x "+" y { x + y }
	   x "-" y { x - y }
	#L x "*" y { x * y }
	   x "/" y { x / y }
	#R x "^" y { x.pow(y as u32) }
}
```

ここまで来ると、単なるPEGの拡張というよりも、中置構文DSLのような感じですね。しかし多くの演算子を持つ実用的な言語を実装するときには助けとなるでしょう。

* [rust-peg (Infix expressions)](https://github.com/kevinmehall/rust-peg#template-rules)

## 文脈依存パース

PEGでは、`<A><B><C>...</C></B></A>`のようなXMLタグの文法を記述する場合、次のように書くかもしれません。（見やすさのために簡略化しています。）

```peg
Element = '<' Name '>'  (Element / Content) '</' Name '>'
```

これでタグは正しく解析できますが、開始タグと終了タグのタグ名の整合性まではチェックしてくれません。通常このような文脈依存の解析は、後段の意味解析フェーズに任せます。

しかし、こうした文脈情報をルール上に記述する試みもあります。例えば[Nez](http://nez-peg.github.io/)ライブラリでは、文法上に文脈依存情報を記述可能です。

```peg
Element = <block '<' $key(<symbol Name>) '>' (Element / Content) '</' ~(<is Name>) '>' >
```
少々複雑に見えますが、`block`, `$Key(...)`, `is`などの拡張キーワードを使って、ネストされたXMLの開始タグ名と終了タグ名の整合性まで、パース時に正しくチェックしてくれます。
これにより、パース後の処理が非常に楽になります。強力な機能ですね。

[Autumn](https://github.com/norswap/autumn)というKotlinで書かれたパーサーコンビネータライブラリも、こうした文脈情報を扱えるそうです。

## まとめ

オリジナルのPEGはシンプルで扱いやすいですが、実用的な文法を定義するためには力不足なところもあります。それを解決するための、PEGライブラリの様々な試みを見てみました。この分野での研究はまだ進んでいるようですので、いずれまた調査してみたいと思います。