Antlr4 - 自定義SparkSQL解析

> Antlr4 是一個(gè)強(qiáng)大的解析器的生成器,可以用來(lái)讀取、處理、執(zhí)行或翻譯結(jié)構(gòu)化文本,ANTLR可以從語(yǔ)法上來(lái)生成一個(gè)可以構(gòu)建和遍歷解析樹(shù)的解析器,最出名的Spark計(jì)算引擎2.x就是用它來(lái)解析SQL的,是一個(gè)牛到?jīng)]朋友的家伙。

## IDEA測(cè)試

**IDEA語(yǔ)法分析插件**

下載 [antlr-v4-grammar-plugin](https://plugins.jetbrains.com/files/7358/53413/antlr-intellij-plugin-v4-1.9.zip?updateId=53413&pluginId=7358&family=intellij)

**插件安裝**

![antlr-v4-grammar分析插件](https://upload-images.jianshu.io/upload_images/9028759-457ee4fc07b39404.png?imageMogr2/auto-orient/strip%7CimageView2/2/w/1240)

g4語(yǔ)法文件使用的是sparkSQL的 [SqlBase.g4](https://github.com/apache/spark/blob/v2.3.1/sql/catalyst/src/main/antlr4/org/apache/spark/sql/catalyst/parser/SqlBase.g4) 文件進(jìn)行改造的 [ArcSql.g4 ](https://raw.githubusercontent.com/dounine/arc/370dc33ff42cca73e2a01ee2156b5627ba086d95/src/main/resources/ArcSQL.g4)

**右鍵選中 multiStatement 進(jìn)行測(cè)試**

![antlr4](https://upload-images.jianshu.io/upload_images/9028759-80259a5ed33eb5ac.png?imageMogr2/auto-orient/strip%7CimageView2/2/w/1240)

**測(cè)試SQL語(yǔ)法樹(shù)**

![antlr4-SQL-測(cè)試](https://upload-images.jianshu.io/upload_images/9028759-6187e0ff854daedd.png?imageMogr2/auto-orient/strip%7CimageView2/2/w/1240)

**生成解析配置**

![antlr4-生成解析代碼](https://upload-images.jianshu.io/upload_images/9028759-f6023f2df44d1d32.png?imageMogr2/auto-orient/strip%7CimageView2/2/w/1240)

1. 右鍵`ArcSQL.g4`文件,在下拉選項(xiàng)`Configure ANTLR`即可出來(lái)。

2. 第一個(gè)`Output directory...`要寫上輸出代碼的路徑。

3. 比如把它放到當(dāng)前項(xiàng)目的antlr4的包中`/dounine/github/arc/src/main/scala/com/dounine/arc/antlr4`

4. 右鍵`ArcSQL.g4`文件,選中`Generate ANTLR Recognizer`即可生成

5. 會(huì)生成如下幾個(gè)文件

```

ArcSQL.interp

ArcSQL.tokens

ArcSQLBaseListener

ArcSQLBaseVisitor

ArcSQLLexer

ArcSQLLexer.interp

ArcSQLLexer.tokens

ArcSQLListener

ArcSQLParser

ArcSQLVisitor

```

## 代碼測(cè)試

依賴

```

compile group: 'org.antlr', name: 'antlr4', version: '4.7.2'

```

被動(dòng)模式(樹(shù)解析到節(jié)點(diǎn)了通知)

```

val loadLexer = new ArcSQLLexer(CharStreams.fromString(

? ? ? """

? ? ? ? select toUp(name) from log;

? ? ? """))

val tokens = new CommonTokenStream(loadLexer)

val parser = new ArcSQLParser(tokens)

val ctx = parser.multiStatement()

val listener = new ArcSQLBaseListener() {

? ? ? override def exitQuerySpecification(ctx: ArcSQLParser.QuerySpecificationContext): Unit = {

? ? ? ? val input = ctx.start.getTokenSource.asInstanceOf[ArcSQLLexer]._input

? ? ? ? val start = ctx.start.getStartIndex

? ? ? ? val stop = ctx.stop.getStopIndex

? ? ? ? val interval = new Interval(start, stop)

? ? ? ? val sqlText = input.getText(interval)

? ? ? ? println("表名 => " + ctx.tableAlias().strictIdentifier().getText)

? ? ? ? println("完整SQL =>" + sqlText)

? ? ? }

? ? }

ParseTreeWalker.DEFAULT.walk(listener, ctx)

```

輸出(在`ctx`中還有很多關(guān)于sql樹(shù)信息)

```

表名 => log

完整SQL =>select toUp(name) from log

```

主動(dòng)模式(主動(dòng)去要數(shù)據(jù))

```

val vistor = new ArcSQLBaseVisitor[Unit] {

? ? ? override def visitQuerySpecification(ctx: QuerySpecificationContext): Unit = {

? ? ? ? val input = ctx.start.getTokenSource.asInstanceOf[ArcSQLLexer]._input

? ? ? ? val start = ctx.start.getStartIndex

? ? ? ? val stop = ctx.stop.getStopIndex

? ? ? ? val interval = new Interval(start, stop)

? ? ? ? val sqlText = input.getText(interval)

? ? ? ? println("表名 => " + ctx.tableAlias().strictIdentifier().getText)

? ? ? ? println("完整SQL =>" + sqlText)

? ? ? }

}

vistor.visit(ctx)

```

---

![](https://upload-images.jianshu.io/upload_images/9028759-07315bb8dadcd082.png?imageMogr2/auto-orient/strip%7CimageView2/2/w/1240)

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時(shí)請(qǐng)結(jié)合常識(shí)與多方信息審慎甄別。
平臺(tái)聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡(jiǎn)書系信息發(fā)布平臺(tái),僅提供信息存儲(chǔ)服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

  • > Antlr4 是一個(gè)強(qiáng)大的解析器的生成器,可以用來(lái)讀取、處理、執(zhí)行或翻譯結(jié)構(gòu)化文本,ANTLR可以從語(yǔ)法上來(lái)生...
    kikiki4閱讀 172評(píng)論 0 3
  • > Antlr4 是一個(gè)強(qiáng)大的解析器的生成器,可以用來(lái)讀取、處理、執(zhí)行或翻譯結(jié)構(gòu)化文本,ANTLR可以從語(yǔ)法上來(lái)生...
    kikiki4閱讀 188評(píng)論 0 3
  • > Antlr4 是一個(gè)強(qiáng)大的解析器的生成器,可以用來(lái)讀取、處理、執(zhí)行或翻譯結(jié)構(gòu)化文本,ANTLR可以從語(yǔ)法上來(lái)生...
    kikiki4閱讀 180評(píng)論 0 2
  • > Antlr4 是一個(gè)強(qiáng)大的解析器的生成器,可以用來(lái)讀取、處理、執(zhí)行或翻譯結(jié)構(gòu)化文本,ANTLR可以從語(yǔ)法上來(lái)生...
    kikiki5閱讀 304評(píng)論 0 4
  • > Antlr4 是一個(gè)強(qiáng)大的解析器的生成器,可以用來(lái)讀取、處理、執(zhí)行或翻譯結(jié)構(gòu)化文本,ANTLR可以從語(yǔ)法上來(lái)生...
    kikiki4閱讀 222評(píng)論 0 1

友情鏈接更多精彩內(nèi)容