Antlr4 - 自定義SparkSQL解析

> Antlr4 是一個強大的解析器的生成器,可以用來讀取、處理、執(zhí)行或翻譯結構化文本,ANTLR可以從語法上來生成一個可以構建和遍歷解析樹的解析器,最出名的Spark計算引擎2.x就是用它來解析SQL的,是一個牛到沒朋友的家伙。

## IDEA測試

**IDEA語法分析插件**

下載 [antlr-v4-grammar-plugin](https://plugins.jetbrains.com/files/7358/53413/antlr-intellij-plugin-v4-1.9.zip?updateId=53413&pluginId=7358&family=intellij)

**插件安裝**

![antlr-v4-grammar分析插件](https://upload-images.jianshu.io/upload_images/9028759-457ee4fc07b39404.png?imageMogr2/auto-orient/strip%7CimageView2/2/w/1240)

g4語法文件使用的是sparkSQL的 [SqlBase.g4](https://github.com/apache/spark/blob/v2.3.1/sql/catalyst/src/main/antlr4/org/apache/spark/sql/catalyst/parser/SqlBase.g4) 文件進行改造的 [ArcSql.g4 ](https://raw.githubusercontent.com/dounine/arc/370dc33ff42cca73e2a01ee2156b5627ba086d95/src/main/resources/ArcSQL.g4)

**右鍵選中 multiStatement 進行測試**

![antlr4](https://upload-images.jianshu.io/upload_images/9028759-80259a5ed33eb5ac.png?imageMogr2/auto-orient/strip%7CimageView2/2/w/1240)

**測試SQL語法樹**

![antlr4-SQL-測試](https://upload-images.jianshu.io/upload_images/9028759-6187e0ff854daedd.png?imageMogr2/auto-orient/strip%7CimageView2/2/w/1240)

**生成解析配置**

![antlr4-生成解析代碼](https://upload-images.jianshu.io/upload_images/9028759-f6023f2df44d1d32.png?imageMogr2/auto-orient/strip%7CimageView2/2/w/1240)

1. 右鍵`ArcSQL.g4`文件,在下拉選項`Configure ANTLR`即可出來。

2. 第一個`Output directory...`要寫上輸出代碼的路徑。

3. 比如把它放到當前項目的antlr4的包中`/dounine/github/arc/src/main/scala/com/dounine/arc/antlr4`

4. 右鍵`ArcSQL.g4`文件,選中`Generate ANTLR Recognizer`即可生成

5. 會生成如下幾個文件

```

ArcSQL.interp

ArcSQL.tokens

ArcSQLBaseListener

ArcSQLBaseVisitor

ArcSQLLexer

ArcSQLLexer.interp

ArcSQLLexer.tokens

ArcSQLListener

ArcSQLParser

ArcSQLVisitor

```

## 代碼測試

依賴

```

compile group: 'org.antlr', name: 'antlr4', version: '4.7.2'

```

被動模式(樹解析到節(jié)點了通知)

```

val loadLexer = new ArcSQLLexer(CharStreams.fromString(

? ? ? """

? ? ? ? select toUp(name) from log;

? ? ? """))

val tokens = new CommonTokenStream(loadLexer)

val parser = new ArcSQLParser(tokens)

val ctx = parser.multiStatement()

val listener = new ArcSQLBaseListener() {

? ? ? override def exitQuerySpecification(ctx: ArcSQLParser.QuerySpecificationContext): Unit = {

? ? ? ? val input = ctx.start.getTokenSource.asInstanceOf[ArcSQLLexer]._input

? ? ? ? val start = ctx.start.getStartIndex

? ? ? ? val stop = ctx.stop.getStopIndex

? ? ? ? val interval = new Interval(start, stop)

? ? ? ? val sqlText = input.getText(interval)

? ? ? ? println("表名 => " + ctx.tableAlias().strictIdentifier().getText)

? ? ? ? println("完整SQL =>" + sqlText)

? ? ? }

? ? }

ParseTreeWalker.DEFAULT.walk(listener, ctx)

```

輸出(在`ctx`中還有很多關于sql樹信息)

```

表名 => log

完整SQL =>select toUp(name) from log

```

主動模式(主動去要數(shù)據(jù))

```

val vistor = new ArcSQLBaseVisitor[Unit] {

? ? ? override def visitQuerySpecification(ctx: QuerySpecificationContext): Unit = {

? ? ? ? val input = ctx.start.getTokenSource.asInstanceOf[ArcSQLLexer]._input

? ? ? ? val start = ctx.start.getStartIndex

? ? ? ? val stop = ctx.stop.getStopIndex

? ? ? ? val interval = new Interval(start, stop)

? ? ? ? val sqlText = input.getText(interval)

? ? ? ? println("表名 => " + ctx.tableAlias().strictIdentifier().getText)

? ? ? ? println("完整SQL =>" + sqlText)

? ? ? }

}

vistor.visit(ctx)

```

---

![](https://upload-images.jianshu.io/upload_images/9028759-07315bb8dadcd082.png?imageMogr2/auto-orient/strip%7CimageView2/2/w/1240)

?著作權歸作者所有,轉載或內容合作請聯(lián)系作者
【社區(qū)內容提示】社區(qū)部分內容疑似由AI輔助生成,瀏覽時請結合常識與多方信息審慎甄別。
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發(fā)布,文章內容僅代表作者本人觀點,簡書系信息發(fā)布平臺,僅提供信息存儲服務。

相關閱讀更多精彩內容

  • > Antlr4 是一個強大的解析器的生成器,可以用來讀取、處理、執(zhí)行或翻譯結構化文本,ANTLR可以從語法上來生...
    kikiki4閱讀 172評論 0 3
  • > Antlr4 是一個強大的解析器的生成器,可以用來讀取、處理、執(zhí)行或翻譯結構化文本,ANTLR可以從語法上來生...
    kikiki4閱讀 222評論 0 1
  • > Antlr4 是一個強大的解析器的生成器,可以用來讀取、處理、執(zhí)行或翻譯結構化文本,ANTLR可以從語法上來生...
    kikiki4閱讀 215評論 0 4
  • > Antlr4 是一個強大的解析器的生成器,可以用來讀取、處理、執(zhí)行或翻譯結構化文本,ANTLR可以從語法上來生...
    kikiki4閱讀 265評論 0 1
  • > Antlr4 是一個強大的解析器的生成器,可以用來讀取、處理、執(zhí)行或翻譯結構化文本,ANTLR可以從語法上來生...
    kikiki5閱讀 723評論 0 1

友情鏈接更多精彩內容