DSL查詢文檔

1.DSL查詢文檔

elasticsearch的查詢依然是基于JSON風(fēng)格的DSL來(lái)實(shí)現(xiàn)的。

1.1.DSL查詢分類

Elasticsearch提供了基于JSON的DSL(Domain Specific Language)來(lái)定義查詢。常見的查詢類型包括:

  • 查詢所有:查詢出所有數(shù)據(jù),一般測(cè)試用。例如:match_all

  • 全文檢索(full text)查詢:利用分詞器對(duì)用戶輸入內(nèi)容分詞,然后去倒排索引庫(kù)中匹配。例如:

    • match_query
    • multi_match_query
  • 精確查詢:根據(jù)精確詞條值查找數(shù)據(jù),一般是查找keyword、數(shù)值、日期、boolean等類型字段。例如:

    • ids
    • range
    • term
  • 地理(geo)查詢:根據(jù)經(jīng)緯度查詢。例如:

    • geo_distance
    • geo_bounding_box
  • 復(fù)合(compound)查詢:復(fù)合查詢可以將上述各種查詢條件組合起來(lái),合并查詢條件。例如:

    • bool
    • function_score

查詢的語(yǔ)法基本一致:

GET /indexName/_search
{
  "query": {
    "查詢類型": {
      "查詢條件": "條件值"
    }
  }
}

我們以查詢所有為例,其中:

  • 查詢類型為match_all
  • 沒有查詢條件
// 查詢所有
GET /indexName/_search
{
  "query": {
    "match_all": {
    }
  }
}

其它查詢無(wú)非就是查詢類型、查詢條件的變化。

1.2.全文檢索查詢

1.2.1.使用場(chǎng)景

全文檢索查詢的基本流程如下:

  • 對(duì)用戶搜索的內(nèi)容做分詞,得到詞條
  • 根據(jù)詞條去倒排索引庫(kù)中匹配,得到文檔id
  • 根據(jù)文檔id找到文檔,返回給用戶

比較常用的場(chǎng)景包括:

  • 百度輸入框搜索
  • 商城的輸入框搜索

例如百度搜索:

百度搜索場(chǎng)景

因?yàn)槭悄弥~條去匹配,因此參與搜索的字段也必須是可分詞的text類型的字段。

1.2.2.基本語(yǔ)法

常見的全文檢索查詢包括:

  • match查詢:?jiǎn)巫侄尾樵?/li>
  • multi_match查詢:多字段查詢,任意一個(gè)字段符合條件就算符合查詢條件

match查詢語(yǔ)法如下:

GET /indexName/_search
{
  "query": {
    "match": {
      "FIELD": "TEXT"
    }
  }
}

mulit_match語(yǔ)法如下:

GET /indexName/_search
{
  "query": {
    "multi_match": {
      "query": "TEXT",
      "fields": ["FIELD1", " FIELD12"]
    }
  }
}

1.2.3.示例

match查詢示例:

image.png

multi_match查詢示例:

image.png

可以看到,兩種查詢結(jié)果是一樣的,為什么?

因?yàn)槲覀儗ame、remark值都利用copy_to復(fù)制到了all字段中。因此你根據(jù)三個(gè)字段搜索,和根據(jù)all字段搜索效果當(dāng)然一樣了。

但是,搜索字段越多,對(duì)查詢性能影響越大,因此建議采用copy_to,然后單字段查詢的方式。

1.2.4.總結(jié)

match和multi_match的區(qū)別是什么?

  • match:根據(jù)一個(gè)字段查詢
  • multi_match:根據(jù)多個(gè)字段查詢,參與查詢字段越多,查詢性能越差

1.3.精準(zhǔn)查詢

精確查詢一般是查找keyword、數(shù)值、日期、boolean等類型字段。所以不會(huì)對(duì)搜索條件分詞。常見的有:

  • term:根據(jù)詞條精確值查詢
  • range:根據(jù)值的范圍查詢

1.3.1.term查詢

因?yàn)榫_查詢的字段搜是不分詞的字段,因此查詢的條件也必須是不分詞的詞條。查詢時(shí),用戶輸入的內(nèi)容跟自動(dòng)值完全匹配時(shí)才認(rèn)為符合條件。如果用戶輸入的內(nèi)容過(guò)多,反而搜索不到數(shù)據(jù)。

語(yǔ)法說(shuō)明:

// term查詢
GET /indexName/_search
{
  "query": {
    "term": {
      "FIELD": {
        "value": "VALUE"
      }
    }
  }
}

示例:

當(dāng)我搜索的是精確詞條時(shí),能正確查詢出結(jié)果:

image.png

但是,當(dāng)我搜索的內(nèi)容不是詞條,而是多個(gè)詞語(yǔ)形成的短語(yǔ)時(shí),反而搜索不到:

image.png

1.3.2.range查詢

范圍查詢,一般應(yīng)用在對(duì)數(shù)值類型做范圍過(guò)濾的時(shí)候。比如做價(jià)格范圍過(guò)濾。

基本語(yǔ)法:

// range查詢
GET /indexName/_search
{
  "query": {
    "range": {
      "FIELD": {
        "gte": 10, // 這里的gte代表大于等于,gt則代表大于
        "lte": 20 // lte代表小于等于,lt則代表小于
      }
    }
  }
}

示例:

image.png

1.3.3.總結(jié)

精確查詢常見的有哪些?

  • term查詢:根據(jù)詞條精確匹配,一般搜索keyword類型、數(shù)值類型、布爾類型、日期類型字段
  • range查詢:根據(jù)數(shù)值范圍查詢,可以是數(shù)值、日期的范圍

1.4.地理坐標(biāo)查詢

所謂的地理坐標(biāo)查詢,其實(shí)就是根據(jù)經(jīng)緯度查詢,官方文檔進(jìn)入

常見的使用場(chǎng)景包括:

  • 微信:發(fā)現(xiàn)選項(xiàng)里的附近
  • 滴滴:搜索我附近的出租車
  • 攜程:搜索我附近的酒店

1.4.1.矩形范圍查詢

矩形范圍查詢,也就是geo_bounding_box查詢,查詢坐標(biāo)落在某個(gè)矩形范圍的所有文檔:

DKV9HZbVS6.gif

查詢時(shí),需要指定矩形的左上右下兩個(gè)點(diǎn)的坐標(biāo),然后畫出一個(gè)矩形,落在該矩形內(nèi)的都是符合條件的點(diǎn)。

語(yǔ)法如下:

// geo_bounding_box查詢
GET /indexName/_search
{
  "query": {
    "geo_bounding_box": {
      "FIELD": {
        "top_left": { // 左上點(diǎn)
          "lat": 31.1,
          "lon": 121.5
        },
        "bottom_right": { // 右下點(diǎn)
          "lat": 30.9,
          "lon": 121.7
        }
      }
    }
  }
}

這種并不符合“附近的人”這樣的需求,所以我們就不做了。

1.4.2.附近查詢

附近查詢,也叫做距離查詢(geo_distance):查詢到指定中心點(diǎn)小于某個(gè)距離值的所有文檔。

換句話來(lái)說(shuō),在地圖上找一個(gè)點(diǎn)作為圓心,以指定距離為半徑,畫一個(gè)圓,落在圓內(nèi)的坐標(biāo)都算符合條件:

vZrdKAh19C.gif

語(yǔ)法說(shuō)明:

// geo_distance 查詢
GET /indexName/_search
{
  "query": {
    "geo_distance": {
      "distance": "15km", // 半徑
      "FIELD": "31.21,121.5" // 圓心
    }
  }
}

1.5.復(fù)合查詢

復(fù)合(compound)查詢:復(fù)合查詢可以將其它簡(jiǎn)單查詢組合起來(lái),實(shí)現(xiàn)更復(fù)雜的搜索邏輯。常見的有兩種:

  • fuction score:算分函數(shù)查詢,可以控制文檔相關(guān)性算分,控制文檔排名
  • bool query:布爾查詢,利用邏輯關(guān)系組合多個(gè)其它的查詢,實(shí)現(xiàn)復(fù)雜搜索

1.5.1.布爾查詢

布爾查詢是一個(gè)或多個(gè)查詢子句的組合,每一個(gè)子句就是一個(gè)子查詢。子查詢的組合方式有:

  • must:必須匹配每個(gè)子查詢,類似“與”
  • should:選擇性匹配子查詢,類似“或”
  • must_not:必須不匹配,不參與算分,類似“非”
  • filter:必須匹配,不參與算分

每一個(gè)不同的字段,其查詢的條件、方式都不一樣,必須是多個(gè)不同的查詢,而要組合這些查詢,就必須用bool查詢了。

需要注意的是,搜索時(shí),參與打分的字段越多,查詢的性能也越差。因此這種多條件查詢時(shí),建議這樣做:

  • 搜索框的關(guān)鍵字搜索,是全文檢索查詢,使用must查詢,參與算分
  • 其它過(guò)濾條件,采用filter查詢。不參與算分

1)語(yǔ)法示例:

GET /haohong/_search
{
  "query": {
    "bool": {
      "must": [
        {"term": {"name": "leiyang" }}
      ],
      "should": [
        {"term": {"isMarriott": false}}
      ],
      "must_not": [
        { "range": { "age": { "lte": 18} }}
      ],
      "filter": [
        { "range": {"score": { "gte": 45 } }}
      ]
    }
  }
}

2)小結(jié)

bool查詢有幾種邏輯關(guān)系?

  • must:必須匹配的條件,可以理解為“與”
  • should:選擇性匹配的條件,可以理解為“或”
  • must_not:必須不匹配的條件,不參與打分
  • filter:必須匹配的條件,不參與打分

2.搜索結(jié)果處理

搜索的結(jié)果可以按照用戶指定的方式去處理或展示。

2.1.排序

elasticsearch默認(rèn)是根據(jù)相關(guān)度算分(_score)來(lái)排序,但是也支持自定義方式對(duì)搜索結(jié)果排序??梢耘判蜃侄晤愋陀校簁eyword類型、數(shù)值類型、地理坐標(biāo)類型、日期類型等。

2.1.1.普通字段排序

keyword、數(shù)值、日期類型排序的語(yǔ)法基本一致。

語(yǔ)法

GET /indexName/_search
{
  "query": {
    "match_all": {}
  },
  "sort": [
    {
      "FIELD": "desc"  // 排序字段、排序方式ASC、DESC
    }
  ]
}

排序條件是一個(gè)數(shù)組,也就是可以寫多個(gè)排序條件。按照聲明的順序,當(dāng)?shù)谝粋€(gè)條件相等時(shí),再按照第二個(gè)條件排序,以此類推

2.2.分頁(yè)

elasticsearch 默認(rèn)情況下只返回top10的數(shù)據(jù)。而如果要查詢更多數(shù)據(jù)就需要修改分頁(yè)參數(shù)了。elasticsearch中通過(guò)修改from、size參數(shù)來(lái)控制要返回的分頁(yè)結(jié)果:

  • from:從第幾個(gè)文檔開始
  • size:總共查詢幾個(gè)文檔

類似于mysql中的limit ?, ?

2.2.1.基本的分頁(yè)

分頁(yè)的基本語(yǔ)法如下:

GET /hotel/_search
{
  "query": {
    "match_all": {}
  },
  "from": 0, // 分頁(yè)開始的位置,默認(rèn)為0
  "size": 10, // 期望獲取的文檔總數(shù)
  "sort": [
    {"price": "asc"}
  ]
}

2.2.2.深度分頁(yè)問(wèn)題

現(xiàn)在,我要查詢990~1000的數(shù)據(jù),查詢邏輯要這么寫:

GET /hotel/_search
{
  "query": {
    "match_all": {}
  },
  "from": 990, // 分頁(yè)開始的位置,默認(rèn)為0
  "size": 10, // 期望獲取的文檔總數(shù)
  "sort": [
    {"price": "asc"}
  ]
}

這里是查詢990開始的數(shù)據(jù),也就是 第990~第1000條 數(shù)據(jù)。

不過(guò),elasticsearch內(nèi)部分頁(yè)時(shí),必須先查詢 0~1000條,然后截取其中的990 ~ 1000的這10條:

image-20210721200643029.png

查詢TOP1000,如果es是單點(diǎn)模式,這并無(wú)太大影響。

但是elasticsearch將來(lái)一定是集群,例如我集群有5個(gè)節(jié)點(diǎn),我要查詢TOP1000的數(shù)據(jù),并不是每個(gè)節(jié)點(diǎn)查詢200條就可以了。

因?yàn)楣?jié)點(diǎn)A的TOP200,在另一個(gè)節(jié)點(diǎn)可能排到10000名以外了。

因此要想獲取整個(gè)集群的TOP1000,必須先查詢出每個(gè)節(jié)點(diǎn)的TOP1000,匯總結(jié)果后,重新排名,重新截取TOP1000。

image-20210721201003229.png

那如果我要查詢9900~10000的數(shù)據(jù)呢?是不是要先查詢TOP10000呢?那每個(gè)節(jié)點(diǎn)都要查詢10000條?匯總到內(nèi)存中?

當(dāng)查詢分頁(yè)深度較大時(shí),匯總數(shù)據(jù)過(guò)多,對(duì)內(nèi)存和CPU會(huì)產(chǎn)生非常大的壓力,因此elasticsearch會(huì)禁止from+ size 超過(guò)10000的請(qǐng)求。

針對(duì)深度分頁(yè),ES提供了兩種解決方案,官方文檔

  • search after:分頁(yè)時(shí)需要排序,原理是從上一次的排序值開始,查詢下一頁(yè)數(shù)據(jù)。官方推薦使用的方式。
  • scroll:原理將排序后的文檔id形成快照,保存在內(nèi)存。官方已經(jīng)不推薦使用。

2.2.3.小結(jié)

分頁(yè)查詢的常見實(shí)現(xiàn)方案以及優(yōu)缺點(diǎn):

  • from + size

    • 優(yōu)點(diǎn):支持隨機(jī)翻頁(yè)
    • 缺點(diǎn):深度分頁(yè)問(wèn)題,默認(rèn)查詢上限(from + size)是10000
    • 場(chǎng)景:百度、京東、谷歌、淘寶這樣的隨機(jī)翻頁(yè)搜索
  • after search

    • 優(yōu)點(diǎn):沒有查詢上限(單次查詢的size不超過(guò)10000)
    • 缺點(diǎn):只能向后逐頁(yè)查詢,不支持隨機(jī)翻頁(yè)
    • 場(chǎng)景:沒有隨機(jī)翻頁(yè)需求的搜索,例如手機(jī)向下滾動(dòng)翻頁(yè)
  • scroll

    • 優(yōu)點(diǎn):沒有查詢上限(單次查詢的size不超過(guò)10000)
    • 缺點(diǎn):會(huì)有額外內(nèi)存消耗,并且搜索結(jié)果是非實(shí)時(shí)的
    • 場(chǎng)景:海量數(shù)據(jù)的獲取和遷移。從ES7.1開始不推薦,建議用 after search方案。

2.3.高亮

2.3.1.高亮原理

什么是高亮顯示呢?

我們?cè)诎俣?,京東搜索時(shí),關(guān)鍵字會(huì)變成紅色,比較醒目,這叫高亮顯示:

image-20210721202705030.png

高亮顯示的實(shí)現(xiàn)分為兩步:

  • 1)給文檔中的所有關(guān)鍵字都添加一個(gè)標(biāo)簽,例如<em>標(biāo)簽
  • 2)頁(yè)面給<em>標(biāo)簽編寫CSS樣式

2.3.2.實(shí)現(xiàn)高亮

高亮的語(yǔ)法

GET /hotel/_search
{
  "query": {
    "match": {
      "FIELD": "TEXT" // 查詢條件,高亮一定要使用全文檢索查詢
    }
  },
  "highlight": {
    "fields": { // 指定要高亮的字段
      "FIELD": {
        "pre_tags": "<em>",  // 用來(lái)標(biāo)記高亮字段的前置標(biāo)簽
        "post_tags": "</em>" // 用來(lái)標(biāo)記高亮字段的后置標(biāo)簽
      }
    }
  }
}

注意:

  • 高亮是對(duì)關(guān)鍵字高亮,因此搜索條件必須帶有關(guān)鍵字,而不能是范圍這樣的查詢。
  • 默認(rèn)情況下,高亮的字段,必須與搜索指定的字段一致,否則無(wú)法高亮
  • 如果要對(duì)非搜索字段高亮,則需要添加一個(gè)屬性:required_field_match=false

2.4.總結(jié)

查詢的DSL是一個(gè)大的JSON對(duì)象,包含下列屬性:

  • query:查詢條件
  • from和size:分頁(yè)條件
  • sort:排序條件
  • highlight:高亮條件
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時(shí)請(qǐng)結(jié)合常識(shí)與多方信息審慎甄別。
平臺(tái)聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡(jiǎn)書系信息發(fā)布平臺(tái),僅提供信息存儲(chǔ)服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

友情鏈接更多精彩內(nèi)容