像MySQL一样查询ES，困扰多年的问题终于解决了……

小羊架构 2024-11-13 11:10:32

 
 

ElasticSearch是现在最流行的搜索引擎了，查询快，性能好。可能唯一的缺点就是查询的语法Query DSL（Domain Specific Language）比较难记，今天分享一个直接用sql查询ES的方法。

 
 

 

一、简介

 

先简单介绍一下这个sql查询，因为社区一直反馈这个Query DSL 实在是太难用了。大家可以感受一下下面这个es的查询。

 

  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
GET /my_index/_search{  "query": {    "bool": {      "must": [        { "match": { "title": "search" } },        {          "bool": {            "should": [              { "term": { "category": "books" } },              { "term": { "category": "music" } }            ]          }        }      ],      "filter": {        "range": {          "price": { "gte": 20, "lte": 100 }        }      }    }  },  "aggs": {    "avg_price_per_category": {      "terms": {        "field": "category",        "size": 10      },      "aggs": {        "avg_price": {          "avg": {            "field": "price"          }        }      }    }  }}

 

这个查询使用了bool查询来组合多个条件，包括must、should和filter。同时也包含了聚合(aggs)来计算不同类别的平均价格。对于业务查询来讲，这个查询很普通。但是还是很难理解，特别是对于新手来讲，更难记了，很容易出错。

 

如果是mysql的查询，就是这么写

 

 

  •  
  •  
  •  
  •  
  •  
  •  
  •  
SELECT title, category, price FROM my_index WHERE (title = 'search' AND (category = 'books' OR category = 'music')) AND price >= 20 AND price <= 100 GROUP BY category ORDER BY AVG(price) DESC LIMIT 10

 

 

mysql 的查询就很简洁明了，看起来更舒服，后续维护也更方便。

 

既然都是查询，为啥不兼容一下mysql的语法呢，像很多工具现在都是兼容mysql的语法，比如说hive,starrocks，flink等等，原因就是因为mysql的用户多，社区活跃。还有一个原因就是因为mysql的语法比较简单，容易理解。所以ElasticSearch 官方ElasticSearch 从 6.3.0 版本也开始支持 SQL 查询了，这就是一个喜大奔普的事情了，哈哈。

 

下面是官方的文档和介绍，大家可以看看 https://www.elastic.co/guide/en/elasticsearch/reference/8.9/sql-overview.html

 

 

二、准备环境

 

大家在ES官网下载一下ES 启动就可以了，注意的是ES 需要JDK环境，然后就是需要在6.3.0以上的版本。https://www.elastic.co/cn/downloads/past-releases#elasticsearch

 

 

建议也下载一下kibana

 

 

我这边下载的是7.15.2版本

 

三、搞起

 

创建一个索引 my_index

 

  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
PUT /my_index{  "mappings": {    "properties": {      "title": { "type": "text" },      "category": { "type": "keyword" },      "price": { "type": "float" }    }  }}

插入一些数据

 

  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
POST /my_index/_doc/1{  "title": "ES学习手册",  "category": "books",  "price": 29.99}
POST /my_index/_doc/2{  "title": "on my way",  "category": "music",  "price": 13.57}
POST /my_index/_doc/3{  "title": "Kibana中文笔记",  "category": "books",  "price": 21.54}

传统的查询所有

 

  •  
  •  
  •  
GET /my_index/_search{}

返回的是文档的格式