(一)ElasticSearch-入门

2018-08-17 09:30:52来源:博客园 阅读 ()

新老客户大回馈,云服务器低至5折

目录:
一.前言
二.安装
三.索引
四.搜索
五.聚合
六.分布式的特性

 

一.前言
Elasticsearch是一个基于Apache Lucene(TM)的开源搜索引擎。无论在开源还是专有领域,Lucene可以被认为是迄今为止最先进、性能最好的、功能最全的搜索引擎库。
但是,Lucene只是一个库。想要使用它,你必须使用Java来作为开发语言并将其直接集成到你的应用中,更糟糕的是,Lucene非常复杂,你需要深入了解检索的相关知识来理解它是如何工作的。
Elasticsearch也使用Java开发并使用Lucene作为其核心来实现所有索引和搜索的功能,但是它的目的是通过简单的Restful API来隐藏Lucene的复杂性,从而让全文搜索变得简单。
Elasticsearch不仅仅是Lucene和全文搜索,我们还能这样去描述它:
(1)分布式的实时文件存储,每个字段都被索引并可被搜索。
(2)分布式的实时分析搜索分布式的实时分析搜索引擎。
(3)可以扩展到上百台服务器,处理PB级结构化或非结构化数据。
而且,所有的这些功能被集成到一个服务里面,你的应用可以通过简单的Restful API、各种语言的客户端甚至命令行与之交互。

 

二.安装
在安装Elasticsearch引擎之前,必须安装ES需要的软件环境,安装Java JDK和配置JAVA_HOME环境变量:
1.首先从Oracle官网下载和安装Java SE开发包:

由于ElasticSearch对JRE的版本是很敏感的,错误的版本,会导致ElasticSearch无法运行,我运行的项目ElasticSearch版本是elasticsearch-2.4.4,所以对应Java SE版本是Java SE 8[Java Platform(JDK)8u121]。但是我们并没有看到对应Java SE版本,那么就得从Java Archive下载合适的版本,具体对应版本号如下所示:

 下载并安装Java SE开发包之后,打开Java控制面板,把自动更新选项勾选掉,防止其自动更新,导致后面ES运行报错。具体操作如下所示:

Java SE开发包安装完成之后,需要在服务器上创建JAVA_HOME环境变量
点击“计算机”的属性->高级系统设置(Advanced System Setting)->高级->环境变量(Environment Variables),新建一个用户环境变量 JAVA_HOME,设置变量值是:C:\Program Files\Java\jdk1.8.0_121
注释:在Windows系统中,“%环境变量名%”用法的含义是获取指定环境变量的值,创建JAVA_HOME环境变量的作用,是由于安装ElasticSearch需要引用Java SE开发包。

2.安装ElasticSearch:
从ElasticSearch官网下载中心下载ElasticSearch 2.4.4版本安装包,具体版本号在历史记录里面:

 

将zip文件解压到C盘,进入 C:\elasticsearch-2.4.4\bin 目录,双击执行 elasticsearch.bat,该脚本文件执行ElasticSearch安装程序,稍等片刻,打开浏览器,输入 http://localhost:9200,显示以下画面,说明ES安装成功。

 

安装head插件:
为了便于管理ES,本文使用head插件,这是最初级的管理工具,在浏览器中显示ES集群,索引等信息,十分好用。
(1)在命令行中安装插件:
按住Windows+R,输入cmd,打开命令行工具,进入到ElasticSearch的bin目录,使用ES命令安装插件。命令如下所示:
cd C:\elasticsearch-2.4.4\bin
plugin install mobz/elasticsearch-head
安装界面提示如下所示:

(2)通过网页管理ElasticSearch:
在本地浏览器中输入http://localhost:9200/_plugin/head/,如果看到以下截图,说明head插件安装成功:

(3)将ElasticSearch 安装成Windows服务(Service)
方法一:
打开DOS命令行界面,切换到ElasticSearch的bin目录,执行service.bat install。
启动ElasticSearch服务service.bat start。
在run界面,输入 services.msc,查看ElasticSearch服务。
方法二:
百度搜索Service_Installer.exe类似这种安装WinService软件安装ElasticSearch服务。

注:
在这里特声明一下,这个安装步骤,我是转载修改博主悦光阴(ElasticSearch入门 第一篇:Windows下安装ElasticSearch)这篇文章而来的。如果同时想要了解集群配置问题的同学,可以转移悦光阴处学习(ElasticSearch入门 第二篇:集群配置)相关配置知识。因为本人只是了解基础集群配置。后续学习深入了解之后再深聊这块知识点。

好了,到这里,整个生产环境就部署完成了。后面让我们来进行一个简单教程,它涵盖了一些基本的概念介绍,比如索引(indexing)、搜索(search)以及聚合(aggregations)。通过这个教程,我们可以让你对Elasticsearch能做的事以及其易用程度有一个大致的感觉。

 

三.索引
1.首先我们根据一个简单的对比图来了解索引跟传统关系型数据库:
RelationalDB->Databases->Tables->Rows->Columns
Elasticsearch->Indices->Types->Documents->Fields

2.Elasticsearch集群可以包含多个索引(indices)(数据库),每一个索引可以包含多个类型(types)(表),每一个类型包含多个文档(documents)(行),然后每个文档包含多个字段(Fields)(列)。
Elasticsearch里面的索引跟传统关系型数据库里面定义的索引是两种不同概念:
Elasticsearch索引,就像是传统关系数据库中的数据库,它是相关文档存储的地方。索引一个文档表示把一个文档存储到索引(名词)里,以便它可以被检索或者查询。这很像SQL中的INSERT关键字,差别是,如果文档已经存在,新的文档将覆盖旧的文档。
Elasticsearch倒排索引,传统数据库为特定列增加一个索引,例如B-Tree索引来加速检索。Elasticsearch和Lucene使用一种叫做倒排索引(inverted index)的数据结构来达到相同目的。

3.ElasticSearch发出请求组成部分跟传统HTTP请求是一样的:
(1)常用HTTP动词有下面五个:GET:获取服务器中的对象;POST:增删改服务器中的对象;PUT:创建服务器中的对象;DELETE:删除服务器中的对象;HEAD:仅仅用于获取对象的基础信息;
(2)Query_String:像传递URL参数一样去传递查询语句,例如
/deng/employee/_search?q=last_name:Smith;
(3)默认端口:9200;
(4)Body:一个JSON格式的请求主体;

4.好了,说那么多,现在我们根据一个生产环境的事例来更加清楚了解Elasticsearch索引的如何应用:假设我们在一家名称为deng的公司工作,某天人力资源部门要求我们技术部门统计下公司新入职员工信息,方便了解员工信息。

录入新员工信息之前,我们先创建deng公司(索引),具体命令执行如下:
HTTP:PUT deng

Web界面:

 

然后我们在数据浏览选项当中会看到创建对应索引:

 

现在我们录入三个新员工信息,执行命令是:
HTTP:PUT /deng/employee/1
Body:

{
    "first_name": "John",
    "last_name": "Smith",
    "age": 25,
    "about": "I love to go rock climbing",
    "interests": [
        "sports",
        "music"
    ]
}
View Code

HTTP:PUT /deng/employee/2
Body:

{
    "first_name": "Jane",
    "last_name": "Smith",
    "age": 32,
    "about": "I like to collect rock albums",
    "interests": [
        "music"
    ]
}
View Code

HTTP:PUT /deng/employee/3
Body:

{
    "first_name": "Douglas",
    "last_name": "Fir",
    "age": 35,
    "about": "I like to build cabinets",
    "interests": [
        "forestry"
    ]
}
View Code

 Web界面:

再回到数据浏览选项当中,我们是不是看到了刚刚录入新员工信息?

 

四.搜索
好了录入所有新员工信息之后,我们来检索deng公司(索引-数据库)所有新员工(类型-表)数据,一般检索方式有两种,一种是通过URL传参方式获取员工数据(Query_String),另外一种是在Body里面传入JSON(DSL语句)查询:
(1)如果我们要检索某个新入职员工信息,可以根据标识定位找到该员工信息,例如ID,或者人名:
Query_String:
HTTP:GET /deng/employee/1
Web界面:

 HTTP:GET /deng/employee/_search?q=last_name:Fir (根据某个类型字段来定位该员工信息)
Web界面:

DSL语句:
HTTP:POST /deng/employee/_search
Body:

{
    "query": {
        "match": {
            "last_name": "Fir"
        }
    }
}
View Code

Web界面:

 

(2)如果我们要检索名称为Smith,且年龄大于30以上的新入职员工信息(过滤器filter):
DSL语句:
HTTP:POST /deng/employee/_search
Body:

{
    "query": {
        "filtered": {
            "filter": {
                "range": {
                    "age": {
                        "gt": 30
                    }
                }
            },
            "query": {
                "match": {
                    "last_name": "smith"
                }
            }
        }
    }
}
View Code

Web界面:

 

(3)如果我们想要查看某个新入职员工信息,但是我们忘记了他叫什么名字了,隐约只记得他好像说过喜欢rock climbing,那么我们可以使用全文检索,把about字段里面跟rock或者 climbing相关的员工信息都检索出来再进行筛选(全文检索match):
DSL语句:
HTTP:POST /deng/employee/_search
Body:

{
  "query": {
    "match": {
      "about": "rock climbing"
    }
  }
}
View Code

Web界面:

你们可以看到在使用了match关键字检索之后,会出现两个检索的结果,会按照结果相关性评分来排序,越接近搜索关键词的结果越靠前,评分也就就越高。

 

(4)同样道理,如果我们清楚记得某个入职员工说过他喜欢rock climbing,我们只想检索出跟about字段rock climbing关键词一致的新入职员工记录(短语检索match_phrase):
DSL语句:
HTTP:POST /deng/employee/_search
Body:

{
  "query": {
    "match_phrase": {
      "about": "rock climbing"
    }
  }
}
View Code

Web界面:

 

(5)当我们想要在检索员工记录中高亮关键词(高亮highlight):
DSL语句:
HTTP:POST /deng/employee/_search
Body:

{
  "query": {
    "match_phrase": {
      "about": "rock climbing"
    }
  },
  "highlight": {
    "fields": {
      "about": {}
    }
  }
}
View Code

Web界面:

在上面截图我们可以看到about字段检索出内容关键词rock climbing分别都加了<em></em>HTML标签,这是高亮标识。

 

五.聚合
(1)Elasticsearch有一个功能叫做聚合(aggregations),它允许你在数据上生成复杂的分析统计。它跟我们在SQL中GROUP BY很相似,但是比它更加强大。比如我们想要在新入职员工当中统计每个员工的爱好(聚合aggregations):
HTTP:POST /deng/employee/_search
Body:

{
  "aggs": {
    "all_interests": {
      "terms": {
        "field": "interests"
      }
    }
  }
}
View Code

Web界面:

如上图可以看到,检索出来结果是喜欢music:2人,atrs:1人,forestry:1人,sports:1人。

(2)如果我们想知道所有叫smith员工的爱好分别是什么呢?请看下面例子:
HTTP:POST /deng/employee/_search
Body:

{
    "query": {
        "match": {
            "last_name": "smith"
        }
    },
    "aggs": {
        "all_interests": {
            "terms": {
                "field": "interests"
            }
        }
    }
}
View Code

Web界面:

从上面检索结果,我们可以看出来所有叫smith的员工喜欢music:2人,sports:1人。

(3)聚合也允许分级汇总,例如我们要统计每个兴趣下员工平均年龄:
HTTP:POST /deng/employee/_search
Body:

{
    "aggs": {
        "all_interests": {
            "terms": {
                "field": "interests"
            },
            "aggs": {
                "avg_age": {
                    "avg": {
                        "field": "age"
                    }
                }
            }
        }
    }
}
View Code

Web界面:

很明显这个检索结果让我们能得到更多详情员工信息,即使你不了解语法,但你也能通过大概感觉通过这个特性完成相当复杂聚合工作。

 

六.分布式的特性
Elasticsearch致力于隐藏分布式系统的复杂性。以下这些操作都是在底层自动完成的:
(1)将你的文档分区到不同的容器或者分片(shards)中,它们可以存在于一个或多个节点中。
(2)将分片均匀的分配到各个节点,对索引和搜索做负载均衡。
(3)冗余每一个分片,防止硬件故障造成的数据丢失。
(4)将集群中任意一个节点上的请求路由到相应数据所在的节点。
(5)无论是增加节点,还是移除节点,分片都可以做到无缝的扩展和迁移。

 

通过上述案例,我相信大家对ES有了一个很基础的了解,这篇文章只是介绍ES入门,例如集群配置,索引管理,深入分片这些知识点,后续我们再来聊。

 

参考文档:
ElasticSearch入门 第一篇:Windows下安装ElasticSearch

标签:

版权申明:本站文章部分自网络,如有侵权,请联系:west999com@outlook.com
特别注意:本站所有转载文章言论不代表本站观点,本站所提供的摄影照片,插画,设计作品,如需使用,请与原作者联系,版权归原作者所有

上一篇:ABP之N层架构

下一篇:WebApi接口传参