(一)ElasticSearch-入门
2018-08-17 09:30:52来源:博客园 阅读 ()
目录:
一.前言
二.安装
三.索引
四.搜索
五.聚合
六.分布式的特性
一.前言
Elasticsearch是一个基于Apache Lucene(TM)的开源搜索引擎。无论在开源还是专有领域,Lucene可以被认为是迄今为止最先进、性能最好的、功能最全的搜索引擎库。
但是,Lucene只是一个库。想要使用它,你必须使用Java来作为开发语言并将其直接集成到你的应用中,更糟糕的是,Lucene非常复杂,你需要深入了解检索的相关知识来理解它是如何工作的。
Elasticsearch也使用Java开发并使用Lucene作为其核心来实现所有索引和搜索的功能,但是它的目的是通过简单的Restful API来隐藏Lucene的复杂性,从而让全文搜索变得简单。
Elasticsearch不仅仅是Lucene和全文搜索,我们还能这样去描述它:
(1)分布式的实时文件存储,每个字段都被索引并可被搜索。
(2)分布式的实时分析搜索分布式的实时分析搜索引擎。
(3)可以扩展到上百台服务器,处理PB级结构化或非结构化数据。
而且,所有的这些功能被集成到一个服务里面,你的应用可以通过简单的Restful API、各种语言的客户端甚至命令行与之交互。
二.安装
在安装Elasticsearch引擎之前,必须安装ES需要的软件环境,安装Java JDK和配置JAVA_HOME环境变量:
1.首先从Oracle官网下载和安装Java SE开发包:
由于ElasticSearch对JRE的版本是很敏感的,错误的版本,会导致ElasticSearch无法运行,我运行的项目ElasticSearch版本是elasticsearch-2.4.4,所以对应Java SE版本是Java SE 8[Java Platform(JDK)8u121]。但是我们并没有看到对应Java SE版本,那么就得从Java Archive下载合适的版本,具体对应版本号如下所示:
下载并安装Java SE开发包之后,打开Java控制面板,把自动更新选项勾选掉,防止其自动更新,导致后面ES运行报错。具体操作如下所示:
Java SE开发包安装完成之后,需要在服务器上创建JAVA_HOME环境变量
点击“计算机”的属性->高级系统设置(Advanced System Setting)->高级->环境变量(Environment Variables),新建一个用户环境变量 JAVA_HOME,设置变量值是:C:\Program Files\Java\jdk1.8.0_121
注释:在Windows系统中,“%环境变量名%”用法的含义是获取指定环境变量的值,创建JAVA_HOME环境变量的作用,是由于安装ElasticSearch需要引用Java SE开发包。
2.安装ElasticSearch:
从ElasticSearch官网下载中心下载ElasticSearch 2.4.4版本安装包,具体版本号在历史记录里面:
将zip文件解压到C盘,进入 C:\elasticsearch-2.4.4\bin 目录,双击执行 elasticsearch.bat,该脚本文件执行ElasticSearch安装程序,稍等片刻,打开浏览器,输入 http://localhost:9200,显示以下画面,说明ES安装成功。
安装head插件:
为了便于管理ES,本文使用head插件,这是最初级的管理工具,在浏览器中显示ES集群,索引等信息,十分好用。
(1)在命令行中安装插件:
按住Windows+R,输入cmd,打开命令行工具,进入到ElasticSearch的bin目录,使用ES命令安装插件。命令如下所示:
cd C:\elasticsearch-2.4.4\bin
plugin install mobz/elasticsearch-head
安装界面提示如下所示:
(2)通过网页管理ElasticSearch:
在本地浏览器中输入http://localhost:9200/_plugin/head/,如果看到以下截图,说明head插件安装成功:
(3)将ElasticSearch 安装成Windows服务(Service)
方法一:
打开DOS命令行界面,切换到ElasticSearch的bin目录,执行service.bat install。
启动ElasticSearch服务service.bat start。
在run界面,输入 services.msc,查看ElasticSearch服务。
方法二:
百度搜索Service_Installer.exe类似这种安装WinService软件安装ElasticSearch服务。
注:
在这里特声明一下,这个安装步骤,我是转载修改博主悦光阴(ElasticSearch入门 第一篇:Windows下安装ElasticSearch)这篇文章而来的。如果同时想要了解集群配置问题的同学,可以转移悦光阴处学习(ElasticSearch入门 第二篇:集群配置)相关配置知识。因为本人只是了解基础集群配置。后续学习深入了解之后再深聊这块知识点。
好了,到这里,整个生产环境就部署完成了。后面让我们来进行一个简单教程,它涵盖了一些基本的概念介绍,比如索引(indexing)、搜索(search)以及聚合(aggregations)。通过这个教程,我们可以让你对Elasticsearch能做的事以及其易用程度有一个大致的感觉。
三.索引
1.首先我们根据一个简单的对比图来了解索引跟传统关系型数据库:
RelationalDB->Databases->Tables->Rows->Columns
Elasticsearch->Indices->Types->Documents->Fields
2.Elasticsearch集群可以包含多个索引(indices)(数据库),每一个索引可以包含多个类型(types)(表),每一个类型包含多个文档(documents)(行),然后每个文档包含多个字段(Fields)(列)。
Elasticsearch里面的索引跟传统关系型数据库里面定义的索引是两种不同概念:
Elasticsearch索引,就像是传统关系数据库中的数据库,它是相关文档存储的地方。索引一个文档表示把一个文档存储到索引(名词)里,以便它可以被检索或者查询。这很像SQL中的INSERT关键字,差别是,如果文档已经存在,新的文档将覆盖旧的文档。
Elasticsearch倒排索引,传统数据库为特定列增加一个索引,例如B-Tree索引来加速检索。Elasticsearch和Lucene使用一种叫做倒排索引(inverted index)的数据结构来达到相同目的。
3.ElasticSearch发出请求组成部分跟传统HTTP请求是一样的:
(1)常用HTTP动词有下面五个:GET:获取服务器中的对象;POST:增删改服务器中的对象;PUT:创建服务器中的对象;DELETE:删除服务器中的对象;HEAD:仅仅用于获取对象的基础信息;
(2)Query_String:像传递URL参数一样去传递查询语句,例如
/deng/employee/_search?q=last_name:Smith;
(3)默认端口:9200;
(4)Body:一个JSON格式的请求主体;
4.好了,说那么多,现在我们根据一个生产环境的事例来更加清楚了解Elasticsearch索引的如何应用:假设我们在一家名称为deng的公司工作,某天人力资源部门要求我们技术部门统计下公司新入职员工信息,方便了解员工信息。
录入新员工信息之前,我们先创建deng公司(索引),具体命令执行如下:
HTTP:PUT deng
Web界面:
然后我们在数据浏览选项当中会看到创建对应索引:
现在我们录入三个新员工信息,执行命令是:
HTTP:PUT /deng/employee/1
Body:
{ "first_name": "John", "last_name": "Smith", "age": 25, "about": "I love to go rock climbing", "interests": [ "sports", "music" ] }
HTTP:PUT /deng/employee/2
Body:
{ "first_name": "Jane", "last_name": "Smith", "age": 32, "about": "I like to collect rock albums", "interests": [ "music" ] }
HTTP:PUT /deng/employee/3
Body:
{ "first_name": "Douglas", "last_name": "Fir", "age": 35, "about": "I like to build cabinets", "interests": [ "forestry" ] }
Web界面:
再回到数据浏览选项当中,我们是不是看到了刚刚录入新员工信息?
四.搜索
好了录入所有新员工信息之后,我们来检索deng公司(索引-数据库)所有新员工(类型-表)数据,一般检索方式有两种,一种是通过URL传参方式获取员工数据(Query_String),另外一种是在Body里面传入JSON(DSL语句)查询:
(1)如果我们要检索某个新入职员工信息,可以根据标识定位找到该员工信息,例如ID,或者人名:
Query_String:
HTTP:GET /deng/employee/1
Web界面:
HTTP:GET /deng/employee/_search?q=last_name:Fir (根据某个类型字段来定位该员工信息)
Web界面:
DSL语句:
HTTP:POST /deng/employee/_search
Body:
{ "query": { "match": { "last_name": "Fir" } } }
Web界面:
(2)如果我们要检索名称为Smith,且年龄大于30以上的新入职员工信息(过滤器filter):
DSL语句:
HTTP:POST /deng/employee/_search
Body:
{ "query": { "filtered": { "filter": { "range": { "age": { "gt": 30 } } }, "query": { "match": { "last_name": "smith" } } } } }
Web界面:
(3)如果我们想要查看某个新入职员工信息,但是我们忘记了他叫什么名字了,隐约只记得他好像说过喜欢rock climbing,那么我们可以使用全文检索,把about字段里面跟rock或者 climbing相关的员工信息都检索出来再进行筛选(全文检索match):
DSL语句:
HTTP:POST /deng/employee/_search
Body:
{ "query": { "match": { "about": "rock climbing" } } }
Web界面:
你们可以看到在使用了match关键字检索之后,会出现两个检索的结果,会按照结果相关性评分来排序,越接近搜索关键词的结果越靠前,评分也就就越高。
(4)同样道理,如果我们清楚记得某个入职员工说过他喜欢rock climbing,我们只想检索出跟about字段rock climbing关键词一致的新入职员工记录(短语检索match_phrase):
DSL语句:
HTTP:POST /deng/employee/_search
Body:
{ "query": { "match_phrase": { "about": "rock climbing" } } }
Web界面:
(5)当我们想要在检索员工记录中高亮关键词(高亮highlight):
DSL语句:
HTTP:POST /deng/employee/_search
Body:
{ "query": { "match_phrase": { "about": "rock climbing" } }, "highlight": { "fields": { "about": {} } } }
Web界面:
在上面截图我们可以看到about字段检索出内容关键词rock climbing分别都加了<em></em>HTML标签,这是高亮标识。
五.聚合
(1)Elasticsearch有一个功能叫做聚合(aggregations),它允许你在数据上生成复杂的分析统计。它跟我们在SQL中GROUP BY很相似,但是比它更加强大。比如我们想要在新入职员工当中统计每个员工的爱好(聚合aggregations):
HTTP:POST /deng/employee/_search
Body:
{ "aggs": { "all_interests": { "terms": { "field": "interests" } } } }
Web界面:
如上图可以看到,检索出来结果是喜欢music:2人,atrs:1人,forestry:1人,sports:1人。
(2)如果我们想知道所有叫smith员工的爱好分别是什么呢?请看下面例子:
HTTP:POST /deng/employee/_search
Body:
{ "query": { "match": { "last_name": "smith" } }, "aggs": { "all_interests": { "terms": { "field": "interests" } } } }
Web界面:
从上面检索结果,我们可以看出来所有叫smith的员工喜欢music:2人,sports:1人。
(3)聚合也允许分级汇总,例如我们要统计每个兴趣下员工平均年龄:
HTTP:POST /deng/employee/_search
Body:
{ "aggs": { "all_interests": { "terms": { "field": "interests" }, "aggs": { "avg_age": { "avg": { "field": "age" } } } } } }
Web界面:
很明显这个检索结果让我们能得到更多详情员工信息,即使你不了解语法,但你也能通过大概感觉通过这个特性完成相当复杂聚合工作。
六.分布式的特性
Elasticsearch致力于隐藏分布式系统的复杂性。以下这些操作都是在底层自动完成的:
(1)将你的文档分区到不同的容器或者分片(shards)中,它们可以存在于一个或多个节点中。
(2)将分片均匀的分配到各个节点,对索引和搜索做负载均衡。
(3)冗余每一个分片,防止硬件故障造成的数据丢失。
(4)将集群中任意一个节点上的请求路由到相应数据所在的节点。
(5)无论是增加节点,还是移除节点,分片都可以做到无缝的扩展和迁移。
通过上述案例,我相信大家对ES有了一个很基础的了解,这篇文章只是介绍ES入门,例如集群配置,索引管理,深入分片这些知识点,后续我们再来聊。
参考文档:
ElasticSearch入门 第一篇:Windows下安装ElasticSearch
标签:
版权申明:本站文章部分自网络,如有侵权,请联系:west999com@outlook.com
特别注意:本站所有转载文章言论不代表本站观点,本站所提供的摄影照片,插画,设计作品,如需使用,请与原作者联系,版权归原作者所有
上一篇:ABP之N层架构
下一篇:WebApi接口传参
- asp.net Cookie跨域、虚拟目录等设置方法 2020-03-09
- .NET中获取程序根目录的常用方法介绍 2019-12-13
- Asp.net实现IIS控制管理(Web虚拟目录的创建及管理) 2019-06-14
- ASP.NET Core开发者成长路线图 2019-04-20
- ASP.Net Core 2.2 MVC入门到基本使用系列 (二) 2019-01-21
IDC资讯: 主机资讯 注册资讯 托管资讯 vps资讯 网站建设
网站运营: 建站经验 策划盈利 搜索优化 网站推广 免费资源
网络编程: Asp.Net编程 Asp编程 Php编程 Xml编程 Access Mssql Mysql 其它
服务器技术: Web服务器 Ftp服务器 Mail服务器 Dns服务器 安全防护
软件技巧: 其它软件 Word Excel Powerpoint Ghost Vista QQ空间 QQ FlashGet 迅雷
网页制作: FrontPages Dreamweaver Javascript css photoshop fireworks Flash