solr的collection,shard,replica,core概念
来源:互联网 发布:虚拟陀螺仪的软件 编辑:程序博客网 时间:2024/06/07 09:35
一.collection
Lucene是一个Java语言编写的利用倒排原理实现的文本检索类库。Solr是以Lucene为基础实现的文本检索应用服务。
SolrCloud是Solr4.0版本开发出的具有开创意义的基于Solr和Zookeeper的分布式搜索方案,或者可以说,SolrCloud是Solr的一种部署方式。Solr可以以多种方式部署,例如单机方式,多机Master-Slaver方式,这些方式部署的Solr不具有SolrCloud的特色功能。
特色
SolrCloud有几个特色功能:
集中式的配置信息
使用ZK进行集中配置。启动时可以指定把Solr的相关配置文件上传Zookeeper,多机器共用。这些ZK中的配置不会再拿到本地缓存,Solr直接读取ZK中的配置信息。配置文件的变动,所有机器都可以感知到。
另外,Solr的一些任务也是通过ZK作为媒介发布的。目的是为了容错。接收到任务,但在执行任务时崩溃的机器,在重启后,或者集群选出候选者时,可以再次执行这个未完成的任务。
自动容错
SolrCloud对索引分片,并对每个分片创建多个Replication。每个Replication都可以对外提供服务。一个Replication挂掉不会影响索引服务。
更强大的是,它还能自动的在其它机器上帮你把失败机器上的索引Replication重建并投入使用。
近实时搜索
立即推送式的replication(也支持慢推送)。可以在秒内检索到新加入索引。
查询时自动负载均衡
SolrCloud索引的多个Replication可以分布在多台机器上,均衡查询压力。如果查询压力大,可以通过扩展机器,增加Replication来减缓。
自动分发的索引和索引分片
发送文档到任何节点,它都会转发到正确节点。
事务日志
事务日志确保更新无丢失,即使文档没有索引到磁盘。
其它值得一提的功能有:
索引存储在HDFS上
索引的大小通常在G和几十G,上百G的很少,这样的功能或许很难实用。但是,如果你有上亿数据来建索引的话,也是可以考虑一下的。我觉得这个功能最大的好处或许就是和下面这个“通过MR批量创建索引”联合实用。
通过MR批量创建索引
有了这个功能,你还担心创建索引慢吗?
强大的RESTful API
通常你能想到的管理功能,都可以通过此API方式调用。这样写一些维护和管理脚本就方便多了。
优秀的管理界面
主要信息一目了然;可以清晰的以图形化方式看到SolrCloud的部署分布;当然还有不可或缺的Debug功能。
概念
Collection:在SolrCloud集群中逻辑意义上的完整的索引。它常常被划分为一个或多个Shard,它们使用相同的Config Set。如果Shard数超过一个,它就是分布式索引,SolrCloud让你通过Collection名称引用它,而不需要关心分布式检索时需要使用的和Shard相关参数。
Config Set: Solr Core提供服务必须的一组配置文件。每个config set有一个名字。最小需要包括solrconfig.xml (SolrConfigXml)和schema.xml (SchemaXml),除此之外,依据这两个文件的配置内容,可能还需要包含其它文件。它存储在Zookeeper中。Config sets可以重新上传或者使用upconfig命令更新,使用Solr的启动参数bootstrap_confdir指定可以初始化或更新它。
Core: 也就是Solr Core,一个Solr中包含一个或者多个Solr Core,每个Solr Core可以独立提供索引和查询功能,每个Solr Core对应一个索引或者Collection的Shard,Solr Core的提出是为了增加管理灵活性和共用资源。在SolrCloud中有个不同点是它使用的配置是在Zookeeper中的,传统的Solrcore的配置文件是在磁盘上的配置目录中。
Leader: 赢得选举的Shard replicas。每个Shard有多个Replicas,这几个Replicas需要选举来确定一个Leader。选举可以发生在任何时间,但是通常他们仅在某个Solr实例发生故障时才会触发。当索引documents时,SolrCloud会传递它们到此Shard对应的leader,leader再分发它们到全部Shard的replicas。
Replica: Shard的一个拷贝。每个Replica存在于Solr的一个Core中。一个命名为“test”的collection以numShards=1创建,并且指定replicationFactor设置为2,这会产生2个replicas,也就是对应会有2个Core,每个在不同的机器或者Solr实例。一个会被命名为test_shard1_replica1,另一个命名为test_shard1_replica2。它们中的一个会被选举为Leader。
Shard: Collection的逻辑分片。每个Shard被化成一个或者多个replicas,通过选举确定哪个是Leader。
Zookeeper: Zookeeper提供分布式锁功能,对SolrCloud是必须的。它处理Leader选举。Solr可以以内嵌的Zookeeper运行,但是建议用独立的,并且最好有3个以上的主机。
架构
- 索引(collection)的逻辑图
- 索引和Solr实体对照图
- 创建索引过程
- 检索过程
- Shard Splitting
- solr的collection,shard,replica,core概念
- solr的collection,shard,replica,core概念
- solr的collection,shard,replica,core概念
- solr学习(3.1)-collection,shard,replica,core概念
- (搜索引擎之solr)solr中replica collection core shard slice 概念阐述
- Solr术语介绍:SolrCloud,单机Solr,Collection,Shard,Replica,Core之间的关系
- solr4.0 replica collection core shard slice 概念
- solr4.0 replica collection core shard slice 概念阐述 .
- (一)solr4.0 solr4.0,solr4.2,solr4.3, replica collection core shard slice 概念阐述
- 创建solr集群的shard与collection
- MongoDB+shard+replica set
- SolrCloud同一shard的不同replica返回结果评分不一致
- 搜索引擎的分片(shard)和副本(replica)
- 搜索引擎的分片(shard)和副本(replica)机制
- 新版Solr中的core概念
- mongodb集群(Shard+Replica Sets)
- solr 在非集群模式下 core和collection是一样的
- solr no servers hosting shard 503 SolrCloud分布式检索时忽略宕机的Shard
- leetcode 第220题:Contains Duplicate III——数据结构与容器的合理选用
- 单调栈原理及应用 详解 附各种类型的题目练习
- 10、去掉页面底端滚动条
- 北京毕加索公司与湖南西文庙地产就长沙智慧滨江项目达成战略合作
- QT5 creator 5.5.1 乱码问题
- solr的collection,shard,replica,core概念
- 引用与指针的比较
- 深入理解插件系统
- Missing Marketing Icon. iOS Apps must include a 1024x1024px Marketing Icon in PNG format.
- java里面将OutputStream转化InputStream(struts 运用)
- Ajax发送网络请求包装
- SQL必知必会:检索数据
- BZOJ 2286: [Sdoi2011]消耗战
- Permission denied: user=hbase, access=WRITE, inode="/":hdfs:supergroup:drwxr-xr-x