Solr在HDFS上运行【翻译】

本人英文水平有限,翻译读起来磕磕巴巴,大概只能表述基本意思,希望大家谅解,如果有好的建议,也欢迎指正.

翻译原文地址:https://cwiki.apache.org/confluence/display/solr/Running+Solr+on+HDFS

Solr支持从HDFS分布式文件系统读写它的索引和事务日志文件。它并不是利用Hadoop的MapReduce去处理solr数据,而仅仅是用HDFS文件系统来进行索引和事务日志的存储。

利用HDFS替换本地存储系统,你必须用Hadoop2.x版本,且你需要设置Solr使用HdfsDirectoryFactory,另外还有些其他的额外参数需要定义,你可以通过三种方式来设置它们:

1、在启动的时候作为JVM的参数传递给bin/solr这个脚本,不过它需要你每次启动的时候都需要传递。

2、更改solr.in.sh(solr.in.cmd windows上)去自动传递JVM参数,而不用手动指定。

3、在solrconfig.xml中定义,这些配置每个索引都要重复定义,不过对于部分需要存储在HDFS的索引来说是个好的选项。

独立模式

对于独立的solr实例来说,在启动前,一些参数需要修改。可以在solrconfig.xml或者直接在启动的时候传递给bin/solr脚本。

l需要指定使用HdfsDirectory和hdfs格式的数据目录:hdfs://host:port/path

l需要指定hdfs格式的更新日志目录位置:hdfs://host:prot/path

l需要指定锁定factory为hdfs或者空。

如果你不想更改solrconfig.xml文件,你可以使用:

bin/solr start -Dsolr.directoryFactory=HdfsDirectoryFactory

-Dsolr.lock.type=hdfs

-Dsolr.data.dir=hdfs://host:port/path

-Dsolr.updatelog=hdfs://host:port/path

云模式

在云模式中,最好的方式是简单的指定solr.hdfs.home选项,由solr在创建索引时候,会在solr.hdfs.home指定的目录下自动创建数据和更新日志目录。

l设定solr.hdfs.home=hdfs://host:port/path

l设定锁定工厂为hdfs或者空.

bin/solr start -c -Dsolr.directoryFactory=HdfsDirectoryFactory

-Dsolr.lock.type=hdfs

-Dsolr.hdfs.home=hdfs://host:port/path

更改solr.in.sh(solr.in.cmd)文件

以上方式是通过启动solr时候,人工传递JVM参数来使用HDFS,这样在每次启动的时候都需要设置。在Solr启动的时候会去在bin目录下找solr.in.sh(solr.in.cmd在windows下)去设置环境变量。你可以在这个文件里设置好相关参数,不用每次启动时候输入。

如果solr云模式经常是在HDFS上运行的,可以如下设置:

# Set HDFS DirectoryFactory & Settings

-Dsolr.directoryFactory=HdfsDirectoryFactory \

-Dsolr.lock.type=hdfs \

-Dsolr.hdfs.home=hdfs://host:port/path \

块缓存

为了性能原因,HdfsDirectoryFactory用Directory进行缓存HDFS块。这个缓存机制取代了solr利用的的标准文件系统缓存。默认情况下,缓存是在堆外分配的。

这个缓存是相当大的,你需要提高solr的特定JVM堆外缓存的限制。在Oracle/OpenJDK JVM中,以下的命令行参数你可以用来提升限制:

-XX:MaxDirectMemorySize=20g

HdfsDirectoryFactory参数

HdfsDirectoryFactory有许多参数设置,被定义为directoryFactory的一部分。

Solr的HDFS设置


块缓存设置

近实时查询设置

HDFS的客户端配置设置

Kerberos认证设置

Hadoop可以配置使用Kerberos协议来确定用户身份,当用户访问类似HDFS等核心服务的时候,如果你的HDFS目录是用Kerberos来包婚的,你需要配置solr的HdfsDIrectoryFactory来使用Kerberos进行认证以便读写HDFS。

为此你需要设置下面参数:

Solr.confg中配置例子

如果使用kerberos,你需要添加kerberos的相关属性,如下:

Solr云模式下自动添加副本

将Solr运行在HDFS上有个好处,就是监工注意到一个shard有问题时候,有能力自动添加一个新的副本。因为当掉的索引shard是保存在HDFS上的,新的core

将被创建。

Collection利用autoAddReplicas=true在一个共享的文件系统创建时候,可以具有自动添加一个副本能力。可以重写配置在solr.xml中配置部分的默认值。

暂时为整个集群禁用自动添加副本功能

在离线维护集群和其他各种使用情况下,管理员想暂时禁止自动添加副本,下面的API将禁用和启用集群中所有collection的autoAddReplicas功能。

禁用自动添加集群副本功能,可以通过设置集群属性autoAddReplicas为false来得到:

http://localhost:8983/solr/admin/collections?action=CLUSTERPROP&name=autoAddReplicas&val=false

再次启用自动添加副本功能,当没有参数提供时候,集群属性是未设置的。

http://localhost:8983/solr/admin/collections?action=CLUSTERPROP&name=autoAddReplicas

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 217,509评论 6 504
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,806评论 3 394
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 163,875评论 0 354
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,441评论 1 293
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,488评论 6 392
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,365评论 1 302
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,190评论 3 418
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 39,062评论 0 276
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,500评论 1 314
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,706评论 3 335
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,834评论 1 347
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,559评论 5 345
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,167评论 3 328
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,779评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,912评论 1 269
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,958评论 2 370
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,779评论 2 354

推荐阅读更多精彩内容

  • Spring Cloud为开发人员提供了快速构建分布式系统中一些常见模式的工具(例如配置管理,服务发现,断路器,智...
    卡卡罗2017阅读 134,654评论 18 139
  • Spring Boot 参考指南 介绍 转载自:https://www.gitbook.com/book/qbgb...
    毛宇鹏阅读 46,810评论 6 342
  • kerberos 介绍 阅读本文之前建议先预读下面这篇博客kerberos认证原理---讲的非常细致,易懂 Ker...
    PunyGod阅读 20,033评论 7 29
  • 夜深, 月光沉醉四面院墙, 我和我的孤独不思念你,姑娘。 三尺微风是船上采荷的人, 迟钝的铺叙,游弋, 一尾鱼延展...
    樟叶阅读 202评论 0 1
  • 以前有一句话:人生这条路,你总得做完了你必须做的,才能做你想做的!我以前深信不疑这句话,但是,事实上,那些必须...
    Saltwater阅读 372评论 0 0