lucene segment的产生,flush, commit与es的refresh,flush

1 segment的产生

当索引一个文档时,如果存在空闲的segment(未被其他线程锁定),则取出空闲segment list中的最后一个segment(LIFO),并锁定,将文档索引至该segment,
找达到flush条件的segment,然后解锁,归还至空闲segment list,如果有达到flush条件的segment,flush该segment。
如果不存在,则创建新的segment,重复上述步骤。
总结1:如果并行的执行向一个索引,索引文档,则需要不同的segment。
相关代码:

//索引一个文档。
IndexWriter.updateDocument
//索引一个文档。
DocumentsWriter.updateDocument
//一个线程索引时锁定一个ThreadState对象,索引后归还至free list。
ThreadState
//ThreadState的属性,一个DocumentsWriterPerThread对应一个segment,flush后,该ThreadState的dwpt为null,
//下次使用该ThreadState,创建新的dwpt,新的segment。
DocumentsWriterPerThread

2 flush条件

索引一个文档后,找出是否有达到flush条件的segment。
1:如果maxBufferedDocs不等于-1,且当前segment在内存中的doc数量大于等于maxBufferedDocs(默认-1),则标记该segment的flushPending。
2:如果不满足1,且ramBufferSizeMB不等于-1,当内存中所有segment之和大于ramBufferSizeMB时(默认16.0),找出内存中最大的且未标记flushPending的segment,标记该segment的flushPending。
3:如果当前1,2之后,当前segment还未标记flushPending,则当前segment大于perThreadHardLimitMB(默认1945),标记该segment的flushPending。
123之后,如果当前segment被标记,则flush当前segment。否则从flushQueue中poll一个segment,如果flushQueue(调用flush时,将所有segment加入queue)为空,则遍历segment取第一个标记flushPending的segment进行flush。
相关代码:

//查找符合flush的segment。
DocumentsWriterFlushControl.doAfterDocument
//flush当前segment前,reset当前dwpt,下次使用当前ThreadState需要新的dwpt,新的segment。
DocumentsWriterFlushControl.internalTryCheckOutForFlush
//flush当前segment,或者其他segment。
DocumentsWriter.postUpdate

注意:除了达到flush条件的自动flush,还可以通过调用api flush,如:
1:es refresh
2:es flush
3:es syncedFlush

3 flush

flush将内存中的segment写到文件,但不执行fileChannel.force(nio,bio则fileOutputStream.flush),一部分数据可能在buffer中。
相关代码:

//flush一个segment。
DocumentsWriter.
DocumentsWriterPerThread.flush
DefaultIndexingChain.flush
//写nvd, nvm文件。
writeNorms
//写dvd, dvm文件。
writeDocValues
//写dii, dim文件。
writePoints
//写fdt, fdx文件(该文件在首次indexing时创建,flush时写入值)。
storedFieldsConsumer.flush
//写doc, pos, tim, tip文件。
termsHash.flush
//写fnm文件。
docWriter.codec.fieldInfosFormat().write
//写cfs, cfe, si文件。
DocumentsWriterPerThread.sealFlushedSegment
//删除cfs, cfe, si之外的文件。
IndexWriter.doAfterFlush

4 commit

commit执行fileChannel.force,将buffer中的数据写到磁盘。具体步骤为:
1:flush all segments 将内存中所有的segments写到文件。
2:依次sync pending_segments_n,segment files(fileChannel.force)将这写文件同步到磁盘。
3:将pending_segments_n重命名为segments_n,删除旧的segments_n-1。
4:如果步骤1 flush了segment,执行maybeMerge,如果达到merge条件,将会merge。
相关代码:

//commit。
IndexWriter.commit
IndexWriter.commitInternal
IndexWriter.prepareCommitInternal
//flush segments。
DocumentsWriter.flushAllThreads
//sync file。
IndexWriter.startCommit
Directory.sync
IOUtils.fsync
FileChannel.force
FileChannelImpl.force
//更新commit信息segments_n,删除旧的segments_n-1。
IndexWriter.finishCommit
//如果达到merge条件,将会merge。
IndexWriter.maybeMerge

5 maybeMerge

flush或者commit后,如果flush了segment,执行maybeMerge,如果达到merge条件,将执行merge。具体步骤为:
1:将segments按size降序排列。
2:计算total segments size 和 minimum segment size。
3:total segments size过滤掉tooBigSegment(大于max_merged_segment/2.0)的segment,并记录tooBigCount;minSegmentBytes如果小于floor_segment(默认2mb),取2mb。
4:计算allowedSegCountInt,当segments(不包含tooBigSegment)数量大于此数,将触发merge。
5:从大到小(之前的降序排列),贪心找出不大于maxMergeAtOnce个, 且size总和不大于maxMergedSegmentBytes个segments进行merge。
相关代码:

//maybeMerge。
IndexWriter.maybeMerge
IndexWriter.updatePendingMerges
//查找可merge的segments。
TieredMergePolicy.findMerges
//执行merge。
ConcurrentMergeScheduler.merge

6 es refresh

主要执行lucene的flushAllThreads和maybeMerge。
相关代码:

//es refresh。
InternalEngine.refresh
//lucene refresh。
ReferenceManager.maybeRefreshBlocking
DirectoryReader.openIfChanged
StandardDirectoryReader.doOpenIfChanged
IndexWriter.getReader
//flush segments。
DocumentsWriter.flushAllThreads
//如果flush了segment,则执行maybeMerge。
IndexWriter.maybeMerge

7 es flush

主要执行步骤为:
1:prepareCommit translog:
1.1 备份 translog.ckp到translog-1.ckp。
1.2 fsync translog-1.ckp以及translog 文件夹。
1.3 创建新的translog数据文件translog-n.tlog,更新translog.ckp(写入checkPoint)。
2:commit indexWriter(见4 commit)。
3:refresh(见6 es refresh)。
4:commit translog:删除备份的translog-1.ckp以及旧的translog数据文件translog-n-1.tlog。
相关代码:

//es flush。
InternalEngine.flush
//prepareCommit translog。
Translog.prepareCommit
//es commit index writer。
InternalEngine.commitIndexWriter
//lucene commit。
IndexWriter.commit
//es refresh。
InternalEngine.refresh
//commit translog。
Translog.commit

总结2:lucene的flush是指将内存中的segment,写到磁盘但不执行fileChannel.force,一部分数据会在buffer中;commit会调用force,将buffer中的数据写到磁盘。
es的refresh调用lucene的flush;flush调用lucene的commit。

参考:
elasticsearch5.6.12,lucene6.6.1 源码
https://www.outcoldman.com/en/archive/2017/07/13/elasticsearch-explaining-merge-settings/
http://blog.mikemccandless.com/2011/02/visualizing-lucenes-segment-merges.html

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 219,427评论 6 508
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 93,551评论 3 395
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 165,747评论 0 356
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,939评论 1 295
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,955评论 6 392
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,737评论 1 305
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,448评论 3 420
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 39,352评论 0 276
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,834评论 1 317
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,992评论 3 338
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 40,133评论 1 351
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,815评论 5 346
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,477评论 3 331
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 32,022评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 33,147评论 1 272
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 48,398评论 3 373
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 45,077评论 2 355

推荐阅读更多精彩内容