lucene索引文件格式-segment文件

SegmentInfos

segmentInfo对象的集合,其中包含用于与文件系统相关的段进行操作的方法。

索引中的活动段存储在段信息文件 segments_N中,索引中可能有一个或多个segments_N文件,但是具有最大值的那个是有效的段信息文件(当存在较旧的segments_N文件时,因为它们暂时无法删除,或者,writer正在提交,或者正在使用自定义 IndexDeletionPolicy)。此文件按名称列出每个段,并包含有关编解码器和删除的generation的详细信息。

还有一个segments.gen文件,该文件包含当前索引的generation(segments_N中的N)。这仅用作备用,以防单独的目录列表无法准确确定当前的generation(对于某些具有基于时间的目录缓存到期的NFS客户端的情况)。此文件简单地包含一个 Int32版本Header( FORMAT_SEGMENTS_GEN_CURRENT),接着的是以Int64格式写入两次的generation

文件:
  • segments.gen: GenHeader, Generation, Generation, Footer
  • segments_N: Header, Version, NameCounter, SegCount, <SegName, SegCodec, DelGen, DeletionCount, FieldInfosGen, DocValuesGen, UpdatesFiles>SegCount, CommitUserData, Footer
数据类型:
  • Header --> CodecHeader
  • GenHeader, NameCounter, SegCount, DeletionCount --> Int32
  • Generation, Version, DelGen, Checksum, FieldInfosGen, DocValuesGen --> Int64
  • SegName, SegCodec --> String
  • CommitUserData --> Map<String,String>
  • UpdatesFiles --> Map<Int32, Set<String>>
  • Footer --> CodecFooter
字段描述:
  • Version计数通过添加或删除文档来更改索引的频率.
  • NameCounter用于为新段文件生成名称
  • SegName是段的名称,并用作组成段索引的所有文件的文件名前缀。
  • DelGen是删除文件的generation计数。如果这是-1,则没有删除。大于零的任何值意味着存储了删除的LiveDocsFormat
  • DeletionCount记录此段中已删除文档的数量
  • SegCodec是编码此段的解码器的名称
  • CommitUserData存储用户提供的可选的不透明Map <String,String>传递给IndexWriter.setCommitData(java.util.Map).
  • FieldInfosGen是fieldInfos文件的generation计数。如果为-1,则该段中的fieldInfos没有更新,大于零的任何值意味着存储的fieldInfos都有更新
  • DocValuesGen是可更新DocValues的生成计数。如果为-1,则该段中的DocValues没有更新。大于零的任何意味着存储的DocValues都有更新
  • DocValuesGen是可更新DocValues的generation计数。如果为-1,则该段中的DocValues没有更新。大于零的任何意味着存储的DocValues都有更新
  • UpdatesFiles存储每个字段在该段中更新的文件集

Lucene40SegmentInfoFormat

文件:
  • .si: Header, SegVersion, SegSize, IsCompoundFile, Diagnostics, Attributes, Files
数据类型:
  • Header --> CodecHeader
  • SegSize --> Int32
  • SegVersion --> String
  • Files --> Set<String>
  • Diagnostics, Attributes --> Map<String,String>
  • IsCompoundFile --> Int8
字段描述:
  • SegVersion是创建的段的代码版本。
  • SegSize是段索引中包含的文档数
  • IsCompoundFile记录段是否写为复合文件。如果为-1,则该段不是复合文件。如果为1,则段是复合文件。
  • Checksum 包含segments_N文件中所有字节的CRC32校验和,这用于在打开索引时验证文件的完整性
  • Diagnostics Map由其IndexWriter创建的每个段作为调试辅助工具私密编写。它包括元数据,如当前的Lucene版本,操作系统,Java版本,创建段的原因(merge,flush,addIndexes)等。
  • Attributes:编解码器 - 私有属性的键值映射
  • Files 是此段引用的文件列表
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 212,222评论 6 493
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 90,455评论 3 385
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 157,720评论 0 348
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 56,568评论 1 284
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 65,696评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 49,879评论 1 290
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,028评论 3 409
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,773评论 0 268
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,220评论 1 303
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,550评论 2 327
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,697评论 1 341
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,360评论 4 332
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,002评论 3 315
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,782评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,010评论 1 266
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,433评论 2 360
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,587评论 2 350