HBase是如何存储的

介绍

hbase是面向列族存储的分布式数据库,基于HDFS(本文基于hbase 1.3.x)。

假如在关系型数据库中有以下数据(第一行是字段名,RowKey字段对应的是主键):

RowKey Col1 Col2 Col3
com.cnn.www <html>… CNN John Doc
com.example.www <html>… John Doc

把它映射到HBase表里是怎么存储的呢?往下看。。。

hbase表的逻辑视图

getImage.png

图中的t5、t8等代表真实的时间戳,共有三个列族:contentsauthorpeople
rowkey相当于关系型数据库的主键,表内唯一标识一行记录;同一个rowkey对应的列默认会保存最近的3个版本(写入时的时间戳就是版本),且按时间倒序排列;查询的时候,对于一行下的列只会返回最新版本的数据,当然也可以在查询时指定要查的版本;

真实的数据更像(但不是)下面的json,字段值为空的是不会占用空间的:

{
  "com.cnn.www": {
    contents: {
      t6: contents:html: "<html>..."
      t5: contents:html: "<html>..."
      t3: contents:html: "<html>..."
    }
    anchor: {
      t9: anchor:cnnsi.com = "CNN"
      t8: anchor:my.look.ca = "CNN.com"
    }
    people: {}
  }
  "com.example.www": {
    contents: {
      t5: contents:html: "<html>..."
    }
    anchor: {}
    people: {
      t5: people:author: "John Doe"
    }
  }
}

rowkey是按照字典顺序排列的,因此可以通过设计rowkey进行遍历;
字典序对int排序的结果是1,10,100,11,12,13,14,15,16,17,18,19,2,20,21,…,要保持整形的自然序,rowkey必须用0作左填充。(怎么做到有序?见下文)

hbase表的物理视图

列族author

1.png

列族contents

2.png

再看一张更直观的图:


3.png
hbase物理存储结构:
Table                      (hbase表)
    Region                 (组成表的region)
        Store               (一个region里一个列族对应一个Store)
            MemStore     (每个Store里都有一个MemStore)
            StoreFile      (一个Store里会有多个StoreFile,在hdfs上叫HFile)
                Block       (一个StoreFile里有多个Block)

hbase是在hdfs上存储的,在hdfs上的真实存储目录结构:

/hbase
    /data
        /<Namespace>
            /<Table>
                /<Region>
                    /<ColumnFamily>
                        /<StoreFile>

一张hbase表最初只有一个region,如果表的数据量很少,那么很有可能所有的数据都在一个region里,随着数据量增大,单个region会逐渐分裂(超过某个阈值会触发split,有点类似于细胞分裂),由HMaster做负载均衡;一张表分成多个region,一个RegionServer上往往有多个Region,像下图这样:

4.png

hbase如何定位数据

Hbase的读操作大致分为两种:
1、通过rowkey get出一条;
2、通过scan操作来遍历(rowkey是有序的,所以遍历很高效)

那么给定一个rowkey如何快速查找到该条记录呢?
Hbase有个.meta.表,记录了每个region的startKeyendKey
结构如下:
Key:[table],[region start key],[region id]

Values:
info:regioninfo (serialized HRegionInfo instance for this region)
info:server (server:port of the RegionServer containing this region)
info:serverstartcode (start-time of the RegionServer process containing this region)

5.png

第一次查询时,先从zookeeper上拿到ROOT .META.(也就是.META.表的第一个region,这个region不会split)的位置,.META表的其他region记录了其他表的region的元数据,客户端把要访问的数据对应的region的位置信息和.META.表的位置缓存在本地;如果下一次要查询的rowkey不在这个region,则会重新查询.META.表,然后继续缓存region的位置信息,那么随着查询越来越多,客户端缓存的region的位置也就越来越多,所以这时候就几乎没必要查.META.表了,除非某region被移动;

6.png

MemStore Flush

Hbase写入数据时是先写到MemStore,当MemStore累积足够的数据时,整个有序的数据集合都会被写入(flush)到hdfs中一个新的HFile中,这个写入是顺序写入,效率高。如果这时候读取数据,hbase把查MemStore、HFile,并把两者进行合并(因为有些数据还没有flush到HFile)。

7.png

rowkey如何有序

8.png

hbase表的region会按照RowKey的字典顺序排列,因为region最初只有一个,startKey、endKey都是空的,随着数据量增大分裂为两个,一个只有endKey,另一个只有startKey,然后数据量增大会继续分裂,所以region之间是有序的;HFile内部的数据记录也是有序的,因为数据刚写入时是放在MemStore中,在MemStore保持有序,随后写入HFile中也是顺序写入的,随着HFile越来越多会有一个负责压缩的线程(关于压缩的更多细节不在本文介绍范围内)将一堆小的HFile压缩着仍然有序的大的HFile。

说了这么多废话,那么hbase到底是如何存储的呢?

Hbase的数据是放在HFile里的,上文说到HFile里有很多的Block,Block里又有很多KeyValue,KeyValue里有什么?
举个例子:假如进行两次PUT操作

Put #1: rowkey=row1, cf:attr1=value1
Put #2: rowkey=row1, cf:attr2=value2

Put #1产生的KeyValue如下:

rowlength -----------→ 4
row -----------------→ row1
columnfamilylength --→ 2
columnfamily --------→ cf
columnqualifier -----→ attr1
timestamp -----------→ timestamp
keytype -------------→ Put

Put #2产生的KeyValue如下:

rowlength -----------→ 4
row -----------------→ row1
columnfamilylength --→ 2
columnfamily --------→ cf
columnqualifier -----→ attr2
timestamp -----------→ timestamp
keytype -------------→ Put

具体HFile里除了Block还有其他内容,如下图:


9.png
m.png

hbase架构

Hbase整体有三个组件构成:
1、 HMaster节点:管理RegionServer,并负责负载均衡;管理和分配Region;接受增删改操作(不包含查);管理namespace和hbase表的元数据;
2、 HRegionServer节点:接受读操作;读写hdfs;region分裂(split)
3、 ZooKeeper集群:存放hbase集群的元数据;实现HMaster的故障转移、active选举;

11.png

从这张图可以看出namenode、HMaster都有从节点,通过zookeeper协调,regionserver往往也是datanode,减少读写hdfs的网络开销;

最后

由于本人水平有限,文中如有错误,欢迎指正。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 212,185评论 6 493
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 90,445评论 3 385
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 157,684评论 0 348
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 56,564评论 1 284
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 65,681评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 49,874评论 1 290
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,025评论 3 408
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,761评论 0 268
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,217评论 1 303
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,545评论 2 327
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,694评论 1 341
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,351评论 4 332
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,988评论 3 315
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,778评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,007评论 1 266
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,427评论 2 360
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,580评论 2 349

推荐阅读更多精彩内容

  • 参考:https://www.jianshu.com/p/569106a3008f 最近在逐步跟进Hbase的相关...
    博弈史密斯阅读 849评论 1 1
  • 比特科技: 存储、数据库、大数据技术 » HBase原理和设计 http://www.bitstech.net/...
    葡萄喃喃呓语阅读 725评论 0 11
  • 本文首先简单介绍了HBase,然后重点讲述了HBase的高并发和实时处理数据 、HBase数据模型、HBase物理...
    达微阅读 2,730评论 1 13
  • 简介 HBase —— Hadoop Database的简称,Google BigTable的另一种开源实现方式,...
    编码前线阅读 276评论 0 0
  • 简介 HBase —— Hadoop Database的简称,Google BigTable的另一种开源实现方式,...
    尼小摩阅读 528评论 0 3