Hbase知识要点

hbase是列式数据库,rowkey是字典序的。每个列族是一个文件,将经常一起查询的列放到同一个列族中,减少文件的寻址时间。

数据模型:

数据模型1


数据模型2

rowkey:是Byte array,是表中每条记录的“主键”,方便快速查找,rowkey的设计很重要

column family:列族,拥有一个名称(string),包含一个或者多个相关列

column:属于一个column family,column name的每条记录可以动态添加

version number:类型为Long,默认值是系统时间戳,可由用户定义

value:Byte array

rows是包括所有,column families是除rowkey之外的

versions(版本):是指timestamp 版本号控制保存的时间戳的条数。

TTL:(Time To Live ) 生存时间,指定数据包被路由器丢弃之前允许通过的网段数量。

物理模型:

Hbase一张表由一个或者多个region组成,记录按照rowkey字典排序 。region按照大小分割的,每一个表一开始只有一个region,随着数据不断插入,region不断增大,当增大到某个阈值的时候,region会等分分裂成新的Hregion,当table中的行数越来越多,region也会越来越多。

表->Htable

按rowkey范围分的region->Hregion->region servers 

Hregion按列族(column family)->多个Hstore

Hstore->memstore->Hflies(均为有序的kv)

Hfiles->HDFS

组件架构:

client:访问Hbase的接口,并维护cache(元数据信息)加速region server的访问

master:负载均衡,分配region到region server

region server:维护region,负责region的IO请求

zookeeper:保证集群只有一个master;存储所有region的入口(root)地址;实时监控region server的上下线信息,并通知master。

client从zookeeper获得源数据信息(region的地址)


整体架构

Hbase写入数据过程:client(spark、hive等)通过zookeeper让master找到相关Hregion所在的Hregion server,把数据传输到该server,该server会先WAL入Hlog,然后把数据写入memstore,memstore会把接受成功信息反馈给client,然后memstore把数据写入缓存storefiles,storefiles下面有大量Hfile,最后通过HDFSclient写入HDFS。

menstore的大小和HDFS的broker大小一致,默认64M。

Hbase的容错

Hbase的容错借助于zookeeper完成,主要方式是https://www.jianshu.com/p/da6b121deda8。

Hbase会在zookeeper中存储以下信息:

-/hbase/root-region-server,  Root region的位置

-/hbase/table/-ROOT-,根元数据信息

-/hbase/table/hbase:meta,元数据信息

-/hbase/master,当选的master

-/hbase/backup-masters,备选master

-/hbase/rs,region server信息

-/hbase/unassigned,未分配的信息

master容错:zookeeper重新选一个master,无master过程中数据照常读取,但是region切分、负载均衡无法进行;

region server容错:定时向zookeeper汇报心跳,如果一定时间内未出现心跳,master将该regionserver上的region重新分配到其他regionserver上,失效服务器上“预写”日志由主服务器进行分割并派送给新的regionserver

zookeeper容错:一般会配置3-5个实例,比较靠谱

WAL(预写日志)是Hbase的regionserver在处理数据插入和删除过程中来记录操作内容的一种日志,在每次put、delete等一条记录时,会先写入到regionserver对应的Hlog文件的过程。

Hbase的compaction和split

随着写入不断增加,flush次数不断增多,Hfile文件越来越多,所以Hbase需要对这些文件进行合并。compaction会从一个region的一个store中选择一些Hfile文件进行合并。合并的原理很简单,先从这些待合并的数据文件中读出keyvalues,再按照由小到大排列后写入一个新的文件中。这个新文件会取代原先未合并的所有文件并提供服务。

minor compaction是指选取一些小的、相邻的storefile将它们合并为一个更大的storefile,在这个过程不会处理已经deleted和expired的cell,一次minor compaction的结果是更少的并且更大的storefile。

major compaction是指将所有的storefile合并成一个storefile,这个过程会清理三类无意义的数据:被删除的数据、TTL过期数据、版本号超过设定的数据。major compaction持续时间比较长,整个过程会消耗大量的系统资源,对上层业务有比较大的影响,因此线上业务会关闭自动触发major compaction功能,改为手动在业务低峰期触发。

compaction的本质是使用短时间的IO消耗以及带宽消耗换取后续查询的低延迟。compact的速度跟不上Hfile生成的速度,这样会使Hfile的数量越来越多,导致读取性能降低,为避免这种情况,在Hfile的数量过多的时候会限制写请求的速度。

split:当一个region太大时,将其分裂成多个region。

major compaction和split可以手动做

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 213,864评论 6 494
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 91,175评论 3 387
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 159,401评论 0 349
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,170评论 1 286
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,276评论 6 385
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,364评论 1 292
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,401评论 3 412
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,179评论 0 269
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,604评论 1 306
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,902评论 2 328
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,070评论 1 341
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,751评论 4 337
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,380评论 3 319
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,077评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,312评论 1 267
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,924评论 2 365
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,957评论 2 351

推荐阅读更多精彩内容

  • 参考:https://www.jianshu.com/p/569106a3008f 最近在逐步跟进Hbase的相关...
    博弈史密斯阅读 850评论 1 1
  • 最近在逐步跟进Hbase的相关工作,由于之前对Hbase并不怎么了解,因此系统地学习了下Hbase,为了加深对Hb...
    飞鸿无痕阅读 50,209评论 19 272
  • 一、简介 Hbase:全名Hadoop DataBase,是一种开源的,可伸缩的,严格一致性(并非最终一致性)的分...
    菜鸟小玄阅读 2,375评论 0 12
  • 本文首先简单介绍了HBase,然后重点讲述了HBase的高并发和实时处理数据 、HBase数据模型、HBase物理...
    达微阅读 2,730评论 1 13
  • Hbase架构与原理 HBase是一个分布式的、面向列的开源数据库,该技术来源于 Fay Chang所撰写的Goo...
    全能程序猿阅读 86,290评论 2 37