STORM的三种事务

Spout和Bolt

Spout

[ITransactionalSpout][<T>],同****BaseTransactionalSpout****<T>****,普通事务****Spout
[IPartitionedTransactionalSpout<T>],同****BasePartitionedTransactionalSpout****<T>****,分区事务****Spout
[IOpaquePartitionedTransactionalSpout][<T>]:同****BaseOpaquePartitionedTransactionalSpout****<T>****,不透明分区事务****Spout

Bolt
[IBatchBolt][<T>]:同****BaseBatchBolt****<T>****,普通批处理
[BaseTransactionalBolt]:事务Bolt

接口****Icommitter****:标识IBatchBolt 或[BaseTransactionalBolt]是否是一个****committer****[CoordinatedBolt]
1、传统事务

[ITransactionalSpout][<T>]:普通事务Spout
— [ITransactionalSpout.Coordinator][<X>]
—initializeTransaction(BigInteger txid, XprevMetadata) :
创建一个新的metadata,当isReady 为true时,发射该metadata(事务tuple)到“batchemit”流
isReady :为true时启动新事务,需要时可以在此sleep
— [ITransactionalSpout.Emitter][<X>]
—[][emitBatch]([TransactionAttempt] tx,[X] coordinatorMeta, [BatchOutputCollector] collector) :逐个发射batch的tuple

2、分区事务

[IPartitionedTransactionalSpout<T>]:分区事务****Spout****,主流事务****Spout****,原因是目前主流****MessageQueue****都支持分区,分区的作用是增加****MQ****的吞吐量(每个分区作为一个数据源发送点),主流****MQ****如****Kafka****、****RocketMQ
** —****[][IPartitionedTransactionalSpout.Coordinator]**
** —****[][isReady]():同上 —[][numPartitions]**():返回分区个数。当增加了数据源新分区,同时一个事务被replayed,此时则不发射新分区的tuples,因为它知道该事务中有多少个分区。

[][IPartitionedTransactionalSpout.Emitter]<****[X]>[emitPartitionBatchNew]([TransactionAttempt] tx,[BatchOutputCollector] collector,int partition,[X] lastPartitionMeta):发射一个新的Batch,返回Metadata
[emitPartitionBatch]([TransactionAttempt] tx,[BatchOutputCollector] collector,int partition,[X] partitionMeta):如果这批消息Bolt消费失败了,emitPartitionBatch负责重发这批消息
3、不透明分区事务

IOpaquePartitionedTransactionalSpout****<T>****:不透明分区事务****Spout
** —****[IOpaquePartitionedTransactionalSpout.Coordinator]**
[isReady]():同上 —[IOpaquePartitionedTransactionalSpout.Emitter]<****[X]>
[emitPartitionBatch]([TransactionAttempt] tx,[BatchOutputCollector] collector,int partition,[X] lastPartitionMeta) — [numPartitions]()

它不区分发新消息还是重发旧消息,全部用emitPartitionBatch搞定。虽然emitPartitionBatch返回的X应该是下一批次供自己使用的(emitPartitionBatch的第4个参数),但是只有一个批次成功以后X才会更新到ZooKeeper中,如果失败重发,emitPartitionBatch读取的X还是旧的。所以这时候自定义的X不需要记录当前批次的开始位置和下一批次的开始位置两个值,只需要记录下一批次开始位置一个值即可,例如:
public class BatchMeta{ public long nextOffset; //下一批次的偏移量 }
4、分布事务和不透明分区事务Spout的区别与联系

IPartitionedTransactionalSpoutIOpaquePartitionedTransactionalSpout都是把tuple封装成batch进行处理,同时可以保证每一个tuple都被完整地处理,都支持消息重发。为了支持事务性,它们为每一个批次(batch)提供一个唯一的事务ID(transaction id:txid),txid是顺序递增的,而且保证对批次的处理是强有序的,即必须完整处理完txid=1才能再接着处理txid=2。

二者的区别以及用法:
IPartitionedTransactionalSpout的每一个tuple都会绑定在固定的批次中。无论一个tuple重发多少次,它都在同一个批次里面,都有同样的事务ID;一个tuple不会出现在两个以上的批次里。一个批次无论重发多少次,它也只有一个唯一且相同的事务ID,不会改变。这也就是说,一个批次无论重发多少次,它所包含的内容都是完全一致的。

但是IPartitionedTransactionalSpout会有一个问题,虽然这种问题非常罕见:假设一批消息在被bolt消费过程中失败了,需要spout重发,此时如果正巧遇到消息发送中间件故障,例如某一个分区不可读,spout为了保证重发时每一批次包含的tuple一致,它只能等待消息中间件恢复,也就是卡在那里无法再继续发送给bolt消息了,直至消息中间件恢复。IOpaquePartitionedTransactionalSpout可以解决这个问题。
而IOpaquePartitionedTransactionalSpout为了解决这个问题,它不保证每次重发一个批次的消息所包含的tuple完全一致。也就是说某个tuple可能第一次在txid=2的批次中出现,后面有可能在txid=5的批次中出现。这种情况只出现在当某一批次消息消费失败需要重发且恰巧消息中间件故障时。这时,IOpaquePartitionedTransactionalSpout不是等待消息中间件故障恢复,而是先读取可读的partition。例如txid=2的批次在消费过程中失败了,需要重发,恰巧消息中间件的16个分区有1个分区(partition=3)因为故障不可读了。这时候IOpaquePartitionedTransactionalSpout会先读另外的15个分区,完成txid=2这个批次的发送,这时候同样的批次其实包含的tuple已经少了。假设在txid=5时消息中间件的故障恢复了,那之前在txid=2且在分区partition=3的tuple会重新发送,包含在txid=5的批次中。
在使用IOpaquePartitionedTransactionalSpout时,因为tuple与txid的对应关系有可能改变,因此与业务计算结果同时保存一个txid就无法保证事务性了。这时候解决方案会稍微复杂一些,除了保存业务计算结果以外,还要保存两个元素:前一批次的业务计算结果以及本批次的事务ID。
如:
{value = 4,
prevValue = 1,
txid = 2
}


最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 215,133评论 6 497
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 91,682评论 3 390
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 160,784评论 0 350
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,508评论 1 288
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,603评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,607评论 1 293
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,604评论 3 415
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,359评论 0 270
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,805评论 1 307
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,121评论 2 330
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,280评论 1 344
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,959评论 5 339
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,588评论 3 322
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,206评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,442评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,193评论 2 367
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,144评论 2 352

推荐阅读更多精彩内容