[翻译]akka in action之akka-stream ( 4 生产者与消费者之间的调解 )

4 生产者与消费者之间的调解

下一个示例将涉及将事件广播到消费服务。到目前为止,我们已经将日志事件写入磁盘——一个含有所有事件的日志文件,以及警告、错误和关键错误的几个文件。

在日志流处理器的最终版本中, 事件将被发送到存档服务、通知服务和度量服务。

日志流处理器必须平衡供应和需求,以确保当其中一个服务应用回压时,这不会减慢日志事件的生产者。在下一节中,我们将讨论如何使用缓冲区来实现这一点。

集成服务
在本节的示例中, 我们希望所有服务都提供Sink。Akka-stream 有几个用于集成不提供Sources 或 Sinks的外部服务的选项。例如,mapAsync 方法带有一个Future,并会进一步向下游发出Future 的结果, 当你已经有一个使用Future的服务客户端代码时, 这可能会非常有用。
与其它Reactive Streams 实现可以使用Source.fromPublisher 和 Sink.fromSubscriber 进行集成,将任何 Reactive Streams Publisher 转换为Source以及任何Subscriber 转换为Sink。也可以使用ActorPublisher 和 ActorSubscriber 特质集成Actor,在某些具体的案例中会有用。
最好和最简单的选项是使用基于akka-stream库提供Source和Sink。

4.1 使用缓冲

让我们看看处理事件的图,现在它适配于将数据发送到三个服务Sink。


图1
图2

Broadcast添加到每个过滤流上。一个输出像先前写入到日志文件Sink,另一个用于向下游服务发送数据。(这里的期望是日志文件Sinks 非常快,所以它们没有缓冲。)MergePreferred 阶段将所有通知摘要合并到通知服务的Sink, 关键事件摘要比错误和警告摘要优先级高。关键事件摘要总是包含一个关键事件。

OK事件也使用广播进行拆分,并将它们发送到度量服务。

该图还展示了插入缓冲区的位置。缓冲区允许下游消费者在消费数据的速度上有所不同。但是当缓冲区满了,就必须做出决定。

Flow上的buffer方法需要两个参数:一个是缓冲大小和一个OverflowStrategy,这个策略决定了缓冲区即将溢出时会发生什么。OverflowStrategy 可以设置为dropHead, dropTail, dropBuffer, drop-New, backpressure, or fail之一,分别从缓冲中放弃第一个元素,缓冲中最后一个元素,整个缓冲,或者最新的元素了,或者当缓冲满的时候应用背压;或者让整个流失败。选择哪一个有赖于应用的需求和具体的案例什么最重要。

在这个例子中,已经做出决定,即使在高负载下,所有事件都必须存档,这意味着当不能将事件写入归档服务Sink时,日志流处理器流应该失败。生产者可以稍后再试。设置一个大的缓冲区,如果归档Sink在一段时间内缓慢响应,则进行缓冲。

下面的代码展示了如何在图中设置缓冲。

缓冲

如果通知服务Sink接收慢,则在高负载下可以丢弃最旧的警告。不能删除错误摘要。关键错误没有缓冲,所以默认情况下流会使用背压。

val bcast = builder.add(Broadcast[Event](5))
val wbcast = builder.add(Broadcast[Event](2))
val ebcast = builder.add(Broadcast[Event](2))
val cbcast = builder.add(Broadcast[Event](2))
val okcast = builder.add(Broadcast[Event](2))

val mergeNotify = builder.add(MergePreferred[Summary](2))
val archive = builder.add(jsFlow)

MergePreferred 始终有一个首选端口和多个次要端口, 在本例中为2个。

首先, 下面的代码展示了所有图形节点是如何连接的。

连接图形节点

在下一节中,我们将研究如何在流中以不同的速率处理元素。将使用一种特殊的流操作来分离流的一方与另一方的速率。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 216,142评论 6 498
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,298评论 3 392
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 162,068评论 0 351
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,081评论 1 291
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,099评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,071评论 1 295
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,990评论 3 417
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,832评论 0 273
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,274评论 1 310
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,488评论 2 331
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,649评论 1 347
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,378评论 5 343
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,979评论 3 325
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,625评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,796评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,643评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,545评论 2 352

推荐阅读更多精彩内容

  • Spring Cloud为开发人员提供了快速构建分布式系统中一些常见模式的工具(例如配置管理,服务发现,断路器,智...
    卡卡罗2017阅读 134,651评论 18 139
  • 1 基本流处理 让我们首先看看使用akka-stream处理流的真正含义。图1展示了在某个处理节点上,元素是一个个...
    乐言笔记阅读 2,651评论 1 1
  • Android 自定义View的各种姿势1 Activity的显示之ViewRootImpl详解 Activity...
    passiontim阅读 172,059评论 25 707
  • 人生如一场不知何时开始的旅途。不知道什么时候开始,也不知道哪天会结束。不知道中途会遇见谁,也不知道谁会离开,匆匆忙...
    第三个耳洞阅读 383评论 0 1
  • 突然觉得大学似乎真的很不错!接触了这么几个学长学姐,不得不说,心里会有自卑的心情,也有暗暗下誓的决定。总的来说,我...
    MellonyYang阅读 153评论 0 0