看不到服务器的年代,一个新的时代

冬瓜,把程序提交到集群上去哈

冬瓜的日记

冬瓜是一家互联网公司的程序员。他来公司几个月,已经做了好几个项目了。程序开发测试完,他要做的就是通过一个命令,把程序提交到集群上就完了。接着点击监控页面,会详细的展示这个程序的各种运行状态。他好久没见到服务器这个字眼了。

周一

他今天做的功能是,需要把一个产品的数据放进搜索系统,然后可以提供检索功能。于是他麻利的写了不到一百行代码,然后package下,指定需要占用的资源情况,通过一个提交命令把程序提交到了集群上。

在程序提交的那一刻,消息队列的数据被消费,然后经过他那一百行代码的处理,流入到搜索系统,就好像大脑的神经突触,建立了新的连接。客户很快就能通过搜索服务查询到新的产品的内容。

周二

产品的量非常大,好像昨天写的程序处理不过来了。于是冬瓜打开一个web页面,修改了下资源数,通过监控界面,很快冬瓜就发现数据处理稳定了,没有delay的数据了。

周三

冬瓜接了一个新的需求,需要提供一个数据查询接口,以http协议,JSon作为数据格式提供出去。冬瓜利用公司内部的开发框架,花了半天时间,完成了该功能。然后package一个tar.gz 包,打开集群页面,点击上传,接着指定资源数量,实例个数,然后通过指定的域名就访问到了自己开发的Web服务。

看不到服务器的年代

越来越多的程序员将会习惯上面的开发部署模式。服务上线,无非就是打个tar.gz包,指定我要的资源,如此而已。他们提供的程序,其实就是对数据进行转换,并且连接上众多已经存在的其他的服务,完成新的connection,就像大脑创建了新的突触,使得信息在新的链路上流通。更详细的抽象,参看我对平台架构的理解。他们不在知道底层还有服务器这么一个东西,有Linux操作系统,Unix操作系统。

这是个变革,就在前几年,我们还要不断的去折腾服务器,开发完应用代码只是万里长征的第一步,我们需要关心服务运行在哪些服务器上,这些服务器的健康状态,部署到哪些目录下,登录上服务器查看日志。这种模式已经慢慢淡出程序员的视野。

工业化的核心是两个:

  1. 高度细化的劳动分工
  2. 大量的资源提供

整个过程其实都是以效率至上的。工业化的思维影响着我们生活的方方面面。作为IT领域,也是无处不存在工业化思维的。未来的程序员可以真正只做到关心程序逻辑,按照标准结构开发即可。

服务平台将会是个什么样子

这个我在14年就一直在提及,也在实践。未来平台一切围绕弹性(Elastic)这个概念。弹性包含两部分:

  1. 大资源池(对应就是一个网格空间),你可以通过某种具体的技术,譬如Yarn的tag功能,划分一些小资源池,Everything is in a pool。在这些Pool组成的一个大Pool上会有很多 Estimator(应用运行平台,比如Storm,MR,Spark,Tomcat等)

  2. Adaptive Resource Allocation。 原先是想用Dynamic Resource Allocation 这个词,但是Adaptive 更合适些。所有的应用都有能力(平台赋予的能力)根据自身的负载情况自动调整资源的占用量。我们部署的服务(Transformer) 可以简单的通过一个指令运行在上面的 Estimator上,这些Estimator为你的Transformer提供了Adaptive Resource Allocation功能。

所有上面的应用都是基于Estimator开发的。而所有Estimator 都可以实现资源的自适应。有些Estimator ,比如spark应用平台已经实现。

对于存储类的,其实目前也已经成熟,现在Paas服务已经提供完整分布式的关系型存储,文件存储,Key-Value存储。他们都已经实现弹性。有的暂时无法统一整合到大资源池,但是有些已经可以了。典型的暂时无法整合的是MySQL,典型可以整合的是HBase。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 204,590评论 6 478
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 86,808评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 151,151评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,779评论 1 277
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,773评论 5 367
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,656评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,022评论 3 398
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,678评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 41,038评论 1 299
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,659评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,756评论 1 330
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,411评论 4 321
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,005评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,973评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,203评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,053评论 2 350
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,495评论 2 343

推荐阅读更多精彩内容

  • Spring Cloud为开发人员提供了快速构建分布式系统中一些常见模式的工具(例如配置管理,服务发现,断路器,智...
    卡卡罗2017阅读 134,596评论 18 139
  • 核心观点: 服务的本质是数据的流转与变换 数据的变换依赖于数据的流转,只有流转的数据才能够被变换。基于这个理念,我...
    祝威廉阅读 6,756评论 1 5
  • Android 自定义View的各种姿势1 Activity的显示之ViewRootImpl详解 Activity...
    passiontim阅读 171,442评论 25 707
  • 轮回道│(一)无风却起浪 轮回道│(二)浪尽现端倪 轮回道│(三)东窗事早发 轮回道|(四)鬼心难莫测 轮回道|(...
    飞鸟云青阅读 592评论 0 2
  • 深秋垓下,残阳嗜血 执剑醉舞 谁在月光下 与尔独酌 醉饮泼墨、最后吟诗 双眸凝望 站在人群,却又消失人海 黑白相间...
    文棠墨客阅读 171评论 0 0