JuAPI网关性能测试

聚合数据打造的最新API管理工具JuAPI刚刚上线啦!作为系统开发者,我们怀着激动的心情做了一个性能对比测试,检验一下我们的产品有没有做到承诺的更简单,更自由,特别是更快

测试是在阿里云上的三台2CPU+4G内存的计算型ECS虚拟机进行的(实例类型:ecs.c7.large),运行Ubuntu20.04系统,其中一台作为Nginx流量挡板,一台运行ab,一台运行API网关。计划测试的API网关包括:

hyperapi

Kong

goku

APISIX

测试的只是一个最简单的请求转发场景,访问网关上游的nginx上的一个静态页面,所有网关都配置为apikey的认证方式,并启用各自的RateLimit插件。

废话少说先上个结果吧:

测试中各个网关的具体配置和运行的测试命令参见项目文档的Benchmark部分

Baseline

首先使用ab测试了一下nginx返回一个静态页面的性能作为测试基准,在100并发50万次请求下,Nginx服务器的CPU在90%以上,得到的数字是QPS:38756.59

hyperapi

hyperapi是JuAPI的网关在github上的名字,是一个开源的,基于rust语言,tokio异步框架和hyper库开发的一个API网关。

在这个测试中通过手写的静态配置文件来启动网关服务,在200并发50万次请求的测试运行中,hyperapi进程CPU占用率接近100%,后端nginx进程CPU使用率大约20%,最后的QPS为10164,没有请求出错,99%请求延迟<26ms。

Kong

Kong是一个挺知名的开源API网关产品了,基于nginx和lua开发,产品分为企业版和社区版,官方还提供了各种系统包管理工具的支持,这里就是使用ubuntu的apt-get安装了Kong。

Kong的网关配置支持RESTful接口和配置文件的方式,这里为了简化配置,没有安装数据库和管理系统,也是通过手写配置文件来启动的Kong网关。

在200并发50万次请求的测试运行中,Kong的进程CPU占用率接近100%,后端nginx进程CPU使用率大约20%,最后的QPS为9598,没有请求出错,99%请求延迟<68ms。

Kong作为一个老牌开源网关项目,文档质量在对比的几个产品中是最好的,是我们要学习的榜样。

Goku

Goku是eolinker的API网关软件,使用Go语言开发,产品分为社区版和企业版。但这里想要测试的Goku社区版的文档严重缺失,尽管通过docker顺利安装了控制台和网关节点,但在使用中卡在了Strategy鉴权设置的Authentication-Type上,未能完成测试,可能eolinker不太希望用户使用社区版吧。参考Goku网站上对比Kong的测试结果,估计和Kong是同等级的性能水平。

APISIX

作为新晋成为Apache顶级项目的APISIX,其官网上的测试数据让我十分惊叹,单核就能支撑14000+的QPS,同样是基于Nginx和Lua的API网关产品,Kong在同样的测试环境下在不启用插件的情况下性能水平和APISIX十分接近,但在启用了limit rate + prometheus两个插件后,性能骤降至2500QPS左右,或许是请求数据需要在nginx和lua虚拟机之间传递的代价比较大吧。

这里是按照APISIX手册中的指引,使用docker安装了APISIX的网关和Dashboard,在Dashboard中配置了一个服务,开启了apikey认证和limit-req插件,在同样的硬件条件下,并没有表现出对比Kong的巨大优势:在200并发50万次请求的测试运行中,APISIX的进程CPU占用率接近100%,后端nginx进程CPU使用率大约20%,最后的QPS为9385,没有请求出错,99%请求延迟<46ms。

总结

凭借Rust语言的高性能,和tokio框架优秀的异步计算实现,hyperapi在没有特别的性能调优的情况下性能表现已经可以跻身API网关产品的第一梯队啦。当然也可能是因为项目比较年轻,功能过于精简,在后面的产品功能迭代中还持续关注对性能的影响。

P.S. 测试使用的是阿里云ECS的抢占式实例,启用外网IP按流量付费,半天的测试下来总成本2块钱 😃

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 222,000评论 6 515
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 94,745评论 3 399
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 168,561评论 0 360
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 59,782评论 1 298
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 68,798评论 6 397
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 52,394评论 1 310
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,952评论 3 421
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 39,852评论 0 276
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 46,409评论 1 318
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 38,483评论 3 341
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 40,615评论 1 352
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 36,303评论 5 350
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,979评论 3 334
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 32,470评论 0 24
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 33,571评论 1 272
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 49,041评论 3 377
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 45,630评论 2 359

推荐阅读更多精彩内容