Asyncdb(一):写一个纯函数式的Mysql异步驱动

之前的Akka系列博客接下去可能并不会经常更新了,但是后续看到一些好的点或者大家对哪些还是比较感兴趣还会继续写几篇,这里先跟大家说明一下。

背景

写一个纯函数式的Mysql异步驱动这个构思是公司的一个大佬提的,这将会是一个开源项目,我也很有幸能够参与其中,尝试写一个自己真正意义上的开源项目,其实很多人会有疑惑,为什么我们要做一个数据库驱动,就目前JVM生态上,已经有了比较成熟的产品,我们还能做出一个怎样的数据库驱动呢?

首先我们明确了一点,绝不做重复造轮子的事,做这个项目一定要有意义,即使未来可能实用性兼容性等方面不是很擅长,我们也要表达出新的设计理念,能给数据库驱动注入一股新的活力。

我们在确定这个项目的时候,也对目前JVM生态中的数据库驱动进行了一定的总结,仅供参考:

项目 mysql-async HikariCP + mysql-connector/j
编程模型 异步 同步
网络IO NIO BIO
链接池 异步实现 同步实现
过载防护 通过调节队列长度实现 需要额外实现 (例如指定线程池任务队列长度)
可伸缩性 只需要设置合理连接数(例如几十个) 需要测试最佳线程数和链接数
线程数

具体相关测试及说明可以看我们写的相关系列文章MySQL 异步驱动浅析 (一):性能分析

相信写过Java工程的同学都应该知道mysql-connector-java,但应该很多人对其的实现和相关架构设计应该不是很了解,正如我们上面对其相关功能测试,发现它的某些方面表现并不是很好,比如使用了BIO,请求时需要大量的线程等等。

相信你们也注意到了mysql-async,但是应该大多数人都不是很熟悉,它也是一个基于Netty,使用Scala编写的,完全异步的数据库驱动,同时支持PostgreSQL和MySQL,其项目地址postgresql-async

其实我们公司项目底层用的数据库驱动也是基于mysql-async的,不过因为实际使用中遇到了一些问题,,具体相关问题分析可以看我们写的相关系列文章MySQL 异步驱动浅析 (二):缺点分析

虽然我们使用的mysql-async内部版本对上述的许多问题都进行了修复,具体信息可以看我们写的相关系列文章MySQL 异步驱动浅析 (三):连接池改进方案,但是整个项目变得混乱,架构设计也不是很完美,所以我们最终决定自己实现一个纯函数式的Mysql异步驱动,我们叫它:asyncdb

目标

那么我们到底要做一个怎样的驱动呢?我们提了以下几个主要方面:

  • 1.构建于cats-effect(纯函数式的关键)
  • 2.合理的数据库包解析框架
  • 3.支持简单的流处理(可选)
  • 4.基于Java NIO2,绝不阻塞
  • 5.提供对应Java8的接口

总的来说,除了第一点大家可能比较陌生,其他几点大家都应该能大致了解,但是第一点才是我们这个项目最重要的一点,也是用来解决我们之前遇到问题的关键,后续我会写几篇文章对于这一点进行的相关介绍,如果有兴趣的同学可以自己了解一下:cats-effect

关注 Asyncdb

如果你对我们的项目也有兴趣,欢迎你们star我们的项目,项目地址:asyncdb,我们将会从头开始,你可以一步一步了解我们的架构设计和具体的实现方法,当然你有好的想法或者相关问题,也欢迎给我们提issue。

进阶学习

若是你对数据库驱动非常有兴趣,也想探究里面的奥秘,这里我提一些相应的建议:

  • 1.熟悉了解Java NIO,并熟练使用它
  • 2.学习MySQL数据库网络传输包协议
  • 3.掌握函数式语言中的Monad表达式,理解其的含义和使用场景
  • 4.学习Scala相关的函数库比如:cats,shapeless
  • 5.学习IO-Monad(cats-effect)

最后也希望大家能参与其中,帮助我们不断的完善它,共同成长!

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 220,699评论 6 513
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 94,124评论 3 395
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 167,127评论 0 358
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 59,342评论 1 294
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 68,356评论 6 397
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 52,057评论 1 308
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,654评论 3 420
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 39,572评论 0 276
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 46,095评论 1 318
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 38,205评论 3 339
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 40,343评论 1 352
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 36,015评论 5 347
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,704评论 3 332
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 32,196评论 0 23
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 33,320评论 1 271
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 48,690评论 3 375
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 45,348评论 2 358

推荐阅读更多精彩内容