DataLoader介绍

2017-8-30,大幅修改本文,加了图,简化了例子。

简介

Dataloader官方网址)是由facebook推出,能大幅降低数据库的访问频次,经常在Graphql场景中使用。

Dataloader机制

主要通过2个机制来降低数据库的访问频次:批处理缓存

批处理

自动批处理

在一个Nodejs任务执行单元中[1],如果多次调用同一类数据,为避免数据库访问,Dataloader可以使用传入的批量处理函数一次访问后台服务,具体例子如下:

import Sequelize from 'sequelize'
import DataLoader from 'dataloader'

// 定义表结构
const sequelize = new Sequelize('test', null, null, {
        dialect: 'sqlite',
    })
const UserModel = sequelize.define('user', {
    name: Sequelize.STRING
})
await sequelize.sync({force: true})

//插入测试数据
await [
    UserModel.create({name: 'ron'}),
    UserModel.create({name: 'john'}),
]

// 初始化DataLoader,传入一个批处理函数
const userLoader = new DataLoader(keys => UserModel.findAll({where: {name: {$in: keys}}})) 

// 以下2个Load语句会被自动批处理,合并成一次数据库的操作
await [
    userLoader.load('ron'),
    userLoader.load('john')
] 

以上代码就仅会产生以下一条数据库查询语句:
Executing (default): SELECT id, name, createdAt, updatedAt FROM users AS user WHERE user.name IN ('ron', 'john’);

缓存

load一次,DataLoader就会把数据缓存在内存,下一次再load时,就不会再去访问后台。

DataLoader缓存的是promise,而不是具体数据。则意味着:

let ron1, ron2
await ron1 = userLoader.load('ron')
await ron2 = userLoader.load('ron')
assert(ron1 !== ron2)  // true,这个容易理解

assert(userLoader.load('ron') === userLoader.load('ron'))  // 还是true,因为是缓存promise

DataLoader不能取代redis等应用级别的缓存,DataLoader只是一台服务器级别的内存缓存,是redis的补充。DataLoader缓存的典型应用是per-request范围的缓存,如下例子:

const app = express()
const loaderMiddleware = (req, res, next) => {
  req.loader = {
      users: new DataLoader(ids => UserModel.findAll({id: {$in: ids}}))
  }
}
app.get('/users/:id', loaderMiddleware  (req, res) => {
  req.loaer.users.load(req.params.id)
  //...
})

app.listen()

缓存机制默认是打开的,当然也可以在初始化DataLoader的时候配置缓存关闭,如下:
new DataLoader(ids => UserModel.findAll({id: {$in: ids}}), {cache: false})

当修改了数据后,我们可能需要清除缓存,以便于下一次获得更新过的数据,这时候我们可以这样做:userLoader.clear('ron')

实现原理

dataloader的实现原理是:把每一次load都推迟到Next Tick[2]后集中批处理运行。

具体的说就是:DataLoader把个Nodejs任务执行单元中[1]的多个load操作集中放到promiseJob queue中,并使用DataLoader初始化时传入的批量操作完成。

dataloader的代码非常少,总共是有300行,而且有大半的注释。

关于使用

dataloader并不像我先前想的是一个超级工具,其实它的使用场景有限,基本上只能优化loadById
dataloader的最佳使用场景是解决Graphql中的N+1查询问题,如下:

# 定义
type User {
  name: String,
  friends: [User]
}

#查询
{
  users {
    name
    friends {
      name
      friends {
        name
      }
    } 
  }
}

graphql支持嵌套查询,如果没有dataloader,就会出现严重的N+1查询性能问题,而通过使用dataloader,数据库的访问频次指数级别下降。我参与的最近一个项目,其中一个复杂页面,通过使用dataloader,数据库的访问次数从74降低到了10次。

javascript的运行机制简介

javascript运行机制中主要依靠:1个堆栈:call stack; 2个job queuepromiseJob queuescriptJob queue[3]

  • job:我的理解就是一个javascript函数
  • call stack:一个javascript函数在运行时会调用其它函数,这就引入了call stack,函数调用函数时就会推入堆栈,这也是我们经常说的同步调用。javascript会不间断的运行完所有call stack的内容;
  • promiseJob queue:当运行到promise时,javascript会把then中的函数放入该队列,当当前job运行完毕后(call stack中的代码运行完毕后),就会从该queue中取最早加入的job运行;Next Tick,也是把一个函数放到task queue中去,意思是到下一个Event Loop的时候运行
  • scriptJob queue:我的理解是javascript内置解释器

  1. 就是当前job的执行上下文

  2. 见本文的javascript的运行机制简介部分

  3. javascript 标准 中关于job queue的叙述

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 212,294评论 6 493
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 90,493评论 3 385
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 157,790评论 0 348
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 56,595评论 1 284
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 65,718评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 49,906评论 1 290
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,053评论 3 410
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,797评论 0 268
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,250评论 1 303
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,570评论 2 327
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,711评论 1 341
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,388评论 4 332
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,018评论 3 316
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,796评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,023评论 1 266
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,461评论 2 360
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,595评论 2 350

推荐阅读更多精彩内容

  • Android 自定义View的各种姿势1 Activity的显示之ViewRootImpl详解 Activity...
    passiontim阅读 171,825评论 25 707
  • Spring Cloud为开发人员提供了快速构建分布式系统中一些常见模式的工具(例如配置管理,服务发现,断路器,智...
    卡卡罗2017阅读 134,633评论 18 139
  • 在线阅读 http://interview.poetries.top[http://interview.poetr...
    程序员poetry阅读 114,315评论 24 450
  • 我想成熟真的不是一件轻而易举的事还是接受不了日日笑脸相对的人突然就形同陌路表面事事为我牵挂的人却在背后捅我刀子不过...
    如果七阅读 240评论 0 1
  • 我坐在牙医诊室门外,扪心想了下想到这课的心情,就是感觉自己要学的好多,感觉自己已经预想到时间不够用,感觉自己想起它...
    信时光阅读 228评论 0 0