Node-3

crypto 模块

crypto 模块提供了加密功能,实现了包括对 OpenSSL 的哈希、HMAC、加密、解密、签名、以及验证功能的一整套封装。

util 模块

utilnode 的一个核心模块,提供常用函数的集合

const { promisify } = require('util')

promisify 可以将一个满足 【最后一个形参是回调函数,该回调函数的第一个参数是错误信息error】的函数包装成 promise 异步函数,如fs.readFile

// download-git-repo 下载并解压一个 git 库(GitHub、GitLab、Bitbucket)
// ora 用于显示加载中的效果,类似前端页面的loading
const download = require('download-git-repo'), ora = require('ora')
const process = ora('下载项目...')
process.start()
// github:daybrush/moveable
download('github:daybrush/moveable', './download', err => {
    if(err) {
        process.fail()
    } else {
        process.succeed()
    }
})
// 改造 ==>
clone('github:daybrush/moveable', './download')
async function clone(repo, desc) {
    const { promisify } = require('util')
    const download = promisify(require('download-git-repo'))
    const ora = require('ora')
    const process = ora('下载项目...')
    process.start()
    try {
        await download(repo, desc)
        process.succeed()
    } catch (error) {
        process.fail()
    }
}

readline 模块

readlineNode的一个核心模块,通过命令行接口方式控制输入和输出;用于从可读流如process.stdin 读取数据,每次读取一行。

const readline = require('readline')
const rl = readline.createInterface({
    input: process.stdin,
    output: process.stdout
})
rl.on('line', input => {
    // input 是用户输入的内容
    if(input === 'quit') {
        // 关闭命令行交互
        rl.close()
    } else {
        console.log('input: ', input)
    }
})

rl.on('close', () => {
    // 收到关闭交互事件,则退出程序
    process.exit(0)
})

cluster 模块

单个 Node 实例运行在单个线程中,为了充分利用多核系统,需要启用一组 Node 进程去处理负载任务。
Node提供了 cluster 核心库,可以创建共享服务器端口的子进程,充分利用多核CPU

  • Node应用程序 - app.js
    const Koa = require('koa')
    const app = new Koa()
    //...
    if (!module.parent) {
       app.listen(3000)
    } else {
       module.exports = app
    }
    
  • cluster集群 - cluster.js
    const cluster = require('cluster')
    //查看CPU的数量
    const numCPUs = require('os').cpus().length
    if(cluster.isMaster) {  // 主进程
        // 启动子进程 --> 多核利用
        for(let i = 0; i < numCPUs; i++) {
            const worker = cluster.fork()
            // worker.id 进程的唯一编号,在 cluster.workers 中的索引
            // worker.process.pid 进程的PID
        }
        cluster.on('exit', worker => {
            // 退出一个,启动一个 --> 故障恢复
            const worker = cluster.fork()
        });
    
        // 当进程终止,会接收到一个信号,则杀死所有进程
        // process.on('SIGTERM', () => {
        //    for(let pid in workers) {
                // 根据进程PID杀死进程
        //        process.kill(pid)
        //    }
            // 退出主进程
        //    process.exit(0)
        //})
    } else {  // 工作进程
        const app = require('./app')
        app.use(async (ctx, next) => {
            console.log('当前 worker: ', cluster.worker.id)
            next()
        })
        app.listen(3000)
    }
    
    • cluster 创建的进程有两种,父(主)进程和子(工作)进程,父进程只有一个,子进程有多个,一般为了充分利用服务器资源,创建的子进程个数与CPU核数相等;
    • 每次执行 cluster.fork() 都会重新执行当前文件,不同的是 cluster.isMaster 的值为 false。为了充分利用多核资源,几核CPU就会启动几个进程,形成集群,高可用的Node环境!

cluster 的实现原理: cluster 其实是借助 child_process 模块的 fork() 来创建子进程的,通过 fork 方式创建的子进程与父进程之间建立了IPC通道,且支持双向通信,但子进程与子进程之间无法直接通信。

端口共享原理

cluster开启的工作进程(子进程)监听的都是 3000 端口,并不会冲突。其实是一种假象。
原理: 父(主)进程负责监听端口并接收请求,然后分发给子进程,由子进程负责处理。

子进程虽然调用了 listen() 方法试图监听端口,但在 net.js 源码中,listen()方法通过listenInCluster方法来区分父进程与子进程,子进程调用的listen()方法其实会发送给父进程queryServer message,父进程会检测是否创建了TCP Server,如果没有,则创建并绑定端口。并且,父进程会记录向自己发送消息的子进程,方便后续分发用户请求。

负载均衡的实现

负载均衡直接依赖 cluster 的请求调度策略,在v6.0版本之前,cluster的请求策略依赖于操作系统,理论上来说性能最好,但实际上在请求调度方面并不太均匀,可能出现 8 个子进程中只有 23 个处理了70%的连接请求。因此,v6.0版本中增加了cluster.SCHED_RR(round-robin),目前已成为默认的调度策略(windows环境除外)。

可以通过设置 NODE_CLUSTER_SCHED_POLICY 环境变量来修改调度策略

NODE_CLUSTER_SCHED_POLICY='rr'
NODE_CLUSTER_SCHED_POLICY='none'

亦或者设置clusterschedulingPolicy属性:

cluster.schedulingPolicy = cluster.SCHED_NONE
cluster.schedulingPolicy = cluster.SCHED_RR

Node 实现 round-robin

  1. Node内部维护两个队列:
    • free队列记录当前可用的worker
    • handles队列记录需要处理的TCP请求
  2. 当新请求到达时,父进程将请求暂存handles队列,从 free 队列中出队一个worker,进入worker处理(handoff)阶段,关键逻辑实现如下:
    RoundRobinHandle.prototype.distribute = function(err, handle) {
      this.handles.push(handle);
      const worker = this.free.shift();
      
      if (worker) {
        this.handoff(worker);
      }
    };
    
  3. worker处理阶段首先从 handles 队列出队一个请求,然后通过进程通信的方式通知子 worker 进行请求处理,当worker接收到通信消息后发送 ack 信息,继续响应handles队列中的请求任务,当worker无法接受请求时,父进程负责重新调度worker进行处理。关键逻辑如下:
    RoundRobinHandle.prototype.handoff = function(worker) {
        const handle = this.handles.shift();
        if (handle === undefined) {
            this.free.push(worker);  // Add to ready queue again.
            return;
        }
        const message = { act: 'newconn', key: this.key };
    
        sendHelper(worker.process, message, handle, (reply) => {
            if (reply.accepted)
                handle.close();
            else
                // Worker is shutting down. Send to another.
                this.distribute(0, handle);
    
            this.handoff(worker);
        });
    };
    
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 216,001评论 6 498
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,210评论 3 392
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 161,874评论 0 351
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,001评论 1 291
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,022评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,005评论 1 295
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,929评论 3 416
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,742评论 0 271
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,193评论 1 309
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,427评论 2 331
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,583评论 1 346
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,305评论 5 342
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,911评论 3 325
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,564评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,731评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,581评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,478评论 2 352

推荐阅读更多精彩内容

  • 文:正龙(沪江网校Web前端工程师) 本文原创,转载请注明作者及出处 之前的文章“走进Node.js之HTTP实现...
    iKcamp阅读 893评论 1 3
  • # 模块机制 node采用模块化结构,按照CommonJS规范定义和使用模块,模块与文件是一一对应关系,即加载一个...
    RichRand阅读 2,499评论 0 3
  • nodejs事件循环与多进程 why 事件循环对于深入理解nodejs异步至关重要fs, net,http,eve...
    强某某阅读 908评论 0 2
  • JavaScript运行在单个进程的单个线程上,它带来的好处是:程序的状态是单一的,在没有多线程的情况下没有锁、线...
    Upcccz阅读 955评论 0 1
  • node进程学习指北 1. 进程与线程 进程 进程(Process)是计算机中的程序关于某数据集合上的一次运行活动...
    调皮的绅士阅读 1,600评论 0 2