Flask-socketio输出延迟问题解决方案

SocketIO是一个基于websocket的封装的传输框架。在大多数对数据量要求不高的场景里,可以用于快速搭建实时数据流。SocketIO最大的优点应该是它对数据可以进行json封装,因而减去了传统socket通信中的拆包粘包的工序。

Flask-SocketIO允许在Flask的框架下直接构建SOcketIO服务,实现方式非常简单. 这里是一个基本的消息接收应答的例子


from flask import Flask, request, make_response, jsonify, session
from flask_cors import CORS
from flask_socketio import SocketIO

'''=============================='''
'''flask web server config'''
'''=============================='''
app = Flask(__name__, static_url_path='')
app.config['SECRET_KEY'] = 'secret!'
cors = CORS(app,resources={r"/*":{"origins":"*"}})  #  Restful使用跨域CORS访问时通过CORS进行支持
sio = SocketIO(app)

'''websocket应答消息'''
@sio.on('message', namespace='/ws')
def ws_message(data):
   ask = {'result':'OK'}
    sio.emit('message_back', json.dumps(ack), namespace='/ws')

'''restful访问,返回json'''
@app.route('/api', methods=['GET'])
def api_message():
  resp = make_response(jsonify({'result':'OK'})
  return resp

def main():
  pass

if __name__ == '__main__':
    main()
    sio.run(app, port=8092, host='0.0.0.0', use_reloader=False, debug=False)
    while True:
        time.sleep(10) #  防止程序退出

在简单的应用中,app和websocket可以同时共存。当服务器处于并发模式的时候,例如服务器通过多个线程向socketio emit消息的时候,如果简单采用如下的方式:

import threading
thread_send_msg = threading.Thread(task_send_msg)
thread_send_msg.start()

def task_send_msg():
  while True:
    time.sleep(1)
    msg 
    sio.emit('message', json.dumps(msg), namespace='/ws')

你会发现,socketio的发送间隔会出现模型的延迟,而且间隔也会变得不是每秒发送一次。

那么可否采用multiprocessing?

import multiprocessing
proc_send_msg = multiprocessing.Process(task_send_msg)
proc_send_msg.start()

def task_send_msg():
  while True:
    time.sleep(1)
    msg 
    sio.emit('message', json.dumps(msg), namespace='/ws')

测试的结果仍然会出现问题,甚至会出现flask服务完全不响应。

所以问题是什么?

查阅documentation和面向stackoverflow编程之后,发现原因在于,socketio内部采用的是协程任务调度,这样如果把emit的行为放置在线程或着进程内时,并没有解决并发emit的冲突问题。我们需要回归到coroutine的调度模式本身。在这里,采用了gevent,也可以根据自己的需求使用eventlet或者其他的模块。gevent并发模式也比较简单:

task_1():
  gevent.sleep(1)
  print 'running task 1'
task_2():
  gevent.sleep(1)
  print 'running task 2'

gevent.addall([
  gevent.spawn(task_1),
  gevent.spawn(task_2)
])

上述的操作就是在gevent内孵化(spawn)两个协程,然后每个协程每一秒通过gevent.sleep()让出gvent供其他的协程使用。通过这个模式,我们将emit并发事件修改为这样:


socketio_msg_queue = Queue(maxsize=5000)
def gtask_sockeio_emit():
    while True:
        gevent.sleep(0.01)
        try:
            msg = socketio_msg_queue.get_nowait()
        except:
            continue

        print msg
        sio.emit(msg['on'], json.dumps(msg['data']), namespace='/ws/rt_market')

gevent.addAll([
  gtask_socketio_emit
])

这段代码中,我们进一步使用了一个队列将各个线程可能产生的emit事件推送到一个队列之中,然后在一个统一的协程内进行发送。

那么问题解决了么?还没有。。。

当把emit放入协程之后我们又发现,flask框架不响应了。

最大的可能就是gevent本身抢占了进程的资源,导致restful没法响应。

第一个想到的方法是把flask放入单独一个进程,例如这样:

def task_start_flask():
    'start the rest and ws server'
    sio.run(app, port=80, host='0.0.0.0', use_reloader=False, debug=False)

 proc_flask = multiprocessing.Process(target=task_start_flask)
 proc_flask.start()

结果两边都无法访问了。

分析之后,猜测可能是因为socketio建立需要通过web请求,因此flask在哪里启动,所有的socketio通信就会堆积在哪里,分开启动并不能解决问题。所以,第二次,我们把所有的内容都放在gevent里统一调度:


    gevent.joinall([
        gevent.spawn(gtask_sockeio_emit),
        gevent.spawn(task_start_flask),
    ])

至此问题解决。

后记:SocketIO从协议本身上看效率并不高,如果需要更高效率,最好还是采用原生websocket。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 203,456评论 5 477
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,370评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 150,337评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,583评论 1 273
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,596评论 5 365
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,572评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,936评论 3 395
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,595评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,850评论 1 297
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,601评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,685评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,371评论 4 318
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,951评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,934评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,167评论 1 259
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 43,636评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,411评论 2 342

推荐阅读更多精彩内容