rabbitMQ玩耍日记

rabbitMQ是个啥东东,想要玩的人自然已经有了初步了解。这里直接开始安装。安装环境为ubuntu 18.04。

  1. ubuntu自带rabbitMQ的包,直接apt安装即可。apt install rabbitmq-server。安装时会把rabbitmq和其依赖erlang一起安装。
  2. 默认情况下web管理界面是不会开启的,需要手动启动。rabbitmq-plugins enable rabbitmq_management
  3. 启动后默认端口为15672,默认用户guest/guest。登录进去后可以先创建自己的帐号,然后将默认帐号删除;也可以直接使用命令行进行操作:
    1. rabbitmqctl add_user small 123456 创建一个密码是123456的small用户
    2. rabbitmqctl set_user_tags small administrator 给此用户授管理员权限。
  4. 创建用户后需要给用户权限。根据情况给用户分配虚拟主机(virtual hosts),用户只能在对应虚拟主机进行操作。
  5. 分配权限后就可以愉快玩耍了。以下为最简单的demo,来自官方文档:
#生产者
import pika
connection = pika.BlockingConnection(pika.ConnectionParameters(credentials=pika.PlainCredentials('small','123456')))
channel = connection.channel()
channel.queue_declare(queue='test')
channel.basic_publish(exchange='', routing_key='test', body='hello world')
connection.close()
#消费者
import pika
connection = pika.BlockingConnection(pika.ConnectionParameters(credentials=pika.PlainCredentials('small','123456')))
channel = connection.channel()
channel.queue_declare(queue='test')
def callback(ch, method, properties, body):
    print(" [x] Received %r" % body)

channel.basic_consume(
    queue='test', on_message_callback=callback, auto_ack=True)

print(' [*] Waiting for messages. To exit press CTRL+C')
channel.start_consuming()

其他说明

  • rabbitMQ有虚拟主机(virtual hosts)、交换机(Exchanges)、绑定(binding)、通道(Channels)、连接(Connections)、队列(Queues)。
    • 虚拟主机为用户权限的最小单位,权限控制都是在虚拟主机这个层级进行控制的。
    • 交换机控制消息的分发情况,可以群发到所有队列去,或者用绑定(binding)绑定到指定队列。默认为单一绑定,指定routing_key将消息发到对应队列去。
    • 绑定为交换机的属性,告诉交换机怎么分发消息。
    • 连接为物理连接,一个tcp连接一个连接。
    • 通道为逻辑连接,一个物理连接可以有多个通道,即虚拟连接。不同线程/进程可以使用独立的通道,读写分离,更方便理解。
    • 队列为最终的消息数组,消费者从某个队列直接消费数据。
  • 默认消息是需要ack的,代表消息已经被处理完毕。上面例子中设置了auto_ack=True,所以不需要显性执行ack操作。正常而言,处理之后需要调用ch.basic_ack(delivery_tag=method.delivery_tag)来告诉rabbitMQ,这条消息已经被处理完毕。

多线程处理

pika是非多线程安全的!!!
所以如果想多线程处理消息,要么每个线程建立一个连接(Connections),要么使用python自带的queue来做缓冲。每个线程建立一个连接开销比较大,但是代码简单,在压力不大的情况下足够用了。使用内置队列,代码稍微复杂一点,但是性能更好。以下为内置队列的demo。

import pika,functools,queue
connection = pika.BlockingConnection(pika.ConnectionParameters(credentials=pika.PlainCredentials('small','123456')))
channel = connection.channel()
channel.queue_declare(queue='test')
class worker():
    q = queue.Queue(10)

    @staticmethod
    def work():
        while True:
            data = worker.q.get()
            body=data['body']
            # do something
            cutil.rabbit.add_callback_threadsafe(functools.partial(channel.basic_ack, data['tag']))

def rec(ch, method, properties, body):
    try:
        body = json.loads(body)
        worker.q.put({'body': body, 'tag': method.delivery_tag})
    except Exception as e:
        print('sender ???',end='')
        print(e,flush=True)

for x in range(10):
    threading.Thread(target=worker.work, daemon=True).start()
init()
channel.basic_consume(queue=RABBITC.SEND.value, on_message_callback=rec)
channel.start_consuming()

注意:在子线程不能直接调用channel.basic_ack,必须使用add_callback_threadsafe间接执行。更普遍的,在子线程不能直接调用channel的其他任何函数,都需要间接执行,add_callback_threadsafe会让channel在主线程执行对应函数。

心跳机制

在连接的时候,只要ConnectionParameters中的heartbeat不为0,rabbitMQ就会启用心跳机制,在超时没有数据且没有收到心跳包的情况下断开连接。
作为客户端(调用了start_consuming方法),pika在没有接收数据的时候,间隔一段时间会主动发送心跳包,维持连接。然而,作为服务端,pika没有事件时是不会发送心跳包的。这样会引起一个问题:当业务量很少,比如间隔几分钟才添加一条消息,pika却不会主动发心跳包。在中间等待数据的间隔,rabbitMQ会超时断开连接,pika再尝试添加消息时会出错。
解决方案有两种,一种是重连机制,发送失败就重新连接然后再发送。另外一种是手动发送心跳包,自己设置一个定时器,到时间了执行channel.queue_declare命令,pika就会正常发心跳包了。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 213,335评论 6 492
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 90,895评论 3 387
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 158,766评论 0 348
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 56,918评论 1 285
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,042评论 6 385
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,169评论 1 291
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,219评论 3 412
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,976评论 0 268
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,393评论 1 304
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,711评论 2 328
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,876评论 1 341
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,562评论 4 336
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,193评论 3 317
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,903评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,142评论 1 267
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,699评论 2 362
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,764评论 2 351

推荐阅读更多精彩内容