概念
什么叫消息隊列
消息(Message)是指在應用間傳送的數(shù)據。消息可以非常簡單,比如只包含文本字符串,也可以更復雜,可能包含嵌入對象。
消息隊列(Message Queue)是一種應用間的通信方式,消息發(fā)送后可以立即返回,由消息系統(tǒng)來確保消息的可靠傳遞。消息發(fā)布者只管把消息發(fā)布到 MQ 中而不用管誰來取,消息使用者只管從 MQ 中取消息而不管是誰發(fā)布的。這樣發(fā)布者和使用者都不用知道對方的存在。
為何用消息隊列
從上面的描述中可以看出消息隊列是一種應用間的異步協(xié)作機制,那什么時候需要使用 MQ 呢?
以常見的訂單系統(tǒng)為例,用戶點擊【下單】按鈕之后的業(yè)務邏輯可能包括:扣減庫存、生成相應單據、發(fā)紅包、發(fā)短信通知。在業(yè)務發(fā)展初期這些邏輯可能放在一起同步執(zhí)行,隨著業(yè)務的發(fā)展訂單量增長,需要提升系統(tǒng)服務的性能,這時可以將一些不需要立即生效的操作拆分出來異步執(zhí)行,比如發(fā)放紅包、發(fā)短信通知等。這種場景下就可以用 MQ ,在下單的主流程(比如扣減庫存、生成相應單據)完成之后發(fā)送一條消息到 MQ 讓主流程快速完結,而由另外的單獨線程拉取MQ的消息(或者由 MQ 推送消息),當發(fā)現(xiàn) MQ 中有發(fā)紅包或發(fā)短信之類的消息時,執(zhí)行相應的業(yè)務邏輯。
RabbitMQ
RabbitMQ 是一個由 Erlang 語言開發(fā)的 AMQP 的開源實現(xiàn)。
rabbitMQ是一款基于AMQP協(xié)議的消息中間件,它能夠在應用之間提供可靠的消息傳輸。在易用性,擴展性,高可用性上表現(xiàn)優(yōu)秀。使用消息中間件利于應用之間的解耦,生產者(客戶端)無需知道消費者(服務端)的存在。而且兩端可以使用不同的語言編寫,大大提供了靈活性。
示例
生產者:
# ######################### 生產者 #########################
#!/usr/bin/env python
import pika
connection = pika.BlockingConnection(pika.ConnectionParameters( host='localhost'))
channel = connection.channel()
channel.queue_declare(queue='hello')
channel.basic_publish(exchange='',
routing_key='hello',
body='Hello World!')
print(" [x] Sent 'Hello World!'")
connection.close()
消費者:
# ########################## 消費者 ##########################
connection = pika.BlockingConnection(pika.ConnectionParameters(host='localhost'))
channel = connection.channel()
channel.queue_declare(queue='hello')
def callback(ch, method, properties, body):
print(" [x] Received %r" % body)
channel.basic_consume( callback,
queue='hello',
no_ack=True)
print(' [*] Waiting for messages. To exit press CTRL+C')
channel.start_consuming()
基于RabbitMQ的RPC
客戶端發(fā)送請求:某個應用將請求信息交給客戶端,然后客戶端發(fā)送RPC請求,在發(fā)送RPC請求到RPC請求隊列時,客戶端至少發(fā)送帶有reply_to以及correlation_id兩個屬性的信息
服務器端工作流: 等待接受客戶端發(fā)來RPC請求,當請求出現(xiàn)的時候,服務器從RPC請求隊列中取出請求,然后處理后,將響應發(fā)送到reply_to指定的回調隊列中
客戶端接受處理結果: 客戶端等待回調隊列中出現(xiàn)響應,當響應出現(xiàn)時,它會根據響應中correlation_id字段的值,將其返回給對應的應用
服務端
#!/usr/bin/env python
import pika
# 建立連接,服務器地址為localhost,可指定ip地址
connection = pika.BlockingConnection(pika.ConnectionParameters(
host='localhost'))
# 建立會話
channel = connection.channel()
# 聲明RPC請求隊列
channel.queue_declare(queue='rpc_queue')
# 數(shù)據處理方法
def fib(n):
if n == 0:
return 0
elif n == 1:
return 1
else:
return fib(n-1) + fib(n-2)
# 對RPC請求隊列中的請求進行處理
def on_request(ch, method, props, body):
n = int(body)
print(" [.] fib(%s)" % n)
# 調用數(shù)據處理方法
response = fib(n)
# 將處理結果(響應)發(fā)送到回調隊列
ch.basic_publish(exchange='',
routing_key=props.reply_to,
properties=pika.BasicProperties(correlation_id = \
props.correlation_id),
body=str(response))
ch.basic_ack(delivery_tag = method.delivery_tag)
# 負載均衡,同一時刻發(fā)送給該服務器的請求不超過一個
channel.basic_qos(prefetch_count=1)
channel.basic_consume(on_request, queue='rpc_queue')
print(" [x] Awaiting RPC requests")
channel.start_consuming()
客戶端
#!/usr/bin/env python
import pika
import uuid
class FibonacciRpcClient(object):
def __init__(self):
”“”
客戶端啟動時,創(chuàng)建回調隊列,會開啟會話用于發(fā)送RPC請求以及接受響應
“”“
# 建立連接,指定服務器的ip地址
self.connection = pika.BlockingConnection(pika.ConnectionParameters(
host='localhost'))
# 建立一個會話,每個channel代表一個會話任務
self.channel = self.connection.channel()
# 聲明回調隊列,再次聲明的原因是,服務器和客戶端可能先后開啟,該聲明是冪等的,多次聲明,但只生效一次
result = self.channel.queue_declare(exclusive=True)
# 將次隊列指定為當前客戶端的回調隊列
self.callback_queue = result.method.queue
# 客戶端訂閱回調隊列,當回調隊列中有響應時,調用`on_response`方法對響應進行處理;
self.channel.basic_consume(self.on_response, no_ack=True,
queue=self.callback_queue)
# 對回調隊列中的響應進行處理的函數(shù)
def on_response(self, ch, method, props, body):
if self.corr_id == props.correlation_id:
self.response = body
# 發(fā)出RPC請求
def call(self, n):
# 初始化 response
self.response = None
#生成correlation_id
self.corr_id = str(uuid.uuid4())
# 發(fā)送RPC請求內容到RPC請求隊列`rpc_queue`,同時發(fā)送的還有`reply_to`和`correlation_id`
self.channel.basic_publish(exchange='',
routing_key='rpc_queue',
properties=pika.BasicProperties(
reply_to = self.callback_queue,
correlation_id = self.corr_id,
),
body=str(n))
while self.response is None:
self.connection.process_data_events()
return int(self.response)
# 建立客戶端
fibonacci_rpc = FibonacciRpcClient()
# 發(fā)送RPC請求
print(" [x] Requesting fib(30)")
response = fibonacci_rpc.call(30)
print(" [.] Got %r" % response)
總結

