Pipeline
-
Pipeline
Redis客戶端執(zhí)行一條命令分為如下四個(gè)過程:
1)發(fā)送命令
2)命令排序
3)命令執(zhí)行
4)返回結(jié)果其中1)+4)稱為Round Trip Time(RTT,往返時(shí)間)。
Redis提供了批量操作命令(例如mget、mset等),有效地節(jié)約RTT。但大部分
命令是不支持批量操作的,例如要執(zhí)行n次hgetall命令,并沒有mhgetall命令
存在,需要消耗n次RTT。Redis的客戶端和服務(wù)端可能部署在不同的機(jī)器上。例
如客戶端在北京,Redis服務(wù)端在上海,兩地直線距離約為1300公里,那么1次
RTT時(shí)間=13002/(3000002/3)=13毫秒(光在真空中傳輸速度為每秒30秒公
里,這里假設(shè)光纖為光速的2/3),那么客戶端在1秒內(nèi)大約只能執(zhí)行80次左右
的命令,這個(gè)和Redis的高并發(fā)高吞吐特性背道而馳。Pipeline(流水線)機(jī)制能改善上面這類問題,它能將一組Redis命令進(jìn)行組
裝,通過一次RTT傳輸給Redis,再將這組Redis命令的執(zhí)行結(jié)果按順序返回給客
戶端。Pipeline并不是什么新的技術(shù)活機(jī)制,很多技術(shù)上都使用過。而且RTT在不同網(wǎng)
絡(luò)環(huán)境下會(huì)有不同,例如同機(jī)房和同機(jī)器會(huì)比較快,跨機(jī)房跨地區(qū)會(huì)比較慢。
Redis命令真正執(zhí)行的時(shí)間通常在微秒級(jí)別,所以才會(huì)有Redis性能瓶頸是網(wǎng)絡(luò)
這樣的說法。redis-cli的--pipe選項(xiàng)實(shí)際上就是使用Pipeline機(jī)制,例如下面操作將set
hello world和incr counter兩條命令組裝:echo -en '*3\r\n$3\r\nSET\r\n5\r\nhello\r\n$5\r\nworld\r\n*2\r\n$4\r\nincr\r\n$7\r\ncounter\r\n' | redis-cli --pipe但大部分開發(fā)人員更傾向于使用高級(jí)語言客戶端中的Pipeline,目前大部分
Redis客戶端都支持Pipeline -
性能測(cè)試
網(wǎng)絡(luò) 延遲 非Pipeline Pipeline 本機(jī) 0.17ms 573ms 134ms 內(nèi)網(wǎng)服務(wù)器 0.41ms 1610ms 240ms 異地機(jī)房 7ms 78499ms 1104ms 上表給出了在不同網(wǎng)絡(luò)環(huán)境下非Pipeline和Pipeline執(zhí)行10000次set操作的
效果,可以得到如下兩個(gè)結(jié)論:- Pipeline執(zhí)行速度一般比逐條執(zhí)行要快。
- 客戶端和服務(wù)端的網(wǎng)絡(luò)延時(shí)越大,Pipeline的效果越明顯。
-
原生批量命令與Pipeline對(duì)比
可以使用Pipeline模擬出批量操作的效果,但是在使用時(shí)要注意它與原生批量
命令的區(qū)別,具體包含以下幾點(diǎn):- 原生批量命令是原子的,Pipeline是非原子的。
- 原生批量命令是一個(gè)命令對(duì)應(yīng)多個(gè)key,Pipeline支持多個(gè)命令。
- 原生批量命令是Redis服務(wù)端支持實(shí)現(xiàn)的,而Pipeline需要服務(wù)端和客戶端
的共同實(shí)現(xiàn)。
-
最佳實(shí)踐
Pipeline雖然好用,但是每次Pipeline組裝的命令個(gè)數(shù)不能沒有節(jié)制,否則一
次組裝Pipeline數(shù)據(jù)量過大,一方面會(huì)增加客戶端的等待時(shí)間,另一方面會(huì)造
成一定的網(wǎng)絡(luò)阻塞,可以將一次包含大量命令的Pipeline拆分成多次較小的
Pipeline來完成。Pipeline只能操作一個(gè)Redis實(shí)例,但是即使在分布式Redis場(chǎng)景中,也可以作
為批量操作的重要優(yōu)化手段。