1. 消費(fèi)kafka的調(diào)優(yōu)
- 關(guān)于并行度
消費(fèi)kafka的并行度我們都知道source端保持跟kafka的分區(qū)一致,因?yàn)樵O(shè)置多了浪費(fèi),少了有壓力。
那設(shè)置一個(gè)taskmanager設(shè)置多少個(gè)并行度合適呢?
在生產(chǎn)環(huán)境實(shí)踐中,不建議一個(gè)并行度一個(gè)taskmanager,因?yàn)槿菀灼渲幸粋€(gè)并行度它的taskmanager波動(dòng)太大導(dǎo)致任務(wù)掛掉,建議2個(gè)或者多個(gè)一個(gè)taskmanger,不要太多,太多的并行度擠在同一個(gè)taskmanager,也不利于這個(gè)taskmanager所在機(jī)器節(jié)點(diǎn)的性能,例如網(wǎng)絡(luò)IO等等。。