mysql+canal+kafka+elasticsearch構(gòu)建訂單搜索平臺(tái)(kafka接收binlog變更)

上面幾篇文章講了基礎(chǔ)搭建過程:

canal搭建:http://www.itdecent.cn/p/917795a7acc1

zookeeper 搭建:http://www.itdecent.cn/p/d3c1727ba1c4

kafka搭建:http://www.itdecent.cn/p/c6916c4e4cae

下面我們來看如何串聯(lián)整體流程。

1.首先進(jìn)行canal配置。改動(dòng)配置文件canal.properties。改動(dòng)如下:

serverMode改為kafka

消息隊(duì)列配置:

監(jiān)聽地址改為本機(jī)地址

2.具體實(shí)例改動(dòng):

instance.propties改動(dòng):

topic配置說明:


在這里我們是topic:scheme.table配置。

kafka分片配置是根據(jù)表的主鍵進(jìn)行配置:

3.在這里有個(gè)關(guān)鍵步驟,需要開啟消息隊(duì)列的自動(dòng)創(chuàng)建topic模式。否則會(huì)報(bào)錯(cuò)

相關(guān)配置在kafka的server.properties

添加如下配置:


4.相關(guān)改動(dòng)完成后重啟canal和kafka

5.如何測(cè)試kafka接收binlog消息:

下載canal項(xiàng)目:git clone?https://github.com/alibaba/canal.git

運(yùn)行如下代碼:

項(xiàng)目代碼:

canal/example/src/main/java/com/alibaba/otter/canal/example/kafka/CanalKafkaClientExample.java

改動(dòng)對(duì)應(yīng)配置為測(cè)試環(huán)境配置:


運(yùn)行CanalKafkaClientExample的main方法。然后改動(dòng)數(shù)據(jù)庫數(shù)據(jù)。查看效果,目前已經(jīng)成功接收數(shù)據(jù)

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時(shí)請(qǐng)結(jié)合常識(shí)與多方信息審慎甄別。
平臺(tái)聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡(jiǎn)書系信息發(fā)布平臺(tái),僅提供信息存儲(chǔ)服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

友情鏈接更多精彩內(nèi)容