MGR,是MySQL Group Replication的縮寫。
這個(gè)搭建的過程非??部?,爬了許多坑,浪費(fèi)了一周的時(shí)間,從上周五直到今天,也就是2019年11月30日周六晚上11點(diǎn)30才正式搞定,按捺不住悵然若失的感覺,內(nèi)心一片崩潰和后悔,趕緊來記錄一下。
1、環(huán)境
2臺(tái)物理機(jī),都安裝了docker,版本不限
| IP | 簡稱 | 系統(tǒng) |
|---|---|---|
| 192.168.1.81 | 81 | centos7.5 |
| 192.168.1.91 | 91 | centos7.5 |
docker的mysql image版本為8.0.18。版本不是很重要,網(wǎng)絡(luò)上有人說5.7的版本和8.0的版本有很大差別,筆者在搭建時(shí)未明顯感覺出差異。
2、搭建
2.1修改物理機(jī)hosts文件
這里有個(gè)非常大的坑,一定要注意修改完之后,重啟生效,否則MEMBER_STATE一直會(huì)是RECOVERING,多么痛的領(lǐng)悟,非常的細(xì)小和簡單的一個(gè)錯(cuò)誤,直接浪費(fèi)快1周時(shí)間!
hosts是一定要修改的,除非你是公網(wǎng)固定IP,并且主機(jī)名不同,在同一個(gè)局域網(wǎng)內(nèi)是一定要修改的,即使后面你的my.cnf配置文件用的IP配置也一定要修改,非常痛的領(lǐng)悟!
vim /etc/hosts
添加以下內(nèi)容,根據(jù)自己局域網(wǎng)IP修改
192.168.1.81 mgr81
192.168.1.91 mgr91
2.2準(zhǔn)備mysql配置文件my.cnf
這里也有一個(gè)深坑,用docker的image創(chuàng)建時(shí),千萬不要參考mysql官網(wǎng)的例子,因?yàn)楣倬W(wǎng)會(huì)把本該是loose-group_replication_start_on_boot=off的配置寫成group_replication_start_on_boot=off,從而導(dǎo)致container一直重啟,非??拥?。
2.2.1、91物理機(jī)的my.cnf
不可重復(fù)的參數(shù)是
server-id=2
loose-group_replication_local_address = 'mgr91:33066'
33066端口是隨便指定的端口,不是數(shù)據(jù)庫連接的端口。
[mysqld]
port=33061
#禁止創(chuàng)建這些引擎,因?yàn)镸GR只支持InnoDB
disabled_storage_engines="MyISAM,BLACKHOLE,FEDERATED,ARCHIVE,MEMORY"
plugin_load_add='group_replication.so'
server-id=2
gtid_mode=ON
enforce-gtid-consistency=ON
binlog_checksum=NONE
loose-group_replication_group_name="10e10d4d-4e9d-4a60-b17f-e1c1ada58378"
loose-group_replication_start_on_boot=off
loose-group_replication_local_address = 'mgr91:33066'
loose-group_replication_group_seeds = 'mgr81:33066,mgr91:33066'
loose-group_replication_bootstrap_group=off
# 8.0.2以下添加
transaction_write_set_extraction = XXHASH64
# MGR使用樂觀鎖,官網(wǎng)建議隔離級(jí)別是RC,減少鎖粒度
transaction_isolation=READ-COMMITTED
#8.0.3以下添加
log_bin=binlog
log_slave_updates=ON
binlog_format=ROW
master_info_repository=TABLE
relay_log_info_repository=TABLE
enforce_gtid_consistency = 1
binlog_gtid_simple_recovery = 1
# off多主模式,on單主模式
loose-group_replication_single_primary_mode = off
# 多主模式下,強(qiáng)制檢查每一個(gè)實(shí)例是否允許該操作,如果不是多主,可以關(guān)閉
loose-group_replication_enforce_update_everywhere_checks = on
pid-file=/var/run/mysqld/mysqld.pid
socket=/var/run/mysqld/mysqld.sock
datadir=/var/lib/mysql
secure-file-priv= NULL
relay-log = relay91
relay-log-index = relay91
default_authentication_plugin=mysql_native_password
# Disabling symbolic-links is recommended to prevent assorted security risks
symbolic-links=0
# Custom config should go here
!includedir /etc/mysql/conf.d/
2.2.2、81物理機(jī)的my.cnf
把不可重復(fù)的地方修改一下即可,與91的配置相同。
[mysqld]
port=33061
#禁止創(chuàng)建這些引擎,因?yàn)镸GR只支持InnoDB
disabled_storage_engines="MyISAM,BLACKHOLE,FEDERATED,ARCHIVE,MEMORY"
plugin_load_add='group_replication.so'
server-id=1
gtid_mode=ON
enforce-gtid-consistency=ON
binlog_checksum=NONE
loose-group_replication_group_name="10e10d4d-4e9d-4a60-b17f-e1c1ada58378"
loose-group_replication_start_on_boot=off
loose-group_replication_local_address = 'mgr81:33066'
loose-group_replication_group_seeds = 'mgr81:33066,mgr91:33066'
loose-group_replication_bootstrap_group=off
# 8.0.2以下添加
transaction_write_set_extraction = XXHASH64
# MGR使用樂觀鎖,官網(wǎng)建議隔離級(jí)別是RC,減少鎖粒度
transaction_isolation=READ-COMMITTED
#8.0.3以下添加
log_bin=binlog
log_slave_updates=ON
binlog_format=ROW
master_info_repository=TABLE
relay_log_info_repository=TABLE
enforce_gtid_consistency = 1
binlog_gtid_simple_recovery = 1
# off多主模式,on單主模式
loose-group_replication_single_primary_mode = off
# 多主模式下,強(qiáng)制檢查每一個(gè)實(shí)例是否允許該操作,如果不是多主,可以關(guān)閉
loose-group_replication_enforce_update_everywhere_checks = on
pid-file=/var/run/mysqld/mysqld.pid
socket=/var/run/mysqld/mysqld.sock
datadir=/var/lib/mysql
secure-file-priv= NULL
relay-log = relay81
relay-log-index = relay81
default_authentication_plugin=mysql_native_password
# Disabling symbolic-links is recommended to prevent assorted security risks
symbolic-links=0
# Custom config should go here
!includedir /etc/mysql/conf.d/
2.3、創(chuàng)建container
2.3.1、前言和一些解釋
2.3.1.1、為什么網(wǎng)絡(luò)模式用host?
docker的網(wǎng)絡(luò)模式有bridge、host、none、container幾種,如果用的swarm集群,還有overlay,但這里不適合用overlay端口會(huì)沖突。
一開始想用bridge模式的,但是擔(dān)心group seeds的IP這里填寫會(huì)有問題,還有如果用host模式網(wǎng)絡(luò)性能可能提升一點(diǎn)。所以直接用host模式先快速搞出來。個(gè)人猜測,用bridge模式的話,要開33061數(shù)據(jù)庫端口(自定義)、33060Replication插件端口(非自定義)、33066集群端口(自定義),還要向container寫入hosts,未實(shí)際成功操作,僅供參考。
2.3.1.2、防火墻要允許那些端口?
本例子中2臺(tái)物理機(jī)均須打開,33061、33060、33066三個(gè)端口。
2.3.2、腳本
掛載2個(gè)文件目錄、數(shù)據(jù)庫密碼、添加2個(gè)host,結(jié)合實(shí)際自行修改即可。在81和91兩臺(tái)物理機(jī)分別執(zhí)行1次。
docker run --name mgr --restart always --net="host" \
-e MYSQL_ROOT_PASSWORD=password -e MYSQL_ROOT_HOST="%" -e TZ=Asia/Shanghai \
-v /home/lucien/mysqlmgr/volumes/mysql-8.0.18/data:/var/lib/mysql \
-v /home/lucien/mysqlmgr/my.cnf:/etc/mysql/my.cnf \
--add-host mgr81:192.168.1.81 --add-host mgr91:192.168.1.91 \
-d mysql:8.0.18 \
--character-set-server=utf8mb4
2.3.3、執(zhí)行SQL
在2個(gè)container上都要執(zhí)行。
SET SQL_LOG_BIN=0;
CREATE USER rpl_user@'%' IDENTIFIED BY 'group';
GRANT REPLICATION SLAVE , REPLICATION CLIENT ON *.* TO rpl_user@'%';
FLUSH PRIVILEGES;
SET SQL_LOG_BIN=1;
CHANGE MASTER TO MASTER_USER='rpl_user', MASTER_PASSWORD='group' FOR CHANNEL 'group_replication_recovery';
在81上或91上執(zhí)行,這里選擇81.
SET GLOBAL group_replication_bootstrap_group=ON;
start group_replication;
SET GLOBAL group_replication_bootstrap_group=OFF;
在另外一個(gè)mysql實(shí)例上執(zhí)行
#防止錯(cuò)亂
reset master;
start group_replication;
至此,多主搭建完畢。
2.3.4、其他
SQL調(diào)試腳本
#查看插件時(shí)否安裝
show plugins;
#查看gtid
show global variables like '%gtid%' ;
#查看賬號(hào)狀態(tài)
select host,user,plugin,authentication_string from mysql.user;
#查看節(jié)點(diǎn)狀態(tài)
select * from performance_schema.replication_group_members;
#查看單主還是多主
show variables like '%single%';
show variables like '%enforce_update_everywhere_checks';
網(wǎng)上有寫,一直停留在RECOVERING狀態(tài)時(shí),要執(zhí)行如下SQL語句,但是并沒有用。
#8.0版本
SET GLOBAL group_replication_recovery_get_public_key=ON;
#5.7版本
SET GLOBAL group_replication_allow_local_disjoint_gtids_join=ON;
3、測試
在任意一個(gè)實(shí)例執(zhí)行如下腳本,觀察另外一臺(tái)數(shù)據(jù)時(shí)否同步。
CREATE DATABASE test;
USE test;
CREATE TABLE t1 (c1 INT PRIMARY KEY, c2 TEXT NOT NULL);
INSERT INTO t1 VALUES (1, 'Luis');
SELECT * FROM t1;
4、多主、單主切換
4.1、從多主切換為單主
主節(jié)點(diǎn)上執(zhí)行
stop group_replication;
set global group_replication_enforce_update_everywhere_checks=OFF;
set global group_replication_single_primary_mode=ON;
set global group_replication_bootstrap_group=ON;
start group_replication;
SET GLOBAL group_replication_bootstrap_group=OFF;
從節(jié)點(diǎn)上執(zhí)行
stop group_replication;
set global group_replication_enforce_update_everywhere_checks=OFF;
set global group_replication_single_primary_mode=ON;
reset master;
start group_replication;
4.2、從單主切換為多主
某節(jié)點(diǎn)上執(zhí)行
stop group_replication;
set global group_replication_enforce_update_everywhere_checks=ON;
set global group_replication_single_primary_mode=OFF;
set global group_replication_bootstrap_group=ON;
start group_replication;
SET GLOBAL group_replication_bootstrap_group=OFF;
另外節(jié)點(diǎn)上執(zhí)行
stop group_replication;
set global group_replication_enforce_update_everywhere_checks=ON;
set global group_replication_single_primary_mode=OFF;
reset master;
start group_replication;