maxWell数据迁移

  

目录

1.开启mysql的binlog

        1.1: Statement-based

        1.2: Row-based

        1.3: mixed

2. 重启mysql服务

3. 创建Maxwell所需数据库和用户

4. 配置Maxwell

5. Maxwell启停(实时同步)

6. 历史数据全量同步

---

      这里使用maxWell对mysql数据迁移到kafka中 官网下载地址点击下载 注：Maxwell-1.30.0及以上版本不再支持JDK1.8。

        maxWell采集mysql的数据能采集到insert/update/delete的数据

        maxWell采集需要mysql开启binlog

1.开启mysql的binlog

vim /etc/my.cnf

[mysqld]
#数据库id
server-id = 1
#启动binlog，该参数的值会作为binlog的文件名
log-bin=mysql-bin
#binlog类型，maxwell要求为row类型
binlog_format=row
#启用binlog的数据库，需根据实际情况作出修改
binlog-do-db=gmall

mysql的binLog模式介绍

        1.1: Statement-based  

                基于语句，Binlog会记录所有写操作的SQL语句，包括insert、update、delete等。

                优点： 节省空间

                缺点： 有可能造成数据不一致，例如insert语句中包含now()函数。

        1.2: Row-based

                基于行，Binlog会记录每次写操作后被操作行记录的变化。

                优点：保持数据的绝对一致性。

                缺点：占用较大空间。

        1.3: mixed

                混合模式,默认Statement-based,如果SQL语句导致数据不一致,就自动切换Row-based。

        Maxwell要求Binlog采用Row-based模式。

2. 重启mysql服务

systemctl restart mysqld

3. 创建Maxwell所需数据库和用户

        Maxwell需要在MySQL中存储其运行过程中的所需的一些数据，包括binlog同步的断点位置（Maxwell支持断点续传）等等，故需要在MySQL为Maxwell创建数据库及用户。

CREATE DATABASE maxwell;
set global validate_password_policy=0;
set global validate_password_length=4;
CREATE USER 'maxwell'@'%' IDENTIFIED BY 'maxwell';
GRANT ALL ON maxwell.* TO 'maxwell'@'%';
GRANT SELECT, REPLICATION CLIENT, REPLICATION SLAVE ON *.* TO 'maxwell'@'%';

4. 配置Maxwell

cd /opt/module/maxwell
cp config.properties.example config.properties
vim config.properties

#Maxwell数据发送目的地，可选配置有stdout|file|kafka|kinesis|pubsub|sqs|rabbitmq|redis
producer=kafka
#目标Kafka集群地址
kafka.bootstrap.servers=node1:9092,node2:9092,node3:9092
#目标Kafka topic，可静态配置，例如:maxwell，也可动态配置，例如：%{database}_%{table}
kafka_topic=maxwell#MySQL相关配置
host=node1
user=maxwell
password=maxwell
jdbc_options=useSSL=false&serverTimezone=Asia/Shanghai

5. Maxwell启停(实时同步)

/opt/module/maxwell/bin/maxwell --config /opt/module/maxwell/config.properties --daemon

ps -ef | grep maxwell | grep -v grep | grep maxwell | awk '{print $2}' | xargs kill -9

6. 历史数据全量同步

        Maxwell提供了bootstrap功能来进行历史数据的全量同步，命令如下(需要先启动Maxwell才可以执行全量导入)

/opt/module/maxwell/bin/maxwell-bootstrap --database 库名称 --table 表名称 --config /opt/module/maxwell/config.properties