企业可以做哪些网站,哪个网站开发培训好,做网站专业术语,长春网站制作建设如何基于 Flink CDC 快速构建 MySQL 到 Doris 的 Streaming ELT 作业#xff0c;包含整库同步、表结构变更同步和分库分表同步的功能。 本教程的演示都将在 Flink CDC CLI 中进行#xff0c;无需一行 Java/Scala 代码#xff0c;也无需安装 IDE。
准备阶段 #
准备一台已经…
如何基于 Flink CDC 快速构建 MySQL 到 Doris 的 Streaming ELT 作业包含整库同步、表结构变更同步和分库分表同步的功能。 本教程的演示都将在 Flink CDC CLI 中进行无需一行 Java/Scala 代码也无需安装 IDE。
准备阶段 #
准备一台已经安装了 Docker 的 Linux 或者 MacOS 电脑。
准备 Flink Standalone 集群 # 下载 Flink 1.18.0解压后得到 flink-1.18.0 目录。 使用下面的命令跳转至 Flink 目录下并且设置 FLINK_HOME 为 flink-1.18.0 所在目录。 cd flink-1.18.0通过在 conf/flink-conf.yaml 配置文件追加下列参数开启 checkpoint每隔 3 秒做一次 checkpoint。 execution.checkpointing.interval: 3000任务槽原来为1改为30:taskmanager.numberOfTaskSlots: 30 LOCALHOST改为0.0.0.0 使用下面的命令启动 Flink 集群。 ./bin/start-cluster.sh启动成功的话可以在 http://localhost:8081/访问到 Flink Web UI如下所示 多次执行 start-cluster.sh 可以拉起多个 TaskManager。
准备 Docker 环境 #
接下来的教程将以 docker-compose 的方式准备所需要的组件。 宿主机配置 由于 Doris 的运行需要内存映射支持需在宿主机执行如下命令: sysctl -w vm.max_map_count2000000MacOS 由于内部实现容器的方式不同在部署时宿主机直接修改max_map_count值可能无法成功需要先创建以下容器
docker run -it --privileged --pidhost --namechange_count debian nsenter -t 1 -m -u -n -i sh容器创建成功执行以下命令
sysctl -w vm.max_map_count2000000然后 exit 退出创建 Doris Docker 集群。 docker 镜像启动 使用下面的内容创建一个 docker-compose.yml 文件 version: 2.1
services:doris:image: yagagagaga/doris-standaloneports:- 8030:8030- 8040:8040- 9030:9030mysql:image: debezium/example-mysql:1.1ports:- 3306:3306environment:- MYSQL_ROOT_PASSWORD123456- MYSQL_USERmysqluser- MYSQL_PASSWORDmysqlpw该 Docker Compose 中包含的容器有
MySQL: 包含商品信息的数据库 app_dbDoris: 存储从 MySQL 中根据规则映射过来的结果表
在 docker-compose.yml 所在目录下执行下面的命令来启动本教程需要的组件
docker-compose up -d该命令将以 detached 模式自动启动 Docker Compose 配置中定义的所有容器。你可以通过 docker ps 来观察上述的容器是否正常启动了也可以通过访问http://localhost:8030/ 来查看 Doris 是否运行正常。
在 MySQL 数据库中准备数据 # 进入 MySQL 容器 docker-compose exec mysql mysql -uroot -p123456创建数据库 app_db 和表 orders,products,shipments并插入数据 -- 创建数据库
CREATE DATABASE app_db;USE app_db;-- 创建 orders 表
CREATE TABLE orders (
id INT NOT NULL,
price DECIMAL(10,2) NOT NULL,
PRIMARY KEY (id)
);-- 插入数据
INSERT INTO orders (id, price) VALUES (1, 4.00);
INSERT INTO orders (id, price) VALUES (2, 100.00);-- 创建 shipments 表
CREATE TABLE shipments (
id INT NOT NULL,
city VARCHAR(255) NOT NULL,
PRIMARY KEY (id)
);-- 插入数据
INSERT INTO shipments (id, city) VALUES (1, beijing);
INSERT INTO shipments (id, city) VALUES (2, xian);-- 创建 products 表
CREATE TABLE products (
id INT NOT NULL,
product VARCHAR(255) NOT NULL,
PRIMARY KEY (id)
);-- 插入数据
INSERT INTO products (id, product) VALUES (1, Beer);
INSERT INTO products (id, product) VALUES (2, Cap);
INSERT INTO products (id, product) VALUES (3, Peanut);Create database in Doris #
Doris 暂时不支持自动创建数据库需要先创建写入表对应的数据库。 进入 Doris Web UI。http://localhost:8030/ 默认的用户名为 root默认密码为空。 通过 Web UI 创建 app_db 数据库 create database app_db;通过 FlinkCDC cli 提交任务 # 下载下面列出的二进制压缩包并解压得到目录 flink cdc-3.0.0 flink-cdc-3.0.0-bin.tar.gz. flink-cdc-3.0.0 下会包含 bin、lib、log、conf 四个目录。 下载下面列出的 connector 包并且移动到 lib 目录下 下载链接只对已发布的版本有效, SNAPSHOT 版本需要本地基于 master 或 release- 分支编译. MySQL pipeline connector 3.0.0Apache Doris pipeline connector 3.0.0
3.编写任务配置 yaml 文件 下面给出了一个整库同步的示例文件 mysql-to-doris.yaml
################################################################################
# Description: Sync MySQL all tables to Doris
################################################################################
source:type: mysqlhostname: localhostport: 3306username: rootpassword: 123456tables: app_db.\.*server-id: 5400-5404server-time-zone: UTCsink:type: dorisfenodes: 127.0.0.1:8030username: rootpassword: table.create.properties.light_schema_change: truetable.create.properties.replication_num: 1pipeline:name: Sync MySQL Database to Dorisparallelism: 2其中 source 中的 tables: app_db.\.* 通过正则匹配同步 app_db 下的所有表。 sink 添加 table.create.properties.replication_num 参数是由于 Docker 镜像中只有一个 Doris BE 节点。
最后通过命令行提交任务到 Flink Standalone cluster bash bin/flink-cdc.sh mysql-to-doris.yaml提交成功后返回信息如
Pipeline has been submitted to cluster.
Job ID: ae30f4580f1918bebf16752d4963dc54
Job Description: Sync MySQL Database to Doris在 Flink Web UI可以看到一个名为 Sync MySQL Database to Doris 的任务正在运行。 打开 Doris 的 Web UI可以看到数据表已经被创建出来数据能成功写入。 同步变更 #
进入 MySQL 容器
shell
docker-compose exec mysql mysql -uroot -p123456接下来修改 MySQL 数据库中表的数据Doris 中显示的订单数据也将实时更新 在 MySQL 的 orders 表中插入一条数据 INSERT INTO app_db.orders (id, price) VALUES (3, 100.00);在 MySQL 的 orders 表中增加一个字段 ALTER TABLE app_db.orders ADD amount varchar(100) NULL;在 MySQL 的 orders 表中更新一条数据 UPDATE app_db.orders SET price100.00, amount100.00 WHERE id1;在 MySQL 的 orders 表中删除一条数据 DELETE FROM app_db.orders WHERE id2;每执行一步就刷新一次 Doris Web UI可以看到 Doris 中显示的 orders 数据将实时更新如下所示 同样的去修改 shipments, products 表也能在 Doris 中实时看到同步变更的结果。
Route the changes #
Flink CDC 提供了将源表的表结构/数据路由到其他表名的配置借助这种能力我们能够实现表名库名替换整库同步等功能。 下面提供一个配置文件说明
################################################################################
# Description: Sync MySQL all tables to Doris
################################################################################
source:type: mysqlhostname: localhostport: 3306username: rootpassword: 123456tables: app_db.\.*server-id: 5400-5404server-time-zone: UTCsink:type: dorisfenodes: 127.0.0.1:8030benodes: 127.0.0.1:8040username: rootpassword: table.create.properties.light_schema_change: truetable.create.properties.replication_num: 1route:- source-table: app_db.orderssink-table: ods_db.ods_orders- source-table: app_db.shipmentssink-table: ods_db.ods_shipments- source-table: app_db.productssink-table: ods_db.ods_productspipeline:name: Sync MySQL Database to Dorisparallelism: 2通过上面的 route 配置会将 app_db.orders 表的结构和数据同步到 ods_db.ods_orders 中。从而实现数据库迁移的功能。 特别地source-table 支持正则表达式匹配多表从而实现分库分表同步的功能例如下面的配置
route:- source-table: app_db.order\.*sink-table: ods_db.ods_orders这样就可以将诸如 app_db.order01、app_db.order02、app_db.order03 的表汇总到 ods_db.ods_orders 中。注意目前还不支持多表中存在相同主键数据的场景将在后续版本支持。
环境清理 #
本教程结束后在 docker-compose.yml 文件所在的目录下执行如下命令停止所有容器
docker-compose down在 Flink 所在目录 flink-1.18.0 下执行如下命令停止 Flink 集群
./bin/stop-cluster.sh
