迁移数据mysql到clickhouse

场景:

项目上需要将mysql表中数据迁移到clickhouse。

理论:

借助MaterializeMySQL

说明:

首先该方案实施需要启动mysql的binlog配置否则同步不了,尽管MaterializeMySQL官方说是在实验阶段,不应该在生产上使用,但是我们借助他来迁移一下历史数据,还是很好用的。

方案:

第一步:首先开启mysql的binLog配置,及clickhouse-server开启物化MaterializeMySQL

在/etc/clickhouse-server下users.xml中开启MaterializeMySQL

 <allow_experimental_database_materialized_mysql>1</allow_experimental_database_materialized_mysql>

第二步:借助官方同步命令进行迁移

create database gisqbpm1 ENGINE = MaterializeMySQL('192.168.85.128:3307', 'gisqbpm', 'root', 'wxy123456');

注意:这里还没有结束,因为生产中不能使用MaterializeMySQL!!!且mysql还开着binlog影响性能呢!!!

第三步:建立生产环境中的表

create table gisqbpm2.act_hi_taskinst1  ENGINE = ReplacingMergeTree() primary key ID_ as select * from gisqbpm1.act_hi_taskinst aht ;

注:gisqbpm2是我生产中实际要用的模式,gisqbpm1 只是一个桥梁作用

create table gisqbpm2.act_hi_taskinst1  ENGINE = MergeTree() primary key ID_ as select * from gisqbpm1.act_hi_taskinst aht ;

说明:这里需要什么表引擎就可以建立对应的表引擎十分方便,其他的就和mysql建立复制表语法一样了!!这样就可以了,只是麻烦一点需要把所有表名列出来执行一下复制语句!!

含表结构和数据

use database gisqbpm2;
create table gisqbpm2.act_hi_taskinst1  ENGINE = ReplacingMergeTree() primary key ID_ as select * from gisqbpm1.act_hi_taskinst aht ;


create table gisqbpm2.act_hi_taskinst  ENGINE =MergeTree() primary key ID_ as select * from gisqbpm1.act_hi_taskinst aht ;

只含表结构

use database gisqbpm2;
create table gisqbpm2.act_hi_taskinst1  ENGINE = ReplacingMergeTree() primary key ID_ as select * from gisqbpm1.act_hi_taskinst aht where 1=2 ;
create table gisqbpm2.act_hi_taskinst  ENGINE =MergeTree() primary key ID_ as select * from gisqbpm1.act_hi_taskinst aht where 1=2;

第四步:生产环境中关闭binlog的同步配置及clickhouse的配置,删除在clickhouse中建立的中间桥梁库

相关推荐

  1. oracle数据迁移mysql

    2024-01-09 20:14:02       45 阅读
  2. sqlserver->clickhouse迁移数据

    2024-01-09 20:14:02       34 阅读
  3. clickhouse数据迁移starrocks踩坑记录

    2024-01-09 20:14:02       37 阅读
  4. Oracle MySQL 数据库迁移

    2024-01-09 20:14:02       18 阅读

最近更新

  1. TCP协议是安全的吗?

    2024-01-09 20:14:02       18 阅读
  2. 阿里云服务器执行yum,一直下载docker-ce-stable失败

    2024-01-09 20:14:02       19 阅读
  3. 【Python教程】压缩PDF文件大小

    2024-01-09 20:14:02       19 阅读
  4. 通过文章id递归查询所有评论(xml)

    2024-01-09 20:14:02       20 阅读

热门阅读

  1. 用python实现提取word中的所有图片

    2024-01-09 20:14:02       40 阅读
  2. CentOS7安装Neo4j

    2024-01-09 20:14:02       45 阅读
  3. unity中 canvas下物体的朝向跟随

    2024-01-09 20:14:02       40 阅读
  4. C与C++队列实现

    2024-01-09 20:14:02       37 阅读
  5. Zookeeper集群+Kafka集群

    2024-01-09 20:14:02       36 阅读
  6. okhttpclient.setsslsocketfactory 报错解决

    2024-01-09 20:14:02       41 阅读
  7. 「 PyMuPDF专栏 」PyMuPDF为PDF文件添加注释

    2024-01-09 20:14:02       33 阅读
  8. 彻底卸载Microsoft Edge的几种方法

    2024-01-09 20:14:02       36 阅读
  9. Docker 的基本概念和优势

    2024-01-09 20:14:02       30 阅读
  10. PHP 完整表单实例

    2024-01-09 20:14:02       29 阅读
  11. leetcode09-机器人能否返回原点

    2024-01-09 20:14:02       44 阅读
  12. LeetCode 447. 回旋镖的数量,枚举+哈哈希

    2024-01-09 20:14:02       45 阅读
  13. leetcode07-罗马数字的转换

    2024-01-09 20:14:02       44 阅读