分别以upset-kafka和kafka的方式读取数据写入mysql中的对比

upset-kafka读取数据写入mysql:

代码如下:

CREATE TABLE test1_kafka_source (

  `id` bigint,

  `name` VARCHAR,

  `create_time` TIMESTAMP,

  `update_time` TIMESTAMP,

  PRIMARY KEY (`id`) NOT ENFORCED 

) WITH (

  'connector' = 'upsert-kafka', 

  'topic' = 'test1', 

  'properties.bootstrap.servers' = '********:9092',

  'key.format' = 'json',

  'value.format' = 'json'

);

源数据:

目的端数据:

当把主键修改为2时:

目的端也会变为2:

当把源数据删除时:

目的端也会被删除:

当主键发生更新时,可以看到目的端数据与源数据保持同步。但如果是以kafka的方式读取,则不会保持同步,保持追加写入。

以kafka的方式读取数据,写入mysql:

代码如下:

CREATE TABLE test1_kafka_source (

  `id` bigint,

  `name` VARCHAR,

  `create_time` TIMESTAMP,

  `update_time` TIMESTAMP

) WITH (

  'connector' = 'kafka',

  'topic' = 'test1',

'properties.bootstrap.servers' = '192.168.7.133:9092',

  'properties.group.id' = 'test1',

'scan.startup.mode' = 'latest-offset',

  'value.format' = 'json'

);

源数据:

目的端数据:

当把源数据的主键进行修改时:

目的端只会追加数据,而不会删除主键为1的历史数据:

当把源数据删除时:

目的端并不会被删除:

总结:

当以upset-kafka的方式读取kafka数据写入mysql时,当主键发生更新或删除,则会保持同步。但是当以kafka的方式读取kafka数据写入mysql时,当主键发生更新或删除,则会保持追加写入。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值