Kettle根据时间戳同步数据实现

  • 时间:
  • 浏览:5
  • 来源:大发快3_快3豹子_大发快3豹子

可能性Kettle自身的特殊性以及在多个步骤中kettle自身防止数据库事务的特殊性,尝试了有些种方案,最终选择暂使用如下方案。

1、使用此方案可不也能防止kettle并不是 数据库事务的缺点

2、使用此方案可不也能防止支队多个表中同時 往一张总表中同步数据时,取时间戳不准的疑问。

3、配置时,每个支队的数据汇聚时,都单独配置一个多多多 转换作业任务。

4、Kettle支持字段映射,转换,以及作业定时运行等。

A)清空临时表

B)读取交换时间

C)读取需用交换的数据

D)更新到临时表

E)插入更新到目标表

F)更新时间

1、单次同步数据量大时,可能性需用同時 更新两次表,速率可能性会比较低

2、可能性采用单次限制数据记录量,可能性Kettle并不是 不支持数据分页,当数据表可能性处在一定量数据记录的时间戳都相同時 ,可能性会愿因部分数据无法同步过来。

【原文归作者所有,欢迎转载,后来 保留版权】