数据同步
数据同步支持跨数据源间的数据迁移,涵盖单表同步、数据过滤、时间增量同步、自动建表、UPSERT 等能力,可实现数据从来源端到去向端的全量 / 增量同步,保障数据在不同数据源间的一致性、时效性,为数据集、数据大屏、AI 模型训练提供高质量数据支撑。
前置条件
1、已完成来源数据源、去向数据源的添加与校验(确保两端数据源连接正常、账号有读写权限);
2、明确同步任务的业务需求:同步类型(单表 / 多表)、过滤规则、存储模式、调度频率等;
3、确认去向数据源的表空间 / 存储配额充足,避免同步失败。
添加数据同步
步骤 1 :进入数据同步页面,点击添加按钮

1、进入「添加数据同步」页面;
2、选择数据来源类型、数据去向类型(如 MySQL→MySQL、Oracle→MySQL 等);

3、填写必填基础信息:
| 配置项 | 填写说明 | 示例 |
|---|---|---|
| 任务名称 | 自定义任务名称,唯一标识同步任务 | sync_mysql_to_mysql_20260413 |
| 同步类型 | 下拉选择(单表同步 / 单表自定义同步 / 多表同步) | 单表同步 |
| 所属分类 | 下拉选择任务分类(用于任务分组管理,可选) | 测试 |
| 任务描述 | 可选,填写任务用途、同步范围等备注信息 | 同步项目经费表到测试库 |
步骤 2:配置同步核心参数(同步配置)

1、选择来源数据源、去向数据源(需提前在数据源管理中配置);
- 来源数据源:数据同步的源端(如 MySQL、Oracle、达梦等),提供待同步数据;
- 去向数据源:数据同步的目标端,接收并存储同步数据。
2、选择来源表(选择来源数据源下的目标表);
3、配置自动建表:默认开启「自建表」(去向表不存在时自动创建,结构与来源表一致);
3、选择过滤方式(决定同步的数据范围):
| 过滤方式 | 适用场景 | 配置说明 |
|---|---|---|
| 数据过滤 | 仅同步指定条件的数据(如金额大于 1000 的记录) | 点击「添加条件」,选择字段、运算符、值(如申请资助金额 > 10000) |
| 时间增量过滤 | 仅同步指定时间范围内的新增 / 变更数据(增量同步) | 选择时间字段(如创建时间)、时间范围(如近 1 天、近 7 天) |


5、配置存储模式(数据写入规则):
| 存储模式 | 说明 | 适用场景 |
|---|---|---|
| APPEND_DATA(追加数据) | 新数据追加到去向表末尾,不覆盖原有数据 | 全量同步、历史数据追加 |
| DROP_DATA(清空表之后再追加数据) | 清空去向表原有数据,再写入新数据 | 全量重同步、数据重置 |

6、配置批量条数(单次同步的数据量,默认 2000,可根据网络 / 数据库性能调整);
7、按需开启UPSERT:开启后需选择主键 / 唯一键,实现「存在即更新、不存在即插入」。
步骤 3:字段映射配置

1、选择来源表、配置过滤规则后,页面自动加载来源字段、去向字段;
2、支持手动调整字段映射:默认一对一映射,可修改去向字段名称、字段类型(仅在自动建表时生效);
3、支持剔除不需要同步的字段(取消字段勾选,减少同步数据量)。
注意:若开启自动建表,字段类型需兼容来源数据源,避免建表失败。
步骤 4:配置调度策略(调度配置)

1、填写Cron 表达式(配置任务执行频率):
常用 Cron 示例:
▶ 每日凌晨 1 点:0 0 1 * *?
▶ 每小时执行:0 0 */1 * *?
▶ 每日 23 点执行:0 0 23 * *?
2、选择启动调度状态:
- 正常调度:任务创建后自动按 Cron 表达式执行;
- 暂停调度:任务创建后不自动执行(需手动触发或后续上线调度)。
3、点击「最近 5 次」可预览 Cron 表达式对应的执行时间(验证调度规则是否正确)。
步骤 5:保存并测试
1、所有配置完成后,点击保存,系统自动校验配置合法性;
2、保存成功后,可在任务列表中点击预览数据(验证同步数据范围)、数据统计(查看同步数据量);
3、确认数据无误后,点击手动执行,测试同步任务是否正常运行;
4、执行成功后,点击调度上线,正式启用定时同步任务。
查看任务详情
在任务列表中,点击目标任务右侧「操作 - 查看」,可查看任务的运行历。

注意:运行历史只展示最近三天的运行数据。
编辑任务配置
1、点击目标任务右侧「操作 - 编辑」,进入任务编辑页面;
2、可修改任务名称、描述、同步配置(过滤规则、存储模式、字段映射)、调度配置(Cron 表达式、启动状态);
3、编辑完成后,点击保存,并重新校验 / 手动执行,确保配置生效。

删除任务
1、点击目标任务右侧「操作 - 删除」,弹出确认弹窗;
2、确认删除后,任务将被永久删除(已执行的同步记录不删除),注意:删除任务不会删除去向数据源的同步数据,需手动清理。
手动执行任务
对于未开启调度或暂停调度的任务,可在任务列表中点击手动执行,立即触发一次同步操作(适用于紧急数据同步、补同步场景)。
调度上线
调度上线:开启任务的定时调度(任务创建时暂停调度,后续可上线)。
最后编辑:chenjt 更新时间:2026-06-04 15:56