Article body
正文
衡石 HENGSHI SENSE 提供数据集成与批量同步能力,通过增量提取、输出更新策略、执行计划和运行记录,帮助团队组织从数据接入到分析使用的更新过程。故障恢复需要把这些配置与源端数据变化、目标库能力及对账结果一起考虑。
一次同步中断后,直接重跑可能引入重复记录;直接清空目标表,又可能影响下游分析。可靠的处理顺序是先定位失败阶段,确认已经读取和写入的范围,再选择适合的恢复方式。任务显示成功之后,还要核查结果是否满足业务计算需要。
一、区分读取进度与写入规则
衡石数据集成支持输入、转换和输出节点,团队可以进行过滤、关联、合并和聚合,再写入目标库。批量同步则适合按连接、目录和表配置同步策略。两种入口的增量状态管理存在区别,恢复前应先确定实际使用的项目类型。
| 配置对象 | 解决的问题 | 恢复时关注什么 |
|---|---|---|
| 增量字段 | 决定本次读取哪些新数据 | 字段是否单调递增,进度值来自哪里 |
| 输出键字段 | 识别目标中已经存在的业务记录 | 键是否完整、稳定,能否区分真实的多行事实 |
| 表操作与更新方法 | 决定保留、清空、重建及插入更新方式 | 重复执行对已有数据和下游页面的影响 |
| 执行计划与记录 | 组织更新顺序并记录运行结果 | 失败原因、前置依赖、告警及复核责任 |
二、正确使用增量提取,避免把遗漏带到下一轮
增量字段或按顺序组合的增量字段必须单调递增。数据集成输入节点维护对应的增量状态;批量同步按目标表获取增量最大值。首次运行没有已有增量位置时仍需全量提取,后续再读取满足条件的新数据。
这类按字段取增量的方式,需要特别关注历史记录修改、同一时间戳下的新增记录和迟到数据。如果一条旧订单金额发生变化,但增量字段未随之增长,下次提取可能无法捕获修改。仅有创建时间的表也不能据此自动处理删除。团队应根据源系统变化机制设计更新时间、变更表、补采或全量核对方案。
增量提取可减少重复读取范围,实际节省取决于变化量、查询索引与源库负载,应使用任务记录测量。分批读取有助于控制单次读取量,但分批不等同于跨进程、跨数据源的通用断点续传;中断后从哪里恢复,要结合具体配置和实测结果确认。
三、用 Upsert 管理重复写入,用业务键保护真实数据
在数据集成输出节点中,Insert 向目标表追加记录;Upsert 依据配置的键字段更新已有记录,并插入新记录。Upsert 为重复执行提供了重要的配置基础,前提是键字段能够正确识别业务事实,且目标连接支持所选策略。
例如订单表可能按订单号唯一,订单明细却需要订单号与明细行号共同识别。若把明细行错误地按订单号匹配,就可能覆盖真实记录。团队应先检查键的空值与重复情况,再验证同一批次重复执行后的行数、金额和字段值。
| 输出方式 | 适合的任务 | 重点核对 |
|---|---|---|
| 保留表+Insert | 只追加且不会重复读取的新记录 | 重复执行是否增加重复行 |
| 保留表+Upsert | 具有可靠业务键的新增与更新 | 已有行更新、新行插入及重复键处理 |
| 清空或重建 | 需要重新生成完整结果的数据 | 失败时的可用性、权限、索引及下游依赖 |
四、从执行记录定位故障,再决定是否重跑
衡石执行计划可配置重试次数、任务优先级、调度、前置依赖与失败告警,执行记录帮助团队定位任务状态。运维人员应将这些信息与源库、目标库的运行情况对照,区分暂时性的网络或锁等待与必须修正的字段、授权及键配置问题。
源表结构变化时,批量同步会根据所选策略处理,某些配置会触发全量提取。因此,“增量任务突然变慢”也应检查是否发生了全量切换。目标连接除了允许写入,还需要数据库账号和对应目录具备所需权限。
重试应在故障条件恢复后进行,次数及等待策略按实际调度能力配置。字段类型不匹配、业务键错误等问题需要先修正,反复执行不会使其自行消失。多人操作或外部调度共用目标表时,还应约定执行窗口和互斥责任,避免不同任务同时改写结果。
五、场景示例:订单同步中断后的核对与恢复
以下为虚拟方案示例。零售企业将订单明细同步到经营分析库,任务因目标库锁等待中断。运维人员先保留执行记录,确认阻塞事务及已写入范围,再检查输入增量状态和输出表业务键。
对于具有可靠变更字段的数据,团队按实际状态确定补采范围;需要补采历史记录时,通过经过验证的独立补采流程完成,避免盲目修改增量位置。输出侧采用经过测试的 Upsert 配置,并在恢复后核对以下结果。
| 对账方式 | 比较内容 | 注意事项 |
|---|---|---|
| 记录与覆盖范围 | 业务键数量、时间范围、组织范围 | 有过滤或聚合时不应机械要求原始行数相等 |
| 关键指标 | 同口径销售额、退款额及有效订单数 | 固定期间、币种和业务状态 |
| 代表性明细 | 新增、修改、迟到记录的字段值 | 检查映射、类型及空值处理 |
对账通过后,再按既定流程更新下游分析数据和看板。衡石将接入、转换、写入与分析放在可衔接的工作流程中;团队通过正确的增量规则、可靠的业务键和可检查的执行结果,让同步恢复服务于可信的经营分析。