AI 全链路编排
功能定位
AI 全链路编排面向“从同步到可用”的端到端场景。它根据业务描述生成同步、清洗、dbt 建模、质量校验和元数据刷新的候选 DAG,让数据团队先看到完整依赖,再逐段审核,而不是在多个工具之间手工拼接。

图 7-8 端到端同步加工候选与发布门禁
适用角色
数据架构师、ETL 管理员、数据平台负责人和高级数据开发人员。
页面入口
数据治理中心 → AI 数据助手 → AI 全链路编排(/bi/etl/ai/whale)。
操作步骤
- 选择全链路模板,例如“销售数据每日主链路”。
- 选择白名单源表,填写业务描述:同步频率、目标分层、清洗规则、质量要求和刷新范围。
- 生成候选 DAG,查看节点类型、目标表、依赖边和关键参数。
- 检查链路是否包含“源表就绪 → 同步 → DWD 清洗 → DWS 汇总 → 质量测试 → 元数据刷新”的必要阶段。
- 对每个节点检查失败策略、重试次数、超时和依赖条件,避免一个节点失败后下游仍继续。
- 执行确定性校验,处理循环依赖、缺失字段、越权表和非白名单组件。
- 提交审核并登记发布;发布后仍需在调度中心按正常流程执行和监控。
输入与输出
输入是源表、业务描述、分层目标和模板;输出是端到端 DAG、节点参数、依赖关系、校验结果、审核版本和调度门禁。
宏澜家电示例
输入“每天同步销售订单,清洗后按区域品类汇总,执行金额非负和主键唯一测试,刷新元数据,供经营看板使用”。AI 生成五段式 DAG;数据架构师补充“质量失败阻断下游”的条件后审核发布,避免脏数据进入 ADS。
客户应用演示:生成“销售数据每日主链路”
业务情境: 需要把同步、清洗、汇总、质量和刷新串成一条每日 DAG。
第一步:进入“数据治理中心 → AI数据助手 → AI 全链路编排”
进入“数据治理中心 → AI数据助手 → AI 全链路编排”。
第二步:选择销售主链路模板和白名单源表
选择销售主链路模板和白名单源表。
第三步:输入“每天 02:00 同步订单
输入“每天 02:00 同步订单,清洗后汇总区域品类,执行金额非负和主键唯一测试,再刷新数据集”。
第四步:检查节点、依赖边、失败策略、重试次数和超时
检查节点、依赖边、失败策略、重试次数和超时。
第五步:执行确定性校验
执行确定性校验,补充“质量失败阻断下游”,提交审核发布。
最终结果与效果
生成端到端 DAG 草稿,包含同步、加工、汇总、质量和刷新阶段;发布只登记调度门禁,不自动运行。
操作提示: 确保链条有源表就绪、失败阻断和批次追踪,避免半成品进入看板。
常见问题
DAG 看起来完整但不能发布。 先看校验结果,通常是字段越界、依赖循环或缺少目标表。
全链路是否会自动执行。 不会。发布只登记调度门禁和摘要,实际执行由 DolphinScheduler 负责。
某个节点失败如何补数。 从失败节点开始按依赖顺序补跑,避免只补最后一层造成口径断层。
开发人员参考
- 接口:
/bi/ai-pipeline/options?kind=WHALE、/generate、/drafts/{id}/validate|review|publish、/versions/{id}/rollback - 权限:
bi:etl:ai-whale - 服务端对 DAG 做节点白名单、依赖环检测、字段边界和摘要校验。
- 发布不直接调用执行器,避免 AI 生成内容未经人工确认就改变生产数据。