跳转到主要内容

AI 加工设计器

功能定位

AI 加工设计器把业务描述转换成 Hop 转换候选流程和依赖 DAG,例如过滤取消订单、补齐部门信息、统一金额单位、按订单日期排序后写入 DWD。服务端固定可用组件、字段范围和写入边界,AI 不直接获得数据库写权限。

AI 加工设计器

图 7-7 Hop 加工候选草稿与固定安全边界

适用角色

数据开发人员、数仓工程师和 ETL 管理员。

页面入口

数据治理中心 → AI 数据助手 → AI 加工设计器(/bi/etl/ai/hop)。

操作步骤

  1. 选择加工模板,例如“DWD 订单清洗”。
  2. 选择白名单 ODS 源表,查看字段与中文注释。
  3. 描述清洗目标:保留哪些字段、过滤什么状态、如何补维度、写入哪张 DWD 表。
  4. 生成候选流水线,在结构化预览中检查输入、转换、输出和字段映射。
  5. 在“DAG 编排”查看节点和依赖边,确认没有孤立节点、循环依赖或错误方向。
  6. 执行确定性校验,修正字段类型、空值、主键和写入范围问题。
  7. 提交人工审核并登记发布;发布后由调度执行,不在页面直接运行模型产物。

输入与输出

输入是 ODS 源表、业务描述和加工模板;输出是 Hop 候选流程、字段映射、DAG、校验结果、审核版本和调度门禁。

宏澜家电示例

输入“过滤已取消订单,补客户和产品维度,金额统一为元,按订单日期写入 dwd_sales_order_clean”。AI 生成过滤、查找维度、字段重命名和写入节点;开发人员发现退货订单不应直接删除后,增加状态字段并调整过滤条件,再重新校验审核。

客户应用演示:让 AI 起草 ODS→DWD 清洗逻辑

业务情境: 订单数据需要清洗取消订单、重复订单和空客户后再进入 DWD。

第一步:进入“数据治理中心 → AI数据助手 → AI 加工设计器”

进入“数据治理中心 → AI数据助手 → AI 加工设计器”。

第二步:选择 ODS 订单表和 DWD 目标表

选择 ODS 订单表和 DWD 目标表,描述清洗规则与输出字段。

第三步:生成候选加工草稿

生成候选加工草稿,查看过滤、关联、字段映射和主键。

第四步:在预览中对比输入输出行数

在预览中对比输入输出行数,检查空值和异常金额。

第五步:保存、校验、审核并发布

保存、校验、审核并发布;执行仍由调度中心负责。

最终结果与效果

得到结构化加工草稿和可核对样例,清洗逻辑可追溯,发布前不会影响生产数据。

操作提示: 业务规则要写清楚,例如“取消订单不计入销售额”,不要只写“清洗数据”。

常见问题

候选 DAG 缺节点。 业务描述可能过于笼统;补充输入表、过滤条件、关联维度和目标表。

校验提示字段越界。 AI 只能使用白名单字段;先在元数据中登记字段或调整方案。

审核通过后还能改吗。 修改会生成新版本并使原审核失效,必须重新走校验和审核。

开发人员参考

  • 接口:/bi/ai-pipeline/options?kind=HOP、/generate、/drafts/{id}/validate|review|publish、/versions
  • 权限:bi:etl:ai-hop
  • 组件、字段、源表和目标表由服务端模板约束,JSON 仅允许编辑白名单结构化字段。
  • 审核绑定 SHA-256 摘要,发布只登记 DolphinScheduler 门禁,不自动执行 Hop 产物。