编排 TFX 流水线

Apache Airflow

Apache Airflow 是一个支持以编程方式编写、调度和监控工作流的平台。TFX 可使用 Airflow 以任务的有向无环图 (DAG) 形式编写工作流。Airflow 调度器可在遵循指定依赖关系的情况下在一组工作进程上执行任务。丰富的命令行实用工具使在 DAG 上执行复杂的诊断变得轻而易举。丰富的用户界面使可视化生产中运行的流水线、监控进度以及在需要时排查问题变得简便易行。使用代码定义工作流,将有效提高工作流的可维护性、版本控制性、可测试性和协作性。

有关安装和使用 Apache Airflow 的详细信息,请参阅 Apache Airflow