Организация конвейеров TFX

Трубопроводы Kubeflow

Kubeflow — это платформа машинного обучения с открытым исходным кодом, призванная сделать развертывание рабочих процессов машинного обучения (ML) в Kubernetes простым, портативным и масштабируемым. Kubeflow Pipelines — это часть платформы Kubeflow, которая позволяет создавать и выполнять воспроизводимые рабочие процессы на Kubeflow, интегрированные с экспериментами и опытом на базе ноутбуков. Службы Kubeflow Pipelines в Kubernetes включают размещенное хранилище метаданных, механизм оркестрации на основе контейнеров, сервер ноутбуков и пользовательский интерфейс, которые помогают пользователям разрабатывать, запускать и управлять сложными конвейерами машинного обучения в любом масштабе. SDK Kubeflow Pipelines позволяет программно создавать и совместно использовать компоненты, композиции и конвейеры.

См. пример TFX на Kubeflow Pipelines для получения подробной информации о запуске TFX в масштабе в облаке Google.