TensorFlow Extended (TFX) est une plate-forme de bout en bout, conçue pour permettre le déploiement de pipelines de machine learning en production

TensorFlow Data Validation (TFDV) permet aux développeurs de comprendre, de valider et de suivre leurs données de machine learning à grande échelle. TFDV est utilisé par Google pour analyser et valider des pétaoctets de données chaque jour et a démontré sa capacité à aider les utilisateurs de TFX à assurer le bon fonctionnement de leurs pipelines de machine learning.

Lorsqu'on applique le machine learning à des ensembles de données issus du monde réel, des efforts importants sont requis afin de préparer ces données et de les structurer sous un format exploitable. Ceci inclut des conversions d'un format à l'autre, la séparation des paragraphes en phrases ou des phrases en mots (tokenisation), la réduction des mots à leur racine (stemming), la formation de vocabulaires ainsi que différentes opérations numériques, dont la normalisation. Tout ceci peut être effectué avec tf.Transform.

TensorFlow Model Analysis (TFMA) permet aux développeurs de calculer et de visualiser des métriques d'évaluation pour leurs modèles. Avant tout déploiement d'un modèle de machine learning, les développeurs travaillant dans ce domaine doivent évaluer la performance de ce modèle pour s'assurer qu'il répond à des critères de qualité précis et fonctionne correctement pour toutes les tranches de données étudiées. Il peut arriver, par exemple, qu'un modèle affiche un AUC acceptable pour un ensemble de données d'évaluation de façon globale, mais qu'il présente des problèmes de performances sur des tranches spécifiques. Avec TFMA, les développeurs disposent des outils nécessaires pour analyser en profondeur les performances d'un modèle.

Les systèmes d'inférence de machine learning doivent permettre d'assurer la gestion des versions de modèles (pour les mises à jour de ceux-ci avec option de rollback) et la gestion de modèles multiples (pour les tests A/B) tout en permettant à plusieurs modèles d'afficher simultanément des débits élevés sur les unités d'accélération matérielle (GPU et TPU) avec une latence faible. TensorFlow Serving a montré sa capacité à gérer des dizaines de millions d'inférences par secondes chez Google.