Le composant BulkInferrer TFX effectue une inférence par lots sur des données non étiquetées. Le InferenceResult généré ( tensorflow_serving.apis.prediction_log_pb2.PredictionLog ) contient les éléments d' origine et les résultats de la prédiction.
BulkInferrer consomme :
- Un modèle formé à SavedModel format.
- tf non étiqueté.Exemples qui contiennent des fonctionnalités.
- (Facultatif) Validation résultat de Evaluator composant.
BulkInferrer émet :
Utilisation du composant BulkInferrer
Un composant BulkInferrer TFX est utilisé pour effectuer une inférence par lots sur des tf.Examples non étiquetés. Il est généralement déployé après une Evaluator composante pour effectuer l' inférence avec un modèle validé, ou après un formateur composant à effectuer directement l' inférence sur le modèle exporté.
Il effectue actuellement une inférence de modèle en mémoire et une inférence à distance. L'inférence à distance nécessite que le modèle soit hébergé sur Cloud AI Platform.
Le code typique ressemble à ceci :
bulk_inferrer = BulkInferrer(
examples=examples_gen.outputs['examples'],
model=trainer.outputs['model'],
model_blessing=evaluator.outputs['blessing'],
data_spec=bulk_inferrer_pb2.DataSpec(),
model_spec=bulk_inferrer_pb2.ModelSpec()
)
Plus de détails sont disponibles dans la référence API BulkInferrer .