Il componente BulkInferrer TFX esegue l'inferenza batch su dati senza etichetta. L'InferenceResult generato ( tensorflow_serving.apis.prediction_log_pb2.PredictionLog ) contiene le caratteristiche originali e dei risultati di previsione.
BulkInferrer consuma:
- Un modello addestrato in SavedModel formato.
- tf senza etichetta.Esempi che contengono caratteristiche.
- (Facoltativa) convalida il risultato di Evaluator componente.
BulkInferrer emette:
Utilizzo del componente BulkInferrer
Un componente BulkInferrer TFX viene utilizzato per eseguire l'inferenza batch su tf.Examples senza etichetta. E 'tipicamente implementata dopo un Valutatore componente per eseguire l'inferenza con un modello convalidato, o dopo un Trainer componente di eseguire direttamente l'inferenza sul modello esportato.
Attualmente esegue l'inferenza del modello in memoria e l'inferenza remota. L'inferenza remota richiede che il modello sia ospitato su Cloud AI Platform.
Il codice tipico è simile a questo:
bulk_inferrer = BulkInferrer(
examples=examples_gen.outputs['examples'],
model=trainer.outputs['model'],
model_blessing=evaluator.outputs['blessing'],
data_spec=bulk_inferrer_pb2.DataSpec(),
model_spec=bulk_inferrer_pb2.ModelSpec()
)
Maggiori dettagli sono disponibili nel riferimento BulkInferrer API .