Il componente BulkInferrer TFX esegue l'inferenza batch sui dati senza etichetta. InferenceResult generato ( tensorflow_serving.apis.prediction_log_pb2.PredictionLog ) contiene le caratteristiche originali ei risultati della previsione.
BulkInferrer consuma:
- Un modello addestrato in formato SavedModel .
- Esempi di tf senza etichetta che contengono funzioni.
- (Facoltativo) Risultato della convalida dal componente Evaluator .
BulkInferrer emette:
Utilizzo del componente BulkInferrer
Un componente TFX BulkInferrer viene utilizzato per eseguire l'inferenza batch su tf.Examples senza etichetta. Viene in genere distribuito dopo un componente Evaluator per eseguire l'inferenza con un modello convalidato o dopo un componente Trainer per eseguire direttamente l'inferenza sul modello esportato.
Attualmente esegue l'inferenza del modello in memoria e l'inferenza remota. L'inferenza remota richiede che il modello sia ospitato su Cloud AI Platform.
Il codice tipico ha questo aspetto:
bulk_inferrer = BulkInferrer(
examples=examples_gen.outputs['examples'],
model=trainer.outputs['model'],
model_blessing=evaluator.outputs['blessing'],
data_spec=bulk_inferrer_pb2.DataSpec(),
model_spec=bulk_inferrer_pb2.ModelSpec()
)
Maggiori dettagli sono disponibili nel riferimento API BulkInferrer .