ML Community Day è il 9 novembre! Unisciti a noi per gli aggiornamenti da tensorflow, JAX, e più Per saperne di più

Il componente della pipeline TFX BulkInferrer

Il componente BulkInferrer TFX esegue l'inferenza batch sui dati senza etichetta. InferenceResult generato ( tensorflow_serving.apis.prediction_log_pb2.PredictionLog ) contiene le caratteristiche originali ei risultati della previsione.

BulkInferrer consuma:

  • Un modello addestrato in formato SavedModel .
  • Esempi di tf senza etichetta che contengono funzioni.
  • (Facoltativo) Risultato della convalida dal componente Evaluator .

BulkInferrer emette:

Utilizzo del componente BulkInferrer

Un componente TFX BulkInferrer viene utilizzato per eseguire l'inferenza batch su tf.Examples senza etichetta. Viene in genere distribuito dopo un componente Evaluator per eseguire l'inferenza con un modello convalidato o dopo un componente Trainer per eseguire direttamente l'inferenza sul modello esportato.

Attualmente esegue l'inferenza del modello in memoria e l'inferenza remota. L'inferenza remota richiede che il modello sia ospitato su Cloud AI Platform.

Il codice tipico ha questo aspetto:

bulk_inferrer = BulkInferrer(
    examples=examples_gen.outputs['examples'],
    model=trainer.outputs['model'],
    model_blessing=evaluator.outputs['blessing'],
    data_spec=bulk_inferrer_pb2.DataSpec(),
    model_spec=bulk_inferrer_pb2.ModelSpec()
)

Maggiori dettagli sono disponibili nel riferimento API BulkInferrer .