Komponent rurociągu BulkInferrer TFX

Komponent BulkInferrer TFX wykonuje wnioskowanie wsadowe na danych bez etykiet. Wygenerowany wynik InferenceResult( tensorflow_serving.apis.prediction_log_pb2.PredictionLog ) zawiera oryginalne funkcje i wyniki przewidywania.

BulkInferrer zużywa:

  • Wyszkolony model w formacie SavedModel .
  • Bez etykiety tf. Przykłady zawierające funkcje.
  • (Opcjonalnie) Wynik walidacji z komponentu Evaluator .

BulkInferrer emituje:

Korzystanie ze składnika BulkInferrer

Komponent BulkInferrer TFX służy do wykonywania wnioskowania wsadowego na nieoznakowanych plikach tf.Examples. Zwykle jest wdrażany po komponencie ewaluacyjnym w celu przeprowadzenia wnioskowania na podstawie zweryfikowanego modelu lub po komponencie Trainer w celu bezpośredniego wnioskowania na temat wyeksportowanego modelu.

Obecnie wykonuje wnioskowanie o modelu w pamięci i wnioskowanie zdalne. Zdalne wnioskowanie wymaga, aby model był hostowany na platformie Cloud AI.

Typowy kod wygląda następująco:

bulk_inferrer = BulkInferrer(
    examples=examples_gen.outputs['examples'],
    model=trainer.outputs['model'],
    model_blessing=evaluator.outputs['blessing'],
    data_spec=bulk_inferrer_pb2.DataSpec(),
    model_spec=bulk_inferrer_pb2.ModelSpec()
)

Więcej szczegółów można znaleźć w dokumentacji interfejsu API BulkInferrer .