Dołącz do społeczności SIG TFX-Addons i pomóż ulepszyć TFX! Dołącz do dodatków SIG TFX

Komponent BulkInferrer TFX Pipeline

Komponent BulkInferrer TFX wykonuje wnioskowanie wsadowe na danych nieoznakowanych. Wygenerowany wynik InferenceResult ( tensorflow_serving.apis.prediction_log_pb2.PredictionLog ) zawiera oryginalne funkcje i wyniki prognoz.

BulkInferrer zużywa:

  • Wytrenowany model w formacie SavedModel .
  • Nieoznaczone tf. Przykłady, które zawierają funkcje.
  • (Opcjonalnie) Wynik walidacji z komponentu Ewaluator .

BulkInferrer emituje:

Korzystanie ze składnika BulkInferrer

Składnik BulkInferrer TFX służy do wnioskowania wsadowego na nieoznakowanych tf. Przykłady. Zwykle jest wdrażany po komponencie ewaluatora , aby wykonać wnioskowanie z zweryfikowanym modelem lub po komponencie Trainer , aby bezpośrednio wykonać wnioskowanie na wyeksportowanym modelu.

Obecnie wykonuje wnioskowanie modelu w pamięci i wnioskowanie zdalne. Zdalne wnioskowanie wymaga hostowania modelu na Cloud AI Platform.

Typowy kod wygląda następująco:

bulk_inferrer = BulkInferrer(
    examples=examples_gen.outputs['examples'],
    model=trainer.outputs['model'],
    model_blessing=evaluator.outputs['blessing'],
    data_spec=bulk_inferrer_pb2.DataSpec(),
    model_spec=bulk_inferrer_pb2.ModelSpec()
)

Więcej szczegółów można znaleźć w dokumentacji interfejsu API BulkInferrer .