Komponent BulkInferrer TFX wykonuje wnioskowanie wsadowe na danych nieoznakowanych. Wygenerowany wynik InferenceResult ( tensorflow_serving.apis.prediction_log_pb2.PredictionLog ) zawiera oryginalne funkcje i wyniki prognoz.
BulkInferrer zużywa:
- Wytrenowany model w formacie SavedModel .
- Nieoznaczone tf. Przykłady, które zawierają funkcje.
- (Opcjonalnie) Wynik walidacji z komponentu Ewaluator .
BulkInferrer emituje:
Korzystanie ze składnika BulkInferrer
Składnik BulkInferrer TFX służy do wnioskowania wsadowego na nieoznakowanych tf. Przykłady. Zwykle jest wdrażany po komponencie ewaluatora , aby wykonać wnioskowanie z zweryfikowanym modelem lub po komponencie Trainer , aby bezpośrednio wykonać wnioskowanie na wyeksportowanym modelu.
Obecnie wykonuje wnioskowanie modelu w pamięci i wnioskowanie zdalne. Zdalne wnioskowanie wymaga hostowania modelu na Cloud AI Platform.
Typowy kod wygląda następująco:
bulk_inferrer = BulkInferrer(
examples=examples_gen.outputs['examples'],
model=trainer.outputs['model'],
model_blessing=evaluator.outputs['blessing'],
data_spec=bulk_inferrer_pb2.DataSpec(),
model_spec=bulk_inferrer_pb2.ModelSpec()
)
Więcej szczegółów można znaleźć w dokumentacji interfejsu API BulkInferrer .