Składnik BulkInferrer TFX wykonuje wnioskowanie wsadowe na danych nieoznakowanych. Wygenerowany wynik InferenceResult ( tensorflow_serving.apis.prediction_log_pb2.PredictionLog ) zawiera oryginalne funkcje i wyniki prognoz.
BulkInferrer zużywa:
- Wytrenowany model w formacie SavedModel .
- Nieoznaczone tf. Przykłady, które zawierają funkcje.
- (Opcjonalnie) Wynik walidacji z komponentu Ewaluator .
BulkInferrer emituje:
Korzystanie ze składnika BulkInferrer
Składnik BulkInferrer TFX jest używany do wykonywania wnioskowania wsadowego na nieoznaczonych tf. Przykłady. Zwykle jest wdrażany po komponencie ewaluatora w celu wykonania wnioskowania z zweryfikowanym modelem lub po komponencie Trainer w celu bezpośredniego wykonania wnioskowania na wyeksportowanym modelu.
Obecnie wykonuje wnioskowanie modelu w pamięci i wnioskowanie zdalne. Zdalne wnioskowanie wymaga hostowania modelu na Cloud AI Platform.
Typowy kod wygląda następująco:
from tfx import components
...
bulk_inferrer = components.BulkInferrer(
examples=examples_gen.outputs['examples'],
model=trainer.outputs['model'],
model_blessing=evaluator.outputs['blessing'],
data_spec=bulk_inferrer_pb2.DataSpec(),
model_spec=bulk_inferrer_pb2.ModelSpec()
)
Więcej szczegółów można znaleźć w dokumentacji interfejsu API BulkInferrer .