Składnik BulkInferrer TFX wykonuje wnioskowanie wsadowe na danych nieoznaczonych. Wytworzona InferenceResult ( tensorflow_serving.apis.prediction_log_pb2.PredictionLog ) zawiera oryginalne cechy oraz wyniki predykcji.
BulkInferrer zużywa:
- Wyszkolony model SavedModel formacie.
- Nieoznakowane tf.Przykłady zawierające funkcje.
- (Opcjonalnie) Walidacja wynikać z Evaluator komponentu.
BulkInferrer emituje:
Korzystanie z komponentu BulkInferrer
Składnik BulkInferrer TFX służy do wnioskowania wsadowego na nieoznakowanych plikach tf.Examples. Jest to zazwyczaj rozmieszczone po Evaluator komponentu wykonać wnioskowanie z ustalonym modelu, lub po Trainer komponentu bezpośrednio przeprowadzić wnioskowanie na eksportowanego modelu.
Obecnie wykonuje wnioskowanie modelu w pamięci i wnioskowanie zdalne. Zdalne wnioskowanie wymaga, aby model był hostowany w Cloud AI Platform.
Typowy kod wygląda tak:
bulk_inferrer = BulkInferrer(
examples=examples_gen.outputs['examples'],
model=trainer.outputs['model'],
model_blessing=evaluator.outputs['blessing'],
data_spec=bulk_inferrer_pb2.DataSpec(),
model_spec=bulk_inferrer_pb2.ModelSpec()
)
Więcej szczegółów można znaleźć w nawiązaniu BulkInferrer API .