Treten Sie der SIG TFX-Addons-Community bei und helfen Sie mit, TFX noch besser zu machen! SIG TFX-Addons beitreten

Die BulkInferrer TFX-Pipeline-Komponente

Die BulkInferrer TFX-Komponente führt eine Batch-Inferenz für unbeschriftete Daten durch. Das generierte InferenceResult ( tensorflow_serving.apis.prediction_log_pb2.PredictionLog ) enthält die ursprünglichen Features und die Vorhersageergebnisse.

BulkInferrer verbraucht:

  • Ein trainiertes Modell im SavedModel- Format.
  • Unbeschriftete tf.Beispiele, die Features enthalten.
  • (Optional) Validierungsergebnis von der Evaluator- Komponente.

BulkInferrer gibt Folgendes aus:

Verwenden der BulkInferrer-Komponente

Eine BulkInferrer TFX-Komponente wird verwendet, um eine Batch-Inferenz für unbeschriftete tf.Examples durchzuführen. Es wird normalerweise nach einer Evaluator- Komponente bereitgestellt, um eine Inferenz mit einem validierten Modell durchzuführen, oder nach einer Trainer- Komponente, um eine Inferenz direkt auf ein exportiertes Modell durchzuführen.

Derzeit werden In-Memory-Modellinferenzen und Remote-Inferenzen durchgeführt. Für Remote-Inferenz muss das Modell auf der Cloud AI-Plattform gehostet werden.

Typischer Code sieht folgendermaßen aus:

bulk_inferrer = BulkInferrer(
    examples=examples_gen.outputs['examples'],
    model=trainer.outputs['model'],
    model_blessing=evaluator.outputs['blessing'],
    data_spec=bulk_inferrer_pb2.DataSpec(),
    model_spec=bulk_inferrer_pb2.ModelSpec()
)

Weitere Informationen finden Sie in der BulkInferrer-API-Referenz .