El componente BulkInferrer TFX realiza inferencias por lotes en datos no etiquetados. El InferenceResult generado ( tensorflow_serving.apis.prediction_log_pb2.PredictionLog ) contiene las características originales y los resultados de predicción.
BulkInferrer consume:
- Un modelo entrenado en SavedModel formato.
- Tf sin etiquetar. Ejemplos que contienen características.
- (Opcional) Validación resultado de Evaluador componente.
BulkInferrer emite:
Uso del componente BulkInferrer
Se utiliza un componente BulkInferrer TFX para realizar inferencias por lotes en tf sin etiqueta. Por lo general se despliega después de un evaluador de componentes para realizar inferencia con un modelo validado, o después de un entrenador componente para realizar directamente la inferencia en el modelo exportado.
Actualmente realiza inferencias de modelos en memoria e inferencias remotas. La inferencia remota requiere que el modelo esté alojado en Cloud AI Platform.
El código típico tiene este aspecto:
bulk_inferrer = BulkInferrer(
examples=examples_gen.outputs['examples'],
model=trainer.outputs['model'],
model_blessing=evaluator.outputs['blessing'],
data_spec=bulk_inferrer_pb2.DataSpec(),
model_spec=bulk_inferrer_pb2.ModelSpec()
)
Más detalles están disponibles en la referencia de la API BulkInferrer .