Компонент конвейера TFX BulkInferrer

Компонент BulkInferrer TFX выполняет пакетный вывод для немаркированных данных. Генерируется InferenceResult ( tensorflow_serving.apis.prediction_log_pb2.PredictionLog ) содержит исходные характеристики и результаты прогнозирования.

BulkInferrer потребляет:

  • Подготовленная модель в SavedModel формате.
  • Без метки tf.Examples, которые содержат функции.
  • (Необязательно) Validation результатом Evaluator компонента.

BulkInferrer испускает:

Использование компонента BulkInferrer

Компонент BulkInferrer TFX используется для выполнения пакетного вывода для немаркированных tf.Examples. Он обычно устанавливается после Evaluator компоненты для выполнения логического вывода с проверенной моделью, или после того, как тренер компоненты непосредственно выполнять вывод на экспортируемых моделях.

В настоящее время он выполняет вывод модели в памяти и удаленный вывод. Для удаленного вывода требуется, чтобы модель размещалась на Cloud AI Platform.

Типичный код выглядит так:

bulk_inferrer = BulkInferrer(
    examples=examples_gen.outputs['examples'],
    model=trainer.outputs['model'],
    model_blessing=evaluator.outputs['blessing'],
    data_spec=bulk_inferrer_pb2.DataSpec(),
    model_spec=bulk_inferrer_pb2.ModelSpec()
)

Более подробная информация доступна в справочнике BulkInferrer API .