Компонент BulkInferrer TFX выполняет пакетный вывод для немаркированных данных. Генерируется InferenceResult ( tensorflow_serving.apis.prediction_log_pb2.PredictionLog ) содержит исходные характеристики и результаты прогнозирования.
BulkInferrer потребляет:
- Подготовленная модель в SavedModel формате.
- Без метки tf.Examples, которые содержат функции.
- (Необязательно) Validation результатом Evaluator компонента.
BulkInferrer испускает:
Использование компонента BulkInferrer
Компонент BulkInferrer TFX используется для выполнения пакетного вывода для немаркированных tf.Examples. Он обычно устанавливается после Evaluator компоненты для выполнения логического вывода с проверенной моделью, или после того, как тренер компоненты непосредственно выполнять вывод на экспортируемых моделях.
В настоящее время он выполняет вывод модели в памяти и удаленный вывод. Для удаленного вывода требуется, чтобы модель размещалась на Cloud AI Platform.
Типичный код выглядит так:
bulk_inferrer = BulkInferrer(
examples=examples_gen.outputs['examples'],
model=trainer.outputs['model'],
model_blessing=evaluator.outputs['blessing'],
data_spec=bulk_inferrer_pb2.DataSpec(),
model_spec=bulk_inferrer_pb2.ModelSpec()
)
Более подробная информация доступна в справочнике BulkInferrer API .