Thành phần BulkInferrer TFX thực hiện suy luận hàng loạt trên dữ liệu không được gắn nhãn. Các InferenceResult tạo ( tensorflow_serving.apis.prediction_log_pb2.PredictionLog ) chứa các tính năng độc đáo và kết quả dự đoán.
BulkInferrer tiêu thụ:
- Một mô hình đào tạo trong SavedModel định dạng.
- Tf không được gắn nhãn. Ví dụ có chứa các tính năng.
- (Không bắt buộc) Validation kết quả từ Evaluator phần.
BulkInferrer phát ra:
Sử dụng thành phần BulkInferrer
Một thành phần BulkInferrer TFX được sử dụng để thực hiện suy luận hàng loạt trên tf.Examples không được gắn nhãn. Nó thường được triển khai sau khi một Evaluator thành phần để thực hiện các suy luận với một mô hình xác nhận, hoặc sau một Trainer thành phần để trực tiếp thực hiện suy luận trên mô hình xuất khẩu.
Nó hiện thực hiện suy luận mô hình trong bộ nhớ và suy luận từ xa. Suy luận từ xa yêu cầu mô hình phải được lưu trữ trên Nền tảng AI của đám mây.
Mã điển hình trông như thế này:
bulk_inferrer = BulkInferrer(
examples=examples_gen.outputs['examples'],
model=trainer.outputs['model'],
model_blessing=evaluator.outputs['blessing'],
data_spec=bulk_inferrer_pb2.DataSpec(),
model_spec=bulk_inferrer_pb2.ModelSpec()
)
Thông tin chi tiết có sẵn trong các tài liệu tham khảo BulkInferrer API .