BulkInferrer TFX bileşeni, etiketlenmemiş veriler üzerinde toplu çıkarım gerçekleştirir. Oluşturulan InferenceResult ( tensorflow_serving.apis.prediction_log_pb2.PredictionLog ) özgün özellikleri ve tahmin sonuçlarını içerir.
BulkInferrer şunları tüketir:
- A eğitimli modeli SavedModel formatında.
- Özellik içeren etiketlenmemiş tf.Örnekler.
- (İsteğe bağlı) Doğrulama sonucu Değerlendirici bileşeni.
BulkInferrer şunları yayar:
BulkInferrer Bileşenini Kullanma
Etiketlenmemiş tf.Örnekler üzerinde toplu çıkarım gerçekleştirmek için bir BulkInferrer TFX bileşeni kullanılır. Genellikle sonrası dağıtıldığı Değerlendirici doğrulanmış modelle çıkarım gerçekleştirmek için bileşen veya sonrasında Eğitmen için bileşen doğrudan ihraç modeline çıkarım gerçekleştirin.
Şu anda bellek içi model çıkarımı ve uzaktan çıkarım gerçekleştirir. Uzaktan çıkarım, modelin Cloud AI Platform'da barındırılmasını gerektirir.
Tipik kod şöyle görünür:
bulk_inferrer = BulkInferrer(
examples=examples_gen.outputs['examples'],
model=trainer.outputs['model'],
model_blessing=evaluator.outputs['blessing'],
data_spec=bulk_inferrer_pb2.DataSpec(),
model_spec=bulk_inferrer_pb2.ModelSpec()
)
Daha fazla detay mevcuttur BulkInferrer API başvurusu .