tensör akışı:: hizmet veren:: KaynakGüvensizYükleyici

#include <loader.h>

Bir Loader kaynaklara habersiz.

Özet

Bu EstimateResources () metodu döner 0, böylece etkili bir şekilde hizmet sisteminde kaynak bazlı güvenlik kontrolleri devre dışı bırakılması.

Deneysel veya kaynak güvenlik kontrolleri gerekmez ortamlarda çalışacak olan Yükleyiciler, alt sınıf ResourceUnsafeLoader yerine Loader .

Miras

Dan devralır: tensorflow :: hizmet :: Loader

Kamu işlevleri

EstimateResources (ResourceAllocation *estimate) const final
virtual Status
Yayınlanabilir bir öğenin kullanacağı kaynakları tahmin eder.

Kamu işlevleri

TahminiKaynaklar

virtual Status EstimateResources(
  ResourceAllocation *estimate
) const final

Yayınlanabilir bir öğenin kullanacağı kaynakları tahmin eder.

ÖNEMLİ: Bu yöntemin uygulanması, hizmet veren sistemin hangi hizmet verilebilir öğelerin güvenli bir şekilde yüklenebileceği konusunda doğru şekilde akıl yürütmesini sağlayan aşağıdaki gereksinimlere uymalıdır:

  1. Tahmin, gerçek değer üzerinde bir üst sınırı temsil etmelidir.
  2. Yüklemeden önce tahmin, herhangi bir belirli cihaz örneğine bağlı olmayan kaynakları, örneğin iki GPU'dan birindeki RAM'i içerebilir.
  3. Yüklenirken, birden çok örneğe (örneğin iki GPU) sahip herhangi bir cihaz için tahmin, her kaynağın bağlı olduğu örneği belirtmelidir.
  4. Tahmin monoton olarak artmayan olmalıdır, yani zamanla artamaz. Potansiyel olarak zamanla azalmasının nedenleri İadeler
    hizmetin yüklendikten sonra tüketeceği kaynakların tahmini. Sunulabilir öğe zaten yüklenmişse, gerçek kaynak kullanımının bir tahminini döndürür.