aliran tensor:: porsi:: ResourceTidak AmanLoader

#include <loader.h>

Sebuah Loader yang menyadari sumber daya.

Ringkasan

Its EstimateResources () kembali metode 0, sehingga secara efektif menonaktifkan pemeriksaan keamanan berbasis sumber daya dalam sistem melayani.

Loader yang eksperimental, atau berjalan di lingkungan yang tidak memerlukan pemeriksaan keamanan sumber daya, dapat subclass ResourceUnsafeLoader bukan Loader .

Warisan

Mewarisi dari: tensorflow :: melayani :: Loader

Fungsi publik

EstimateResources (ResourceAllocation *estimate) const final
virtual Status
Memperkirakan sumber daya yang akan digunakan oleh servable.

Fungsi publik

PerkirakanSumber Daya

virtual Status EstimateResources(
  ResourceAllocation *estimate
) const final

Memperkirakan sumber daya yang akan digunakan oleh servable.

PENTING: Implementasi metode ini harus mematuhi persyaratan berikut, yang memungkinkan sistem penyajian untuk mempertimbangkan dengan benar tentang server mana yang dapat dimuat dengan aman:

  1. Estimasi harus mewakili batas atas pada nilai sebenarnya.
  2. Sebelum memuat, perkiraan dapat mencakup sumber daya yang tidak terikat pada instans perangkat tertentu, misalnya RAM pada salah satu dari dua GPU.
  3. Saat dimuat, untuk perangkat apa pun dengan beberapa instans (misalnya dua GPU), perkiraan harus menentukan instans yang terikat dengan setiap sumber daya.
  4. Estimasi harus monoton tidak meningkat, yaitu tidak dapat meningkat dari waktu ke waktu. Alasan untuk membuatnya berpotensi berkurang seiring waktu Kembali
    perkiraan sumber daya yang akan dikonsumsi oleh server setelah dimuat. Jika servable telah dimuat, mengembalikan perkiraan penggunaan sumber daya yang sebenarnya.