Subkelas Langsung yang Diketahui |
Pilihan delegasi.
Kelas Bersarang
enum | GpuDelegateFactory.Options.GpuBackend | Backend GPU mana yang harus dipilih. |
Konstanta
ke dalam | INFERENCE_PREFERENCE_FAST_SINGLE_ANSWER | Delegasi hanya akan digunakan sekali, oleh karena itu, waktu bootstrap/init harus diperhitungkan. |
ke dalam | INFERENCE_PREFERENCE_SUSTAINED_SPEED | Lebih suka memaksimalkan throughput. |
Konstruktor Publik
Pilihan () |
Metode Publik
boolean | |
GpuDelegateFactory.Options.GpuBackend | |
ke dalam | |
Rangkaian | |
Rangkaian | |
boolean | |
GPUDelegateFactory.Opsi | |
GPUDelegateFactory.Opsi | setInferencePreference (preferensi int) Menetapkan preferensi inferensi untuk pengorbanan presisi/kompilasi/waktu proses. |
GPUDelegateFactory.Opsi | setPrecisionLossAllowed (boolean presisiLossAllowed) Menyetel apakah kehilangan presisi diperbolehkan. |
GPUDelegateFactory.Opsi | setQuantizedModelsAllowed (boolean quantizedModelsAllowed) Memungkinkan menjalankan model terkuantisasi dengan delegasi. |
GPUDelegateFactory.Opsi | setSerializationParams ( String serializationDir, String modelToken) Mengaktifkan serialisasi pada delegasi. |
Metode Warisan
Konstanta
int akhir statis publik INFERENCE_PREFERENCE_FAST_SINGLE_ANSWER
Delegasi hanya akan digunakan sekali, oleh karena itu, waktu bootstrap/init harus diperhitungkan.
int akhir statis publik INFERENCE_PREFERENCE_SUSTAINED_SPEED
Lebih suka memaksimalkan throughput. Delegasi yang sama akan digunakan berulang kali pada banyak input.
Konstruktor Publik
Opsi publik ()
Metode Publik
boolean publik areQuantizedModelsAllowed ()
int publik getInferencePreference ()
boolean publik isPrecisionLossAllowed ()
publik GpuDelegateFactory.Options setForceBackend ( GpuDelegateFactory.Options.GpuBackend forceBackend)
Mengatur Backend GPU.
Parameter
kekuatanBackend |
---|
GpuDelegateFactory.Options setInferencePreference publik (preferensi int)
Menetapkan preferensi inferensi untuk pengorbanan presisi/kompilasi/waktu proses.
Parameter
preferensi | Salah satu dari `INFERENCE_PREFERENCE_FAST_SINGLE_ANSWER` (default), `INFERENCE_PREFERENCE_SUSTAINED_SPEED`. |
---|
GpuDelegateFactory.Options setPrecisionLossAllowed publik (boolean PrecisionLossAllowed)
Menyetel apakah kehilangan presisi diperbolehkan.
Parameter
presisiLossAllowed | Jika `true` (default), GPU dapat mengukur tensor, nilai downcast, proses di FP16. Jika `false`, komputasi dilakukan dalam floating point 32-bit. |
---|
GpuDelegateFactory.Options setQuantizedModelsAllowed (boolean quantizedModelsAllowed)
Memungkinkan menjalankan model terkuantisasi dengan delegasi.
PERINGATAN: Ini adalah API eksperimental dan dapat berubah.
Parameter
Model terkuantisasi Diizinkan | Jika true (default), GPU dapat menjalankan model terkuantisasi. |
---|
GpuDelegateFactory.Options setSerializationParams publik ( String serializationDir, String modelToken)
Mengaktifkan serialisasi pada delegasi. Catatan serializationDir
dan modelToken
non-null diperlukan untuk serialisasi.
PERINGATAN: Ini adalah API eksperimental dan dapat berubah.
Parameter
serialisasiDir | Direktori yang digunakan untuk menyimpan data. Penelepon bertanggung jawab untuk memastikan model tidak disimpan di direktori publik. Disarankan untuk menggunakan Context.getCodeCacheDir() untuk menyediakan lokasi pribadi untuk aplikasi di Android. |
---|---|
modelToken | Token yang akan digunakan untuk mengidentifikasi model. Penelepon bertanggung jawab untuk memastikan token tersebut unik untuk grafik model dan data. |