GpuDelegateFactory.Options

kelas statis publik GpuDelegateFactory.Options
Subkelas Langsung yang Diketahui

Pilihan delegasi.

Kelas Bersarang

enum GpuDelegateFactory.Options.GpuBackend Backend GPU mana yang harus dipilih.

Konstanta

ke dalam INFERENCE_PREFERENCE_FAST_SINGLE_ANSWER Delegasi hanya akan digunakan sekali, oleh karena itu, waktu bootstrap/init harus diperhitungkan.
ke dalam INFERENCE_PREFERENCE_SUSTAINED_SPEED Lebih suka memaksimalkan throughput.

Konstruktor Publik

Pilihan ()

Metode Publik

boolean
GpuDelegateFactory.Options.GpuBackend
ke dalam
Rangkaian
Rangkaian
boolean
GPUDelegateFactory.Opsi
setForceBackend ( GpuDelegateFactory.Options.GpuBackend forceBackend)
Mengatur Backend GPU.
GPUDelegateFactory.Opsi
setInferencePreference (preferensi int)
Menetapkan preferensi inferensi untuk pengorbanan presisi/kompilasi/waktu proses.
GPUDelegateFactory.Opsi
setPrecisionLossAllowed (boolean presisiLossAllowed)
Menyetel apakah kehilangan presisi diperbolehkan.
GPUDelegateFactory.Opsi
setQuantizedModelsAllowed (boolean quantizedModelsAllowed)
Memungkinkan menjalankan model terkuantisasi dengan delegasi.
GPUDelegateFactory.Opsi
setSerializationParams ( String serializationDir, String modelToken)
Mengaktifkan serialisasi pada delegasi.

Metode Warisan

Konstanta

int akhir statis publik INFERENCE_PREFERENCE_FAST_SINGLE_ANSWER

Delegasi hanya akan digunakan sekali, oleh karena itu, waktu bootstrap/init harus diperhitungkan.

Nilai Konstan: 0

int akhir statis publik INFERENCE_PREFERENCE_SUSTAINED_SPEED

Lebih suka memaksimalkan throughput. Delegasi yang sama akan digunakan berulang kali pada banyak input.

Nilai Konstan: 1

Konstruktor Publik

Opsi publik ()

Metode Publik

boolean publik areQuantizedModelsAllowed ()

publik GpuDelegateFactory.Options.GpuBackend getForceBackend ()

int publik getInferencePreference ()

String publik getModelToken ()

String publik getSerializationDir ()

boolean publik isPrecisionLossAllowed ()

publik GpuDelegateFactory.Options setForceBackend ( GpuDelegateFactory.Options.GpuBackend forceBackend)

Mengatur Backend GPU.

Parameter
kekuatanBackend

GpuDelegateFactory.Options setInferencePreference publik (preferensi int)

Menetapkan preferensi inferensi untuk pengorbanan presisi/kompilasi/waktu proses.

Parameter
preferensi Salah satu dari `INFERENCE_PREFERENCE_FAST_SINGLE_ANSWER` (default), `INFERENCE_PREFERENCE_SUSTAINED_SPEED`.

GpuDelegateFactory.Options setPrecisionLossAllowed publik (boolean PrecisionLossAllowed)

Menyetel apakah kehilangan presisi diperbolehkan.

Parameter
presisiLossAllowed Jika `true` (default), GPU dapat mengukur tensor, nilai downcast, proses di FP16. Jika `false`, komputasi dilakukan dalam floating point 32-bit.

GpuDelegateFactory.Options setQuantizedModelsAllowed (boolean quantizedModelsAllowed)

Memungkinkan menjalankan model terkuantisasi dengan delegasi.

PERINGATAN: Ini adalah API eksperimental dan dapat berubah.

Parameter
Model terkuantisasi Diizinkan Jika true (default), GPU dapat menjalankan model terkuantisasi.

GpuDelegateFactory.Options setSerializationParams publik ( String serializationDir, String modelToken)

Mengaktifkan serialisasi pada delegasi. Catatan serializationDir dan modelToken non-null diperlukan untuk serialisasi.

PERINGATAN: Ini adalah API eksperimental dan dapat berubah.

Parameter
serialisasiDir Direktori yang digunakan untuk menyimpan data. Penelepon bertanggung jawab untuk memastikan model tidak disimpan di direktori publik. Disarankan untuk menggunakan Context.getCodeCacheDir() untuk menyediakan lokasi pribadi untuk aplikasi di Android.
modelToken Token yang akan digunakan untuk mengidentifikasi model. Penelepon bertanggung jawab untuk memastikan token tersebut unik untuk grafik model dan data.