Một lớp tùy chọn để kiểm soát hành vi của trình thông dịch thời gian chạy.
Nhà thầu công cộng
Tùy chọn () | |
Tùy chọn ( tùy chọn InterpreterApi.Options ) |
Phương thức công cộng
Thông dịch viên.Tùy chọn | addDelegate ( Đại biểu đại biểu) Thêm một Delegate sẽ được áp dụng trong quá trình tạo trình thông dịch. |
Thông dịch viên.Tùy chọn | addDelegateFactory ( DelegateFactory delegateFactory) Thêm một DelegateFactory sẽ được gọi để áp dụng Delegate đã tạo của nó trong quá trình tạo trình thông dịch. |
Thông dịch viên.Tùy chọn | setAllowBufferHandleOutput (cho phép boolean) Nâng cao: Đặt nếu đầu ra xử lý bộ đệm được cho phép. |
Thông dịch viên.Tùy chọn | setAllowFp16PrecisionForFp32 (cho phép boolean) Phương pháp này không được chấp nhận. Thích sử dụng NnApiDelegate.Options#setAllowFp16(boolean enable) . |
Thông dịch viên.Tùy chọn | setCancellable (cho phép boolean) Nâng cao: Đặt nếu có thể hủy trình thông dịch. |
Thông dịch viên.Tùy chọn | setNumThreads (int numThreads) Đặt số luồng sẽ được sử dụng cho các hoạt động hỗ trợ đa luồng. |
Thông dịch viên.Tùy chọn | setRuntime ( Thời gian chạy phiên dịch viênApi.Options.TfLiteRuntime) Chỉ định nơi triển khai thời gian chạy TF Lite. |
Thông dịch viên.Tùy chọn | setUseNNAPI (boolean useNNAPI) Đặt xem có sử dụng NN API (nếu có) để thực thi op hay không. |
Thông dịch viên.Tùy chọn | setUseXNNPACK (boolean useXNNPACK) Thử nghiệm: Vô hiệu hóa bộ nhân CPU được tối ưu hóa (do XNNPACK cung cấp). |
Phương thức kế thừa
Nhà thầu công cộng
Tùy chọn công khai ()
Phương thức công cộng
phiên dịch viên công cộng . Tùy chọn thêm Đại biểu ( Đại biểu đại biểu)
Thêm một Delegate
sẽ được áp dụng trong quá trình tạo trình thông dịch.
Các đại biểu được thêm vào đây được áp dụng trước bất kỳ đại biểu nào được tạo từ một DelegateFactory
đã được thêm bằng addDelegateFactory(DelegateFactory)
.
Lưu ý rằng TF Lite trong Dịch vụ của Google Play (xem setRuntime(InterpreterApi.Options.TfLiteRuntime)
) không hỗ trợ đại biểu bên ngoài (do nhà phát triển cung cấp) và việc thêm Delegate
không phải là ERROR(/NnApiDelegate)
tại đây không được phép khi sử dụng TF Lite trong Dịch vụ của Google Play.
Thông số
đại biểu |
---|
Thông dịch viên công khai . Tùy chọn addDelegateFactory ( DelegateFactory delegateFactory)
Thêm một DelegateFactory
sẽ được gọi để áp dụng Delegate
đã tạo của nó trong quá trình tạo trình thông dịch.
Các đại biểu từ một nhà máy được ủy quyền đã được thêm vào đây sẽ được áp dụng sau khi bất kỳ đại biểu nào được thêm bằng addDelegate(Delegate)
.
Thông số
đại biểuFactory |
---|
phiên dịch công khai.Options setAllowBufferHandleOutput (cho phép boolean)
Nâng cao: Đặt nếu đầu ra xử lý bộ đệm được cho phép.
Khi một Delegate
hỗ trợ tăng tốc phần cứng, trình thông dịch sẽ cung cấp dữ liệu của tenxơ đầu ra trong bộ đệm tenxơ do CPU phân bổ theo mặc định. Nếu máy khách có thể sử dụng trực tiếp bộ xử lý bộ đệm (ví dụ: đọc đầu ra từ kết cấu OpenGL), thì nó có thể đặt cờ này thành false, tránh việc sao chép dữ liệu vào bộ đệm CPU. Tài liệu dành cho đại biểu phải cho biết liệu điều này có được hỗ trợ hay không và nó có thể được sử dụng như thế nào.
CẢNH BÁO: Đây là giao diện thử nghiệm có thể thay đổi.
Thông số
cho phép |
---|
Thông dịch viên công khai . Tùy chọn setAllowFp16PrecisionForFp32 (cho phép boolean)
Phương pháp này không được chấp nhận .
Thích sử dụng NnApiDelegate.Options#setAllowFp16(boolean enable) .
Đặt xem có cho phép độ chính xác của float16 để tính toán FP32 khi có thể hay không. Mặc định là sai (không cho phép).
Thông số
cho phép |
---|
phiên dịch công khai . Bộ tùy chọn có thể hủy (cho phép boolean)
Nâng cao: Đặt nếu có thể hủy trình thông dịch.
Trình thông dịch có thể có API thử nghiệm setCancelled(boolean) . Nếu trình thông dịch này có thể hủy được và một phương thức như vậy được gọi, cờ hủy sẽ được đặt thành true. Trình thông dịch sẽ kiểm tra cờ giữa các lệnh Op và nếu nó true
, trình thông dịch sẽ dừng thực thi. Trình thông dịch sẽ vẫn ở trạng thái bị hủy cho đến khi "không bị hủy" một cách rõ ràng bởi setCancelled(false)
.
Thông số
cho phép |
---|
phiên dịch công khai.Options setNumThreads (int numThreads)
Đặt số luồng sẽ được sử dụng cho các hoạt động hỗ trợ đa luồng.
numThreads
phải là >= -1
. Việc đặt numThreads
thành 0 có tác dụng vô hiệu hóa đa luồng, tương đương với việc đặt numThreads
thành 1. Nếu không được chỉ định hoặc được đặt thành giá trị -1, số lượng chuỗi được sử dụng sẽ được xác định theo cách triển khai và phụ thuộc vào nền tảng.
Thông số
numChủ đề |
---|
phiên dịch công khai.Options setRuntime ( Thời gian chạy phiên dịch viênApi.Options.TfLiteRuntime)
Chỉ định nơi triển khai thời gian chạy TF Lite.
Thông số
thời gian chạy |
---|
Thông dịch viên công khai . Tùy chọn setUseNNAPI (boolean useNNAPI)
Đặt xem có sử dụng NN API (nếu có) để thực thi op hay không. Mặc định là sai (đã tắt).
Thông số
sử dụngNNAPI |
---|
Thông dịch viên công khai . Bộ tùy chọnUseXNNPACK (boolean useXNNPACK)
Thử nghiệm: Vô hiệu hóa bộ nhân CPU được tối ưu hóa (do XNNPACK cung cấp).
Vô hiệu hóa cờ này sẽ vô hiệu hóa việc sử dụng một bộ nhân CPU được tối ưu hóa cao được cung cấp thông qua đại biểu XNNPACK. Hiện tại, điều này bị hạn chế đối với một tập hợp con các hoạt động dấu phẩy động. Xem https://github.com/tensorflow/tensorflow/blob/master/tensorflow/lite/delegates/xnnpack/README.md để biết thêm chi tiết.
CẢNH BÁO: Đây là giao diện thử nghiệm có thể thay đổi.
Thông số
sử dụngXNNPACK |
---|