Tham dự Hội nghị chuyên đề Women in ML vào ngày 7 tháng 12 Đăng ký ngay

Interpreter.Options

Sử dụng bộ sưu tập để sắp xếp ngăn nắp các trang Lưu và phân loại nội dung dựa trên lựa chọn ưu tiên của bạn.
public static class Interpreter.Options

Một lớp tùy chọn để kiểm soát hành vi của trình thông dịch thời gian chạy.

Người xây dựng công cộng

Phương thức công khai

Interpreter.Options
addDelegate ( Đại biểu ủy nhiệm)
Thêm một Delegate quyền sẽ được áp dụng trong quá trình tạo thông dịch viên.
Interpreter.Options
addDelegateFactory ( DelegateFactory ủy quyềnFactory)
Thêm DelegateFactory sẽ được gọi để áp dụng Delegate đã tạo trong quá trình tạo trình thông dịch.
Interpreter.Options
setAllowBufferHandleOutput (boolean cho phép)
Nâng cao: Đặt nếu đầu ra tay cầm bộ đệm được cho phép.
Interpreter.Options
setAllowFp16Pre precisionForFp32 (boolean cho phép)
Phương pháp này không được dùng nữa. Thích sử dụng NnApiDelegate.Options # setAllowFp16 (bật boolean) .
Interpreter.Options
setCancellable (boolean allow)
Nâng cao: Đặt nếu có thể hủy thông dịch viên.
Interpreter.Options
setNumThreads (int numThreads)
Đặt số luồng sẽ được sử dụng cho các hoạt động hỗ trợ đa luồng.
Interpreter.Options
setRuntime (thời gian chạy InterpreterApi.Options.TfLiteRuntime )
Chỉ định nơi lấy triển khai thời gian chạy TF Lite từ.
Interpreter.Options
setUseNNAPI (boolean useNNAPI)
Đặt có sử dụng NN API (nếu có) để thực thi op hay không.
Interpreter.Options
setUseXNNPACK (boolean useXNNPACK)
Thử nghiệm: Vô hiệu hóa bộ nhân CPU được tối ưu hóa (do XNNPACK cung cấp).

Phương thức kế thừa

Người xây dựng công cộng

Tùy chọn công cộng ()

Tùy chọn công cộng (tùy chọn InterpreterApi.Options )

Thông số
tùy chọn

Phương thức công khai

public Interpreter.Options addDelegate ( Đại biểu ủy nhiệm)

Thêm một Delegate quyền sẽ được áp dụng trong quá trình tạo thông dịch viên.

Các đại biểu được thêm ở đây được áp dụng trước khi bất kỳ đại biểu nào được tạo từ một DelegateFactory đã được thêm vào với addDelegateFactory(DelegateFactory) .

Lưu ý rằng TF Lite trong Dịch vụ của Google Play (xem setRuntime(InterpreterApi.Options.TfLiteRuntime) ) không hỗ trợ các đại biểu bên ngoài (do nhà phát triển cung cấp) và việc thêm một Delegate không phải là ERROR(/NnApiDelegate) tại đây không được phép khi sử dụng TF Lite trong Dịch vụ của Google Play.

Thông số
ủy nhiệm

public Interpreter.Options addDelegateFactory ( DelegateFactory ủy quyềnFactory)

Thêm DelegateFactory sẽ được gọi để áp dụng Delegate đã tạo trong quá trình tạo trình thông dịch.

Các đại biểu từ nhà máy được ủy quyền đã được thêm vào đây sẽ được áp dụng sau khi bất kỳ đại biểu nào được thêm vào với addDelegate(Delegate) .

Thông số
ủy nhiệm

public Interpreter.Options setAllowBufferHandleOutput (boolean allow)

Nâng cao: Đặt nếu đầu ra tay cầm bộ đệm được cho phép.

Khi một Delegate hỗ trợ tăng tốc phần cứng, trình thông dịch sẽ làm cho dữ liệu của các bộ căng đầu ra có sẵn trong bộ đệm tensor do CPU cấp phát theo mặc định. Nếu máy khách có thể sử dụng bộ điều khiển bộ đệm trực tiếp (ví dụ: đọc kết quả đầu ra từ kết cấu OpenGL), nó có thể đặt cờ này thành false, tránh sao chép dữ liệu vào bộ đệm CPU. Tài liệu dành cho đại biểu phải cho biết liệu điều này có được hỗ trợ hay không và nó có thể được sử dụng như thế nào.

CẢNH BÁO: Đây là giao diện thử nghiệm có thể thay đổi.

Thông số
cho phép

public Interpreter.Options setAllowFp16Pre precisionForFp32 (boolean allow)

Phương pháp này không được dùng nữa .
Thích sử dụng NnApiDelegate.Options # setAllowFp16 (bật boolean) .

Đặt có cho phép độ chính xác float16 cho phép tính FP32 hay không khi có thể. Mặc định là false (không cho phép).

Thông số
cho phép

public Interpreter.Options setCancellable (boolean allow)

Nâng cao: Đặt nếu có thể hủy thông dịch viên.

Thông dịch viên có thể có một API thử nghiệm setCancell (boolean) . Nếu trình thông dịch này có thể hủy và một phương thức như vậy được gọi, cờ hủy sẽ được đặt thành true. Trình thông dịch sẽ kiểm tra cờ giữa các lệnh gọi Op và nếu nó true , trình thông dịch sẽ ngừng thực thi. Trình thông dịch sẽ vẫn ở trạng thái bị hủy cho đến khi được setCancelled(false) "hủy bỏ" một cách rõ ràng.

Thông số
cho phép

public Interpreter.Options setNumThreads (int numThreads)

Đặt số luồng sẽ được sử dụng cho các hoạt động hỗ trợ đa luồng.

numThreads phải là >= -1 . Đặt numThreads thành 0 có tác dụng vô hiệu hóa đa luồng, tương đương với việc đặt numThreads thành 1. Nếu không được chỉ định hoặc được đặt thành giá trị -1, số luồng được sử dụng sẽ do quá trình thực thi xác định và phụ thuộc vào nền tảng.

Thông số
numThreads

public Interpreter.Options setRuntime (Thời gian chạy InterpreterApi.Options.TfLiteRuntime )

Chỉ định nơi lấy triển khai thời gian chạy TF Lite từ.

Thông số
thời gian chạy

public Interpreter.Options setUseNNAPI (boolean useNNAPI)

Đặt có sử dụng NN API (nếu có) để thực thi op hay không. Mặc định thành false (bị vô hiệu hóa).

Thông số
useNNAPI

public Interpreter.Options setUseXNNPACK (boolean useXNNPACK)

Thử nghiệm: Vô hiệu hóa bộ nhân CPU được tối ưu hóa (do XNNPACK cung cấp).

Việc tắt cờ này sẽ vô hiệu hóa việc sử dụng một bộ nhân CPU được tối ưu hóa cao được cung cấp thông qua đại biểu XNNPACK. Hiện tại, điều này được giới hạn trong một tập hợp con của các phép toán dấu chấm động. Xem https://github.com/tensorflow/tensorflow/blob/master/tensorflow/lite/delegates/xnnpack/README.md để biết thêm chi tiết.

CẢNH BÁO: Đây là giao diện thử nghiệm có thể thay đổi.

Thông số
useXNNPACK
,
public static class Interpreter.Options

Một lớp tùy chọn để kiểm soát hành vi của trình thông dịch thời gian chạy.

Người xây dựng công cộng

Phương thức công khai

Interpreter.Options
addDelegate ( Đại biểu ủy nhiệm)
Thêm một Delegate quyền sẽ được áp dụng trong quá trình tạo thông dịch viên.
Interpreter.Options
addDelegateFactory ( DelegateFactory ủy quyềnFactory)
Thêm DelegateFactory sẽ được gọi để áp dụng Delegate đã tạo trong quá trình tạo trình thông dịch.
Interpreter.Options
setAllowBufferHandleOutput (boolean cho phép)
Nâng cao: Đặt nếu đầu ra tay cầm bộ đệm được cho phép.
Interpreter.Options
setAllowFp16Pre precisionForFp32 (boolean cho phép)
Phương pháp này không được dùng nữa. Thích sử dụng NnApiDelegate.Options # setAllowFp16 (bật boolean) .
Interpreter.Options
setCancellable (boolean allow)
Nâng cao: Đặt nếu có thể hủy thông dịch viên.
Interpreter.Options
setNumThreads (int numThreads)
Đặt số luồng sẽ được sử dụng cho các hoạt động hỗ trợ đa luồng.
Interpreter.Options
setRuntime (thời gian chạy InterpreterApi.Options.TfLiteRuntime )
Chỉ định nơi lấy triển khai thời gian chạy TF Lite từ.
Interpreter.Options
setUseNNAPI (boolean useNNAPI)
Đặt có sử dụng NN API (nếu có) để thực thi op hay không.
Interpreter.Options
setUseXNNPACK (boolean useXNNPACK)
Thử nghiệm: Vô hiệu hóa bộ nhân CPU được tối ưu hóa (do XNNPACK cung cấp).

Phương thức kế thừa

Người xây dựng công cộng

Tùy chọn công cộng ()

Tùy chọn công cộng (tùy chọn InterpreterApi.Options )

Thông số
tùy chọn

Phương thức công khai

public Interpreter.Options addDelegate ( Đại biểu ủy nhiệm)

Thêm một Delegate quyền sẽ được áp dụng trong quá trình tạo thông dịch viên.

Các đại biểu được thêm ở đây được áp dụng trước khi bất kỳ đại biểu nào được tạo từ một DelegateFactory đã được thêm vào với addDelegateFactory(DelegateFactory) .

Lưu ý rằng TF Lite trong Dịch vụ của Google Play (xem setRuntime(InterpreterApi.Options.TfLiteRuntime) ) không hỗ trợ các đại biểu bên ngoài (do nhà phát triển cung cấp) và việc thêm một Delegate không phải là ERROR(/NnApiDelegate) tại đây không được phép khi sử dụng TF Lite trong Dịch vụ của Google Play.

Thông số
ủy nhiệm

public Interpreter.Options addDelegateFactory ( DelegateFactory ủy quyềnFactory)

Thêm DelegateFactory sẽ được gọi để áp dụng Delegate đã tạo trong quá trình tạo trình thông dịch.

Các đại biểu từ nhà máy được ủy quyền đã được thêm vào đây sẽ được áp dụng sau khi bất kỳ đại biểu nào được thêm vào với addDelegate(Delegate) .

Thông số
ủy nhiệm

public Interpreter.Options setAllowBufferHandleOutput (boolean allow)

Nâng cao: Đặt nếu đầu ra tay cầm bộ đệm được cho phép.

Khi một Delegate hỗ trợ tăng tốc phần cứng, trình thông dịch sẽ làm cho dữ liệu của các bộ căng đầu ra có sẵn trong bộ đệm tensor do CPU cấp phát theo mặc định. Nếu máy khách có thể sử dụng bộ điều khiển bộ đệm trực tiếp (ví dụ: đọc kết quả đầu ra từ kết cấu OpenGL), nó có thể đặt cờ này thành false, tránh sao chép dữ liệu vào bộ đệm CPU. Tài liệu dành cho đại biểu phải cho biết liệu điều này có được hỗ trợ hay không và nó có thể được sử dụng như thế nào.

CẢNH BÁO: Đây là giao diện thử nghiệm có thể thay đổi.

Thông số
cho phép

public Interpreter.Options setAllowFp16Pre precisionForFp32 (boolean allow)

Phương pháp này không được dùng nữa .
Thích sử dụng NnApiDelegate.Options # setAllowFp16 (bật boolean) .

Đặt có cho phép độ chính xác float16 cho phép tính FP32 hay không khi có thể. Mặc định là false (không cho phép).

Thông số
cho phép

public Interpreter.Options setCancellable (boolean allow)

Nâng cao: Đặt nếu có thể hủy thông dịch viên.

Thông dịch viên có thể có một API thử nghiệm setCancell (boolean) . Nếu trình thông dịch này có thể hủy và một phương thức như vậy được gọi, cờ hủy sẽ được đặt thành true. Trình thông dịch sẽ kiểm tra cờ giữa các lệnh gọi Op và nếu nó true , trình thông dịch sẽ ngừng thực thi. Trình thông dịch sẽ vẫn ở trạng thái bị hủy cho đến khi được setCancelled(false) "hủy bỏ" một cách rõ ràng.

Thông số
cho phép

public Interpreter.Options setNumThreads (int numThreads)

Đặt số luồng sẽ được sử dụng cho các hoạt động hỗ trợ đa luồng.

numThreads phải là >= -1 . Đặt numThreads thành 0 có tác dụng vô hiệu hóa đa luồng, tương đương với việc đặt numThreads thành 1. Nếu không được chỉ định hoặc được đặt thành giá trị -1, số luồng được sử dụng sẽ do quá trình thực thi xác định và phụ thuộc vào nền tảng.

Thông số
numThreads

public Interpreter.Options setRuntime (Thời gian chạy InterpreterApi.Options.TfLiteRuntime )

Chỉ định nơi lấy triển khai thời gian chạy TF Lite từ.

Thông số
thời gian chạy

public Interpreter.Options setUseNNAPI (boolean useNNAPI)

Đặt có sử dụng NN API (nếu có) để thực thi op hay không. Mặc định thành false (bị vô hiệu hóa).

Thông số
useNNAPI

public Interpreter.Options setUseXNNPACK (boolean useXNNPACK)

Thử nghiệm: Vô hiệu hóa bộ nhân CPU được tối ưu hóa (do XNNPACK cung cấp).

Việc tắt cờ này sẽ vô hiệu hóa việc sử dụng một bộ nhân CPU được tối ưu hóa cao được cung cấp thông qua đại biểu XNNPACK. Hiện tại, điều này bị giới hạn trong một tập hợp con của các phép toán dấu chấm động. Xem https://github.com/tensorflow/tensorflow/blob/master/tensorflow/lite/delegates/xnnpack/README.md để biết thêm chi tiết.

CẢNH BÁO: Đây là giao diện thử nghiệm có thể thay đổi.

Thông số
useXNNPACK