Xây dựng gói bánh xe Python TensorFlow Lite

Trang này mô tả cách xây dựng thư viện Python TensorFlow Lite tflite_runtime cho x86_64 và các thiết bị ARM khác nhau.

Các hướng dẫn sau đã được thử nghiệm trên Ubuntu 16.04.3 PC 64-bit (AMD64), macOS Catalina (x86_64) và TensorFlow devel Docker image tensorflow/tensorflow:devel .

Điều kiện tiên quyết

Bạn cần cài đặt CMake và bản sao mã nguồn TensorFlow. Vui lòng kiểm tra trang Build TensorFlow Lite with CMake để biết chi tiết.

Để xây dựng gói PIP cho máy trạm của bạn, bạn có thể chạy các lệnh sau.

PYTHON=python3 tensorflow/lite/tools/pip_package/build_pip_package_with_cmake.sh native

Biên dịch chéo ARM

Để biên dịch chéo ARM, bạn nên sử dụng Docker vì nó giúp thiết lập môi trường xây dựng chéo dễ dàng hơn. Ngoài ra, bạn cần một tùy chọn target để tìm ra kiến ​​trúc đích.

Có sẵn một công cụ trợ giúp trong Makefile tensorflow/lite/tools/pip_package/Makefile để gọi lệnh xây dựng bằng cách sử dụng vùng chứa Docker được xác định trước. Trên máy chủ Docker, bạn có thể chạy lệnh xây dựng như sau.

make -C tensorflow/lite/tools/pip_package docker-build \
  TENSORFLOW_TARGET=<target> PYTHON_VERSION=<python3 version>

Tên mục tiêu có sẵn

Tập lệnh tensorflow/lite/tools/pip_package/build_pip_package_with_cmake.sh cần tên mục tiêu để tìm ra kiến ​​trúc đích. Dưới đây là danh sách các mục tiêu được hỗ trợ.

Xây dựng ví dụ

Dưới đây là một số lệnh ví dụ bạn có thể sử dụng.

mục tiêu armhf cho Python 3.7

make -C tensorflow/lite/tools/pip_package docker-build \
  TENSORFLOW_TARGET=armhf PYTHON_VERSION=3.7

mục tiêu aarch64 cho Python 3.8

make -C tensorflow/lite/tools/pip_package docker-build \
  TENSORFLOW_TARGET=aarch64 PYTHON_VERSION=3.8

Làm cách nào để sử dụng chuỗi công cụ tùy chỉnh?

Nếu các tệp nhị phân được tạo không tương thích với mục tiêu của bạn, bạn cần sử dụng chuỗi công cụ của riêng mình hoặc cung cấp cờ xây dựng tùy chỉnh. (Kiểm tra phần này để hiểu môi trường mục tiêu của bạn) Trong trường hợp đó, bạn cần sửa đổi tensorflow/lite/tools/cmake/download_toolchains.sh để sử dụng chuỗi công cụ của riêng bạn. Tập lệnh chuỗi công cụ xác định hai biến sau cho tập lệnh build_pip_package_with_cmake.sh .