Questa pagina è stata tradotta dall'API Cloud Translation.
Switch to English

Crea TensorFlow Lite per schede ARM64

Questa pagina descrive come creare le librerie statiche e condivise di TensorFlow Lite per computer basati su ARM64. Se desideri iniziare a utilizzare TensorFlow Lite per eseguire i tuoi modelli, l'opzione più veloce è installare il pacchetto runtime TensorFlow Lite come mostrato nella guida rapida di Python .

Compilazione incrociata per ARM64 con Make

Per garantire l'ambiente di compilazione corretto, consigliamo di utilizzare una delle nostre immagini Docker di TensorFlow come tensorflow / tensorflow: devel .

Per iniziare, installa la toolchain e le librerie:

sudo apt-get update
sudo apt-get install crossbuild-essential-arm64

Se stai usando Docker, potresti non usare sudo .

Ora git-clona il repository TensorFlow ( https://github.com/tensorflow/tensorflow ): se stai utilizzando l'immagine Docker di TensorFlow, il repository è già fornito in /tensorflow_src/ quindi esegui questo script alla radice di il repository TensorFlow per scaricare tutte le dipendenze di build:

./tensorflow/lite/tools/make/download_dependencies.sh

Nota che devi farlo solo una volta.

Quindi compila:

./tensorflow/lite/tools/make/build_aarch64_lib.sh

Questo dovrebbe compilare una libreria statica in: tensorflow/lite/tools/make/gen/linux_aarch64/lib/libtensorflow-lite.a .

Compila in modo nativo su ARM64

Questi passaggi sono stati testati su HardKernel Odroid C2, gcc versione 5.4.0.

Accedi alla tua bacheca e installa la toolchain:

sudo apt-get install build-essential

Ora git-clona il repository TensorFlow ( https://github.com/tensorflow/tensorflow ) ed eseguilo nella radice del repository:

./tensorflow/lite/tools/make/download_dependencies.sh

Nota che devi farlo solo una volta.

Quindi compila:

./tensorflow/lite/tools/make/build_aarch64_lib.sh

Questo dovrebbe compilare una libreria statica in: tensorflow/lite/tools/make/gen/linux_aarch64/lib/libtensorflow-lite.a .

Compilazione incrociata per ARM64 con Bazel

Puoi utilizzare le toolchain ARM GCC con Bazel per creare una libreria condivisa ARM64.

Le seguenti istruzioni sono state testate su Ubuntu 16.04.3 PC a 64 bit (AMD64) e TensorFlow devel docker image tensorflow / tensorflow: devel .

Per eseguire la compilazione incrociata di TensorFlow Lite con Bazel, segui i passaggi:

Passaggio 1. Installa Bazel

Bazel è il sistema di compilazione principale per TensorFlow. Installa l'ultima versione del sistema di compilazione Bazel .

Passaggio 2. Clonare il repository TensorFlow

git clone https://github.com/tensorflow/tensorflow.git tensorflow_src

Passaggio 3. Compilare il binario ARM64

Libreria C.
bazel build --config=elinux_aarch64 -c opt //tensorflow/lite/c:libtensorflowlite_c.so

Controlla la pagina dell'API C di TensorFlow Lite per i dettagli.

Libreria C ++
bazel build --config=elinux_aarch64 -c opt //tensorflow/lite:libtensorflowlite.so

È possibile trovare una libreria di libreria condivisa in: bazel-bin/tensorflow/lite/libtensorflowlite.so .

Attualmente, non esiste un modo semplice per estrarre tutti i file di intestazione necessari, quindi è necessario includere tutti i file di intestazione in tensorflow / lite / dal repository TensorFlow. Inoltre, avrai bisogno di file di intestazione da FlatBuffers e Abseil.

Eccetera

Puoi anche costruire altri bersagli Bazel con la toolchain. Ecco alcuni obiettivi utili.

  • // tensorflow / lite / strumenti / punto di riferimento: benchmark_model
  • // tensorflow / lite / examples / label_image: label_image