使用 Python 快速入门基于 Linux 的设备

使用集合让一切井井有条 根据您的偏好保存内容并对其进行分类。

对于基于 Linux 的嵌入式设备(例如 Raspberry Pi使用 Edge TPU 的 Coral 设备),非常适合将 TensorFlow Lite 与 Python 结合使用。

本页介绍如何在几分钟内学会开始使用 Python 运行 TensorFlow Lite 模型。您只需要一个已转换为 TensorFlow Lite 的 TensorFlow 模型。(如果还没有转换的模型,您可以使用随下面链接的示例提供的模型进行实验。)

关于 TensorFlow Lite 运行时软件包

为了快速开始使用 Python 执行 TensorFlow Lite 模型,您可以仅安装 TensorFlow Lite 解释器,无需安装所有 TensorFlow 软件包。我们将这种简化的 Python 软件包称为 tflite_runtime

tflite_runtime 软件包是整个 tensorflow 软件包的一小部分,并且包括使用 TensorFlow Lite 运行推断所需的最少代码(主要是 Interpreter Python 类)。当您只想执行 .tflite 模型并避免因使用大型 TensorFlow 库而浪费磁盘空间时,这种小型软件包是理想选择。

注:如果您需要访问其他 Python API(如 TensorFlow Lite Converter),则必须安装完整的 TensorFlow 软件包。例如,tflite_runtime 软件包中不包括 Select TF 算子。如果您的模型与 Select TF 算子有任何依赖关系,则需要改用完整的 TensorFlow 软件包。

安装适用于 Python 的 TensorFlow Lite

您可以使用 pip 在 Linux 上安装:

python3 -m pip install tflite-runtime

受支持的平台

tflite-runtime Python wheel 针对以下平台进行预构建并提供给这些平台:

  • Linux armv7l(例如运行 32 位 Raspberry Pi OS 的 Raspberry Pi 2、3、4 和 Zero 2)
  • Linux aarch64(例如运行 Debian ARM64 的 Raspberry Pi 3、4)
  • Linux x86_64

如果您想在其他平台上运行 TensorFlow Lite 模型,则应使用完整 TensorFlow 软件包,或者从源代码构建 tflite-runtime 软件包

如果您将 TensorFlow 与 Coral Edge TPU 结合使用,则应遵循相应的 Coral 设置文档

注:我们已不再更新 Debian 软件包 python3-tflite-runtime。最新版 Debian 软件包适用于 TF 2.5 版本,您可以按照这些早期说明进行安装。

注:我们已不再发布适用于 Windows 和 macOS 的预构建 tflite-runtime wheel。对于这些平台,您应使用完整 TensorFlow 软件包,或者从源代码构建 tflite-runtime 软件包

使用 tflite_runtime 运行推断

现在,您需要从 tflite_runtime 导入 Interpreter,而不是从 tensorflow 模块导入。

例如,安装上述软件包后,如果复制并运行 label_image.py 文件,(可能)会失败,因为您没有安装 tensorflow 库。要解决此问题,请编辑该文件中的下面一行:

import tensorflow as tf

将其改成:

import tflite_runtime.interpreter as tflite

然后更改下面一行:

interpreter = tf.lite.Interpreter(model_path=args.model_file)

将其改成:

interpreter = tflite.Interpreter(model_path=args.model_file)

现在,重新运行 label_image.py。就是这样!您现在执行的正是 TensorFlow Lite 模型。

了解详情