XLA:优化机器学习编译器

XLA(加速线性代数)是一种针对特定领域的线性代数编译器,能够加快 TensorFlow 模型的运行速度,而且可能不需要更改源代码。

它可以提高运行速度并改进内存使用情况:在启用 XLA 后,大多数内部基准测试的运行速度加快到 1.15 倍左右。我们在单个 NVidia V100 GPU 上评估了以下数据集:

简介

运行 TensorFlow 程序后,所有操作均由 TensorFlow 执行程序单独执行。每个 TensorFlow 操作都有一个预编译的 GPU 内核实现,可以将执行程序分派给该实现。

XLA 提供了一种运行模型的替代模式:它会将 TensorFlow 图编译成一系列专门为给定模型生成的计算内核。由于这些内核是模型特有的,因此它们可以利用模型专属信息进行优化。以 XLA 在简单的 TensorFlow 计算环境中进行的优化为例:

def model_fn(x, y, z):
  return tf.reduce_sum(x + y * z)

如果在不使用 XLA 的情况下运行,图会启动三个内核:分别对应于乘法、加法和减法运算。但是,XLA 可以优化该图,使其启动一次内核就能计算结果。它通过将加法、乘法和减法“融合”到一个 GPU 内核中来实现这一点。此外,这种融合操作不会将由 y*zx+y*z 生成的中间值写出到内存中;而是直接将这些中间计算的结果“流式传输”给用户,同时将它们完全保留在 GPU 寄存器中。融合是 XLA 采用的最重要的一项优化措施。 内存带宽通常是硬件加速器上最稀缺的资源,因此消除内存操作是提高性能的最佳方法之一。

为 TensorFlow 模型启用 XLA

自动聚类

在 TensorFlow 模型中开始使用 XLA 的最简单方法是启用“自动聚类”,此功能会自动在 TensorFlow 图中查找可以使用 XLA 进行编译和执行的聚类(连通的子图)。您可以通过设置 TF_XLA_FLAGS 环境变量,在 GPU 上启用自动聚类功能:

$ TF_XLA_FLAGS=--tf_xla_auto_jit=2 path/to/your/tf/program

自动聚类目前已针对 GPU 工作负载进行了优化,但您也可以通过另外使用 --tf_xla_cpu_global_jit 标记在 CPU 上启用它:

$ TF_XLA_FLAGS="--tf_xla_auto_jit=2 --tf_xla_cpu_global_jit" path/to/your/program

如需查看详细的用法示例,请参阅自动聚类教程 Colab

使用 tf.function 进行显式编译

自动聚类是一款很好的工具,可以在不更改代码的情况下提高模型速度,但可能很难理解执行了什么更改。

借助 Explicit compilation API,您可以对应选择哪些函数进行编译做出更精细的控制。例如,以下执行 MNIST 训练的 TensorFlow 函数使用 XLA 进行编译:

@tf.function(experimental_compile=True)
def train_mnist(images, labels):
    images, labels = cast(images, labels)

    with tf.GradientTape() as tape:
      predicted_labels = layer(images)
      loss = tf.reduce_mean(tf.nn.sparse_softmax_cross_entropy_with_logits(
          logits=predicted_labels, labels=labels
      ))
    layer_variables = layer.trainable_variables
    grads = tape.gradient(loss, layer_variables)
    optimizer.apply_gradients(zip(grads, layer_variables))

experimental_compile API 具有必须编译语义:要么使用 XLA 编译整个函数,要么抛出 errors.InvalidArgumentError 异常。目前,如果维度无法推断出来,也就是说,无法在不运行完整计算的情况下推断所有张量的维度,那么 XLA 无法编译包含此维度的函数。例如,以下函数将无法编译:

@tf.function
def not_compilable(x):
  return tf.unique(x)

但形状可能会在不同的运行会话中有所不同:

@tf.function(experimental_compile=True)
def recompiled_on_launch(a, b):
  return a + b

recompiled_on_launch(tf.ones([1, 10]), tf.ones([1, 10]))
recompiled_on_launch(tf.ones([1, 100]), tf.ones([1, 100]))

如需查看更详细的用法示例,请参阅教程 Colab

使用 tfcompile 针对 CPU 进行 AOT(预先)编译

您还可以使用独立的 tfcompile 工具,此工具会将 TensorFlow 图转换为可执行代码(仅适用于 x86-64 CPU)。

检查已编译的程序

XLA 提供了自省工具,您可以利用这些工具检查生成的程序。如需转储生成的程序,请使用环境变量 XLA_FLAGS

$ XLA_FLAGS="--xla_dump_to=/tmp/generated" TF_XLA_FLAGS="--tf_xla_auto_jit=2" my/tensorflow/program

执行转储后,您可以在 /tmp/generated 中找到以下文件:

  • module_XXXX.*_optimizations.txt:生成的 XLA 程序,每个已编译的聚类对应一个。在提交 XLA 错误报告时附加这些文件非常有帮助!

  • module_XXXX.ir-*.ll:采用 LLVM 中间表示法的生成文件,其中包含 NVPTX 内建函数。

  • module_XXXX.ptx:生成的 PTX 文件。

您还可以使用以下命令,对可视化 TensorFlow 图中 XLA 聚类的嵌入方式的图进行转储:

$ TF_DUMP_GRAPH_PREFIX=/tmp/generated TF_XLA_FLAGS="--tf_xla_clustering_debug"

可重现的错误报告

如果错误报告包含已生成 XLA 程序和已用自动聚类嵌入的转储文件,则更容易重现。如需为使用自动聚类运行的 TensorFlow 程序生成此类报告,请启动以下命令:

$ TF_DUMP_GRAPH_PREFIX=/tmp/generated \
  TF_XLA_FLAGS="--tf_xla_clustering_debug --tf_xla_auto_jit=2" \
  XLA_FLAGS="--xla_dump_hlo_as_text --xla_dump_to=/tmp/generated" \
    my/tensorflow/program"

提交错误时,请附加 /tmp/generated 目录(上面提到过)的内容。

如果可能,请尝试使用 replay_computation 并在生成的程序上以迭代方式运行它,使错误具体到单个 XLA 程序中。

XLA 前端

除了 TensorFlow,还可以通过以下工具生成 XLA 程序:

  • JAX:Python+NumPy 程序的可组合转换
  • Julia:科学计算用到的 Julia 语言
  • PyTorch:PyTorch 框架

更多阅读资料