Join TensorFlow at Google I/O, May 11-12 Register now

Поддержка графического процессора

Для поддержки графического процессора TensorFlow требуется набор драйверов и библиотек. Чтобы упростить установку и избежать конфликтов библиотек, мы рекомендуем использовать образ TensorFlow Docker с поддержкой графического процессора (только для Linux). Для этой установки требуются только драйверы графического процессора NVIDIA® .

Эти инструкции по установке предназначены для последней версии TensorFlow. Ознакомьтесь с протестированными конфигурациями сборки для версий CUDA® и cuDNN, которые можно использовать со старыми выпусками TensorFlow.

Пакет пипсов

Доступные пакеты, системные требования и инструкции см. в руководстве по установке pip . Пакет TensorFlow pip включает поддержку GPU для карт с поддержкой CUDA®:

pip install tensorflow

В этом руководстве рассказывается о поддержке графического процессора и этапах установки последней стабильной версии TensorFlow.

Старые версии TensorFlow

В версиях 1.15 и старше пакеты CPU и GPU разделены:

pip install tensorflow==1.15      # CPU
pip install tensorflow-gpu==1.15  # GPU

Аппаратные требования

Поддерживаются следующие устройства с поддержкой графического процессора:

  • Карта NVIDIA® GPU с архитектурой CUDA® 3.5, 5.0, 6.0, 7.0, 7.5, 8.0 и выше 8.0. См. список карт GPU с поддержкой CUDA® .
  • Для графических процессоров с неподдерживаемой архитектурой CUDA®, чтобы избежать JIT-компиляции из PTX или для использования других версий библиотек NVIDIA®, см. руководство по сборке Linux из исходного кода .
  • Пакеты не содержат кода PTX, за исключением последней поддерживаемой архитектуры CUDA®; поэтому TensorFlow не загружается на старых графических процессорах, если CUDA_FORCE_PTX_JIT=1 . (Подробности см. в разделе Совместимость приложений .)

Требования к программному обеспечению

В вашей системе должно быть установлено следующее программное обеспечение NVIDIA®:

Настройка Linux

Приведенные ниже apt инструкции — это самый простой способ установить необходимое программное обеспечение NVIDIA в Ubuntu. Однако при сборке TensorFlow из исходного кода вручную установите требования к программному обеспечению, перечисленные выше, и рассмотрите возможность использования образа Docker -devel TensorFlow в качестве основы.

Установите CUPTI , который поставляется с набором инструментов CUDA®. Добавьте каталог установки к переменной окружения $LD_LIBRARY_PATH :

export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda/extras/CUPTI/lib64

Установите CUDA с помощью apt

В этом разделе показано, как установить CUDA® 11 (TensorFlow >= 2.4.0) в Ubuntu 16.04 и 18.04. Эти инструкции могут работать для других дистрибутивов на основе Debian.

Ubuntu 18.04 (CUDA 11.2)

# Add NVIDIA package repositories
# Note: For the Ubuntu version other than 18.04 or CPU architecture other than x86,
# replace `ubuntu1804` and/or `x86_64` as needed in the following URL.
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/cuda-keyring_1.0-1_all.deb
sudo dpkg -i cuda-keyring_1.0-1_all.deb
sudo apt-get update

# Install development and runtime libraries (~4GB)
# libnvinfer packages are optional, needed to support TensorRT inference.
sudo apt-get install --no-install-recommends \
    cuda-11-2 \
    libcudnn8=8.1.0.77-1+cuda11.2  \
    libcudnn8-dev=8.1.0.77-1+cuda11.2 \
    libnvinfer8=8.2.4-1+cuda11.4 \
    libnvinfer-dev=8.2.4-1+cuda11.4 \
    libnvinfer-plugin8=8.2.4-1+cuda11.4 \
    libnvinfer-plugin-dev=8.2.4-1+cuda11.4


# Reboot. Check that GPUs are visible using the command: nvidia-smi

Ubuntu 16.04 (CUDA 11.2)

# Add NVIDIA package repositories
sudo apt-get update
sudo apt-get install -y apt-transport-https
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64/cuda-keyring_1.0-1_all.deb
sudo dpkg -i cuda-keyring_1.0-1_all.deb
sudo apt-get update

# Install development and runtime libraries (~4GB)
# libnvinfer packages are optional, needed to support TensorRT inference.
sudo apt-get install --no-install-recommends \
    cuda-11-2 \
    libcudnn8=8.1.0.77-1+cuda11.2  \
    libcudnn8-dev=8.1.0.77-1+cuda11.2 \
    libnvinfer8=8.0.1-1+cuda11.3 \
    libnvinfer-dev=8.0.1-1+cuda11.3 \
    libnvinfer-plugin8=8.0.1-1+cuda11.3 \
    libnvinfer-plugin-dev=8.0.1-1+cuda11.3


# Reboot. Check that GPUs are visible using the command: nvidia-smi

установка Windows

См. требования к оборудованию и программному обеспечению, перечисленные выше. Прочтите руководство по установке CUDA® для Windows .

Убедитесь, что установленные пакеты программного обеспечения NVIDIA соответствуют версиям, перечисленным выше. В частности, TensorFlow не загрузится без файла cuDNN64_8.dll . Чтобы использовать другую версию, см. руководство по сборке Windows из исходного кода .

Добавьте каталоги установки CUDA®, CUPTI и cuDNN в переменную окружения %PATH% . Например, если CUDA® Toolkit установлен в C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0 а cuDNN — в C:\tools\cuda , обновите %PATH% , чтобы он соответствовал:

SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\bin;%PATH%
SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\extras\CUPTI\lib64;%PATH%
SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\include;%PATH%
SET PATH=C:\tools\cuda\bin;%PATH%

Настройка WSL2

Теперь доступна экспериментальная поддержка WSL2 в Windows 10 19044 или более поздней версии с доступом к графическому процессору. Это соответствует самому последнему обновлению Windows 10 (также известному как версия 21H2/обновление за ноябрь 2021 г.). Вы можете получить последнее обновление отсюда: Загрузите Windows 10 .

Инструкции см . в документации по установке NVIDIA для CUDA в WSL.