Have a question? Connect with the community at the TensorFlow Forum Visit Forum

Поддержка GPU

Для поддержки графического процессора TensorFlow требуется набор драйверов и библиотек. Чтобы упростить установку и избежать конфликтов библиотек, мы рекомендуем использовать образ TensorFlow Docker с поддержкой графического процессора (только для Linux). Для этой настройки требуются только драйверы NVIDIA® GPU .

Эти инструкции по установке относятся к последней версии TensorFlow. См. Протестированные конфигурации сборки для версий CUDA® и cuDNN для использования со старыми выпусками TensorFlow.

Пакет пипсов

Доступные пакеты, системные требования и инструкции см. В руководстве по установке pip . Пакет pip TensorFlow включает поддержку графического процессора для карт с поддержкой CUDA®:

pip install tensorflow

Это руководство описывает поддержку графического процессора и шаги по установке последней стабильной версии TensorFlow.

Старые версии TensorFlow

Для версий 1.15 и более ранних пакеты ЦП и ГП разделены:

pip install tensorflow==1.15      # CPU
pip install tensorflow-gpu==1.15  # GPU

Требования к оборудованию

Поддерживаются следующие устройства с графическим процессором:

  • Карта NVIDIA® GPU с архитектурой CUDA® 3.5, 5.0, 6.0, 7.0, 7.5, 8.0 и выше 8.0. См. Список видеокарт с поддержкой CUDA® .
  • Для графических процессоров с неподдерживаемой архитектурой CUDA®, чтобы избежать JIT-компиляции из PTX или использовать разные версии библиотек NVIDIA®, см. Сборку Linux из руководства.
  • Пакеты не содержат кода PTX, за исключением последней поддерживаемой архитектуры CUDA®; следовательно, TensorFlow не может загружаться на старых графических процессорах, если CUDA_FORCE_PTX_JIT=1 . (Подробнее см. Совместимость приложений .)

Требования к программному обеспечению

В вашей системе должно быть установлено следующее программное обеспечение NVIDIA®:

Установка Linux

Приведенные ниже apt инструкции - это самый простой способ установить необходимое программное обеспечение NVIDIA в Ubuntu. Однако при сборке TensorFlow из исходного кода вручную установите требования к программному обеспечению, перечисленные выше, и рассмотрите возможность использования образа Docker -devel TensorFlow в качестве основы.

Установите CUPTI, который поставляется с CUDA® Toolkit. Добавьте каталог установки в $LD_LIBRARY_PATH окружения $LD_LIBRARY_PATH :

export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda/extras/CUPTI/lib64

Установите CUDA с помощью apt

В этом разделе показано, как установить CUDA® 11 (TensorFlow> = 2.4.0) в Ubuntu 16.04 и 18.04. Эти инструкции могут работать для других дистрибутивов на основе Debian.

Ubuntu 18.04 (CUDA 11.0)

# Add NVIDIA package repositories
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/cuda-ubuntu1804.pin
sudo mv cuda-ubuntu1804.pin /etc/apt/preferences.d/cuda-repository-pin-600
sudo apt-key adv --fetch-keys https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/7fa2af80.pub
sudo add-apt-repository "deb https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/ /"
sudo apt-get update

wget http://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1804/x86_64/nvidia-machine-learning-repo-ubuntu1804_1.0.0-1_amd64.deb

sudo apt install ./nvidia-machine-learning-repo-ubuntu1804_1.0.0-1_amd64.deb
sudo apt-get update

wget https://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1804/x86_64/libnvinfer7_7.1.3-1+cuda11.0_amd64.deb
sudo apt install ./libnvinfer7_7.1.3-1+cuda11.0_amd64.deb
sudo apt-get update

# Install development and runtime libraries (~4GB)
sudo apt-get install --no-install-recommends \
    cuda-11-0 \
    libcudnn8=8.0.4.30-1+cuda11.0  \
    libcudnn8-dev=8.0.4.30-1+cuda11.0

# Reboot. Check that GPUs are visible using the command: nvidia-smi

# Install TensorRT. Requires that libcudnn8 is installed above.
sudo apt-get install -y --no-install-recommends libnvinfer7=7.1.3-1+cuda11.0 \
    libnvinfer-dev=7.1.3-1+cuda11.0 \
    libnvinfer-plugin7=7.1.3-1+cuda11.0

Ubuntu 16.04 (CUDA 11.0)

# Add NVIDIA package repositories
# Add HTTPS support for apt-key
sudo apt-get install gnupg-curl
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64/cuda-ubuntu1604.pin
sudo mv cuda-ubuntu1604.pin /etc/apt/preferences.d/cuda-repository-pin-600
sudo apt-key adv --fetch-keys https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64/7fa2af80.pub
sudo add-apt-repository "deb https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64/ /"
sudo apt-get update
wget https://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1604/x86_64/nvidia-machine-learning-repo-ubuntu1604_1.0.0-1_amd64.deb
sudo apt install ./nvidia-machine-learning-repo-ubuntu1604_1.0.0-1_amd64.deb
sudo apt-get update
wget https://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1604/x86_64/libnvinfer7_7.1.3-1+cuda11.0_amd64.deb
sudo apt install ./libnvinfer7_7.1.3-1+cuda11.0_amd64.deb
sudo apt-get update

# Install development and runtime libraries (~4GB)
sudo apt-get install --no-install-recommends \
    cuda-11-0 \
    libcudnn8=8.0.4.30-1+cuda11.0  \
    libcudnn8-dev=8.0.4.30-1+cuda11.0


# Reboot. Check that GPUs are visible using the command: nvidia-smi

# Install TensorRT. Requires that libcudnn7 is installed above.
sudo apt-get install -y --no-install-recommends \
    libnvinfer7=7.1.3-1+cuda11.0 \
    libnvinfer-dev=7.1.3-1+cuda11.0 \
    libnvinfer-plugin7=7.1.3-1+cuda11.0 \
    libnvinfer-plugin-dev=7.1.3-1+cuda11.0

Установка Windows

См. Требования к оборудованию и программному обеспечению, перечисленные выше. Прочтите руководство по установке CUDA® для Windows .

Убедитесь, что установленные пакеты программного обеспечения NVIDIA соответствуют версиям, указанным выше. В частности, TensorFlow не загрузится без файла cuDNN64_8.dll . Чтобы использовать другую версию, см. Руководство по сборке Windows из исходного кода .

Добавьте каталоги установки CUDA®, CUPTI и cuDNN в %PATH% окружения %PATH% . Например, если CUDA® Toolkit установлен в C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0 и cuDNN в C:\tools\cuda , обновите свой %PATH% чтобы он соответствовал:

SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\bin;%PATH%
SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\extras\CUPTI\lib64;%PATH%
SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\include;%PATH%
SET PATH=C:\tools\cuda\bin;%PATH%