Google стремится продвигать расовую справедливость для черных сообществ. Смотри как.
Эта страница была переведа с помощью Cloud Translation API.
Switch to English

Поддержка GPU

Для поддержки TensorFlow GPU требуется набор драйверов и библиотек. Чтобы упростить установку и избежать конфликтов библиотек, мы рекомендуем использовать образ TensorFlow Docker с поддержкой GPU (только для Linux). Для этой настройки требуются только драйверы графического процессора NVIDIA® .

Эти инструкции по установке предназначены для последней версии TensorFlow. Ознакомьтесь с протестированными конфигурациями сборки для версий CUDA® и cuDNN для использования со старыми версиями TensorFlow.

Пип пакет

Информацию о доступных пакетах, системных требованиях и инструкциях см. В руководстве по установке pip . Чтобы pip установить пакет TensorFlow с поддержкой GPU, выберите стабильный или разработки пакета:

pip install tensorflow  # stable

pip install tf-nightly  # preview

Старые версии TensorFlow

Для версий 1.15 и более ранних, пакеты CPU и GPU разделены:

pip install tensorflow==1.15      # CPU
pip install tensorflow-gpu==1.15  # GPU

Требования к оборудованию

Поддерживаются следующие устройства с поддержкой графического процессора:

  • Графическая карта NVIDIA® с архитектурой CUDA® 3.5 или выше. Смотрите список графических карт с поддержкой CUDA® .
  • Для графических процессоров с неподдерживаемыми архитектурами CUDA® или для избежания JIT-компиляции из PTX, или для использования различных версий библиотек NVIDIA®, см. Руководство по сборке Linux из исходного кода .
  • В системах с графическими процессорами NVIDIA® Ampere (архитектура CUDA 8.0) или новее ядра JIT-компилируются из PTX, и запуск TensorFlow может занять более 30 минут. Эти накладные расходы могут быть ограничены первым запуском путем увеличения размера кэша JIT по умолчанию с помощью: ' export CUDA_CACHE_MAXSIZE=2147483648 ' (подробности см. В разделе JIT Caching ).
  • Пакеты не содержат код PTX, за исключением последней поддерживаемой архитектуры CUDA®; поэтому TensorFlow не загружается на более старых графических процессорах, когда установлено CUDA_FORCE_PTX_JIT=1 . (См. Совместимость приложений для деталей.)

Требования к программному обеспечению

Следующее программное обеспечение NVIDIA® должно быть установлено в вашей системе:

Настройка Linux

Приведенные ниже инструкции apt - это самый простой способ установить необходимое программное обеспечение NVIDIA в Ubuntu. Однако, если вы собираете TensorFlow из исходного кода , вручную установите перечисленные выше требования к программному обеспечению и рассмотрите возможность использования образа -devel станции -devel -devel в качестве основы.

Установите CUPTI, который поставляется с CUDA® Toolkit. Добавьте его каталог установки в $LD_LIBRARY_PATH окружения $LD_LIBRARY_PATH :

export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda/extras/CUPTI/lib64

Установите CUDA с помощью apt

В этом разделе показано, как установить CUDA® 10 (TensorFlow> = 1.13.0) в Ubuntu 16.04 и 18.04. Эти инструкции могут работать для других дистрибутивов на основе Debian.

Ubuntu 18.04 (CUDA 10.1)

# Add NVIDIA package repositories
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/cuda-repo-ubuntu1804_10.1.243-1_amd64.deb
sudo apt-key adv --fetch-keys https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/7fa2af80.pub
sudo dpkg -i cuda-repo-ubuntu1804_10.1.243-1_amd64.deb
sudo apt-get update
wget http://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1804/x86_64/nvidia-machine-learning-repo-ubuntu1804_1.0.0-1_amd64.deb
sudo apt install ./nvidia-machine-learning-repo-ubuntu1804_1.0.0-1_amd64.deb
sudo apt-get update

# Install NVIDIA driver
sudo apt-get install --no-install-recommends nvidia-driver-450
# Reboot. Check that GPUs are visible using the command: nvidia-smi

# Install development and runtime libraries (~4GB)
sudo apt-get install --no-install-recommends \
    cuda-10-1 \
    libcudnn7=7.6.5.32+cuda10.1  \
    libcudnn7-dev=7.6.5.32-1+cuda10.1


# Install TensorRT. Requires that libcudnn7 is installed above.
sudo apt-get install -y --no-install-recommends libnvinfer6=6.0.1-1+cuda10.1 \
    libnvinfer-dev=6.0.1-1+cuda10.1 \
    libnvinfer-plugin6=6.0.1-1+cuda10.1

Ubuntu 16.04 (CUDA 10.1)

# Add NVIDIA package repositories
# Add HTTPS support for apt-key
sudo apt-get install gnupg-curl
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64/cuda-repo-ubuntu1604_10.1.243-1_amd64.deb
sudo apt-key adv --fetch-keys https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64/7fa2af80.pub
sudo dpkg -i cuda-repo-ubuntu1604_10.1.243-1_amd64.deb
sudo apt-get update
wget http://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1604/x86_64/nvidia-machine-learning-repo-ubuntu1604_1.0.0-1_amd64.deb
sudo apt install ./nvidia-machine-learning-repo-ubuntu1604_1.0.0-1_amd64.deb
sudo apt-get update

# Install NVIDIA driver
# Issue with driver install requires creating /usr/lib/nvidia
sudo mkdir /usr/lib/nvidia
sudo apt-get install --no-install-recommends nvidia-418
# Reboot. Check that GPUs are visible using the command: nvidia-smi

# Install development and runtime libraries (~4GB)
sudo apt-get install --no-install-recommends \
    cuda-10-1 \
    libcudnn7=7.6.4.38-1+cuda10.1  \
    libcudnn7-dev=7.6.4.38-1+cuda10.1


# Install TensorRT. Requires that libcudnn7 is installed above.
sudo apt-get install -y --no-install-recommends \
    libnvinfer6=6.0.1-1+cuda10.1 \
    libnvinfer-dev=6.0.1-1+cuda10.1 \
    libnvinfer-plugin6=6.0.1-1+cuda10.1

Настройка Windows

См. Требования к оборудованию и программному обеспечению, перечисленные выше. Прочтите руководство по установке CUDA® для Windows .

Убедитесь, что установленные программные пакеты NVIDIA соответствуют версиям, перечисленным выше. В частности, TensorFlow не будет загружаться без файла cuDNN64_7.dll . Чтобы использовать другую версию, см. Руководство по сборке Windows из исходного кода .

Добавьте каталоги установки CUDA®, CUPTI и cuDNN в %PATH% среды %PATH% . Например, если CUDA® Toolkit установлен в C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1 и cuDNN в C:\tools\cuda , обновите %PATH% чтобы он соответствовал:

SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1\bin;%PATH%
SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1\extras\CUPTI\lib64;%PATH%
SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1\include;%PATH%
SET PATH=C:\tools\cuda\bin;%PATH%