Google is committed to advancing racial equity for Black communities. See how.

Compatibilité avec les GPU

La compatibilité GPU de TensorFlow nécessite un ensemble de pilotes et de bibliothèques. Pour simplifier l'installation et éviter les conflits de bibliothèques, nous vous recommandons d'utiliser une image Docker TensorFlow compatible avec les GPU (Linux uniquement). Cette configuration ne nécessite que les pilotes de GPU NVIDIA®.

Les instructions d'installation ci-dessous concernent la dernière version de TensorFlow. Consultez les versions de compilation testées pour les versions CUDA et cuDNN à utiliser avec les anciennes versions de TensorFlow.

Package pip

Consultez le guide d'installation de pip pour obtenir les packages disponibles, la configuration requise et des instructions d'installation. Pour installer un package TensorFlow compatible avec les GPU à l'aide de pip, sélectionnez un package stable ou de développement :

pip install tensorflow  # stable

pip install tf-nightly  # preview

Anciennes versions de TensorFlow

Dans TensorFlow 1.15 et versions antérieures, les packages pour les processeurs et les GPU sont proposés séparément :

pip install tensorflow==1.15      # CPU
pip install tensorflow-gpu==1.15  # GPU

Configuration matérielle requise

Les appareils suivants compatibles GPU sont acceptés :

Configuration logicielle requise

Les logiciels NVIDIA® suivants doivent être installés sur votre système :

  • Pilotes graphiques NVIDIA® : CUDA 10.1 nécessite des pilotes 418.x ou une version ultérieure
  • CUDA® Toolkit : TensorFlow (2.1.0 ou version ultérieure) est compatible avec CUDA 10.1
  • Bibliothèque CUPTI fournie avec le CUDA Toolkit
  • SDK chDNN (7.6 ou version ultérieure)
  • (Facultatif) TensorRT 6.0 pour améliorer la latence et le débit d'inférence sur certains modèles

Configuration pour Linux

Les instructions apt ci-dessous représentent le moyen le plus simple d'installer les logiciels NVIDIA requis sous Ubuntu. Si vous compilez TensorFlow à partir de la source, installez manuellement la configuration logicielle requise ci-dessus et songez à utiliser une image Docker TensorFlow -devel comme base.

Installez la bibliothèque CUPTI, fournie avec le CUDA® Toolkit. Ajoutez son répertoire d'installation à la variable d'environnement $LD_LIBRARY_PATH :

export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda/extras/CUPTI/lib64

Pour utiliser un GPU avec une capacité de calcul CUDA 3.0 ou d'autres versions des bibliothèques NVIDIA, consultez le guide Compiler à partir de la source pour Linux.

Installer CUDA avec apt

Cette section explique comment installer CUDA 10 (TensorFlow 1.13.0 ou version ultérieure) et CUDA 9 pour Ubuntu 16.04 et 18.04. Les instructions indiquées peuvent fonctionner pour d'autres distributions basées sur Debian.

Ubuntu 18.04 (CUDA 10.1)

# Add NVIDIA package repositories
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/cuda-repo-ubuntu1804_10.1.243-1_amd64.deb
sudo apt-key adv --fetch-keys https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/7fa2af80.pub
sudo dpkg -i cuda-repo-ubuntu1804_10.1.243-1_amd64.deb
sudo apt-get update
wget http://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1804/x86_64/nvidia-machine-learning-repo-ubuntu1804_1.0.0-1_amd64.deb
sudo apt install ./nvidia-machine-learning-repo-ubuntu1804_1.0.0-1_amd64.deb
sudo apt-get update

# Install NVIDIA driver
sudo apt-get install --no-install-recommends nvidia-driver-430
# Reboot. Check that GPUs are visible using the command: nvidia-smi

# Install development and runtime libraries (~4GB)
sudo apt-get install --no-install-recommends \
    cuda-10-1 \
    libcudnn7=7.6.4.38-1+cuda10.1  \
    libcudnn7-dev=7.6.4.38-1+cuda10.1


# Install TensorRT. Requires that libcudnn7 is installed above.
sudo apt-get install -y --no-install-recommends libnvinfer6=6.0.1-1+cuda10.1 \
    libnvinfer-dev=6.0.1-1+cuda10.1 \
    libnvinfer-plugin6=6.0.1-1+cuda10.1

Ubuntu 16.04 (CUDA 10.1)

# Add NVIDIA package repositories
# Add HTTPS support for apt-key
sudo apt-get install gnupg-curl
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64/cuda-repo-ubuntu1604_10.1.243-1_amd64.deb
sudo apt-key adv --fetch-keys https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64/7fa2af80.pub
sudo dpkg -i cuda-repo-ubuntu1604_10.1.243-1_amd64.deb
sudo apt-get update
wget http://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1604/x86_64/nvidia-machine-learning-repo-ubuntu1604_1.0.0-1_amd64.deb
sudo apt install ./nvidia-machine-learning-repo-ubuntu1604_1.0.0-1_amd64.deb
sudo apt-get update

# Install NVIDIA driver
# Issue with driver install requires creating /usr/lib/nvidia
sudo mkdir /usr/lib/nvidia
sudo apt-get install --no-install-recommends nvidia-418
# Reboot. Check that GPUs are visible using the command: nvidia-smi

# Install development and runtime libraries (~4GB)
sudo apt-get install --no-install-recommends \
    cuda-10-1 \
    libcudnn7=7.6.4.38-1+cuda10.1  \
    libcudnn7-dev=7.6.4.38-1+cuda10.1


# Install TensorRT. Requires that libcudnn7 is installed above.
sudo apt-get install -y --no-install-recommends \
    libnvinfer6=6.0.1-1+cuda10.1 \
    libnvinfer-dev=6.0.1-1+cuda10.1 \
    libnvinfer-plugin6=6.0.1-1+cuda10.1

Ubuntu 16.04 (CUDA 9.0 pour TensorFlow 1.13.0 ou version ultérieure)

# Add NVIDIA package repository
sudo apt-key adv --fetch-keys http://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64/7fa2af80.pub
wget http://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64/cuda-repo-ubuntu1604_9.1.85-1_amd64.deb
sudo apt install ./cuda-repo-ubuntu1604_9.1.85-1_amd64.deb
wget http://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1604/x86_64/nvidia-machine-learning-repo-ubuntu1604_1.0.0-1_amd64.deb
sudo apt install ./nvidia-machine-learning-repo-ubuntu1604_1.0.0-1_amd64.deb
sudo apt update

# Install the NVIDIA driver
# Issue with driver install requires creating /usr/lib/nvidia
sudo mkdir /usr/lib/nvidia
sudo apt-get install --no-install-recommends nvidia-410
# Reboot. Check that GPUs are visible using the command: nvidia-smi

# Install CUDA and tools. Include optional NCCL 2.x
sudo apt install cuda9.0 cuda-cublas-9-0 cuda-cufft-9-0 cuda-curand-9-0 \
    cuda-cusolver-9-0 cuda-cusparse-9-0 libcudnn7=7.2.1.38-1+cuda9.0 \
    libnccl2=2.2.13-1+cuda9.0 cuda-command-line-tools-9-0

# Optional: Install the TensorRT runtime (must be after CUDA install)
sudo apt update
sudo apt install libnvinfer4=4.1.2-1+cuda9.0

Configuration pour Windows

Reportez-vous à la configuration matérielle requise et à la configuration logicielle requise ci-dessus. Consultez le guide d'installation de CUDA® pour Windows.

Assurez-vous que les packages logiciels NVIDIA installés correspondent aux versions répertoriées ci-dessus. En particulier, notez que TensorFlow ne peut pas se charger sans le fichier cuDNN64_7.dll. Pour utiliser une autre version, consultez le guide Compiler à partir de la source pour Windows.

Ajoutez les répertoires d'installation de CUDA, CUPTI et cuDNN à la variable d'environnement %PATH%. Ainsi, si le CUDA Toolkit est installé dans C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1 et cuDNN dans C:\tools\cuda, vous devez modifier la variable %PATH% en conséquence :

SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1\bin;%PATH%
SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1\extras\CUPTI\libx64;%PATH%
SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1\include;%PATH%
SET PATH=C:\tools\cuda\bin;%PATH%