Google setzt sich dafür ein, die Rassengerechtigkeit für schwarze Gemeinschaften zu fördern. Siehe wie.
Diese Seite wurde von der Cloud Translation API übersetzt.
Switch to English

GPU-Unterstützung

Die Unterstützung der TensorFlow-GPU erfordert eine Reihe von Treibern und Bibliotheken. Um die Installation zu vereinfachen und Bibliothekskonflikte zu vermeiden, empfehlen wir die Verwendung eines TensorFlow Docker-Images mit GPU-Unterstützung (nur Linux). Für dieses Setup sind nur die NVIDIA® GPU-Treiber erforderlich.

Diese Installationsanweisungen gelten für die neueste Version von TensorFlow. Weitere Informationen finden Sie in den getesteten Build-Konfigurationen für CUDA®- und cuDNN-Versionen, die mit älteren TensorFlow-Versionen verwendet werden können.

Pip-Paket

In der Pip-Installationsanleitung finden Sie verfügbare Pakete, Systemanforderungen und Anweisungen. Das TensorFlow- pip Paket enthält GPU-Unterstützung für CUDA®-fähige Karten:

pip install tensorflow

Dieses Handbuch behandelt die GPU-Unterstützung und Installationsschritte für die neueste stabile TensorFlow-Version.

Ältere Versionen von TensorFlow

Ab Version 1.15 sind CPU- und GPU-Pakete getrennt:

pip install tensorflow==1.15      # CPU
pip install tensorflow-gpu==1.15  # GPU

Hardware-Anforderungen

Die folgenden GPU-fähigen Geräte werden unterstützt:

  • NVIDIA® GPU-Karte mit CUDA®-Architekturen 3.5 oder höher. Siehe die Liste der CUDA®-fähigen GPU-Karten .
  • Informationen zu GPUs mit nicht unterstützten CUDA®-Architekturen oder zur Vermeidung der JIT-Kompilierung von PTX oder zur Verwendung verschiedener Versionen der NVIDIA®-Bibliotheken finden Sie im Linux Build from Source- Handbuch.
  • Auf Systemen mit NVIDIA® Ampere-GPUs (CUDA-Architektur 8.0) oder neuer werden Kernel aus PTX JIT-kompiliert, und der Start von TensorFlow kann über 30 Minuten dauern. Dieser Overhead kann auf den ersten Start begrenzt werden, indem die Standardgröße des JIT-Cache erhöht wird mit: ' export CUDA_CACHE_MAXSIZE=2147483648 ' (Einzelheiten siehe JIT-Caching ).
  • Pakete enthalten außer der neuesten unterstützten CUDA®-Architektur keinen PTX-Code. Daher kann TensorFlow auf älteren GPUs nicht CUDA_FORCE_PTX_JIT=1 wenn CUDA_FORCE_PTX_JIT=1 ist. (Einzelheiten finden Sie unter Anwendungskompatibilität .)

Software Anforderungen

Die folgende NVIDIA®-Software muss auf Ihrem System installiert sein:

Linux-Setup

Die apt Anweisungen unten sind der einfachste Weg , um die erforderlichen NVIDIA - Software auf Ubuntu zu installieren. Wenn Sie TensorFlow jedoch aus dem Quellcode -devel , installieren Sie die oben aufgeführten Softwareanforderungen manuell und ziehen Sie in Betracht, ein TensorFlow Docker-Image mit -devel als Basis zu verwenden.

Installieren Sie CUPTI, das mit dem CUDA® Toolkit geliefert wird. Hängen Sie das Installationsverzeichnis an die Umgebungsvariable $LD_LIBRARY_PATH :

export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda/extras/CUPTI/lib64

Installieren Sie CUDA mit apt

Dieser Abschnitt zeigt, wie CUDA® 10 (TensorFlow> = 1.13.0) unter Ubuntu 16.04 und 18.04 installiert wird. Diese Anweisungen funktionieren möglicherweise für andere Debian-basierte Distributionen.

Ubuntu 18.04 (CUDA 10.1)

# Add NVIDIA package repositories
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/cuda-repo-ubuntu1804_10.1.243-1_amd64.deb
sudo apt-key adv --fetch-keys https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/7fa2af80.pub
sudo dpkg -i cuda-repo-ubuntu1804_10.1.243-1_amd64.deb
sudo apt-get update
wget http://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1804/x86_64/nvidia-machine-learning-repo-ubuntu1804_1.0.0-1_amd64.deb
sudo apt install ./nvidia-machine-learning-repo-ubuntu1804_1.0.0-1_amd64.deb
sudo apt-get update

# Install NVIDIA driver
sudo apt-get install --no-install-recommends nvidia-driver-450
# Reboot. Check that GPUs are visible using the command: nvidia-smi

# Install development and runtime libraries (~4GB)
sudo apt-get install --no-install-recommends \
    cuda-10-1 \
    libcudnn7=7.6.5.32-1+cuda10.1  \
    libcudnn7-dev=7.6.5.32-1+cuda10.1


# Install TensorRT. Requires that libcudnn7 is installed above.
sudo apt-get install -y --no-install-recommends libnvinfer6=6.0.1-1+cuda10.1 \
    libnvinfer-dev=6.0.1-1+cuda10.1 \
    libnvinfer-plugin6=6.0.1-1+cuda10.1

Ubuntu 16.04 (CUDA 10.1)

# Add NVIDIA package repositories
# Add HTTPS support for apt-key
sudo apt-get install gnupg-curl
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64/cuda-repo-ubuntu1604_10.1.243-1_amd64.deb
sudo apt-key adv --fetch-keys https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64/7fa2af80.pub
sudo dpkg -i cuda-repo-ubuntu1604_10.1.243-1_amd64.deb
sudo apt-get update
wget http://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1604/x86_64/nvidia-machine-learning-repo-ubuntu1604_1.0.0-1_amd64.deb
sudo apt install ./nvidia-machine-learning-repo-ubuntu1604_1.0.0-1_amd64.deb
sudo apt-get update

# Install NVIDIA driver
# Issue with driver install requires creating /usr/lib/nvidia
sudo mkdir /usr/lib/nvidia
sudo apt-get install --no-install-recommends nvidia-418
# Reboot. Check that GPUs are visible using the command: nvidia-smi

# Install development and runtime libraries (~4GB)
sudo apt-get install --no-install-recommends \
    cuda-10-1 \
    libcudnn7=7.6.4.38-1+cuda10.1  \
    libcudnn7-dev=7.6.4.38-1+cuda10.1


# Install TensorRT. Requires that libcudnn7 is installed above.
sudo apt-get install -y --no-install-recommends \
    libnvinfer6=6.0.1-1+cuda10.1 \
    libnvinfer-dev=6.0.1-1+cuda10.1 \
    libnvinfer-plugin6=6.0.1-1+cuda10.1

Windows Setup

Siehe die oben aufgeführten Hardwareanforderungen und Softwareanforderungen . Lesen Sie die CUDA®-Installationsanleitung für Windows .

Stellen Sie sicher, dass die installierten NVIDIA-Softwarepakete mit den oben aufgeführten Versionen übereinstimmen. Insbesondere wird TensorFlow nicht ohne die Datei cuDNN64_7.dll . Informationen zum Verwenden einer anderen Version finden Sie im Windows Build from Source- Handbuch.

Fügen Sie die Installationsverzeichnisse CUDA®, CUPTI und cuDNN zur Umgebungsvariablen %PATH% . Wenn das CUDA® Toolkit beispielsweise unter C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1 und cuDNN unter C:\tools\cuda , aktualisieren Sie Ihren %PATH% entsprechend:

SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1\bin;%PATH%
SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1\extras\CUPTI\lib64;%PATH%
SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1\include;%PATH%
SET PATH=C:\tools\cuda\bin;%PATH%