Have a question? Connect with the community at the TensorFlow Forum Visit Forum

Obsługa GPU

Obsługa procesorów graficznych TensorFlow wymaga zestawu sterowników i bibliotek. Aby uprościć instalację i uniknąć konfliktów bibliotek, zalecamy użycie obrazu Docker TensorFlow z obsługą GPU (tylko Linux). Ta konfiguracja wymaga tylko sterowników GPU NVIDIA® .

Te instrukcje instalacji dotyczą najnowszej wersji TensorFlow. Zobacz przetestowane konfiguracje kompilacji dla wersji CUDA® i cuDNN do użycia ze starszymi wydaniami TensorFlow.

Pakiet pipsów

Zobacz przewodnik instalacji pip, aby uzyskać informacje o dostępnych pakietach, wymaganiach systemowych i instrukcjach. Pakiet pip TensorFlow obejmuje obsługę GPU dla kart obsługujących CUDA®:

pip install tensorflow

Ten przewodnik obejmuje obsługę procesorów graficznych i kroki instalacji dla najnowszej stabilnej wersji TensorFlow.

Starsze wersje TensorFlow

W wersjach 1.15 i starszych pakiety CPU i GPU są oddzielne:

pip install tensorflow==1.15      # CPU
pip install tensorflow-gpu==1.15  # GPU

Wymagania sprzętowe

Obsługiwane są następujące urządzenia z obsługą GPU:

  • Karta GPU NVIDIA® z architekturą CUDA® 3.5, 5.0, 6.0, 7.0, 7.5, 8.0 i nowszą niż 8.0. Zobacz listę kart graficznych obsługujących CUDA® .
  • W przypadku procesorów graficznych z nieobsługiwaną architekturą CUDA® lub w celu uniknięcia kompilacji JIT z PTX lub korzystania z różnych wersji bibliotek NVIDIA® zapoznaj się z przewodnikiem dotyczącym budowania systemu Linux ze źródła .
  • Pakiety nie zawierają kodu PTX z wyjątkiem najnowszej obsługiwanej architektury CUDA®; dlatego TensorFlow nie ładuje się na starszych procesorach graficznych, gdy CUDA_FORCE_PTX_JIT=1 . (Zobacz Zgodność aplikacji, aby uzyskać szczegółowe informacje.)

Wymagania Systemowe

W systemie musi być zainstalowane następujące oprogramowanie NVIDIA®:

Konfiguracja Linuksa

Poniższe apt instrukcje to najprostszy sposób na zainstalowanie wymaganego oprogramowania NVIDIA w systemie Ubuntu. Jeśli jednak kompilujesz TensorFlow ze źródła , ręcznie zainstaluj wymienione powyżej wymagania dotyczące oprogramowania i rozważ użycie obrazu Docker -devel TensorFlow jako podstawy.

Zainstaluj CUPTI, który jest dostarczany z CUDA® Toolkit. Dołącz jego katalog instalacyjny do $LD_LIBRARY_PATH środowiskowej $LD_LIBRARY_PATH :

export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda/extras/CUPTI/lib64

Zainstaluj CUDA z apt

Ta sekcja pokazuje, jak zainstalować CUDA® 11 (TensorFlow >= 2.4.0) na Ubuntu 16.04 i 18.04. Te instrukcje mogą działać w przypadku innych dystrybucji opartych na Debianie.

Ubuntu 18.04 (CUDA 11.0)

# Add NVIDIA package repositories
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/cuda-ubuntu1804.pin
sudo mv cuda-ubuntu1804.pin /etc/apt/preferences.d/cuda-repository-pin-600
sudo apt-key adv --fetch-keys https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/7fa2af80.pub
sudo add-apt-repository "deb https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/ /"
sudo apt-get update

wget http://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1804/x86_64/nvidia-machine-learning-repo-ubuntu1804_1.0.0-1_amd64.deb

sudo apt install ./nvidia-machine-learning-repo-ubuntu1804_1.0.0-1_amd64.deb
sudo apt-get update

wget https://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1804/x86_64/libnvinfer7_7.1.3-1+cuda11.0_amd64.deb
sudo apt install ./libnvinfer7_7.1.3-1+cuda11.0_amd64.deb
sudo apt-get update

# Install development and runtime libraries (~4GB)
sudo apt-get install --no-install-recommends \
    cuda-11-0 \
    libcudnn8=8.0.4.30-1+cuda11.0  \
    libcudnn8-dev=8.0.4.30-1+cuda11.0

# Reboot. Check that GPUs are visible using the command: nvidia-smi

# Install TensorRT. Requires that libcudnn8 is installed above.
sudo apt-get install -y --no-install-recommends libnvinfer7=7.1.3-1+cuda11.0 \
    libnvinfer-dev=7.1.3-1+cuda11.0 \
    libnvinfer-plugin7=7.1.3-1+cuda11.0

Ubuntu 16.04 (CUDA 11.0)

# Add NVIDIA package repositories
# Add HTTPS support for apt-key
sudo apt-get install gnupg-curl
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64/cuda-ubuntu1604.pin
sudo mv cuda-ubuntu1604.pin /etc/apt/preferences.d/cuda-repository-pin-600
sudo apt-key adv --fetch-keys https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64/7fa2af80.pub
sudo add-apt-repository "deb https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64/ /"
sudo apt-get update
wget https://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1604/x86_64/nvidia-machine-learning-repo-ubuntu1604_1.0.0-1_amd64.deb
sudo apt install ./nvidia-machine-learning-repo-ubuntu1604_1.0.0-1_amd64.deb
sudo apt-get update
wget https://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1604/x86_64/libnvinfer7_7.1.3-1+cuda11.0_amd64.deb
sudo apt install ./libnvinfer7_7.1.3-1+cuda11.0_amd64.deb
sudo apt-get update

# Install development and runtime libraries (~4GB)
sudo apt-get install --no-install-recommends \
    cuda-11-0 \
    libcudnn8=8.0.4.30-1+cuda11.0  \
    libcudnn8-dev=8.0.4.30-1+cuda11.0


# Reboot. Check that GPUs are visible using the command: nvidia-smi

# Install TensorRT. Requires that libcudnn7 is installed above.
sudo apt-get install -y --no-install-recommends \
    libnvinfer7=7.1.3-1+cuda11.0 \
    libnvinfer-dev=7.1.3-1+cuda11.0 \
    libnvinfer-plugin7=7.1.3-1+cuda11.0 \
    libnvinfer-plugin-dev=7.1.3-1+cuda11.0

Konfiguracja systemu Windows

Zobacz wymagania sprzętowe i wymagania programowe wymienione powyżej. Przeczytaj przewodnik instalacji CUDA® dla Windows .

Upewnij się, że zainstalowane pakiety oprogramowania NVIDIA są zgodne z wersjami wymienionymi powyżej. W szczególności TensorFlow nie załaduje się bez pliku cuDNN64_8.dll . Aby użyć innej wersji, zapoznaj się z przewodnikiem dotyczącym kompilacji systemu Windows ze źródła .

Dodaj katalogi instalacyjne CUDA®, CUPTI i cuDNN do zmiennej środowiskowej %PATH% . Na przykład, jeśli CUDA® Toolkit jest zainstalowany w C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0 i cuDNN w C:\tools\cuda , zaktualizuj %PATH% aby dopasować:

SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\bin;%PATH%
SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\extras\CUPTI\lib64;%PATH%
SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\include;%PATH%
SET PATH=C:\tools\cuda\bin;%PATH%