Google jest zaangażowany w promowanie równości rasowej dla społeczności czarnych. Zobacz jak.
Ta strona została przetłumaczona przez Cloud Translation API.
Switch to English

Obsługa GPU

Obsługa układów GPU TensorFlow wymaga szeregu sterowników i bibliotek. Aby uprościć instalację i uniknąć konfliktów bibliotek, zalecamy użycie obrazu TensorFlow Docker z obsługą GPU (tylko Linux). Ta konfiguracja wymaga tylko sterowników NVIDIA® GPU .

Te instrukcje instalacji dotyczą najnowszej wersji TensorFlow. Zobacz przetestowane konfiguracje kompilacji dla wersji CUDA® i cuDNN do użycia ze starszymi wersjami TensorFlow.

Pakiet pip

Zobacz przewodnik instalacji pip, aby uzyskać dostępne pakiety, wymagania systemowe i instrukcje. Aby zainstalować pakiet TensorFlow z obsługą GPU za pomocą pip , wybierz pakiet stabilny lub programistyczny:

pip install tensorflow  # stable

pip install tf-nightly  # preview

Starsze wersje TensorFlow

W przypadku wersji 1.15 i starszych pakiety CPU i GPU są oddzielne:

pip install tensorflow==1.15      # CPU
pip install tensorflow-gpu==1.15  # GPU

Wymagania sprzętowe

Obsługiwane są następujące urządzenia obsługujące GPU:

  • Karta graficzna NVIDIA® z architekturą CUDA® 3.5 lub nowszą. Zobacz listę kart GPU z obsługą CUDA® .
  • W przypadku procesorów graficznych z nieobsługiwanymi architekturami CUDA® lub w celu uniknięcia kompilacji JIT z PTX lub użycia różnych wersji bibliotek NVIDIA®, zapoznaj się z instrukcją kompilacji systemu Linux ze źródeł .
  • W systemach z procesorami graficznymi NVIDIA® Ampere (architektura CUDA 8.0) lub nowszymi jądra są kompilowane JIT z PTX, a uruchomienie TensorFlow może zająć ponad 30 minut. Ten narzut można ograniczyć do pierwszego uruchomienia, zwiększając domyślny rozmiar pamięci podręcznej JIT o: „ export CUDA_CACHE_MAXSIZE=2147483648 ” (szczegółowe informacje można znaleźć w sekcji Buforowanie JIT ).
  • Pakiety nie zawierają kodu PTX, z wyjątkiem najnowszej obsługiwanej architektury CUDA®; dlatego TensorFlow nie ładuje się na starszych GPU, gdy CUDA_FORCE_PTX_JIT=1 . (Aby uzyskać szczegółowe informacje, patrz Zgodność aplikacji ).

Wymagania Systemowe

W systemie musi być zainstalowane następujące oprogramowanie NVIDIA®:

Konfiguracja systemu Linux

Poniższe instrukcje apt to najłatwiejszy sposób na zainstalowanie wymaganego oprogramowania NVIDIA w systemie Ubuntu. Jeśli jednak budujesz TensorFlow ze źródła , zainstaluj ręcznie wymienione powyżej wymagania oprogramowania i rozważ użycie -devel TensorFlow Docker jako podstawy.

Zainstaluj CUPTI, który jest dostarczany z CUDA® Toolkit. Dołącz jego katalog instalacyjny do $LD_LIBRARY_PATH środowiskowej $LD_LIBRARY_PATH :

export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda/extras/CUPTI/lib64

Zainstaluj CUDA z apt

Ta sekcja pokazuje, jak zainstalować CUDA® 10 (TensorFlow> = 1.13.0) na Ubuntu 16.04 i 18.04. Te instrukcje mogą działać dla innych dystrybucji opartych na Debianie.

Ubuntu 18.04 (CUDA 10.1)

# Add NVIDIA package repositories
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/cuda-repo-ubuntu1804_10.1.243-1_amd64.deb
sudo apt-key adv --fetch-keys https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/7fa2af80.pub
sudo dpkg -i cuda-repo-ubuntu1804_10.1.243-1_amd64.deb
sudo apt-get update
wget http://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1804/x86_64/nvidia-machine-learning-repo-ubuntu1804_1.0.0-1_amd64.deb
sudo apt install ./nvidia-machine-learning-repo-ubuntu1804_1.0.0-1_amd64.deb
sudo apt-get update

# Install NVIDIA driver
sudo apt-get install --no-install-recommends nvidia-driver-450
# Reboot. Check that GPUs are visible using the command: nvidia-smi

# Install development and runtime libraries (~4GB)
sudo apt-get install --no-install-recommends \
    cuda-10-1 \
    libcudnn7=7.6.5.32-1+cuda10.1  \
    libcudnn7-dev=7.6.5.32-1+cuda10.1


# Install TensorRT. Requires that libcudnn7 is installed above.
sudo apt-get install -y --no-install-recommends libnvinfer6=6.0.1-1+cuda10.1 \
    libnvinfer-dev=6.0.1-1+cuda10.1 \
    libnvinfer-plugin6=6.0.1-1+cuda10.1

Ubuntu 16.04 (CUDA 10.1)

# Add NVIDIA package repositories
# Add HTTPS support for apt-key
sudo apt-get install gnupg-curl
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64/cuda-repo-ubuntu1604_10.1.243-1_amd64.deb
sudo apt-key adv --fetch-keys https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64/7fa2af80.pub
sudo dpkg -i cuda-repo-ubuntu1604_10.1.243-1_amd64.deb
sudo apt-get update
wget http://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1604/x86_64/nvidia-machine-learning-repo-ubuntu1604_1.0.0-1_amd64.deb
sudo apt install ./nvidia-machine-learning-repo-ubuntu1604_1.0.0-1_amd64.deb
sudo apt-get update

# Install NVIDIA driver
# Issue with driver install requires creating /usr/lib/nvidia
sudo mkdir /usr/lib/nvidia
sudo apt-get install --no-install-recommends nvidia-418
# Reboot. Check that GPUs are visible using the command: nvidia-smi

# Install development and runtime libraries (~4GB)
sudo apt-get install --no-install-recommends \
    cuda-10-1 \
    libcudnn7=7.6.4.38-1+cuda10.1  \
    libcudnn7-dev=7.6.4.38-1+cuda10.1


# Install TensorRT. Requires that libcudnn7 is installed above.
sudo apt-get install -y --no-install-recommends \
    libnvinfer6=6.0.1-1+cuda10.1 \
    libnvinfer-dev=6.0.1-1+cuda10.1 \
    libnvinfer-plugin6=6.0.1-1+cuda10.1

Konfiguracja systemu Windows

Zobacz wymagania sprzętowe i wymagania programowe wymienione powyżej. Przeczytaj instrukcję instalacji CUDA® dla Windows .

Upewnij się, że zainstalowane pakiety oprogramowania NVIDIA są zgodne z wersjami wymienionymi powyżej. W szczególności TensorFlow nie załaduje się bez pliku cuDNN64_7.dll . Aby użyć innej wersji, zobacz przewodnik dotyczący kompilacji systemu Windows ze źródła .

Dodaj katalogi instalacyjne CUDA®, CUPTI i cuDNN do zmiennej środowiskowej %PATH% . Na przykład, jeśli CUDA® Toolkit jest zainstalowany w C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1 i cuDNN do C:\tools\cuda , zaktualizuj %PATH% aby pasował:

SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1\bin;%PATH%
SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1\extras\CUPTI\lib64;%PATH%
SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1\include;%PATH%
SET PATH=C:\tools\cuda\bin;%PATH%