Join TensorFlow at Google I/O, May 11-12 Register now

GPU desteği

TensorFlow GPU desteği, çeşitli sürücü ve kitaplıklar gerektirir. Kurulumu basitleştirmek ve kitaplık çakışmalarını önlemek için GPU destekli bir TensorFlow Docker görüntüsü kullanmanızı öneririz (yalnızca Linux). Bu kurulum yalnızca NVIDIA® GPU sürücülerini gerektirir.

Bu yükleme talimatları, TensorFlow'un en son sürümü içindir. Daha eski TensorFlow sürümleriyle kullanmak için CUDA® ve cuDNN sürümleri için test edilmiş yapı yapılandırmalarına bakın.

pip paketi

Mevcut paketler, sistem gereksinimleri ve talimatlar için pip kurulum kılavuzuna bakın. TensorFlow pip paketi, CUDA® özellikli kartlar için GPU desteği içerir:

pip install tensorflow

Bu kılavuz, en son kararlı TensorFlow sürümü için GPU desteğini ve kurulum adımlarını kapsar.

TensorFlow'un eski sürümleri

1.15 ve daha eski sürümler için CPU ve GPU paketleri ayrıdır:

pip install tensorflow==1.15      # CPU
pip install tensorflow-gpu==1.15  # GPU

Donanım Gereksinimleri

Aşağıdaki GPU etkin cihazlar desteklenir:

  • CUDA® mimarileri 3.5, 5.0, 6.0, 7.0, 7.5, 8.0 ve 8.0'dan yüksek NVIDIA® GPU kartı. CUDA® etkin GPU kartlarının listesine bakın.
  • Desteklenmeyen CUDA® mimarilerine sahip GPU'lar için veya PTX'ten JIT derlemesinden kaçınmak veya NVIDIA® kitaplıklarının farklı sürümlerini kullanmak için, kaynaktan Linux derleme kılavuzuna bakın.
  • Paketler, desteklenen en son CUDA® mimarisi dışında PTX kodu içermez; bu nedenle, CUDA_FORCE_PTX_JIT=1 ayarlandığında TensorFlow eski GPU'lara yüklenemez. (Ayrıntılar için Uygulama Uyumluluğuna bakın.)

Yazılım gereksinimleri

Sisteminizde aşağıdaki NVIDIA® yazılımı yüklü olmalıdır:

Linux kurulumu

Aşağıdaki apt talimatlar, gerekli NVIDIA yazılımını Ubuntu'ya kurmanın en kolay yoludur. Ancak, kaynaktan TensorFlow oluşturuyorsanız , yukarıda listelenen yazılım gereksinimlerini manuel olarak yükleyin ve temel olarak bir -devel TensorFlow Docker görüntüsü kullanmayı düşünün.

CUDA® Toolkit ile birlikte gelen CUPTI'yi kurun. Kurulum dizinini $LD_LIBRARY_PATH çevresel değişkenine ekleyin:

export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda/extras/CUPTI/lib64

CUDA'yı apt ile kurun

Bu bölüm, Ubuntu 16.04 ve 18.04'te CUDA® 11'in (TensorFlow >= 2.4.0) nasıl kurulacağını gösterir. Bu talimatlar, diğer Debian tabanlı dağıtımlar için işe yarayabilir.

Ubuntu 18.04 (CUDA 11.2)

# Add NVIDIA package repositories
# Note: For the Ubuntu version other than 18.04 or CPU architecture other than x86,
# replace `ubuntu1804` and/or `x86_64` as needed in the following URL.
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/cuda-keyring_1.0-1_all.deb
sudo dpkg -i cuda-keyring_1.0-1_all.deb
sudo apt-get update

# Install development and runtime libraries (~4GB)
# libnvinfer packages are optional, needed to support TensorRT inference.
sudo apt-get install --no-install-recommends \
    cuda-11-2 \
    libcudnn8=8.1.0.77-1+cuda11.2  \
    libcudnn8-dev=8.1.0.77-1+cuda11.2 \
    libnvinfer8=8.2.4-1+cuda11.4 \
    libnvinfer-dev=8.2.4-1+cuda11.4 \
    libnvinfer-plugin8=8.2.4-1+cuda11.4 \
    libnvinfer-plugin-dev=8.2.4-1+cuda11.4


# Reboot. Check that GPUs are visible using the command: nvidia-smi

Ubuntu 16.04 (CUDA 11.2)

# Add NVIDIA package repositories
sudo apt-get update
sudo apt-get install -y apt-transport-https
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64/cuda-keyring_1.0-1_all.deb
sudo dpkg -i cuda-keyring_1.0-1_all.deb
sudo apt-get update

# Install development and runtime libraries (~4GB)
# libnvinfer packages are optional, needed to support TensorRT inference.
sudo apt-get install --no-install-recommends \
    cuda-11-2 \
    libcudnn8=8.1.0.77-1+cuda11.2  \
    libcudnn8-dev=8.1.0.77-1+cuda11.2 \
    libnvinfer8=8.0.1-1+cuda11.3 \
    libnvinfer-dev=8.0.1-1+cuda11.3 \
    libnvinfer-plugin8=8.0.1-1+cuda11.3 \
    libnvinfer-plugin-dev=8.0.1-1+cuda11.3


# Reboot. Check that GPUs are visible using the command: nvidia-smi

Windows kurulumu

Yukarıda listelenen donanım gereksinimlerine ve yazılım gereksinimlerine bakın. Windows için CUDA® kurulum kılavuzunu okuyun.

Yüklü NVIDIA yazılım paketlerinin yukarıda listelenen sürümlerle eşleştiğinden emin olun. Özellikle, TensorFlow, cuDNN64_8.dll dosyası olmadan yüklenmeyecektir. Farklı bir sürüm kullanmak için kaynak kılavuzundan Windows derlemesine bakın.

CUDA®, CUPTI ve cuDNN kurulum dizinlerini %PATH% çevresel değişkenine ekleyin. Örneğin, CUDA® Toolkit C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0 ve cuDNN dizinine C:\tools\cuda cuda kuruluysa, %PATH% adresinizi aşağıdakilerle eşleşecek şekilde güncelleyin:

SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\bin;%PATH%
SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\extras\CUPTI\lib64;%PATH%
SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\include;%PATH%
SET PATH=C:\tools\cuda\bin;%PATH%

WSL2 kurulumu

GPU erişimi ile Windows 10 19044 veya üzeri sürümlerde WSL2 için deneysel destek artık mevcuttur. Bu, Windows 10'un en son güncellemesine (diğer adıyla 21H2/Kasım 2021 Güncellemesi) karşılık gelir. En son güncellemeyi buradan alabilirsiniz: Windows 10'u indirin .

Talimatlar için lütfen NVIDIA'nın WSL'deki CUDA kurulum belgelerine bakın.