Google is committed to advancing racial equity for Black communities. See how.

dukungan GPU

Dukungan GPU TensorFlow memerlukan berbagai macam driver dan library. Untuk mempermudah instalasi dan menghindari konflik perpustakaan, kami sarankan menggunakan gambar TensorFlow Docker dengan dukungan GPU (Linux). Pengaturan ini hanya membutuhkan driver NVIDIA GPU .

Petunjuk penginstalan ini adalah untuk rilis terbaru TensorFlow. Lihat membangun konfigurasi diuji untuk versi CUDA® dan cuDNN untuk digunakan dengan rilis TensorFlow lebih tua.

Paket pip

Lihat pip panduan menginstal paket yang tersedia, persyaratan sistem, dan instruksi. The TensorFlow pip paket termasuk dukungan GPU untuk kartu CUDA®-enabled:

pip install tensorflow

Ini panduan meliputi dukungan GPU dan langkah-langkah instalasi untuk rilis stabil TensorFlow terbaru.

TensorFlow versi lama

Untuk rilis 1.15 dan yang lebih lama, paket CPU dan GPU terpisah:

pip install tensorflow==1.15      # CPU
pip install tensorflow-gpu==1.15  # GPU

Persyaratan perangkat keras

Perangkat berkemampuan GPU berikut didukung:

  • Kartu GPU NVIDIA® dengan arsitektur CUDA® 3.5, 5.0, 6.0, 7.0, 7.5, 8.0 dan lebih tinggi dari 8.0. Lihat daftar kartu GPU CUDA®-enabled .
  • Untuk GPU dengan arsitektur CUDA® tidak didukung, atau untuk menghindari JIT kompilasi dari PTX, atau menggunakan versi yang berbeda dari perpustakaan NVIDIA®, melihat membangun Linux dari sumber panduan.
  • Paket tidak berisi kode PTX kecuali untuk arsitektur CUDA® terbaru yang didukung; Oleh karena itu, TensorFlow gagal untuk memuat pada GPU yang lebih tua ketika CUDA_FORCE_PTX_JIT=1 adalah set. (Lihat Application Compatibility untuk rincian.)

Persyaratan perangkat lunak

Perangkat lunak NVIDIA® berikut harus diinstal pada sistem Anda:

Pengaturan Linux

The apt petunjuk di bawah ini adalah cara termudah untuk menginstal perangkat lunak NVIDIA yang diperlukan pada Ubuntu. Namun, jika membangun TensorFlow dari sumber , manual menginstal perangkat lunak persyaratan yang tercantum di atas, dan mempertimbangkan menggunakan -devel gambar TensorFlow Docker sebagai basis.

Instal CUPTI yang kapal dengan CUDA® Toolkit. Menambahkan direktori instalasi ke $LD_LIBRARY_PATH variabel lingkungan:

export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda/extras/CUPTI/lib64

Instal CUDA dengan apt

Bagian ini menunjukkan cara menginstal CUDA® 11 (TensorFlow >= 2.4.0) di Ubuntu 16.04 dan 18.04. Instruksi ini dapat bekerja untuk distro berbasis Debian lainnya.

Ubuntu 18.04 (CUDA 11.0)

# Add NVIDIA package repositories
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/cuda-ubuntu1804.pin
sudo mv cuda-ubuntu1804.pin /etc/apt/preferences.d/cuda-repository-pin-600
sudo apt-key adv --fetch-keys https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/7fa2af80.pub
sudo add-apt-repository "deb https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/ /"
sudo apt-get update

wget http://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1804/x86_64/nvidia-machine-learning-repo-ubuntu1804_1.0.0-1_amd64.deb

sudo apt install ./nvidia-machine-learning-repo-ubuntu1804_1.0.0-1_amd64.deb
sudo apt-get update

wget https://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1804/x86_64/libnvinfer7_7.1.3-1+cuda11.0_amd64.deb
sudo apt install ./libnvinfer7_7.1.3-1+cuda11.0_amd64.deb
sudo apt-get update

# Install development and runtime libraries (~4GB)
sudo apt-get install --no-install-recommends \
    cuda-11-0 \
    libcudnn8=8.0.4.30-1+cuda11.0  \
    libcudnn8-dev=8.0.4.30-1+cuda11.0

# Reboot. Check that GPUs are visible using the command: nvidia-smi

# Install TensorRT. Requires that libcudnn8 is installed above.
sudo apt-get install -y --no-install-recommends libnvinfer7=7.1.3-1+cuda11.0 \
    libnvinfer-dev=7.1.3-1+cuda11.0 \
    libnvinfer-plugin7=7.1.3-1+cuda11.0

Ubuntu 16.04 (CUDA 11.0)

# Add NVIDIA package repositories
# Add HTTPS support for apt-key
sudo apt-get install gnupg-curl
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64/cuda-ubuntu1604.pin
sudo mv cuda-ubuntu1604.pin /etc/apt/preferences.d/cuda-repository-pin-600
sudo apt-key adv --fetch-keys https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64/7fa2af80.pub
sudo add-apt-repository "deb https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64/ /"
sudo apt-get update
wget https://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1604/x86_64/nvidia-machine-learning-repo-ubuntu1604_1.0.0-1_amd64.deb
sudo apt install ./nvidia-machine-learning-repo-ubuntu1604_1.0.0-1_amd64.deb
sudo apt-get update
wget https://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1604/x86_64/libnvinfer7_7.1.3-1+cuda11.0_amd64.deb
sudo apt install ./libnvinfer7_7.1.3-1+cuda11.0_amd64.deb
sudo apt-get update

# Install development and runtime libraries (~4GB)
sudo apt-get install --no-install-recommends \
    cuda-11-0 \
    libcudnn8=8.0.4.30-1+cuda11.0  \
    libcudnn8-dev=8.0.4.30-1+cuda11.0


# Reboot. Check that GPUs are visible using the command: nvidia-smi

# Install TensorRT. Requires that libcudnn7 is installed above.
sudo apt-get install -y --no-install-recommends \
    libnvinfer7=7.1.3-1+cuda11.0 \
    libnvinfer-dev=7.1.3-1+cuda11.0 \
    libnvinfer-plugin7=7.1.3-1+cuda11.0 \
    libnvinfer-plugin-dev=7.1.3-1+cuda11.0

Pengaturan jendela

Lihat persyaratan perangkat keras dan perangkat lunak persyaratan yang tercantum di atas. Baca CUDA® install panduan untuk Windows .

Pastikan paket perangkat lunak NVIDIA yang diinstal cocok dengan versi yang tercantum di atas. Secara khusus, TensorFlow tidak akan memuat tanpa cuDNN64_8.dll berkas. Untuk menggunakan versi yang berbeda, lihat build Windows dari sumber panduan.

Tambahkan direktori instalasi CUDA®, CUPTI, dan cuDNN ke %PATH% variabel lingkungan. Sebagai contoh, jika CUDA® Toolkit diinstal ke C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0 dan cuDNN ke C:\tools\cuda , memperbarui %PATH% untuk mencocokkan:

SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\bin;%PATH%
SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\extras\CUPTI\lib64;%PATH%
SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\include;%PATH%
SET PATH=C:\tools\cuda\bin;%PATH%