Google cam kết thúc đẩy công bằng chủng tộc cho các cộng đồng Đen. Xem cách làm.
Trang này được dịch bởi Cloud Translation API.
Switch to English

Hỗ trợ GPU

Hỗ trợ GPU TensorFlow yêu cầu nhiều loại trình điều khiển và thư viện. Để đơn giản hóa việc cài đặt và tránh xung đột thư viện, chúng tôi khuyên bạn nên sử dụng hình ảnh TensorFlow Docker có hỗ trợ GPU (chỉ dành cho Linux). Thiết lập này chỉ yêu cầu trình điều khiển GPU NVIDIA® .

Các hướng dẫn cài đặt này dành cho phiên bản mới nhất của TensorFlow. Xem cấu hình bản dựng đã thử nghiệm cho các phiên bản CUDA® và cuDNN để sử dụng với các bản phát hành TensorFlow cũ hơn.

Gói pip

Xem hướng dẫn cài đặt pip để biết các gói có sẵn, yêu cầu hệ thống và hướng dẫn. Gói TensorFlow pip bao gồm hỗ trợ GPU cho các thẻ hỗ trợ CUDA®:

pip install tensorflow

Hướng dẫn này bao gồm các bước cài đặt và hỗ trợ GPU để có bản phát hành TensorFlow ổn định mới nhất.

Phiên bản cũ hơn của TensorFlow

Đối với các phiên bản 1.15 trở lên, các gói CPU và GPU là riêng biệt:

pip install tensorflow==1.15      # CPU
pip install tensorflow-gpu==1.15  # GPU

Yêu cầu phần cứng

Các thiết bị hỗ trợ GPU sau được hỗ trợ:

  • Thẻ GPU NVIDIA® với kiến ​​trúc CUDA® 3.5 trở lên. Xem danh sách các thẻ GPU hỗ trợ CUDA® .
  • Đối với các GPU có kiến ​​trúc CUDA® không được hỗ trợ, hoặc để tránh biên dịch JIT từ PTX hoặc để sử dụng các phiên bản khác nhau của thư viện NVIDIA®, hãy xem hướng dẫn xây dựng Linux từ nguồn .
  • Trên các hệ thống có GPU NVIDIA® Ampere (kiến trúc CUDA 8.0) hoặc mới hơn, hạt nhân được biên dịch JIT từ PTX và TensorFlow có thể mất hơn 30 phút để khởi động. Chi phí này có thể được giới hạn trong lần khởi động đầu tiên bằng cách tăng kích thước bộ đệm JIT mặc định với: ' export CUDA_CACHE_MAXSIZE=2147483648 ' (xem JIT Caching để biết thêm chi tiết).
  • Các gói không chứa mã PTX ngoại trừ kiến ​​trúc CUDA® được hỗ trợ mới nhất; do đó, TensorFlow không tải được trên các GPU cũ hơn khi CUDA_FORCE_PTX_JIT=1 được đặt. (Xem Khả năng tương thích ứng dụng để biết thêm chi tiết.)

Yêu cầu phần mềm

Phần mềm NVIDIA® sau phải được cài đặt trên hệ thống của bạn:

Thiết lập Linux

Hướng dẫn apt dưới đây là cách dễ nhất để cài đặt phần mềm NVIDIA cần thiết trên Ubuntu. Tuy nhiên, nếu xây dựng TensorFlow từ nguồn , tự cài đặt yêu cầu phần mềm được liệt kê ở trên, và xem xét sử dụng một -devel ảnh TensorFlow Docker làm căn cứ.

Cài đặt CUPTI đi kèm với Bộ công cụ CUDA®. Nối thư mục cài đặt của nó vào biến môi trường $LD_LIBRARY_PATH :

export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda/extras/CUPTI/lib64

Cài đặt CUDA với apt

Phần này hướng dẫn cách cài đặt CUDA® 10 (TensorFlow> = 1.13.0) trên Ubuntu 16.04 và 18.04. Các hướng dẫn này có thể hoạt động đối với các bản phân phối dựa trên Debian khác.

Ubuntu 18.04 (CUDA 10.1)

# Add NVIDIA package repositories
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/cuda-repo-ubuntu1804_10.1.243-1_amd64.deb
sudo apt-key adv --fetch-keys https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/7fa2af80.pub
sudo dpkg -i cuda-repo-ubuntu1804_10.1.243-1_amd64.deb
sudo apt-get update
wget http://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1804/x86_64/nvidia-machine-learning-repo-ubuntu1804_1.0.0-1_amd64.deb
sudo apt install ./nvidia-machine-learning-repo-ubuntu1804_1.0.0-1_amd64.deb
sudo apt-get update

# Install NVIDIA driver
sudo apt-get install --no-install-recommends nvidia-driver-450
# Reboot. Check that GPUs are visible using the command: nvidia-smi

# Install development and runtime libraries (~4GB)
sudo apt-get install --no-install-recommends \
    cuda-10-1 \
    libcudnn7=7.6.5.32-1+cuda10.1  \
    libcudnn7-dev=7.6.5.32-1+cuda10.1


# Install TensorRT. Requires that libcudnn7 is installed above.
sudo apt-get install -y --no-install-recommends libnvinfer6=6.0.1-1+cuda10.1 \
    libnvinfer-dev=6.0.1-1+cuda10.1 \
    libnvinfer-plugin6=6.0.1-1+cuda10.1

Ubuntu 16.04 (CUDA 10.1)

# Add NVIDIA package repositories
# Add HTTPS support for apt-key
sudo apt-get install gnupg-curl
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64/cuda-repo-ubuntu1604_10.1.243-1_amd64.deb
sudo apt-key adv --fetch-keys https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64/7fa2af80.pub
sudo dpkg -i cuda-repo-ubuntu1604_10.1.243-1_amd64.deb
sudo apt-get update
wget http://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1604/x86_64/nvidia-machine-learning-repo-ubuntu1604_1.0.0-1_amd64.deb
sudo apt install ./nvidia-machine-learning-repo-ubuntu1604_1.0.0-1_amd64.deb
sudo apt-get update

# Install NVIDIA driver
# Issue with driver install requires creating /usr/lib/nvidia
sudo mkdir /usr/lib/nvidia
sudo apt-get install --no-install-recommends nvidia-418
# Reboot. Check that GPUs are visible using the command: nvidia-smi

# Install development and runtime libraries (~4GB)
sudo apt-get install --no-install-recommends \
    cuda-10-1 \
    libcudnn7=7.6.4.38-1+cuda10.1  \
    libcudnn7-dev=7.6.4.38-1+cuda10.1


# Install TensorRT. Requires that libcudnn7 is installed above.
sudo apt-get install -y --no-install-recommends \
    libnvinfer6=6.0.1-1+cuda10.1 \
    libnvinfer-dev=6.0.1-1+cuda10.1 \
    libnvinfer-plugin6=6.0.1-1+cuda10.1

Cài đặt Windows

Xem các yêu cầu phần cứngyêu cầu phần mềm được liệt kê ở trên. Đọc hướng dẫn cài đặt CUDA® cho Windows .

Đảm bảo rằng các gói phần mềm NVIDIA đã cài đặt khớp với các phiên bản được liệt kê ở trên. Đặc biệt, TensorFlow sẽ không tải nếu không có tệp cuDNN64_7.dll . Để sử dụng phiên bản khác, hãy xem hướng dẫn xây dựng Windows từ nguồn .

Thêm các thư mục cài đặt CUDA®, CUPTI và cuDNN vào biến môi trường %PATH% . Ví dụ: nếu Bộ công cụ CUDA® được cài đặt cho C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1 và cuDNN thành C:\tools\cuda , hãy cập nhật %PATH% của bạn để khớp với:

SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1\bin;%PATH%
SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1\extras\CUPTI\lib64;%PATH%
SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1\include;%PATH%
SET PATH=C:\tools\cuda\bin;%PATH%