Google is committed to advancing racial equity for Black communities. See how.

Suporte a GPUs

O suporte a GPUs do TensorFlow requer uma variedade de drivers e bibliotecas. Para simplificar a instalação e evitar conflitos entre bibliotecas, recomendamos o uso de uma imagem do TensorFlow Docker compatível com GPU (somente Linux). Essa configuração requer apenas os drivers da GPU NVIDIA®.

Estas instruções de instalação são referentes à versão mais recente do TensorFlow. Consulte as configurações de compilação testadas para versões da CUDA e da cuDNN a serem usadas com versões mais antigas do TensorFlow.

Pacote PIP

Consulte o guia de instalação do pip para ver os pacotes, requisitos de sistema e instruções disponíveis. Para instalar o pip de um pacote do TensorFlow compatível com GPU, escolha um pacote estável ou de desenvolvimento:

pip install tensorflow  # stable

pip install tf-nightly  # preview

Versões mais antigas do TensorFlow

Para as versões 1.15 e anteriores, os pacotes de CPU e GPU são separados:

pip install tensorflow==1.15      # CPU
pip install tensorflow-gpu==1.15  # GPU

Requisitos de hardware

Os seguintes dispositivos ativados para GPU são compatíveis:

Requisitos de software

Os seguintes softwares NVIDIA® precisam ser instalados no sistema:

  • Drivers GPU NVIDIA® — a CUDA 10.1 requer uma versão 418.x ou mais recente.
  • CUDA® Toolkit — O TensorFlow é compatível com CUDA 10.1 (TensorFlow >= 2.1.0).
  • O CUPTI acompanha o CUDA Toolkit.
  • cuDNN SDK (>= 7.6)
  • (Opcional) TensorRT 6.0 para melhorar a latência e a capacidade de inferência em alguns modelos.

Configuração do Linux

As instruções apt abaixo são a maneira mais fácil de instalar o software NVIDIA necessário no Ubuntu. No entanto, se for criar o TensorFlow da origem, instale manualmente os requisitos de software listados acima e considere o uso de uma -devel imagem TensorFlow Docker como base.

Instale a CUPTI, que acompanha o CUDA® Toolkit. Anexe o diretório de instalação dela à variável de ambiente $LD_LIBRARY_PATH:

export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda/extras/CUPTI/lib64

Para uma GPU com capacidade de computação da CUDA 3.0 ou outras versões das bibliotecas da NVIDIA, consulte o guia sobre criar da origem para o Linux.

Instalar a CUDA com apt

Nesta seção, mostramos como instalar a CUDA 10 (TensorFlow >= 1.13.0) e a CUDA 9 para Ubuntu 16.04 e 18.04. Estas instruções podem funcionar para outras distribuições baseadas no Debian.

Ubuntu 18.04 (CUDA 10.1)

# Add NVIDIA package repositories
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/cuda-repo-ubuntu1804_10.1.243-1_amd64.deb
sudo apt-key adv --fetch-keys https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/7fa2af80.pub
sudo dpkg -i cuda-repo-ubuntu1804_10.1.243-1_amd64.deb
sudo apt-get update
wget http://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1804/x86_64/nvidia-machine-learning-repo-ubuntu1804_1.0.0-1_amd64.deb
sudo apt install ./nvidia-machine-learning-repo-ubuntu1804_1.0.0-1_amd64.deb
sudo apt-get update

# Install NVIDIA driver
sudo apt-get install --no-install-recommends nvidia-driver-430
# Reboot. Check that GPUs are visible using the command: nvidia-smi

# Install development and runtime libraries (~4GB)
sudo apt-get install --no-install-recommends \
    cuda-10-1 \
    libcudnn7=7.6.4.38-1+cuda10.1  \
    libcudnn7-dev=7.6.4.38-1+cuda10.1


# Install TensorRT. Requires that libcudnn7 is installed above.
sudo apt-get install -y --no-install-recommends libnvinfer6=6.0.1-1+cuda10.1 \
    libnvinfer-dev=6.0.1-1+cuda10.1 \
    libnvinfer-plugin6=6.0.1-1+cuda10.1

Ubuntu 16.04 (CUDA 10.1)

# Add NVIDIA package repositories
# Add HTTPS support for apt-key
sudo apt-get install gnupg-curl
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64/cuda-repo-ubuntu1604_10.1.243-1_amd64.deb
sudo apt-key adv --fetch-keys https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64/7fa2af80.pub
sudo dpkg -i cuda-repo-ubuntu1604_10.1.243-1_amd64.deb
sudo apt-get update
wget http://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1604/x86_64/nvidia-machine-learning-repo-ubuntu1604_1.0.0-1_amd64.deb
sudo apt install ./nvidia-machine-learning-repo-ubuntu1604_1.0.0-1_amd64.deb
sudo apt-get update

# Install NVIDIA driver
# Issue with driver install requires creating /usr/lib/nvidia
sudo mkdir /usr/lib/nvidia
sudo apt-get install --no-install-recommends nvidia-418
# Reboot. Check that GPUs are visible using the command: nvidia-smi

# Install development and runtime libraries (~4GB)
sudo apt-get install --no-install-recommends \
    cuda-10-1 \
    libcudnn7=7.6.4.38-1+cuda10.1  \
    libcudnn7-dev=7.6.4.38-1+cuda10.1


# Install TensorRT. Requires that libcudnn7 is installed above.
sudo apt-get install -y --no-install-recommends \
    libnvinfer6=6.0.1-1+cuda10.1 \
    libnvinfer-dev=6.0.1-1+cuda10.1 \
    libnvinfer-plugin6=6.0.1-1+cuda10.1

Ubuntu 16.04 (CUDA 9.0 para TensorFlow anterior a 1.13.0)

# Add NVIDIA package repository
sudo apt-key adv --fetch-keys http://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64/7fa2af80.pub
wget http://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64/cuda-repo-ubuntu1604_9.1.85-1_amd64.deb
sudo apt install ./cuda-repo-ubuntu1604_9.1.85-1_amd64.deb
wget http://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1604/x86_64/nvidia-machine-learning-repo-ubuntu1604_1.0.0-1_amd64.deb
sudo apt install ./nvidia-machine-learning-repo-ubuntu1604_1.0.0-1_amd64.deb
sudo apt update

# Install the NVIDIA driver
# Issue with driver install requires creating /usr/lib/nvidia
sudo mkdir /usr/lib/nvidia
sudo apt-get install --no-install-recommends nvidia-410
# Reboot. Check that GPUs are visible using the command: nvidia-smi

# Install CUDA and tools. Include optional NCCL 2.x
sudo apt install cuda9.0 cuda-cublas-9-0 cuda-cufft-9-0 cuda-curand-9-0 \
    cuda-cusolver-9-0 cuda-cusparse-9-0 libcudnn7=7.2.1.38-1+cuda9.0 \
    libnccl2=2.2.13-1+cuda9.0 cuda-command-line-tools-9-0

# Optional: Install the TensorRT runtime (must be after CUDA install)
sudo apt update
sudo apt install libnvinfer4=4.1.2-1+cuda9.0

Configuração do Windows

Consulte os requisitos de hardware e os de software listados acima. Leia o guia de instalação da CUDA® para Windows.

Verifique se os pacotes de software da NVIDIA instalados correspondem às versões listadas acima. Em particular, o TensorFlow não carregará sem o arquivo cuDNN64_7.dll. Para usar uma versão diferente, consulte o guia sobre criar da origem para o Windows.

Adicione os diretórios de instalação da CUDA, CUPTI e cuDNN à variável de ambiente %PATH%. Por exemplo, se o CUDA Toolkit estiver instalado em C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1 e cuDNN em C:\tools\cuda, atualize seu %PATH% para corresponder a:

SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1\bin;%PATH%
SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1\extras\CUPTI\libx64;%PATH%
SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1\include;%PATH%
SET PATH=C:\tools\cuda\bin;%PATH%