Google si impegna a promuovere l'equità razziale per le comunità nere. Vedi come.
Questa pagina è stata tradotta dall'API Cloud Translation.
Switch to English

Supporto GPU

Il supporto della GPU TensorFlow richiede un assortimento di driver e librerie. Per semplificare l'installazione ed evitare conflitti di libreria, consigliamo di utilizzare un'immagine Docker di TensorFlow con supporto GPU (solo Linux). Questa configurazione richiede solo i driver GPU NVIDIA® .

Queste istruzioni di installazione si riferiscono all'ultima versione di TensorFlow. Consulta le configurazioni di build testate per le versioni CUDA® e cuDNN da utilizzare con le versioni precedenti di TensorFlow.

Pacchetto pip

Vedere la guida all'installazione di pip per i pacchetti disponibili, i requisiti di sistema e le istruzioni. Il pacchetto pip TensorFlow include il supporto GPU per le schede abilitate CUDA®:

pip install tensorflow

Questa guida copre il supporto della GPU e le fasi di installazione per l'ultima versione stabile di TensorFlow.

Versioni precedenti di TensorFlow

Per le versioni 1.15 e precedenti, i pacchetti CPU e GPU sono separati:

pip install tensorflow==1.15      # CPU
pip install tensorflow-gpu==1.15  # GPU

Requisiti hardware

Sono supportati i seguenti dispositivi abilitati per GPU:

  • Scheda GPU NVIDIA® con architetture CUDA® 3.5 o successive. Consulta l'elenco delle schede GPU abilitate per CUDA® .
  • Per le GPU con architetture CUDA® non supportate o per evitare la compilazione JIT da PTX o per utilizzare versioni diverse delle librerie NVIDIA®, vedere la guida alla build di Linux dal sorgente .
  • Sui sistemi con GPU NVIDIA® Ampere (architettura CUDA 8.0) o più recenti, i kernel sono compilati JIT da PTX e l'avvio di TensorFlow può richiedere più di 30 minuti. Questo overhead può essere limitato al primo avvio aumentando la dimensione predefinita della cache JIT con: " export CUDA_CACHE_MAXSIZE=2147483648 " (vedere Caching JIT per i dettagli).
  • I pacchetti non contengono codice PTX ad eccezione dell'ultima architettura CUDA® supportata; pertanto, TensorFlow non riesce a caricare su GPU meno CUDA_FORCE_PTX_JIT=1 quando CUDA_FORCE_PTX_JIT=1 è impostato. (Vedi Compatibilità delle applicazioni per i dettagli.)

Requisiti software

Il seguente software NVIDIA® deve essere installato sul sistema:

Configurazione di Linux

Le istruzioni apt seguito sono il modo più semplice per installare il software NVIDIA richiesto su Ubuntu. Tuttavia, se si crea TensorFlow dall'origine , installare manualmente i requisiti software sopra elencati e prendere in considerazione l'utilizzo di un'immagine Docker TensorFlow -devel come base.

Installa CUPTI fornito con CUDA® Toolkit. Aggiungi la sua directory di installazione alla variabile $LD_LIBRARY_PATH ambiente $LD_LIBRARY_PATH :

export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda/extras/CUPTI/lib64

Installa CUDA con apt

Questa sezione mostra come installare CUDA® 10 (TensorFlow> = 1.13.0) su Ubuntu 16.04 e 18.04. Queste istruzioni potrebbero funzionare per altre distribuzioni basate su Debian.

Ubuntu 18.04 (CUDA 10.1)

# Add NVIDIA package repositories
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/cuda-repo-ubuntu1804_10.1.243-1_amd64.deb
sudo apt-key adv --fetch-keys https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/7fa2af80.pub
sudo dpkg -i cuda-repo-ubuntu1804_10.1.243-1_amd64.deb
sudo apt-get update
wget http://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1804/x86_64/nvidia-machine-learning-repo-ubuntu1804_1.0.0-1_amd64.deb
sudo apt install ./nvidia-machine-learning-repo-ubuntu1804_1.0.0-1_amd64.deb
sudo apt-get update

# Install NVIDIA driver
sudo apt-get install --no-install-recommends nvidia-driver-450
# Reboot. Check that GPUs are visible using the command: nvidia-smi

# Install development and runtime libraries (~4GB)
sudo apt-get install --no-install-recommends \
    cuda-10-1 \
    libcudnn7=7.6.5.32-1+cuda10.1  \
    libcudnn7-dev=7.6.5.32-1+cuda10.1


# Install TensorRT. Requires that libcudnn7 is installed above.
sudo apt-get install -y --no-install-recommends libnvinfer6=6.0.1-1+cuda10.1 \
    libnvinfer-dev=6.0.1-1+cuda10.1 \
    libnvinfer-plugin6=6.0.1-1+cuda10.1

Ubuntu 16.04 (CUDA 10.1)

# Add NVIDIA package repositories
# Add HTTPS support for apt-key
sudo apt-get install gnupg-curl
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64/cuda-repo-ubuntu1604_10.1.243-1_amd64.deb
sudo apt-key adv --fetch-keys https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64/7fa2af80.pub
sudo dpkg -i cuda-repo-ubuntu1604_10.1.243-1_amd64.deb
sudo apt-get update
wget http://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1604/x86_64/nvidia-machine-learning-repo-ubuntu1604_1.0.0-1_amd64.deb
sudo apt install ./nvidia-machine-learning-repo-ubuntu1604_1.0.0-1_amd64.deb
sudo apt-get update

# Install NVIDIA driver
# Issue with driver install requires creating /usr/lib/nvidia
sudo mkdir /usr/lib/nvidia
sudo apt-get install --no-install-recommends nvidia-418
# Reboot. Check that GPUs are visible using the command: nvidia-smi

# Install development and runtime libraries (~4GB)
sudo apt-get install --no-install-recommends \
    cuda-10-1 \
    libcudnn7=7.6.4.38-1+cuda10.1  \
    libcudnn7-dev=7.6.4.38-1+cuda10.1


# Install TensorRT. Requires that libcudnn7 is installed above.
sudo apt-get install -y --no-install-recommends \
    libnvinfer6=6.0.1-1+cuda10.1 \
    libnvinfer-dev=6.0.1-1+cuda10.1 \
    libnvinfer-plugin6=6.0.1-1+cuda10.1

Configurazione di Windows

Consulta i requisiti hardware e software sopra elencati. Leggi la guida all'installazione di CUDA® per Windows .

Assicurati che i pacchetti software NVIDIA installati corrispondano alle versioni sopra elencate. In particolare, TensorFlow non verrà caricato senza il file cuDNN64_7.dll . Per usare una versione diversa, vedere la guida alla build di Windows dal codice sorgente .

Aggiungere le directory di installazione CUDA®, CUPTI e cuDNN alla variabile ambientale %PATH% . Ad esempio, se CUDA® Toolkit è installato in C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1 e cuDNN in C:\tools\cuda , aggiorna il tuo %PATH% in modo che corrisponda:

SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1\bin;%PATH%
SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1\extras\CUPTI\lib64;%PATH%
SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1\include;%PATH%
SET PATH=C:\tools\cuda\bin;%PATH%