پشتیبانی از پردازنده گرافیکی

پشتیبانی از GPU TensorFlow به مجموعه ای از درایورها و کتابخانه ها نیاز دارد. برای ساده سازی نصب و جلوگیری از درگیری کتابخانه ، توصیه می کنیم از یک تصویر TensorFlow Docker با پشتیبانی GPU (فقط Linux) استفاده کنید. این تنظیمات فقط به درایورهای GPU NVIDIA® نیاز دارد.

این دستورالعمل های نصب برای آخرین نسخه TensorFlow است. از پیکربندی های ساخته شده آزمایش شده برای نسخه های CUDA® و cuDNN برای استفاده در نسخه های قدیمی TensorFlow دیدن کنید.

بسته پیپ

برای بسته های موجود ، نیازهای سیستم و دستورالعمل ها به راهنمای نصب pip مراجعه کنید. بسته pip TensorFlow شامل پشتیبانی از پردازنده گرافیکی کارتهای CUDA® می باشد:

pip install tensorflow

این راهنما شامل مراحل پشتیبانی و GPU GPU برای آخرین نسخه پایدار TensorFlow است.

نسخه های قدیمی تر TensorFlow

برای نسخه های 1.15 به بالا ، بسته های CPU و GPU جدا هستند:

pip install tensorflow==1.15      # CPU
pip install tensorflow-gpu==1.15  # GPU

مورد نیاز سخت افزار

دستگاه های دارای GPU زیر پشتیبانی می شوند:

کارت GPU NVIDIA® با معماری CUDA® 3.5 ، 5.0 ، 6.0 ، 7.0 ، 7.5 ، 8.0 و بالاتر از 8.0. به لیست کارتهای GPU مجهز به CUDA® مراجعه کنید.
برای پردازنده های گرافیکی با معماری CUDA پشتیبانی نشده ، یا جلوگیری از جمع آوری JIT از PTX یا استفاده از نسخه های مختلف کتابخانه های NVIDIA® ، به راهنمای ساخت Linux مراجعه کنید.
بسته ها حاوی کد PTX نیستند به جز آخرین معماری پشتیبانی شده CUDA®. بنابراین ، CUDA_FORCE_PTX_JIT=1 هنگام CUDA_FORCE_PTX_JIT=1 روی GPU های قدیمی بارگیری نمی کند. (برای اطلاعات بیشتر به سازگاری برنامه مراجعه کنید.)

الزامات نرم افزار

نرم افزار NVIDIA® زیر باید روی سیستم شما نصب شود:

درایورهای GPU NVIDIA® - CUDA® 11.0 به 450.x یا بالاتر نیاز دارد.
CUDA® Toolkit —TensorFlow از CUDA® 11 پشتیبانی می کند (TensorFlow> = 2.4.0)
CUPTI با جعبه ابزار CUDA® ارسال می شود.
نسخه های cuDNN SDK 8.0.4 cuDNN ).
(اختیاری) TensorRT 6.0 برای بهبود تأخیر و توان عملیاتی برای استنباط در برخی از مدل ها.

راه اندازی لینوکس

دستورالعمل های apt زیر ساده ترین راه برای نصب نرم افزار NVIDIA مورد نیاز در اوبونتو است. با این حال ، اگر TensorFlow را از منبع ساختید ، به صورت دستی الزامات نرم افزاری ذکر شده در بالا را نصب کنید و استفاده از یک تصویر -devel Docker را به عنوان پایه در نظر بگیرید.

CUPTI را نصب کنید که با جعبه ابزار CUDA® ارسال می شود. فهرست نصب آن را به متغیر محیطی $LD_LIBRARY_PATH :

export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda/extras/CUPTI/lib64

CUDA را با apt نصب کنید

این بخش نحوه نصب CUDA® 10 (TensorFlow> = 1.13.0) را در اوبونتو 16.04 و 18.04 نشان می دهد. این دستورالعمل ها ممکن است برای سایر توزیع های مبتنی بر Debian کار کنند.

اوبونتو 18.04 (CUDA 11.0)

# Add NVIDIA package repositories
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/cuda-ubuntu1804.pin
sudo mv cuda-ubuntu1804.pin /etc/apt/preferences.d/cuda-repository-pin-600
sudo apt-key adv --fetch-keys https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/7fa2af80.pub
sudo add-apt-repository "deb https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/ /"
sudo apt-get update

wget http://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1804/x86_64/nvidia-machine-learning-repo-ubuntu1804_1.0.0-1_amd64.deb

sudo apt install ./nvidia-machine-learning-repo-ubuntu1804_1.0.0-1_amd64.deb
sudo apt-get update

# Install NVIDIA driver
sudo apt-get install --no-install-recommends nvidia-driver-450
# Reboot. Check that GPUs are visible using the command: nvidia-smi

wget https://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1804/x86_64/libnvinfer7_7.1.3-1+cuda11.0_amd64.deb
sudo apt install ./libnvinfer7_7.1.3-1+cuda11.0_amd64.deb
sudo apt-get update

# Install development and runtime libraries (~4GB)
sudo apt-get install --no-install-recommends \
    cuda-11-0 \
    libcudnn8=8.0.4.30-1+cuda11.0  \
    libcudnn8-dev=8.0.4.30-1+cuda11.0


# Install TensorRT. Requires that libcudnn8 is installed above.
sudo apt-get install -y --no-install-recommends libnvinfer7=7.1.3-1+cuda11.0 \
    libnvinfer-dev=7.1.3-1+cuda11.0 \
    libnvinfer-plugin7=7.1.3-1+cuda11.0

اوبونتو 16.04 (CUDA 11.0)

# Add NVIDIA package repositories
# Add HTTPS support for apt-key
sudo apt-get install gnupg-curl
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64/cuda-ubuntu1604.pin
sudo mv cuda-ubuntu1604.pin /etc/apt/preferences.d/cuda-repository-pin-600
sudo apt-key adv --fetch-keys https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64/7fa2af80.pub
sudo add-apt-repository "deb https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64/ /"
sudo apt-get update
wget https://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1604/x86_64/nvidia-machine-learning-repo-ubuntu1604_1.0.0-1_amd64.deb
sudo apt install ./nvidia-machine-learning-repo-ubuntu1604_1.0.0-1_amd64.deb
sudo apt-get update
wget https://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1604/x86_64/libnvinfer7_7.1.3-1+cuda11.0_amd64.deb
sudo apt install ./libnvinfer7_7.1.3-1+cuda11.0_amd64.deb
sudo apt-get update

# Install NVIDIA driver
# Issue with driver install requires creating /usr/lib/nvidia
sudo mkdir /usr/lib/nvidia
sudo apt-get install --no-install-recommends nvidia-driver-450
# Reboot. Check that GPUs are visible using the command: nvidia-smi

# Install development and runtime libraries (~4GB)
sudo apt-get install --no-install-recommends \
    cuda-11-0 \
    libcudnn8=8.0.4.30-1+cuda11.0  \
    libcudnn8-dev=8.0.4.30-1+cuda11.0


# Install TensorRT. Requires that libcudnn7 is installed above.
sudo apt-get install -y --no-install-recommends \
    libnvinfer7=7.1.3-1+cuda11.0 \
    libnvinfer-dev=7.1.3-1+cuda11.0 \
    libnvinfer-plugin7=7.1.3-1+cuda11.0 \
    libnvinfer-plugin-dev=7.1.3-1+cuda11.0

نصب ویندوز

نیازهای سخت افزاری و نیازهای نرم افزاری ذکر شده در بالا را مشاهده کنید. راهنمای نصب CUDA® برای ویندوز را بخوانید.

اطمینان حاصل کنید که بسته های نرم افزاری NVIDIA نصب شده با نسخه های ذکر شده در بالا مطابقت دارند. به طور خاص ، cuDNN64_8.dll بدون پرونده cuDNN64_8.dll بارگیری نمی شود. برای استفاده از نسخه دیگری ، به راهنمای ساخت Windows از منبع مراجعه کنید .

فهرستهای نصب CUDA® ، CUPTI و cuDNN را به متغیر محیطی %PATH% . به عنوان مثال ، اگر جعبه ابزار CUDA® در C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0 و cuDNN به C:\tools\cuda ، %PATH% خود را به روز کنید تا مطابقت داشته باشد:

SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\bin;%PATH%
SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\extras\CUPTI\lib64;%PATH%
SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\include;%PATH%
SET PATH=C:\tools\cuda\bin;%PATH%