پشتیبانی از GPU TensorFlow به مجموعه ای از درایورها و کتابخانه ها نیاز دارد. برای ساده سازی نصب و جلوگیری از درگیری کتابخانه ، توصیه می کنیم از یک تصویر TensorFlow Docker با پشتیبانی GPU (فقط Linux) استفاده کنید. این تنظیمات فقط به درایورهای GPU NVIDIA® نیاز دارد.
این دستورالعمل های نصب برای آخرین نسخه TensorFlow است. از پیکربندی های ساخته شده آزمایش شده برای نسخه های CUDA® و cuDNN برای استفاده در نسخه های قدیمی TensorFlow دیدن کنید.
بسته پیپ
برای بسته های موجود ، نیازهای سیستم و دستورالعمل ها به راهنمای نصب pip مراجعه کنید. بسته pip
TensorFlow شامل پشتیبانی از پردازنده گرافیکی کارتهای CUDA® می باشد:
pip install tensorflow
این راهنما شامل مراحل پشتیبانی و GPU GPU برای آخرین نسخه پایدار TensorFlow است.
نسخه های قدیمی تر TensorFlow
برای نسخه های 1.15 به بالا ، بسته های CPU و GPU جدا هستند:
pip install tensorflow==1.15 # CPU
pip install tensorflow-gpu==1.15 # GPU
مورد نیاز سخت افزار
دستگاه های دارای GPU زیر پشتیبانی می شوند:
- کارت GPU NVIDIA® با معماری CUDA® 3.5 ، 5.0 ، 6.0 ، 7.0 ، 7.5 ، 8.0 و بالاتر از 8.0. به لیست کارتهای GPU مجهز به CUDA® مراجعه کنید.
- برای پردازنده های گرافیکی با معماری CUDA پشتیبانی نشده ، یا جلوگیری از جمع آوری JIT از PTX یا استفاده از نسخه های مختلف کتابخانه های NVIDIA® ، به راهنمای ساخت Linux مراجعه کنید.
- بسته ها حاوی کد PTX نیستند به جز آخرین معماری پشتیبانی شده CUDA®. بنابراین ،
CUDA_FORCE_PTX_JIT=1
هنگامCUDA_FORCE_PTX_JIT=1
روی GPU های قدیمی بارگیری نمی کند. (برای اطلاعات بیشتر به سازگاری برنامه مراجعه کنید.)
الزامات نرم افزار
نرم افزار NVIDIA® زیر باید روی سیستم شما نصب شود:
- درایورهای GPU NVIDIA® - CUDA® 11.0 به 450.x یا بالاتر نیاز دارد.
- CUDA® Toolkit —TensorFlow از CUDA® 11 پشتیبانی می کند (TensorFlow> = 2.4.0)
- CUPTI با جعبه ابزار CUDA® ارسال می شود.
- نسخه های cuDNN SDK 8.0.4 cuDNN ).
- (اختیاری) TensorRT 6.0 برای بهبود تأخیر و توان عملیاتی برای استنباط در برخی از مدل ها.
راه اندازی لینوکس
دستورالعمل های apt
زیر ساده ترین راه برای نصب نرم افزار NVIDIA مورد نیاز در اوبونتو است. با این حال ، اگر TensorFlow را از منبع ساختید ، به صورت دستی الزامات نرم افزاری ذکر شده در بالا را نصب کنید و استفاده از یک تصویر -devel
Docker را به عنوان پایه در نظر بگیرید.
CUPTI را نصب کنید که با جعبه ابزار CUDA® ارسال می شود. فهرست نصب آن را به متغیر محیطی $LD_LIBRARY_PATH
:
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda/extras/CUPTI/lib64
CUDA را با apt نصب کنید
این بخش نحوه نصب CUDA® 10 (TensorFlow> = 1.13.0) را در اوبونتو 16.04 و 18.04 نشان می دهد. این دستورالعمل ها ممکن است برای سایر توزیع های مبتنی بر Debian کار کنند.
اوبونتو 18.04 (CUDA 11.0)
# Add NVIDIA package repositorieswget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/cuda-ubuntu1804.pin
sudo mv cuda-ubuntu1804.pin /etc/apt/preferences.d/cuda-repository-pin-600
sudo apt-key adv --fetch-keys https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/7fa2af80.pub
sudo add-apt-repository "deb https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/ /"
sudo apt-get update wget http://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1804/x86_64/nvidia-machine-learning-repo-ubuntu1804_1.0.0-1_amd64.deb
sudo apt install ./nvidia-machine-learning-repo-ubuntu1804_1.0.0-1_amd64.deb
sudo apt-get update
# Install NVIDIA driversudo apt-get install --no-install-recommends nvidia-driver-450
# Reboot. Check that GPUs are visible using the command: nvidia-smiwget https://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1804/x86_64/libnvinfer7_7.1.3-1+cuda11.0_amd64.deb
sudo apt install ./libnvinfer7_7.1.3-1+cuda11.0_amd64.deb
sudo apt-get update
# Install development and runtime libraries (~4GB)sudo apt-get install --no-install-recommends \ cuda-11-0 \ libcudnn8=8.0.4.30-1+cuda11.0 \ libcudnn8-dev=8.0.4.30-1+cuda11.0
# Install TensorRT. Requires that libcudnn8 is installed above.sudo apt-get install -y --no-install-recommends libnvinfer7=7.1.3-1+cuda11.0 \ libnvinfer-dev=7.1.3-1+cuda11.0 \ libnvinfer-plugin7=7.1.3-1+cuda11.0
اوبونتو 16.04 (CUDA 11.0)
# Add NVIDIA package repositories # Add HTTPS support for apt-keysudo apt-get install gnupg-curl
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64/cuda-ubuntu1604.pin
sudo mv cuda-ubuntu1604.pin /etc/apt/preferences.d/cuda-repository-pin-600
sudo apt-key adv --fetch-keys https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64/7fa2af80.pub
sudo add-apt-repository "deb https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64/ /"
sudo apt-get update
wget https://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1604/x86_64/nvidia-machine-learning-repo-ubuntu1604_1.0.0-1_amd64.deb
sudo apt install ./nvidia-machine-learning-repo-ubuntu1604_1.0.0-1_amd64.deb
sudo apt-get update
wget https://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1604/x86_64/libnvinfer7_7.1.3-1+cuda11.0_amd64.deb
sudo apt install ./libnvinfer7_7.1.3-1+cuda11.0_amd64.deb
sudo apt-get update
# Install NVIDIA driver # Issue with driver install requires creating /usr/lib/nvidiasudo mkdir /usr/lib/nvidia
sudo apt-get install --no-install-recommends nvidia-driver-450
# Reboot. Check that GPUs are visible using the command: nvidia-smi # Install development and runtime libraries (~4GB)sudo apt-get install --no-install-recommends \ cuda-11-0 \ libcudnn8=8.0.4.30-1+cuda11.0 \ libcudnn8-dev=8.0.4.30-1+cuda11.0
# Install TensorRT. Requires that libcudnn7 is installed above.sudo apt-get install -y --no-install-recommends \ libnvinfer7=7.1.3-1+cuda11.0 \ libnvinfer-dev=7.1.3-1+cuda11.0 \ libnvinfer-plugin7=7.1.3-1+cuda11.0 \ libnvinfer-plugin-dev=7.1.3-1+cuda11.0
نصب ویندوز
نیازهای سخت افزاری و نیازهای نرم افزاری ذکر شده در بالا را مشاهده کنید. راهنمای نصب CUDA® برای ویندوز را بخوانید.
اطمینان حاصل کنید که بسته های نرم افزاری NVIDIA نصب شده با نسخه های ذکر شده در بالا مطابقت دارند. به طور خاص ، cuDNN64_8.dll
بدون پرونده cuDNN64_8.dll
بارگیری نمی شود. برای استفاده از نسخه دیگری ، به راهنمای ساخت Windows از منبع مراجعه کنید .
فهرستهای نصب CUDA® ، CUPTI و cuDNN را به متغیر محیطی %PATH%
. به عنوان مثال ، اگر جعبه ابزار CUDA® در C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0
و cuDNN به C:\tools\cuda
، %PATH%
خود را به روز کنید تا مطابقت داشته باشد:
SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\bin;%PATH%
SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\extras\CUPTI\lib64;%PATH%
SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\include;%PATH%
SET PATH=C:\tools\cuda\bin;%PATH%