دعم GPU

يتطلب دعم TensorFlow GPU مجموعة متنوعة من برامج التشغيل والمكتبات. لتبسيط التثبيت وتجنب تعارضات المكتبة ، نوصي باستخدام صورة TensorFlow Docker مع دعم وحدة معالجة الرسومات (Linux فقط). يتطلب هذا الإعداد فقط برامج تشغيل NVIDIA® GPU .

تعليمات التثبيت هذه خاصة بأحدث إصدار من TensorFlow. راجع تكوينات البناء المختبرة لإصدارات CUDA® و cuDNN لاستخدامها مع إصدارات TensorFlow الأقدم.

حزمة النقطة

راجع دليل تثبيت النقطة للحزم المتوفرة ومتطلبات الأنظمة والتعليمات. تتضمن حزمة TensorFlow pip دعم GPU للبطاقات التي تدعم CUDA®:

pip install tensorflow

يغطي هذا الدليل خطوات دعم GPU والتثبيت لأحدث إصدار ثابت من TensorFlow.

إصدارات أقدم من TensorFlow

بالنسبة للإصدارات 1.15 والإصدارات الأقدم ، تكون حزم CPU و GPU منفصلة:

pip install tensorflow==1.15      # CPU
pip install tensorflow-gpu==1.15  # GPU

متطلبات الأجهزة

الأجهزة التالية التي تدعم GPU مدعومة:

بطاقة NVIDIA® GPU مع بنى CUDA® 3.5 و 5.0 و 6.0 و 7.0 و 7.5 و 8.0 وأعلى من 8.0. راجع قائمة بطاقات GPU التي تدعم CUDA® .
بالنسبة لوحدات معالجة الرسومات ذات بنيات CUDA® غير المدعومة ، أو لتجنب تجميع JIT من PTX ، أو لاستخدام إصدارات مختلفة من مكتبات NVIDIA® ، راجع دليل إصدار Linux من المصدر .
لا تحتوي الحزم على كود PTX باستثناء أحدث هندسة CUDA مدعومة ؛ لذلك ، يفشل TensorFlow في التحميل على وحدات معالجة الرسومات الأقدم عند CUDA_FORCE_PTX_JIT=1 . (راجع توافق التطبيق للحصول على التفاصيل.)

متطلبات البرنامج

يجب تثبيت برنامج NVIDIA® التالي على نظامك:

برامج تشغيل NVIDIA® GPU —CUDA® 11.0 تتطلب 450.x أو أعلى.
مجموعة أدوات CUDA® —TensorFlow تدعم CUDA® 11 (TensorFlow> = 2.4.0)
يتم شحن CUPTI مع مجموعة أدوات CUDA®.
cuDNN SDK 8.0.4 إصدارات cuDNN ).
(اختياري) TensorRT 6.0 لتحسين زمن الانتقال والإنتاجية للاستدلال على بعض الطرز.

إعداد Linux

و apt التعليمات التالية هي أسهل طريقة لتثبيت برنامج NVIDIA المطلوبة على أوبونتو. ومع ذلك ، إذا قمت بإنشاء TensorFlow من المصدر ، فقم بتثبيت متطلبات البرنامج المذكورة أعلاه يدويًا ، -devel في استخدام صورة TensorFlow Docker كقاعدة.

قم بتثبيت CUPTI الذي يأتي مع مجموعة أدوات CUDA®. إلحاق دليل التثبيت الخاص به $LD_LIBRARY_PATH البيئي $LD_LIBRARY_PATH :

export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda/extras/CUPTI/lib64

قم بتثبيت CUDA باستخدام apt

يوضح هذا القسم كيفية تثبيت CUDA® 10 (TensorFlow> = 1.13.0) على Ubuntu 16.04 و 18.04. قد تعمل هذه التعليمات مع توزيعات أخرى قائمة على دبيان.

Ubuntu 18.04 (CUDA 11.0)

# Add NVIDIA package repositories
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/cuda-ubuntu1804.pin
sudo mv cuda-ubuntu1804.pin /etc/apt/preferences.d/cuda-repository-pin-600
sudo apt-key adv --fetch-keys https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/7fa2af80.pub
sudo add-apt-repository "deb https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/ /"
sudo apt-get update

wget http://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1804/x86_64/nvidia-machine-learning-repo-ubuntu1804_1.0.0-1_amd64.deb

sudo apt install ./nvidia-machine-learning-repo-ubuntu1804_1.0.0-1_amd64.deb
sudo apt-get update

# Install NVIDIA driver
sudo apt-get install --no-install-recommends nvidia-driver-450
# Reboot. Check that GPUs are visible using the command: nvidia-smi

wget https://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1804/x86_64/libnvinfer7_7.1.3-1+cuda11.0_amd64.deb
sudo apt install ./libnvinfer7_7.1.3-1+cuda11.0_amd64.deb
sudo apt-get update

# Install development and runtime libraries (~4GB)
sudo apt-get install --no-install-recommends \
    cuda-11-0 \
    libcudnn8=8.0.4.30-1+cuda11.0  \
    libcudnn8-dev=8.0.4.30-1+cuda11.0


# Install TensorRT. Requires that libcudnn8 is installed above.
sudo apt-get install -y --no-install-recommends libnvinfer7=7.1.3-1+cuda11.0 \
    libnvinfer-dev=7.1.3-1+cuda11.0 \
    libnvinfer-plugin7=7.1.3-1+cuda11.0

Ubuntu 16.04 (CUDA 11.0)

# Add NVIDIA package repositories
# Add HTTPS support for apt-key
sudo apt-get install gnupg-curl
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64/cuda-ubuntu1604.pin
sudo mv cuda-ubuntu1604.pin /etc/apt/preferences.d/cuda-repository-pin-600
sudo apt-key adv --fetch-keys https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64/7fa2af80.pub
sudo add-apt-repository "deb https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64/ /"
sudo apt-get update
wget https://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1604/x86_64/nvidia-machine-learning-repo-ubuntu1604_1.0.0-1_amd64.deb
sudo apt install ./nvidia-machine-learning-repo-ubuntu1604_1.0.0-1_amd64.deb
sudo apt-get update
wget https://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1604/x86_64/libnvinfer7_7.1.3-1+cuda11.0_amd64.deb
sudo apt install ./libnvinfer7_7.1.3-1+cuda11.0_amd64.deb
sudo apt-get update

# Install NVIDIA driver
# Issue with driver install requires creating /usr/lib/nvidia
sudo mkdir /usr/lib/nvidia
sudo apt-get install --no-install-recommends nvidia-driver-450
# Reboot. Check that GPUs are visible using the command: nvidia-smi

# Install development and runtime libraries (~4GB)
sudo apt-get install --no-install-recommends \
    cuda-11-0 \
    libcudnn8=8.0.4.30-1+cuda11.0  \
    libcudnn8-dev=8.0.4.30-1+cuda11.0


# Install TensorRT. Requires that libcudnn7 is installed above.
sudo apt-get install -y --no-install-recommends \
    libnvinfer7=7.1.3-1+cuda11.0 \
    libnvinfer-dev=7.1.3-1+cuda11.0 \
    libnvinfer-plugin7=7.1.3-1+cuda11.0 \
    libnvinfer-plugin-dev=7.1.3-1+cuda11.0

إعداد Windows

راجع متطلبات الأجهزة ومتطلبات البرامج المذكورة أعلاه. اقرأ دليل تثبيت CUDA® لنظام التشغيل Windows .

تأكد من تطابق حزم برامج NVIDIA المثبتة مع الإصدارات المذكورة أعلاه. على وجه الخصوص ، لن يتم تحميل cuDNN64_8.dll بدون ملف cuDNN64_8.dll . لاستخدام إصدار مختلف ، راجع دليل إنشاء Windows من المصدر .

أضف دلائل تثبيت CUDA® و CUPTI و cuDNN إلى متغير البيئة %PATH% . على سبيل المثال ، إذا تم تثبيت CUDA Toolkit على C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0 و cuDNN إلى C:\tools\cuda ، C:\tools\cuda بتحديث %PATH% للمطابقة:

SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\bin;%PATH%
SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\extras\CUPTI\lib64;%PATH%
SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\include;%PATH%
SET PATH=C:\tools\cuda\bin;%PATH%