Have a question? Connect with the community at the TensorFlow Forum Visit Forum

जीपीयू समर्थन

TensorFlow GPU समर्थन के लिए ड्राइवरों और पुस्तकालयों के वर्गीकरण की आवश्यकता होती है। स्थापना को आसान बनाने और पुस्तकालय संघर्षों से बचने के लिए, हम GPU समर्थन (केवल Linux) के साथ TensorFlow Docker छवि का उपयोग करने की सलाह देते हैं। इस सेटअप के लिए केवल NVIDIA® GPU ड्राइवरों की आवश्यकता होती है।

ये इंस्टॉलेशन निर्देश TensorFlow की नवीनतम रिलीज़ के लिए हैं। पुराने TensorFlow रिलीज़ के साथ उपयोग करने के लिए CUDA® और cuDNN संस्करणों के लिए परीक्षण किए गए बिल्ड कॉन्फ़िगरेशन देखें।

पिप पैकेज

उपलब्ध पैकेजों, सिस्टम आवश्यकताओं और निर्देशों के लिए पाइप इंस्टाल गाइड देखें। TensorFlow pip पैकेज में CUDA®-सक्षम कार्ड के लिए GPU समर्थन शामिल है:

pip install tensorflow

यह मार्गदर्शिका नवीनतम स्थिर TensorFlow रिलीज़ के लिए GPU समर्थन और स्थापना चरणों को शामिल करती है।

TensorFlow के पुराने संस्करण

1.15 और पुराने रिलीज़ के लिए, CPU और GPU पैकेज अलग हैं:

pip install tensorflow==1.15      # CPU
pip install tensorflow-gpu==1.15  # GPU

हार्डवेयर आवश्यकताएँ

निम्नलिखित GPU-सक्षम डिवाइस समर्थित हैं:

  • CUDA® आर्किटेक्चर 3.5, 5.0, 6.0, 7.0, 7.5, 8.0 और 8.0 से अधिक के साथ NVIDIA® GPU कार्ड। CUDA®-सक्षम GPU कार्ड की सूची देखें।
  • असमर्थित CUDA® आर्किटेक्चर वाले GPU के लिए, या PTX से JIT संकलन से बचने के लिए, या NVIDIA® लाइब्रेरी के विभिन्न संस्करणों का उपयोग करने के लिए, स्रोत गाइड से Linux बिल्ड देखें।
  • नवीनतम समर्थित CUDA® आर्किटेक्चर को छोड़कर पैकेज में PTX कोड नहीं है; इसलिए, CUDA_FORCE_PTX_JIT CUDA_FORCE_PTX_JIT=1 सेट होने पर CUDA_FORCE_PTX_JIT=1 पुराने GPU पर लोड करने में विफल रहता है। (विवरण के लिए आवेदन संगतता देखें।)

सॉफ़्टवेयर आवश्यकताएं

आपके सिस्टम पर निम्नलिखित NVIDIA® सॉफ़्टवेयर स्थापित होना चाहिए:

लिनक्स सेटअप

नीचे apt निर्देश उबंटू पर आवश्यक एनवीआईडीआईए सॉफ्टवेयर स्थापित करने का सबसे आसान तरीका है। हालाँकि, यदि स्रोत से TensorFlow का निर्माण कर रहे हैं , तो ऊपर सूचीबद्ध सॉफ़्टवेयर आवश्यकताओं को मैन्युअल रूप से स्थापित करें, और आधार के रूप में -devel TensorFlow Docker छवि का उपयोग करने पर विचार करें।

CUPTI स्थापित करें जो CUDA® टूलकिट के साथ आता है। इसकी स्थापना निर्देशिका को $LD_LIBRARY_PATH पर्यावरण चर में जोड़ें:

export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda/extras/CUPTI/lib64

उपयुक्त के साथ CUDA स्थापित करें

यह खंड दिखाता है कि Ubuntu 16.04 और 18.04 पर CUDA® 11 (TensorFlow>= 2.4.0) कैसे स्थापित करें। ये निर्देश अन्य डेबियन-आधारित डिस्ट्रो के लिए काम कर सकते हैं।

उबंटू 18.04 (CUDA 11.0)

# Add NVIDIA package repositories
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/cuda-ubuntu1804.pin
sudo mv cuda-ubuntu1804.pin /etc/apt/preferences.d/cuda-repository-pin-600
sudo apt-key adv --fetch-keys https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/7fa2af80.pub
sudo add-apt-repository "deb https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/ /"
sudo apt-get update

wget http://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1804/x86_64/nvidia-machine-learning-repo-ubuntu1804_1.0.0-1_amd64.deb

sudo apt install ./nvidia-machine-learning-repo-ubuntu1804_1.0.0-1_amd64.deb
sudo apt-get update

wget https://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1804/x86_64/libnvinfer7_7.1.3-1+cuda11.0_amd64.deb
sudo apt install ./libnvinfer7_7.1.3-1+cuda11.0_amd64.deb
sudo apt-get update

# Install development and runtime libraries (~4GB)
sudo apt-get install --no-install-recommends \
    cuda-11-0 \
    libcudnn8=8.0.4.30-1+cuda11.0  \
    libcudnn8-dev=8.0.4.30-1+cuda11.0

# Reboot. Check that GPUs are visible using the command: nvidia-smi

# Install TensorRT. Requires that libcudnn8 is installed above.
sudo apt-get install -y --no-install-recommends libnvinfer7=7.1.3-1+cuda11.0 \
    libnvinfer-dev=7.1.3-1+cuda11.0 \
    libnvinfer-plugin7=7.1.3-1+cuda11.0

उबंटू 16.04 (सीयूडीए 11.0)

# Add NVIDIA package repositories
# Add HTTPS support for apt-key
sudo apt-get install gnupg-curl
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64/cuda-ubuntu1604.pin
sudo mv cuda-ubuntu1604.pin /etc/apt/preferences.d/cuda-repository-pin-600
sudo apt-key adv --fetch-keys https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64/7fa2af80.pub
sudo add-apt-repository "deb https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64/ /"
sudo apt-get update
wget https://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1604/x86_64/nvidia-machine-learning-repo-ubuntu1604_1.0.0-1_amd64.deb
sudo apt install ./nvidia-machine-learning-repo-ubuntu1604_1.0.0-1_amd64.deb
sudo apt-get update
wget https://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1604/x86_64/libnvinfer7_7.1.3-1+cuda11.0_amd64.deb
sudo apt install ./libnvinfer7_7.1.3-1+cuda11.0_amd64.deb
sudo apt-get update

# Install development and runtime libraries (~4GB)
sudo apt-get install --no-install-recommends \
    cuda-11-0 \
    libcudnn8=8.0.4.30-1+cuda11.0  \
    libcudnn8-dev=8.0.4.30-1+cuda11.0


# Reboot. Check that GPUs are visible using the command: nvidia-smi

# Install TensorRT. Requires that libcudnn7 is installed above.
sudo apt-get install -y --no-install-recommends \
    libnvinfer7=7.1.3-1+cuda11.0 \
    libnvinfer-dev=7.1.3-1+cuda11.0 \
    libnvinfer-plugin7=7.1.3-1+cuda11.0 \
    libnvinfer-plugin-dev=7.1.3-1+cuda11.0

विंडोज सेटअप

ऊपर सूचीबद्ध हार्डवेयर आवश्यकताओं और सॉफ़्टवेयर आवश्यकताओं को देखें। विंडोज के लिए CUDA® इंस्टॉल गाइड पढ़ें।

सुनिश्चित करें कि स्थापित NVIDIA सॉफ़्टवेयर पैकेज ऊपर सूचीबद्ध संस्करणों से मेल खाते हैं। विशेष रूप से, TensorFlow cuDNN64_8.dll फ़ाइल के बिना लोड नहीं होगा। किसी भिन्न संस्करण का उपयोग करने के लिए, स्रोत मार्गदर्शिका से Windows बिल्ड देखें।

CUDA®, CUPTI, और cuDNN संस्थापन निर्देशिकाओं को %PATH% पर्यावरण चर में जोड़ें। उदाहरण के लिए, यदि CUDA® टूलकिट C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0 और cuDNN से C:\tools\cuda , तो मिलान करने के लिए अपने %PATH% को अपडेट करें:

SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\bin;%PATH%
SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\extras\CUPTI\lib64;%PATH%
SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\include;%PATH%
SET PATH=C:\tools\cuda\bin;%PATH%