Google is committed to advancing racial equity for Black communities. See how.
דף זה תורגם על ידי Cloud Translation API.
Switch to English

תמיכה ב- GPU

תמיכה ב- TensorFlow GPU דורשת מגוון מנהלי התקנים וספריות. כדי לפשט את ההתקנה ולמנוע התנגשויות בספריה, אנו ממליצים להשתמש בתמונת TensorFlow Docker עם תמיכה ב- GPU (לינוקס בלבד). התקנה זו דורשת רק את מנהלי ההתקן של NVIDIA® GPU .

הוראות התקנה אלה מיועדות למהדורה האחרונה של TensorFlow. ראה את תצורות הבנייה שנבדקו עבור גרסאות CUDA® ו- cuDNN לשימוש עם מהדורות ישנות יותר של TensorFlow.

חבילת פיפ

עיין במדריך להתקנת pip לקבלת חבילות זמינות, דרישות מערכות והוראות. TensorFlow pip החבילה כוללת תמיכה GPU עבור כרטיסי מאופשר CUDA®:

pip install tensorflow

מדריך זה מכסה את תמיכת GPU ואת שלבי ההתקנה עבור המהדורה האחרונה של TensorFlow היציבה .

גרסאות ישנות יותר של TensorFlow

במהדורות 1.15 ומעלה, חבילות CPU ו- GPU נפרדות:

pip install tensorflow==1.15      # CPU
pip install tensorflow-gpu==1.15  # GPU

דרישות חומרה

המכשירים הבאים התומכים ב- GPU נתמכים:

  • כרטיס NVIDIA® GPU עם ארכיטקטורות CUDA® 3.5, 3.7, 5.2, 6.0, 6.1, 7.0 ומעלה מ- 7.0. ראה את רשימת כרטיסי ה- GPU המותאמים ל- CUDA .
  • במערכות עם מעבדי NVIDIA® Ampere GPU (ארכיטקטורת CUDA 8.0) ומעלה, גרעיני ה- JIT מורכבים מ- PTX וניתן לקחת מעל 30 דקות להפעלת TensorFlow. תקורה זו יכולה להיות מוגבלת להפעלה הראשונה על ידי הגדלת גודל המטמון של JIT המוגדר כברירת מחדל עם: ' export CUDA_CACHE_MAXSIZE=2147483648 ' (ראה JIT Caching לפרטים).
  • עבור גרפי GPU עם ארכיטקטורות CUDA® שאינן נתמכות, או כדי להימנע מאוסף JIT מ- PTX, או להשתמש בגרסאות שונות של ספריות NVIDIA®, עיין במבנה המדריך המקורי של Linux .
  • חבילות אינן מכילות קוד PTX למעט ארכיטקטורת CUDA® הנתמכת האחרונה; לכן, TensorFlow לא מצליח לטעון על GPUs ישנים יותר כאשר CUDA_FORCE_PTX_JIT=1 מוגדר. (ראה תאימות יישומים לפרטים.)

דרישות תוכנה

יש להתקין את תוכנת NVIDIA® הבאה במערכת שלך:

התקנת לינוקס

ההוראות apt להלן הן הדרך הקלה ביותר להתקין את תוכנת NVIDIA הנדרשת באובונטו. עם זאת, אם בוני TensorFlow ממקור , התקן ידני את דרישות התוכנה מפורטות לעיל, ושקלי להשתמש -devel תמונת TensorFlow דוקר כבסיס.

התקן את CUPTI המגיע עם ערכת הכלים CUDA®. הוסף את ספריית ההתקנה שלה $LD_LIBRARY_PATH הסביבתי $LD_LIBRARY_PATH :

export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda/extras/CUPTI/lib64

התקן את CUDA עם apt

חלק זה מראה כיצד להתקין את CUDA® 10 (TensorFlow> = 1.13.0) באובונטו 16.04 ו- 18.04. הוראות אלה עשויות לפעול להפצות אחרות מבוססות דביאן.

אובונטו 18.04 (CUDA 10.1)

# Add NVIDIA package repositories
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/cuda-repo-ubuntu1804_10.1.243-1_amd64.deb
sudo apt-key adv --fetch-keys https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/7fa2af80.pub
sudo dpkg -i cuda-repo-ubuntu1804_10.1.243-1_amd64.deb
sudo apt-get update
wget http://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1804/x86_64/nvidia-machine-learning-repo-ubuntu1804_1.0.0-1_amd64.deb
sudo apt install ./nvidia-machine-learning-repo-ubuntu1804_1.0.0-1_amd64.deb
sudo apt-get update

# Install development and runtime libraries (~4GB)
sudo apt-get install --no-install-recommends \
    cuda-10-1 \
    libcudnn7=7.6.5.32-1+cuda10.1  \
    libcudnn7-dev=7.6.5.32-1+cuda10.1


# Install TensorRT. Requires that libcudnn7 is installed above.
sudo apt-get install -y --no-install-recommends libnvinfer6=6.0.1-1+cuda10.1 \
    libnvinfer-dev=6.0.1-1+cuda10.1 \
    libnvinfer-plugin6=6.0.1-1+cuda10.1

אובונטו 16.04 (CUDA 10.1)

# Add NVIDIA package repositories
# Add HTTPS support for apt-key
sudo apt-get install gnupg-curl
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64/cuda-repo-ubuntu1604_10.1.243-1_amd64.deb
sudo apt-key adv --fetch-keys https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64/7fa2af80.pub
sudo dpkg -i cuda-repo-ubuntu1604_10.1.243-1_amd64.deb
sudo apt-get update
wget https://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1604/x86_64/nvidia-machine-learning-repo-ubuntu1604_1.0.0-1_amd64.deb
sudo apt install ./nvidia-machine-learning-repo-ubuntu1604_1.0.0-1_amd64.deb
sudo apt-get update

# Install NVIDIA driver
# Issue with driver install requires creating /usr/lib/nvidia
sudo mkdir /usr/lib/nvidia
sudo apt-get install --no-install-recommends nvidia-418
# Reboot. Check that GPUs are visible using the command: nvidia-smi

# Install development and runtime libraries (~4GB)
sudo apt-get install --no-install-recommends \
    cuda-10-1 \
    libcudnn7=7.6.4.38-1+cuda10.1  \
    libcudnn7-dev=7.6.4.38-1+cuda10.1


# Install TensorRT. Requires that libcudnn7 is installed above.
sudo apt-get install -y --no-install-recommends \
    libnvinfer6=6.0.1-1+cuda10.1 \
    libnvinfer-dev=6.0.1-1+cuda10.1 \
    libnvinfer-plugin6=6.0.1-1+cuda10.1

הגדרת Windows

עיין בדרישות החומרה ובדרישות התוכנה המפורטות לעיל. קרא את מדריך ההתקנה של CUDA® עבור Windows .

ודא שחבילות התוכנה המותקנות של NVIDIA תואמות לגרסאות המפורטות לעיל. בפרט, TensorFlow לא נטען ללא הקובץ cuDNN64_7.dll . כדי להשתמש בגרסה אחרת, עיין במדריך הבנייה של Windows ממקור .

הוסף את ספריות ההתקנה CUDA®, CUPTI ו- cuDNN למשתנה הסביבתי %PATH% . לדוגמה, אם ערכת הכלים CUDA® מותקנת ב- C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1 ו- cuDNN ל- C:\tools\cuda , עדכן את %PATH% כך שיתאים:

SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1\bin;%PATH%
SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1\extras\CUPTI\lib64;%PATH%
SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1\include;%PATH%
SET PATH=C:\tools\cuda\bin;%PATH%