XLA

XLA (אלגברה לינארית מואצת) הוא מהדר קוד פתוח ללמידת מכונה. המהדר XLA לוקח דגמים ממסגרות פופולריות כמו PyTorch, TensorFlow ו-JAX, ומייעל את המודלים לביצוע ביצועים גבוהים על פני פלטפורמות חומרה שונות כולל GPUs, CPUs ומאיצי ML. לדוגמה, בהגשה של BERT MLPerf , שימוש ב-XLA עם 8 GPUs Volta V100 השיג שיפור של ~7x ושיפור של ~5x בגודל אצווה בהשוואה לאותם GPUs ללא XLA.

כחלק מפרויקט OpenXLA, XLA נבנה בשיתוף פעולה על ידי חברות חומרה ותוכנה ML מובילות בתעשייה, כולל Alibaba, Amazon Web Services, AMD, Apple, Arm, Google, Intel, Meta ו-NVIDIA.

יתרונות מרכזיים

  • בנה בכל מקום : XLA כבר משולב במסגרות ML מובילות כמו TensorFlow, PyTorch ו-JAX.

  • הפעל בכל מקום : הוא תומך בקצה עורפי שונים כולל GPUs, CPUs ומאיצי ML, וכולל תשתית ניתנת לחיבור כדי להוסיף תמיכה לעוד.

  • הגדל את הביצועים והקנה קנה מידה : הוא מייעל את ביצועי המודל עם מעברי אופטימיזציה שנבדקו בייצור וחלוקה אוטומטית עבור מקביליות מודל.

  • הסר מורכבות : הוא ממנף את הכוח של MLIR כדי להביא את היכולות הטובות ביותר לשרשרת כלים מהדר בודד, כך שלא תצטרך לנהל מגוון מהדרים ספציפיים לתחום.

  • מוכן לעתיד : כפרויקט קוד פתוח, שנבנה באמצעות שיתוף פעולה של ספקי חומרה ותוכנה ML מובילים, XLA נועד לפעול בחוד החנית של תעשיית ה-ML.

תיעוד

למידע נוסף על XLA, עיין במדריכים למטה. אם אתה מפתח XLA חדש, אולי תרצה להתחיל עם ארכיטקטורת XLA ולאחר מכן לקרוא ביקורות קוד .

,

XLA (אלגברה לינארית מואצת) הוא מהדר קוד פתוח ללמידת מכונה. המהדר XLA לוקח דגמים ממסגרות פופולריות כמו PyTorch, TensorFlow ו-JAX, ומייעל את המודלים לביצוע ביצועים גבוהים על פני פלטפורמות חומרה שונות כולל GPUs, CPUs ומאיצי ML. לדוגמה, בהגשה של BERT MLPerf , שימוש ב-XLA עם 8 GPUs Volta V100 השיג שיפור של ~7x ושיפור של ~5x בגודל אצווה בהשוואה לאותם GPUs ללא XLA.

כחלק מפרויקט OpenXLA, XLA נבנה בשיתוף פעולה על ידי חברות חומרה ותוכנה ML מובילות בתעשייה, כולל Alibaba, Amazon Web Services, AMD, Apple, Arm, Google, Intel, Meta ו-NVIDIA.

יתרונות מרכזיים

  • בנה בכל מקום : XLA כבר משולב במסגרות ML מובילות כמו TensorFlow, PyTorch ו-JAX.

  • הפעל בכל מקום : הוא תומך בקצה עורפי שונים כולל GPUs, CPUs ומאיצי ML, וכולל תשתית ניתנת לחיבור כדי להוסיף תמיכה לעוד.

  • הגדל את הביצועים והקנה קנה מידה : הוא מייעל את ביצועי המודל עם מעברי אופטימיזציה שנבדקו בייצור וחלוקה אוטומטית עבור מקביליות מודל.

  • הסר מורכבות : הוא ממנף את הכוח של MLIR כדי להביא את היכולות הטובות ביותר לשרשרת כלים מהדר בודד, כך שלא תצטרך לנהל מגוון מהדרים ספציפיים לתחום.

  • מוכן לעתיד : כפרויקט קוד פתוח, שנבנה באמצעות שיתוף פעולה של ספקי חומרה ותוכנה ML מובילים, XLA נועד לפעול בחוד החנית של תעשיית ה-ML.

תיעוד

למידע נוסף על XLA, עיין במדריכים למטה. אם אתה מפתח XLA חדש, אולי תרצה להתחיל עם ארכיטקטורת XLA ולאחר מכן לקרוא ביקורות קוד .