एक्सएलए

XLA (त्वरित रैखिक बीजगणित) मशीन लर्निंग के लिए एक ओपन-सोर्स कंपाइलर है। XLA कंपाइलर PyTorch, TensorFlow और JAX जैसे लोकप्रिय फ्रेमवर्क से मॉडल लेता है, और GPU, CPU और ML एक्सेलेरेटर सहित विभिन्न हार्डवेयर प्लेटफार्मों पर उच्च-प्रदर्शन निष्पादन के लिए मॉडल को अनुकूलित करता है। उदाहरण के लिए, BERT MLPerf सबमिशन में, 8 वोल्टा V100 GPU के साथ XLA का उपयोग करने से XLA के बिना समान GPU की तुलना में ~7x प्रदर्शन सुधार और ~5x बैच-आकार में सुधार प्राप्त हुआ।

OpenXLA प्रोजेक्ट के एक भाग के रूप में, XLA को अलीबाबा, अमेज़ॅन वेब सर्विसेज, AMD, Apple, Arm, Google, Intel, Meta और NVIDIA सहित उद्योग की अग्रणी ML हार्डवेयर और सॉफ्टवेयर कंपनियों द्वारा सहयोगात्मक रूप से बनाया गया है।

मुख्य लाभ

  • कहीं भी निर्माण करें : XLA पहले से ही TensorFlow, PyTorch और JAX जैसे प्रमुख ML फ्रेमवर्क में एकीकृत है।

  • कहीं भी चलाएं : यह जीपीयू, सीपीयू और एमएल एक्सेलेरेटर सहित विभिन्न बैकएंड का समर्थन करता है, और अधिक के लिए समर्थन जोड़ने के लिए प्लग करने योग्य बुनियादी ढांचे को शामिल करता है।

  • प्रदर्शन को अधिकतम और स्केल करें : यह उत्पादन-परीक्षण अनुकूलन पास और मॉडल समानता के लिए स्वचालित विभाजन के साथ मॉडल के प्रदर्शन को अनुकूलित करता है।

  • जटिलता को खत्म करें : यह एकल कंपाइलर टूलचेन में सर्वोत्तम क्षमताओं को लाने के लिए एमएलआईआर की शक्ति का लाभ उठाता है, इसलिए आपको डोमेन-विशिष्ट कंपाइलरों की एक श्रृंखला का प्रबंधन करने की आवश्यकता नहीं है।

  • भविष्य के लिए तैयार : अग्रणी एमएल हार्डवेयर और सॉफ्टवेयर विक्रेताओं के सहयोग से निर्मित एक ओपन सोर्स प्रोजेक्ट के रूप में, एक्सएलए को एमएल उद्योग के अत्याधुनिक स्तर पर संचालित करने के लिए डिज़ाइन किया गया है।

प्रलेखन

XLA के बारे में अधिक जानने के लिए, नीचे दी गई मार्गदर्शिकाएँ देखें। यदि आप एक नए XLA डेवलपर हैं, तो हो सकता है कि आप XLA आर्किटेक्चर से शुरुआत करना चाहें और फिर कोड समीक्षाएँ पढ़ना चाहें।

,

XLA (त्वरित रैखिक बीजगणित) मशीन लर्निंग के लिए एक ओपन-सोर्स कंपाइलर है। XLA कंपाइलर PyTorch, TensorFlow और JAX जैसे लोकप्रिय फ्रेमवर्क से मॉडल लेता है, और GPU, CPU और ML एक्सेलेरेटर सहित विभिन्न हार्डवेयर प्लेटफार्मों पर उच्च-प्रदर्शन निष्पादन के लिए मॉडल को अनुकूलित करता है। उदाहरण के लिए, BERT MLPerf सबमिशन में, 8 वोल्टा V100 GPU के साथ XLA का उपयोग करने से XLA के बिना समान GPU की तुलना में ~7x प्रदर्शन सुधार और ~5x बैच-आकार में सुधार प्राप्त हुआ।

OpenXLA प्रोजेक्ट के एक भाग के रूप में, XLA को अलीबाबा, अमेज़ॅन वेब सर्विसेज, AMD, Apple, Arm, Google, Intel, Meta और NVIDIA सहित उद्योग की अग्रणी ML हार्डवेयर और सॉफ्टवेयर कंपनियों द्वारा सहयोगात्मक रूप से बनाया गया है।

मुख्य लाभ

  • कहीं भी निर्माण करें : XLA पहले से ही TensorFlow, PyTorch और JAX जैसे प्रमुख ML फ्रेमवर्क में एकीकृत है।

  • कहीं भी चलाएं : यह जीपीयू, सीपीयू और एमएल एक्सेलेरेटर सहित विभिन्न बैकएंड का समर्थन करता है, और अधिक के लिए समर्थन जोड़ने के लिए प्लग करने योग्य बुनियादी ढांचे को शामिल करता है।

  • प्रदर्शन को अधिकतम और स्केल करें : यह उत्पादन-परीक्षण अनुकूलन पास और मॉडल समानता के लिए स्वचालित विभाजन के साथ मॉडल के प्रदर्शन को अनुकूलित करता है।

  • जटिलता को खत्म करें : यह एकल कंपाइलर टूलचेन में सर्वोत्तम क्षमताओं को लाने के लिए एमएलआईआर की शक्ति का लाभ उठाता है, इसलिए आपको डोमेन-विशिष्ट कंपाइलरों की एक श्रृंखला का प्रबंधन करने की आवश्यकता नहीं है।

  • भविष्य के लिए तैयार : अग्रणी एमएल हार्डवेयर और सॉफ्टवेयर विक्रेताओं के सहयोग से निर्मित एक ओपन सोर्स प्रोजेक्ट के रूप में, एक्सएलए को एमएल उद्योग के अत्याधुनिक स्तर पर संचालित करने के लिए डिज़ाइन किया गया है।

प्रलेखन

XLA के बारे में अधिक जानने के लिए, नीचे दी गई मार्गदर्शिकाएँ देखें। यदि आप एक नए XLA डेवलपर हैं, तो हो सकता है कि आप XLA आर्किटेक्चर से शुरुआत करना चाहें और फिर कोड समीक्षाएँ पढ़ना चाहें।