एक ऑप जो ऑप्टिमाइज़ेशन पैरामीटर को एम्बेडिंग मेमोरी में लोड करता है।
एक ऑप जो ऑप्टिमाइज़ेशन पैरामीटर को एम्बेडिंग मेमोरी में लोड करता है। एक ConfigureTPUEmbeddingHost op से पहले होना चाहिए जो सही एम्बेडिंग तालिका कॉन्फ़िगरेशन सेट करता है। उदाहरण के लिए, इस ऑप का उपयोग उन मापदंडों को स्थापित करने के लिए किया जाता है जो एक प्रशिक्षण लूप निष्पादित होने से पहले एक चेकपॉइंट से लोड किए जाते हैं। Adagrad के लिए, सहायक1 संचायक होना चाहिए। SGD के लिए, सभी सहायक* मान खाली होने चाहिए। एफटीआरएल के लिए, सहायक1 को संचायक होना चाहिए और सहायक2 को रैखिक पद होना चाहिए। एडीएएम के लिए, सहायक 1 गति होनी चाहिए और सहायक 2 वेग होना चाहिए।
सार्वजनिक तरीके
स्थिर लोडAllTPUEएम्बेडिंगपैरामीटर | create ( स्कोप स्कोप, Iterable< ऑपरेंड <फ्लोट>> पैरामीटर, Iterable< ऑपरेंड <फ्लोट>> सहायक1, Iterable< ऑपरेंड <फ्लोट>> सहायक2, Iterable< ऑपरेंड <फ्लोट>> सहायक 3, Iterable< ऑपरेंड <फ्लोट>> सहायक 4 Iterable< ऑपरेंड <Float>> सहायक 5, Iterable< ऑपरेंड <Float>> सहायक 6, Iterable< ऑपरेंड <फ्लोट>> सहायक 7, स्ट्रिंग कॉन्फिगरेशन, लॉन्ग numShards, Long shardId) एक नया LoadAllTPUEmbeddingParameters ऑपरेशन रैपिंग क्लास बनाने के लिए फ़ैक्टरी विधि। |
विरासत में मिली विधियां
सार्वजनिक तरीके
सार्वजनिक स्थैतिक LoadAllTPUEएम्बेडिंग पैरामीटर बनाते हैं ( स्कोप स्कोप, Iterable< ऑपरेंड <फ्लोट>> पैरामीटर, Iterable< ऑपरेंड <फ्लोट>> सहायक1, Iterable< ऑपरेंड <फ्लोट>> सहायक 2, Iterable< ऑपरेंड <फ्लोट>> सहायक 3, Iterable< ऑपरेंड <फ्लोट> > सहायक 4, चलने योग्य <संचालन <फ्लोट>> सहायक 5, चलने योग्य < संचालन <फ्लोट>> सहायक 6, चलने योग्य < संचालन <फ्लोट>> सहायक 7, स्ट्रिंग कॉन्फ़िगरेशन, लंबी संख्याशर्ड , लंबी शार्क आईडी)
एक नया LoadAllTPUEmbeddingParameters ऑपरेशन रैपिंग क्लास बनाने के लिए फ़ैक्टरी विधि।
मापदंडों
दायरा | वर्तमान दायरा |
---|---|
मापदंडों | टेंसर की एक सूची, प्रत्येक एम्बेडिंग तालिका के लिए एक, जिसमें एम्बेडिंग लुकअप में उपयोग करने के लिए प्रारंभिक एम्बेडिंग तालिका पैरामीटर शामिल हैं। |
सहायक1 | टेंसर की एक सूची, प्रत्येक एम्बेडिंग तालिका के लिए एक, जिसमें प्रशिक्षण लूप अपडेट एम्बेड करने में उपयोग करने के लिए पहले सहायक अनुकूलन पैरामीटर के प्रारंभिक मान शामिल हैं। उन तालिकाओं के लिए प्रत्येक प्रविष्टि के आकार को अनदेखा किया जाता है (और इस प्रकार खाली हो सकता है) जिनके अनुकूलन एल्गोरिदम में कम से कम एक सहायक पैरामीटर नहीं होता है। |
सहायक 2 | टेंसर की एक सूची, प्रत्येक एम्बेडिंग तालिका के लिए एक, जिसमें प्रशिक्षण लूप अपडेट एम्बेड करने में उपयोग करने के लिए दूसरे सहायक अनुकूलन पैरामीटर के प्रारंभिक मान शामिल हैं। उन तालिकाओं के लिए प्रत्येक प्रविष्टि का आकार अनदेखा किया जाता है (और इस प्रकार खाली हो सकता है) जिनके अनुकूलन एल्गोरिदम में कम से कम दो सहायक नहीं होते हैं |
सहायक3 | टेंसर की एक सूची, प्रत्येक एम्बेडिंग तालिका के लिए एक, जिसमें प्रशिक्षण लूप अपडेट एम्बेड करने में उपयोग करने के लिए तीसरे सहायक अनुकूलन पैरामीटर के प्रारंभिक मान शामिल हैं। उन तालिकाओं के लिए प्रत्येक प्रविष्टि के आकार को अनदेखा किया जाता है (और इस प्रकार खाली हो सकता है) जिनके अनुकूलन एल्गोरिदम में तीन सहायक पैरामीटर नहीं होते हैं। |
सहायक4 | टेंसर की एक सूची, प्रत्येक एम्बेडिंग तालिका के लिए एक, जिसमें प्रशिक्षण लूप अपडेट एम्बेड करने में उपयोग करने के लिए दूसरे सहायक अनुकूलन पैरामीटर के प्रारंभिक मान शामिल हैं। उन तालिकाओं के लिए प्रत्येक प्रविष्टि का आकार अनदेखा किया जाता है (और इस प्रकार खाली हो सकता है) जिनके अनुकूलन एल्गोरिदम में कम से कम चार सहायक नहीं होते हैं |
सहायक5 | टेंसर की एक सूची, प्रत्येक एम्बेडिंग तालिका के लिए एक, जिसमें प्रशिक्षण लूप अपडेट एम्बेड करने में उपयोग करने के लिए तीसरे सहायक अनुकूलन पैरामीटर के प्रारंभिक मान शामिल हैं। उन तालिकाओं के लिए प्रत्येक प्रविष्टि के आकार को अनदेखा किया जाता है (और इस प्रकार खाली हो सकता है) जिनके अनुकूलन एल्गोरिदम में पांच सहायक पैरामीटर नहीं हैं। |
सहायक6 | टेंसर की एक सूची, प्रत्येक एम्बेडिंग तालिका के लिए एक, जिसमें प्रशिक्षण लूप अपडेट एम्बेड करने में उपयोग करने के लिए दूसरे सहायक अनुकूलन पैरामीटर के प्रारंभिक मान शामिल हैं। उन तालिकाओं के लिए प्रत्येक प्रविष्टि के आकार को अनदेखा किया जाता है (और इस प्रकार खाली हो सकता है) जिनके अनुकूलन एल्गोरिदम में कम से कम छह सहायक नहीं होते हैं |
सहायक7 | टेंसर की एक सूची, प्रत्येक एम्बेडिंग तालिका के लिए एक, जिसमें प्रशिक्षण लूप अपडेट एम्बेड करने में उपयोग करने के लिए तीसरे सहायक अनुकूलन पैरामीटर के प्रारंभिक मान शामिल हैं। उन तालिकाओं के लिए प्रत्येक प्रविष्टि के आकार को अनदेखा किया जाता है (और इस प्रकार खाली हो सकता है) जिनके अनुकूलन एल्गोरिदम में सेवन सहायक पैरामीटर नहीं हैं। |
कॉन्फ़िग | एक TPUEmbeddingConfiguration प्रोटो जो लोड किए जा रहे तालिका मापदंडों का वर्णन करता है, एक स्ट्रिंग के लिए क्रमबद्ध। |
numShards | शार्ड्स की संख्या जिसमें एम्बेडिंग टेबल विभाजित हैं। |
शार्प आईडी | इस ऑपरेशन के लिए शार्ड की पहचान। |
रिटर्न
- LoadAllTPUEmbeddingParameters का एक नया उदाहरण