Batch

सभी इनपुट टेंसर को गैर-निर्धारणात्मक रूप से बैचें।

जब इस ऑप के कई उदाहरण एक ही डिवाइस में एक ही कंटेनर/साझा_नाम के साथ एक साथ चलाए जा रहे हैं, तो कुछ शून्य-आकार के टेंसर आउटपुट करेंगे और अन्य अधिकतम_बैच_साइज तक आकार के टेन्सर आउटपुट करेंगे।

In_tensors में सभी Tensors एक साथ बैच किए जाते हैं (इसलिए, उदाहरण के लिए, लेबल और सुविधाओं को इस ऑपरेशन के एकल उदाहरण के साथ बैच किया जाना चाहिए।

बैच का प्रत्येक आमंत्रण एक `id` स्केलर उत्सर्जित करता है जिसका उपयोग अनबैच या इसके ग्रेडिएंट करते समय इस विशेष आमंत्रण की पहचान करने के लिए किया जाएगा।

प्रत्येक ऑप जो एक गैर-खाली बैच का उत्सर्जन करता है, एक गैर-रिक्त बैच_इंडेक्स टेंसर भी उत्सर्जित करेगा, जो कि एक [के, 3] मैट्रिक्स है जहां प्रत्येक पंक्ति में इनवोकेशन की आईडी, प्रारंभ और प्रत्येक सेट में मौजूद टेंसर के तत्वों की लंबाई होती है। बैचेड_टेन्सर।

बैच किए गए टेंसरों को पहले आयाम के साथ जोड़ा जाता है, और in_tensors में सभी टेंसरों में एक ही आकार का पहला आयाम होना चाहिए।

in_tensors: बैच किए जाने वाले टेंसर। num_batch_threads: कार्य के बैचों को संसाधित करने के लिए शेड्यूलिंग थ्रेड्स की संख्या। समानांतर में संसाधित बैचों की संख्या निर्धारित करता है। max_batch_size: बैच आकार इससे बड़ा कभी नहीं होगा। बैच_टाइमआउट_माइक्रो: अधूरे बैच को आउटपुट करने से पहले प्रतीक्षा करने के लिए अधिकतम माइक्रोसेकंड। allow_batch_sizes: अनुमत बैच आकारों की वैकल्पिक सूची। खाली छोड़ दिया तो कुछ नहीं करता। अन्यथा, बैच आकारों की एक सूची प्रदान करता है, जिससे op को पैड बैचों में से किसी एक आकार तक ले जाया जाता है। प्रविष्टियों को एकरस रूप से बढ़ाना चाहिए, और अंतिम प्रविष्टि को max_batch_size के बराबर होना चाहिए। grad_timeout_micros: ढाल के लिए उपयोग करने के लिए समयबाह्य। अनबैच देखें। बैचेड_टेन्सर्स: या तो खाली टेंसर या कॉन्टेनेटेड टेन्सर्स का एक बैच। बैच_इंडेक्स: यदि आउट_टेंसर खाली नहीं है, तो इसे पलटने की जानकारी है। कंटेनर: इस बैच के साझाकरण के दायरे को नियंत्रित करता है। आईडी: बैच के इस आह्वान के लिए हमेशा एक अद्वितीय आईडी वाला एक स्केलर होता है। shared_name: एक ही डिवाइस में एक ही कंटेनर के साथ बैच के समवर्ती चल रहे इंस्टेंस और साझा_नाम उनके तत्वों को एक साथ बैच देगा। यदि खाली छोड़ दिया जाता है, तो op नाम साझा नाम के रूप में उपयोग किया जाएगा। टी: बैच किए जाने वाले टेंसरों के प्रकार।