তারিখটা মনে রেখো! গুগল I / O মে 18-20 মে এখনই রেজিস্টার করুন
This page was translated by the Cloud Translation API.
Switch to English

এক্সএলএ আর্কিটেকচার

কেন আমরা এক্সএলএল তৈরি করেছি?

টেনসরফ্লোতে কাজ করার জন্য আমাদের এক্সএলএর বেশ কয়েকটি লক্ষ্য ছিল:

  • কার্যকর করার গতি উন্নত করুন। টেনসরফ্লো রানটাইম থেকে ওভারহেড নির্মূল করার জন্য স্বল্প-কালীন অপ্সের সম্পাদনের সময়কে হ্রাস করতে সাবগ্রাফগুলি সংকলন করুন, মেমরির ওভারহেড হ্রাস করতে ফিউজ পাইপলাইনযুক্ত অপারেশনগুলি এবং আরও আক্রমণাত্মক ধ্রুবক প্রচারের জন্য অনুমতিপ্রাপ্ত টেনসর আকারগুলিতে বিশেষজ্ঞ করুন ize

  • মেমরির ব্যবহার উন্নত করুন। নীতিগতভাবে অনেক মধ্যবর্তী স্টোরেজ বাফারগুলি মুছে ফেলা মেমরির ব্যবহার বিশ্লেষণ করুন এবং নির্ধারণ করুন।

  • কাস্টম অপ্সের উপর নির্ভরতা হ্রাস করুন। হাতে কলমে কাস্টমস ওপসগুলির পারফরম্যান্সের সাথে মেলে তুলতে স্বয়ংক্রিয়ভাবে ফিউজড লো-লেভেল অপ্সের পারফরম্যান্সের উন্নতি করে অনেক কাস্টম অপ্সের প্রয়োজনীয়তা সরিয়ে ফেলুন।

  • মোবাইল পদচিহ্ন হ্রাস করুন। টেনসরফ্লো রানটাইমটি উপ-অনুচ্ছেদটি সংকলন করে এবং অন্য কোনও অ্যাপ্লিকেশনে সরাসরি সংযুক্ত করা যেতে পারে এমন একটি অবজেক্ট / শিরোনাম ফাইল জোড় নির্গত করে inate ফলাফলগুলি परिमाणের বেশ কয়েকটি অর্ডার দ্বারা মোবাইল অনুমানের জন্য পদচিহ্ন হ্রাস করতে পারে।

  • বহনযোগ্যতা উন্নত করুন। উপন্যাসের হার্ডওয়ারের জন্য একটি নতুন ব্যাকএন্ড লিখতে তুলনামূলক সহজ করুন, যার সময়ে টেনসরফ্লো প্রোগ্রামগুলির একটি বড় অংশ সেই হার্ডওয়্যারটিতে অবিস্মরণীয় চলবে। এটি নতুন হার্ডওয়্যারটির জন্য স্বতন্ত্র একতরফা অপসকে বিশেষজ্ঞ করার পদ্ধতির বিপরীতে, যার জন্য those অপসটি ব্যবহারের জন্য টেনসরফ্লো প্রোগ্রামগুলি পুনরায় লিখতে হবে।

এক্সএলএ কিভাবে কাজ করে?

এক্সএলএর ইনপুট ভাষাটিকে "এইচএলও আইআর" বা কেবল এইচএলও (উচ্চ স্তরের অপারেশনস) বলা হয়। অপারেশন শব্দার্থক পৃষ্ঠাতে এইচএলওর শব্দার্থবিজ্ঞানের বর্ণনা দেওয়া আছে। এইচএলওকে সংকলক আইআর হিসাবে ভাবা সবচেয়ে সুবিধাজনক।

এক্সএলএ এইচএলওতে সংজ্ঞায়িত গ্রাফগুলি ("গণনা") নেয় এবং বিভিন্ন আর্কিটেকচারের জন্য মেশিনের নির্দেশাবলীতে তাদের সংকলন করে। এক্সএলএ এই অর্থে মডুলার যে কোনও কোনও উপন্যাস এইচডাব্লু আর্কিটেকচারকে লক্ষ্য করে বিকল্প ব্যাকএন্ডে স্লট করা সহজ। এক্স 64 এবং এআরএম 64 এর সিপিইউ ব্যাকএন্ড পাশাপাশি এনভিআইডিআইএ জিপিইউ ব্যাকএন্ড টেনসরফ্লো উত্স ট্রিতে রয়েছে।

নিম্নলিখিত চিত্রটি এক্সএলএ-তে সংকলন প্রক্রিয়া দেখায়:

এক্সএলএ বেশ কয়েকটি অপ্টিমাইজেশন এবং বিশ্লেষণ পাসগুলি নিয়ে আসে যা লক্ষ্য-স্বতন্ত্র, যেমন সিএসই , লক্ষ্য-স্বাধীন অপারেশন ফিউশন এবং গণনার জন্য রানটাইম মেমরি বরাদ্দের জন্য বাফার বিশ্লেষণ।

লক্ষ্য-স্বতন্ত্র পদক্ষেপের পরে, এক্সএলএএচএলও গণনাটিকে ব্যাকএন্ডে প্রেরণ করে। ব্যাকএন্ড এ বার লক্ষ্য নির্দিষ্ট তথ্য এবং প্রয়োজনীয়তার কথা মাথায় রেখে আরও এইচএলও-স্তরের অপ্টিমাইজেশান সম্পাদন করতে পারে। উদাহরণস্বরূপ, এক্সএলএ জিপিইউ ব্যাকএন্ড বিশেষত জিপিইউ প্রোগ্রামিং মডেলের জন্য অপারেশন ফিউশন উপকারী করতে পারে এবং নির্ধারণ করতে পারে যে কীভাবে এই সংখ্যাকে স্ট্রিমগুলিতে ভাগ করা যায়। এই পর্যায়ে, ব্যাকএন্ডগুলি অনুকূলিত লাইব্রেরি কলগুলির সাথে কিছু নির্দিষ্ট ক্রিয়াকলাপ বা এর সংমিশ্রণগুলিকেও প্যাটার্ন-মিল করতে পারে।

পরবর্তী পদক্ষেপটি লক্ষ্য-নির্দিষ্ট কোড উত্পন্ন। এক্সএলএর সাথে অন্তর্ভুক্ত সিপিইউ এবং জিপিইউ ব্যাকেন্ডগুলি নিম্ন-স্তরের আইআর, অপ্টিমাইজেশান এবং কোড উত্পন্নকরণের জন্য এলএলভিএম ব্যবহার করে। এই ব্যাক-এন্ডগুলি দক্ষতার সাথে এক্সএলএলএইচএলও গণনার প্রতিনিধিত্ব করার জন্য প্রয়োজনীয় এলএলভিএম আইআর নিঃসরণ করে এবং তারপরে এই এলএলভিএম আইআর থেকে নেটিভ কোড নির্গত করতে এলএলভিএমকে অনুরোধ জানায়।

জিপিইউ ব্যাকএন্ড বর্তমানে এলভিভিএম এনভিপিটিএক্স ব্যাকএন্ডের মাধ্যমে এনভিআইডিআইএ জিপিইউ সমর্থন করে; সিপিইউ ব্যাকএন্ড একাধিক সিপিইউ আইএসএ সমর্থন করে।