টেনসরফ্লো লাইট রোডম্যাপ

আপডেট করা হয়েছে: মে, 2021

নিম্নলিখিত আমাদের রোডম্যাপ একটি উচ্চ স্তরের ওভারভিউ প্রতিনিধিত্ব করে. আপনার সচেতন হওয়া উচিত যে এই রোডম্যাপ যেকোন সময় পরিবর্তিত হতে পারে এবং নীচের ক্রমটি কোন ধরনের অগ্রাধিকার প্রতিফলিত করে না।

আমরা আমাদের রোডম্যাপকে চারটি মূল অংশে বিভক্ত করি: ব্যবহারযোগ্যতা, কর্মক্ষমতা, অপ্টিমাইজেশান এবং বহনযোগ্যতা। আমরা দৃঢ়ভাবে আমাদের রোডম্যাপ মন্তব্য এবং আমাদের প্রতিক্রিয়া প্রদান করার জন্য উত্সাহিত করি TensorFlow লাইট আলোচনা গোষ্ঠী

ব্যবহারযোগ্যতা

  • সম্প্রসারিত অপ্স কভারেজ
    • ব্যবহারকারীর প্রতিক্রিয়ার উপর ভিত্তি করে লক্ষ্যযুক্ত অপ্স যোগ করুন।
    • র‍্যান্ডম অপস, বেস কেরাস লেয়ার অপস, হ্যাশ টেবিল, সিলেক্ট ট্রেনিং অপস সহ নির্দিষ্ট ডোমেন এবং এলাকার জন্য টার্গেটেড অপ সেট যোগ করুন।
  • আরও সহায়ক টুলিং
    • TFLite এবং হার্ডওয়্যার অ্যাক্সিলারেটরের সামঞ্জস্যতা প্রশিক্ষণের সময় এবং রূপান্তরের পরে যাচাই করার জন্য TensorFlow গ্রাফ টীকা এবং সামঞ্জস্যপূর্ণ সরঞ্জাম সরবরাহ করুন।
    • রূপান্তর করার সময় নির্দিষ্ট অ্যাক্সিলারেটরের জন্য লক্ষ্য নির্ধারণ এবং অপ্টিমাইজ করার অনুমতি দিন।
  • অন-ডিভাইস প্রশিক্ষণ
    • ব্যক্তিগতকরণ এবং ট্রান্সফার শেখার জন্য ডিভাইসে প্রশিক্ষণ সমর্থন করে, যার মধ্যে একটি Colab-এ শেষ-থেকে-এন্ড ব্যবহার দেখায়।
    • সমর্থন পরিবর্তনশীল/সম্পদ প্রকার (উভয় অনুমান এবং প্রশিক্ষণের জন্য)
    • একাধিক ফাংশন (বা স্বাক্ষর) এন্ট্রি-পয়েন্ট সহ গ্রাফ রূপান্তর এবং কার্যকর করা সমর্থন করে।
  • উন্নত অ্যান্ড্রয়েড স্টুডিও ইন্টিগ্রেশন
    • মডেল ইন্টারফেস তৈরি করতে TFLite মডেলগুলিকে Android স্টুডিওতে টেনে আনুন এবং ফেলে দিন।
    • মেমরি প্রোফাইলিং সহ Android স্টুডিও প্রোফাইলিং সমর্থন উন্নত করুন।
  • মডেল মেকার
    • সাধারণ ব্যবহারের বিস্তৃত সংগ্রহকে কভার করে বস্তু সনাক্তকরণ, সুপারিশ এবং অডিও শ্রেণীবিভাগ সহ নতুন কাজগুলিকে সমর্থন করে।
    • ট্রান্সফার শেখার সহজতর করতে আরও ডেটা সেট সমর্থন করুন।
  • টাস্ক লাইব্রেরি
    • সংশ্লিষ্ট প্রাক এবং পোস্ট প্রসেসিং ক্ষমতা সহ আরো মডেল প্রকার (যেমন অডিও, NLP) সমর্থন করুন।
    • টাস্ক API-এর সাথে আরও রেফারেন্স উদাহরণ আপডেট করুন।
    • সমস্ত কাজের জন্য বাক্সের বাইরের ত্বরণ সমর্থন করে।
  • আরও SOTA মডেল এবং উদাহরণ
    • বিভিন্ন প্ল্যাটফর্ম কভার করে মডেলের ব্যবহার পাশাপাশি নতুন বৈশিষ্ট্য এবং APIs প্রদর্শন করতে আরও উদাহরণ (যেমন অডিও, NLP, কাঠামো-ডেটা সম্পর্কিত) যোগ করুন।
    • প্রশিক্ষণ এবং স্থাপনার খরচ কমাতে ডিভাইসে শেয়ারযোগ্য ব্যাকবোন মডেল তৈরি করুন।
  • একাধিক প্ল্যাটফর্ম জুড়ে বিরামহীন স্থাপনা
    • ওয়েবে TensorFlow Lite মডেল চালান।
  • উন্নত ক্রস-প্ল্যাটফর্ম সমর্থন
    • Android-এ Java, iOS-এ Swift, RPi-এ Python-এর জন্য API-গুলি প্রসারিত ও উন্নত করুন।
    • CMake সমর্থন উন্নত করুন (যেমন, বিস্তৃত এক্সিলারেটর সমর্থন)।
  • ভাল ফ্রন্টএন্ড সমর্থন
    • Keras, tf.numpy সহ বিভিন্ন অথরিং ফ্রন্টএন্ডের সাথে সামঞ্জস্যতা উন্নত করুন।

কর্মক্ষমতা

  • আরও ভালো টুলিং
    • প্রতিটি প্রকাশের সাথে পারফরম্যান্স লাভ ট্র্যাক করার জন্য সর্বজনীন ড্যাশবোর্ড।
    • টার্গেট অ্যাক্সিলারেটরের সাথে গ্রাফ সামঞ্জস্যতা আরও ভালভাবে বোঝার জন্য টুলিং।
  • উন্নত CPU কর্মক্ষমতা
    • দ্রুত ফ্লোটিং পয়েন্ট অনুমানের জন্য ডিফল্টরূপে XNNPack সক্রিয় করা হয়েছে।
    • অপ্টিমাইজ করা কার্নেলের সাথে এন্ড-টু-এন্ড অর্ধ নির্ভুলতা (float16) সমর্থন।
  • আপডেট করা NN API সমর্থন
    • নতুন অ্যান্ড্রয়েড সংস্করণ NN API বৈশিষ্ট্য, অপ্স, এবং প্রকারের জন্য সম্পূর্ণ সমর্থন।
  • GPU অপ্টিমাইজেশান
    • প্রতিনিধি সিরিয়ালাইজেশন সমর্থন সহ উন্নত স্টার্টআপ সময়।
    • শূন্য-কপি অনুমানের জন্য হার্ডওয়্যার বাফার ইন্টারপ।
    • ডিভাইসের ত্বরণের বিস্তৃত প্রাপ্যতা।
    • ভাল অপ কভারেজ.

অপ্টিমাইজেশান

  • কোয়ান্টাইজেশন

    • কোয়ান্টাইজেশন থেকে নির্দিষ্ট স্তরগুলিকে বাদ দেওয়ার জন্য বেছে নেওয়া পোস্ট-ট্রেনিং কোয়ান্টাইজেশন।
    • প্রতিটি স্তর প্রতি কোয়ান্টাইজেশন ত্রুটি ক্ষতি পরিদর্শন করতে কোয়ান্টাইজেশন ডিবাগার।
    • আরও মডেল কভারেজ যেমন টেনসরফ্লো মডেল গার্ডেনে কোয়ান্টাইজেশন-সচেতন প্রশিক্ষণ প্রয়োগ করা।
    • প্রশিক্ষন-পরবর্তী গতিশীল-রেঞ্জ কোয়ান্টাইজেশনের জন্য গুণমান এবং কর্মক্ষমতা উন্নতি।
    • SVD-এর মতো কম্প্রেশন অ্যালগরিদমকে অনুমতি দেওয়ার জন্য টেনসর কম্প্রেশন API।
  • ছাঁটাই/স্পর্সিটি

    • কনফিগারযোগ্য প্রশিক্ষণ-সময় (প্রুনিং + কোয়ান্টাইজেশন-সচেতন প্রশিক্ষণ) APIগুলিকে একত্রিত করুন।
    • TF মডেল গার্ডেন মডেলগুলিতে স্পেরিটি অ্যাপ্লিকেশন বৃদ্ধি করুন।
    • TensorFlow Lite-এ স্পার্স মডেল এক্সিকিউশন সাপোর্ট।

বহনযোগ্যতা

  • মাইক্রোকন্ট্রোলার সমর্থন
    • বক্তৃতা এবং চিত্র শ্রেণীবিভাগের জন্য 32-বিট MCU আর্কিটেকচার ব্যবহারের ক্ষেত্রে সমর্থন যোগ করুন।
    • অডিও ফ্রন্টেন্ড: ইন-গ্রাফ অডিও প্রাক-প্রক্রিয়াকরণ এবং ত্বরণ সমর্থন
    • দৃষ্টি এবং অডিও ডেটার জন্য নমুনা কোড এবং মডেল।