ওজন ক্লাস্টারিং

সেভ করা পৃষ্ঠা গুছিয়ে রাখতে 'সংগ্রহ' ব্যবহার করুন আপনার পছন্দ অনুযায়ী কন্টেন্ট সেভ করুন ও সঠিক বিভাগে রাখুন।

আর্ম এমএল টুলিং দ্বারা রক্ষণাবেক্ষণ করা হয়

আপনার ব্যবহারের ক্ষেত্রে এটি কীভাবে ফিট করে তা নির্ধারণ করতে আপনাকে সাহায্য করার জন্য এই নথিটি ওজন ক্লাস্টারিংয়ের একটি ওভারভিউ প্রদান করে।

ওভারভিউ

ক্লাস্টারিং, বা ওজন ভাগ করে নেওয়া, একটি মডেলে অনন্য ওজনের মানের সংখ্যা হ্রাস করে, যা স্থাপনার সুবিধার দিকে পরিচালিত করে। এটি প্রথমে প্রতিটি স্তরের ওজনকে N ক্লাস্টারে গোষ্ঠীভুক্ত করে, তারপর ক্লাস্টারের অন্তর্গত সমস্ত ওজনের জন্য ক্লাস্টারের সেন্ট্রোয়েড মান ভাগ করে।

এই কৌশলটি মডেল কম্প্রেশনের মাধ্যমে উন্নতি নিয়ে আসে। ভবিষ্যতের ফ্রেমওয়ার্ক সমর্থন মেমরির পদচিহ্নের উন্নতি আনলক করতে পারে যা সীমিত সংস্থান সহ এমবেডেড সিস্টেমে গভীর শিক্ষার মডেল স্থাপনের জন্য একটি গুরুত্বপূর্ণ পার্থক্য তৈরি করতে পারে।

আমরা দৃষ্টি এবং বক্তৃতা টাস্ক জুড়ে ক্লাস্টারিং নিয়ে পরীক্ষা করেছি। আমরা নির্ভুলতার ন্যূনতম ক্ষতি সহ মডেল কম্প্রেশনে 5x পর্যন্ত উন্নতি দেখেছি, যা নীচে উপস্থাপিত ফলাফল দ্বারা প্রদর্শিত হয়েছে।

অনুগ্রহ করে মনে রাখবেন যে ক্লাস্টারিং কনভোলিউশন এবং ঘন স্তরগুলির জন্য কম সুবিধা প্রদান করবে যা একটি ব্যাচের স্বাভাবিককরণ স্তরের আগে, সেইসাথে প্রতি-অক্ষ-পরবর্তী-প্রশিক্ষণের কোয়ান্টাইজেশনের সাথে সংমিশ্রণে।

API সামঞ্জস্যতা ম্যাট্রিক্স

ব্যবহারকারীরা নিম্নলিখিত APIগুলির সাথে ক্লাস্টারিং প্রয়োগ করতে পারেন:

  • মডেল বিল্ডিং: শুধুমাত্র অনুক্রমিক এবং কার্যকরী মডেল সহ tf.keras
  • TensorFlow সংস্করণ: TF 1.x সংস্করণ 1.14+ এবং 2.x এর জন্য।
    • একটি TF tf.compat.v1 প্যাকেজের সাথে tf.compat.v2 এবং একটি TF 1.X প্যাকেজের সাথে tf.compat.v2 সমর্থিত নয়।
  • টেনসরফ্লো এক্সিকিউশন মোড: গ্রাফ এবং আগ্রহী উভয়ই

ফলাফল

ছবির শ্রেণীবিভাগ

মডেল আসল গুচ্ছবদ্ধ
শীর্ষ-১ নির্ভুলতা (%) সংকুচিত .tflite এর আকার (MB) কনফিগারেশন # ক্লাস্টার শীর্ষ-১ নির্ভুলতা (%) সংকুচিত .tflite এর আকার (MB)
MobileNetV1 70.976 14.97
নির্বাচনী (শেষ 3টি Conv2D স্তর) 16, 16, 16 70.294 7.69
নির্বাচনী (শেষ 3টি Conv2D স্তর) ৩২, ৩২, ৩২ 70.69 8.22
সম্পূর্ণ (সমস্ত Conv2D স্তর) 32 ৬৯.৪ 4.43
MobileNetV2 71.778 12.38
নির্বাচনী (শেষ 3টি Conv2D স্তর) 16, 16, 16 70.742 ৬.৬৮
নির্বাচনী (শেষ 3টি Conv2D স্তর) ৩২, ৩২, ৩২ 70.926 7.03
সম্পূর্ণ (সমস্ত Conv2D স্তর) 32 69.744 ৪.০৫

মডেলগুলি ইমেজনেটে ​​প্রশিক্ষিত এবং পরীক্ষা করা হয়েছিল।

কীওয়ার্ড স্পটিং

মডেল আসল গুচ্ছবদ্ধ
শীর্ষ-১ নির্ভুলতা (%) সংকুচিত .tflite এর আকার (MB) কনফিগারেশন # ক্লাস্টার শীর্ষ-১ নির্ভুলতা (%) সংকুচিত .tflite এর আকার (MB)
ডিএস-সিএনএন-এল 95.233 1.46
সম্পূর্ণ (সমস্ত Conv2D স্তর) 32 95.09 0.39
সম্পূর্ণ (সমস্ত Conv2D স্তর) 8 94.272 0.27

মডেলটি স্পিচকমান্ডস v0.02 এ প্রশিক্ষিত এবং পরীক্ষা করা হয়েছিল।

  1. কেরাস মডেলটিকে .h5 ফাইলে সিরিয়ালাইজ করুন
  2. TFLiteConverter.from_keras_model_file() ব্যবহার করে .h5 ফাইলটিকে .tflite-এ রূপান্তর করুন
  3. .tflite ফাইলটিকে একটি জিপে কম্প্রেস করুন

উদাহরণ

কেরাস উদাহরণে ওজন ক্লাস্টারিং ছাড়াও, নিম্নলিখিত উদাহরণগুলি দেখুন:

  • MNIST হাতে লেখা ডিজিট ক্লাসিফিকেশন ডেটাসেটে প্রশিক্ষিত একটি CNN মডেলের ওজন ক্লাস্টার করুন: কোড

ওজন ক্লাস্টারিং বাস্তবায়ন ডিপ কম্প্রেশনের উপর ভিত্তি করে: ছাঁটাই, প্রশিক্ষিত কোয়ান্টাইজেশন এবং হাফম্যান কোডিং পেপারের সাথে ডিপ নিউরাল নেটওয়ার্ক কম্প্রেস করা। অধ্যায় 3 দেখুন, শিরোনাম প্রশিক্ষিত কোয়ান্টাইজেশন এবং ওজন শেয়ারিং