আর্ম এমএল টুলিং দ্বারা রক্ষণাবেক্ষণ করা হয়
এটি আপনার ব্যবহারের ক্ষেত্রে কীভাবে ফিট করে তা নির্ধারণ করতে আপনাকে সাহায্য করার জন্য এই নথিটি ওজন ক্লাস্টারিংয়ের একটি ওভারভিউ প্রদান করে।
- এন্ড-টু-এন্ড উদাহরণে সরাসরি ডুব দিতে, ওজন ক্লাস্টারিং উদাহরণ দেখুন।
- আপনার ব্যবহারের ক্ষেত্রে আপনার প্রয়োজনীয় APIগুলি দ্রুত খুঁজে পেতে, ওজন ক্লাস্টারিং ব্যাপক নির্দেশিকা দেখুন।
ওভারভিউ
ক্লাস্টারিং, বা ওজন ভাগ করে নেওয়া, একটি মডেলে অনন্য ওজনের মানের সংখ্যা হ্রাস করে, যা স্থাপনার সুবিধার দিকে পরিচালিত করে। এটি প্রথমে প্রতিটি স্তরের ওজনকে N ক্লাস্টারে গোষ্ঠীভুক্ত করে, তারপর ক্লাস্টারের অন্তর্গত সমস্ত ওজনের জন্য ক্লাস্টারের সেন্ট্রোয়েড মান ভাগ করে।
এই কৌশলটি মডেল কম্প্রেশনের মাধ্যমে উন্নতি নিয়ে আসে। ভবিষ্যত ফ্রেমওয়ার্ক সমর্থন মেমরি পদচিহ্নের উন্নতি আনলক করতে পারে যা সীমিত সংস্থান সহ এমবেডেড সিস্টেমে গভীর শিক্ষার মডেল স্থাপনের জন্য একটি গুরুত্বপূর্ণ পার্থক্য তৈরি করতে পারে।
আমরা দৃষ্টি এবং বক্তৃতা টাস্ক জুড়ে ক্লাস্টারিং নিয়ে পরীক্ষা করেছি। আমরা নির্ভুলতার ন্যূনতম ক্ষতি সহ মডেল কম্প্রেশনে 5x পর্যন্ত উন্নতি দেখেছি, যা নীচে উপস্থাপিত ফলাফল দ্বারা প্রদর্শিত হয়েছে।
অনুগ্রহ করে মনে রাখবেন যে ক্লাস্টারিং কনভোলিউশন এবং ঘন স্তরগুলির জন্য কম সুবিধা প্রদান করবে যা একটি ব্যাচের স্বাভাবিককরণ স্তরের আগে, সেইসাথে প্রতি-অক্ষ-পর-প্রশিক্ষণের পরিমাপকরণের সাথে সংমিশ্রণে।
API সামঞ্জস্যতা ম্যাট্রিক্স
ব্যবহারকারীরা নিম্নলিখিত APIগুলির সাথে ক্লাস্টারিং প্রয়োগ করতে পারেন:
- মডেল বিল্ডিং: শুধুমাত্র অনুক্রমিক এবং কার্যকরী মডেল সহ
keras
- TensorFlow সংস্করণ: TF 1.x সংস্করণ 1.14+ এবং 2.x এর জন্য।
- একটি TF 2.X প্যাকেজের সাথে
tf.compat.v1
এবং একটি TF 1.X প্যাকেজের সাথেtf.compat.v2
সমর্থিত নয়।
- একটি TF 2.X প্যাকেজের সাথে
- টেনসরফ্লো এক্সিকিউশন মোড: গ্রাফ এবং আগ্রহী উভয়ই
ফলাফল
চিত্র শ্রেণীবিভাগ
মডেল | আসল | গুচ্ছবদ্ধ | ||||
---|---|---|---|---|---|---|
শীর্ষ-১ নির্ভুলতা (%) | সংকুচিত .tflite এর আকার (MB) | কনফিগারেশন | # ক্লাস্টার | শীর্ষ-১ নির্ভুলতা (%) | সংকুচিত .tflite এর আকার (MB) | |
MobileNetV1 | 70.976 | 14.97 | ||||
নির্বাচনী (শেষ ৩টি Conv2D স্তর) | 16, 16, 16 | 70.294 | 7.69 | |||
নির্বাচনী (শেষ ৩টি Conv2D স্তর) | ৩২, ৩২, ৩২ | 70.69 | 8.22 | |||
সম্পূর্ণ (সমস্ত Conv2D স্তর) | 32 | 69.4 | 4.43 | |||
MobileNetV2 | 71.778 | 12.38 | ||||
নির্বাচনী (শেষ ৩টি Conv2D স্তর) | 16, 16, 16 | 70.742 | ৬.৬৮ | |||
নির্বাচনী (শেষ ৩টি Conv2D স্তর) | ৩২, ৩২, ৩২ | 70.926 | 7.03 | |||
সম্পূর্ণ (সমস্ত Conv2D স্তর) | 32 | 69.744 | ৪.০৫ |
মডেলগুলি ইমেজনেটে প্রশিক্ষিত এবং পরীক্ষা করা হয়েছিল।
কীওয়ার্ড স্পটিং
মডেল | আসল | গুচ্ছবদ্ধ | ||||
---|---|---|---|---|---|---|
শীর্ষ-১ নির্ভুলতা (%) | সংকুচিত .tflite এর আকার (MB) | কনফিগারেশন | # ক্লাস্টার | শীর্ষ-১ নির্ভুলতা (%) | সংকুচিত .tflite এর আকার (MB) | |
ডিএস-সিএনএন-এল | 95.233 | 1.46 | ||||
সম্পূর্ণ (সমস্ত Conv2D স্তর) | 32 | 95.09 | 0.39 | |||
সম্পূর্ণ (সমস্ত Conv2D স্তর) | 8 | 94.272 | 0.27 |
মডেলটি স্পিচকমান্ডস v0.02 এ প্রশিক্ষিত এবং পরীক্ষা করা হয়েছিল।
- কেরাস মডেলটিকে .h5 ফাইলে সিরিয়ালাইজ করুন
-
TFLiteConverter.from_keras_model_file()
ব্যবহার করে .h5 ফাইলটিকে .tflite-এ রূপান্তর করুন - .tflite ফাইলটিকে একটি জিপে কম্প্রেস করুন
উদাহরণ
কেরাস উদাহরণে ওজন ক্লাস্টারিং ছাড়াও, নিম্নলিখিত উদাহরণগুলি দেখুন:
- MNIST হাতে লেখা ডিজিট ক্লাসিফিকেশন ডেটাসেটে প্রশিক্ষিত একটি CNN মডেলের ওজন ক্লাস্টার করুন: কোড
ওজন ক্লাস্টারিং বাস্তবায়ন ডিপ কম্প্রেশনের উপর ভিত্তি করে: ছাঁটাই, প্রশিক্ষিত কোয়ান্টাইজেশন এবং হাফম্যান কোডিং পেপারের সাথে ডিপ নিউরাল নেটওয়ার্ক কম্প্রেস করা । অধ্যায় 3 দেখুন, শিরোনাম প্রশিক্ষিত কোয়ান্টাইজেশন এবং ওজন শেয়ারিং ।