This page was translated by the Cloud Translation API.
Switch to English

ওজন ক্লাস্টারিং

আর্ম এমএল সাধনী দ্বারা প্রয়োগকরণ দ্বারা পরিচালিত

এই দস্তাবেজটি নির্ধারণে আপনাকে সাহায্য করতে কিভাবে এটা আপনার ব্যবহার কেস সঙ্গে ফিট ওজন ক্লাস্টারিং উপর একটি ওভারভিউ প্রদান করে।

সংক্ষিপ্ত বিবরণ

ক্লাস্টারিং, অথবা ওজন ভাগ করা, স্থাপনার জন্য বেনিফিট নেতৃস্থানীয়, একটি মডেল অনন্য ওজন মান রয়েছে তা গণনা হ্রাস করা হয়। এটা প্রথম গ্রুপ এন ক্লাস্টার প্রতিটি স্তরের ওজন, তারপর সব ক্লাস্টার একাত্মতার ওজন জন্য ক্লাস্টার এর centroid মান শেয়ার।

এই কৌশলটি মডেল কম্প্রেশন মাধ্যমে উন্নতি এনেছে। ভবিষ্যত কাঠামো সমর্থন মেমরির পদাঙ্ক উন্নতি সীমাবদ্ধ সম্পদ সঙ্গে এমবেডেড সিস্টেম উপর গভীর লার্নিং মডেলগুলির মোতায়েন জন্য একটি অত্যন্ত গুরুত্বপূর্ণ পার্থক্য করতে পারেন আনলক করতে পারেন।

আমরা দৃষ্টি এবং বক্তৃতা কর্ম জুড়ে ক্লাস্টারিং নিয়ে পরীক্ষা নিরীক্ষা করেছেন। যেমন দ্বারা প্রদর্শিত আমরা সঠিকতা ন্যূনতম ক্ষতি সঙ্গে মডেল কম্প্রেশন মধ্যে 5x উন্নতি পর্যন্ত দেখা করেছি, ফলাফল নিচে উপস্থাপন করেছে।

দয়া করে মনে রাখবেন ক্লাস্টারিং সংবর্তন এবং ঘন স্তর যে একটি ব্যাচ নিয়মমাফিককরণ স্তর, সেইসাথে প্রতি অক্ষ পোস্ট প্রশিক্ষণ quantization সঙ্গে একযোগে আগে বসে কমিয়ে সুবিধা প্রদান করবে।

এপিআই সামঞ্জস্য ম্যাট্রিক্স

ব্যবহারকারীরা নিম্নলিখিত API গুলির সাথে ক্লাস্টারিং আবেদন করতে পারেন:

  • মডেল ভবন: tf.keras শুধুমাত্র অনুক্রমিক এবং কার্যকরী মডেলের সঙ্গে
  • TensorFlow সংস্করণ: সংস্করণের জন্য মেমরি 1.x 1.14+ এবং 2.x.
    • tf.compat.v1 একটি TF 2.x প্যাকেজ এবং সঙ্গে tf.compat.v2 একটি TF 1.x প্যাকেজের সাথে সমর্থিত নয়।
  • TensorFlow সঞ্চালনের মোড: উভয় গ্রাফ এবং আগ্রহী

ফলাফল

ভাবমূর্তি শ্রেণীবিন্যাস

মডেল মূল ক্লাস্টার
শীর্ষ -1 সঠিকতা (%) সংকুচিত .tflite এর মাপ (মেগাবাইট) কনফিগারেশন ক্লাস্টার মধ্যে # শীর্ষ -1 সঠিকতা (%) সংকুচিত .tflite এর মাপ (মেগাবাইট)
MobileNetV1 71,02 14,96
সিলেক্টিভ (শেষ 3 Conv2D স্তর) 256, 256, 32 70,62 8,42
সম্পূর্ণ (সব Conv2D স্তর) 64 66,07 2.98
MobileNetV2 72,29 12,90
সিলেক্টিভ (শেষ 3 Conv2D স্তর) 256, 256, 32 72,31 7.00
সম্পূর্ণ (সব Conv2D স্তর) 32 69,33 2.60

মডেল প্রশিক্ষণ ও ImageNet উপর পরীক্ষা করা হয়।

কী খুঁজতে হবে spotting

মডেল মূল ক্লাস্টার
শীর্ষ -1 সঠিকতা (%) সংকুচিত .tflite এর মাপ (মেগাবাইট) কনফিগারেশন ক্লাস্টার মধ্যে # শীর্ষ -1 সঠিকতা (%) সংকুচিত .tflite এর মাপ (মেগাবাইট)
ডিএস সিএনএন-এল 95,03 1.5 সম্পূর্ণ 32 94,71 0.3

মডেল প্রশিক্ষণ ও SpeechCommands v0.02 উপর পরীক্ষা করা হয়।

  1. .h5 ফাইলে Keras মডেল ধারাবাহিকভাবে
  2. ব্যবহার .tflite মধ্যে .h5 ফাইল রূপান্তর করুন TFLiteConverter.from_keras_model_file()
  3. একটি জিপ প্রবেশ .tflite ফাইল কম্প্রেস

উদাহরণ

ছাড়াও Keras উদাহরণে ওজন ক্লাস্টারিং নিম্নলিখিত উদাহরণ দেখুন:

  • একটি সিএনএন মডেল MNIST হাতে লেখা অঙ্ক শ্রেণীবিন্যাস ডেটা সেটটি তালিম এর ওজন ক্লাস্টার: কোড

ওজন ক্লাস্টারিং বাস্তবায়ন ডীপ কম্প্রেশন উপর ভিত্তি করে: সঙ্কুচিত করা ডীপ নিউরাল প্রুনিং সঙ্গে নেটওয়ার্ক প্রশিক্ষণ Quantization এবং Huffman কোডিং কাগজ । অধ্যায় দেখুন 3, প্রশিক্ষিত Quantization এবং ওজন ভাগ খেতাবধারী।