This page was translated by the Cloud Translation API.
Switch to English

টেনসরফ্লো লাইট বাইনারি আকার হ্রাস করুন

সংক্ষিপ্ত বিবরণ

অন-ডিভাইস মেশিন লার্নিং (ওডিএমএল) অ্যাপ্লিকেশনগুলির জন্য মডেল স্থাপন করার সময়, মোবাইল ডিভাইসে যে সীমিত মেমরি উপলব্ধ তা সম্পর্কে সচেতন হওয়া গুরুত্বপূর্ণ। মডেল বাইনারি মাপগুলি মডেলটিতে ব্যবহৃত অপের সংখ্যার সাথে ঘনিষ্ঠভাবে সম্পর্কযুক্ত। টেনসরফ্লো লাইট আপনাকে নির্বাচনী বিল্ডগুলি ব্যবহার করে মডেল বাইনারি আকারগুলি হ্রাস করতে সক্ষম করে। নির্বাচিতগুলি আপনার মডেল সেটে অব্যবহৃত অপারেশনগুলি এড়িয়ে যায় এবং আপনার মোবাইল ডিভাইসে চালানোর জন্য মডেলটির জন্য প্রয়োজনীয় রানটাইম এবং অপের কার্নেলগুলি দিয়ে একটি কমপ্যাক্ট লাইব্রেরি তৈরি করে।

নির্বাচিত বিল্ডটি নিম্নলিখিত তিনটি অপারেশন লাইব্রেরিতে প্রয়োগ হয়।

  1. টেনসরফ্লো লাইট বিল্ট-ইন অপ্স লাইব্রেরি
  2. টেনসরফ্লো লাইট কাস্টম অপ্স
  3. টেনসরফ্লো অপ্স লাইব্রেরি নির্বাচন করুন

নীচের সারণিটি কয়েকটি সাধারণ ব্যবহারের ক্ষেত্রে নির্বাচিত বিল্ডগুলির প্রভাব প্রদর্শন করে:

মডেল নাম ডোমেইন লক্ষ্য স্থাপত্য এআর ফাইলের আকার (গুলি)
Mobilenet_1.0_224 (ভাসা) চিত্রের শ্রেণিবিন্যাস armeabi-v7a টেনস্রোফ্লো-লাইট.আআর (296,635 বাইট)
arm64-v8a টেনস্রোফ্লো-লাইট.আআর (382,892 বাইট)
SPICE- র শব্দ পিচ নিষ্কাশন armeabi-v7a টেনসরফ্লো-লাইট.এআর (375,813 বাইট)
টেনসরফ্লো-লাইট-সিলেক্ট-টিফ-অপ্স.আআর (1,676,380 বাইট)
arm64-v8a টেনস্রোফ্লো-লাইট.এআর (421,826 বাইট)
টেনসরফ্লো-লাইট-সিলেক্ট-টিফ-অপ্স.আআর (২,২৯৮,630০ বাইট)
i3d-গতিবিদ্যা -400 ভিডিওর শ্রেণিবিন্যাস armeabi-v7a টেনস্রোফ্লো-লাইট.আআর (240,085 বাইট)
টেনসরফ্লো-লাইট-সিলেক্ট-টিফ-অপ্স.আআর (1,708,597 বাইট)
arm64-v8a টেনসরফ্লো-লাইট.আআর (২3৩,7১7 বাইট)
টেনসরফ্লো-লাইট-সিলেক্ট-টিফ-অপ্স.আআর (২,৩৩৯,6977 বাইট)

জ্ঞাত সমস্যা / সীমাবদ্ধতা

  1. সিপিআই এবং আইওএস সংস্করণের জন্য নির্বাচিত বিল্ড বর্তমানে সমর্থিত নয়।

বাজেল দিয়ে বেছে বেছে টেনসরফ্লো লাইট তৈরি করুন

এই বিভাগটি ধরে নেওয়া হয়েছে যে আপনি টেনসরফ্লো উত্স কোডগুলি ডাউনলোড করেছেন এবং স্থানীয় উন্নয়নের পরিবেশটি বাজেলে সেট আপ করেছেন

অ্যান্ড্রয়েড প্রকল্পের জন্য এআর ফাইলগুলি তৈরি করুন

নীচের মত আপনার মডেল ফাইল পাথ সরবরাহ করে আপনি কাস্টম টেনসরফ্লো লাইট এআরএস তৈরি করতে পারেন।

sh tensorflow/lite/tools/build_aar.sh \
  --input_models=/a/b/model_one.tflite,/c/d/model_two.tflite \
  --target_archs=x86,x86_64,arm64-v8a,armeabi-v7a

উপরের কমান্ডটি bazel-bin/tmp/tensorflow-lite.aar ফাইলটি bazel-bin/tmp/tensorflow-lite.aar লাইট তৈরি করবে bazel-bin/tmp/tensorflow-lite.aar লাইট অন্তর্নির্মিত এবং কাস্টম bazel-bin/tmp/tensorflow-lite.aar জন্য; এবং bazel-bin/tmp/tensorflow-lite-select-tf-ops.aar ফাইলটি bazel-bin/tmp/tensorflow-lite-select-tf-ops.aar যদি আপনার মডেলগুলিতে bazel-bin/tmp/tensorflow-lite-select-tf-ops.aar নির্বাচন করুন নির্বাচন করুন। নোট করুন যে এটি বেশ কয়েকটি বিভিন্ন আর্কিটেকচারের সাথে একটি "ফ্যাট" এআর তৈরি করে; আপনার যদি এই সমস্তগুলির প্রয়োজন না হয় তবে আপনার স্থাপনার পরিবেশের জন্য উপযুক্ত উপসেটটি ব্যবহার করুন।

উন্নত ব্যবহার: কাস্টম অপ্স দিয়ে তৈরি করুন

যদি আপনি কাস্টম অপ্স সহ টেনসরফ্লো লাইট মডেলগুলি তৈরি করেন তবে আপনি বিল্ড কমান্ডে নিম্নলিখিত পতাকাগুলি যুক্ত করে এগুলি তৈরি করতে পারেন:

sh tensorflow/lite/tools/build_aar.sh \
  --input_models=/a/b/model_one.tflite,/c/d/model_two.tflite \
  --target_archs=x86,x86_64,arm64-v8a,armeabi-v7a \
  --tflite_custom_ops_srcs=/e/f/file1.cc,/g/h/file2.h \
  --tflite_custom_ops_deps=dep1,dep2

tflite_custom_ops_srcs ফ্ল্যাগটিতে আপনার কাস্টম tflite_custom_ops_srcs উত্স ফাইল রয়েছে এবং tflite_custom_ops_deps পতাকাটিতে সেই উত্স ফাইলগুলি তৈরি করতে নির্ভরতা রয়েছে। নোট করুন যে এই নির্ভরতাগুলি অবশ্যই টেনসরফ্লো রেপোতে বিদ্যমান থাকতে হবে।

নির্বাচিতভাবে ডকার সহ টেনসরফ্লো লাইট তৈরি করুন

এই বিভাগটি ধরে নিয়েছে যে আপনি আপনার স্থানীয় মেশিনে ডকার ইনস্টল করেছেন এবং টেনসরফ্লো লাইট ডকার ফাইলটি তৈরি করেছেন

অ্যান্ড্রয়েড প্রকল্পের জন্য এআর ফাইলগুলি তৈরি করুন

চালিয়ে ডকারের সাথে নির্মাণের জন্য স্ক্রিপ্টটি ডাউনলোড করুন:

curl -o build_aar_with_docker.sh \
  https://raw.githubusercontent.com/tensorflow/tensorflow/master/tensorflow/lite/tools/build_aar_with_docker.sh &&
chmod +x build_aar_with_docker.sh

তারপরে, আপনি নিম্নলিখিত হিসাবে আপনার মডেল ফাইল পাথ সরবরাহ করে কাস্টম টেনসরফ্লো লাইট এআআআআআআআআআআআআআআআআআআ

sh build_aar_with_docker.sh \
  --input_models=/a/b/model_one.tflite,/c/d/model_two.tflite \
  --target_archs=x86,x86_64,arm64-v8a,armeabi-v7a \
  --checkpoint=master

checkpoint ফ্ল্যাগটি একটি কমিট, একটি শাখা বা টেনসরফ্লো রেপোর একটি ট্যাগ যা আপনি লাইব্রেরিগুলি নির্মাণের আগে চেকআউট করতে চান। উপরের কমান্ডটি tensorflow-lite.aar লাইট অন্তর্নির্মিত এবং কাস্টম tensorflow-lite.aar জন্য আরএআর ফাইল tensorflow-lite.aar লাইট তৈরি করবে এবং আপনার বর্তমান ডিরেক্টরিতে নির্বাচিত tensorflow-lite-select-tf-ops.aar জন্য tensorflow-lite-select-tf-ops.aar এআর ফাইল tensorflow-lite-select-tf-ops.aar ফাইলটি tensorflow-lite-select-tf-ops.aar তৈরি করবে।

প্রকল্পে AAR ফাইল যুক্ত করুন

আপনার প্রকল্পে সরাসরি এআরটি আমদানি করে বা আপনার স্থানীয় মাভেন সংগ্রহশালায় কাস্টম এআর প্রকাশ করে এআর ফাইল যুক্ত করুন। মনে রাখবেন যে আপনি tensorflow-lite-select-tf-ops.aar করতে এটি tensorflow-lite-select-tf-ops.aar ফাইলগুলি tensorflow-lite-select-tf-ops.aar