GpuDelegateFactory.Options

পাবলিক স্ট্যাটিক ক্লাস GpuDelegateFactory.Options
পরিচিত ডাইরেক্ট সাবক্লাস

প্রতিনিধি বিকল্প।

নেস্টেড ক্লাস

enum GpuDelegateFactory.Options.GpuBackend কোন GPU ব্যাকএন্ড নির্বাচন করতে হবে।

ধ্রুবক

int INFERENCE_PREFERENCE_FAST_SINGLE_ANSWER প্রতিনিধি শুধুমাত্র একবার ব্যবহার করা হবে, তাই, বুটস্ট্র্যাপ/ইনিট সময় বিবেচনা করা উচিত।
int INFERENCE_PREFERENCE_SUSTAINED_SPEED থ্রুপুট সর্বাধিক করতে পছন্দ করুন।

পাবলিক কনস্ট্রাক্টর

বিকল্প ()

পাবলিক পদ্ধতি

বুলিয়ান
QuantizedModelsAllowed ()
GpuDelegateFactory.Options.GpuBackend
getForceBackend ()
int
GetInferencePreference ()
স্ট্রিং
getModelToken ()
স্ট্রিং
GetSerializationDir ()
বুলিয়ান
PrecisionLossAllowed ()
GpuDelegateFactory.Options
setForceBackend ( GpuDelegateFactory.Options.GpuBackend forceBackend)
GPU ব্যাকএন্ড সেট করে।
GpuDelegateFactory.Options
setInferencePreference (int পছন্দ)
নির্ভুলতা/সংকলন/রানটাইম ট্রেডঅফের জন্য অনুমান পছন্দ সেট করে।
GpuDelegateFactory.Options
সেটPrecisionLossAllowed (বুলিয়ান নির্ভুলতাঅনুমোদিত)
নির্ভুলতা ক্ষতি অনুমোদিত কিনা তা সেট করে।
GpuDelegateFactory.Options
সেট কোয়ান্টাইজড মডেলসঅ্যালোড (বুলিয়ান কোয়ান্টাইজড মডেল অ্যালোড)
প্রতিনিধিদের সাথে কোয়ান্টাইজড মডেল চালানো সক্ষম করে।
GpuDelegateFactory.Options
সেট সিরিয়ালাইজেশন প্যারামস ( স্ট্রিং সিরিয়ালাইজেশনডির, স্ট্রিং মডেল টোকেন)
প্রতিনিধিতে সিরিয়ালাইজেশন সক্ষম করে।

উত্তরাধিকারসূত্রে প্রাপ্ত পদ্ধতি

ধ্রুবক

পাবলিক স্ট্যাটিক ফাইনাল int INFERENCE_PREFERENCE_FAST_SINGLE_ANSWER

প্রতিনিধি শুধুমাত্র একবার ব্যবহার করা হবে, তাই, বুটস্ট্র্যাপ/ইনিট সময় বিবেচনা করা উচিত।

ধ্রুবক মান: 0

পাবলিক স্ট্যাটিক ফাইনাল int INFERENCE_PREFERENCE_SUSTAINED_SPEED

থ্রুপুট সর্বাধিক করতে পছন্দ করুন। একই প্রতিনিধি একাধিক ইনপুটে বারবার ব্যবহার করা হবে।

ধ্রুবক মান: 1

পাবলিক কনস্ট্রাক্টর

সর্বজনীন বিকল্প ()

পাবলিক পদ্ধতি

পাবলিক বুলিয়ান হল কোয়ান্টাইজড মডেল অনুমোদিত ()

সর্বজনীন GpuDelegateFactory.Options.GpuBackend getForceBackend ()

পাবলিক int getInferencePreference ()

পাবলিক স্ট্রিং getModelToken ()

পাবলিক স্ট্রিং getSerializationDir ()

পাবলিক বুলিয়ান isPrecisionLossAllowed ()

সর্বজনীন GpuDelegateFactory.Options setForceBackend ( GpuDelegateFactory.Options.GpuBackend forceBackend)

GPU ব্যাকএন্ড সেট করে।

পরামিতি
forceBackend

public GpuDelegateFactory.Options setInferencePreference (int preference)

নির্ভুলতা/সংকলন/রানটাইম ট্রেডঅফের জন্য অনুমান পছন্দ সেট করে।

পরামিতি
পছন্দ `INFERENCE_PREFERENCE_FAST_SINGLE_ANSWER` (ডিফল্ট), `INFERENCE_PREFERENCE_SUSTAINED_SPEED` এর মধ্যে একটি।

সর্বজনীন GpuDelegateFactory.Options setPrecisionLossAllowed (বুলিয়ান precisionLossAllowed)

নির্ভুলতা ক্ষতি অনুমোদিত কিনা তা সেট করে।

পরামিতি
নির্ভুলতাঅনুমোদিত যখন `সত্য` (ডিফল্ট), GPU টেনসর, ডাউনকাস্ট মান, প্রক্রিয়া FP16 এ পরিমাপ করতে পারে। 'মিথ্যা' হলে, 32-বিট ফ্লোটিং পয়েন্টে গণনা করা হয়।

সর্বজনীন GpuDelegateFactory.Options setQuantizedModelsAllowed (বুলিয়ান quantizedModelsAllowed)

প্রতিনিধিদের সাথে কোয়ান্টাইজড মডেল চালানো সক্ষম করে।

সতর্কতা: এটি একটি পরীক্ষামূলক API এবং পরিবর্তন সাপেক্ষে।

পরামিতি
কোয়ান্টাইজড মডেল অনুমোদিত true হলে (ডিফল্ট), GPU কোয়ান্টাইজড মডেল চালাতে পারে।

সর্বজনীন GpuDelegateFactory.Options setSerializationParams ( স্ট্রিং সিরিয়ালাইজেশনডির, স্ট্রিং মডেল টোকেন)

প্রতিনিধিতে সিরিয়ালাইজেশন সক্ষম করে। দ্রষ্টব্য নন-নাল serializationDir এবং modelToken সিরিয়ালাইজেশনের জন্য প্রয়োজন।

সতর্কতা: এটি একটি পরীক্ষামূলক API এবং পরিবর্তন সাপেক্ষে।

পরামিতি
সিরিয়ালাইজেশন ডির ডাটা সংরক্ষণের জন্য যে ডিরেক্টরিটি ব্যবহার করতে হবে। মডেলটি একটি সর্বজনীন ডিরেক্টরিতে সংরক্ষণ করা হয় না তা নিশ্চিত করার জন্য কলার দায়বদ্ধ। Android এ অ্যাপ্লিকেশনটির জন্য একটি ব্যক্তিগত অবস্থান প্রদান করতে Context.getCodeCacheDir() ব্যবহার করার পরামর্শ দেওয়া হচ্ছে।
মডেল টোকেন মডেল শনাক্ত করতে ব্যবহৃত টোকেন। মডেল গ্রাফ এবং ডেটার জন্য টোকেনটি অনন্য তা নিশ্চিত করার জন্য কলার দায়ী।