টেনসরফ্লো ল্যাটিস (TFL)

সেভ করা পৃষ্ঠা গুছিয়ে রাখতে 'সংগ্রহ' ব্যবহার করুন আপনার পছন্দ অনুযায়ী কন্টেন্ট সেভ করুন ও সঠিক বিভাগে রাখুন।

TensorFlow Lattice হল একটি লাইব্রেরি যা নমনীয়, নিয়ন্ত্রিত এবং ব্যাখ্যাযোগ্য জালি ভিত্তিক মডেল প্রয়োগ করে। লাইব্রেরি আপনাকে সাধারণ জ্ঞান বা নীতি-চালিত আকারের সীমাবদ্ধতার মাধ্যমে শেখার প্রক্রিয়াতে ডোমেন জ্ঞান ইনজেক্ট করতে সক্ষম করে। এটি কেরাস স্তরগুলির একটি সংগ্রহ ব্যবহার করে করা হয় যা একঘেয়েমি, উত্তলতা এবং জোড়াযুক্ত বিশ্বাসের মতো সীমাবদ্ধতাগুলিকে সন্তুষ্ট করতে পারে। লাইব্রেরিটি সহজে ক্যানড এস্টিমেটর সেটআপও প্রদান করে।

ধারণা

এই বিভাগটি মোনোটোনিক ক্যালিব্রেটেড ইন্টারপোলেটেড লুক-আপ টেবিল , JMLR 2016-এ বর্ণনার একটি সরলীকৃত সংস্করণ।

জালি

একটি জালি হল একটি ইন্টারপোলেটেড লুক-আপ টেবিল যা আপনার ডেটাতে নির্বিচারে ইনপুট-আউটপুট সম্পর্ক আনুমানিক করতে পারে। এটি আপনার ইনপুট স্পেসে একটি নিয়মিত গ্রিডকে ওভারল্যাপ করে এবং গ্রিডের শীর্ষবিন্দুতে আউটপুটের মান শিখে। একটি পরীক্ষা বিন্দু \(x\)এর জন্য, \(f(x)\) এর আশেপাশের \(x\)মানগুলি থেকে রৈখিকভাবে প্রসারিত হয়।

উপরের সাধারণ উদাহরণ হল 2টি ইনপুট বৈশিষ্ট্য এবং 4টি পরামিতি সহ একটি ফাংশন:\(\theta=[0, 0.2, 0.4, 1]\), যা ইনপুট স্থানের কোণে ফাংশনের মান; বাকি ফাংশন এই পরামিতি থেকে interpolated হয়.

ফাংশন \(f(x)\) বৈশিষ্ট্যগুলির মধ্যে নন-লিনিয়ার মিথস্ক্রিয়া ক্যাপচার করতে পারে। আপনি জালির পরামিতিগুলিকে একটি নিয়মিত গ্রিডে মাটিতে সেট করা খুঁটির উচ্চতা হিসাবে ভাবতে পারেন এবং ফলস্বরূপ কাজটি চারটি খুঁটির সাথে শক্তভাবে টানা কাপড়ের মতো।

\(D\) বৈশিষ্ট্য এবং প্রতিটি মাত্রা বরাবর 2টি শীর্ষবিন্দু সহ, একটি নিয়মিত জালিতে \(2^D\) প্যারামিটার থাকবে। একটি আরও নমনীয় ফাংশন ফিট করার জন্য, আপনি বৈশিষ্ট্য স্থানের উপরে একটি সূক্ষ্ম-দানাযুক্ত জালি নির্দিষ্ট করতে পারেন প্রতিটি মাত্রা বরাবর আরও শীর্ষবিন্দু সহ। ল্যাটিস রিগ্রেশন ফাংশন ক্রমাগত এবং টুকরো টুকরো অসীম পার্থক্যযোগ্য।

ক্রমাঙ্কন

ধরা যাক পূর্ববর্তী নমুনা জালিটি বৈশিষ্ট্যগুলি ব্যবহার করে গণনা করা একটি প্রস্তাবিত স্থানীয় কফি শপের সাথে একজন বিদগ্ধ ব্যবহারকারীর সুখের প্রতিনিধিত্ব করে:

  • কফির দাম, 0 থেকে 20 ডলারের মধ্যে
  • ব্যবহারকারীর দূরত্ব, 0 থেকে 30 কিলোমিটারের মধ্যে

আমরা চাই আমাদের মডেল স্থানীয় কফি শপের পরামর্শের মাধ্যমে ব্যবহারকারীর সুখ শিখুক। টেনসরফ্লো ল্যাটিস মডেলগুলি টুকরো টুকরো রৈখিক ফাংশন ব্যবহার করতে পারে ( tfl.layers.PWLCalibration সহ) জালি দ্বারা গৃহীত পরিসরে ইনপুট বৈশিষ্ট্যগুলিকে ক্যালিব্রেট এবং স্বাভাবিক করার জন্য: উপরের জালির উদাহরণে 0.0 থেকে 1.0৷ নিম্নলিখিত 10টি কীপয়েন্ট সহ এই ধরনের ক্রমাঙ্কন ফাংশন উদাহরণগুলি দেখায়:

ইনপুট কীপয়েন্ট হিসাবে বৈশিষ্ট্যগুলির কোয়ান্টাইলগুলি ব্যবহার করা প্রায়শই একটি ভাল ধারণা। টেনসরফ্লো ল্যাটিস ক্যানড এস্টিমেটররা স্বয়ংক্রিয়ভাবে ইনপুট কীপয়েন্টগুলি বৈশিষ্ট্য কোয়ান্টাইলে সেট করতে পারে।

শ্রেণীবদ্ধ বৈশিষ্ট্যের জন্য, TensorFlow Lattice একটি জালিতে ফিড করার জন্য অনুরূপ আউটপুট বাউন্ডিং সহ শ্রেণীগত ক্রমাঙ্কন ( tfl.layers.CategoricalCalibration সহ) প্রদান করে।

ensembles

একটি জালি স্তরের প্যারামিটারের সংখ্যা ইনপুট বৈশিষ্ট্যের সংখ্যার সাথে দ্রুতগতিতে বৃদ্ধি পায়, তাই খুব উচ্চ মাত্রায় স্কেলিং করা যায় না। এই সীমাবদ্ধতা কাটিয়ে ওঠার জন্য, TensorFlow Lattice জালির সংমিশ্রণ অফার করে যা (গড়) বেশ কয়েকটি ছোট জালিকে একত্রিত করে, যা মডেলটিকে বৈশিষ্ট্যের সংখ্যায় রৈখিকভাবে বৃদ্ধি পেতে সক্ষম করে।

লাইব্রেরি এই ensembles দুটি ভিন্নতা প্রদান করে:

  • র্যান্ডম টিনি ল্যাটিসিস (RTL): প্রতিটি সাবমডেল বৈশিষ্ট্যগুলির একটি এলোমেলো উপসেট ব্যবহার করে (প্রতিস্থাপন সহ)।

  • ক্রিস্টালস : ক্রিস্টাল অ্যালগরিদম প্রথমে একটি প্রিফিটিং মডেলকে প্রশিক্ষণ দেয় যা জুটিভিত্তিক বৈশিষ্ট্য মিথস্ক্রিয়া অনুমান করে। তারপরে এটি চূড়ান্ত সংযোজনটি এমনভাবে সাজায় যাতে আরও নন-লিনিয়ার মিথস্ক্রিয়া সহ বৈশিষ্ট্যগুলি একই জালিতে থাকে।

কেন টেনসরফ্লো জালি?

আপনি এই TF ব্লগ পোস্টে TensorFlow Lattice-এর একটি সংক্ষিপ্ত পরিচিতি পেতে পারেন।

ব্যাখ্যাযোগ্যতা

যেহেতু প্রতিটি স্তরের প্যারামিটারগুলি সেই স্তরের আউটপুট, তাই মডেলের প্রতিটি অংশ বিশ্লেষণ, বোঝা এবং ডিবাগ করা সহজ।

সঠিক এবং নমনীয় মডেল

সূক্ষ্ম-দানাযুক্ত জালি ব্যবহার করে, আপনি একটি একক জালি স্তর দিয়ে নির্বিচারে জটিল ফাংশন পেতে পারেন। ক্যালিব্রেটর এবং জালির একাধিক স্তর ব্যবহার করা প্রায়শই অনুশীলনে সুন্দরভাবে কাজ করে এবং একই আকারের DNN মডেলগুলিকে মেলে বা ছাড়িয়ে যেতে পারে।

কমন সেন্স আকৃতির সীমাবদ্ধতা

বাস্তব বিশ্বের প্রশিক্ষণ ডেটা পর্যাপ্তভাবে রান-টাইম ডেটা উপস্থাপন করতে পারে না। নমনীয় এমএল সলিউশন যেমন ডিএনএন বা ফরেস্ট প্রায়ই অপ্রত্যাশিতভাবে এবং এমনকি ইনপুট স্পেসের কিছু অংশে কাজ করে যা প্রশিক্ষণের ডেটা দ্বারা আচ্ছাদিত নয়। এই আচরণটি বিশেষত সমস্যাযুক্ত যখন নীতি বা ন্যায্যতার সীমাবদ্ধতা লঙ্ঘন করা যেতে পারে।

যদিও নিয়মিতকরণের সাধারণ ফর্মগুলি আরও বুদ্ধিমান এক্সট্রাপোলেশনের ফলে হতে পারে, স্ট্যান্ডার্ড রেগুলারাইজাররা সম্পূর্ণ ইনপুট স্পেস জুড়ে যুক্তিসঙ্গত মডেল আচরণের গ্যারান্টি দিতে পারে না, বিশেষ করে উচ্চ-মাত্রিক ইনপুটগুলির সাথে। আরও নিয়ন্ত্রিত এবং অনুমানযোগ্য আচরণ সহ সহজ মডেলগুলিতে স্যুইচ করা মডেলের নির্ভুলতার জন্য একটি গুরুতর মূল্যে আসতে পারে।

TF Lattice নমনীয় মডেল ব্যবহার করা সম্ভব করে, কিন্তু শব্দার্থগতভাবে অর্থপূর্ণ সাধারণ জ্ঞান বা নীতি-চালিত আকৃতির সীমাবদ্ধতার মাধ্যমে শেখার প্রক্রিয়ায় ডোমেন জ্ঞান ইনজেক্ট করার জন্য বিভিন্ন বিকল্প প্রদান করে:

  • একঘেয়েমি : আপনি নির্দিষ্ট করতে পারেন যে আউটপুট শুধুমাত্র একটি ইনপুটের ক্ষেত্রে বৃদ্ধি/কমাতে হবে। আমাদের উদাহরণে, আপনি নির্দিষ্ট করতে চাইতে পারেন যে একটি কফি শপের বর্ধিত দূরত্ব শুধুমাত্র ভবিষ্যদ্বাণীকৃত ব্যবহারকারীর পছন্দকে হ্রাস করবে।

  • উত্তল /অতলতা : আপনি নির্দিষ্ট করতে পারেন যে ফাংশনের আকৃতি উত্তল বা অবতল হতে পারে। একঘেয়েমির সাথে মিশ্রিত, এটি একটি প্রদত্ত বৈশিষ্ট্যের সাপেক্ষে হ্রাসকারী আয়ের প্রতিনিধিত্ব করতে ফাংশনটিকে বাধ্য করতে পারে।

  • ইউনিমডালিটি : আপনি নির্দিষ্ট করতে পারেন যে ফাংশনের একটি অনন্য শিখর বা অনন্য উপত্যকা থাকা উচিত। এটি আপনাকে এমন ফাংশনগুলিকে প্রতিনিধিত্ব করতে দেয় যা একটি বৈশিষ্ট্যের ক্ষেত্রে একটি মিষ্টি জায়গা রয়েছে।

  • পেয়ারওয়াইজ বিশ্বাস : এই সীমাবদ্ধতা একজোড়া বৈশিষ্ট্যের উপর কাজ করে এবং পরামর্শ দেয় যে একটি ইনপুট বৈশিষ্ট্য শব্দার্থগতভাবে অন্য বৈশিষ্ট্যের উপর আস্থা প্রতিফলিত করে। উদাহরণস্বরূপ, উচ্চ সংখ্যক রিভিউ আপনাকে একটি রেস্তোরাঁর গড় তারকা রেটিংয়ে আরও আত্মবিশ্বাসী করে তোলে। স্টার রেটিং এর ক্ষেত্রে মডেলটি আরো সংবেদনশীল হবে (অর্থাৎ রেটিং এর সাপেক্ষে একটি বড় ঢাল থাকবে) যখন রিভিউ সংখ্যা বেশি হবে।

Regularizers সঙ্গে নিয়ন্ত্রিত নমনীয়তা

আকৃতির সীমাবদ্ধতা ছাড়াও, টেনসরফ্লো জালি প্রতিটি স্তরের জন্য ফাংশনের নমনীয়তা এবং মসৃণতা নিয়ন্ত্রণ করতে বেশ কয়েকটি নিয়মিতকারী সরবরাহ করে।

  • ল্যাপ্লাসিয়ান রেগুলারাইজার : ল্যাটিস/ক্র্যালিব্রেশন শীর্ষবিন্দু/কীপয়েন্টগুলির আউটপুটগুলি তাদের নিজ নিজ প্রতিবেশীদের মানগুলির জন্য নিয়মিত করা হয়। এটি একটি চাটুকার ফাংশন ফলাফল.

  • হেসিয়ান রেগুলারাইজার : এটি ফাংশনটিকে আরও রৈখিক করতে PWL ক্রমাঙ্কন স্তরের প্রথম ডেরিভেটিভকে শাস্তি দেয়।

  • রিঙ্কেল রেগুলারাইজার : এটি বক্রতার আকস্মিক পরিবর্তন এড়াতে PWL ক্রমাঙ্কন স্তরের দ্বিতীয় ডেরিভেটিভকে শাস্তি দেয়। এটা ফাংশন মসৃণ করে তোলে.

  • টর্শন রেগুলারাইজার : বৈশিষ্ট্যগুলির মধ্যে টর্শন প্রতিরোধের জন্য জালির আউটপুটগুলি নিয়মিত করা হবে। অন্য কথায়, বৈশিষ্ট্যগুলির অবদানের মধ্যে মডেলটি স্বাধীনতার দিকে নিয়মিত করা হবে।

অন্যান্য কেরা স্তরগুলির সাথে মিশ্রিত করুন এবং মেলে

আপনি আংশিকভাবে সীমাবদ্ধ বা নিয়মিত মডেল তৈরি করতে অন্যান্য কেরাস স্তরগুলির সাথে একত্রে TF ল্যাটিস স্তরগুলি ব্যবহার করতে পারেন। উদাহরণস্বরূপ, জালি বা PWL ক্রমাঙ্কন স্তরগুলি গভীর নেটওয়ার্কগুলির শেষ স্তরে ব্যবহার করা যেতে পারে যাতে এমবেডিং বা অন্যান্য কেরাস স্তর অন্তর্ভুক্ত থাকে।

কাগজপত্র

টিউটোরিয়াল এবং API ডক্স

সাধারণ মডেল আর্কিটেকচারের জন্য, আপনি কেরাস প্রিমেড মডেল বা ক্যানড এস্টিমেটর ব্যবহার করতে পারেন। আপনি টিএফ ল্যাটিস কেরাস স্তরগুলি ব্যবহার করে কাস্টম মডেলগুলি তৈরি করতে পারেন বা অন্যান্য কেরা স্তরগুলির সাথে মিশ্রিত করতে পারেন। বিস্তারিত জানার জন্য সম্পূর্ণ API ডক্স দেখুন।