সাহায্য Kaggle উপর TensorFlow সঙ্গে গ্রেট বেরিয়ার রিফ রক্ষা চ্যালেঞ্জ যোগদান

টেনসরফ্লো ল্যাটিস (TFL)

TensorFlow Lattice হল একটি লাইব্রেরি যা নমনীয়, নিয়ন্ত্রিত এবং ব্যাখ্যাযোগ্য জালি ভিত্তিক মডেল প্রয়োগ করে। আপনার লাইব্রেরি সাধারণ-ইন্দ্রিয় বা নীতি চালিত মাধ্যমে শেখার প্রক্রিয়ার মধ্যে ডোমেইন জ্ঞান উদ্বুদ্ধ করতে সক্ষম আকৃতি সীমাবদ্ধতার । এই একটি সংগ্রহ ব্যবহার করা যাবে Keras স্তর যে এই ধরনের monotonicity, ন্যুব্জতা এবং pairwise বিশ্বাসযোগ্য সীমাবদ্ধতার সন্তুষ্ট করতে পারেন। লাইব্রেরি সেটআপ করা সহজ উপলব্ধ টিনজাত estimators

ধারণা

এই বিভাগে বর্ণনার একটি সরলীকৃত সংস্করণ একঘেয়ে মডেলটির ক্রমাঙ্ক ইন্টারপোলেট লুক-আপ টেবিল , JMLR 2016।

জালি

একটি জাফরি একটি ইন্টারপোলেট লুক-আপ টেবিল আপনার তথ্য নির্বিচারে ইনপুট-আউটপুট সম্পর্ক অনুমান করতে পারে হয়। এটি আপনার ইনপুট স্পেসে একটি নিয়মিত গ্রিডকে ওভারল্যাপ করে এবং গ্রিডের শীর্ষবিন্দুতে আউটপুটের মান শিখে। একটি পরীক্ষা পয়েন্টের জন্য \(x\), \(f(x)\) সুসংগত পার্শ্ববর্তী জাফরি মান থেকে ইন্টারপোলেট করা হয় \(x\)।

উপরে সহজ উদাহরণ 2 ইনপুট বৈশিষ্ট্য এবং 4 পরামিতি সঙ্গে একটি ফাংশন:\(\theta=[0, 0.2, 0.4, 1]\), যা ইনপুট স্থান কোণায় ফাংশনের মান; বাকি ফাংশন এই পরামিতি থেকে interpolated হয়.

ফাংশন \(f(x)\) বৈশিষ্ট্য মধ্যে অ রৈখিক পারস্পরিক ক্রিয়ার ক্যাপচার করতে পারেন। আপনি জালির পরামিতিগুলিকে একটি নিয়মিত গ্রিডে মাটিতে সেট করা খুঁটির উচ্চতা হিসাবে ভাবতে পারেন এবং ফলস্বরূপ কাজটি চারটি খুঁটির সাথে শক্তভাবে টানা কাপড়ের মতো।

সঙ্গে \(D\) বৈশিষ্ট্য এবং প্রতিটি আয়তনের বরাবর 2 ছেদচিহ্ন, একটি নিয়মিত জাফরি থাকবে \(2^D\) প্যারামিটার। একটি আরও নমনীয় ফাংশন ফিট করার জন্য, আপনি বৈশিষ্ট্য স্থানের উপরে একটি সূক্ষ্ম-দানাযুক্ত জালি নির্দিষ্ট করতে পারেন প্রতিটি মাত্রা বরাবর আরও শীর্ষবিন্দু সহ। ল্যাটিস রিগ্রেশন ফাংশন ক্রমাগত এবং টুকরো টুকরো অসীম পার্থক্যযোগ্য।

ক্রমাঙ্কন

আসুন বলতে পূর্ববর্তী নমুনা জাফরি বৈশিষ্ট্য ব্যবহার করে হিসাব একটি প্রস্তাবিত স্থানীয় কফি শপ সঙ্গে একটি শিখেছি ব্যবহারকারী সুখ প্রতিনিধিত্ব করে:

  • কফির দাম, 0 থেকে 20 ডলারের মধ্যে
  • ব্যবহারকারীর দূরত্ব, 0 থেকে 30 কিলোমিটারের মধ্যে

আমরা চাই আমাদের মডেল স্থানীয় কফি শপের পরামর্শের মাধ্যমে ব্যবহারকারীর সুখ শিখুক। TensorFlow জাফরি মডেল (সঙ্গে piecewise রৈখিক ফাংশন ব্যবহার করতে পারেন tfl.layers.PWLCalibration উদাহরণে জাফরি উপরে 0.0 1.0 হবে:) শক্তির পরিমাপ প্রয়োজন এবং স্বাভাবিক ইনপুট পরিসীমা জাফরি দ্বারা গৃহীত বৈশিষ্ট্য। নিম্নলিখিত 10টি কীপয়েন্ট সহ এই ধরনের ক্রমাঙ্কন ফাংশন উদাহরণগুলি দেখায়:

ইনপুট কীপয়েন্ট হিসাবে বৈশিষ্ট্যগুলির কোয়ান্টাইলগুলি ব্যবহার করা প্রায়শই একটি ভাল ধারণা। TensorFlow জাফরি টিনজাত estimators স্বয়ংক্রিয়ভাবে বৈশিষ্ট্য quantiles ইনপুট keypoints সেট করতে পারেন।

শ্রেণীগত বৈশিষ্ট্য জন্য, TensorFlow জাফরি শ্রেণীগত ক্রমাঙ্কন (প্রদান করে tfl.layers.CategoricalCalibration অনুরূপ আউটপুট একটি জাফরি মধ্যে ফিড সীমান্ত সহ)।

ensembles

একটি জালি স্তরের প্যারামিটারের সংখ্যা ইনপুট বৈশিষ্ট্যের সংখ্যার সাথে দ্রুতগতিতে বৃদ্ধি পায়, তাই খুব উচ্চ মাত্রায় স্কেলিং করা যায় না। এই সীমাবদ্ধতা কাটিয়ে উঠতে, TensorFlow জাফরি lattices যে মেশা (গড়) বিভিন্ন ক্ষুদ্র lattices, যা বৈশিষ্ট্য সংখ্যা সুসংগত হত্তয়া মডেল সক্ষম ensembles উপলব্ধ করা হয়।

লাইব্রেরি এই ensembles দুটি ভিন্নতা প্রদান করে:

  • এলোমেলো ক্ষুদ্র lattices (আরটিএল): প্রতিটি submodel বৈশিষ্ট্য একটি র্যান্ডম উপসেট (প্রতিস্থাপন সঙ্গে) ব্যবহার করে।

  • স্ফটিক: স্ফটিক প্রথম ট্রেন অ্যালগরিদম একটি prefitting মডেল যে অনুমান বৈশিষ্ট্য পারস্পরিক ক্রিয়ার pairwise। তারপরে এটি চূড়ান্ত সংযোজনটি এমনভাবে সাজায় যাতে আরও নন-লিনিয়ার মিথস্ক্রিয়া সহ বৈশিষ্ট্যগুলি একই জালিতে থাকে।

কেন টেনসরফ্লো জালি?

আপনি এই মধ্যে TensorFlow জাফরি করার জন্য একটি সংক্ষিপ্ত ভূমিকা জানতে পারেন মেমরি ব্লগ পোস্ট

ব্যাখ্যাযোগ্যতা

যেহেতু প্রতিটি স্তরের প্যারামিটারগুলি সেই স্তরের আউটপুট, তাই মডেলের প্রতিটি অংশ বিশ্লেষণ, বোঝা এবং ডিবাগ করা সহজ।

সঠিক এবং নমনীয় মডেল

সূক্ষ্মাতিসূক্ষ্ম lattices ব্যবহার করে, আপনি একটি একক জাফরি স্তর ইচ্ছামত জটিল ফাংশন পেতে পারেন। ক্যালিব্রেটর এবং জালির একাধিক স্তর ব্যবহার করা প্রায়শই অনুশীলনে সুন্দরভাবে কাজ করে এবং একই আকারের DNN মডেলগুলিকে মেলে বা ছাড়িয়ে যেতে পারে।

কমন সেন্স আকৃতির সীমাবদ্ধতা

বাস্তব বিশ্বের প্রশিক্ষণ ডেটা পর্যাপ্তভাবে রান-টাইম ডেটা উপস্থাপন করতে পারে না। নমনীয় এমএল সলিউশন যেমন ডিএনএন বা ফরেস্ট প্রায়ই অপ্রত্যাশিতভাবে এবং এমনকি ইনপুট স্পেসের কিছু অংশে কাজ করে যা প্রশিক্ষণের ডেটা দ্বারা আচ্ছাদিত নয়। এই আচরণটি বিশেষত সমস্যাযুক্ত যখন নীতি বা ন্যায্যতার সীমাবদ্ধতা লঙ্ঘন করা যেতে পারে।

যদিও নিয়মিতকরণের সাধারণ ফর্মগুলি আরও বুদ্ধিমান এক্সট্রাপোলেশনের ফলে হতে পারে, স্ট্যান্ডার্ড রেগুলারাইজাররা সম্পূর্ণ ইনপুট স্পেস জুড়ে যুক্তিসঙ্গত মডেল আচরণের গ্যারান্টি দিতে পারে না, বিশেষ করে উচ্চ-মাত্রিক ইনপুটগুলির সাথে। আরও নিয়ন্ত্রিত এবং অনুমানযোগ্য আচরণ সহ সহজ মডেলগুলিতে স্যুইচ করা মডেলের নির্ভুলতার জন্য একটি গুরুতর মূল্যে আসতে পারে।

মেমরি জাফরি এটা নমনীয় মডেল ব্যবহার করা চালিয়ে যেতে সম্ভব করে তোলে, কিন্তু শব্দার্থগতভাবে অর্থপূর্ণ সাধারণ-ইন্দ্রিয় বা নীতি চালিত মাধ্যমে শেখার প্রক্রিয়ার মধ্যে উদ্বুদ্ধ ডোমেইন জ্ঞান বিভিন্ন বিকল্প প্রদান করে আকৃতি সীমাবদ্ধতার :

  • Monotonicity: আপনি উল্লেখ করতে পারেন যে আউটপুট শুধুমাত্র একটি ইনপুট থেকে সম্মান সঙ্গে হ্রাস বৃদ্ধি করা উচিত /। আমাদের উদাহরণে, আপনি নির্দিষ্ট করতে চাইতে পারেন যে একটি কফি শপের বর্ধিত দূরত্ব শুধুমাত্র ভবিষ্যদ্বাণীকৃত ব্যবহারকারীর পছন্দকে হ্রাস করবে।

  • ন্যুব্জতা / অবতলতা: আপনি উল্লেখ করতে পারেন যে ফাংশন আকৃতি উত্তল বা অবতল হতে পারে। একঘেয়েমির সাথে মিশ্রিত, এটি একটি প্রদত্ত বৈশিষ্ট্যের সাপেক্ষে হ্রাসকারী আয়ের প্রতিনিধিত্ব করতে ফাংশনটিকে বাধ্য করতে পারে।

  • Unimodality: আপনি উল্লেখ করতে পারেন যে ফাংশন একটি অনন্য শিখর অথবা অনন্য উপত্যকা থাকা উচিত। এই আপনি ফাংশন একটি বৈশিষ্ট্য থেকে সম্মান সঙ্গে একটি মিষ্টি স্পট আছে প্রতিনিধিত্ব করতে দেয়।

  • Pairwise ট্রাস্ট এই বাধ্যতা বৈশিষ্ট্য একজোড়া উপর কাজ করে এবং বলে যে একটি ইনপুট বৈশিষ্ট্য শব্দার্থিক ভাবে অন্য একটি বৈশিষ্ট্য বিশ্বাস প্রতিফলিত করে। উদাহরণস্বরূপ, উচ্চ সংখ্যক রিভিউ আপনাকে একটি রেস্তোরাঁর গড় তারকা রেটিংয়ে আরও আত্মবিশ্বাসী করে তোলে। স্টার রেটিং এর ক্ষেত্রে মডেলটি আরো সংবেদনশীল হবে (অর্থাৎ রেটিং এর সাপেক্ষে একটি বড় ঢাল থাকবে) যখন রিভিউ সংখ্যা বেশি হবে।

Regularizers সঙ্গে নিয়ন্ত্রিত নমনীয়তা

আকৃতির সীমাবদ্ধতা ছাড়াও, টেনসরফ্লো জালি প্রতিটি স্তরের জন্য ফাংশনের নমনীয়তা এবং মসৃণতা নিয়ন্ত্রণ করতে বেশ কয়েকটি নিয়মিতকারী সরবরাহ করে।

  • Laplacian Regularizer: আউটপুটের জাফরি / ক্রমাঙ্কন ছেদচিহ্ন / keypoints তাদের নিজ নিজ প্রতিবেশীদের মান প্রতি নিয়মিত করা হয়। একটি জপান ফাংশনে এই ফলাফল নেই।

  • চট Regularizer এই penalizes PWL ক্রমাঙ্কন স্তর প্রথম ব্যুৎপন্ন ফাংশন আরো রৈখিক করা।

  • রিংক্ল Regularizer এই PWL ক্রমাঙ্কন স্তর দ্বিতীয় ব্যুৎপন্ন বক্রতা হঠাৎ পরিবর্তন এড়াতে স্থগিত। এটা ফাংশন মসৃণ করে তোলে.

  • ব্যাবর্ত Regularizer: জাফরি আউটপুটের বৈশিষ্ট্য মধ্যে ব্যাবর্ত প্রতিরোধ প্রতি নিয়মিত করা হবে না। অন্য কথায়, বৈশিষ্ট্যগুলির অবদানের মধ্যে মডেলটি স্বাধীনতার দিকে নিয়মিত করা হবে।

অন্যান্য কেরা স্তরগুলির সাথে মিশ্রিত করুন এবং মেলে

আপনি আংশিকভাবে সীমাবদ্ধ বা নিয়মিত মডেল তৈরি করতে অন্যান্য কেরাস স্তরগুলির সাথে একত্রে TF ল্যাটিস স্তরগুলি ব্যবহার করতে পারেন। উদাহরণস্বরূপ, জালি বা PWL ক্রমাঙ্কন স্তরগুলি গভীর নেটওয়ার্কগুলির শেষ স্তরে ব্যবহার করা যেতে পারে যাতে এমবেডিং বা অন্যান্য কেরাস স্তর অন্তর্ভুক্ত থাকে।

কাগজপত্র

টিউটোরিয়াল এবং API ডক্স

সাধারণ মডেল আর্কিটেকচারের জন্য, আপনি ব্যবহার করতে পারেন Keras premade মডেল বা টিনজাত Estimators । এছাড়াও আপনি ব্যবহার কাস্টম মডেল তৈরি করতে পারেন মেমরি জাফরি Keras স্তর বা মিশ্রিত করা এবং অন্যান্য Keras স্তর সঙ্গে মেলে না। পরীক্ষা করে দেখুন পূর্ণ এপিআই ডক্স বিস্তারিত জানার জন্য।