TFF সহযোগীদের 8/24/2022 মিটিং থেকে নোট

  • TFF এ স্পারস টেনসর সমর্থন:
    • EW - আমাদের কাছে কেরাস মডেল রয়েছে যা আমরা TFF এ পোর্ট করতে চাই, তাদের স্পার্স টেনসর রয়েছে
      • কেবল ঘন টেনসরের সাথে ম্যাপিং করার ফলে আমাদের ব্যবহারের ক্ষেত্রে অগ্রহণযোগ্য মেমরি খরচ এবং ধীরতা দেখা দেয়, তাই আমরা এটি এড়াতে চাইছি
    • TFF-এ বিদ্যমান স্পার্স টেনসর সমর্থনে ZG
      • GitHub-এ উল্লেখিত সমস্যাগুলি বেশিরভাগ tf.data.Dataset এর সাথে সম্পর্কিত
      • বেশিরভাগই অন্যথায় কাজ করে, তবে এর জন্য কিছু DIY প্রয়োজন, বিশেষ করে wrt, সমষ্টি যেখানে আমরা নির্বোধভাবে উপাদান টেনসরের তিনগুণে একটি স্পার্স যোগ করতে পারি না, এতে কাঙ্ক্ষিত ফলাফল হবে না
    • (আপেক্ষিক গুরুত্ব সম্পর্কে প্রশ্ন)
    • EW - এটি আমাদের জন্য অবরুদ্ধ নয়, তবে একটি ভাল পারফরম্যান্স/রিসোরস ফুটপ্রিন্ট অপ্টিমাইজেশান
    • ZG - GitHub সমস্যাগুলির ক্ষেত্রে, TFF কম্পিউটেশনের ভিতরে ডেটাসেট লুকিয়ে কাজ করতে পারে, তাই এটি ইনপুট-আউটপুট সীমানার অংশ নয়
    • KO - স্পষ্ট করে যে আমাদের "এটি বেশিরভাগই কাজ করে" মন্তব্যটি ঘন টেনসরের টিপল হিসাবে স্পার্স টেনসরগুলিকে উপস্থাপন/হ্যান্ডল করার সাধারণ অনুশীলনকে বোঝায়। আপনি কি ডেটাসেট ব্যবহারের জন্য ঘন টেনসরের টিপল হিসাবে স্পার্সের সাথে ডিল করার চেষ্টা করেছেন?
      • EW - এখনও চেষ্টা করেনি
    • KO - এই কথোপকথনে স্পারস দুটি জায়গায় এসেছে - মডেল প্যারামিটারের জন্য, কিন্তু স্পারস ইনপুট ডেটার জন্য - উভয়ই কি সমান গুরুত্বপূর্ণ?
      • EW - আদর্শভাবে উভয়ই থাকবে
    • KO - ইওয়ানের জন্য একটি অ্যাকশন আইটেম যা উপাদান অংশগুলিকে প্রতিনিধিত্ব করে এমন ঘন টেনসরের টিপলগুলির সাথে কাজ করার চেষ্টা করে৷
    • KO - এটি এখনও স্পার্স টেনসর হ্যান্ডলিংয়ের জন্য আরও ভাল API/হেল্পার সম্পর্কে একটি প্রশ্ন রেখে যায়, তবে এই নির্দিষ্ট ব্যবহারের ক্ষেত্রে আনব্লক করতে পারে। এপিআই সম্পর্কে চিন্তা?
    • EW - আদর্শভাবে এটি কেবল স্বচ্ছ হতে পারে (টিএফএফ ব্যবহার করে গ্রাহকের স্পার্সের জন্য বিশেষ কিছু করার দরকার নেই এবং এটি কাজ করে)
      • KO, ZG - কিছু ক্ষেত্রে, এটি সুস্পষ্ট নয়, যেমন, একত্রিতকরণের জন্য - স্পার্স টেনসরের উপাদান অংশগুলিকে একত্রিত করার সম্ভাব্য একাধিক উপায় রয়েছে, একটি পছন্দ যা গ্রাহকের দ্বারা করা উচিত
      • KR - সম্ভবত ডেডিকেটেড "স্পার্স যোগ" চিহ্নের একটি ছোট পরিবার থাকা সবচেয়ে কার্যকর
      • KO - সম্ভবত আমরা EW-এর জন্য প্রয়োজনীয় স্পার্স যোগের সংস্করণটি প্রোটোটাইপ করে শুরু করতে পারি এবং এটিকে বীজের জন্য একটি জেনেরিক স্পার্স সাম অপারেটর হিসাবে TFF-এ আপস্ট্রিম করতে পারি এবং এটি তৈরি করতে পারি (এই অফলাইনে ফলো আপ করতে - হতে পারে বিবাদে)
      • EW +1
  • জেরেমির প্রস্তাব, 2 সপ্তাহ আগে থেকে অব্যাহত:
    • TFF টেক নোট: ক্লায়েন্ট সূচনা সংযোগ
    • (সবার জন্য করণীয় এটি পরে পর্যালোচনা করার জন্য কারণ এটি মিটিংয়ের কিছুক্ষণ আগে ভাগ করা হয়েছিল)
    • (জেরেমি উপস্থাপনা করছেন)
    • JL - একটি "ক্লাউড" এবং প্রতি-ক্লায়েন্ট এক্সিকিউটরদের (যেমন, ব্রাউজারে) মধ্যে অনুরোধ বিনিময়ের জন্য "টাস্ক স্টোর" বিমূর্ততা প্রস্তাব করা হচ্ছে, একটি কেন্দ্রীভূত "টাস্ক স্টোর" থেকে পরবর্তী টাস্কগুলিকে টেনে আনার সাথে। এই মত কিছু অন্য কোন প্রসঙ্গে বিবেচনা করা হয়েছে?
    • KR - হ্যাঁ, ব্যর্থতার পরিস্থিতি পরিচালনার ক্ষেত্রে
      • আরও লোমযুক্ত সমস্যা, যদিও - নির্বাহকদের মধ্যে রাষ্ট্রীয় স্থানান্তর কঠিন, জেরেমি দ্বারা উপস্থাপিত দৃশ্যকল্প কতটা বহন করে তা নিশ্চিত নয়
    • HV - পাতায় নির্বাহক রাষ্ট্রহীন হতে পারে?
      • JL - এটি এটিকে ক্রস-ডিভাইসের SysML কাগজের মতো করে তুলবে
    • (এই দৃশ্যকল্পে কর্মক্ষমতা সম্পর্কে প্রশ্ন, দ্বি-দিকনির্দেশক স্ট্রিমিংয়ের তুলনায় এমনভাবে যেটি নেটিভ TFF প্রোটোকলের সাথে আরও ঘনিষ্ঠভাবে সাদৃশ্যপূর্ণ)
    • JL - ack যে লেটেন্সি বিবেচনা আছে
    • দ্বি-দিকনির্দেশক স্ট্রিমিং কিছু পরিবহনে সমর্থিত নয়, তাই সবসময় একটি কার্যকর বিকল্প নয়
    • (সময় ফুরিয়ে গেল)
    • (2 সপ্তাহের মধ্যে অব্যাহত থাকবে - পরবর্তী বৈঠকের জন্য প্রথম আলোচ্যসূচি, জেরেমি যোগ দেবেন)