TensorFlow Lite

TensorFlow Lite مجموعه ای از ابزارها است كه با كمك به توسعه دهندگان مدل های خود را روی دستگاه های همراه ، جاسازی شده و اینترنت اشیا learning یاد می گیرند.

ویژگی های اصلی

  • بهینه سازی شده برای یادگیری ماشین روی دستگاه ، با پرداختن به 5 محدودیت کلیدی: تأخیر (رفت و برگشت به سرور وجود ندارد) ، حریم خصوصی (اطلاعات شخصی دستگاه را ترک نمی کند) ، اتصال (اتصال به اینترنت لازم نیست) ، اندازه (مدل کاهش یافته و اندازه باینری) و مصرف برق (استنباط کارآمد و فقدان اتصالات شبکه).
  • پشتیبانی از سیستم عامل چندگانه ، پوشش دستگاه های Android و iOS ، لینوکس تعبیه شده و میکروکنترلرها .
  • پشتیبانی از زبان متنوع ، که شامل جاوا ، Swift ، Objective-C ، C ++ و پایتون است.
  • عملکرد بالا ، همراه با شتاب سخت افزاری و بهینه سازی مدل .
  • مثالهای پایان به پایان ، برای کارهای رایج یادگیری ماشین مانند طبقه بندی تصویر ، تشخیص شی object ، برآورد ژست ، پاسخگویی به س questionال ، طبقه بندی متن و غیره در چندین سیستم عامل.

گردش کار توسعه

راهنمای زیر از هر مرحله از گردش کار عبور می کند و پیوندهایی به دستورالعمل های بیشتر را ارائه می دهد:

1. یک مدل TensorFlow Lite ایجاد کنید

یک مدل TensorFlow Lite در یک قالب قابل حمل و کارآمد ویژه معروف به FlatBuffers (مشخص شده با پسوند پرونده .tflite ) ارائه شده است. این مزایای متعددی نسبت به قالب مدل بافر پروتکل TensorFlow مانند کاهش اندازه (ردپای کد کوچک) و استنتاج سریعتر (دسترسی مستقیم به داده ها بدون مرحله تجزیه / بسته بندی اضافی) فراهم می کند که TensorFlow Lite را قادر می سازد تا در دستگاههایی با محاسبات محدود و منابع حافظه اجرا کند .

یک مدل TensorFlow Lite به صورت اختیاری می تواند شامل فراداده هایی باشد که دارای توصیف مدل قابل خواندن توسط انسان و داده های قابل خواندن توسط ماشین برای تولید خودکار خطوط لوله قبل و بعد از پردازش در هنگام استنباط روی دستگاه است. برای اطلاعات بیشتر به افزودن فراداده مراجعه کنید.

به روش های زیر می توانید یک مدل TensorFlow Lite ایجاد کنید:

  • از یک مدل موجود TensorFlow Lite استفاده کنید : برای انتخاب مدل موجود به مثالهای TensorFlow Lite مراجعه کنید. مدل ها ممکن است حاوی فراداده باشند یا نباشند.

  • ایجاد یک مدل TensorFlow Lite: از TensorFlow Lite Model Maker برای ایجاد مدلی با مجموعه داده های دلخواه خود استفاده کنید. به طور پیش فرض ، همه مدل ها حاوی فراداده هستند.

  • تبدیل یک مدل TensorFlow به یک مدل TensorFlow Lite: از مبدل TensorFlow Lite برای تبدیل مدل TensorFlow به مدل TensorFlow Lite استفاده کنید. در حین تبدیل ، می توانید بهینه سازی هایی مانند مقداردهی را برای کاهش اندازه و تأخیر مدل با کمترین یا بدون از دست دادن دقت انجام دهید. به طور پیش فرض ، همه مدل ها حاوی فراداده نیستند.

2. استنباط را اجرا کنید

استنباط به فرآیند اجرای مدل TensorFlow Lite بر روی دستگاه برای پیش بینی بر اساس داده های ورودی اشاره دارد. شما می توانید بر اساس نوع مدل استنباط را به روش های زیر اجرا کنید:

در دستگاه های Android و iOS ، می توانید با استفاده از شتاب سخت افزاری عملکرد را بهبود بخشید. در هر دو سیستم عامل می توانید از نماینده GPU استفاده کنید ، در اندروید هم می توانید از نماینده NNAPI (برای دستگاه های جدیدتر) یا از Hexagon Delegate (در دستگاه های قدیمی تر) و در iOS از Core ML Delegate استفاده کنید . برای افزودن پشتیبانی از شتاب دهنده های سخت افزاری جدید ، می توانید نماینده خود را تعریف کنید .

شروع کنید

شما می توانید بر اساس دستگاه مورد نظر خود به راهنماهای زیر مراجعه کنید:

محدودیت های فنی

  • همه مدل های TensorFlow را نمی توان به مدل های TensorFlow Lite تبدیل کرد ، به سازگاری اپراتور مراجعه کنید.

  • آموزش روی دستگاه بدون پشتیبانی ، اما در نقشه راه ما وجود دارد.