TensorFlow Lite

TensorFlow Lite عبارة عن مجموعة من الأدوات التي تتيح التعلم الآلي على الجهاز من خلال مساعدة المطورين على تشغيل نماذجهم على الأجهزة المحمولة والمدمجة والمتطورة.

دلائل الميزات

  • محسّن للتعلم الآلي على الجهاز ، من خلال معالجة 5 قيود رئيسية: زمن الانتقال (لا توجد رحلة ذهابًا وإيابًا إلى الخادم) ، والخصوصية (لا تترك البيانات الشخصية الجهاز) ، والاتصال (الاتصال بالإنترنت غير مطلوب) ، والحجم (الطراز المصغر و الحجم الثنائي) واستهلاك الطاقة (الاستدلال الفعال ونقص اتصالات الشبكة).
  • دعم الأنظمة الأساسية المتعددة ، والذي يغطي أجهزة Android و iOS و Linux المضمنة والميكروكونترولر .
  • دعم متنوع للغات ، والذي يتضمن Java و Swift و Objective-C و C ++ و Python.
  • أداء عالي ، مع تسريع الأجهزة وتحسين النموذج .
  • أمثلة شاملة لمهام التعلم الآلي الشائعة مثل تصنيف الصور واكتشاف الكائنات وتقدير الوضع والإجابة على الأسئلة وتصنيف النص وما إلى ذلك على منصات متعددة.

سير عمل التطوير

يستعرض الدليل التالي كل خطوة من خطوات سير العمل ويوفر روابط لمزيد من الإرشادات:

1. قم بإنشاء نموذج TensorFlow Lite

يتم تمثيل نموذج TensorFlow Lite بتنسيق محمول فعال خاص يُعرف باسم FlatBuffers (يتم تحديده بامتداد الملف .tflite ). يوفر هذا العديد من المزايا عن تنسيق نموذج بروتوكول المخزن المؤقت لبروتوكول TensorFlow مثل الحجم المنخفض (بصمة رمز صغير) واستدلال أسرع (يتم الوصول إلى البيانات مباشرةً دون خطوة تحليل / تفريغ إضافية) والتي تمكن TensorFlow Lite من التنفيذ بكفاءة على الأجهزة ذات موارد الحوسبة والذاكرة المحدودة .

يمكن أن يشتمل نموذج TensorFlow Lite اختياريًا على بيانات وصفية تحتوي على وصف نموذج يمكن قراءته بواسطة الإنسان وبيانات يمكن قراءتها آليًا من أجل الإنشاء التلقائي لخطوط أنابيب المعالجة السابقة واللاحقة أثناء الاستدلال على الجهاز. راجع إضافة البيانات الوصفية لمزيد من التفاصيل.

يمكنك إنشاء نموذج TensorFlow Lite بالطرق التالية:

  • استخدام نموذج TensorFlow Lite موجود: راجع أمثلة TensorFlow Lite لاختيار نموذج موجود. قد تحتوي النماذج أو لا تحتوي على بيانات وصفية.

  • قم بإنشاء نموذج TensorFlow Lite: استخدم TensorFlow Lite Model Maker لإنشاء نموذج بمجموعة البيانات المخصصة الخاصة بك. تحتوي جميع النماذج افتراضيًا على بيانات وصفية.

  • تحويل نموذج TensorFlow إلى نموذج TensorFlow Lite: استخدم محول TensorFlow Lite لتحويل نموذج TensorFlow إلى نموذج TensorFlow Lite. أثناء التحويل ، يمكنك تطبيق تحسينات مثل التقسيم لتقليل حجم النموذج والكمون مع الحد الأدنى من الدقة أو عدم فقدانها. بشكل افتراضي ، لا تحتوي جميع النماذج على بيانات وصفية.

2. تشغيل الاستدلال

يشير الاستدلال إلى عملية تنفيذ نموذج TensorFlow Lite على الجهاز لعمل تنبؤات بناءً على بيانات الإدخال. يمكنك تشغيل الاستدلال بالطرق التالية بناءً على نوع النموذج:

  • النماذج التي لا تحتوي على بيانات وصفية : استخدم TensorFlow Lite Interpreter API. مدعوم على منصات ولغات متعددة مثل Java و Swift و C ++ و Objective-C و Python.

  • النماذج ذات البيانات الوصفية : يمكنك إما الاستفادة من واجهات برمجة التطبيقات الجاهزة باستخدام مكتبة مهام TensorFlow Lite أو إنشاء خطوط أنابيب استدلال مخصصة باستخدام مكتبة دعم TensorFlow Lite . على أجهزة Android ، يمكن للمستخدمين إنشاء أغلفة التعليمات البرمجية تلقائيًا باستخدام Android Studio ML Model Binding أو TensorFlow Lite Code Generator . مدعوم فقط على Java (Android) بينما يعمل Swift (iOS) و C ++ قيد التقدم.

على أجهزة Android و iOS ، يمكنك تحسين الأداء باستخدام تسريع الأجهزة. على أي من النظامين الأساسيين ، يمكنك استخدام مندوب GPU ، على نظام Android ، يمكنك إما استخدام NNAPI Commissioner (للأجهزة الأحدث) أو Hexagon Commissioner (على الأجهزة الأقدم) وعلى iOS يمكنك استخدام Core ML Commissioner . لإضافة دعم لمسرعات الأجهزة الجديدة ، يمكنك تحديد المفوض الخاص بك .

البدء

يمكنك الرجوع إلى الأدلة التالية بناءً على جهازك المستهدف:

القيود الفنية

  • لا يمكن تحويل جميع نماذج TensorFlow إلى نماذج TensorFlow Lite ، راجع توافق المشغل .

  • تدريب غير مدعوم على الجهاز ، ولكنه موجود في خارطة الطريق الخاصة بنا.