خريطة طريق TensorFlow Lite

تم التحديث: مايو 2021

يمثل ما يلي نظرة عامة رفيعة المستوى على خارطة الطريق الخاصة بنا. يجب أن تدرك أن خريطة الطريق هذه قد تتغير في أي وقت وأن الترتيب أدناه لا يعكس أي نوع من الأولوية.

نقوم بتقسيم خريطة الطريق الخاصة بنا إلى أربعة أجزاء رئيسية: سهولة الاستخدام والأداء والتحسين وقابلية النقل. نحن نشجعك بشدة على التعليق على خريطة الطريق الخاصة بنا وتقديم تعليقات إلينا في مجموعة مناقشة TensorFlow Lite .

سهولة الاستخدام

  • توسيع تغطية العمليات
    • أضف عمليات مستهدفة بناءً على تعليقات المستخدمين.
    • أضف مجموعات عمليات مستهدفة لمجالات ومناطق محددة بما في ذلك العمليات العشوائية وعمليات طبقة Keras الأساسية وجداول التجزئة وعمليات التدريب المحددة.
  • المزيد من الأدوات المساعدة
    • توفير التعليقات التوضيحية للرسم البياني TensorFlow وأدوات التوافق للتحقق من توافق TFLite ومسرع الأجهزة أثناء التدريب وبعد التحويل.
    • السماح بالاستهداف والتحسين لمسرعات محددة أثناء التحويل.
  • التدريب على الجهاز
    • دعم التدريب على الجهاز للتخصيص ونقل التعلم، بما في ذلك Colab الذي يوضح الاستخدام الشامل.
    • دعم أنواع المتغيرات/الموارد (للاستدلال والتدريب)
    • دعم تحويل وتنفيذ الرسوم البيانية مع نقاط دخول متعددة الوظائف (أو التوقيع).
  • تعزيز التكامل مع Android Studio
    • قم بسحب وإسقاط نماذج TFLite في Android Studio لإنشاء واجهات النماذج.
    • تحسين دعم ملفات تعريف Android Studio، بما في ذلك ملفات تعريف الذاكرة.
  • صانع نموذج
    • دعم المهام الأحدث، بما في ذلك اكتشاف الكائنات والتوصية وتصنيف الصوت، مما يغطي مجموعة واسعة من الاستخدام الشائع.
    • دعم المزيد من مجموعات البيانات لتسهيل نقل التعلم.
  • مكتبة المهام
    • دعم المزيد من أنواع النماذج (مثل الصوت ومعالجة اللغات الطبيعية) مع إمكانات المعالجة المسبقة واللاحقة المرتبطة بها.
    • قم بتحديث المزيد من الأمثلة المرجعية باستخدام واجهات برمجة تطبيقات المهام.
    • دعم التسريع الجاهز لجميع المهام.
  • المزيد من نماذج وأمثلة SOTA
    • أضف المزيد من الأمثلة (مثل الصوت ومعالجة اللغات الطبيعية والبيانات الهيكلية ذات الصلة) لتوضيح استخدام النموذج بالإضافة إلى الميزات الجديدة وواجهات برمجة التطبيقات التي تغطي منصات مختلفة.
    • قم بإنشاء نماذج أساسية قابلة للمشاركة على الجهاز لتقليل تكاليف التدريب والنشر.
  • النشر السلس عبر منصات متعددة
    • قم بتشغيل نماذج TensorFlow Lite على الويب.
  • تحسين الدعم عبر الأنظمة الأساسية
    • توسيع وتحسين واجهات برمجة التطبيقات لـ Java على Android، وSwift على iOS، وPython على RPi.
    • تعزيز دعم CMake (على سبيل المثال، دعم التسريع الأوسع).
  • دعم أفضل للواجهة الأمامية
    • تحسين التوافق مع واجهات التأليف المختلفة، بما في ذلك Keras وtf.numpy.

أداء

  • أدوات أفضل
    • لوحة تحكم عامة لتتبع مكاسب الأداء مع كل إصدار.
    • أدوات لفهم توافق الرسم البياني بشكل أفضل مع المسرعات المستهدفة.
  • تحسين أداء وحدة المعالجة المركزية
    • يتم تمكين XNNPack افتراضيًا لاستدلال النقطة العائمة بشكل أسرع.
    • دعم شامل بنصف الدقة (float16) مع حبات محسنة.
  • تحديث دعم NN API
    • الدعم الكامل لإصدار Android الأحدث من ميزات NN API والعمليات والأنواع.
  • تحسينات GPU
    • تحسين وقت بدء التشغيل مع دعم تسلسل المفوض.
    • إمكانية التشغيل المتداخل للمخزن المؤقت للأجهزة لاستدلال نسخة صفرية.
    • توافر أوسع لتسريع الجهاز.
    • تغطية أفضل للعمليات.

تحسين

  • توضيح

    • التكميم الانتقائي بعد التدريب لاستبعاد طبقات معينة من التكميم.
    • مصحح أخطاء القياس الكمي لفحص خسائر أخطاء القياس الكمي لكل طبقة.
    • تطبيق تدريب مدرك للكمية على المزيد من تغطية النماذج، مثل TensorFlow Model Garden.
    • تحسينات الجودة والأداء من أجل تكميم النطاق الديناميكي بعد التدريب.
    • Tensor Compression API للسماح بخوارزميات الضغط مثل SVD.
  • التقليم / التناثر

    • الجمع بين واجهات برمجة التطبيقات القابلة للتكوين لوقت التدريب (التقليم + التدريب على القياس الكمي).
    • زيادة تطبيق التكافؤ على نماذج TF Model Garden.
    • دعم تنفيذ النماذج المتفرقة في TensorFlow Lite.

قابلية التنقل

  • دعم متحكم
    • أضف دعمًا لمجموعة من حالات استخدام بنية MCU 32 بت لتصنيف الكلام والصورة.
    • الواجهة الصوتية: معالجة مسبقة للصوت في الرسم البياني ودعم التسريع
    • نموذج التعليمات البرمجية والنماذج للبيانات المرئية والصوتية.