ترجمت واجهة Cloud Translation API‏ هذه الصفحة.
Switch to English

التدريب على علم تكميم

التي تحتفظ بها TensorFlow نموذج الأمثل

هناك نوعان من تكميم: تكميم بعد التدريب وتكميم التدريب على علم بها. تبدأ تكميم بعد التدريب لأنه من الأسهل استخدام، على الرغم من التدريب علم تكميم غالبا ما يكون أفضل لدقة النموذج.

توفر هذه الصفحة نظرة عامة على التدريب على علم تكميم لمساعدتك على تحديد مدى تناسبها مع حالة استخدامك.

نظرة عامة

تكميم التدريب علم يحاكي الوقت الاستدلال تكميم، وخلق نموذج أدوات المصب سوف تستخدم لإنتاج نماذج الكم فعلا. نماذج الكم استخدام دقة أقل (على سبيل المثال 8 بت بدلا من 32 بت تعويم)، مما يؤدي إلى فوائد أثناء النشر.

نشر مع تكميم

تكميم يجلب تحسينات عبر ضغط نموذج والحد من الكمون. مع الإعدادات الافتراضية API، وينكمش حجم النموذج من قبل 4X، ونحن نرى عادة بين 1.5 - 4x وتحسينات في الكمون وحدة المعالجة المركزية في الخلفيات التي تم اختبارها. في نهاية المطاف، يمكن رؤية تحسينات الكمون على المعجلات تعلم آلة متوافقة، مثل EdgeTPU وNNAPI.

وتستخدم هذه التقنية في الإنتاج في الكلام، والرؤية، والنص، وتترجم حالات الاستخدام. يدعم رمز حاليا فرعية من هذه النماذج .

التجربة مع تكميم والأجهزة المرتبطة بها

يمكن للمستخدمين تكوين المعلمات تكميم (على سبيل المثال عدد البتات)، وإلى حد ما، خوارزميات الأساسية. مع هذه التغييرات من التخلف API، هناك لم تدعمها الطريق إلى النشر.

واجهات برمجة التطبيقات الخاصة هذا التكوين والتجريبية وغير قابلة للتوافق مع الإصدارات السابقة.

التوافق API

يمكن للمستخدمين تطبيق تكميم مع واجهات برمجة التطبيقات التالية:

  • بناء نموذج: tf.keras مع فقط متسلسل والنماذج الوظيفية.
  • إصدارات TensorFlow: الإصدار 2.x TF لفريق العمل-ليلا.
  • وضع تنفيذ TensorFlow: إعدام حريصة

وعلى خارطة طريق لدينا لإضافة دعم في المجالات التالية:

  • بناء نموذج: توضيح كيف نماذج Subclassed لم تقتصر على أي دعم
  • التدريب الموزعة: tf.distribute

مصفوفة الدعم العام

يتوفر دعم في المجالات التالية:

  • تغطية نموذج: نماذج باستخدام طبقات القائمة البيضاء ، BatchNormalization عندما التالي Conv2D وDepthwiseConv2D طبقات، وفي حالات محدودة، Concat .
  • تسارع: التخلف API لدينا متوافقة مع تسارع على EdgeTPU، NNAPI، والخلفيات TFLite، وغيرها. انظر التحذير في خارطة الطريق.
  • نشر مع تكميم: تكميم فقط لكل محور لطبقات التلافيف، وليس لكل موتر تكميم، معتمد حاليا.

وعلى خارطة طريق لدينا لإضافة دعم في المجالات التالية:

  • تغطية نموذج: امتدت لتشمل RNN / LSTMs والدعم CONCAT العام.
  • تسارع: ضمان تحويل TFLite يمكن أن تنتج نماذج كامل صحيح. انظر هذه المسألة لمزيد من التفاصيل.
  • تجربة مع حالات الاستخدام تكميم:
    • تجربة مع الخوارزميات تكميم أن طبقات تمتد Keras أو تتطلب الخطوة التدريب.
    • استقرار واجهات برمجة التطبيقات.

النتائج

تصنيف الصور مع أدوات

نموذج غير مكمم-الأعلى-1 الدقة 8 بت الكم الدقة
MobilenetV1 224 71.03٪ 71.06٪
Resnet V1 50 76.3٪ 76.1٪
MobilenetV2 224 70.77٪ 70.01٪

تم اختبار النماذج على Imagenet وتقييمها في كل TensorFlow وTFLite.

تصنيف الصور للتقنية

نموذج غير مكمم-الأعلى-1 الدقة 8 بت الكم الدقة
NASNET موبايل 74٪ 73٪
Resnet-V2 50 75.6٪ 75٪

تم اختبار النماذج على Imagenet وتقييمها في كل TensorFlow وTFLite.

أمثلة

بالإضافة إلى المثال تكميم التدريب على علم ، راجع الأمثلة التالية:

  • نموذج CNN على المهمة تصنيف أرقام مكتوبة بخط اليد MNIST مع تكميم: كود

للاطلاع على خلفية شيئا من هذا القبيل، راجع تكميم وتدريب الشبكات العصبية لكفاءة صحيح-الحساب فقط الاستدلال ورقة . تقدم هذه الورقة بعض المفاهيم أن هذه الأداة الاستخدامات. تنفيذ ليس نفسه تماما، وهناك مفاهيم إضافية المستخدمة في هذه الأداة (على سبيل المثال في محور تكميم).