Google I/O הוא עטיפה! התעדכן בהפעלות של TensorFlow. צפה בהפעלות

תאימות למפעיל TensorFlow Lite ו- TensorFlow

TensorFlow Lite תומך במספר פעולות TensorFlow המשמשות במודלי היסק נפוצים. כאשר הם מעובדים על ידי ממיר האופטימיזציה של TensorFlow Lite, ניתן לבצע פעולות אלה או התמזגו, לפני שהפעולות הנתמכות ימופו לעמיתיהם ב- TensorFlow Lite.

מכיוון שספריית המפעילים המובנית של TensorFlow Lite תומכת רק במספר מוגבל של מפעילי TensorFlow, לא כל דגם ניתן להמרה. אפילו עבור פעולות נתמכות, לעתים צפויות דפוסי שימוש ספציפיים מאוד, מסיבות ביצוע. אנו מצפים להרחיב את מערך הפעולות הנתמכות במהדורות עתידיות של TensorFlow Lite.

הדרך הטובה ביותר להבין כיצד לבנות מודל TensorFlow שניתן להשתמש בו עם TensorFlow Lite היא לשקול היטב כיצד מומרות ומוטבות פעולות, יחד עם המגבלות המוטלות על ידי תהליך זה.

סוגים נתמכים

מרבית פעולות TensorFlow Lite מכוונות הן לנקודה צפה ( float32 ) והן uint8 ( uint8 , int8 ), אך אופציות רבות עדיין אינן tf.float16 אחרות כמו tf.float16 ומיתרים.

מלבד שימוש בגרסאות שונות של הפעולות, ההבדל הנוסף בין מודלים עם נקודה צפה לכמות היא הדרך בה הם מומרים. המרה כמותית דורשת מידע על טווח דינמי עבור טנזורים. לשם כך נדרש "כימות מזויפת" במהלך אימון המודל, קבלת מידע על טווח באמצעות מערך נתוני כיול, או ביצוע אומדן טווח "על-גבי הדרך". ראה כימות .

פעולות נתמכות והגבלות

TensorFlow Lite תומך בקבוצת משנה של פעולות TensorFlow עם מגבלות מסוימות. לקבלת רשימה מלאה של פעולות ומגבלות ראה עמוד TF Lite Ops .

המרות ישר קדימה, מתקפלות ומתמזגות כל הזמן

מספר פעולות TensorFlow יכולות להיות מעובדות על ידי TensorFlow Lite למרות שאין להן מקבילה ישירה. זה המקרה לפעולות שניתן להסיר פשוט מהגרף ( tf.identity ), להחליף אותן tf.placeholder ( tf.placeholder ), או tf.nn.bias_add לפעולות מורכבות יותר ( tf.nn.bias_add ). אפילו פעולות נתמכות מסוימות עשויות להסיר לפעמים באמצעות אחד התהליכים הללו.

הנה רשימה לא ממצה של פעולות TensorFlow שבדרך כלל מוסרות מהגרף:

פעולות ניסיוניות

הפעולות הבאות של TensorFlow Lite קיימות, אך אינן מוכנות לדגמים מותאמים אישית:

  • CALL
  • CONCAT_EMBEDDINGS
  • CUSTOM
  • EMBEDDING_LOOKUP_SPARSE
  • HASHTABLE_LOOKUP
  • LSH_PROJECTION
  • SKIP_GRAM
  • SVDF