יש שאלה? התחבר לקהילה בפורום הביקור של TensorFlow

TensorFlow Lite

TensorFlow Lite הוא מכלול כלים המאפשר למידה ממוחשבת במכשיר על ידי סיוע למפתחים להריץ את הדגמים שלהם במכשירים ניידים, מוטבעים ו- IoT.

תכונות עיקריות

  • אופטימיזציה ללימוד מכונה במכשיר , על ידי התמודדות עם 5 מגבלות מפתח: זמן אחזור (אין הלוך-חזור לשרת), פרטיות (אין נתונים אישיים שעוזבים את המכשיר), קישוריות (אין צורך בקישוריות לאינטרנט), גודל (מודל מופחת ו גודל בינארי) וצריכת חשמל (הסקה יעילה וחוסר חיבורי רשת).
  • תמיכה בפלטפורמות מרובות המכסה מכשירי אנדרואיד ו- iOS , לינוקס מוטבע ומיקרו - בקרים .
  • תמיכה בשפה מגוונת , הכוללת Java, Swift, Objective-C, C ++ ו- Python.
  • ביצועים גבוהים , עם האצת חומרה ואופטימיזציה של המודל .
  • דוגמאות מקצה לקצה , למשימות נפוצות של למידת מכונה כגון סיווג תמונות, זיהוי אובייקטים, הערכת תנוחות, מענה על שאלות, סיווג טקסט וכו 'בפלטפורמות מרובות.

זרימת עבודה בפיתוח

המדריך הבא עובר בכל שלב בתהליך העבודה ומספק קישורים להוראות נוספות:

1. צור דגם TensorFlow Lite

דגם TensorFlow Lite מיוצג בפורמט נייד יעיל מיוחד המכונה FlatBuffers (מזוהה על ידי סיומת הקובץ .tflite ). זה מספק מספר יתרונות ביחס לפורמט מודל חיץ הפרוטוקול של TensorFlow כגון גודל מופחת (טביעת רגל קוד קטנה) והסקה מהירה יותר (לגישה ישירה לנתונים ללא שלב נוסף לניתוח / פריקה) המאפשר ל TensorFlow Lite לבצע ביעילות במכשירים עם משאבי מחשוב וזיכרון מוגבלים .

מודל TensorFlow Lite יכול לכלול באופן אופציונלי מטא נתונים עם תיאור מודל קריא לאדם ונתונים הקריאים במכונה לייצור אוטומטי של צינורות לפני ואחרי עיבוד במהלך הסקת מכשיר. לקבלת פרטים נוספים, עיין בסעיף הוספת מטא נתונים .

באפשרותך ליצור מודל TensorFlow Lite בדרכים הבאות:

  • השתמש במודל TensorFlow Lite קיים: עיין בדוגמאות TensorFlow Lite לבחירת דגם קיים. מודלים עשויים להכיל מטא נתונים או לא.

  • צור מודל TensorFlow Lite: השתמש ב- TensorFlow Lite Maker Maker כדי ליצור מודל עם מערך הנתונים המותאם אישית שלך. כברירת מחדל, כל הדגמים מכילים מטא נתונים.

  • המרת דגם TensorFlow לדגם TensorFlow Lite: השתמש בממיר TensorFlow Lite כדי להמיר מודל TensorFlow למודל TensorFlow Lite. במהלך ההמרה, ניתן ליישם אופטימיזציות כגון כימות כדי להקטין את גודל הדגם וחביון עם אובדן דיוק מינימלי או ללא. כברירת מחדל, כל הדגמים אינם מכילים מטא נתונים.

2. הפעל הסקה

מסקנה מתייחסת לתהליך של ביצוע דגם TensorFlow Lite במכשיר כדי לחזות על סמך נתוני קלט. ניתן להפיק מסקנות בדרכים הבאות בהתבסס על סוג הדגם:

במכשירי Android ו- iOS תוכלו לשפר את הביצועים באמצעות האצת חומרה. בשתי הפלטפורמות תוכלו להשתמש ב- GPU Delegate , באנדרואיד תוכלו להשתמש ב- NNAPI Delegate (למכשירים חדשים יותר) או ל- Hexagon Delegate (במכשירים ישנים יותר) וב- iOS תוכלו להשתמש ב- Core ML Delegate . כדי להוסיף תמיכה במאיצי חומרה חדשים, תוכל להגדיר נציג משלך .

להתחיל

אתה יכול לעיין במדריכים הבאים בהתבסס על מכשיר היעד שלך:

אילוצים טכניים