בניית דגמי TensorFlow Lite

דף זה מספק הנחיות לבניית דגמי TensorFlow שלך מתוך כוונה להמיר לפורמט מודל TensorFlow Lite. המודלים של למידת מכונה (ML) שבהם אתה משתמש עם TensorFlow Lite נבנו במקור ואומנו באמצעות ספריות וכלים הליבה של TensorFlow. לאחר שבנית מודל עם ליבת TensorFlow, תוכל להמיר אותו לפורמט קטן יותר ויעיל יותר של מודל ML הנקרא מודל TensorFlow Lite.

בניית המודל שלך

אם אתה בונה מודל מותאם אישית עבור מקרה השימוש הספציפי שלך, עליך להתחיל בפיתוח והדרכה של מודל TensorFlow או הרחבת מודל קיים.

אילוצי עיצוב דגם

לפני שתתחיל בתהליך פיתוח המודל שלך, עליך להיות מודע לאילוצים עבור דגמי TensorFlow Lite ולבנות את המודל שלך תוך מחשבה על האילוצים הבאים:

  • יכולות מחשוב מוגבלות - בהשוואה לשרתים מאובזרים עם ריבוי מעבדים, קיבולת זיכרון גבוהה ומעבדים מיוחדים כגון GPUs ו-TPUs, מכשירים ניידים וקצה מוגבלים הרבה יותר. בעוד שהם גדלים בכוח מחשוב ובתאימות חומרה מיוחדת, הדגמים והנתונים שתוכל לעבד איתם ביעילות עדיין מוגבלים באופן שווה.
  • גודל המודלים - המורכבות הכוללת של מודל, כולל לוגיקה של עיבוד מוקדם של נתונים ומספר השכבות במודל, מגדילה את גודל המודל בזיכרון. דגם גדול עשוי לפעול לאט בצורה בלתי מתקבלת על הדעת או שפשוט לא יתאים לזיכרון הזמין של מכשיר נייד או קצה.
  • גודל הנתונים - גודל נתוני הקלט שניתן לעבד ביעילות עם מודל למידת מכונה מוגבל במכשיר נייד או קצה. מודלים המשתמשים בספריות נתונים גדולות כגון ספריות שפות, ספריות תמונות או ספריות וידאו קליפים עשויים שלא להתאים למכשירים אלה, ועשויים לדרוש פתרונות אחסון וגישה מחוץ למכשיר.
  • פעולות TensorFlow נתמכות - סביבות זמן ריצה של TensorFlow Lite תומכות בתת-קבוצה של פעולות מודל למידת מכונה בהשוואה לדגמי TensorFlow רגילים. בזמן שאתה מפתח מודל לשימוש עם TensorFlow Lite, עליך לעקוב אחר התאימות של המודל שלך מול היכולות של סביבות זמן ריצה של TensorFlow Lite.

למידע נוסף על בניית מודלים יעילים, תואמים ובעלי ביצועים גבוהים עבור TensorFlow Lite, ראה שיטות עבודה מומלצות לביצועים .

פיתוח מודלים

כדי לבנות מודל TensorFlow Lite, תחילה עליך לבנות מודל באמצעות ספריות הליבה של TensorFlow. ספריות הליבה של TensorFlow הן הספריות ברמה נמוכה יותר המספקות ממשקי API לבנייה, אימון ופריסה של מודלים של ML.

זרימת עבודה של בניית TFLite

TensorFlow מספק שני נתיבים לעשות זאת. אתה יכול לפתח קוד מודל מותאם אישית משלך או שאתה יכול להתחיל עם יישום מודל זמין בגן המודלים של TensorFlow.

דגם גן

גן המודלים של TensorFlow מספק יישומים של מודלים חדישים רבים של למידת מכונה (ML) עבור חזון ועיבוד שפה טבעית (NLP). תמצא גם כלי זרימת עבודה שיאפשרו לך להגדיר ולהפעיל במהירות את המודלים הללו על מערכי נתונים סטנדרטיים. המודלים של למידת מכונה ב-Model Garden כוללים קוד מלא כך שתוכל לבדוק, לאמן או לאמן אותם מחדש באמצעות מערכי נתונים משלך.

בין אם אתם מחפשים להשוות ביצועים עבור מודל ידוע, לאמת את התוצאות של מחקרים שפורסמו לאחרונה, או להרחיב מודלים קיימים, ה-Model Garden יכול לעזור לכם להניע את יעדי ה-ML שלכם.

דגמים מותאמים אישית

אם מקרה השימוש שלך הוא מחוץ לאלה הנתמכים על ידי הדגמים במודל גארדן, אתה יכול להשתמש בספרייה ברמה גבוהה כמו Keras כדי לפתח את קוד ההדרכה המותאם אישית שלך. כדי ללמוד את היסודות של TensorFlow, עיין במדריך TensorFlow . כדי להתחיל עם דוגמאות, עיין בסקירת המדריכים של TensorFlow המכילה מצביעים לתחילת הדרכות לרמת מומחים.

הערכת מודל

לאחר שפיתחת את המודל שלך, עליך להעריך את הביצועים שלו ולבדוק אותו במכשירי משתמש קצה. TensorFlow מספק כמה דרכים לעשות זאת.

  • TensorBoard הוא כלי לאספקת המדידות וההדמיות הנדרשות במהלך זרימת העבודה של למידת מכונה. זה מאפשר מעקב אחר מדדי ניסוי כמו אובדן ודיוק, הדמיית גרף המודל, הקרנת הטבעות למרחב ממדי נמוך יותר, ועוד הרבה יותר.
  • כלי השוואת ביצועים זמינים עבור כל פלטפורמה נתמכת, כגון אפליקציית הבנצ'מרק של אנדרואיד ואפליקציית הבנצ'מרק של iOS. השתמש בכלים אלה כדי למדוד ולחשב נתונים סטטיסטיים עבור מדדי ביצועים חשובים.

אופטימיזציה של המודל

עם אילוצי המשאבים הספציפיים לדגמי TensorFlow Lite, אופטימיזציה של המודל יכולה לעזור להבטיח את ביצועי המודל שלך היטב ומשתמשת בפחות משאבי מחשוב. ביצועי מודל למידת מכונה הם בדרך כלל איזון בין גודל ומהירות מסקנות לעומת דיוק. TensorFlow Lite תומך כיום באופטימיזציה באמצעות כימות, גיזום ואשכולות. עיין בנושא אופטימיזציית המודל לפרטים נוספים על טכניקות אלו. TensorFlow מספקת גם ערכת כלים לאופטימיזציה של מודלים המספקת API שמיישם את הטכניקות הללו.

הצעדים הבאים