SparseApplyCenteredRmsProp

כיתת גמר ציבורית SparseApplyCenteredRmsProp

עדכן את '*var' לפי אלגוריתם RMSProp הממורכז.

אלגוריתם ה-RMSProp הממורכז משתמש באומדן של הרגע השני הממורכז (כלומר השונות) לנורמליזציה, בניגוד ל-RMSProp הרגיל, המשתמש ברגע השני (הלא ממורכז). לעתים קרובות זה עוזר באימון, אבל הוא מעט יקר יותר מבחינת חישוב וזיכרון.

שימו לב שביישום צפוף של אלגוריתם זה, mg, ms ו-mom יתעדכנו גם אם הגראד הוא אפס, אבל ביישום הדליל הזה, mg, ms ו-mom לא יתעדכנו באיטרציות שבמהלכן הגראד הוא אפס.

mean_square = decay * mean_square + (1-decay) * gradient ** 2 mean_grad = decay * mean_grad + (1-decay) * gradient Delta = learning_rate * gradient / sqrt(mean_square + epsilon - mean_grad ** 2)

$$ms <- rho * ms_{t-1} + (1-rho) * grad * grad$$$$mom <- momentum * mom_{t-1} + lr * grad / sqrt(ms + epsilon)$$$$var <- var - mom$$

כיתות מקוננות

מעמד SparseApplyCenteredRmsProp.Options תכונות אופציונליות עבור SparseApplyCenteredRmsProp

קבועים

חוּט OP_NAME השם של המבצע הזה, כפי שידוע על ידי מנוע הליבה של TensorFlow

שיטות ציבוריות

פלט <T>	asOutput () מחזירה את הידית הסמלית של הטנזור.
סטטי <T מרחיב את TType > SparseApplyCenteredRmsProp <T>	create ( scope scope, Operand <T> var, Operand <T> mg, Operand <T> ms, Operand <T> mom, Operand <T> lr, Operand <T> rho, Operand <T> מומנטום, Operand <T > epsilon, Operand <T> grad, Operand <? מרחיב את TNummer > מדדים, אפשרויות... אפשרויות) שיטת מפעל ליצירת מחלקה העוטפת פעולת SparseApplyCenteredRmsProp חדשה.
פלט <T>	החוצה () זהה ל-"var".
סטטי SparseApplyCenteredRmsProp.Options	useLocking (useLocking בוליאני)

שיטות בירושה

מכיתה org.tensorflow.op.RawOp

בוליאנית סופית	שווה (Object obj)
int סופי	hashcode ()
מבצע	אופ () החזר יחידת חישוב זו `Operation` אחת.
מחרוזת סופית	toString ()

מכיתה java.lang.Object

בוליאני	שווה (Object arg0)
שיעור אחרון<?>	getClass ()
int	hashcode ()
ריק סופי	להודיע ()
ריק סופי	הודע הכל ()
חוּט	toString ()
ריק סופי	המתן (ארג0 ארוך, int arg1)
ריק סופי	חכה (ארג0 ארוך)
ריק סופי	חכה ()

מתוך ממשק org.tensorflow.op.Op

אבסטרקט ExecutionEnvironment	env () החזר את סביבת הביצוע שבה נוצר האופציה הזו.
מבצע מופשט	אופ () החזר יחידת חישוב זו `Operation` אחת.

מממשק org.tensorflow.Operand

פלט מופשט <T>	asOutput () מחזירה את הידית הסמלית של הטנזור.
תקציר T	asTensor () מחזיר את הטנזור באופרנד זה.
צורה מופשטת	צורה () מחזירה את הצורה (הידועה אולי בחלקה) של הטנזור שאליו מתייחס `Output` של אופרנד זה.
מחלקה מופשטת<T>	סוג () מחזירה את סוג הטנזור של אופרנד זה

מהממשק org.tensorflow.ndarray.Shaped

מופשט int	דרגה ()
צורה מופשטת	צורה ()
מופשט ארוך	גודל () מחשב ומחזיר את הגודל הכולל של מיכל זה, במספר ערכים.

קבועים

מחרוזת סופית סטטית ציבורית OP_NAME

השם של המבצע הזה, כפי שידוע על ידי מנוע הליבה של TensorFlow

ערך קבוע: "SparseApplyCenteredRMSProp"

שיטות ציבוריות

פלט ציבורי <T> asOutput ()

מחזירה את הידית הסמלית של הטנזור.

כניסות לפעולות TensorFlow הן יציאות של פעולת TensorFlow אחרת. שיטה זו משמשת להשגת ידית סמלית המייצגת את חישוב הקלט.

public static SparseApplyCenteredRmsProp <T> create ( Scope scope, Operand <T> var, Operand <T> mg, Operand <T> ms, Operand <T> mom, Operand <T> lr, Operand <T> rho, Operand <T > מומנטום, Operand <T> epsilon, Operand <T> grad, Operand <? מרחיב את המדדים TNummer , אפשרויות... אפשרויות)

שיטת מפעל ליצירת מחלקה העוטפת פעולת SparseApplyCenteredRmsProp חדשה.

פרמטרים

תְחוּם	ההיקף הנוכחי
var	צריך להיות ממשתנה().
מ"ג	צריך להיות ממשתנה().
גברת	צריך להיות ממשתנה().
אִמָא	צריך להיות ממשתנה().
lr	גורם קנה מידה. חייב להיות סקלר.
rho	קצב דעיכה. חייב להיות סקלר.
אפסילון	מונח רכס. חייב להיות סקלר.
גראד	השיפוע.
מדדים	וקטור של מדדים למימד הראשון של var, ms ו-mom.
אפשרויות	נושא ערכי תכונות אופציונליות

החזרות

מופע חדש של SparseApplyCenteredRmsProp

פלט ציבורי <T> החוצה ()

זהה ל-"var".

סטטי ציבורי SparseApplyCenteredRmsProp.Options useLocking (שימוש בוליאני)

פרמטרים

השתמש בנעילה	אם 'נכון', עדכון הטנזורים var, mg, ms ו-mom מוגן על ידי מנעול; אחרת ההתנהגות אינה מוגדרת, אך עלולה להפגין פחות מחלוקת.