ResourceSparseApplyRmsProp

מחלקה סופית ציבורית ResourceSparseApplyRmsProp

עדכן את '*var' לפי אלגוריתם RMSProp.

שימו לב שביישום צפוף של אלגוריתם זה, ms ו-mom יתעדכנו גם אם ה-grad הוא אפס, אבל ביישום הדליל הזה, ms ו-mom לא יתעדכנו באיטרציות שבמהלכן הגראד הוא אפס.

mean_square = decay * mean_square + (1-decay) * gradient ** 2 Delta = learning_rate * gradient / sqrt(mean_square + epsilon)

ms <- rho * ms_{t-1} + (1-rho) * grad * grad mom <- momentum * mom_{t-1} + lr * grad / sqrt(ms + epsilon) var <- var - mom

כיתות מקוננות

מעמד ResourceSparseApplyRmsProp.Options תכונות אופציונליות עבור ResourceSparseApplyRmsProp

קבועים

חוּט OP_NAME השם של המבצע הזה, כפי שידוע על ידי מנוע הליבה של TensorFlow

שיטות ציבוריות

static <T מרחיב את TType > ResourceSparseApplyRmsProp
create ( scope scope, Operand <?> var, Operand <?> ms, Operand <?> mom, Operand <T> lr, Operand <T> rho, Operand <T> תנופה, Operand <T> epsilon, Operand <T > grad, Operand <? מרחיב את TNummer > מדדים, אפשרויות... אפשרויות)
שיטת מפעל ליצירת מחלקה העוטפת פעולת ResourceSparseApplyRmsProp חדשה.
static ResourceSparseApplyRmsProp.Options
useLocking (useLocking בוליאני)

שיטות בירושה

קבועים

מחרוזת סופית סטטית ציבורית OP_NAME

השם של המבצע הזה, כפי שידוע על ידי מנוע הליבה של TensorFlow

ערך קבוע: "ResourceSparseApplyRMSProp"

שיטות ציבוריות

public static ResourceSparseApplyRmsProp create ( Scope scope, Operand <?> var, Operand <?> ms, Operand <?> mom, Operand <T> lr, Operand <T> rho, Operand <T> תנופה, Operand <T> epsilon, Operand <T> grad, Operand <? מרחיב את TNummer > אינדקסים, אפשרויות... אפשרויות)

שיטת מפעל ליצירת מחלקה העוטפת פעולת ResourceSparseApplyRmsProp חדשה.

פרמטרים
תְחוּם ההיקף הנוכחי
var צריך להיות ממשתנה().
גברת צריך להיות ממשתנה().
אִמָא צריך להיות ממשתנה().
lr גורם קנה מידה. חייב להיות סקלר.
rho קצב דעיכה. חייב להיות סקלר.
אפסילון מונח רכס. חייב להיות סקלר.
גראד השיפוע.
מדדים וקטור של מדדים למימד הראשון של var, ms ו-mom.
אפשרויות נושא ערכי תכונות אופציונליות
החזרות
  • מופע חדש של ResourceSparseApplyRmsProp

public static ResourceSparseApplyRmsProp.Options useLocking (שימוש בוליאני)

פרמטרים
השתמש בנעילה אם 'נכון', עדכון הטנזורים var, ms ו-mom מוגן על ידי מנעול; אחרת ההתנהגות אינה מוגדרת, אך עלולה להפגין פחות מחלוקת.