tensorflow::ops::ResourceApplyRMSProp

อัปเดต '*var' ตามอัลกอริทึม RMSProp

สรุป

โปรดทราบว่าในการใช้งานอัลกอริทึมนี้แบบหนาแน่น ms และ mom จะได้รับการอัปเดตแม้ว่า grad จะเป็นศูนย์ แต่ในการใช้งานแบบเบาบางนี้ ms และ mom จะไม่ได้รับการอัปเดตในรอบการทำงานที่ grad เป็นศูนย์

mean_square = decay * mean_square + (1-decay) * gradient ** 2 Delta = learning_rate * gradient / sqrt(mean_square + epsilon)

ms <- rho * ms_{t-1} + (1-rho) * grad * grad mom <- momentum * mom_{t-1} + lr * grad / sqrt(ms + epsilon) var <- var - mom

ข้อโต้แย้ง:

• ขอบเขต: วัตถุ ขอบเขต
• var: ควรมาจาก Variable()
• ms: ควรมาจากตัวแปร()
• แม่: น่าจะมาจากตัวแปร (Variable) นะ
• lr: ตัวคูณปรับขนาด ต้องเป็นค่าคงที่
• โร: อัตราการสลายตัว ต้องเป็นปริมาณสเกลาร์
• เอปซิลอน: เทอมของสัน ต้องเป็นค่าสเกลาร์
• grad: ค่าความชัน

คุณลักษณะเสริม (ดูที่ Attrs ):

• use_locking: หากตั้งค่า True การอัปเดตเทนเซอร์ var, ms และ mom จะได้รับการป้องกันด้วยการล็อก มิเช่นนั้นพฤติกรรมจะไม่แน่นอน แต่การแย่งชิงทรัพยากรอาจน้อยลง

การส่งคืนสินค้า:

• Operation ที่สร้างขึ้น

คุณลักษณะสาธารณะ

Operation operation

 ResourceApplyRMSProp(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input var,
  ::tensorflow::Input ms,
  ::tensorflow::Input mom,
  ::tensorflow::Input lr,
  ::tensorflow::Input rho,
  ::tensorflow::Input momentum,
  ::tensorflow::Input epsilon,
  ::tensorflow::Input grad
)

 ResourceApplyRMSProp(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input var,
  ::tensorflow::Input ms,
  ::tensorflow::Input mom,
  ::tensorflow::Input lr,
  ::tensorflow::Input rho,
  ::tensorflow::Input momentum,
  ::tensorflow::Input epsilon,
  ::tensorflow::Input grad,
  const ResourceApplyRMSProp::Attrs & attrs
)

 operator::tensorflow::Operation() const 

Attrs UseLocking(
  bool x
)