lớp công khai RMSProp
Trình tối ưu hóa thực hiện thuật toán RMSProp.
Ý chính của RMSprop là:
- Duy trì mức trung bình động (chiết khấu) của bình phương độ dốc
- Chia gradient cho gốc của giá trị trung bình này
Việc triển khai RMSprop này sử dụng động lượng đơn giản chứ không phải động lượng Nesterov.
Phiên bản ở giữa còn duy trì mức trung bình động của độ dốc và sử dụng mức trung bình đó để ước tính phương sai.
Hằng số
| boolean | TRUNG TÂM_DEFAULT | |
| trôi nổi | DECAY_DEFAULT | |
| trôi nổi | EPSILON_DEFAULT | |
| trôi nổi | LEARNING_RATE_DEFAULT | |
| Sợi dây | MG | |
| Sợi dây | QUÁN TÍNH | |
| trôi nổi | MOMENTUM_DEFAULT | |
| Sợi dây | RMS |
Hằng số kế thừa
| Sợi dây | BIẾN_V2 |
Nhà xây dựng công cộng
Phương pháp công cộng
| Sợi dây | getOptimizerName () Lấy tên của trình tối ưu hóa. |
| Sợi dây | toString () |
Phương pháp kế thừa
| Ồ | applyGradients (Danh sách< GradAndVar <? mở rộng TType >> gradsAndVars, Tên chuỗi) Áp dụng độ dốc cho các biến |
| <T mở rộng TType > Danh sách< GradAndVar <?>> | |
| chuỗi tĩnh | createName ( Đầu ra <? mở rộng biến TType >, Chuỗi slotName) Tạo tên bằng cách kết hợp tên biến và tên vị trí |
| chuỗi trừu tượng | getOptimizerName () Lấy tên của trình tối ưu hóa. |
| <T mở rộng TType > Tùy chọn< Biến <T>> | |
| hoạt động cuối cùng | getTF () Lấy phiên bản Ops của Trình tối ưu hóa |
| Ồ | |
| Ồ |
| boolean | bằng (Đối tượng arg0) |
| Lớp cuối cùng<?> | getClass () |
| int | Mã Băm () |
| khoảng trống cuối cùng | thông báo () |
| khoảng trống cuối cùng | thông báoTất cả () |
| Sợi dây | toString () |
| khoảng trống cuối cùng | chờ đã (arg0 dài, int arg1) |
| khoảng trống cuối cùng | chờ đã (arg0 dài) |
| khoảng trống cuối cùng | Chờ đợi () |
Hằng số
boolean tĩnh cuối cùng công khai CENTERED_DEFAULT
Giá trị không đổi: sai
float cuối cùng tĩnh công khai DECAY_DEFAULT
Giá trị không đổi: 0,9
float cuối cùng tĩnh công khai EPSILON_DEFAULT
Giá trị không đổi: 1.0E-10
float cuối cùng tĩnh công khai LEARNING_RATE_DEFAULT
Giá trị không đổi: 0,001
Chuỗi tĩnh cuối cùng MG
Giá trị không đổi: "mg"
Chuỗi tĩnh cuối cùng MOMENTUM
Giá trị không đổi: "động lượng"
float cuối cùng tĩnh công khai MOMENTUM_DEFAULT
Giá trị không đổi: 0,0
chuỗi tĩnh cuối cùng RMS
Giá trị không đổi: "rms"
Nhà xây dựng công cộng
RMSProp công khai (Biểu đồ đồ thị , float learningRate)
Tạo Trình tối ưu hóa RMSPRop
Thông số
| đồ thị | đồ thị TensorFlow |
|---|---|
| tỷ lệ học | tỷ lệ học tập |
RMSProp công khai (Biểu đồ đồ thị , tỷ lệ học float, phân rã float, động lượng float, epsilon float, tập trung vào boolean)
Tạo Trình tối ưu hóa RMSPRop
Thông số
| đồ thị | đồ thị TensorFlow |
|---|---|
| tỷ lệ học | tỷ lệ học tập |
| phân hủy | Hệ số chiết khấu cho độ dốc lịch sử/sắp tới. Mặc định là 0,9. |
| Quán tính | hệ số gia tốc, mặc định là 0. |
| epsilon | Một hằng số nhỏ cho sự ổn định về số |
| trung tâm | Nếu true , độ dốc được chuẩn hóa bằng phương sai ước tính của độ dốc; nếu false thì đến khoảnh khắc thứ hai không tập trung. Đặt giá trị này thành true có thể giúp ích cho việc đào tạo nhưng sẽ tốn kém hơn một chút về mặt tính toán và bộ nhớ. Mặc định là false . |
RMSProp công khai (Biểu đồ đồ thị , Tên chuỗi, float learningRate)
Tạo Trình tối ưu hóa RMSPRop
Thông số
| đồ thị | đồ thị TensorFlow |
|---|---|
| tên | tên của Trình tối ưu hóa này. Mặc định là "RMSProp". |
| tỷ lệ học | tỷ lệ học tập |
RMSProp công khai (Biểu đồ đồ thị , Tên chuỗi, tỷ lệ học float, phân rã float, động lượng float, epsilon float, tập trung vào boolean)
Tạo Trình tối ưu hóa RMSPRop
Thông số
| đồ thị | đồ thị TensorFlow |
|---|---|
| tên | tên của Trình tối ưu hóa này. Mặc định là "RMSProp". |
| tỷ lệ học | tỷ lệ học tập |
| phân hủy | Hệ số chiết khấu cho độ dốc lịch sử/sắp tới. Mặc định là 0,9. |
| Quán tính | Hệ số gia tốc, mặc định là 0. |
| epsilon | Một hằng số nhỏ cho sự ổn định về số |
| trung tâm | Nếu true , độ dốc được chuẩn hóa bằng phương sai ước tính của độ dốc; nếu false thì đến khoảnh khắc thứ hai không tập trung. Đặt giá trị này thành true có thể giúp ích cho việc đào tạo nhưng sẽ tốn kém hơn một chút về mặt tính toán và bộ nhớ. Mặc định là false . |
Phương pháp công cộng
Chuỗi công khai getOptimizerName ()
Lấy tên của trình tối ưu hóa.
Trả lại
- Tên trình tối ưu hóa.