SendTPUEmbeddingGradients

lớp cuối cùng công khai SendTUEmbeddingGradients

Thực hiện cập nhật độ dốc của các bảng nhúng.

Phương pháp công khai

SendTUEembeddingGradients tĩnh
tạo ( Phạm vi phạm vi, Iterable< Toán hạng <Float>> đầu vào, Iterable< Toán hạng <Float>> learningRates, Cấu hình chuỗi)
Phương thức xuất xưởng để tạo một lớp bao bọc hoạt động SendTPUEmbeddingGradients mới.

Phương pháp kế thừa

Phương pháp công khai

public static SendTPUEmbeddingGradients tạo ( Phạm vi phạm vi, Iterable< Toán hạng <Float>> đầu vào, Iterable< Toán hạng <Float>> learningRates, Cấu hình chuỗi)

Phương thức xuất xưởng để tạo một lớp bao bọc hoạt động SendTPUEmbeddingGradients mới.

Thông số
phạm vi phạm vi hiện tại
đầu vào Một TensorList gồm các gradient dùng để cập nhật các bảng nhúng. Đối số này có cùng độ dài và hình dạng với giá trị trả về của RecvTPUEmbeddingActivations, nhưng chứa độ dốc của sự mất mát của mô hình đối với các kích hoạt nhúng. Các bảng nhúng được cập nhật từ các gradient này thông qua trình tối ưu hóa được chỉ định trong cấu hình nhúng TPU được cung cấp cho tpu.initialize_system.
tỷ lệ học tập Danh sách Tensor gồm các giá trị vô hướng float32, một cho mỗi thẻ tốc độ học động: xem nhận xét trong //third_party/tensorflow/core/protobuf/tpu/optimization_parameters.proto. Nhiều bảng có thể chia sẻ cùng một thẻ tốc độ học tập động như được chỉ định trong cấu hình. Nếu tốc độ học của tất cả các bảng là không đổi thì danh sách này sẽ trống.
cấu hình Proto Cấu hình TPUEmbedding được tuần tự hóa.
Trả lại
  • một phiên bản mới của SendTPUEmbeddingGradients