LoadAllTPUEmbeddingParameters

lớp cuối cùng công khai LoadAllTPUEmbeddingParameters

Một op tải các tham số tối ưu hóa vào bộ nhớ nhúng.

Một op tải các tham số tối ưu hóa vào bộ nhớ nhúng. Trước đó phải có op configureTPUEmbeddingHost để thiết lập cấu hình bảng nhúng chính xác. Ví dụ: op này được sử dụng để cài đặt các tham số được tải từ điểm kiểm tra trước khi vòng lặp huấn luyện được thực thi. Đối với Adagrad, phụ trợ1 phải là bộ tích lũy. Đối với SGD, tất cả các giá trị phụ* phải trống. Đối với FTRL, phụ1 phải là số tích lũy và phụ2 phải là số hạng tuyến tính. Đối với ADAM, phụ1 phải là mô men và phụ2 là vận tốc.

Phương pháp công khai

tĩnh LoadAllTPUEembeddingParameters
create ( Phạm vi phạm vi, Iterable< Toán hạng <Float>> tham số, Iterable< Toán hạng <Float>> phụ trợ1, Iterable< Toán hạng <Float>> phụ trợ2, Iterable< Toán hạng <Float>> phụ trợ3, Iterable< Toán hạng <Float>> phụ trợ4, Iterable< Toán hạng <Float>> phụ trợ5, Iterable< Toán hạng <Float>> phụ trợ6, Iterable< Toán hạng <Float>> phụ trợ7, Cấu hình chuỗi, numShards dài, shardId dài)
Phương thức gốc để tạo một lớp bao gồm một thao tác LoadAllTPUEmbeddingParameters mới.

Phương pháp kế thừa

Phương pháp công khai

công khai LoadAllTPUEmbeddingParameters tạo ( Phạm vi phạm vi , Iterable< Toán hạng <Float>> tham số, Iterable< Toán hạng <Float>> phụ trợ1, Iterable< Toán hạng <Float>> phụ trợ2, Iterable< Toán hạng <Float>> phụ trợ3, Iterable< Toán hạng <Float> > phụ trợ4, Iterable< Toán hạng <Float>> phụ trợ5, Iterable< Toán hạng <Float>> phụ trợ6, Iterable< Toán hạng <Float>> phụ trợ7, Cấu hình chuỗi, numShards dài, shardId dài)

Phương thức gốc để tạo một lớp bao gồm một thao tác LoadAllTPUEmbeddingParameters mới.

Thông số
phạm vi phạm vi hiện tại
thông số Danh sách các tensor, một tensor cho mỗi bảng nhúng, chứa các tham số bảng nhúng ban đầu để sử dụng khi tra cứu nhúng.
phụ trợ1 Danh sách các tensor, một tensor cho mỗi bảng nhúng, chứa các giá trị ban đầu của tham số tối ưu hóa phụ trợ đầu tiên sẽ sử dụng trong quá trình cập nhật vòng lặp đào tạo nhúng. Hình dạng của mỗi mục bị bỏ qua (và do đó có thể trống) đối với những bảng có thuật toán tối ưu hóa không có ít nhất một tham số phụ.
phụ trợ2 Danh sách các tensor, một cho mỗi bảng nhúng, chứa các giá trị ban đầu của tham số tối ưu hóa phụ trợ thứ hai để sử dụng trong việc nhúng các bản cập nhật vòng lặp đào tạo. Hình dạng của mỗi mục bị bỏ qua (và do đó có thể trống) đối với những bảng có thuật toán tối ưu hóa không có ít nhất hai phần phụ trợ.
phụ trợ3 Danh sách các tensor, một cho mỗi bảng nhúng, chứa các giá trị ban đầu của tham số tối ưu hóa phụ trợ thứ ba để sử dụng trong việc nhúng các bản cập nhật vòng lặp đào tạo. Hình dạng của mỗi mục bị bỏ qua (và do đó có thể trống) đối với những bảng có thuật toán tối ưu hóa không có ba tham số phụ trợ.
phụ trợ4 Danh sách các tensor, một cho mỗi bảng nhúng, chứa các giá trị ban đầu của tham số tối ưu hóa phụ trợ thứ hai để sử dụng trong việc nhúng các bản cập nhật vòng lặp đào tạo. Hình dạng của mỗi mục bị bỏ qua (và do đó có thể trống) đối với những bảng có thuật toán tối ưu hóa không có ít nhất bốn mục phụ trợ.
phụ trợ5 Danh sách các tensor, một cho mỗi bảng nhúng, chứa các giá trị ban đầu của tham số tối ưu hóa phụ trợ thứ ba để sử dụng trong việc nhúng các bản cập nhật vòng lặp đào tạo. Hình dạng của mỗi mục bị bỏ qua (và do đó có thể trống) đối với những bảng có thuật toán tối ưu hóa không có năm tham số phụ trợ.
phụ6 Danh sách các tensor, một cho mỗi bảng nhúng, chứa các giá trị ban đầu của tham số tối ưu hóa phụ trợ thứ hai để sử dụng trong việc nhúng các bản cập nhật vòng lặp đào tạo. Hình dạng của mỗi mục bị bỏ qua (và do đó có thể trống) đối với những bảng có thuật toán tối ưu hóa không có ít nhất sáu mục phụ trợ.
phụ7 Danh sách các tensor, một cho mỗi bảng nhúng, chứa các giá trị ban đầu của tham số tối ưu hóa phụ trợ thứ ba để sử dụng trong việc nhúng các bản cập nhật vòng lặp đào tạo. Hình dạng của mỗi mục bị bỏ qua (và do đó có thể trống) đối với những bảng có thuật toán tối ưu hóa không có bảy tham số phụ trợ.
cấu hình Một nguyên mẫu TPUEmbeddingConfiguration mô tả các tham số bảng đang được tải, được tuần tự hóa thành một chuỗi.
số mảnh vỡ Số lượng phân đoạn mà các bảng nhúng được chia vào.
Id mảnh Mã định danh phân đoạn cho hoạt động này.
Trả lại
  • một phiên bản mới của LoadAllTPUEmbeddingParameters