NcclAllReduce

lớp cuối cùng công khai NcclAllReduce

Xuất ra một tensor chứa mức giảm trên tất cả các tensor đầu vào.

Xuất ra một tensor chứa mức rút gọn trên tất cả các tensor đầu vào được chuyển đến các op trong cùng một `shared_name.

Biểu đồ phải được xây dựng để nếu một op chạy với giá trị Shared_name `c`, thì các op `num_devices` sẽ chạy với giá trị Shared_name `c`. Nếu không làm như vậy sẽ khiến việc thực thi biểu đồ không hoàn thành.

đầu vào: đầu vào của dữ liệu giảm: giá trị giảm trên tất cả các thiết bị `num_devices`. giảm: hoạt động giảm để thực hiện. num_devices: Số lượng thiết bị tham gia đợt giảm này. Shared_name: Mã định danh được chia sẻ giữa các hoạt động có cùng mức giảm.

Phương pháp công khai

Đầu ra <T>
asOutput ()
Trả về phần điều khiển tượng trưng của một tenxơ.
tĩnh <T mở rộng Số> NcclAllReduce <T>
tạo ( Phạm vi phạm vi, đầu vào Toán hạng <T>, Giảm chuỗi, Số thiết bị dài, Tên chia sẻ chuỗi)
Phương thức xuất xưởng để tạo một lớp bao bọc thao tác NcclAllReduce mới.
Đầu ra <T>
dữ liệu ()

Phương pháp kế thừa

Phương pháp công khai

Đầu ra công khai <T> asOutput ()

Trả về phần điều khiển tượng trưng của một tenxơ.

Đầu vào của các hoạt động TensorFlow là đầu ra của một hoạt động TensorFlow khác. Phương pháp này được sử dụng để thu được một thẻ điều khiển mang tính biểu tượng đại diện cho việc tính toán đầu vào.

public static NcclAllReduce <T> tạo (Phạm vi phạm vi, đầu vào Toán hạng <T>, Giảm chuỗi, Số thiết bị dài, Tên chia sẻ chuỗi)

Phương thức xuất xưởng để tạo một lớp bao bọc thao tác NcclAllReduce mới.

Thông số
phạm vi phạm vi hiện tại
Trả lại
  • một phiên bản mới của NcclAllReduce

Dữ liệu đầu ra công khai <T> ()