Uma operação para trocar dados entre réplicas de TPU.
Em cada réplica, a entrada é dividida em blocos `split_count` ao longo de `split_dimension` e enviada para as outras réplicas, dado group_assignment. Depois de receber blocos `split_count` - 1 de outras réplicas, concatenamos os blocos junto com `concat_dimension` como saída.
Por exemplo, suponha que haja 2 réplicas de TPU: a réplica 0 recebe a entrada: `[[A, B]]` a réplica 1 recebe a entrada: `[[C, D]]`
group_assignment=`[[0, 1]]` concat_dimension=0 split_dimension=1 split_count=2
saída da réplica 0: `[[A], [C]]` saída da réplica 1: `[[B], [D]]`
Métodos Públicos
| Saída <T> | asOutput () Retorna o identificador simbólico de um tensor. |
| estático <T> AllToAll <T> | create (escopo do escopo , entrada do operando <T>, grupo do operando <Integer>, Long concatDimension, Long splitDimension, Long splitCount) Método de fábrica para criar uma classe que envolve uma nova operação AllToAll. |
| Saída <T> | saída () O resultado trocado. |
Métodos herdados
Métodos Públicos
Saída pública <T> asOutput ()
Retorna o identificador simbólico de um tensor.
As entradas para operações do TensorFlow são saídas de outra operação do TensorFlow. Este método é usado para obter um identificador simbólico que representa o cálculo da entrada.
public static AllToAll <T> create (Escopo escopo , Operando <T> entrada, Operando <Integer> groupAssignment, Long concatDimension, Long splitDimension, Long splitCount)
Método de fábrica para criar uma classe que envolve uma nova operação AllToAll.
Parâmetros
| escopo | escopo atual |
|---|---|
| entrada | A entrada local para a soma. |
| atribuição de grupo | Um tensor int32 com forma [num_groups, num_replicas_per_group]. `group_assignment[i]` representa os IDs de réplica no i-ésimo subgrupo. |
| concatDimension | O número da dimensão a ser concatenado. |
| splitDimension | O número da dimensão a ser dividida. |
| contagem dividida | O número de divisões, este número deve ser igual ao tamanho do subgrupo (group_assignment.get_shape()[1]) |
Devoluções
- uma nova instância de AllToAll