Batch

Lote todos los tensores de entrada de forma no determinista.

Cuando muchas instancias de esta operación se ejecutan simultáneamente con el mismo contenedor / nombre_compartido en el mismo dispositivo, algunas generarán tensores en forma de cero y otras generarán tensores de tamaño hasta max_batch_size.

Todos los tensores en in_tensors se agrupan (por ejemplo, las etiquetas y las características deben agruparse con una sola instancia de esta operación.

Cada invocación de lote emite un escalar `id` que se utilizará para identificar esta invocación en particular al realizar un lote o su gradiente.

Cada operación que emite un lote no vacío también emitirá un tensor batch_index no vacío, que es una matriz [K, 3] donde cada fila contiene la identificación de la invocación, el inicio y la longitud de los elementos de cada conjunto de tensores presentes en batched_tensors.

Los tensores en lote se concatenan a lo largo de la primera dimensión y todos los tensores en in_tensors deben tener la primera dimensión del mismo tamaño.

in_tensors: Los tensores que se van a agrupar. num_batch_threads: número de subprocesos de programación para procesar lotes de trabajo. Determina el número de lotes procesados ​​en paralelo. max_batch_size: Los tamaños de lote nunca serán más grandes que esto. batch_timeout_micros: Número máximo de microsegundos a esperar antes de generar un lote incompleto. allowed_batch_sizes: lista opcional de tamaños de lote permitidos. Si se deja vacío, no hace nada. De lo contrario, proporciona una lista de tamaños de lote, lo que hace que la operación rellene lotes hasta uno de esos tamaños. Las entradas deben aumentar monótonamente y la entrada final debe ser igual a max_batch_size. grad_timeout_micros: el tiempo de espera que se utilizará para el gradiente. Ver Unbatch. batched_tensors: tensores vacíos o un lote de tensores concatenados. batch_index: si out_tensors no está vacío, tiene información para invertirlo. contenedor: controla el alcance de uso compartido de este lote. id: siempre contiene un escalar con un ID único para esta invocación de Batch. nombre_compartido: las instancias de lote que se ejecutan simultáneamente en el mismo dispositivo con el mismo contenedor y nombre_compartido agruparán sus elementos. Si se deja en blanco, el nombre de la operación se utilizará como nombre compartido. T: los tipos de tensores que se van a agrupar.