Batch

Distribuye por lotes todos los tensores de entrada de forma no determinista.

Cuando muchas instancias de esta operación se ejecutan simultáneamente con el mismo contenedor/shared_name en el mismo dispositivo, algunas generarán tensores con forma de cero y otras generarán tensores de tamaño hasta max_batch_size.

Todos los tensores en in_tensors se agrupan en lotes (por lo que, por ejemplo, las etiquetas y las características deben agruparse en lotes con una sola instancia de esta operación).

Cada invocación de lote emite un escalar 'id' que se usará para identificar esta invocación en particular al hacer unbatch o su gradiente.

Cada operación que emite un lote no vacío también emitirá un tensor de índice de lote no vacío, que es una matriz [K, 3] donde cada fila contiene la identificación de la invocación, el inicio y la longitud de los elementos de cada conjunto de tensores presentes en tensores_por lotes.

Los tensores por lotes se concatenan a lo largo de la primera dimensión y todos los tensores en in_tensors deben tener la primera dimensión del mismo tamaño.

in_tensors: los tensores que se van a agrupar. num_batch_threads: número de subprocesos de programación para procesar lotes de trabajo. Determina el número de lotes procesados ​​en paralelo. max_batch_size: los tamaños de lote nunca serán más grandes que esto. batch_timeout_micros: Número máximo de microsegundos a esperar antes de generar un lote incompleto. allow_batch_sizes: lista opcional de tamaños de lote permitidos. Si se deja vacío, no hace nada. De lo contrario, proporciona una lista de tamaños de lote, lo que hace que la operación rellene los lotes hasta uno de esos tamaños. Las entradas deben aumentar de forma monótona y la entrada final debe ser igual a max_batch_size. grad_timeout_micros: el tiempo de espera que se usará para el degradado. Consulte Deshacer lotes. batched_tensors: tensores vacíos o un lote de tensores concatenados. batch_index: si out_tensors no está vacío, tiene información para invertirlo. contenedor: Controla el ámbito de uso compartido de este lote. id: siempre contiene un escalar con una ID única para esta invocación de Batch. shared_name: la ejecución simultánea de instancias de lotes en el mismo dispositivo con el mismo contenedor y shared_name agrupará sus elementos por lotes. Si se deja vacío, el nombre de la operación se utilizará como nombre compartido. T: los tipos de tensores a dosificar.