모든 입력 텐서를 비결정적으로 일괄 처리합니다.
이 작업의 많은 인스턴스가 동일한 장치에서 동일한 컨테이너/shared_name으로 동시에 실행되는 경우 일부는 0 모양의 Tensor를 출력하고 다른 일부는 최대 max_batch_size 크기의 Tensor를 출력합니다.
in_tensors의 모든 Tensor는 함께 일괄 처리됩니다(예를 들어 레이블과 기능은 이 작업의 단일 인스턴스로 일괄 처리되어야 합니다.
배치를 호출할 때마다 배치 취소 또는 그라데이션을 수행할 때 이 특정 호출을 식별하는 데 사용되는 'id' 스칼라를 내보냅니다.
비어 있지 않은 배치를 방출하는 각 작업은 비어 있지 않은 배치_인덱스 텐서도 방출합니다. 이는 [K, 3] 행렬입니다. 여기서 각 행에는 호출의 ID, 시작 및 각 텐서 세트의 요소 길이가 포함됩니다. 배치_텐서.
배치 텐서는 첫 번째 차원을 따라 연결되며 in_tensor의 모든 텐서는 동일한 크기의 첫 번째 차원을 가져야 합니다.
in_tensors: 일괄 처리할 텐서입니다. num_batch_threads: 작업 일괄 처리를 위한 예약 스레드 수입니다. 병렬로 처리되는 일괄 처리 수를 결정합니다. max_batch_size: 배치 크기는 이보다 클 수 없습니다. Batch_timeout_micros: 불완전한 배치를 출력하기 전에 기다려야 하는 최대 마이크로초 수입니다. allowed_batch_sizes: 허용되는 배치 크기의 선택적 목록입니다. 비워두면 아무 작업도 수행되지 않습니다. 그렇지 않으면 배치 크기 목록을 제공하여 해당 크기 중 하나로 배치를 채울 수 있습니다. 항목은 단조롭게 증가해야 하며 최종 항목은 max_batch_size와 같아야 합니다. grad_timeout_micros: 그래디언트에 사용할 제한 시간입니다. 배치 해제를 참조하세요. bated_tensors: 빈 텐서 또는 연결된 텐서의 배치입니다. 배치_인덱스: out_tensors가 비어 있지 않으면 이를 반전시킬 정보가 있습니다. 컨테이너: 이 배치의 공유 범위를 제어합니다. id: 항상 이 Batch 호출에 대한 고유 ID가 있는 스칼라를 포함합니다. shared_name: 동일한 컨테이너와 shared_name을 사용하여 동일한 장치에서 일괄 처리 인스턴스를 동시에 실행하면 요소가 함께 일괄 처리됩니다. 비워두면 작업 이름이 공유 이름으로 사용됩니다. T: 일괄 처리할 텐서 유형입니다.
중첩 클래스
| 수업 | 배치.옵션 | Batch 의 선택적 속성 | |
공개 방법
| 정적 배치.옵션 | allowedBatchSizes (List<Long> allowedBatchSizes) |
| 출력 <긴> | 배치 인덱스 () |
| 목록< 출력 <?>> | 일괄 텐서 () |
| 정적 배치.옵션 | 일괄 처리큐 (문자열 일괄 처리 대기열) |
| 정적 배치.옵션 | 컨테이너 (문자열 컨테이너) |
| 정적 배치 | |
| 출력 <긴> | ID () |
| 정적 배치.옵션 | maxEnqueuedBatches (긴 maxEnqueuedBatches) |
| 정적 배치.옵션 | sharedName (문자열 sharedName) |
상속된 메서드
공개 방법
공개 정적 일괄 생성 ( Scope 범위, Iterable< Operand <?>> inTensors, Long numBatchThreads, Long maxBatchSize, Long 배치TimeoutMicros, Long gradTimeoutMicros, 옵션... 옵션)
새 Batch 작업을 래핑하는 클래스를 생성하는 팩토리 메서드입니다.
매개변수
| 범위 | 현재 범위 |
|---|---|
| 옵션 | 선택적 속성 값을 전달합니다. |
보고
- Batch의 새 인스턴스