Grupuje wszystkie tensory wejściowe w sposób niedeterministyczny.
Gdy wiele instancji tej operacji jest uruchamianych jednocześnie z tym samym kontenerem/nazwą_wspólną na tym samym urządzeniu, niektóre będą generować tensory w kształcie zera, a inne będą generować tensory o rozmiarze do max_batch_size.
Wszystkie Tensory w in_tensors są grupowane razem (więc na przykład etykiety i funkcje powinny być grupowane w ramach jednej instancji tej operacji).
Każde wywołanie partii emituje skalar „id”, który będzie używany do identyfikacji tego konkretnego wywołania podczas wykonywania unbatch lub jego gradientu.
Każda operacja, która emituje niepustą partię, wyemituje także niepusty Tensor Batch_index, który jest macierzą [K, 3], w której każdy wiersz zawiera identyfikator wywołania, początek i długość elementów każdego zestawu tensorów obecnych w wsadowe_tensory.
Tensory wsadowe są łączone wzdłuż pierwszego wymiaru, a wszystkie tensory w in_tensors muszą mieć pierwszy wymiar tego samego rozmiaru.
in_tensors: Tensory, które mają być grupowane. num_batch_threads: Liczba wątków planowania do przetwarzania partii pracy. Określa liczbę partii przetwarzanych równolegle. max_batch_size: Rozmiary partii nigdy nie będą większe niż to. Batch_timeout_micros: Maksymalna liczba mikrosekund oczekiwania przed wysłaniem niekompletnej partii. dozwolone_batch_sizes: Opcjonalna lista dozwolonych rozmiarów partii. Jeśli pozostanie pusty, nic nie robi. W przeciwnym razie dostarcza listę rozmiarów partii, powodując, że partie op-pad mają maksymalnie jeden z tych rozmiarów. Wpisy muszą rosnąć monotonicznie, a ostateczny wpis musi być równy max_batch_size. grad_timeout_micros: Limit czasu gradientu. Zobacz Rozpakuj. Batched_tensors: Albo puste tensory, albo partia połączonych tensorów. Batch_index: Jeśli out_tensors nie jest pusty, zawiera informacje umożliwiające jego odwrócenie. kontener: Kontroluje zakres udostępniania tej partii. id: zawsze zawiera skalar z unikalnym identyfikatorem dla tego wywołania Batch. wspólna_nazwa: Jednocześnie uruchomione instancje wsadowe na tym samym urządzeniu z tym samym kontenerem i współdzieloną nazwą spowodują zgrupowanie ich elementów. Jeśli pozostawisz puste, nazwa op będzie używana jako nazwa współdzielona. T: rodzaje tensorów, które mają być grupowane.
Klasy zagnieżdżone
| klasa | Opcje partii | Opcjonalne atrybuty dla Batch | |
Metody publiczne
| statyczne opcje wsadowe | dozwoloneBatchSizes (List<Long> dozwoloneBatchSizes) |
| Wyjście <Długie> | |
| Lista< Wyjście <?>> | |
| statyczne opcje wsadowe | kolejka wsadowa (kolejka wsadowa ciągów) |
| statyczne opcje wsadowe | kontener (kontener String) |
| partia statyczna | |
| Wyjście <Długie> | ID () |
| statyczne opcje wsadowe | maxEnqueuedBatches (Długie maxEnqueuedBatches) |
| statyczne opcje wsadowe | wspólnaNazwa (Ciąg wspólnaNazwa) |
Metody dziedziczone
Metody publiczne
publiczne statyczne tworzenie wsadowe (zakres zakresu , Iterable< Operand <?>> inTensors, Long numBatchThreads, Long maxBatchSize, Long BatchTimeoutMicros, Long gradTimeoutMicros, Opcje... opcje)
Metoda fabryczna służąca do tworzenia klasy opakowującej nową operację wsadową.
Parametry
| zakres | aktualny zakres |
|---|---|
| opcje | przenosi opcjonalne wartości atrybutów |
Zwroty
- nowa instancja Batcha