Batch

genel final dersi Toplu

Tüm giriş tensörlerini belirlenimsiz bir şekilde gruplandırır.

Bu Op'un birçok örneği aynı cihazda aynı kapsayıcı/paylaşılan_ad ile eşzamanlı olarak çalıştırıldığında, bazıları sıfır şekilli Tensörler çıktısı alırken diğerleri max_batch_size boyutuna kadar Tensörler çıktısı verir.

in_tensors'taki tüm Tensörler bir araya toplanır (bu nedenle örneğin etiketler ve özellikler bu işlemin tek bir örneğiyle toplu olarak işlenmelidir.

Toplu işlemin her çağrılması, toplu işlemin kaldırılması veya gradyanı yapılırken bu özel çağrıyı tanımlamak için kullanılacak bir "id" skaleri yayar.

Boş olmayan bir toplu iş yayan her op, aynı zamanda boş olmayan bir toplu_indeks Tensörü de yayacaktır; bu, her satırın çağrının kimliğini, başlangıcını ve mevcut her Tensör kümesinin öğelerinin uzunluğunu içerdiği bir [K, 3] matrisidir. toplu_tensörler.

Toplu tensörler birinci boyut boyunca birleştirilir ve in_tensörlerdeki tüm tensörlerin aynı boyutta birinci boyuta sahip olması gerekir.

in_tensors: Toplu işlenecek tensörler. num_batch_threads: İş gruplarını işlemek için zamanlama iş parçacıklarının sayısı. Paralel olarak işlenen partilerin sayısını belirler. max_batch_size: Toplu iş boyutları hiçbir zaman bundan daha büyük olmayacaktır. Batch_timeout_micros: Tamamlanmamış bir toplu işlemin çıktısını almadan önce beklenecek maksimum mikrosaniye sayısı. izin verilen_batch_sizes: İzin verilen toplu iş boyutlarının isteğe bağlı listesi. Boş bırakılırsa hiçbir şey yapmaz. Aksi takdirde, toplu iş boyutlarının bir listesini sağlayarak op'un toplu işlerin bu boyutlardan birine kadar doldurulmasına neden olur. Girişler monoton bir şekilde artmalı ve son giriş max_batch_size'a eşit olmalıdır. grad_timeout_micros: Degrade için kullanılacak zaman aşımı. Bkz. Toplu İşlemden Çıkarma. Batted_tensors: Boş tensörler veya bir dizi birleştirilmiş Tensörler. Batch_index: Out_tensors boş değilse, onu tersine çevirecek bilgiye sahiptir. kapsayıcı: Bu grubun paylaşımının kapsamını kontrol eder. id: Batch'in bu çağrılması için her zaman benzersiz bir kimliğe sahip bir skaler içerir. paylaşılan_adı: Toplu iş örneklerinin aynı cihazda aynı kapsayıcı ve paylaşılan_adı ile eşzamanlı olarak çalıştırılması, öğelerini bir araya toplayacaktır. Boş bırakılırsa, paylaşılan ad olarak op adı kullanılacaktır. T: gruplandırılacak tensör türleri.

İç İçe Sınıflar

sınıf Toplu Seçenekler Batch için isteğe bağlı özellikler

Genel Yöntemler

Statik Toplu.Seçenekler
izin verilenBatchSizes (Liste<Uzun> izin verilenBatchSizes)
Çıkış <Uzun>
Liste< Çıkış <?>>
Statik Toplu.Seçenekler
BatchingQueue (Dize BatchingQueue)
Statik Toplu.Seçenekler
konteyner (Dize konteyneri)
statik Toplu
create ( Kapsam kapsamı, Yinelenebilir< İşlenen <?>> inTensörler, Uzun numBatchThreads, Uzun maxBatchSize, Uzun BatchTimeoutMicros, Uzun gradTimeoutMicros, Seçenekler... seçenekler)
Yeni bir Batch işlemini saran bir sınıf oluşturmak için fabrika yöntemi.
Çıkış <Uzun>
kimlik ()
Statik Toplu.Seçenekler
maxEnqueuedBatches (Uzun maxEnqueuedBatches)
Statik Toplu.Seçenekler
paylaşılanAd (Dize paylaşılanAd)

Kalıtsal Yöntemler

Genel Yöntemler

public static Batch.Options izin verilenBatchSizes (List<Long> izin verilenBatchSizes)

genel Çıkış <Uzun> BatchIndex ()

genel Liste< Çıkış <?>> BatchedTensors ()

public static Batch.Options BatchingQueue (String Batch.Options)

public static Batch.Options kapsayıcısı (Dize kapsayıcısı)

public static Toplu oluşturma ( Kapsam kapsamı, Yinelenebilir< İşlenen <?>> inTensörler, Uzun numBatchThreads, Uzun maxBatchSize, Uzun BatchTimeoutMicros, Uzun gradTimeoutMicros, Seçenekler... seçenekler)

Yeni bir Batch işlemini saran bir sınıf oluşturmak için fabrika yöntemi.

Parametreler
kapsam mevcut kapsam
seçenekler isteğe bağlı nitelik değerlerini taşır
İadeler
  • Batch'in yeni bir örneği

genel Çıkış <Uzun> kimliği ()

public static Batch.Options maxEnqueuedBatches (Long maxEnqueuedBatches)

public static Batch.Options paylaşılanAd (Dize paylaşılanAd)