همه تانسورهای ورودی را به صورت غیر قطعی دسته بندی می کند.
هنگامی که بسیاری از نمونه‌های این Op به طور همزمان با یک container/shared_name در یک دستگاه اجرا می‌شوند، برخی از آن‌ها تانسورهای صفر شکل و برخی دیگر تانسورهایی با اندازه حداکثر تا max_batch_size خروجی می‌دهند.
همه تانسورها در in_tensors با هم دسته بندی می شوند (بنابراین، برای مثال، برچسب ها و ویژگی ها باید با یک نمونه از این عملیات دسته بندی شوند.
هر فراخوانی دسته ای یک اسکالر «id» منتشر می کند که برای شناسایی این فراخوانی خاص هنگام انجام unbatch یا گرادیان آن استفاده می شود.
هر عملیاتی که یک دسته غیر خالی منتشر می کند، یک تانسور batch_index غیر خالی نیز منتشر می کند، که یک ماتریس [K, 3] است که در آن هر ردیف شامل شناسه فراخوانی، شروع و طول عناصر هر مجموعه از تانسورهای موجود در تانسورهای دسته ای
تانسورهای دسته ای در امتداد بعد اول به هم متصل می شوند و همه تانسورها در in_tensors باید بعد اول یک اندازه داشته باشند.
in_tensors: تانسورهایی که باید دسته بندی شوند. num_batch_threads: تعداد رشته های زمان بندی برای پردازش دسته های کار. تعداد دسته های پردازش شده به صورت موازی را تعیین می کند. max_batch_size: اندازه های دسته هرگز بزرگتر از این نخواهد بود. batch_timeout_micros: حداکثر تعداد میکروثانیه برای انتظار قبل از خروجی یک دسته ناقص. allow_batch_sizes: لیست اختیاری اندازه های دسته مجاز. اگر خالی بماند، کاری انجام نمی دهد. در غیر این صورت، فهرستی از اندازه‌های دسته‌ای را ارائه می‌کند و باعث می‌شود که دسته‌های آپ تا یکی از آن اندازه‌ها قرار گیرند. ورودی ها باید به صورت یکنواخت افزایش یابند و ورودی نهایی باید برابر با max_batch_size باشد. grad_timeout_micros: زمان استفاده برای گرادیان. رجوع به Unbatch شود. Batched_tensors: یا تانسورهای خالی یا دسته ای از تانسورهای پیوسته. batch_index: اگر out_tensors خالی نباشد، اطلاعاتی برای معکوس کردن آن دارد. کانتینر: محدوده اشتراک گذاری این دسته را کنترل می کند. id: همیشه شامل یک اسکالر با یک شناسه منحصر به فرد برای این فراخوانی Batch است. shared_name: نمونه هایی از دسته در حال اجرا همزمان در یک دستگاه با یک کانتینر و shared_name عناصر خود را با هم دسته بندی می کنند. اگر خالی بماند، نام عملیات به عنوان نام مشترک استفاده خواهد شد. T: انواع تانسورهایی که باید دسته بندی شوند.
کلاس های تو در تو
| کلاس | دسته.گزینه ها | ویژگی های اختیاری برای Batch | |
روش های عمومی
| Static Batch.Options | مجازBatchSizes (List<Long> allowBatchSizes) |
| خروجی <Long> | دسته ایندکس () |
| فهرست< خروجی <?>> | |
| Static Batch.Options | batchingQueue (رشته batchingQueue) |
| Static Batch.Options | ظرف ( ظرف رشته ای ) |
| دسته ایستا | ایجاد ( محدوده دامنه ، تکرارپذیر< Operand <?>> inTensors، Long numBatchThreads، Long maxBatchSize، Long batchTimeoutMicros، Long gradTimeoutMicros، گزینه ها... ) روش Factory برای ایجاد کلاسی که یک عملیات Batch جدید را بسته بندی می کند. |
| خروجی <Long> | شناسه () |
| Static Batch.Options | maxEnqueuedBatches (Long maxEnqueuedBatches) |
| Static Batch.Options | sharedName (رشته sharedName) |
روش های ارثی
روش های عمومی
ایجاد دسته ایستا عمومی (حوزه دامنه ، تکرارپذیر< Operand <?>> inTensors، Long numBatchThreads، Long maxBatchSize، Long batchTimeoutMicros، Long gradTimeoutMicros، گزینه ها ... )
روش Factory برای ایجاد کلاسی که یک عملیات Batch جدید را بسته بندی می کند.
مولفه های
| محدوده | محدوده فعلی |
|---|---|
| گزینه ها | مقادیر ویژگی های اختیاری را حمل می کند |
برمی گرداند
- نمونه جدیدی از Batch