مجموعه داده ای ایجاد می کند که مجموعه داده ورودی را خرد می کند.
مجموعه داده ای ایجاد می کند که مجموعه داده ورودی را توسط num_workers خرد می کند، و یک مجموعه داده خرد شده را برای کارگر شاخص برمی گرداند. این تلاش میکند تا با بررسی نمودار مجموعه دادهها و قرار دادن یک عملیات خرد قبل از ورودیهای یک مجموعه داده خواننده (مثلاً CSVDataset، TFRecordDataset) به طور خودکار یک مجموعه داده را تقسیم کند.
اگر نتوانیم مجموعه داده را به طور خودکار تقسیم کنیم، این مجموعه داده یک خطای NotFound ایجاد می کند.
کلاس های تو در تو
کلاس | AutoShardDataset.Options | ویژگی اختیاری برای AutoShardDataset |
روش های عمومی
خروجی <شی> | asOutput () دسته نمادین یک تانسور را برمیگرداند. |
شخص AutoShardDataset.Options | autoShardPolicy (بلند autoShardPolicy) |
شخص AutoShardDataset | |
خروجی <؟> | دسته () |
شخص AutoShardDataset.Options | numReplicas (بلند numReplicas) |
روش های ارثی
روش های عمومی
عمومی خروجی <شی> asOutput ()
دسته نمادین یک تانسور را برمیگرداند.
ورودی های عملیات TensorFlow خروجی های عملیات تنسورفلو دیگر هستند. این روش برای به دست آوردن یک دسته نمادین که نشان دهنده محاسبه ورودی است استفاده می شود.
عمومی استاتیک AutoShardDataset ایجاد ( محدوده دامنه، عملوند <؟> inputDataset، عملوند <طولانی> numWorkers، عملوند <طولانی> شاخص، فهرست <کلاس <؟ >> outputTypes، فهرست < شکل > outputShapes، گزینه ها ... گزینه ها)
روش کارخانه برای ایجاد کلاسی که یک عملیات AutoShardDataset جدید را بسته بندی می کند.
مولفه های
محدوده | محدوده فعلی |
---|---|
مجموعه داده های ورودی | یک تانسور متغیر که مجموعه داده ورودی را نشان می دهد. |
numWorkers | یک اسکالر نشان دهنده تعداد کارگرانی که این مجموعه داده را در سراسر توزیع می کنند. |
فهرست مطالب | یک اسکالر که نمایانگر شاخص کارگر فعلی از num_workers است. |
گزینه ها | مقادیر ویژگی های اختیاری را حمل می کند |
برمی گرداند
- یک نمونه جدید از AutoShardDataset