کلاس نهایی عمومی SendTPUEmbeddingGradients
به روز رسانی گرادیان جداول جاسازی شده را انجام می دهد.
روش های عمومی
استاتیک SendTPUEmbeddingGradients |
روش های ارثی
روش های عمومی
SendTPUEmbeddingGradients استاتیک عمومی ایجاد می کند ( دامنه دامنه ، Iterable< Operand <Float>> ورودی، Iterable< Operand <Float>> LearningRates، پیکربندی رشته)
روش کارخانه برای ایجاد کلاسی که یک عملیات جدید SendTPUEmbeddingGradients را بسته بندی می کند.
مولفه های
محدوده | محدوده فعلی |
---|---|
ورودی ها | TensorList از گرادیان هایی که با آن جداول جاسازی را به روز می کنند. این آرگومان دارای طول و شکل های مشابه با مقدار بازگشتی RecvTPUEmbeddingActivations است، اما شامل گرادیان های از دست دادن مدل با توجه به فعال سازی های تعبیه شده است. جداول جاسازی از این شیب ها از طریق بهینه ساز مشخص شده در پیکربندی جاسازی TPU داده شده به tpu.initialize_system به روز می شوند. |
نرخ های یادگیری | TensorList از اسکالرهای float32، یکی برای هر برچسب نرخ یادگیری پویا: نظرات را در //third_party/tensorflow/core/protobuf/tpu/optimization_parameters.proto ببینید. چندین جدول می توانند همان برچسب نرخ یادگیری پویا را که در پیکربندی مشخص شده است به اشتراک بگذارند. اگر نرخ یادگیری برای همه جداول ثابت است، این لیست باید خالی باشد. |
پیکربندی | پروتوی TPUEmbeddingConfiguration سریال. |
برمی گرداند
- یک نمونه جدید از SendTPUEmbeddingGradients