XlaSendTPUEmbeddingGradients คลาสสุดท้ายสาธารณะ
การดำเนินการที่ดำเนินการอัปเดตการไล่ระดับสีของตารางที่ฝัง
อาร์กิวเมนต์การไล่ระดับสีคือ TensorList ที่มีความยาวและรูปร่างเท่ากันกับค่าส่งคืนของ XlaRecvTPUEmbeddingActivations แต่มีการไล่ระดับสีของการสูญเสียของโมเดลที่เกี่ยวข้องกับการเปิดใช้งานการฝัง ตารางการฝังได้รับการอัปเดตจากการไล่ระดับสีเหล่านี้ผ่านเครื่องมือเพิ่มประสิทธิภาพที่ระบุในโปรโต TPUEmbeddingConfiguration ที่มอบให้กับ tpu.initialize_system
วิธีการสาธารณะ
| XlaSendTPUEmbeddingGradients แบบคงที่ |
วิธีการสืบทอด
วิธีการสาธารณะ
XlaSendTPUEmbeddingGradients แบบคงที่สาธารณะ สร้าง (ขอบเขต ขอบเขต , Iterable< Operand <Float>> การไล่ระดับสี, Iterable< Operand <Float>> LearningRates, Operand <?> deduplicationData, การกำหนดค่าสตริง)
วิธีการจากโรงงานเพื่อสร้างคลาสที่รวมการดำเนินการ XlaSendTPUEmbeddingGradients ใหม่
พารามิเตอร์
| ขอบเขต | ขอบเขตปัจจุบัน |
|---|---|
| การไล่ระดับสี | TensorList ของการไล่ระดับสีสำหรับอัปเดตตารางที่ฝัง |
| อัตราการเรียนรู้ | TensorList ของอัตราการเรียนรู้ที่ใช้สำหรับการอัปเดตตารางที่ฝังผ่านเครื่องมือเพิ่มประสิทธิภาพ ความยาวของ TensorList ต้องเท่ากับจำนวนแท็กอัตราการเรียนรู้แบบไดนามิกที่ระบุในโปรโต TPUEmbeddingConfiguration |
| การขจัดข้อมูลซ้ำซ้อน | เทนเซอร์ที่มี type=DT_VARIANT มีข้อมูลการขจัดความซ้ำซ้อน เทนเซอร์เป็นทูเพิลที่ซ้อนกันของ XLA ซึ่งมีองค์ประกอบ N (โดยที่ N คืออัตราส่วนของจำนวนการฝังกับเทนเซอร์คอร์ต่อชิป TPU) แต่ละองค์ประกอบของทูเพิลที่ซ้อนกันคือทูเพิลของเทนเซอร์อันดับ 1 เทนเซอร์แต่ละตัวมีดัชนี (DT_UINT32) สำหรับการค้นหาแบบฝังบน TensorCore หรือตุ้มน้ำหนัก (DT_FLOAT) เพื่อใช้กับเอาต์พุตของการดำเนินการค้นหาแบบฝัง |
| กำหนดค่า | โปรโตคอล TPUEmbeddingConfiguration แบบอนุกรม |
การส่งคืน
- อินสแตนซ์ใหม่ของ XlaSendTPUEmbeddingGradients