публичный финальный класс XlaSendTPUEmbeddingGradients
Операция, выполняющая градиентные обновления встраиваемых таблиц.
Аргумент градиентов — это TensorList, имеющий ту же длину и форму, что и возвращаемое значение XlaRecvTPUEmbeddingActivations, но содержит градиенты потерь модели по отношению к активации внедрения. Таблицы внедрения обновляются на основе этих градиентов с помощью оптимизатора, указанного в прототипе TPUEmbeddingConfiguration, переданном в tpu.initialize_system.
Публичные методы
| статический XlaSendTPUEmbeddingGradients |
Унаследованные методы
Публичные методы
public static XlaSendTPUEmbeddingGradients create (область действия , Iterable< Operand <Float>> градиенты, Iterable< Operand <Float>> LearningRates, Operand <?> deduplicationData, String config)
Фабричный метод для создания класса, обертывающего новую операцию XlaSendTPUEmbeddingGradients.
Параметры
| объем | текущий объем |
|---|---|
| градиенты | TensorList градиентов, с помощью которых можно обновить таблицы внедрения. |
| обучениеЦены | TensorList скоростей обучения, используемый для обновления таблиц внедрения через оптимизатор. Длина TensorList должна быть равна количеству тегов динамической скорости обучения, указанных в прототипе TPUEmbeddingConfiguration. |
| данные дедупликации | Тензор с типом = DT_VARIANT, содержащий данные дедупликации. Тензор представляет собой вложенный кортеж XLA, содержащий N элементов (где N — отношение количества встраиваемых ядер к тензорным ядрам на чип TPU). Каждый элемент вложенного кортежа представляет собой кортеж тензоров ранга 1. Каждый тензор либо содержит индексы (DT_UINT32) для внедрения поиска в TensorCore, либо веса (DT_FLOAT), которые применяются к выходным данным операции внедрения поиска. |
| конфигурация | Сериализованный прототип TPUEmbeddingConfiguration. |
Возврат
- новый экземпляр XlaSendTPUEmbeddingGradients