публичный финальный класс LoadAllTPUEmbeddingParameters
Операция, которая загружает параметры оптимизации во встроенную память.
Операция, которая загружает параметры оптимизации во встроенную память. Должна предшествовать операция ConfigureTPUEmbeddingHost, которая устанавливает правильную конфигурацию таблицы внедрения. Например, эта операция используется для установки параметров, которые загружаются из контрольной точки перед выполнением цикла обучения. Для Адаграда вспомогательными1 должны быть аккумуляторы. Для SGD все вспомогательные* значения должны быть пустыми. Для FTRL вспомогательные1 должны быть аккумуляторами, а вспомогательные2 должны быть линейными членами. Для ADAM вспомогательный1 должен быть импульсом, а вспомогательный2 — скоростью.
Публичные методы
| статический LoadAllTPUEmbeddingParameters | create ( Область видимости , Iterable< Операнд <Float>> параметры, Iterable< Операнд <Float>> вспомогательный1, Iterable< Операнд <Float>> вспомогательный2, Iterable< Операнд <Float>> вспомогательный3, Iterable< Операнд <Float>> вспомогательный4, Iterable< Операнд <Float>> вспомогательный5, Итерируемый< Операнд <Float>> вспомогательный6, Итерируемый< Операнд <Float>> вспомогательный7, Конфигурация строки, Длинные numShards, Длинный shardId) Фабричный метод для создания класса, обертывающего новую операцию LoadAllTPUEmbeddingParameters. |
Унаследованные методы
Публичные методы
public static LoadAllTPUEmbeddingParameters create ( Область действия, Iterable< Operand <Float>> параметры, Iterable< Operand <Float>> вспомогательный1, Iterable< Операнд <Float>> вспомогательный2, Iterable< Операнд <Float>> вспомогательный3, Iterable< Операнд <Float> > вспомогательный4, Iterable< Операнд <Float>> вспомогательный5, Iterable< Операнд <Float>> вспомогательный6, Iterable< Операнд <Float>> вспомогательный7, Конфигурация строки, Long numShards, Long shardId)
Фабричный метод для создания класса, обертывающего новую операцию LoadAllTPUEmbeddingParameters.
Параметры
| объем | текущий объем |
|---|---|
| параметры | Список тензоров, по одному для каждой таблицы внедрения, содержащий исходные параметры таблицы внедрения, которые будут использоваться при поиске внедрения. |
| вспомогательный1 | Список тензоров, по одному для каждой таблицы внедрения, содержащий начальные значения первого вспомогательного параметра оптимизации, который будет использоваться при внедрении обновлений цикла обучения. Форма каждой записи игнорируется (и, следовательно, может быть пустой) для тех таблиц, алгоритмы оптимизации которых не имеют хотя бы одного вспомогательного параметра. |
| вспомогательный2 | Список тензоров, по одному для каждой таблицы внедрения, содержащий начальные значения второго вспомогательного параметра оптимизации, который будет использоваться при внедрении обновлений цикла обучения. Форма каждой записи игнорируется (и, следовательно, может быть пустой) для тех таблиц, алгоритмы оптимизации которых не имеют хотя бы двух вспомогательных |
| вспомогательный3 | Список тензоров, по одному для каждой таблицы внедрения, содержащий начальные значения третьего вспомогательного параметра оптимизации, который будет использоваться при внедрении обновлений цикла обучения. Форма каждой записи игнорируется (и, следовательно, может быть пустой) для тех таблиц, алгоритмы оптимизации которых не имеют трех вспомогательных параметров. |
| вспомогательный4 | Список тензоров, по одному для каждой таблицы внедрения, содержащий начальные значения второго вспомогательного параметра оптимизации, который будет использоваться при внедрении обновлений цикла обучения. Форма каждой записи игнорируется (и, следовательно, может быть пустой) для тех таблиц, алгоритмы оптимизации которых не имеют хотя бы четырех вспомогательных |
| вспомогательный5 | Список тензоров, по одному для каждой таблицы внедрения, содержащий начальные значения третьего вспомогательного параметра оптимизации, который будет использоваться при внедрении обновлений цикла обучения. Форма каждой записи игнорируется (и, следовательно, может быть пустой) для тех таблиц, алгоритмы оптимизации которых не имеют пяти вспомогательных параметров. |
| вспомогательный6 | Список тензоров, по одному для каждой таблицы внедрения, содержащий начальные значения второго вспомогательного параметра оптимизации, который будет использоваться при внедрении обновлений цикла обучения. Форма каждой записи игнорируется (и, следовательно, может быть пустой) для тех таблиц, алгоритмы оптимизации которых не имеют хотя бы шести вспомогательных |
| вспомогательный7 | Список тензоров, по одному для каждой таблицы внедрения, содержащий начальные значения третьего вспомогательного параметра оптимизации, который будет использоваться при внедрении обновлений цикла обучения. Форма каждой записи игнорируется (и, следовательно, может быть пустой) для тех таблиц, алгоритмы оптимизации которых не имеют севанских вспомогательных параметров. |
| конфигурация | Прототип TPUEmbeddingConfiguration, описывающий загружаемые параметры таблицы, сериализованные в строку. |
| число осколков | Количество сегментов, на которые разделены таблицы внедрения. |
| идентификатор осколка | Идентификатор шарда для этой операции. |
Возврат
- новый экземпляр LoadAllTPUEmbeddingParameters