LoadAllTPUEmbeddingParameters

clase final pública LoadAllTPUEmbeddingParameters

Una operación que carga parámetros de optimización en la memoria integrada.

Una operación que carga parámetros de optimización en la memoria integrada. Debe estar precedido por una operación ConfigureTPUEmbeddingHost que establezca la configuración correcta de la tabla de incrustación. Por ejemplo, esta operación se utiliza para instalar parámetros que se cargan desde un punto de control antes de que se ejecute un ciclo de entrenamiento. Para Adagrad, auxiliar1 deberían ser los acumuladores. Para SGD, todos los valores auxiliares* deben estar vacíos. Para FTRL, auxiliar1 deberían ser los acumuladores y auxiliar2 deberían ser los términos lineales. Para ADAM, auxiliar1 deberían ser los momentos y auxiliar2 deberían ser las velocidades.

Métodos públicos

Carga estáticaTodosTPUEmbeddingParameters
crear ( alcance alcance, Iterable< Operando <Float>> parámetros, Iterable< Operando <Float>> auxiliar1, Iterable< Operando <Float>> auxiliar2, Iterable< Operando <Float>> auxiliar3, Iterable< Operando <Float>> auxiliar4, Iterable< Operando <Float>> auxiliar5, Iterable< Operando <Float>> auxiliar6, Iterable< Operando <Float>> auxiliar7, Configuración de cadena, Long numShards, Long shardId)
Método de fábrica para crear una clase que envuelve una nueva operación LoadAllTPUEmbeddingParameters.

Métodos heredados

Métodos públicos

LoadAllTPUEmbeddingParameters estático público crear ( alcance , Iterable< Operando <Float>> parámetros, Iterable< Operando <Float>> auxiliar1, Iterable< Operando <Float>> auxiliar2, Iterable< Operando <Float>> auxiliar3, Iterable< Operando <Float> > auxiliar4, Iterable< Operando <Float>> auxiliar5, Iterable< Operando <Float>> auxiliar6, Iterable< Operando <Float>> auxiliar7, Configuración de cadena, Long numShards, Long shardId)

Método de fábrica para crear una clase que envuelve una nueva operación LoadAllTPUEmbeddingParameters.

Parámetros
alcance alcance actual
parámetros Una lista de tensores, uno para cada tabla de incrustación, que contiene los parámetros iniciales de la tabla de incrustación que se usarán en las búsquedas de incrustación.
auxiliar1 Una lista de tensores, uno para cada tabla de incorporación, que contiene los valores iniciales del primer parámetro de optimización auxiliar que se utilizará en la incorporación de actualizaciones del bucle de entrenamiento. La forma de cada entrada se ignora (y por lo tanto puede estar vacía) para aquellas tablas cuyos algoritmos de optimización no tienen al menos un parámetro auxiliar.
auxiliar2 Una lista de tensores, uno para cada tabla de incorporación, que contiene los valores iniciales del segundo parámetro de optimización auxiliar que se utilizará en la incorporación de actualizaciones del bucle de entrenamiento. La forma de cada entrada se ignora (y por lo tanto puede estar vacía) para aquellas tablas cuyos algoritmos de optimización no tienen al menos dos auxiliares.
auxiliar3 Una lista de tensores, uno para cada tabla de incorporación, que contiene los valores iniciales del tercer parámetro de optimización auxiliar que se utilizará en la incorporación de actualizaciones del bucle de entrenamiento. La forma de cada entrada se ignora (y por lo tanto puede estar vacía) para aquellas tablas cuyos algoritmos de optimización no tienen tres parámetros auxiliares.
auxiliar4 Una lista de tensores, uno para cada tabla de incorporación, que contiene los valores iniciales del segundo parámetro de optimización auxiliar que se utilizará en la incorporación de actualizaciones del bucle de entrenamiento. La forma de cada entrada se ignora (y por lo tanto puede estar vacía) para aquellas tablas cuyos algoritmos de optimización no tienen al menos cuatro auxiliares.
auxiliar5 Una lista de tensores, uno para cada tabla de incorporación, que contiene los valores iniciales del tercer parámetro de optimización auxiliar que se utilizará en la incorporación de actualizaciones del bucle de entrenamiento. La forma de cada entrada se ignora (y por lo tanto puede estar vacía) para aquellas tablas cuyos algoritmos de optimización no tienen cinco parámetros auxiliares.
auxiliar6 Una lista de tensores, uno para cada tabla de incorporación, que contiene los valores iniciales del segundo parámetro de optimización auxiliar que se utilizará en la incorporación de actualizaciones del bucle de entrenamiento. La forma de cada entrada se ignora (y por lo tanto puede estar vacía) para aquellas tablas cuyos algoritmos de optimización no tienen al menos seis auxiliares.
auxiliar7 Una lista de tensores, uno para cada tabla de incorporación, que contiene los valores iniciales del tercer parámetro de optimización auxiliar que se utilizará en la incorporación de actualizaciones del bucle de entrenamiento. La forma de cada entrada se ignora (y por lo tanto puede estar vacía) para aquellas tablas cuyos algoritmos de optimización no tienen parámetros auxiliares sevan.
configuración Un protocolo TPUEmbeddingConfiguration que describe los parámetros de la tabla que se cargan y se serializan en una cadena.
número de fragmentos Número de fragmentos en los que se dividen las tablas de incrustación.
ID de fragmento Identificador del fragmento para esta operación.
Devoluciones
  • una nueva instancia de LoadAllTPUEmbeddingParameters