SendTPUEmbeddingGradients

공개 최종 클래스 SendTPUEmbeddingGradients

임베딩 테이블의 그라데이션 업데이트를 수행합니다.

공개 방법

정적 SendTPUEmbeddingGradients
생성 ( Scope 범위, Iterable< Operand <Float>> 입력, Iterable< Operand <Float>> learningRates, 문자열 구성)
새로운 SendTPUEmbeddingGradients 작업을 래핑하는 클래스를 생성하는 팩토리 메서드입니다.

상속된 메서드

공개 방법

공개 정적 SendTPUEmbeddingGradients 생성 ( 범위 범위, Iterable< Operand <Float>> 입력, Iterable< Operand <Float>> learningRates, 문자열 구성)

새로운 SendTPUEmbeddingGradients 작업을 래핑하는 클래스를 생성하는 팩토리 메서드입니다.

매개변수
범위 현재 범위
입력 임베딩 테이블을 업데이트하는 데 사용할 그래디언트의 TensorList입니다. 이 인수는 RecvTPUEmbeddingActivations의 반환 값과 길이와 모양이 동일하지만 임베딩 활성화와 관련된 모델 손실의 기울기를 포함합니다. 임베딩 테이블은 tpu.initialize_system에 제공된 TPU 임베딩 구성에 지정된 최적화 프로그램을 통해 이러한 그라데이션에서 업데이트됩니다.
학습요율 각 동적 학습률 태그에 대해 하나씩 float32 스칼라의 TensorList: //third_party/tensorflow/core/protobuf/tpu/optimization_parameters.proto의 주석을 참조하세요. 여러 테이블이 구성에 지정된 것과 동일한 동적 학습률 태그를 공유할 수 있습니다. 모든 테이블의 학습률이 일정하다면 이 목록은 비어 있어야 합니다.
구성 직렬화된 TPUEmbeddingConfiguration proto.
보고
  • SendTPUEmbeddingGradients의 새 인스턴스