Cálculo de gradientes gamma y beta en LayerNorm con CANN/asc-devkit
La interfaz LayerNormGradBeta forma parte de AscendC, el lenguaje de desarrollo de operadores que CANN ofrece para los procesadores Ascend. Se utiliza durante la retropropagación de la normalización de capas para obtener los gradientes respecto a los parámetros gamma y beta. Junto con LayerNormGrad, produce los tensores pdx, gamma y beta.
Compa ...
Publicado el 6-30 00:58