Normalisation de couche
ROBOTIQUE
Définition
Une technique de normalisation qui normalise selon la dimension des caractéristiques de chaque échantillon individuel (plutôt que selon le lot, comme dans la normalisation par lot). La normalisation de couche est la norme dans les architectures Transformer car elle fonctionne de manière identique pendant l'entraînement et l'inférence et gère les longueurs de séquence variables. Elle est utilisée dans presque tous les modèles VLA et de politique Transformer.
Français
Normalisation de couche
Anglais
layer normalization
Sources
Contributeurs: wiki
