Pénalisation des poids


(Redirigé depuis Weight decay)

Définition

Technique de régularisation qui consiste à pénaliser les poids dans une fonction objective afin de limiter le surapprentissage dans un réseau de neurones.

Note: la technique consiste à ajouter une pénalité à la fonction d'erreur qui dépend de la magnitude des poids qui relient les neurones entre eux

Français

pénalisation des poids

Anglais

weight decay


Sources

Source: Goodfellow, Ian; Bengio, Yoshua et Aaron Courville (2018), Apprentissage profond, Paris, Massot éditions, 800 pages.

Source : Termino