Ecrêtage de gradient
Définition
Mécanisme couramment utilisé afin d'atténuer le problème d'explosion du gradient en limitant artificiellement la valeur maximale des gradients lors de l'utilisation de la descente de gradient pendant l'entraînement d'un modèle.
Français
écrêtage de gradient loc. nom. masc.
bornement de gradient loc. nom. masc.
Anglais
Gradient Clipping
Source: Géron, Aurélien (2017). Deep Learning avec TensorFlow - Mise en oeuvre et cas concrets, Paris, Dunod, 360 pages.
Contributeurs: Jacques Barolet, Julie Roy, Patrick Drouin, wiki
