« Ecrêtage de gradient » : différence entre les versions
m (Remplacement de texte — « <small> masculin </small> » par « ») |
m (Remplacement de texte : « ↵<small> » par « ==Sources== ») |
||
| Ligne 12 : | Ligne 12 : | ||
'''Gradient Clipping''' | '''Gradient Clipping''' | ||
==Sources== | |||
Source: Géron, Aurélien (2017). ''Deep Learning avec TensorFlow - Mise en oeuvre et cas concrets'', Paris, Dunod, 360 pages. | Source: Géron, Aurélien (2017). ''Deep Learning avec TensorFlow - Mise en oeuvre et cas concrets'', Paris, Dunod, 360 pages. | ||
Version du 27 janvier 2024 à 22:58
Définition
Mécanisme couramment utilisé afin d'atténuer le problème d'explosion du gradient en limitant artificiellement la valeur maximale des gradients lors de l'utilisation de la descente de gradient pendant l'entraînement d'un modèle.
Français
écrêtage de gradient
bornement de gradient
seuillage de gradient
Anglais
Gradient Clipping
Sources
Source: Géron, Aurélien (2017). Deep Learning avec TensorFlow - Mise en oeuvre et cas concrets, Paris, Dunod, 360 pages.
Contributeurs: Jacques Barolet, Julie Roy, Patrick Drouin, wiki
