« Ecrêtage de gradient » : différence entre les versions
m (Pitpitt a déplacé la page Écrêtage de gradient vers Ecrêtage de gradient) |
m (Remplacement de texte : « ↵↵↵==Sources== » par « ==Sources== ») |
||
| (5 versions intermédiaires par le même utilisateur non affichées) | |||
| Ligne 1 : | Ligne 1 : | ||
==Définition== | ==Définition== | ||
Mécanisme couramment utilisé afin d'atténuer le problème d'explosion du gradient en limitant artificiellement la valeur maximale des gradients lors de l'utilisation de la descente de gradient pendant l'entraînement d'un modèle. | Mécanisme couramment utilisé afin d'atténuer le problème d'explosion du gradient en limitant artificiellement la valeur maximale des gradients lors de l'utilisation de la descente de gradient pendant l'entraînement d'un modèle. | ||
==Français== | ==Français== | ||
'''écrêtage de gradient''' | '''écrêtage de gradient''' | ||
'''bornement de gradient''' | '''bornement de gradient''' | ||
'''seuillage de gradient''' | '''seuillage de gradient''' | ||
==Anglais== | ==Anglais== | ||
'''Gradient Clipping''' | '''Gradient Clipping''' | ||
==Sources== | |||
Source: Géron, Aurélien (2017). ''Deep Learning avec TensorFlow - Mise en oeuvre et cas concrets'', Paris, Dunod, 360 pages. | Source: Géron, Aurélien (2017). ''Deep Learning avec TensorFlow - Mise en oeuvre et cas concrets'', Paris, Dunod, 360 pages. | ||
| Ligne 27 : | Ligne 19 : | ||
[[Utilisateur:Patrickdrouin | Source: Termino ]] | [[Utilisateur:Patrickdrouin | Source: Termino ]] | ||
[[Category:Intelligence artificielle]] | |||
[[Category:Apprentissage automatique]] | |||
[[Category:Apprentissage profond]] | |||
[[Category:Termino 2019]] | |||
[[Category:GRAND LEXIQUE FRANÇAIS]] | |||
Dernière version du 31 janvier 2024 à 11:06
Définition
Mécanisme couramment utilisé afin d'atténuer le problème d'explosion du gradient en limitant artificiellement la valeur maximale des gradients lors de l'utilisation de la descente de gradient pendant l'entraînement d'un modèle.
Français
écrêtage de gradient
bornement de gradient
seuillage de gradient
Anglais
Gradient Clipping
Sources
Source: Géron, Aurélien (2017). Deep Learning avec TensorFlow - Mise en oeuvre et cas concrets, Paris, Dunod, 360 pages.
Contributeurs: Jacques Barolet, Julie Roy, Patrick Drouin, wiki
