« Ecrêtage de gradient » : différence entre les versions
Aucun résumé des modifications Balise : Éditeur de wikicode 2017 |
m (Remplacement de texte : « ↵↵↵==Sources== » par « ==Sources== ») |
||
| (15 versions intermédiaires par 2 utilisateurs non affichées) | |||
| Ligne 1 : | Ligne 1 : | ||
==Définition== | ==Définition== | ||
Mécanisme couramment utilisé afin d'atténuer le problème d'explosion du gradient en limitant artificiellement la valeur maximale des gradients lors de l'utilisation de la descente de gradient pendant l'entraînement d'un modèle. | Mécanisme couramment utilisé afin d'atténuer le problème d'explosion du gradient en limitant artificiellement la valeur maximale des gradients lors de l'utilisation de la descente de gradient pendant l'entraînement d'un modèle. | ||
==Français== | ==Français== | ||
'''écrêtage de gradient''' | '''écrêtage de gradient''' | ||
'''bornement de gradient''' | '''bornement de gradient''' | ||
'''seuillage de gradient''' | |||
==Anglais== | ==Anglais== | ||
'''Gradient Clipping''' | '''Gradient Clipping''' | ||
==Sources== | |||
Source: Géron, Aurélien (2017). ''Deep Learning avec TensorFlow - Mise en oeuvre et cas concrets'', Paris, Dunod, 360 pages. | |||
[https://www.leslibraires.ca/livres/l-apprentissage-profond-ian-goodfellow-9791097160432.html Source:L'apprentissage profond p.295] | |||
[[Utilisateur:Patrickdrouin | Source: Termino ]] | |||
[[Category:Intelligence artificielle]] | |||
[[Category:Apprentissage automatique]] | |||
[[ | [[Category:Apprentissage profond]] | ||
[[Category:Termino 2019]] | |||
[[Category:GRAND LEXIQUE FRANÇAIS]] | |||
Dernière version du 31 janvier 2024 à 11:06
Définition
Mécanisme couramment utilisé afin d'atténuer le problème d'explosion du gradient en limitant artificiellement la valeur maximale des gradients lors de l'utilisation de la descente de gradient pendant l'entraînement d'un modèle.
Français
écrêtage de gradient
bornement de gradient
seuillage de gradient
Anglais
Gradient Clipping
Sources
Source: Géron, Aurélien (2017). Deep Learning avec TensorFlow - Mise en oeuvre et cas concrets, Paris, Dunod, 360 pages.
Contributeurs: Jacques Barolet, Julie Roy, Patrick Drouin, wiki
