« Réseau récurrent à portes » : différence entre les versions


Aucun résumé des modifications
Balise : Éditeur de wikicode 2017
Aucun résumé des modifications
Balise : Éditeur de wikicode 2017
Ligne 16 : Ligne 16 :


Les réseaux de neurones récurrents à portes ont été développés pour résoudre le problème de la disparition du gradient que peuvent poser les réseaux de neurones récurrents réguliers. Ils peuvent être considérés comme une variante des réseaux de neurones récurrents à longue mémoire à court terme parce qu'ils sont de conception similaire et produisent des résultats identiques dans certains cas.
Les réseaux de neurones récurrents à portes ont été développés pour résoudre le problème de la disparition du gradient que peuvent poser les réseaux de neurones récurrents réguliers. Ils peuvent être considérés comme une variante des réseaux de neurones récurrents à longue mémoire à court terme parce qu'ils sont de conception similaire et produisent des résultats identiques dans certains cas.


Notons au passage que le réseau de neurones récurrent à portes a été créé en 2014 au laboratoire MILA [Chung et al, 2014].
Notons au passage que le réseau de neurones récurrent à portes a été créé en 2014 au laboratoire MILA [Chung et al, 2014].
Ligne 30 : Ligne 29 :
'''unité récurrente à portes'''
'''unité récurrente à portes'''


Source : Goodfellow, Ian; Bengio, Yoshua et Aaron Courville (2018), Apprentissage profond, Paris, Massot éditions, 800 pages.


Source : Claude Coulombe




<poll>
== Anglais ==
'''gated recurrent unit'''
 
'''Gated Recurrent Unit'''


Choisissez parmi ces termes proposés :
'''GRU'''
réseau récurrent à portes
réseau de neurones récurrent à portes
unité récurrente à portes


</poll>




== Anglais ==
'''gated recurrent unit'''


'''Gated Recurrent Unit'''
Source : Goodfellow, Ian; Bengio, Yoshua et Aaron Courville (2018), Apprentissage profond, Paris, Massot éditions, 800 pages.


'''GRU'''
[[Utilisateur:Claude COULOMBE | source : Claude Coulombe, Datafranca.org]]       


The Gated Recurrent Unit is a simplified version of an LSTM unit with fewer parameters. Just like an LSTM cell, it uses a gating mechanism to allow RNNs to efficiently learn long-range dependency by preventing the vanishing gradient problem. The GRU consists of a reset and update gate that determine which part of the old memory to keep vs. update with new values at the current time step.
[[Utilisateur:Patrickdrouin  | Source : Termino  ]]
• Learning Phrase Representations using RNN Encoder-Decoder for Statistical Machine Translation
• Recurrent Neural Network Tutorial, Part 4 – Implementing a GRU/LSTM RNN with Python and Theano

Version du 11 juin 2019 à 09:12

Domaine


Intelligence artificielle
Apprentissage automatique
Apprentissage profond

Définition

Réseau de neurones récurrent à longue mémoire à court terme qui comporte un seul vecteur d'état, fusionne les portes d'entrée et d'oubli en une porte de mise-à-jour et remplace la porte de sortie par une porte de réinitialisation.


Notes

Les réseaux de neurones récurrents à portes ont été développés pour résoudre le problème de la disparition du gradient que peuvent poser les réseaux de neurones récurrents réguliers. Ils peuvent être considérés comme une variante des réseaux de neurones récurrents à longue mémoire à court terme parce qu'ils sont de conception similaire et produisent des résultats identiques dans certains cas.

Notons au passage que le réseau de neurones récurrent à portes a été créé en 2014 au laboratoire MILA [Chung et al, 2014].


Français

réseau de neurones récurrent à portes

réseau récurrent à portes

unité récurrente à portes



Anglais

gated recurrent unit

Gated Recurrent Unit

GRU



Source : Goodfellow, Ian; Bengio, Yoshua et Aaron Courville (2018), Apprentissage profond, Paris, Massot éditions, 800 pages.

source : Claude Coulombe, Datafranca.org

Source : Termino

Récupérée de « https://datafranca.org/wiki/index.php?title=Réseau_récurrent_à_portes&oldid=12762 »

Contributeurs: Claude Coulombe, Jacques Barolet, Patrick Drouin, wiki