Réseau récurrent LMCT avec judas

Domaine

Intelligence artificielle
Apprentissage automatique
Réseau de neurones artificiels
Réseau de neurones récurrent
Réseau récurrent à longue mémoire court terme
Apprentissage profond
Coulombe

Définition

Parmi les nombreuses variantes des réseaux récurrents à longue mémoire court terme (LMCT), en anglais LSTM pour Long Short-Term Memory, une variante populaire ajoute des connexions de judas qui redirigent l'état interne de l'unité vers la porte d'entrée, la porte de sortie et la porte d'oubli de l'unité LMCT. Proposées par Felix Gers et Jürgen Schmidhuber en 2000, les connexions de judas sont avantageuses lorsque la tâche implique des intervalles de temps précis.

Français

<poll> Choisissez parmi ces termes proposés : connexion de judas connexion judas </poll>

Discussion:

Pour le moment, le terme privilégié est «connexion de judas». Le terme judas désigne la petite ouverture dans une porte qui permet de regarder sans être vu.

Anglais

Peephole connection

Peephole connections redirect the cell state as input to the LSTM input, output, and forget gates. You can explore these in detail by reading the original papers from Professor Felix Gers . These connections are used to learn precise timings.