« Réseau récurrent à portes » : différence entre les versions

Dernière version du 11 octobre 2024 à 08:31

Définition

Le réseau récurrent à portes est une variante simplifiée et plus rapide à entraîner du réseau récurrent à longue mémoire court terme (LMCT).

Compléments

Le réseau récurrent à portes comporte un seul vecteur d'état et fusionne les portes d'entrée et d'oubli en une porte de mise-à-jour et remplace la porte de sortie par une porte de réinitialisation.

Les réseaux de neurones récurrents à portes ont été développés pour résoudre le problème de la disparition du gradient que peuvent poser les réseaux de neurones récurrents réguliers. Ils peuvent être considérés comme une variante des réseaux de neurones récurrents à longue mémoire court terme parce qu'ils sont de conception similaire et produisent des résultats identiques dans beaucoup de cas.

Notons au passage que le réseau de neurones récurrent à portes a été créé en 2014 au laboratoire MILA de l'Université de Montréal.

Français

réseau de neurones récurrent à portes

réseau récurrent à portes

unité récurrente à portes

Anglais

gated recurrent unit

Gated Recurrent Unit

GRU

Sources

Source: Goodfellow, Ian; Bengio, Yoshua et Aaron Courville (2018), Apprentissage profond, Paris, Massot éditions, 800 pages.

[Cho et al, 2014 arxiv - Learning Phrase Representations using RNN Encoder–Decoder for Statistical Machine Translation].

Source: Claude Coulombe, Datafranca.org

Source: Termino

@@ Ligne 1 : / Ligne 1 : @@
-== Domaine ==
+==Définition==
+Le réseau récurrent à portes est une variante simplifiée et plus rapide à entraîner du [[réseau récurrent]] à longue mémoire court terme [[Réseau_récurrent_à_longue_mémoire_court_terme|(LMCT)]].
-[[Category:Coulombe]]
+== Compléments ==
-[[Category:Vocabulaire]]<br/>
+Le réseau récurrent à portes comporte un seul vecteur d'état et fusionne les portes d'entrée et d'oubli en une porte de mise-à-jour et remplace la porte de sortie par une porte de réinitialisation.
-[[Category:Intelligence artificielle]]Intelligence artificielle<br/>
+<hr/>
-[[Category:Apprentissage automatique]] Apprentissage automatique<br/>
+Les réseaux de neurones récurrents à portes ont été développés pour résoudre le [[Problème_de_la_disparition_du_gradient|problème de la disparition du gradient]] que peuvent poser les [[réseau récurrent|réseaux de neurones récurrents]] réguliers. Ils peuvent être considérés comme une variante des [[réseau récurrent à longue mémoire court terme|réseaux de neurones récurrents à longue mémoire court terme]] parce qu'ils sont de conception similaire et produisent des résultats identiques dans beaucoup de cas.
-[[Category:Apprentissage profond]] Apprentissage profond<br/>
+<hr/>
-[[Category:Termino 2019]]
+Notons au passage que le réseau de neurones récurrent à portes a été créé en 2014 au laboratoire MILA de l'Université de Montréal.
-[[Category:Scotty]]
+==Français==
+'''réseau de neurones récurrent à portes'''
-== Définition ==
+'''réseau récurrent à portes'''
-Réseau de neurones récurrent à longue mémoire à court terme qui comporte un seul vecteur d'état, fusionne les portes d'entrée et d'oubli en une porte de mise-à-jour et remplace la porte de sortie par une porte de réinitialisation.
+'''unité récurrente à portes'''
-Notes
+==Anglais==
+'''gated recurrent unit'''
-Les réseaux de neurones récurrents à portes ont été développés pour résoudre le problème de la disparition du gradient que peuvent poser les réseaux de neurones récurrents réguliers. Ils peuvent être considérés comme une variante des réseaux de neurones récurrents à longue mémoire à court terme parce qu'ils sont de conception similaire et produisent des résultats identiques dans certains cas.
+'''Gated Recurrent Unit'''
+'''GRU'''
-Notons au passage que le réseau de neurones récurrent à portes a été créé en 2014 au laboratoire MILA [Chung et al, 2014].
+==Sources==
-<br />
-== Français ==
-'''réseau de neurones récurrent à portes'''
-'''réseau récurrent à portes'''
-'''unité récurrente à portes'''
-Source : Goodfellow, Ian; Bengio, Yoshua et Aaron Courville (2018), Apprentissage profond, Paris, Massot éditions, 800 pages.
+Source: Goodfellow, Ian; Bengio, Yoshua et Aaron Courville (2018), ''Apprentissage profond'', Paris, Massot éditions, 800 pages.
-Source : Claude Coulombe
+[[https://arxiv.org/pdf/1406.1078.pdf Cho et al, 2014] arxiv - Learning Phrase Representations using RNN Encoder–Decoder for Statistical Machine Translation].
+[[Utilisateur:Claude COULOMBE | Source: Claude Coulombe, Datafranca.org]]
-<poll>
+[[Utilisateur:Patrickdrouin  | Source: Termino]]
-Choisissez parmi ces termes proposés :
+[[Category:Intelligence artificielle]]
-réseau récurrent à portes
+[[Category:Apprentissage automatique]]
-réseau de neurones récurrent à portes
+[[Category:Apprentissage profond]]
-unité récurrente à portes
-</poll>
-== Anglais ==
-'''gated recurrent unit'''
-'''Gated Recurrent Unit'''
-'''GRU'''
-The Gated Recurrent Unit is a simplified version of an LSTM unit with fewer parameters. Just like an LSTM cell, it uses a gating mechanism to allow RNNs to efficiently learn long-range dependency by preventing the vanishing gradient problem. The GRU consists of a reset and update gate that determine which part of the old memory to keep vs. update with new values at the current time step.
+[[Category:GRAND LEXIQUE FRANÇAIS]]
-•	Learning Phrase Representations using RNN Encoder-Decoder for Statistical Machine Translation
-•	Recurrent Neural Network Tutorial, Part 4 – Implementing a GRU/LSTM RNN with Python and Theano

« Réseau récurrent à portes » : différence entre les versions