Réseau récurrent


Définition

Un réseau de neurones récurrent (RNR) ou plus simplement réseau récurrent est un architecture de réseau de neurones profond dans laquelle il existe au moins une connexion récurrente (boucle ou cycle) dans sa structure. Dans un réseau récurrent, les signaux peuvent donc revenir en arrière (via une boucle ou cycle) et alimenter des neurones d'une couche précédente ou de la même couche.

Les réseaux neuronaux récurrents sont capables de traiter des données de taille variable. Ils conviennent en particulier pour l'analyse de séquences dans le temps (séries temporelles ou séries chronologiques). Les RNR sont utilisés en reconnaissance automatique de la parole, de chaînes de caractères, de textes, et la traduction automatique, qui sont de bons exemples de séquences.

Compléments

On oppose les RNN aux réseaux de neurones à propagation avant (non bouclés, en anglais feed-forward), dans lesquels les signaux ne peuvent se diriger que dans un seul sens, de la couche d'entrée vers la couche de sortie. Attention! Il faut éviter de confondre le mécanisme de retour en arrière du signal grâce aux boucles avec le retour arrière de l’erreur, la rétropropagation de l’erreur, qui est un mécanisme d’entraînement des réseaux de neurones.

Réseau de neurones artificiels présentant des connexions récurrentes et constitué de neurones interconnectés interagissant non-linéairement et pour lequel il existe au moins un cycle dans la structure. Les unités sont reliées par des arcs (synapses) qui possèdent un poids. La sortie d'un neurone est une combinaison non linéaire de ses entrées.

Les réseaux de neurones récurrents sont bien adaptés aux données d'entrée de taille variable. Ils conviennent en particulier pour l'analyse de séries temporelles. Ils sont utilisés en reconnaissance automatique de la parole ou de l'écriture manuscrite - plus en général en reconnaissance de formes - ou encore en traduction automatique.

Français

réseau récurrent

réseau de neurones récurrent

réseau neuronal récurrent

RNR

Anglais

recurrent neural network

RNN

recurrent network

Source: Wikipedia, Réseau de neurones récurrents.