« Connexion résiduelle » : différence entre les versions

Dernière version du 27 janvier 2024 à 21:04

Définition

Dans un réseau de neurones profond constitué de plusieurs couches de neurones, une connexion résiduelle (parfois appelée connexion identité ou connexion saute-couche) branche la sortie d’une couche moins profonde (en amont) pour l’ajouter à l’entrée d’une couche plus profonde du réseau (en aval) en sautant par dessus une ou plusieurs couches. Ceci permet d'éviter une ou plusieurs couches de traitement et une perte trop importante de gradient.

Voir: ResNet

Compléments

La connexion résiduelle permet d'ajouter une contribution (résiduelle) des couches inférieures avant la transformation du gradient (diminution ou augmentation) par les couches suivantes qui sont ainsi « sautées ».

En anglais, « skip connection » et « residual connection » sont synonymes.

Français

connexion résiduelle

connexion saute-couche

connexion identité

saut de connexion

Anglais

residual connection

skip connection

identity connection

shortcut connection

Sources

Source: Orhan, Emin et Xaq Pitkow (2018). Skip Connections Eliminate Singularities, Actes de la conférence ICLR 2018, 22 pages.

Source: Chabot, Florian (2017). Analyse fine 2D/3D de véhicules par réseaux de neurones profonds, thèse de doctorat, Université Clermont Auvergne, 171 pages.

Source: Branchaud-Charron, Frédéric (2019). Estimation de complexité et localisation de véhicules à l’aide de l’apprentissage profond, mémoire de maîtrise, Université de Sherbrooke, 151 pages.

Source: Termino

@@ Ligne 1 : / Ligne 1 : @@
-__NOTOC__
+==Définition==
-== Domaine ==
+Dans un réseau de neurones profond constitué de plusieurs couches de neurones, une connexion résiduelle (parfois appelée connexion identité ou connexion saute-couche) branche la sortie d’une couche moins profonde (en amont) pour l’ajouter à l’entrée d’une couche plus profonde du réseau (en aval) en sautant par dessus une ou plusieurs couches. Ceci permet d'éviter une ou plusieurs couches de traitement et une perte trop importante de gradient.
-[[Category:Vocabulaire2]]
-[[Category:Intelligence artificielle]]Intelligence artificielle<br>
-[[Catégorie:Apprentissage profond]] Apprentissage profond<br>
-[[Category:Coulombe2]]
-[[Category:Termino 2019]]
+Voir: [[ResNet]]
-== Définition ==
+==Compléments==
-Connexion supplémentaire ajoutée entre les différentes couches d'un réseau neuronal qui permettent d'éviter une ou plusieurs couches de traitement non linéaire.
+La connexion résiduelle permet d'ajouter une contribution (résiduelle) des couches inférieures avant la transformation du gradient (diminution ou augmentation) par les couches suivantes qui sont ainsi « sautées ».
+En anglais, « skip connection » et « residual connection » sont synonymes.
-Note
+==Français==
+'''connexion résiduelle'''
-Permet d'ajouter une contribution (résidielle) des couches inférieures avant la transformation du gradient (diminution ou augmentation) par les couches suivantes qui sont ainsi « sautées ».
+'''connexion saute-couche'''
-<br />
+'''connexion identité'''
-== Français ==
+'''saut de connexion'''
-'''connexion saute-couche'''
-'''connection résiduelle'''
+==Anglais==
+'''residual connection'''
-'''saut de connexion'''
-Source: Orhan, Emin et Xaq Pitkow (2018). Skip Connections Eliminate Singularities, Actes de la conférence ICLR 2018, 22 pages.
+'''skip connection'''
-Source : Chabot, Florian (2017). Analyse fine 2D/3D de véhicules par réseaux de neurones profonds, thèse de doctorat, Université Clermont Auvergne, 171 pages.
+'''identity connection'''
-Source : Branchaud-Charron, Frédéric (2019). Estimation de complexité et localisation devéhicules à l’aide de l’apprentissage profond, mémoire de maîtrise, Université de Sherbrooke, 151 pages.
+'''shortcut connection'''
+==Sources==
+Source: Orhan, Emin et Xaq Pitkow (2018). ''Skip Connections Eliminate Singularities'', Actes de la conférence ICLR 2018, 22 pages.
+Source: Chabot, Florian (2017). ''Analyse fine 2D/3D de véhicules par réseaux de neurones profonds'', thèse de doctorat, Université Clermont Auvergne, 171 pages.
-== Anglais ==
+Source: Branchaud-Charron, Frédéric (2019). ''Estimation de complexité et localisation de véhicules à l’aide de l’apprentissage profond, mémoire de maîtrise'', Université de Sherbrooke, 151 pages.
-'''residual connection'''
-'''skip connection''''
+[[Utilisateur:Patrickdrouin  | Source: Termino]]
-Note
+[[Category:Intelligence artificielle]]
+[[Catégorie:Apprentissage profond]]
-<br/>Residual connections and skip connections are used interchangeably. <br />
+[[Category:Termino 2019]]
-These types of connections can skip multiple layers.
+[[Catégorie:GRAND LEXIQUE FRANÇAIS]]
-<br/>