Connexion récurrente à valeur constante - Historique des versions

Pitpitt : Remplacement de texte : « ↵↵==Sources== » par «  ==Sources== »

2024-08-30T22:54:36Z

Remplacement de texte : « ↵↵==Sources== » par «  ==Sources== »

← Version précédente		Version du 30 août 2024 à 18:54
Ligne 18 :		Ligne 18 :

	'''CEC'''		'''CEC'''

	==Sources==		==Sources==

Pitpitt : Remplacement de texte : « ↵↵↵↵ » par «   »

2024-01-29T17:43:18Z

Remplacement de texte : « ↵↵↵↵ » par «   »

← Version précédente		Version du 29 janvier 2024 à 13:43
Ligne 20 :		Ligne 20 :

	==Sources==		==Sources==

Pitpitt : Remplacement de texte : « ↵↵↵==Sources== » par «  ==Sources== »

2024-01-29T14:16:47Z

Remplacement de texte : « ↵↵↵==Sources== » par «  ==Sources== »

← Version précédente		Version du 29 janvier 2024 à 10:16
Ligne 18 :		Ligne 18 :

	'''CEC'''		'''CEC'''


	==Sources==		==Sources==

Pitpitt : Remplacement de texte : « ↵↵ » par «  ==Sources==  »

2024-01-28T01:25:48Z

Remplacement de texte : « ↵↵<small> » par «  ==Sources==  »

← Version précédente		Version du 27 janvier 2024 à 21:25
Ligne 20 :		Ligne 20 :


	~~<small>~~		==Sources==

Pitpitt le 5 décembre 2022 à 16:12

2022-12-05T16:12:16Z

← Version précédente		Version du 5 décembre 2022 à 12:12
Ligne 27 :		Ligne 27 :
	[https://deepai.org/machine-learning-glossary-and-terms/constant%20error%20carousel Source : DeepAI.org ]		[https://deepai.org/machine-learning-glossary-and-terms/constant%20error%20carousel Source : DeepAI.org ]

	[[Catégorie:~~DeepAI.org]]~~		[[Catégorie:GRAND LEXIQUE FRANÇAIS]]

	~~[[Catégorie:publication~~]]

Imeziani le 5 décembre 2022 à 12:02

2022-12-05T12:02:40Z

← Version précédente		Version du 5 décembre 2022 à 08:02
Ligne 1 :		Ligne 1 :
	~~==en construction==~~
	== Définition ==		== Définition ==
	~~Compléments~~: ~~Terme~~ hyperspécialisé du domaine des réseaux de neurones récurrents.		Note: terme hyperspécialisé du domaine des réseaux de neurones récurrents.
	~~connexion récurrente~~ à ~~valeur constante, boucle à valeur constante => carrousel à erreur constante (dernier choix car trad~~. ~~littérale)~~
	~~What is a Constant Error Carousel?~~		Il s'agit d'un ajout aux [[réseaux récurrents à longue mémoire court terme]] qui permet de résoudre les problèmes de gradient évanescent et explosif.
	A specified type of recurrent neural network architecture is called a Long Short-Term Memory (LTSM). Unlike a feedforward network, LTSM architecture incorporates feedback, allowing it to function as a general purpose computer. While there are many different forms of LTSM architecture, to understand the Constant Error Carousel, we will examine a simple framework.
	One cell consists of a cell unit, and three gates (input, forget, and output). The gates use a sigmoid activation function, and the input and cell state is usually transformed by tanh, another activation function. The gating mechanism can hold information for long durations, however vanilla LSTMs don't have a forget gate and instead add an unchanged cell state (e.g. a recurrent connection with a constant weight of 1). This addition is called the Constant Error Carousel because it solves the training problem of vanishing and exploding gradients. In networks that do contain a forget gate, the Constant Error Carousel may be reset by the forget gate. The addition of the Constant Error Carousel allows for the LSTM to learn long-term relationships while mitigating the risks of prolonged testing.		Compléments: Une cellule se compose d'un état de cellule et de trois portes (entrée, oubli et sortie). Les portes utilisent une fonction d'activation sigmoïde, et l'état d'entrée et de cellule est généralement transformé par tanh, une autre fonction d'activation. Le mécanisme de déclenchement peut contenir des informations pendant de longues durées, mais les RRLMCT de base n'ont pas de porte d'oubli et ajoutent à la place un état de cellule inchangé (par exemple, une connexion récurrente avec un poids constant de 1). Cet ajout est appelé connexion récurrente à valeur constante car il résout le problème d’entraînement des gradients qui disparaissent et explosent. Dans les réseaux qui contiennent une porte d'oubli, la connexion récurrente à valeur constante peut être réinitialisée par la porte d'oubli. L'ajout de la connexion récurrente à valeur constante permet au RRLMCT d'apprendre des relations à long terme tout en atténuant les risques de tests prolongés.
	Compléments: Une cellule se compose d'un état de cellule et de trois portes (entrée, oubli et sortie). Les portes utilisent une fonction d'activation sigmoïde, et l'état d'entrée et de cellule est généralement transformé par tanh, une autre fonction d'activation. Le mécanisme de déclenchement peut contenir des informations pendant de longues durées, mais les ~~LSTM~~ de base n'ont pas de porte d'oubli et ajoutent à la place un état de cellule inchangé (par exemple, une connexion récurrente avec un poids constant de 1). Cet ajout est appelé ~~Constant Error Carousel~~ car il résout le problème d’entraînement des gradients qui disparaissent et explosent. Dans les réseaux qui contiennent une porte d'oubli, ~~le carrousel d'erreur constant~~ peut être ~~réinitialisé~~ par la porte d'oubli. L'ajout ~~du carrousel~~ à ~~erreurs constantes~~ permet au ~~LSTM~~ d'apprendre des relations à long terme tout en atténuant les risques de tests prolongés.


	== Français ==		== Français ==
	'''carrousel d'erreur constante'''		'''connexion récurrente à valeur constante'''

			'''boucle à valeur constante'''

			'''carrousel à erreur constante''' (traduction littérale)

	== Anglais ==		== Anglais ==
Ligne 27 :		Ligne 29 :
	[[Catégorie:DeepAI.org]]		[[Catégorie:DeepAI.org]]

	[[Catégorie:~~vocabulary~~]]		[[Catégorie:publication]]

Imeziani : Imeziani a déplacé la page Constant Error Carousel vers Connexion récurrente à valeur constante

2022-12-05T11:36:35Z

Imeziani a déplacé la page Constant Error Carousel vers Connexion récurrente à valeur constante

← Version précédente	Version du 5 décembre 2022 à 07:36
(Aucune différence)

Imeziani le 25 novembre 2022 à 11:12

2022-11-25T11:12:05Z

← Version précédente		Version du 25 novembre 2022 à 07:12
Ligne 1 :		Ligne 1 :
	==en construction==		==en construction==
	== Définition ==		== Définition ==
			Compléments: Terme hyperspécialisé du domaine des réseaux de neurones récurrents.
			connexion récurrente à valeur constante, boucle à valeur constante => carrousel à erreur constante (dernier choix car trad. littérale)
			What is a Constant Error Carousel?
	A specified type of recurrent neural network architecture is called a Long Short-Term Memory (LTSM). Unlike a feedforward network, LTSM architecture incorporates feedback, allowing it to function as a general purpose computer. While there are many different forms of LTSM architecture, to understand the Constant Error Carousel, we will examine a simple framework.		A specified type of recurrent neural network architecture is called a Long Short-Term Memory (LTSM). Unlike a feedforward network, LTSM architecture incorporates feedback, allowing it to function as a general purpose computer. While there are many different forms of LTSM architecture, to understand the Constant Error Carousel, we will examine a simple framework.
			One cell consists of a cell unit, and three gates (input, forget, and output). The gates use a sigmoid activation function, and the input and cell state is usually transformed by tanh, another activation function. The gating mechanism can hold information for long durations, however vanilla LSTMs don't have a forget gate and instead add an unchanged cell state (e.g. a recurrent connection with a constant weight of 1). This addition is called the Constant Error Carousel because it solves the training problem of vanishing and exploding gradients. In networks that do contain a forget gate, the Constant Error Carousel may be reset by the forget gate. The addition of the Constant Error Carousel allows for the LSTM to learn long-term relationships while mitigating the risks of prolonged testing.
			Compléments: Une cellule se compose d'un état de cellule et de trois portes (entrée, oubli et sortie). Les portes utilisent une fonction d'activation sigmoïde, et l'état d'entrée et de cellule est généralement transformé par tanh, une autre fonction d'activation. Le mécanisme de déclenchement peut contenir des informations pendant de longues durées, mais les LSTM de base n'ont pas de porte d'oubli et ajoutent à la place un état de cellule inchangé (par exemple, une connexion récurrente avec un poids constant de 1). Cet ajout est appelé Constant Error Carousel car il résout le problème d’entraînement des gradients qui disparaissent et explosent. Dans les réseaux qui contiennent une porte d'oubli, le carrousel d'erreur constant peut être réinitialisé par la porte d'oubli. L'ajout du carrousel à erreurs constantes permet au LSTM d'apprendre des relations à long terme tout en atténuant les risques de tests prolongés.


	== Français ==		== Français ==

JBM le 2 décembre 2021 à 16:04

2021-12-02T16:04:01Z

← Version précédente		Version du 2 décembre 2021 à 12:04
Ligne 1 :		Ligne 1 :
	==en construction==		==en construction==

	== Définition ==		== Définition ==
	~~XXXXXXXXX~~		A specified type of recurrent neural network architecture is called a Long Short-Term Memory (LTSM). Unlike a feedforward network, LTSM architecture incorporates feedback, allowing it to function as a general purpose computer. While there are many different forms of LTSM architecture, to understand the Constant Error Carousel, we will examine a simple framework.

	== Français ==		== Français ==
	''' ~~XXXXXXXXX~~ '''		'''carrousel d'erreur constante'''

	== Anglais ==		== Anglais ==
	''' ~~Constant Error Carousel~~'''		'''constant error carousel'''

	A specified type of recurrent neural network architecture is called a Long Short-Term Memory (LTSM). Unlike a feedforward network, LTSM architecture incorporates feedback, allowing it to function as a general purpose computer. While there are many different forms of LTSM architecture, to understand the Constant Error Carousel, we will examine a simple framework.		'''CEC'''


	<small>		<small>


			[https://tel.archives-ouvertes.fr/tel-01771685/document Source : Ikram Chraibi Kaadoud. ''Apprentissage de séquences et extraction de règles de réseaux récurrents : application au traçage de schémas techniques''. Autre. Université de Bordeaux, 2018. Français. ffNNT : 2018BORD0032. fftel-01771685 ]

	[https://deepai.org/machine-learning-glossary-and-terms/constant%20error%20carousel Source : DeepAI.org ]		[https://deepai.org/machine-learning-glossary-and-terms/constant%20error%20carousel Source : DeepAI.org ]

	[[Catégorie:DeepAI.org]]		[[Catégorie:DeepAI.org]]


	[[Catégorie:vocabulary]]		[[Catégorie:vocabulary]]

Pitpitt : Remplacement de texte — « DeepAI.org ] » par « DeepAI.org ] Catégorie:DeepAI.org  »

2020-12-15T23:08:57Z

Remplacement de texte — « DeepAI.org ] » par « DeepAI.org ] Catégorie:DeepAI.org  »

← Version précédente		Version du 15 décembre 2020 à 19:08
Ligne 17 :		Ligne 17 :

	[https://deepai.org/machine-learning-glossary-and-terms/constant%20error%20carousel Source : DeepAI.org ]		[https://deepai.org/machine-learning-glossary-and-terms/constant%20error%20carousel Source : DeepAI.org ]

			[[Catégorie:DeepAI.org]]


	[[Catégorie:vocabulary]]		[[Catégorie:vocabulary]]

Connexion récurrente à valeur constante - Historique des versions

Pitpitt : Remplacement de texte : « ↵↵==Sources== » par « ==Sources== »

Pitpitt : Remplacement de texte : « ↵↵↵↵ » par « »

Pitpitt : Remplacement de texte : « ↵↵↵==Sources== » par « ==Sources== »

Pitpitt : Remplacement de texte : « ↵↵ » par « ==Sources== »