Généralisation en rétropropagation - Historique des versions

Pitpitt : Remplacement de texte : « ↵↵↵↵ » par «   »

2024-01-29T17:44:53Z

Remplacement de texte : « ↵↵↵↵ » par «   »

← Version précédente		Version du 29 janvier 2024 à 13:44
Ligne 8 :		Ligne 8 :
	== Anglais ==		== Anglais ==
	'''generalization in backprop'''		'''generalization in backprop'''

Pitpitt : Remplacement de texte : « ↵ » par «  ==Sources== »

2024-01-28T03:43:54Z

Remplacement de texte : « ↵<small> » par «  ==Sources== »

← Version précédente		Version du 27 janvier 2024 à 23:43
Ligne 10 :		Ligne 10 :


	~~<small>~~
			==Sources==

	[http://www.cse.unsw.edu.au/~billw/dictionaries/mldict.html Source : INWS machine learning dictionary] ]		[http://www.cse.unsw.edu.au/~billw/dictionaries/mldict.html Source : INWS machine learning dictionary] ]

	[[Catégorie:GRAND LEXIQUE FRANÇAIS]]		[[Catégorie:GRAND LEXIQUE FRANÇAIS]]

Imeziani le 9 décembre 2020 à 13:04

2020-12-09T13:04:23Z

← Version précédente		Version du 9 décembre 2020 à 09:04
Ligne 2 :		Ligne 2 :
	L’apprentissage par rétropropagation semble fonctionner en obtenant tout d’abord un ensemble approximatif de poids qui correspondent aux modèles d’entraînement d’une manière générale, puis en avançant progressivement vers un ensemble de poids qui correspondent exactement aux modèles d’entraînement.		L’apprentissage par rétropropagation semble fonctionner en obtenant tout d’abord un ensemble approximatif de poids qui correspondent aux modèles d’entraînement d’une manière générale, puis en avançant progressivement vers un ensemble de poids qui correspondent exactement aux modèles d’entraînement.

	Si l’apprentissage va trop loin dans cette voie, on peut atteindre un ensemble de pondérations qui correspond très bien aux particularités, mais qui ~~n’interpolent~~ pas ~~(c’est-à-dire généralisent)~~ bien.		Si l’apprentissage va trop loin dans cette voie, on peut atteindre un ensemble de pondérations qui correspond très bien aux particularités, mais qui ne s'interpolent pas bien.
	== Français ==		== Français ==
	'''Généralisation en rétropropagation'''		'''Généralisation en rétropropagation'''
Ligne 15 :		Ligne 15 :

	[[Catégorie:GRAND LEXIQUE FRANÇAIS]]		[[Catégorie:GRAND LEXIQUE FRANÇAIS]]
	~~[[Catégorie:Scotty2]]~~

Sihem le 9 décembre 2020 à 04:37

2020-12-09T04:37:25Z

← Version précédente		Version du 9 décembre 2020 à 00:37
Ligne 1 :		Ligne 1 :
	== Définition ==		== Définition ==
	~~L'apprentissage~~ par rétropropagation semble fonctionner en obtenant tout ~~d'abord~~ un ensemble approximatif de poids qui correspondent aux modèles ~~d'entraînement d'une~~ manière générale, puis en avançant progressivement vers un ensemble de poids qui correspondent exactement aux modèles ~~d'entraînement.~~		L’apprentissage par rétropropagation semble fonctionner en obtenant tout d’abord un ensemble approximatif de poids qui correspondent aux modèles d’entraînement d’une manière générale, puis en avançant progressivement vers un ensemble de poids qui correspondent exactement aux modèles d’entraînement.

	Si l'apprentissage va trop loin dans cette voie, on peut atteindre un ensemble de pondérations qui correspond très bien aux particularités, mais qui n'interpolent pas (c'est-à-dire généralisent) bien.

			Si l’apprentissage va trop loin dans cette voie, on peut atteindre un ensemble de pondérations qui correspond très bien aux particularités, mais qui n’interpolent pas (c’est-à-dire généralisent) bien.
	== Français ==		== Français ==
	'''Généralisation en rétropropagation'''		'''Généralisation en rétropropagation'''

Sihem le 2 décembre 2020 à 00:47

2020-12-02T00:47:19Z

← Version précédente		Version du 1 décembre 2020 à 20:47
Ligne 1 :		Ligne 1 :
	== Définition ==		== Définition ==
	L'apprentissage par rétropropagation semble fonctionner en obtenant tout d'abord un ensemble approximatif de poids qui correspondent aux modèles d'entraînement d'une manière générale, puis en ~~progressant~~ progressivement vers un ensemble de poids qui correspondent exactement aux modèles d'entraînement.		L'apprentissage par rétropropagation semble fonctionner en obtenant tout d'abord un ensemble approximatif de poids qui correspondent aux modèles d'entraînement d'une manière générale, puis en avançant progressivement vers un ensemble de poids qui correspondent exactement aux modèles d'entraînement.

	Si l'apprentissage va trop loin dans cette voie, on peut atteindre un ensemble de pondérations qui correspond très bien aux particularités, mais qui n'interpolent pas (c'est-à-dire généralisent) bien.		Si l'apprentissage va trop loin dans cette voie, on peut atteindre un ensemble de pondérations qui correspond très bien aux particularités, mais qui n'interpolent pas (c'est-à-dire généralisent) bien.

Pitpitt : Pitpitt a déplacé la page Generalization in backprop vers Généralisation en rétropropagation

2020-05-19T13:11:48Z

Pitpitt a déplacé la page Generalization in backprop vers Généralisation en rétropropagation

← Version précédente	Version du 19 mai 2020 à 09:11
(Aucune différence)

Pitpitt le 19 mai 2020 à 13:11

2020-05-19T13:11:33Z

← Version précédente		Version du 19 mai 2020 à 09:11
Ligne 1 :		Ligne 1 :

	== Définition ==		== Définition ==
	L'apprentissage par rétropropagation semble fonctionner en obtenant tout d'abord un ensemble approximatif de poids qui correspondent aux modèles d'entraînement d'une manière générale, puis en progressant progressivement vers un ensemble de poids qui correspondent exactement aux modèles d'entraînement.		L'apprentissage par rétropropagation semble fonctionner en obtenant tout d'abord un ensemble approximatif de poids qui correspondent aux modèles d'entraînement d'une manière générale, puis en progressant progressivement vers un ensemble de poids qui correspondent exactement aux modèles d'entraînement.
Ligne 6 :		Ligne 5 :

	== Français ==		== Français ==
	~~xxxxxxx~~		'''Généralisation en rétropropagation'''

	== Anglais ==		== Anglais ==
	'''generalization in backprop'''		'''generalization in backprop'''

	Learning in backprop seems to operate by first of all getting a rough set of weights which fit the training patterns in a general sort of way, and then working progressively towards a set of weights that fit the training patterns exactly. If learning goes too far down this path, one may reach a set of weights that fits the idiosyncrasies of the particular set of patterns very well, but does not interpolate (i.e. generalize) well.

	Moreover, with large complex sets of training patterns, it is likely that some errors may occur, either in the inputs or in the outputs. In that case, and again particularly in the later parts of the learning process, it is likely that backprop will be contorting the weights so as to fit precisely around training patterns that are actually erroneous! This phenomenon is known as over-fitting.

	This problem can to some extent be avoided by stopping learning early. How does one tell when to stop? One method is to partition the training patterns into two sets (assuming that there are enough of them). The larger part of the training patterns, say 80% of them, chosen at random, form the training set, and the remaining 20% are referred to as the test set. Every now and again during training, one measures the performance of the current set of weights on the test set. One normally finds that the error on the training set drops monotonically (that's what a gradient descent algorithm is supposed to do, after all). However, error on the test set (which will be larger, per pattern, than the error on the training set) will fall at first, then start to rise as the algorithm begins to overtrain. Best generalization performance is gained by stopping the algorithm at the point where error on the test set starts to rise.

	<small>		<small>
Ligne 21 :		Ligne 15 :
	[http://www.cse.unsw.edu.au/~billw/dictionaries/mldict.html Source : INWS machine learning dictionary] ]		[http://www.cse.unsw.edu.au/~billw/dictionaries/mldict.html Source : INWS machine learning dictionary] ]

			[[Catégorie:GRAND LEXIQUE FRANÇAIS]]
	~~[[Catégorie:Scotty]]~~		[[Catégorie:Scotty2]]
	~~[[Catégorie:Vocabulary]]~~
	[[Catégorie:~~Apprentissage machine~~]]
	[[Catégorie:~~UNSW~~]]

Pitpitt le 18 mai 2020 à 19:12

2020-05-18T19:12:18Z

← Version précédente		Version du 18 mai 2020 à 15:12
Ligne 1 :		Ligne 1 :

	== Définition ==		== Définition ==
	L'apprentissage par rétropropagation semble fonctionner en obtenant tout d'abord un ensemble approximatif de poids qui correspondent aux modèles d'entraînement d'une manière générale, puis en progressant progressivement vers un ensemble de poids qui correspondent exactement aux modèles d'entraînement.		L'apprentissage par rétropropagation semble fonctionner en obtenant tout d'abord un ensemble approximatif de poids qui correspondent aux modèles d'entraînement d'une manière générale, puis en progressant progressivement vers un ensemble de poids qui correspondent exactement aux modèles d'entraînement.

	Si l'apprentissage va trop loin dans cette voie, on peut atteindre un ensemble de pondérations qui correspond très bien aux particularités, mais qui n'interpolent pas (c'est-à-dire généralisent) bien.		Si l'apprentissage va trop loin dans cette voie, on peut atteindre un ensemble de pondérations qui correspond très bien aux particularités, mais qui n'interpolent pas (c'est-à-dire généralisent) bien.

	== Français ==		== Français ==
	~~'''Généralisation en rétropropagation''' <small> loc. nom. fém. </small>~~		xxxxxxx

	== Anglais ==		== Anglais ==
	'''~~Generalization~~ in backprop'''		'''generalization in backprop'''

			Learning in backprop seems to operate by first of all getting a rough set of weights which fit the training patterns in a general sort of way, and then working progressively towards a set of weights that fit the training patterns exactly. If learning goes too far down this path, one may reach a set of weights that fits the idiosyncrasies of the particular set of patterns very well, but does not interpolate (i.e. generalize) well.

			Moreover, with large complex sets of training patterns, it is likely that some errors may occur, either in the inputs or in the outputs. In that case, and again particularly in the later parts of the learning process, it is likely that backprop will be contorting the weights so as to fit precisely around training patterns that are actually erroneous! This phenomenon is known as over-fitting.

			This problem can to some extent be avoided by stopping learning early. How does one tell when to stop? One method is to partition the training patterns into two sets (assuming that there are enough of them). The larger part of the training patterns, say 80% of them, chosen at random, form the training set, and the remaining 20% are referred to as the test set. Every now and again during training, one measures the performance of the current set of weights on the test set. One normally finds that the error on the training set drops monotonically (that's what a gradient descent algorithm is supposed to do, after all). However, error on the test set (which will be larger, per pattern, than the error on the training set) will fall at first, then start to rise as the algorithm begins to overtrain. Best generalization performance is gained by stopping the algorithm at the point where error on the test set starts to rise.

	<small>		<small>

	[http://www.cse.unsw.edu.au/~billw/dictionaries/mldict.html Source : INWS machine learning dictionary]		[http://www.cse.unsw.edu.au/~billw/dictionaries/mldict.html Source : INWS machine learning dictionary] ]

Pitpitt le 18 mai 2020 à 19:10

2020-05-18T19:10:31Z

← Version précédente		Version du 18 mai 2020 à 15:10
Ligne 1 :		Ligne 1 :
	== Définition ==		== Définition ==
	L'apprentissage du rétropropagation semble fonctionner en obtenant tout d'abord un ensemble approximatif de poids qui correspondent aux modèles d'entraînement d'une manière générale, puis en progressant progressivement vers un ensemble de poids qui correspondent exactement aux modèles d'entraînement.		L'apprentissage par rétropropagation semble fonctionner en obtenant tout d'abord un ensemble approximatif de poids qui correspondent aux modèles d'entraînement d'une manière générale, puis en progressant progressivement vers un ensemble de poids qui correspondent exactement aux modèles d'entraînement.

	Si l'apprentissage va trop loin dans cette voie, on peut atteindre un ensemble de pondérations qui correspond très bien aux particularités ~~de l'ensemble particulier de modèles~~, mais qui n'interpolent pas (c'est-à-dire généralisent) bien.		Si l'apprentissage va trop loin dans cette voie, on peut atteindre un ensemble de pondérations qui correspond très bien aux particularités, mais qui n'interpolent pas (c'est-à-dire généralisent) bien.

	== Français ==		== Français ==

Pitpitt le 18 mai 2020 à 19:08

2020-05-18T19:08:58Z

← Version précédente		Version du 18 mai 2020 à 15:08
Ligne 2 :		Ligne 2 :
	L'apprentissage du rétropropagation semble fonctionner en obtenant tout d'abord un ensemble approximatif de poids qui correspondent aux modèles d'entraînement d'une manière générale, puis en progressant progressivement vers un ensemble de poids qui correspondent exactement aux modèles d'entraînement.		L'apprentissage du rétropropagation semble fonctionner en obtenant tout d'abord un ensemble approximatif de poids qui correspondent aux modèles d'entraînement d'une manière générale, puis en progressant progressivement vers un ensemble de poids qui correspondent exactement aux modèles d'entraînement.

	Si l'apprentissage va trop loin dans cette voie, on peut atteindre un ensemble de pondérations qui correspond très bien aux particularités de l'ensemble particulier de modèles, mais qui n'~~interpole~~ pas (c'est-à-dire généralisent) bien.		Si l'apprentissage va trop loin dans cette voie, on peut atteindre un ensemble de pondérations qui correspond très bien aux particularités de l'ensemble particulier de modèles, mais qui n'interpolent pas (c'est-à-dire généralisent) bien.

	== Français ==		== Français ==