« Initialisation du poids » : différence entre les versions


(Page créée avec « ==en construction== == Définition == XXXXXXXXX == Français == ''' XXXXXXXXX ''' == Anglais == ''' Weight Initialization''' The point of weight initialization is to m... »)
 
Aucun résumé des modifications
 
(2 versions intermédiaires par un autre utilisateur non affichées)
Ligne 1 : Ligne 1 :
==en construction==
== Définition ==
== Définition ==
XXXXXXXXX
Procédure permettant de fixer les poids d'un réseau neuronal à de petites valeurs aléatoires qui définissent le point de départ de l'optimisation (apprentissage ou formation) du modèle de réseau neuronal.


== Français ==
== Français ==
''' XXXXXXXXX '''
''' initialisation du poids '''


== Anglais ==
== Anglais ==
''' Weight Initialization'''
''' weight initialization'''
 
The point of weight initialization is to make sure that a neural network doesn’t converge to a trivial solution.
If the weights are all initialized to the same value(eg. equal to zero) then each unit will get exactly the same signal and every layer would behave as if it were a single cell.
Therefore, you want to randomly initialize the weights near zero, but not equal to zero. This is an expectation of the stochastic optimization algorithm that’s used to train the model.
<small>


[https://towardsdatascience.com/ten-deep-learning-concepts-you-should-know-for-data-science-interviews-a77f10bb9662 Source : towardsdatascience]
[https://machinelearningmastery.com/weight-initialization-for-deep-learning-neural-networks/ Source : Machine Learning Mastery]
[https://www.linkedin.com/learning/tensorflow-pour-le-deep-learning Source : LikedIn Learning]




[[Catégorie:vocabulary]]
[[Catégorie:GRAND LEXIQUE FRANÇAIS]]

Dernière version du 3 septembre 2022 à 08:52

Définition

Procédure permettant de fixer les poids d'un réseau neuronal à de petites valeurs aléatoires qui définissent le point de départ de l'optimisation (apprentissage ou formation) du modèle de réseau neuronal.

Français

initialisation du poids

Anglais

weight initialization

Source : Machine Learning Mastery Source : LikedIn Learning

Récupérée de « https://datafranca.org/wiki/index.php?title=Initialisation_du_poids&oldid=63232 »

Contributeurs: Imane Meziani, wiki