« Initialisation du poids » : différence entre les versions

Version du 1 septembre 2022 à 12:48

Définition

Procédure permettant de fixer les poids d'un réseau neuronal à de petites valeurs aléatoires qui définissent le point de départ de l'optimisation (apprentissage ou formation) du modèle de réseau neuronal.

Français

initialisation du poids

Anglais

weight initialization

Source : Machine Learning Mastery Source : LikedIn Learning

@@ Ligne 1 : / Ligne 1 : @@
-==en construction==
 == Définition ==
-XXXXXXXXX
+Procédure permettant de fixer les poids d'un réseau neuronal à de petites valeurs aléatoires qui définissent le point de départ de l'optimisation (apprentissage ou formation) du modèle de réseau neuronal.
 == Français ==
-''' XXXXXXXXX '''
+''' initialisation du poids '''
 == Anglais ==
-''' Weight Initialization'''
+''' weight initialization'''
-The point of weight initialization is to make sure that a neural network doesn’t converge to a trivial solution.
-If the weights are all initialized to the same value(eg. equal to zero) then each unit will get exactly the same signal and every layer would behave as if it were a single cell.
-Therefore, you want to randomly initialize the weights near zero, but not equal to zero. This is an expectation of the stochastic optimization algorithm that’s used to train the model.
-<small>
-[https://towardsdatascience.com/ten-deep-learning-concepts-you-should-know-for-data-science-interviews-a77f10bb9662  Source : towardsdatascience]
+[https://machinelearningmastery.com/weight-initialization-for-deep-learning-neural-networks/ Source : Machine Learning Mastery]
+[https://www.linkedin.com/learning/tensorflow-pour-le-deep-learning  Source : LikedIn Learning]
-[[Catégorie:vocabulary]]
+[[Catégorie:PUBLICATION]]

« Initialisation du poids » : différence entre les versions

Version du 1 septembre 2022 à 12:48

Définition

Français

Anglais

« Initialisation du poids » : différence entre les versions