« Régression de crête » : différence entre les versions


m (Imeziani a déplacé la page Ridge Regression vers Régression de crête)
Aucun résumé des modifications
Ligne 1 : Ligne 1 :
==en construction==
== Définition ==
Technique d’analyse de données de régression multiples avec multicolinéarité. Lorsque la [[multicollinéarité]] est avérée, les estimations des [[moindres carrés]] sont sans biais, mais leurs variances étant importantes, elles peuvent être loin de la valeur réelle.


== Définition ==
En ajoutant un degré de biais aux estimations de régression, la régression de crête réduit les erreurs standard. On espère que l’effet net sera de donner des estimations plus fiables.
XXXXXXXXX


== Français ==
== Français ==
''' XXXXXXXXX '''
''' régression de crête '''


== Anglais ==
== Anglais ==
''' Ridge Regression'''
''' ridge regression'''


Ridge regression for neural networks performs regularization during the training phase with the L2 norm, i.e. it adds a term which is the sum of squares of the weights to the objective (loss) function being minimized. Thus, ridge regression minimizes the following during training: Objective = base_loss(weights) + alpha * (sum of squares of the weights) The base_loss will depend on the underling task (e.g. cross-entropy loss for classification) and alpha is generally adjusted during model validation, and is called the regularization parameter. Ridge regression is also called weight decay.




Ligne 16 : Ligne 15 :




[https://deepai.org/machine-learning-glossary-and-terms/ridge-regression  Source : DeepAI.org ]
[https://analyticsinsights.io/top-5-des-types-de-regression/ Source : Analytics Insights ]
 
[[Catégorie:DeepAI.org]]




[[Catégorie:vocabulary]]
[[Catégorie:publication]]

Version du 6 novembre 2021 à 11:44

Définition

Technique d’analyse de données de régression multiples avec multicolinéarité. Lorsque la multicollinéarité est avérée, les estimations des moindres carrés sont sans biais, mais leurs variances étant importantes, elles peuvent être loin de la valeur réelle.

En ajoutant un degré de biais aux estimations de régression, la régression de crête réduit les erreurs standard. On espère que l’effet net sera de donner des estimations plus fiables.

Français

régression de crête

Anglais

ridge regression



Source : Analytics Insights

Récupérée de « https://datafranca.org/wiki/index.php?title=Régression_de_crête&oldid=57946 »

Contributeurs: Imane Meziani, wiki