« Fonction convexe » : différence entre les versions


(Page créée avec « __NOTOC__ == Domaine == Category:VocabulaireVocabulaire<br /> Category:GoogleGoogle<br /> Category:Apprentissage profondApprentissage profond<br /> <br /> ==... »)
 
Aucun résumé des modifications
 
(34 versions intermédiaires par 3 utilisateurs non affichées)
Ligne 1 : Ligne 1 :
__NOTOC__
== Domaine ==
[[Category:Vocabulaire]]Vocabulaire<br />
[[Category:Google]]Google<br />
[[Category:Apprentissage profond]]Apprentissage profond<br />
<br />
== Définition ==
== Définition ==
Fonction dans laquelle la région au-dessus du graphique est un ensemble convexe. Classiquement, une fonction convexe est en forme de U. Par exemple, les fonctions suivantes sont toutes des fonctions convexes :
'''[[Fonction]]''' dans laquelle la région au-dessus du graphique est un ensemble convexe. Classiquement, une fonction convexe est en forme de U.  


Une fonction convexe typique est en U.
== Français ==
'''fonction convexe''' 


À titre de comparaison, la fonction suivante n'est pas convexe. Notez comment la région au-dessus du graphique diffère d'un ensemble convexe :
== Anglais ==
 
'''convex function '''
Une fonction non convexe.
 
Une fonction strictement convexe possède exactement un minimum local, qui est également le minimum global. Les fonctions classiques en U sont des fonctions strictement convexes. Ce n'est pas le cas de certaines fonctions convexes, comme les droites.
 
De nombreuses fonctions de perte courantes, telles que les fonctions suivantes, sont convexes :
 
    Perte L2
    Perte logistique
    Régularisation L1
    Régularisation L2
 
Dans de nombreux cas de descente de gradient, on peut être certain de trouver un point proche du minimum d'une fonction strictement convexe. De même, dans de nombreux cas de descente de gradient stochastique, la probabilité est forte de trouver un point proche du minimum d'une fonction strictement convexe, bien que cela ne soit pas garanti pour autant.
 
La somme de deux fonctions convexes (par exemple, perte L2 + régularisation L1) est une fonction convexe.
 
Les modèles profonds ne sont jamais des fonctions convexes. Il est à noter que les algorithmes conçus pour l'optimisation convexe tendent de toute façon à trouver des solutions raisonnablement bonnes pour les réseaux profonds, même s'il n'est pas certain que ces solutions soient des minimums globaux.


==Sources==


<br />
[https://developers.google.com/machine-learning/glossary/ Source : Google machine learning glossary ]
== Termes privilégiés ==
=== fonction convexe  ===
 
 
<br />
== Anglais ==
 
=== convex function ===


<br/>
[[Category:GRAND LEXIQUE FRANÇAIS]]
<br/>
[[Category:Apprentissage profond]]
<br/>
[https://developers.google.com/machine-learning/glossary/  Source: Google machine learning glossary ]
<br/>
<br/>
<br/>

Dernière version du 24 mars 2024 à 21:36

Définition

Fonction dans laquelle la région au-dessus du graphique est un ensemble convexe. Classiquement, une fonction convexe est en forme de U.

Français

fonction convexe

Anglais

convex function

Sources

Source : Google machine learning glossary