« Estimation contrastive bruitée » : différence entre les versions

Dernière version du 31 janvier 2024 à 11:13

Définition

L'estimation contrastive bruitée est une méthode d'échantillonnage généralement utilisée pour entraîner des classificateurs avec un grand nombre de classes en sortie. En effet, le calcul de la fonction softmax sur un grand nombre de classes est extrêmement coûteux. L'estimation contrastive bruitée permet de ramener le problème à un problème de classification binaire en apprenant au classificateur à faire la distinction entre les échantillons de la distribution réelle et une distribution bruitée générée artificiellement.

Français

estimation contrastive bruitée

Anglais

Noise-contrastive estimation (NCE)

Sources

Source: archives-ouvertes.fr

Source:L'APPRENTISSAGE PROFOND, Goodfellow, Bengio, Courville, MASSOT 2018

source : Claude Coulombe ( discussion)

@@ Ligne 1 : / Ligne 1 : @@
-== Domaine ==
+==Définition==
-[[Category:Vocabulary]]<br>
+L'estimation contrastive bruitée est une méthode d'échantillonnage généralement utilisée pour entraîner des classificateurs avec un grand nombre de classes en sortie. En effet, le calcul de la fonction softmax sur un grand nombre de classes est extrêmement coûteux. L'estimation contrastive bruitée permet de ramener le problème à un problème de classification binaire en apprenant au classificateur à faire la distinction entre les échantillons de la distribution réelle et une distribution bruitée générée artificiellement.
-[[Category:Intelligence artificielle]]Intelligence artificielle<br>
-[[Catégorie:Apprentissage automatique]]Apprentissage automatique<br>
-[[Catégorie:Méthode d'échantillonnage]]Méthode d'échantillonnage<br>
-[[Category:Coulombe]]Coulombe<br>
-[[Catégorie:Scotty]]<br>
-== Définition ==
-L'estimation contrastive bruitée est une méthode d'échantillonnage généralement utilisée pour entraîner des classificateurs avec un grand nombre de classes en sortie. En effet, le calcul de la fonction softmax sur un grand nombre de classes est extrêmement coûteux. L'estimation contrastive bruitée permet de ramener le problème à un problème de classification binaire en apprenant au classificateur à faire la distinction entre les échantillons de la distribution réelle et une distribution bruitée générée artificiellement.
+==Français==
+'''estimation contrastive bruitée'''
+==Anglais==
+'''Noise-contrastive estimation'''  (NCE)
-== Français ==
+==Sources==
-estimation contrastive bruitée
-Source:
+[https://tel.archives-ouvertes.fr/tel-02054671/document Source: archives-ouvertes.fr]
-https://tel.archives-ouvertes.fr/tel-02054671/document
+[https://www.leslibraires.ca/livres/l-apprentissage-profond-ian-goodfellow-9791097160432.html Source:L'APPRENTISSAGE PROFOND, ''Goodfellow, Bengio, Courville,'' MASSOT 2018]
-== Anglais ==
+[[Utilisateur:Claude COULOMBE | source : Claude Coulombe]] ([[Discussion utilisateur:Claude COULOMBE | discussion]])
-'''Noise-contrastive estimation (NCE)'''
-Noise-contrastive estimation is a sampling loss typically used to train classifiers with a large output vocabulary. Calculating the softmax over a large number of possible classes is prohibitively expensive. Using NCE, we can reduce the problem to binary classification problem by training the classifier to discriminate between samples from the “real” distribution and an artificially generated noise distribution.
+[[Category:GRAND LEXIQUE FRANÇAIS]]
-•	Noise-contrastive estimation: A new estimation principle for unnormalized statistical models
-•	Learning word embeddings efficiently with noise-contrastive estimation