Estimation contrastive bruitée


Définition

L'estimation contrastive bruitée est une méthode d'échantillonnage généralement utilisée pour entraîner des classificateurs avec un grand nombre de classes en sortie. En effet, le calcul de la fonction softmax sur un grand nombre de classes est extrêmement coûteux. L'estimation contrastive bruitée permet de ramener le problème à un problème de classification binaire en apprenant au classificateur à faire la distinction entre les échantillons de la distribution réelle et une distribution bruitée générée artificiellement.

Français

estimation contrastive bruitée

Anglais

Noise-contrastive estimation (NCE)

Source: archives-ouvertes.fr

Source:L'APPRENTISSAGE PROFOND, Goodfellow, Bengio, Courville, MASSOT 2018

source : Claude Coulombe ( discussion)