Modèle de langue neuronal

Domaine

Intelligence artificielle
Apprentissage profond

Définition

Modèle de langue qui se base sur des représentations apprises par des réseaux de neurones.

Note

Les modèles de langue sont utilisés pour prédire le prochain mot d'une phrase dans un contexte particulier.

Dans un modèle de langue classique, une occurrence d’un mot dans son contexte est considérée comme la réalisation d’une variable aléatoire discrète, dont l’espace de réalisation est le vocabulaire tout entier et au sein duquel il n’existe aucune relation entre les mots. Les représentations des modèles neuronaux viennent palier cette lacune. (Source 2)

Français

modèle de langue neuronal

Source : Do, Quoc-Khanh Do;  Alexandre Allauzen et François Yvon (2014). Modèles de langue neuronaux: une comparaison de plusieurs stratégies d’apprentissage, Actes de TALN, Marseille, 12 pages.

Anglais

neural language model