« BERT » : différence entre les versions
m (Remplacement de texte : « ↵↵↵ » par « ») |
m (Remplacement de texte : « ↵↵==Sources== » par « ==Sources== ») |
||
| Ligne 13 : | Ligne 13 : | ||
'''Bidirectional Encoder Representations from Transformers''' | '''Bidirectional Encoder Representations from Transformers''' | ||
==Sources== | ==Sources== | ||
Dernière version du 30 août 2024 à 13:51
Définition
Acronyme anglais de Bidirectional Encoder Representations from Transformers (Représentations d'encodeur bidirectionnel à partir de réseaux autoattentifs. Créé par une équipe de Google en 2018, BERT fut le premier grand modèle de langue.
Compléments
BERT utilise une stratégie d'apprentissage profond du traitement automatique du langage naturel (TALN) dans lequel des réseaux autoattentifs sont entraînés d'une manière bidirectionnelle par apprentissage non supervisé.
Français
BERT
Anglais
BERT
Bidirectional Encoder Representations from Transformers
Sources
Contributeurs: Claude Coulombe, Imane Meziani, Jean Benoît Morel, wiki
