« GPT » : différence entre les versions
Aucun résumé des modifications |
Aucun résumé des modifications |
||
(2 versions intermédiaires par un autre utilisateur non affichées) | |||
Ligne 1 : | Ligne 1 : | ||
== Définition == | == Définition == | ||
Acronyme anglais de ''Generative Pre- | Acronyme anglais de ''Generative Pre-training Tranformer'', GPT est un [[grand modèle de langues]] (GML) résultant du pré-entraînement d'un [[Modèle de langue|modèle de langue]] au moyen d'un [[Réseau autoattentif|réseau de neurones autoattentif]] (en anglais, Transformer) sur un large corpus générique. Autrement dit, en français, GPT est un [[grand modèle de langues]] autoattentif préentraîné génératif. | ||
== Compléments == | == Compléments == | ||
GPT | À l'origine le modèle s'appelait ''Snuffleupagus''. Puis GPT pour « Generative Pre-Training » fut créé par une équipe d'OpenAI en juin 2018. En février 2019, avec [[GPT-2]], GPT devint l'acronyme de ''Generative Pre-trained Transformer'', puis [[GPT-3]] en mai 2020 et [[GPT-4]] en 2022. | ||
<hr/> | |||
En français, nous proposons: [[grand modèle de langues]] autoattentif préentraîné génératif. Bien entendu, l'ordre: 1) modèle, 2) autoattentif, 3) préentraîné, 4) génératif et la division de l'acronyme en deux parties 1) M, 2) APG, demeurent des sujets à discuter. | |||
== Français == | == Français == | ||
Ligne 14 : | Ligne 16 : | ||
'''modèle autoattentif préentraîné génératif''' | '''modèle autoattentif préentraîné génératif''' | ||
''' | '''M-APG''' | ||
'''grand modèle de langues autoattentif préentraîné génératif''' | '''grand modèle de langues autoattentif préentraîné génératif''' | ||
''' | '''GML-APG''' | ||
== Anglais == | == Anglais == | ||
Ligne 36 : | Ligne 38 : | ||
[[Catégorie:GRAND LEXIQUE FRANÇAIS]] | [[Catégorie:GRAND LEXIQUE FRANÇAIS]] | ||
Dernière version du 12 juillet 2024 à 10:11
Définition
Acronyme anglais de Generative Pre-training Tranformer, GPT est un grand modèle de langues (GML) résultant du pré-entraînement d'un modèle de langue au moyen d'un réseau de neurones autoattentif (en anglais, Transformer) sur un large corpus générique. Autrement dit, en français, GPT est un grand modèle de langues autoattentif préentraîné génératif.
Compléments
À l'origine le modèle s'appelait Snuffleupagus. Puis GPT pour « Generative Pre-Training » fut créé par une équipe d'OpenAI en juin 2018. En février 2019, avec GPT-2, GPT devint l'acronyme de Generative Pre-trained Transformer, puis GPT-3 en mai 2020 et GPT-4 en 2022.
En français, nous proposons: grand modèle de langues autoattentif préentraîné génératif. Bien entendu, l'ordre: 1) modèle, 2) autoattentif, 3) préentraîné, 4) génératif et la division de l'acronyme en deux parties 1) M, 2) APG, demeurent des sujets à discuter.
Français
GPT
générateur autoattentif préentraîné
GAP
modèle autoattentif préentraîné génératif
M-APG
grand modèle de langues autoattentif préentraîné génératif
GML-APG
Anglais
GPT
Generative Pre-trained Transformers
Generative Pre-training
Sources
Source : OpenAI - Improving Language Understanding by Generative Pre-Training
Source : OpenAI - Improving Language Understanding with Unsupervised Learning
![](/wiki/annonces/DF annonce livre.jpg)
Contributeurs: Claude Coulombe, Patrick Drouin, wiki