« GPT » : différence entre les versions
Aucun résumé des modifications |
m (Remplacement de texte : « ↵<small> » par « ==Sources== ») |
||
Ligne 21 : | Ligne 21 : | ||
'''Generative Pre-training''' | '''Generative Pre-training''' | ||
==Sources== | |||
[https://cdn.openai.com/research-covers/language-unsupervised/language_understanding_paper.pdf Source : OpenAI - Improving Language Understanding by Generative Pre-Training] | [https://cdn.openai.com/research-covers/language-unsupervised/language_understanding_paper.pdf Source : OpenAI - Improving Language Understanding by Generative Pre-Training] |
Version du 27 janvier 2024 à 22:36
Définition
Acronyme anglais de Generative Pre-Training, GPT est un grand modèle de langues (GML) résultant de l'entraînement d'un modèle de langue au moyen d'un réseau de neurones autoattentif (en anglais, Transformer). Autrement dit, en français, GPT est une grand modèle de langues génératif préentraîné.
Compléments
GPT fut créé par une équipe d'OpenAI en juin 2018. Il s'ensuivit GPT-2 en février 2019, GPT-3 en mai 2020 et GPT-4 en 2022. À noter, GPT devint l'acronyme de Generative Pre-trained Transformer. C'est-à-dire en français, grand modèle de langues génératif autoattentif préentraîné.
Français
GPT
grand modèle de langues génératif préentraîné
GMLGP
grand modèle de langues génératif autoattentif préentraîné
GMLGAP
Anglais
GPT
Generative Pre-training
Sources
Source : OpenAI - Improving Language Understanding by Generative Pre-Training
Source : OpenAI - Improving Language Understanding with Unsupervised Learning
Contributeurs: Claude Coulombe, Patrick Drouin, wiki