« Modèle fondateur » : différence entre les versions

Version du 24 décembre 2022 à 18:19

Définition

Des chercheurs de l'Université Stanford ont proposé le terme modèle fondateur (« foundation model ») pour définir un ensemble de grands modèles de langue basés sur des architectures de réseau autoattentif pré-entraînées sur de vastes corpus parfois selon plusieurs modalités (texte, voix, images, etc.).

Les modèles fondateurs comme BERT, GPT-3, DALL-E peuvent être adaptés à un large éventail de tâches.

Compléments

Les modèles fondateurs constituent un changement radical de paradigme en IA. Ils représentent une augmentation spectaculaire des capacités en termes de précision, de qualité et d'extrapolation à de nouvelles tâches.

Les modèles fondateurs présentent également des problèmes évidents d'utilisation à des fins de désinformation, l'exacerbation des biais et le risque d'oligopole de l'intelligence artificielle entre les mains de quelques entreprises.

Français

modèle fondateur

Anglais

foundation model

Source : arxiv.org

Source : youtube

@@ Ligne 1 : / Ligne 1 : @@
+== Définition ==
+Des chercheurs de l'Université Stanford ont proposé le terme modèle fondateur (« foundation model ») pour définir un ensemble de grands modèles de langue basés sur des architectures de réseau autoattentif pré-entraînées sur de vastes corpus parfois selon plusieurs modalités (texte, voix, images, etc.).
+Les modèles fondateurs comme [[BERT]], [[GPT-3]], [[DALL-E]] peuvent être adaptés à un large éventail de tâches.
-==en construction==
+==Compléments==
-== Définition ==
+Les modèles fondateurs constituent un changement radical de paradigme en IA. Ils représentent une augmentation spectaculaire des capacités en termes de précision, de qualité et d'extrapolation à de nouvelles tâches.
-XXXXXXXXX
+Les modèles fondateurs présentent également des problèmes évidents d'utilisation à des fins de désinformation, l'exacerbation des biais et le risque d'oligopole de l'intelligence artificielle entre les mains de quelques entreprises.
 == Français ==
-''' XXXXXXXXX '''
+'''modèle fondateur'''
 == Anglais ==
-''' Foundation Model'''
+'''foundation model'''
- By foundation model (e.g. BERT, GPT-3, DALL-E), we mean a single model that is trained on raw data, potentially across multiple modalities, which can be usefully adapted to a wide range of tasks. These models have demonstrated clear potential, which we see as the beginnings of a sweeping paradigm shift in AI. They represent a dramatic increase in capability in terms of accuracy, generation quality, and extrapolation to new tasks, but they also pose clear risks such as use for widespread disinformation, potential exacerbation of historical inequities, and problematic centralization of power.
 <small>
@@ Ligne 18 : / Ligne 22 : @@
 [https://www.youtube.com/watch?v=dG628PEN1fY    Source : youtube ]
 [[Catégorie:vocabulary]]