« BERT » : différence entre les versions

Version du 24 mai 2023 à 19:04

Définition

Acronyme anglais de Bidirectional Encoder Representations from Transformers (Représentations d'encodeur bidirectionnel à partir de réseaux autoattentifs. Créé par une équipe de Google en 2018, BERT fut le premier grand modèle de langue.

Compléments

BERT utilise une stratégie d'apprentissage profond du traitement automatique du langage naturel (TALN) dans lequel des réseaux autoattentifs sont entraînés d'une manière bidirectionnelle par apprentissage non supervisé.

Français

BERT

Anglais

BERT

Bidirectional Encoder Representations from Transformers

Source : Wikipedia (BERT - Language model)

Source: Definir Tech

@@ Ligne 1 : / Ligne 1 : @@
 == Définition ==
-Acronyme anglais de ''Bidirectional Encoder Representations from Transformers'' (Représentations d'encodeur bidirectionnel à partir de ''[[Réseau autoattentif|réseaux autoattentifs]]'', BERT fut le premier grand [[modèle de langue]], créé par une équipe de Google en 2018.
+Acronyme anglais de ''Bidirectional Encoder Representations from Transformers'' (Représentations d'encodeur bidirectionnel à partir de ''[[Réseau autoattentif|réseaux autoattentifs]]''.  Créé par une équipe de Google en 2018, BERT fut le premier grand [[modèle de langue]].
-BERT utilise une stratégie d'apprentissage profond du [[traitement automatique du langage naturel]] (TALN) dans lequel les réseaux de neurones profonds utilisent des modèles bidirectionnels avec une représentation du langage non supervisée.
+== Compléments ==
+BERT utilise une stratégie d'apprentissage profond du [[traitement automatique du langage naturel]] (TALN) dans lequel des [[Réseau autoattentif|réseaux autoattentifs]] sont entraînés d'une manière bidirectionnelle par apprentissage non supervisé.
 == Français ==