« BERT » : différence entre les versions


Aucun résumé des modifications
Aucun résumé des modifications
Ligne 1 : Ligne 1 :
==en construction==
== Définition ==
== Définition ==
Transformer-based machine learning technique for natural language processing (NLP).
Acronyme anglais de ''Bidirectional Encoder Representations from Transformers'' (Représentations d'encodeur bidirectionnel à partir de transformateurs), BERT est un type de stratégie d'apprentissage profond du traitement du langage naturel dans lequel les réseaux de neurones profonds utilisent des modèles bidirectionnels avec une représentation du langage non supervisée.
 
Introduced by Google in 2019, BERT is a massive pre-trained deeply bidirectional encoder-based transformer model that comes in two variants. BERT-Base has 110 million parameters, and BERT-Large has 340 million parameters.


== Français ==
== Français ==
Ligne 19 : Ligne 16 :
[https://en.wikipedia.org/wiki/BERT_(language_model)  Source : Wikipedia (BERT - Language model) ]
[https://en.wikipedia.org/wiki/BERT_(language_model)  Source : Wikipedia (BERT - Language model) ]


[https://ai.googleblog.com/2018/11/open-sourcing-bert-state-of-art-pre.html  Source : googleblog.com ]
[https://definir-tech.com/representations-codeur-bidirectionnel-des-transformateurs-bert/ Source: Definir Tech]


[https://www.kdnuggets.com/2021/11/guide-word-embedding-techniques-nlp.html  Source : kdnuggets.com ]




[[Catégorie:vocabulary]]
[[Catégorie:publication]]

Version du 23 novembre 2021 à 13:44

Définition

Acronyme anglais de Bidirectional Encoder Representations from Transformers (Représentations d'encodeur bidirectionnel à partir de transformateurs), BERT est un type de stratégie d'apprentissage profond du traitement du langage naturel dans lequel les réseaux de neurones profonds utilisent des modèles bidirectionnels avec une représentation du langage non supervisée.

Français

BERT

Anglais

BERT

Bidirectional Encoder Representations from Transformers



Source : Wikipedia (BERT - Language model)

Source: Definir Tech