« Suppression de jeton » : différence entre les versions


Aucun résumé des modifications
Aucun résumé des modifications
 
Ligne 1 : Ligne 1 :
== Définition ==
== Définition ==
Technique utilisée pour le '''[[préentraînement]]''' d’un '''[[modèle de langue|modèle]]''' où les '''[[jeton textuel / jeton génératif|jetons textuels ou jetons génératifs]]''' sont retirés de manière aléatoire des documents afin de permettre au modèle de déterminer les jetons à partir desquels les positions sont supprimées.
Technique utilisée pour le '''[[préentraînement]]''' d’un '''[[modèle de langue|modèle]]''' où des '''[[jeton génératif|jetons génératifs]]''' sont retirés de manière aléatoire des documents afin de permettre au modèle de déterminer les jetons à partir desquels les positions sont supprimées.


== Français ==
== Français ==
''' suppression de jeton textuel / génératif'''
''' suppression de jeton génératif'''


''' destruction de jeton textuel / génératif'''
''' suppression de jeton'''
 
''' destruction de jeton génératif'''
 
''' destruction de jeton'''


== Anglais ==
== Anglais ==
Ligne 17 : Ligne 21 :


[[Catégorie:GRAND_LEXIQUE_FRANÇAIS]]
[[Catégorie:GRAND_LEXIQUE_FRANÇAIS]]
[[Catégorie:Publication]]

Dernière version du 29 septembre 2026 à 14:44

Définition

Technique utilisée pour le préentraînement d’un modèle où des jetons génératifs sont retirés de manière aléatoire des documents afin de permettre au modèle de déterminer les jetons à partir desquels les positions sont supprimées.

Français

suppression de jeton génératif

suppression de jeton

destruction de jeton génératif

destruction de jeton

Anglais

token deletion

Sources

Source : arxiv

Source : GitHub