Segmentation


Révision datée du 14 juillet 2023 à 00:26 par Claude COULOMBE (discussion | contributions) (Page créée avec « ==Définition== En '''traitement automatique de la langue naturelle''', la segmentation est la division d’une chaîne de caractères (un texte) en une liste de symb... »)
(diff) ← Version précédente | Voir la version actuelle (diff) | Version suivante → (diff)

Définition

En traitement automatique de la langue naturelle, la segmentation est la division d’une chaîne de caractères (un texte) en une liste de symboles (tokens en anglais) mots ou caractères. Typiquement, il s'agit de la première étape de l’analyse lexicale l'étude des phénomènes (statistiques, morphologiques) relatifs à ces mots.

Français

segmentation

tokénisation calque de l'anglais


Anglais

tokenization