« Segmentation » : différence entre les versions
(Page blanchie) Balise : Blanchiment |
Aucun résumé des modifications |
||
| Ligne 1 : | Ligne 1 : | ||
==Définition== | |||
En '''[[traitement automatique de la langue naturelle]]''', la segmentation est la division d’une chaîne de caractères (un texte) en une liste de symboles (''tokens'' en anglais) mots ou caractères. Typiquement, il s'agit de la première étape de l’analyse lexicale l'étude des phénomènes (statistiques, morphologiques) relatifs à ces mots. | |||
==Français== | |||
'''segmentation''' | |||
'''tokénisation''' <small>calque de l'anglais</small> | |||
==Anglais== | |||
'''tokenization ''' | |||
<small> | |||
* [https://fr.wikipedia.org/wiki/Glossaire_de_l%27exploration_de_donn%C3%A9es Source: Wikipedia - ''Glossaire de l'exploration des données''] | |||
* [https://fr.wikipedia.org/wiki/Analyse_lexicale Source: Wikipedia, ''Analyse lexicale'']. | |||
[[Catégorie:GRAND LEXIQUE FRANÇAIS]] | |||
Version du 14 juillet 2023 à 01:28
Définition
En traitement automatique de la langue naturelle, la segmentation est la division d’une chaîne de caractères (un texte) en une liste de symboles (tokens en anglais) mots ou caractères. Typiquement, il s'agit de la première étape de l’analyse lexicale l'étude des phénomènes (statistiques, morphologiques) relatifs à ces mots.
Français
segmentation
tokénisation calque de l'anglais
Anglais
tokenization
Contributeurs: Claude Coulombe, Patrick Drouin, wiki
