« Analyse lexicale » : différence entre les versions


Aucun résumé des modifications
Balise : Éditeur de wikicode 2017
m (Remplacement de texte — « <small>loc. nom. fém. </small> » par « <small> féminin </small> »)
Ligne 4 : Ligne 4 :


==Français==
==Français==
'''analyse lexicale'''  <small>loc. nom. fém. </small>
'''analyse lexicale'''  <small> féminin </small>


'''segmentation'''  <small>nom fém.</small>
'''segmentation'''  <small>nom fém.</small>

Version du 23 mai 2020 à 10:05

Définition

En fouille de texte, l’analyse lexicale, ou segmentation, est la conversion d’une chaîne de caractères (un texte) en une liste de symboles (tokens en anglais) et l'étude des phénomènes (statistiques, morphologiques) relatifs à ces mots. Elle fait partie de la première phase de la chaîne de compilation. Ces symboles sont ensuite consommés lors de l'analyse syntaxique. Un programme réalisant une analyse lexicale est appelé un analyseur lexical (tokenizer ou lexer).

Français

analyse lexicale féminin

segmentation nom fém.


Anglais

tokenization


Source: Wikipedia - Glossaire de l'exploration des données

Source: Wikipedia, Analyse lexicale.