« Encodage positionnel » : différence entre les versions
Aucun résumé des modifications |
Aucun résumé des modifications |
||
| Ligne 1 : | Ligne 1 : | ||
== Définition == | == Définition == | ||
Méthode des '''[[Réseau autoattentif|réseaux autoattentifs]]''' qui aide à préserver l’ordre séquentiel des '''[[jeton | Méthode des '''[[Réseau autoattentif|réseaux autoattentifs]]''' qui aide à préserver l’ordre séquentiel des '''[[jeton génératif|jetons génératifs]]''' (tokens) en ajoutant des informations sur la position de chaque '''[[jeton génératif|jeton]]''' dans la séquence, ce qui leur permet d’avoir une meilleure compréhension '''[[Fenêtre contextuelle|contextuelle]]''' et d’éviter les problèmes de symétrie. | ||
== Français == | == Français == | ||
| Ligne 16 : | Ligne 16 : | ||
[https://www.btb.termiumplus.gc.ca/tpv2alpha/alpha-eng.html?lang=eng&i=1&srchtxt=POSITIONAL+ENCODING&index=alt&codom2nd_wet=1#resultrecs Source : TERMIUM Plus] | [https://www.btb.termiumplus.gc.ca/tpv2alpha/alpha-eng.html?lang=eng&i=1&srchtxt=POSITIONAL+ENCODING&index=alt&codom2nd_wet=1#resultrecs Source : TERMIUM Plus] | ||
[[Catégorie:GRAND LEXIQUE FRANÇAIS]] | [[Catégorie:GRAND LEXIQUE FRANÇAIS]] | ||
[[Catégorie:Publication]] | |||
Dernière version du 29 septembre 2026 à 14:56
Définition
Méthode des réseaux autoattentifs qui aide à préserver l’ordre séquentiel des jetons génératifs (tokens) en ajoutant des informations sur la position de chaque jeton dans la séquence, ce qui leur permet d’avoir une meilleure compréhension contextuelle et d’éviter les problèmes de symétrie.
Français
encodage positionnel
Anglais
positional encoding
PE
Sources
Contributeurs: Arianne Arel, Claude Coulombe, Patrick Drouin, wiki
