« Intervention en temps d'inférence » : différence entre les versions
(Page créée avec « ==en construction== == Définition == XXXXXXXXX == Français == ''' XXXXXXXXX ''' == Anglais == ''' Inference-time Intervention''' '''ITI''' A technique designed to... ») |
m (Remplacement de texte : « ↵<small> » par « ==Sources== ») |
||
| (10 versions intermédiaires par 2 utilisateurs non affichées) | |||
| Ligne 1 : | Ligne 1 : | ||
== | == Définition == | ||
L'Intervention en Temps d'Inférence (ITI) est une technique conçue pour améliorer la véracité des grands modèles de langage. | |||
L'ITI fonctionne en déplaçant les activations du modèle pendant l'[[inférence]], en suivant un ensemble de directions à travers un nombre limité de têtes d'attention (Un ensemble composé des matrices). | |||
== Français == | == Français == | ||
''' | '''Intervention en temps d'inférence''' | ||
== Anglais == | == Anglais == | ||
''' | '''Inference-time Intervention''' | ||
'''ITI''' | '''ITI''' | ||
[ | ==Sources== | ||
[https://arxiv.org/abs/2306.03341#:~:text=We%20introduce%20Inference%2DTime%20Intervention,limited%20number%20of%20attention%20heads. Source : arXiv.org ] | |||
[[Catégorie: | [[Catégorie:GRAND LEXIQUE FRANÇAIS]] | ||
Dernière version du 27 janvier 2024 à 22:51
Définition
L'Intervention en Temps d'Inférence (ITI) est une technique conçue pour améliorer la véracité des grands modèles de langage.
L'ITI fonctionne en déplaçant les activations du modèle pendant l'inférence, en suivant un ensemble de directions à travers un nombre limité de têtes d'attention (Un ensemble composé des matrices).
Français
Intervention en temps d'inférence
Anglais
Inference-time Intervention
ITI
Sources
Contributeurs: Maya Pentsch, wiki
