« Intervention en temps d'inférence » : différence entre les versions


Aucun résumé des modifications
(Aucune différence)

Version du 31 juillet 2023 à 09:15

Définition

L'Intervention du Temps d'Inférence (ITI) est une technique conçue pour améliorer la véracité des grands modèles de langage. 

L'ITI fonctionne en déplaçant les activations du modèle pendant l'inférence, en suivant un ensemble de directions à travers un nombre limité de têtes d'attention (Un ensemble composé des matrices).

Français

Intervention en temps d'inférence


Anglais

Inference-time Intervention

ITI


Source : arXiv.org



Contributeurs: Maya Pentsch, wiki