Peaufinage de l'espace latent

Définition

Technique de peaufinage d'un grand modèle de langues qui consiste à faire une intervention « ciblée » sur une petite partie de l'espace latent ou de la représentation cachée du grand modèle de langues à la manière de l'APMA (adaptation par modèle auxiliaire).

Compléments

L'intervention « ciblée » vise typiquement une amélioration sémantique du comportement du grand modèle de langues.

Français

peaufinage de l'espace latent

peaufinage de représentations

Anglais

representation fine-tuning

representation finetuning

ReFT

Source

ReFT: Representation Finetuning for Language Models, Wu et al. (2024)

ReFT: Representation Finetuning for Language Models, Shaoni Mukherjee (2024)

Representation fine-tuning (ReFT): A Powerful Parameter-Efficient Way to Fine-tune Language Models, Sachin Mukar

Github - PYREFT