Peaufinage de l'espace latent


En chantier

Définition

Technique de peaufinage d'un grand modèle de langues qui consiste à faire une intervention « ciblée » sur une petite partie de l'espace latent ou de la représentation cachée du grand modèle de langues à la manière de l'APMA (adaptation par modèle auxiliaire).

Compléments

L'intervention « ciblée » vise typiquement une amélioration sémantique du comportement du grand modèle de langues.

Par exemple, on peut ainsi remplacer des mots par des émojis.

Français

peaufinage de l'espace latent

peaufinage de représentations

Anglais

representation fine-tuning

representation finetuning

ReFT

Source

ReFT: Representation Finetuning for Language Models, Wu et al. (2024)

ReFT: Representation Finetuning for Language Models, Shaoni Mukherjee (2024)

Representation fine-tuning (ReFT): A Powerful Parameter-Efficient Way to Fine-tune Language Models, Sachin Mukar

Github - PYREFT