« Peaufinage de l'espace latent » : différence entre les versions
m (Claude COULOMBE a déplacé la page Peaufinage de représentations vers Peaufinage de l'espace latent) |
Aucun résumé des modifications |
||
| (Une version intermédiaire par le même utilisateur non affichée) | |||
| Ligne 1 : | Ligne 1 : | ||
== Définition == | == Définition == | ||
| Ligne 24 : | Ligne 22 : | ||
<!-- PYREFT, a representation fine-tuning (ReFT) library that supports adapting internal language model representations via trainable interventions. With fewer fine-tuning parameters and more robust performance, pyreft can boost fine-tuning efficiency, decrease fine-tuning cost, while opening the doors to study the interpretability of adapting parameters. --> | <!-- PYREFT, a representation fine-tuning (ReFT) library that supports adapting internal language model representations via trainable interventions. With fewer fine-tuning parameters and more robust performance, pyreft can boost fine-tuning efficiency, decrease fine-tuning cost, while opening the doors to study the interpretability of adapting parameters. --> | ||
== | == Sources == | ||
[https://arxiv.org/pdf/2404.03592 ''ReFT: Representation Finetuning for Language Models'', Wu et al. (2024)] | [https://arxiv.org/pdf/2404.03592 ''ReFT: Representation Finetuning for Language Models'', Wu et al. (2024)] | ||
| Ligne 35 : | Ligne 33 : | ||
[[Catégorie:GRAND LEXIQUE FRANÇAIS]] | [[Catégorie:GRAND LEXIQUE FRANÇAIS]] | ||
[[Catégorie:Publication]] | |||
Version du 18 juin 2024 à 14:51
Définition
Technique de peaufinage d'un grand modèle de langues qui consiste à faire une intervention « ciblée » sur une petite partie de l'espace latent ou de la représentation cachée du grand modèle de langues à la manière de l'APMA (adaptation par modèle auxiliaire).
Compléments
L'intervention « ciblée » vise typiquement une amélioration sémantique du comportement du grand modèle de langues.
Par exemple, on peut ainsi remplacer des mots par des émojis.
Français
peaufinage de l'espace latent
peaufinage de représentations
Anglais
representation fine-tuning
representation finetuning
ReFT
Sources
ReFT: Representation Finetuning for Language Models, Wu et al. (2024)
ReFT: Representation Finetuning for Language Models, Shaoni Mukherjee (2024)
Contributeurs: Claude Coulombe, Patrick Drouin, wiki
