« Peaufinage de l'espace latent » : différence entre les versions

Version du 18 juin 2024 à 13:25

Technique de peaufinage d'un grand modèle de langues qui consiste à intervenir « chirurgicalement » sur une petite partie de l'espace latent ou représentation finale du grand modèle de langues à la manière de l'APMA (Adaptation par modèle auxiliaire).

peaufinage de l'espace latent

peaufinage de représentations

representation fine-tuning

@@ Ligne 2 : / Ligne 2 : @@
 == Définition ==
+Technique de [[Peaufinage d'un grand modèle de langues|peaufinage d'un grand modèle de langues]] qui consiste à intervenir « chirurgicalement » sur une petite partie de l'[[espace latent]] ou représentation finale du [[grand modèle de langues]] à la manière de l'APMA ([[Adaptation par modèle auxiliaire]]).
 == Français ==
+''' peaufinage de l'espace latent '''
 ''' peaufinage de représentations '''
-''' peaufinage d'espace latent '''
 == Anglais ==
 ''' representation fine-tuning '''
 <!-- PYREFT, a representation fine-tuning (ReFT) library that supports adapting internal language model representations via trainable interventions. With fewer fine-tuning parameters and more robust performance, pyreft can boost fine-tuning efficiency, decrease fine-tuning cost, while opening the doors to study the interpretability of adapting parameters. -->