« Verbalized Sampling » : différence entre les versions
(Page créée avec « == EN CONSTRUCTION == == Définition == xxxxx == Français == ''' xxxxx ''' == Anglais == '''Verbalized Sampling''' How to Mitigate Mode Collapse and Unlock LLM Diversity https://arxiv.org/abs/2510.01171 A training-free prompting strategy to mitigate mode collapse in LLMs by requesting responses with probabilities. Achieves 2-3x diversity improvement while maintaining quality. Model-agnostic framework with CLI/API for creative writing, synthetic data gen... ») |
Aucun résumé des modifications |
||
| (Une version intermédiaire par le même utilisateur non affichée) | |||
| Ligne 2 : | Ligne 2 : | ||
== Définition == | == Définition == | ||
<!--Technique d''''[[ingénierie de requêtes]]''' qui améliore la diversité des '''[[Grand modèles de langues (GML)|grands modèles de langues (GML)]]''' en demandant au GML de générer plusieurs réponses accompagnées de leurs probabilités, puis en effectuant un échantillonnage à partir de cette distribution. Elle ne nécessite aucun apprentissage, elle est indépendante du GML et elle est efficace pour tous types de tâches. De plus, elle améliore les performances sans compromettre la précision factuelle ni la sécurité des modèles.--> | |||
Voir aussi '''[[LLM-as-a-judge]]''' | |||
== Français == | == Français == | ||
''' xxxxx ''' | ''' xxxxx ''' | ||
== Compléments == | |||
<!--This method is orthogonal to temperature.--> | |||
== Anglais == | == Anglais == | ||
'''Verbalized Sampling''' | '''Verbalized Sampling''' | ||
''' VS''' | |||
<!--A prompting strategy that improves LLM diversity by asking the model to generate multiple responses with their probabilities, then sampling from this distribution. It is training free, model agnostic and effective across tasks and it improves performance without sacrificing the models’ factual accuracy or safety.--> | |||
==Sources== | ==Sources== | ||
[https:// | [https://arxiv.org/abs/2510.01171 Source : arxiv] | ||
[https://github.com/CHATS-lab/verbalized-sampling Source : GitHub] | |||
[https://www.verbalized-sampling.com/ Source : Verbalized Sampling] | |||
[[Catégorie:vocabulary]] | [[Catégorie:vocabulary]] | ||
Dernière version du 13 mars 2026 à 11:19
EN CONSTRUCTION
Définition
Voir aussi LLM-as-a-judge
Français
xxxxx
Compléments
Anglais
Verbalized Sampling
VS
Sources
Contributeurs: Arianne Arel, wiki
