GML en tant que juge
en construction
Définition
Une (famille de) technique(s) de traitement automatique de la langue naturelle qui utilise un grand modèle de langues (GML) pour évaluer le travail d'un autre GML. Une requête effectuée dans le cadre d'une évaluation par un GML comporte en général les trois éléments suivants: le contexte de la tâche et les textes à évaluer, une explication des critères d'évaluation et un format de réponse qui encode la décision du « GML juge ».
Compléments
- Important: Cette technique ne supprime pas la nécessité du jugement humain!
- Les GML (comme juge) performants peuvent établir une corrélation étroite avec les jugements humains sur de nombreuses tâches. Cependant, ils présentent des biais systématiques et des modes de défaillance.
- La tâche peut comporter un ou plusieurs textes de référence, ou non.
Français
GML en tant que juge
GML comme juge
Anglais
LLM-as-a-judge
Sources
Contributeurs: Arianne Arel
