Échantillonnage par priorité

Définition

Méthode d'échantillonnage déterministe qui produit des échantillons uniques classés par ordre de confiance par le modèle.

Voir aussi échantillonnage des k-meilleurs, échantillonnage des p-meilleurs et expression rationnelle

Complément

L'échantillonnage par priorité est utilisé par les grands modèles de langues, plus particulièrement pour la génération automatique de code. Il prend en charge la génération d'échantillons basée sur des expressions régulières qui fournissent un processus d'exploration contrôlable et structuré. Par conséquent, elle se concentre toujours sur la recherche dans la direction la plus intéressante en fonction des échantillons précédents, plutôt que de se baser sur une prédiction statistique comme pour l'échantillonnage des p-meilleurs (nucleus sampling).

Français

échantillonnage par priorité

Anglais

priority sampling

Sources

Source : Arxiv