« Distillation des connaissances » : différence entre les versions


Aucun résumé des modifications
Aucun résumé des modifications
Ligne 1 : Ligne 1 :
== en construction ==
== Définition ==
== Définition ==
La XXXXXX est le processus qui permet de transférer les connaissances d'un grand modèle à un plus petit modèle sans perte de validité et en conservant la précision lors de la compression du modèle.
La distillation des connaissances est le processus qui permet de transférer les connaissances d'un grand modèle à un plus petit modèle sans perte de validité et en conservant la précision lors de la compression du modèle.


== Français ==
== Français ==
''' XXXXXX'''
''' distillation des connaissances'''


== Anglais ==
== Anglais ==
Ligne 22 : Ligne 20 :




[[Catégorie:vocabulary]]
[[Catégorie:publication]]

Version du 22 octobre 2024 à 09:24

Définition

La distillation des connaissances est le processus qui permet de transférer les connaissances d'un grand modèle à un plus petit modèle sans perte de validité et en conservant la précision lors de la compression du modèle.

Français

distillation des connaissances

Anglais

knowledge distillation

model distillation

Knowledge distillation is the process to transfer knowledge from large model to smaller one without loss of validity and retains accuracy with model compression.

Sources

Source : Wikipédia

Source : Proceeding Neurips

Source : Paper with code

Contributeurs: Arianne , wiki