DMD2


Révision datée du 24 octobre 2024 à 20:19 par Pitpitt (discussion | contributions)
(diff) ← Version précédente | Voir la version actuelle (diff) | Version suivante → (diff)

Définition

DMD2 est une nouvelle technique de distillation de correspondance de distribution qui améliore l'entraînement de DMD. DMD2 ne requiert pas un calcul de perte de régression pour assurer un entraînement stable. Ceci élimine la collecte de données coûteuse et permet un entraînement plus souple et évolutif.

Français

DMD2

Anglais

DMD2

DMD2 is a new distribution matching distillation technique that improves DMD training. DMD2 does not require a regression loss calculation to ensure stable training. This eliminates costly data collection and enables more flexible and scalable training.

Sources

Source : arxiv

Source : github

Contributeurs: Arianne , wiki