Quantification

Définition

Technique de compression d'une réseau neuronal qui permet de réduire la taille d'un réseau neuronal en convertissant les poids et les biais du réseau de leur format original en virgule flottante (par exemple 32 bits) à un format de moindre précision (par exemple 16 ou 8 bits).

Compléments

L'objectif ultime de la quantification est de réduire la taille de notre modèle, ce qui permet de réduire la consommation de la mémoire et les besoins de calcul pour exécuter l'inférence. Par exemple, pour que le modèle puisse fonctionner sur un téléphone mobile.

---

La quantification peut réduire la performance d'un modèle. Il y a donc un compromis à faire entre la taille du modèle et sa précision.

---

Typiquement, on entraîne le modèle avec un maximum de précision et on utilise la quantification au besoin.

Français

Quantification

Anglais

Quantisation

Source : towardsdatascience

Source : mathworks