Représentation creuse

Définition

Représentation d'un Tensor qui ne stocke que des éléments différents de zéro.

Par exemple, la langue anglaise comprend environ un million de mots. Considérons deux façons de représenter un nombre de mots utilisés dans une phrase en anglais :

Une représentation dense de cette phrase doit définir un entier pour un million de cellules, en plaçant un 0 dans la plupart d'entre eux et un entier faible dans quelques-unes d'entre elles. Une représentation creuse de cette phrase ne stocke que les cellules qui symbolisent un mot effectivement utilisé dans la phrase. Ainsi, si la phrase ne contenait que 20 mots uniques, la représentation creuse de la phrase stockerait un entier dans 20 cellules seulement. À titre d'exemple, voyons deux façons de représenter la phrase "Dogs Wag Tails." Comme le montrent les tableaux suivants, la représentation dense consomme environ un million de cellules, tandis que la représentation creuse n'en consomme que 3 :