Entropie
Définition
L'entropie est la valeur moyenne de l'information ajoutée par la réalisation d'un événement aléatoire.
Le contexte à considérer est celui d'un ensemble fini et exhaustif d'événements aléatoires indépendants (i.e. s'excluant mutuellement) et de probabilités bien définies.
Compléments
L'entropie peut être assimilée à une mesure du désordre.
Français
entropie
Anglais
entropy
mean information content
average information content
negentropy
Sources
Contributeurs: Claire Gorjux, Claude Coulombe, wiki
