Entropie

Définition

L'entropie est la valeur moyenne de l'information ajoutée par la réalisation d'un événement aléatoire.

Le contexte à considérer est celui d'un ensemble fini et exhaustif d'événements aléatoires indépendants (i.e. s'excluant mutuellement) et de probabilités bien définies.

Compléments

L'entropie peut être assimilée à une mesure du désordre.

Français

entropie

Anglais

entropy

mean information content

average information content

negentropy

Sources

Source : ISI

Source : TERMIUM Plus