Entropie de Shannon


Révision datée du 22 mai 2020 à 11:03 par Pitpitt (discussion | contributions) (Remplacement de texte — « <small> loc. nom. fém. </small> » par « <small> féminin </small> »)

Définition

L'entropie de Shannon, due à Claude Shannon, est une fonction mathématique qui, intuitivement, correspond à la quantité d'information contenue ou délivrée par une source d'information. Cette source peut être un texte écrit dans une langue donnée, un signal électrique ou encore un fichier informatique quelconque (collection d'octets).

Du point de vue d'un récepteur, plus la source émet d'informations différentes, plus l'entropie (ou incertitude sur ce que la source émet) est grande. Ainsi, si une source envoie toujours le même symbole, par exemple la lettre «a», alors son entropie est nulle, c'est-à-dire minimale. Par contre, si la source envoie un «a» la moitié du temps et un «b» l'autre moitié, le récepteur est incertain de la prochaine lettre à recevoir.

Français

entropie de Shannon féminin

Anglais

Shannon entropy

Source : Wikipedia IA



Contributeurs: Jacques Barolet, wiki