Boîte noire

Définition

Un comportement de boîte noire qualifie un algorithme dont on ignore le mécanisme interne de décision. Par exemple, les réseaux de neurones profonds obtiennent souvent des résultats intéressants, mais ils ont cependant un point faible : leur fonctionnement apparaît comme opaque. Ce phénomène se nomme « boîte noire » (black box), dans le sens où l'on peut juger des données qui entrent dans la boîte et des résultats qui en sortent, mais sans savoir ce qui se passe à l'intérieur. Il est difficile de faire confiance à un tel algorithme surtout dans des domaines vitaux comme la médecine et la justice.

Compléments

Si les réseaux de neurones profonds obtiennent souvent des résultats supérieurs, ils ont cependant un point faible : leur fonctionnement apparaît comme bien plus opaque. Un phénomène appelé « boîte noire » ( black box ), dans le sens où l'on peut juger des données qui entrent dans la boîte et des résultats qui en sortent, mais sans savoir ce qui se passe à l'intérieur.

Français

Boîte noire

Anglais

Black box

Source : Les Echos

Source : The next web