« Boîte noire » : différence entre les versions

Version du 6 août 2022 à 16:16

Définition

Un comportement de boîte noire qualifie un algorithme dont on ignore le mécanisme interne de décision. On peut juger des données qui entrent dans la boîte (l'algorithme) et des résultats qui en sortent, mais sans vraiment savoir ce qui se passe à l'intérieur.

Il est difficile de faire confiance à un algorithme « boîte noire » dans des domaines délicats comme la médecine la justice ou la finance.

Compléments

Par exemple, les réseaux de neurones profonds obtiennent souvent des résultats impressionnants, mais ils ont cependant un point faible : leur fonctionnement est opaque.

Français

Boîte noire

Anglais

Black box

Source : Les Echos

Source : The next web

@@ Ligne 1 : / Ligne 1 : @@
 == Définition ==
-Un comportement de boîte noire qualifie un algorithme dont on ignore le mécanisme interne de décision. Par exemple, les réseaux de neurones profonds obtiennent souvent des résultats intéressants, mais ils ont cependant un point faible : leur fonctionnement apparaît comme opaque. Ce phénomène se nomme « boîte noire » (black box), dans le sens où l'on peut juger des données qui entrent dans la boîte et des résultats qui en sortent, mais sans savoir ce qui se passe à l'intérieur. Il est difficile de faire confiance à un tel algorithme surtout dans des domaines vitaux comme la médecine et la justice.
+Un comportement de boîte noire qualifie un algorithme dont on ignore le mécanisme interne de décision. On peut juger des données qui entrent dans la boîte (l'algorithme) et des résultats qui en sortent, mais sans vraiment savoir ce qui se passe à l'intérieur.
+Il est difficile de faire confiance à un algorithme « boîte noire » dans des domaines délicats comme la médecine la justice ou la finance.
 ==Compléments==
+Par exemple, les réseaux de neurones profonds obtiennent souvent des résultats impressionnants, mais ils ont cependant un point faible : leur fonctionnement est opaque.
-Si les réseaux de neurones profonds obtiennent souvent des résultats supérieurs, ils ont cependant un point faible : leur fonctionnement apparaît comme bien plus opaque. Un phénomène appelé « boîte noire » ( ''black box '' ), dans le sens où l'on peut juger des données qui entrent dans la boîte et des résultats qui en sortent, mais sans savoir ce qui se passe à l'intérieur.
 == Français ==