« Boîte noire » : différence entre les versions

Dernière version du 29 janvier 2024 à 11:30

Définition

Un comportement de boîte noire caractérise un algorithme dont on ignore le mécanisme interne de décision. On peut juger des données qui entrent (ou intrants) dans la boîte (l’algorithme) et des résultats qui en sortent (les extrants), mais sans vraiment savoir ce qui se passe à l’intérieur.

Il est difficile de faire confiance à un algorithme « boîte noire » dans des domaines délicats comme la médecine, la justice ou la finance.

Compléments

Par exemple, les réseaux de neurones profonds obtiennent souvent des résultats impressionnants, mais ils ont cependant un point faible : leur fonctionnement est opaque. L’ interprétabilitéet l'explicabilité des résultats d’un modèle profond par un humain demeurent de beaux défis pour la recherche.

Parfois, le comportement de « boîte noire » est adopté par une entreprise pour protéger le secret commercial.

Français

Boîte noire

Anglais

Black box

Sources

Source : Les Echos

Source : The next web

101 MOTS DE L' IA
Ce terme est sélectionné pour le livre « Les 101 mots de l'intelligence artificielle »

@@ Ligne 1 : / Ligne 1 : @@
+==Définition==
-== en construction ==
+Un comportement de boîte noire caractérise un algorithme dont on ignore le mécanisme interne de décision. On peut juger des données qui entrent (ou intrants) dans la boîte (l’algorithme) et des résultats qui en sortent (les extrants), mais sans vraiment savoir ce qui se passe à l’intérieur.
-[[Catégorie:Vocabulary]]
-[[Catégorie:Intelligence artificielle]]
+Il est difficile de faire confiance à un algorithme « boîte noire » dans des domaines délicats comme la médecine, la justice ou la finance.
+==Compléments==
+Par exemple, les réseaux de neurones profonds obtiennent souvent des résultats impressionnants, mais ils ont cependant un point faible : leur fonctionnement est opaque. L’ [https://datafranca.org/wiki/Interpr%C3%A9tabilit%C3%A9 interprétabilité]et l'[https://datafranca.org/wiki/Explicabilit%C3%A9 explicabilité] des résultats d’un modèle profond par un humain demeurent de beaux défis pour la recherche.
+<hr />
+Parfois, le comportement de « boîte noire » est adopté par une entreprise pour protéger le secret commercial.
+==Français==
+'''Boîte noire'''
+==Anglais==
+'''Black box'''
-== Définition ==
+==Sources==
-xxxxxxx
-== Français ==
-xxxxxxx
-== Anglais ==
-'''Black box learning'''
-When the rules are applied an AI does a lot of complex math. This math, often, can’t even be understood by humans (and sometimes it just wouldn’t be worth the time it would take for us to figure it all out) yet the system outputs useful information. When this happens it’s called black box learning. The real work happens in such a way that we don’t really care how the computer arrived at the decisions it’s made, because we know what rules it used to get there. Black box learning is how we can ethically skip “showing our work” like we had to in high school algebra.
+[https://www.lesechos.fr/tech-medias/intelligence-artificielle/les-boites-noires-du-deep-learning-137363 Source : Les Echos]
+[https://thenextweb.com/artificial-intelligence/2017/09/10/glossary-basic-artificial-intelligence-terms-concepts/ Source : The next web]
-<small>
+</small><br> {{Modèle:101}}<br>
-[https://thenextweb.com/artificial-intelligence/2017/09/10/glossary-basic-artificial-intelligence-terms-concepts/   Source : The next web]
+[[Catégorie:GRAND LEXIQUE FRANÇAIS]]
+[[Catégorie:101]]