« Boîte noire » : différence entre les versions
Aucun résumé des modifications |
Aucun résumé des modifications |
||
| Ligne 1 : | Ligne 1 : | ||
== Définition == | ==Définition== | ||
Un comportement de boîte noire | Un comportement de boîte noire caractérise un algorithme dont on ignore le mécanisme interne de décision. On peut juger des données qui entrent (ou intrants) dans la boîte (l’algorithme) et des résultats qui en sortent (les extrants), mais sans vraiment savoir ce qui se passe à l’intérieur. | ||
Il est difficile de faire confiance à un algorithme « boîte noire » dans des domaines délicats comme la médecine la justice ou la finance. | Il est difficile de faire confiance à un algorithme « boîte noire » dans des domaines délicats comme la médecine, la justice ou la finance. | ||
==Compléments== | ==Compléments== | ||
Par exemple, les réseaux de neurones profonds obtiennent souvent des résultats impressionnants, mais ils ont cependant un point faible : leur fonctionnement est opaque. L’ [https://datafranca.org/wiki/Interpr%C3%A9tabilit%C3%A9 interprétabilité]et l'[https://datafranca.org/wiki/Explicabilit%C3%A9 explicabilité] des résultats d’un modèle profond par un humain demeurent de beaux défis pour la recherche. | Par exemple, les réseaux de neurones profonds obtiennent souvent des résultats impressionnants, mais ils ont cependant un point faible : leur fonctionnement est opaque. L’ [https://datafranca.org/wiki/Interpr%C3%A9tabilit%C3%A9 interprétabilité]et l'[https://datafranca.org/wiki/Explicabilit%C3%A9 explicabilité] des résultats d’un modèle profond par un humain demeurent de beaux défis pour la recherche. | ||
<hr/> | <hr /> | ||
Parfois, le comportement de « boîte noire » est adopté par une entreprise pour protéger le secret commercial. | Parfois, le comportement de « boîte noire » est adopté par une entreprise pour protéger le secret commercial. | ||
== Français == | ==Français== | ||
'''Boîte noire''' | '''Boîte noire''' | ||
== Anglais == | ==Anglais== | ||
'''Black box''' | '''Black box''' | ||
<small> | <small> | ||
[https://www.lesechos.fr/tech-medias/intelligence-artificielle/les-boites-noires-du-deep-learning-137363 | [https://www.lesechos.fr/tech-medias/intelligence-artificielle/les-boites-noires-du-deep-learning-137363 Source : Les Echos] | ||
[https://thenextweb.com/artificial-intelligence/2017/09/10/glossary-basic-artificial-intelligence-terms-concepts/ | [https://thenextweb.com/artificial-intelligence/2017/09/10/glossary-basic-artificial-intelligence-terms-concepts/ Source : The next web] | ||
</small><br> <div style="border:2px solid #336699; background: #f6f6f6; padding: 1em; margin-bottom:1em; width: 90%;"><html><a href="https://datafranca.org/wiki/Cat%C3%A9gorie:101"><img src="https://datafranca.org/images/icone-101-mots.png" width="250"></a></html> | </small><br> <div style="border:2px solid #336699; background: #f6f6f6; padding: 1em; margin-bottom:1em; width: 90%;"><html><a href="https://datafranca.org/wiki/Cat%C3%A9gorie:101"><img src="https://datafranca.org/images/icone-101-mots.png" width="250"></a></html> | ||
Version du 22 août 2022 à 07:25
Définition
Un comportement de boîte noire caractérise un algorithme dont on ignore le mécanisme interne de décision. On peut juger des données qui entrent (ou intrants) dans la boîte (l’algorithme) et des résultats qui en sortent (les extrants), mais sans vraiment savoir ce qui se passe à l’intérieur.
Il est difficile de faire confiance à un algorithme « boîte noire » dans des domaines délicats comme la médecine, la justice ou la finance.
Compléments
Par exemple, les réseaux de neurones profonds obtiennent souvent des résultats impressionnants, mais ils ont cependant un point faible : leur fonctionnement est opaque. L’ interprétabilitéet l'explicabilité des résultats d’un modèle profond par un humain demeurent de beaux défis pour la recherche.
Parfois, le comportement de « boîte noire » est adopté par une entreprise pour protéger le secret commercial.
Français
Boîte noire
Anglais
Black box
Contributeurs: Claude Coulombe, Imane Meziani, wiki
