« Modèle substitut » : différence entre les versions
Aucun résumé des modifications |
m (Remplacement de texte : « ↵<small> » par « ==Sources== ») |
||
| (7 versions intermédiaires par 3 utilisateurs non affichées) | |||
| Ligne 1 : | Ligne 1 : | ||
== Définition == | == Définition == | ||
Un modèle substitut est une approximation explicable d'un modèle boîte noire obtenue par entrainement sur les résultats et les données issus de ce modèle boîte noire. | Un modèle substitut est une approximation plus facilement explicable ([[modèle linéaire]] ou [[Arbre_de_d%C3%A9cision|modèle à base d'arbre]]) d'un modèle de type [[boîte noire]] obtenue par entrainement sur les résultats et les données issus de ce modèle [[boîte noire]]. | ||
==Compléments== | ==Compléments== | ||
Un modèle substitut peut être entraîné à partir des données ou un sous-ensemble de données | |||
utilisées par l’algorithme à interpréter ainsi que les résultats de prédiction de l’algorithme de | |||
type boîte noire. Il subsistera toujours une différence entre le modèle substitut et le modèle devant être interprété. | |||
Un modèle substitut peut-être global ou local. Un modèle substitut local approxime adéquatement une partie des résultats d’un algorithme de type boîte noire. Il s’agit alors d’apporter des « [[LIME|explications locales interprétables par un modèle dit « agnostique »]] », plus connues sous l’acronyme anglais [[LIME]] (« [[LIME|local interpretable model-agnostic explanations]] ») | |||
== Français == | == Français == | ||
''' modèle substitut ''' | ''' modèle substitut ''' | ||
''' modèle substitut global ''' | |||
''' modèle substitut local ''' | |||
== Anglais == | == Anglais == | ||
''' surrogate model''' | ''' surrogate model''' | ||
<-- Global surrogates are really easy to understand, that’s an advantage of this method. First you build a black box model on the training data with the real labels. Then you let the model predict the labels for the same data and you build an interpretable model on the data with the predicted labels. Because the surrogate model is interpretable and build on the predictions of the black box model you learn how the black box model makes its prediction. | ''' global surrogate model''' | ||
''' global surrogate-model''' | |||
''' global surrogate''' | |||
''' local surrogate model''' | |||
''' local surrogate-model''' | |||
''' local surrogate''' | |||
<!-- Global surrogates are really easy to understand, that’s an advantage of this method. First you build a black box model on the training data with the real labels. Then you let the model predict the labels for the same data and you build an interpretable model on the data with the predicted labels. Because the surrogate model is interpretable and build on the predictions of the black box model you learn how the black box model makes its prediction. | |||
--> | --> | ||
==Sources== | |||
[https://cyberjustice.openum.ca/files/sites/102/VfinaleLABCJ-E%CC%81piste%CC%81mologie-de-lIA_v2-1.pdf Source : Boileau et al. (2022)] | [https://cyberjustice.openum.ca/files/sites/102/VfinaleLABCJ-E%CC%81piste%CC%81mologie-de-lIA_v2-1.pdf Source : Boileau et al. (2022)] | ||
| Ligne 23 : | Ligne 42 : | ||
[[Catégorie: | [[Catégorie:GRAND LEXIQUE FRANÇAIS]] | ||
Dernière version du 28 janvier 2024 à 10:36
Définition
Un modèle substitut est une approximation plus facilement explicable (modèle linéaire ou modèle à base d'arbre) d'un modèle de type boîte noire obtenue par entrainement sur les résultats et les données issus de ce modèle boîte noire.
Compléments
Un modèle substitut peut être entraîné à partir des données ou un sous-ensemble de données utilisées par l’algorithme à interpréter ainsi que les résultats de prédiction de l’algorithme de type boîte noire. Il subsistera toujours une différence entre le modèle substitut et le modèle devant être interprété.
Un modèle substitut peut-être global ou local. Un modèle substitut local approxime adéquatement une partie des résultats d’un algorithme de type boîte noire. Il s’agit alors d’apporter des « explications locales interprétables par un modèle dit « agnostique » », plus connues sous l’acronyme anglais LIME (« local interpretable model-agnostic explanations »)
Français
modèle substitut
modèle substitut global
modèle substitut local
Anglais
surrogate model
global surrogate model
global surrogate-model
global surrogate
local surrogate model
local surrogate-model
local surrogate
Sources
Contributeurs: Claude Coulombe, Patrick Drouin, wiki
