Réseau de Kolmogorov–Arnold
Définition
Un réseau de Kolmogorov-Arnold est un réseau de neurones entraîné en apprenant une fonction d'activation pour chaque arête d'un réseau de neurones, plutôt qu'une seule fonction d'activation en sortie du neurone comme dans un perceptron multicouche.
Compléments
En mai 2024, les chercheurs du MIT, de Caltech, de Northeastern et l'Institut de la NSF Institute for AI and Fundamental Interactions ont développé le réseau Kolmogorov-Arnold comme alternative au perceptron multicouche. Contrairement à ce dernier, dont les fonctions d'activation des nœuds sont fixes, les RKA utilisent des fonctions d'activation apprises sur les arêtes, en remplaçant les poids linéaires par des splines paramétrées. L'emploi de splines pour approximer une fonction par apprentissage constitue une application pratique du théorème de représentation de Kolmogorov-Arnold.
Malgré que les réseaux KA demandent d'avantage de calcul, ils offrent l'avantage d'une meilleure interprétabilité et d'une plus grande précision.
Français
réseau de Kolmogorov–Arnold
réseau KA
RKA (prononcé R-K)
Anglais
Kolmogorov–Arnold Network
KAN
Source
Contributeurs: Claude Coulombe, Patrick Drouin, wiki