IA constitutionnelle

Définition

Dans un système d'IA constitutionnelle, la constitution est un cadre éthique (éventuellement légal) sur lequel le comportement du système fondé.

Complément

La constitution définit les principes fondamentaux qui permettent d'attribuer des poids afin de filtrer les interactions et les prises de décisions d'un système d'IA dans le but d'éviter les débordements (racisme, sexisme, etc.), les biais et la désinformation. Certains système relèguent entièrement cette tâche de filtrage et de renforcement des comportements à des humains.

Français

IA constitutionnelle

intelligence artificielle constitutionnelle

IA fondée sur une constitution

intelligence artificielle fondée sur une constitution

Anglais

constitutional AI

constitutional artificial intelligence

Source : arxiv