Sûreté de l'intelligence artificielle

Définition

Un domaine interdisciplinaire qui s'intéresse aux impacts à long terme de l'IA et à la façon dont elle pourrait évoluer soudainement vers une superintelligence qui pourrait être hostile aux humains.

Il a pour but d'empêcher les accidents, abus ou autres conséquences néfastes pouvant résulter des systèmes d'intelligence artificielle. Cela englobe notamment l'éthique des machines et l'alignement des intelligences artificielles (qui visent à rendre les systèmes d'IA moraux et bénéfiques), la conception de haute fiabilité et la surveillance des systèmes d'IA, mais aussi le développement de normes et de politiques favorisant la sécurité.

Français

sûreté de l'intelligence artificielle

sûreté de l'IA

Anglais

artificial intelligence security

AI security

Sources

[ https://www.vectra.ai/learning/ai-security Source: Vectra AI ]

[ https://fr.wikipedia.org/wiki/S%C3%BBret%C3%A9_des_intelligences_artificielles Source: Wikipedia ]