Attaque adverse

Définition

Les attaques par entrées malicieuses visent à soumettre des données sournoises ou corrompues à système d'IA en phase de production.

Les attaques par entées malicieuses concernent autant les images, les textes ou la voix.

Par exemple, on peut vouloir déjouer un système de reconnaissance faciale,

On pourrait maquiller un arrêt obligatoire pour qu'il ne soit pas reconnu par un système de vision d'une voiture autonome.

Faire fabuler un grand modèle de langues pour qu'il révèle des informations autrement non accessibles.

Gagner l'accès à un système protégé par une système de reconnaissance vocale.

attaque par entrées malicieuses

attaque par exemples contradictoires

adversarial attack