Approche par l'équipe rouge

Définition

Ensemble de techniques éthiques visant à tester les performances et la sécurité d'un modèle afin d'explorer ses vulnérabilités et ses risques.

Compléments

L'approche par l'équipe rouge a vu le jour dans le domaine militaire afin d'identifier les faiblesses des stratégies et des défenses. Au fil du temps, cette approche s'est étendue à d'autres domaines, comme la cybersécurité et l'intelligence artificielle.

Ces techniques comprennent des approches manuelles (red-teaming), automatisées (automatic red-teaming) et mixtes.

L'approche inverse se nomme Blue-teaming. Il y a des liens intéressants à faire avec les concepts de black, white et gray hat en cybersécurité.

Français

approche par l'équipe rouge

approche de l'équipe rouge

Anglais

red-teaming

Set of techniques to challenge the model’s performance and security to explore its vulnerabilities and risks. These techniques include manual, automated and mixed approaches. Red-teaming strengthens systems against real-world threats and helps built up-to-date benchmarks and safety evaluations.

Sources

Termium Plus - Approche par l'équipe rouge

Hackread

OpenAI

Weforum

Wikipedia