Red teaming

Le terme vient du monde militaire et de la cybersécurité, où une « équipe rouge » joue l’ennemi pour éprouver les défenses. Appliqué à l’IA, il s’agit de chercher méthodiquement à faire dérailler le modèle : obtenir des contenus dangereux, contourner ses règles, lui faire divulguer des données ou exécuter des actions non prévues. Les tests mêlent experts humains de divers domaines et outils automatisés générant des milliers de tentatives. Les failles trouvées servent ensuite à renforcer l’entraînement et les garde-fous, puis à relancer de nouveaux tests.