Glossaire
Équipe rouge IA
Tests contradictoires qui tentent de susciter un comportement nuisible, non sécurisé ou contraire aux politiques de la part d'un système d'IA.
Dernière revue 2026-08-22
En langage clair
Le red-teaming, emprunté aux pratiques de sécurité, est désormais courant pour les modèles génératifs. Cela peut être interne, contractuel ou coordonné avec les gouvernements. Les limites incluent une couverture incomplète, des contraintes juridiques imposées aux testeurs et l’écart entre les attaques en laboratoire et les utilisations abusives dans le monde réel. Le Red-Teaming est une méthode, pas une certification.
Pourquoi c’est important pour la gouvernance de l’IA
Les décideurs politiques mentionnent de plus en plus le red-teaming comme un contrôle de sécurité. Les acheteurs et les régulateurs devraient se demander qui a testé quoi, par rapport à quel modèle de menace et ce qui a changé par la suite.