Glossaire
Sécurité de l'IA
Travaux visant à empêcher les systèmes d’IA de causer de graves dommages, notamment des accidents, une mauvaise utilisation et une perte de contrôle humain significatif.
Dernière revue 2026-08-22
En langage clair
La sécurité de l’IA couvre un spectre : la sécurité conventionnelle des logiciels et des produits ; robustesse et évaluation des systèmes d’apprentissage automatique ; interfaces de biosécurité et de cybersécurité ; et des débats à plus long terme sur des systèmes généraux hautement performants. Les communautés ne sont pas d’accord sur les délais, les modèles de menace et sur la question de savoir si la sécurité doit être considérée principalement comme un problème technique, d’entreprise ou de politique publique. La sécurité est liée, mais non identique, à l'éthique, à la sécurité ou à la protection des droits de l'homme.
Pourquoi c’est important pour la gouvernance de l’IA
Les arguments liés à la sécurité façonnent désormais la réglementation, le financement de la recherche et la diplomatie internationale. Les décideurs politiques doivent préciser de quels préjudices, de quels systèmes et de quelles normes en matière de preuves il s’agit.
Sources faisant autorité
- Hiroshima AI Process (opens in a new tab) — G7 / Government of Japan