Glosario
Seguridad de la IA
Trabajo destinado a evitar que los sistemas de IA causen daños graves, incluidos accidentes, uso indebido y pérdida de control humano significativo.
Última revisión 2026-08-22
En lenguaje claro
La seguridad de la IA cubre un espectro: software convencional y seguridad de productos; robustez y evaluación de sistemas de aprendizaje automático; interfaces de bioseguridad y ciberseguridad; y debates a más largo plazo sobre sistemas generales altamente capaces. Las comunidades no están de acuerdo sobre los plazos, los modelos de amenaza y si la seguridad debe enmarcarse principalmente como un problema técnico, corporativo o de política pública. La seguridad está relacionada con la ética, la seguridad o la protección de los derechos humanos, pero no es idéntica a ellos.
Por qué importa para la gobernanza de la IA
Los argumentos de seguridad dan forma ahora a la regulación, la financiación de la investigación y la diplomacia internacional. Los formuladores de políticas deben especificar a qué daños, a qué sistemas y a qué estándares de evidencia se refieren.
Fuentes autorizadas
- Hiroshima AI Process (opens in a new tab) — G7 / Government of Japan