Glosario

Glosario de gobernanza de la IA

Vocabulario básico para la gobernanza de la IA, las políticas y la práctica de interés público. Cada término tiene una página propia, entradas relacionadas y enlaces a fuentes autorizadas. El lenguaje disputado no se trata como doctrina asentada.

40 entradas

Gobernanza de la IALas instituciones, reglas, procesos y prácticas utilizadas para orientar el diseño, despliegue y uso de la inteligencia artificial hacia resultados de interés público.
Regulación de la IANormas jurídicas vinculantes o propuestas que limitan el desarrollo, la comercialización o el uso de sistemas de IA.
Ética de la IAInvestigación normativa sobre lo que constituye un diseño y uso aceptable de la IA, incluidos valores como la dignidad, la justicia, la autonomía y el bien público.
IA responsableUna etiqueta orientada a la práctica para diseñar, implementar y supervisar sistemas de IA de manera que se reduzcan los daños y se alineen con los valores, derechos y leyes declarados.
IA confiableUn término político, especialmente en documentos europeos, para referirse a una IA que es legal, ética y técnicamente sólida.
Seguridad de la IATrabajo destinado a evitar que los sistemas de IA causen daños graves, incluidos accidentes, uso indebido y pérdida de control humano significativo.
Garantía de IARecopilación de evidencia independiente o interna de que un sistema de IA cumple con afirmaciones, estándares o requisitos legales específicos.
Responsabilidad algorítmicaLa expectativa de que las organizaciones puedan explicar, justificar y remediar los efectos de los sistemas algorítmicos que utilizan.
Sesgo algorítmicoSesgo sistemático en los resultados de un sistema algorítmico que puede producir efectos dispares injustificados entre personas o grupos.
Evaluación de impacto algorítmicaUna revisión estructurada del uso previsto, los riesgos y las comunidades afectadas de un sistema algorítmico, que a menudo se requiere antes de su implementación en el sector público.
Evaluación de impacto de la IAUna evaluación de cómo un sistema de IA puede afectar los derechos, la seguridad, la igualdad, el medio ambiente o los intereses públicos a lo largo de su ciclo de vida.
Auditoría de IAUn examen sistemático de un sistema de IA, sus datos, su gobernanza o sus resultados frente a criterios definidos.
Transparencia de la IALa disponibilidad de información significativa sobre la existencia, el propósito, el funcionamiento, las limitaciones y la gobernanza de un sistema de IA.
Explicabilidad de la IALa capacidad de proporcionar razones, en una forma adecuada para una audiencia determinada, de cómo un sistema de IA llegó a un resultado.
Supervisión humanaAcuerdos que mantienen a las personas capaces de comprender, intervenir o anular el funcionamiento de un sistema de IA cuando sea necesario.
IA centrada en el ser humanoUn enfoque que trata los derechos humanos, la capacidad de acción humana y el contexto social como limitaciones de diseño en lugar de consideraciones tardías.
Regulación basada en riesgosUn diseño regulatorio que escala los deberes legales según la gravedad estimada y la probabilidad de daño.
IA de alto riesgoUna categoría legal, especialmente en la legislación de la UE, para los sistemas de IA cuyo uso en contextos específicos genera obligaciones reforzadas.
Modelo fundacionalUn gran modelo de aprendizaje automático entrenado con datos amplios que se puede adaptar a muchas tareas posteriores.
IA de uso generalModelos o sistemas de IA diseñados para realizar una amplia gama de tareas distintas, en lugar de un único uso predefinido.
IA generativaSistemas de inteligencia artificial que producen texto, imágenes, audio, código u otro contenido que se asemeja al material en el que fueron entrenados.
Alfabetización en IAEl conocimiento y las habilidades que las personas necesitan para comprender, cuestionar y utilizar los sistemas de IA en sus roles como trabajadores, ciudadanos y consumidores.
Estándares de IAEspecificaciones técnicas o de gestión documentadas desarrolladas por organismos de normalización o consorcios para respaldar la interoperabilidad, la calidad y la gestión de riesgos.
Adquisición de IALas reglas y prácticas que utilizan los compradores públicos y privados para adquirir sistemas de IA, datos o servicios relacionados.
Gobernanza de datosLas políticas, derechos e infraestructuras que determinan cómo se recopilan, acceden, comparten, protegen y eliminan los datos.
IA y derechos humanosLa aplicación de las leyes y estándares internacionales de derechos humanos al diseño, despliegue y gobernanza de la IA.
IA y democraciaLos efectos de la IA en las elecciones, el debate público, la igualdad política, las instituciones cívicas y las condiciones del autogobierno.
IA y eleccionesEl uso de IA en procesos electorales y campañas políticas, incluidos los riesgos para la integridad, la igualdad del discurso político y la privacidad de los votantes.
IA y sociedad civilEl papel de las organizaciones no gubernamentales, los movimientos y los medios de comunicación independientes a la hora de cuestionar, dar forma y utilizar la IA.
Derechos digitalesLos derechos humanos ejercidos en entornos digitales, incluida la privacidad, la expresión, la asociación, la igualdad y el acceso a la información.
Soberanía de la IAUna afirmación política de que un estado o comunidad debería controlar la infraestructura, los datos y las opciones políticas críticas de la IA en lugar de depender completamente de proveedores externos.
Desarrollo de capacidades en IAEsfuerzos para fortalecer las habilidades, las instituciones y la infraestructura necesarias para que las sociedades gobiernen y se beneficien de la IA.
Informes de incidentes de IALa práctica de documentar y compartir información sobre fallas, uso indebido o daños del sistema de IA para que otros puedan aprender y responder.
Equipo rojo de IAPruebas adversas que intentan provocar comportamientos dañinos, inseguros o que violen las políticas de un sistema de inteligencia artificial.
Evaluación del modeloMedición sistemática de las capacidades, limitaciones, riesgos y desempeño de un modelo de IA en tareas definidas.
Marco de gobernanza de la IAUn conjunto estructurado de principios, procesos o controles destinados a guiar la supervisión de la IA dentro de una organización o entre instituciones.
Gobernanza de la seguridad de la IAArreglos institucionales destinados específicamente a identificar, reducir y supervisar riesgos graves relacionados con la IA.
Modelos abiertos de IAModelos de IA lanzados con alguna combinación de pesos, código, datos o documentación que otros pueden inspeccionar, adaptar o implementar.
IA y políticas públicasEl uso de la autoridad pública (ley, presupuesto, instituciones y diplomacia) para dar forma a cómo se desarrolla y utiliza la IA en la sociedad.
IA en el Sur GlobalLas distintas oportunidades, dependencias y desafíos de gobernanza de la IA en países y comunidades históricamente marginados en la elaboración de normas tecnológicas globales.

¿Tiene un recurso oficial, marco, ley u otra fuente que proponer para una sección de este directorio? Use el formulario de sugerencias (opens in a new tab). La inclusión es editorial y no está garantizada.