Glossaire

Glossaire de la gouvernance de l’IA

Vocabulaire de base pour la gouvernance de l’IA, les politiques et la pratique d’intérêt public. Chaque terme a une page dédiée, des notices liées et des liens vers des sources faisant autorité. Le langage contesté n’est pas traité comme une doctrine établie.

40 entrées

Gouvernance de l'IALes institutions, règles, processus et pratiques utilisés pour orienter la conception, le déploiement et l’utilisation de l’intelligence artificielle vers des résultats d’intérêt public.
Réglementation de l'IARègles juridiques contraignantes ou proposées qui limitent le développement, la mise sur le marché ou l’utilisation de systèmes d’IA.
Éthique de l'IAEnquête normative sur ce qui constitue une conception et une utilisation acceptables de l’IA, y compris des valeurs telles que la dignité, la justice, l’autonomie et le bien public.
IA responsableUn label axé sur la pratique pour concevoir, déployer et superviser des systèmes d'IA de manière à réduire les dommages et à s'aligner sur les valeurs, les droits et les lois déclarés.
Une IA digne de confianceUn terme politique, notamment dans les documents européens, pour désigner une IA licite, éthique et techniquement robuste.
Sécurité de l'IATravaux visant à empêcher les systèmes d’IA de causer de graves dommages, notamment des accidents, une mauvaise utilisation et une perte de contrôle humain significatif.
Assurance IACollecte de preuves indépendantes ou internes démontrant qu'un système d'IA répond à des allégations, normes ou exigences légales spécifiées.
Responsabilité algorithmiqueL’attente que les organisations puissent expliquer, justifier et remédier aux effets des systèmes algorithmiques qu’elles utilisent.
Biais algorithmiqueUn biais systématique dans les résultats d’un système algorithmique qui peut produire des effets disparates injustifiés entre les personnes ou les groupes.
Évaluation de l'impact algorithmiqueUn examen structuré de l’utilisation prévue d’un système algorithmique, des risques et des communautés affectées, souvent requis avant le déploiement dans le secteur public.
Évaluation de l'impact de l'IAUne évaluation de la manière dont un système d’IA peut affecter les droits, la sécurité, l’égalité, l’environnement ou les intérêts publics au cours de son cycle de vie.
Audit IAUn examen systématique d'un système d'IA, de ses données, de sa gouvernance ou de ses résultats par rapport à des critères définis.
Transparence de l'IALa disponibilité d’informations significatives sur l’existence, l’objectif, le fonctionnement, les limites et la gouvernance d’un système d’IA.
Explicabilité de l'IALa capacité de fournir des raisons, sous une forme adaptée à un public donné, pour expliquer comment un système d’IA est arrivé à un résultat.
Surveillance humaineDes dispositions qui permettent aux personnes de comprendre, d’intervenir ou de contourner le fonctionnement d’un système d’IA si nécessaire.
IA centrée sur l'humainUne approche qui traite les droits de l’homme, l’action humaine et le contexte social comme des contraintes de conception plutôt que comme des réflexions après coup.
Réglementation basée sur les risquesUne conception réglementaire qui adapte les obligations légales en fonction de la gravité estimée et de la probabilité du préjudice.
IA à haut risqueUne catégorie juridique, notamment dans le droit de l'UE, pour les systèmes d'IA dont l'utilisation dans des contextes spécifiés déclenche des obligations renforcées.
Modèle de fondationUn vaste modèle d'apprentissage automatique formé sur des données étendues qui peut être adapté à de nombreuses tâches en aval.
IA à usage généralModèles ou systèmes d'IA conçus pour effectuer un large éventail de tâches distinctes, plutôt qu'une seule utilisation prédéfinie.
IA générativeSystèmes d’IA qui produisent du texte, des images, de l’audio, du code ou tout autre contenu ressemblant au matériel sur lequel ils ont été formés.
Connaissance de l'IALes connaissances et les compétences dont les individus ont besoin pour comprendre, remettre en question et utiliser les systèmes d’IA dans leur rôle de travailleurs, de citoyens et de consommateurs.
Normes d'IASpécifications techniques ou de gestion documentées élaborées par des organismes de normalisation ou des consortiums pour soutenir l'interopérabilité, la qualité et la gestion des risques.
Approvisionnement en IALes règles et pratiques utilisées par les acheteurs publics et privés pour acquérir des systèmes, des données ou des services associés d’IA.
Gouvernance des donnéesLes politiques, droits et infrastructures qui déterminent la manière dont les données sont collectées, consultées, partagées, protégées et supprimées.
L’IA et les droits de l’hommeL’application du droit et des normes internationales en matière de droits de l’homme à la conception, au déploiement et à la gouvernance de l’IA.
IA et démocratieLes effets de l'IA sur les élections, le débat public, l'égalité politique, les institutions civiques et les conditions d'autonomie gouvernementale.
L'IA et les électionsL’utilisation de l’IA dans les processus électoraux et les campagnes politiques, y compris les risques pour l’intégrité, l’égalité du discours politique et la vie privée des électeurs.
IA et société civileLe rôle des organisations non gouvernementales, des mouvements et des médias indépendants dans la contestation, l’élaboration et l’utilisation de l’IA.
Droits numériquesDroits de l'homme tels qu'exercés dans les environnements numériques, y compris la vie privée, l'expression, l'association, l'égalité et l'accès à l'information.
Souveraineté de l'IAUne affirmation politique selon laquelle un État ou une communauté devrait contrôler les infrastructures, les données et les choix politiques critiques de l’IA plutôt que de dépendre entièrement de fournisseurs externes.
Renforcement des capacités en IAEfforts visant à renforcer les compétences, les institutions et les infrastructures nécessaires aux sociétés pour gouverner et bénéficier de l’IA.
Rapport d'incident IAPratique consistant à documenter et à partager des informations sur les pannes, les utilisations abusives ou les préjudices du système d'IA afin que d'autres puissent apprendre et réagir.
Équipe rouge IATests contradictoires qui tentent de susciter un comportement nuisible, non sécurisé ou contraire aux politiques de la part d'un système d'IA.
Évaluation du modèleMesure systématique des capacités, des limites, des risques et des performances d’un modèle d’IA sur des tâches définies.
Cadre de gouvernance de l'IAUn ensemble structuré de principes, de processus ou de contrôles destinés à guider la surveillance de l’IA au sein d’une organisation ou entre institutions.
Gouvernance de la sécurité de l'IADispositions institutionnelles visant spécifiquement à identifier, réduire et superviser les risques graves liés à l’IA.
Modèles d'IA ouvertsModèles d'IA publiés avec une combinaison de pondérations, de code, de données ou de documentation que d'autres peuvent inspecter, adapter ou déployer.
IA et politiques publiquesL’utilisation de l’autorité publique – droit, budget, institutions et diplomatie – pour façonner la manière dont l’IA est développée et utilisée dans la société.
L’IA dans les pays du SudLes opportunités, dépendances et défis de gouvernance distincts de l’IA dans les pays et les communautés historiquement marginalisés dans l’élaboration des règles technologiques mondiales.

Vous avez une ressource officielle, un cadre, une loi ou une autre source à proposer pour une section de ce répertoire ? Utilisez le formulaire de suggestion (opens in a new tab). L’inclusion est éditoriale et n’est pas garantie.