Glossaire
Biais algorithmique
Un biais systématique dans les résultats d’un système algorithmique qui peut produire des effets disparates injustifiés entre les personnes ou les groupes.
Dernière revue 2026-08-22
En langage clair
Les biais peuvent provenir des données de formation, de la formulation du problème, des variables proxy, des boucles de rétroaction ou des taux d'erreur inégaux. Toutes les disparités statistiques ne constituent pas une discrimination illégale, et toutes les mesures qui semblent équitables ne sont pas fondamentalement justes. Les techniques de débiaisation sont spécifiques au contexte et peuvent compromettre différentes notions d’équité. Le droit des droits de l’homme et de l’égalité, et pas seulement les mesures techniques, reste la référence pour les usages du secteur public et à enjeux élevés.
Pourquoi c’est important pour la gouvernance de l’IA
Les préjugés sont l’un des méfaits de l’IA les plus documentés dans les domaines de l’emploi, du crédit, de la police et des services publics. Les réponses en matière de gouvernance comprennent les tests, la documentation, les pratiques interdites et les obligations ayant un impact sur l'égalité.