Prévenir les biais des systèmes IA publics

• Identifier les sources de biais dans un système d’IA public
• Mesurer les écarts de traitement entre catégories d’usagers
• Mettre en place des contrôles pour corriger et prévenir les biais

Chefs de projet IA, juristes, référents éthique, data analystes

Comprendre le fonctionnement général d’un système d’IA

• Définir le biais algorithmique et ses conséquences pour les usagers
• Repérer les biais dans les données d’entraînement employées
• Identifier les biais introduits par les choix de conception
• Distinguer biais statistique, biais social et discrimination
• Mesurer les écarts de résultats entre groupes d’usagers
• Tester le système sur des cas variés et des cas limites
• Analyser les erreurs qui touchent surtout certaines populations
• Corriger les données, les règles ou les seuils du système
• Maintenir un contrôle humain sur les décisions à enjeu
• Instaurer un audit régulier des résultats du système d’IA

• Repérer les sources de biais possibles dans un jeu de données
• Comparer les résultats d’un système pour deux groupes d’usagers
• Définir un plan d’audit annuel d’un outil d’IA public

• Check list de détection des biais d’un système d’IA public
• Modèle de plan d’audit des résultats d’un outil d’IA
• Fiche repère des principales sources de biais algorithmique