Évaluer les biais et l'équité d'un modèle

• Évaluer les biais et l’équité d’un modèle d’IA
• Identifier les sources de biais dans les données et les résultats
• Choisir des mesures pour corriger et surveiller les biais

Data scientists, chefs de projet IA, responsables conformité

Notions sur le fonctionnement d’un modèle d’apprentissage

• Définir les notions de biais, de discrimination et d’équité
• Identifier les sources de biais : données, conception, usage
• Examiner la représentativité des données d’entraînement
• Choisir des critères d’équité adaptés à l’usage du modèle
• Mesurer les écarts de résultats entre groupes de personnes
• Repérer les variables sensibles et leurs variables substituts
• Tester le modèle sur des jeux de données de contrôle ciblés
• Appliquer des mesures de correction avant et après entraînement
• Documenter les limites connues et les risques résiduels
• Mettre en place une surveillance continue des biais en production

• Repérer les sources de biais d’un outil de présélection de CV
• Comparer les taux de décision favorable entre deux groupes
• Choisir des mesures correctives pour un modèle de scoring

• Check list d’audit des biais et de l’équité d’un modèle d’IA
• Fiche repère des critères d’équité et de leurs limites
• Modèle de rapport d’évaluation de l’équité d’un modèle