Audit des risques et des biais d'un système d'IA

• Auditer les risques et les biais d’un système d’IA
• Mesurer l’équité des résultats selon les populations concernées
• Recommander des mesures de correction et de surveillance

Responsables IA, data scientists, responsables des risques

Donner accès au système d’IA et à ses jeux de données

• Cadrer le système d’IA audité et ses finalités d’usage
• Documenter les données d’entraînement et leurs origines
• Identifier les sources possibles de biais dans la chaîne de données
• Examiner la conception du modèle et ses choix de paramétrage
• Mesurer les écarts de performance entre groupes de personnes
• Tester la robustesse du système face à des cas limites
• Évaluer l’explicabilité des résultats pour les utilisateurs
• Analyser les risques liés aux décisions prises avec le système
• Définir les corrections de données ou de modèle à envisager
• Remettre un rapport d’audit avec un dispositif de surveillance

• Documenter le système et ses données d’entraînement initiales
• Tester les biais, les écarts de performance et la robustesse
• Restituer l’audit et le dispositif de surveillance proposé

• Détectez les biais avant qu’ils n’affectent vos clients
• Renforcez la confiance dans les décisions de votre IA
• Appuyez vos corrections sur des mesures objectives et fiables