Mettre en œuvre l’explicabilité et la traçabilité technique des décisions IA

• Mettre en œuvre l’explicabilité des décisions d’un système IA
• Assurer la traçabilité technique des décisions produites
• Documenter les décisions pour les audits et les contrôles

Data scientists, ingénieurs IA, responsables conformité, auditeurs

Connaissance des modèles d’apprentissage automatique

• Définir les enjeux d’explicabilité et de traçabilité de l’IA
• Distinguer les modèles interprétables des modèles opaques
• Choisir une méthode d’explication adaptée au modèle utilisé
• Produire des explications locales et globales des décisions
• Évaluer la fiabilité et les limites des explications produites
• Identifier les données de traçabilité à conserver pour chaque décision
• Journaliser les entrées, les sorties et les versions de modèles
• Relier une décision à ses données et à son modèle d’origine
• Rédiger la documentation technique destinée aux audits
• Communiquer les explications aux utilisateurs et aux contrôleurs

• Appliquer une méthode d’explication à un modèle de scoring
• Définir le journal de traçabilité d’une décision de l’IA
• Rédiger la fiche technique d’un système IA pour un audit

• Modèle de fiche d’explicabilité d’un système d’IA décisionnel
• Check list des données de traçabilité à journaliser en production
• Guide des méthodes d’explication des modèles et de leurs limites