Expliquer les modèles : interprétabilité et XAI

• Expliquer les décisions d’un modèle prédictif à des non spécialistes
• Appliquer des méthodes d’interprétabilité locales et globales
• Détecter les biais et justifier les résultats auprès des parties prenantes

Data scientists, analystes, risk managers, responsables conformité

Avoir entraîné des modèles de machine learning en Python

• Définir l’interprétabilité, l’explicabilité et leurs enjeux
• Distinguer les modèles transparents des modèles opaques
• Mesurer l’importance globale des variables d’un modèle
• Utiliser les graphiques de dépendance partielle des variables
• Expliquer une prédiction individuelle avec SHAP et LIME
• Interpréter les valeurs obtenues sans tirer de conclusions abusives
• Repérer les biais dans les données et dans les résultats du modèle
• Mesurer l’équité d’un modèle entre plusieurs groupes de personnes
• Rédiger une fiche d’explication adaptée à un public non technique
• Situer les exigences de transparence des cadres réglementaires

• Calculer et commenter l’importance des variables d’un modèle
• Expliquer une prédiction individuelle avec SHAP ou LIME
• Rédiger l’explication d’un modèle pour un décideur non technique

• Modèle de fiche d’explication d’un modèle prédictif complexe
• Guide de lecture et d’interprétation des graphiques SHAP et LIME
• Check list de détection des biais dans un modèle prédictif