Superviser les décisions automatisées

• Définir le périmètre des décisions automatisées à superviser
• Évaluer les risques d’erreur et de biais d’un algorithme
• Mettre en place une supervision humaine documentée

Responsables qualité, conformité, risques, juristes, DSI

Connaître les processus de décision et les enjeux de conformité

• Définir ce qu’est une décision automatisée dans l’entreprise
• Recenser les processus où un algorithme influence une décision
• Comprendre les risques d’erreur, de biais et d’opacité
• Analyser le rôle de la supervision humaine dans la chaîne de décision
• Identifier les points de contrôle à placer avant et après le système
• Déterminer les seuils d’alerte qui déclenchent une revue humaine
• Organiser la traçabilité des décisions prises et de leurs motifs
• Évaluer la conformité des décisions aux exigences réglementaires
• Formaliser les rôles et responsabilités des superviseurs désignés
• Construire un plan de supervision avec indicateurs et revues périodiques

• Cartographier les décisions automatisées d’un processus métier
• Définir les points de contrôle humain d’un système d’IA
• Rédiger la procédure de supervision d’une décision sensible

• Modèle de registre des décisions automatisées supervisées
• Check list de contrôle d’un système de décision automatisé
• Fiche repère des rôles et responsabilités du superviseur