Évaluer les biais et la traçabilité des algorithmes d’IA de défense

• Évaluer les biais d’un algorithme d’IA employé en défense
• Assurer la traçabilité des données et des décisions du modèle
• Documenter les limites d’emploi pour les décideurs militaires

Responsables éthique, data scientists, juristes, officiers

Notions d’apprentissage automatique et d’enjeux de défense

• Définir biais algorithmique et traçabilité en contexte de défense
• Identifier les sources de biais dans les données d’apprentissage
• Mesurer les écarts de performance selon les conditions d’emploi
• Tester le modèle sur des situations rares ou dégradées
• Contrôler la représentativité des jeux de données utilisés
• Assurer la traçabilité des versions de données et de modèles
• Journaliser les décisions et les alertes produites par l’algorithme
• Rendre les résultats explicables aux utilisateurs militaires
• Rédiger la documentation des limites et des conditions d’emploi
• Mettre en place un audit indépendant périodique du système

• Repérer les sources de biais dans un jeu de données fictif
• Définir les informations à journaliser pour tracer une décision
• Rédiger la fiche des limites d’emploi d’un algorithme

• Check list d’audit des biais d’un algorithme de défense
• Modèle de fiche de limites d’emploi d’un modèle d’IA
• Fiche repère des données à journaliser pour la traçabilité