Définir les principes de responsabilité humaine des systèmes militaires autonomes

• Définir la responsabilité humaine dans l’emploi des systèmes autonomes
• Fixer le niveau de contrôle humain selon la mission
• Formaliser des principes applicables aux équipes de conception

Responsables éthique, juristes, officiers, concepteurs de systèmes

Connaissance des systèmes d’armes ou notions d’éthique appliquée

• Définir la responsabilité humaine des systèmes militaires autonomes
• Distinguer automatisation, autonomie et contrôle humain
• Identifier les niveaux d’implication de l’opérateur dans la mission
• Définir le contrôle humain significatif selon la phase de mission
• Attribuer les responsabilités entre concepteur, chef et opérateur
• Intégrer le droit des conflits armés dans les principes retenus
• Prévoir les mécanismes d’arrêt d’urgence et de reprise en main
• Documenter les décisions et les chaînes de commandement
• Former les opérateurs à leurs responsabilités juridiques et éthiques
• Vérifier le respect des principes par des revues régulières

• Placer le contrôle humain sur trois scénarios de mission
• Rédiger cinq principes de responsabilité pour un système autonome
• Attribuer les responsabilités sur un incident fictif

• Modèle de charte des principes de responsabilité humaine
• Fiche repère des niveaux de contrôle humain d’un système autonome
• Check list de revue de conformité aux principes retenus