20180719-NP-CICDE-CEIA-3.0.2-IA-et-SYST.AUT-2018.pdf — page 32

32 
e. 
développer un corpus de règles éthiques accompagnant l’emploi, la conception et la 
programmation des règles de fonctionnement et de discernement. 
506. 
La complexité des algorithmes liés à des processus d’intelligence artificielle, principalement 
ceux engageant la sécurité des personnes et des biens, nécessite de contribuer et d’adhérer à 
l’établissement d’un corpus normatif technique ainsi que de se doter d’une autorité technique et 
d’une autorité opérationnelle spécifique, responsable, compétente et impartiale, à l’instar des 
autorités de certification et des bureaux d’enquête accident du domaine aéronautique. 
Section II – Profils et cursus des personnels - compétences futures 
507. 
L’IA et les systèmes automatisés vont modifier profondément les armées. L’anticipation sur les 
compétences et ressources humaines nécessaires à l’horizon 2020-25 s’impose.  
508. 
Les formations générales des futurs militaires devront dispenser les enseignements 
élémentaires nécessaires à l’acculturation de ces technologies, à leur emploi et aux biais 
humains susceptibles de se développer dans le cadre d’une collaboration homme-machine.  
a. 
la collecte, le filtrage, l’exploration des données, la conception des processus 
d’apprentissage et la maintenance des algorithmes d’IA nécessitent des nouvelles 
compétences : scientifique des données (« data scientist ») et « maintenancier » de 
l’intelligence artificielle. Ces métiers sont actuellement quasi inexistants dans les   
armées ; 
b. 
l’exploitation des résultats fournis par les processus d’intelligence artificielle nécessitera 
à la fois d’excellentes compétences opérationnelles et une formation adaptée à la 
spécification, à l’évaluation et à l’emploi des processus d’intelligence artificielle ;  
c. 
ces exigences devront se traduire à la fois dans le recrutement et la formation.  
509. 
Dans l’emploi opérationnel des systèmes automatisés, qu’ils soient armés ou non, il 
conviendrait, dans un souci non seulement d’efficience, mais également de prévention des 
stress post-traumatiques des personnels de conduite des systèmes automatisés, de formaliser : 
a. 
le cursus ad hoc des personnels chargés de leur conduite (il pourrait être exigé, en plus 
de compétences techniques, une expérience significative sur le terrain avant de se voir 
confier une responsabilité de cette nature) ; 
b. 
les liens de communication avec les opérationnels engagés sur le théâtre et soutenus 
par les systèmes automatisés, liens nécessaires à la compréhension intime des 
engagements et au sens à y apporter ; 
c. 
une formation avancée juridique et éthique des utilisateurs et bénéficiaires. 
510. 
Dans la gestion des données, des bases d’apprentissage et de test, une compétence en 
système cognitif devra être développée afin : 
a. 
de maintenir les bases de données, d’apprentissage et de test, des systèmes 
opérationnels ; 
b. 
d’analyser les retours d’expérience des systèmes opérationnels et de proposer des 
évolutions nécessaires dans la programmation, sur les règles de fonctionnement, 
d’emploi, d’engagement. 
511. 
Une formation particulière sur ces systèmes et sur l’IA dédiée aux spécificateurs du besoin 
opérationnel et aux évaluateurs pourrait également être envisagée.