The use of AI in military contexts: opportunities and regulatory challenges
Authors: Lahmann Henning , Geiß Robin 
Published: January 2022

While the use of artificial intelligence (AI) and machine-learning algorithms in the context of armed conflicts has been subject to scholarly and political debate for at least the past half-decade, to date discussions have focused on the possible development and deployment of lethal autonomous weapon systems. Going beyond this narrow perspective, the article draws attention to other military uses of AI that are conceivable or in fact already exist, for example for the purpose of detention, force protection, equipment maintenance, or reconnaissance. It critically examines these different applications from a legal and ethical perspective, exposing some of the challenges inherent in the technology such as algorithmic bias or predictability. On the basis of existing and emerging approaches to the regulation of ‘civilian’ AI, the article concludes by proposing a granular, tiered way to future regulation of military AI that proceeds from the criticality of each particular application.

Alors que le recours à l’intelligence artificielle et aux algorithmes d’apprentissage automatique dans le contexte des conflits armés a fait l’objet d’un débat entre spécialistes et au niveau politique durant au moins ces cinq dernières années, les discussions se sont concentrées jusqu’alors sur le développement et le déploiement possibles de systèmes d’armes létaux autonomes. Cet article va au-delà de cette perspective restrictive et attire l’attention sur d’autres usages militaires de l’intelligence artificielle qui sont concevables ou qui existent déjà, par exemple à des fins de détention, de protection des forces armées, d’entretien de l’équipement ou de reconnaissance. Il examine de manière critique ces différentes applications d’un point de vue légal et éthique, en exposant certains des défis inhérents à la technologie, tels que le biais algorithmique ou la prévisibilité. En se basant sur des approches existantes ou émergentes relatives à la réglementation de l’intelligence artificielle «civile», l’article propose pour conclure une approche graduelle de la future réglementation en matière d’intelligence artificielle, en partant du caractère critique de chaque application particulière.

Hoewel het gebruik van artificiële intelligentie (AI) en machine learning-algoritmen in de context van gewapende conflicten al gedurende minstens de laatste vijf jaar onderwerp is van wetenschappelijk en politiek debat, zijn de discussies tot nu toe vooral gericht geweest op de mogelijke ontwikkeling en inzet van dodelijke autonome wapensystemen. Het artikel gaat verder dan dit beperkte perspectief en vestigt de aandacht op andere militaire toepassingen van AI die denkbaar zijn of in feite al bestaan, bijvoorbeeld voor detentie, troepenbescherming, materieelonderhoud of verkenning. Deze verschillende toepassingen worden kritisch onderzocht vanuit een juridisch en ethisch perspectief, waarbij enkele uitdagingen worden blootgelegd die inherent zijn aan de technologie, zoals algoritmische vooringenomenheid of voorspelbaarheid. Op basis van bestaande en opkomende benaderingen van de reglementering van “civiele” AI, wordt in het artikel tot slot een stapsgewijze manier voorgesteld voor de toekomstige reglementering van militaire AI, die uitgaat van het kritische karakter van elke specifieke toepassing.

Mentre l’uso dell’intelligenza artificiale (AI) e degli algoritmi di apprendimento automatico nel contesto dei conflitti armati è stato oggetto di dibattito accademico e politico per almeno l’ultimo mezzo decennio, ad oggi le discussioni si sono concentrate sul possibile sviluppo e dispiegamento di sistemi d’arma autonomi letali. Superando questa limitata prospettiva, l’articolo richiama l’attenzione su altri usi militari dell’IA immaginari o che di fatto già esistono, per esempio a scopo di detenzione, protezione delle forze, manutenzione delle attrezzature o ricognizione. L’articolo esamina criticamente queste diverse applicazioni da una prospettiva legale ed etica, mettendo in luce alcune sfide insite nella tecnologia, come la distorsione algoritmica o la prevedibilità. Sulla base degli approcci esistenti ed emergenti alla regolamentazione dell’IA “civile”, l’articolo conclude proponendo una precisa e graduale via per la futura regolamentazione dell’IA militare che consegue alla criticità di ogni particolare applicazione.

Si bien el empleo de inteligencia artificial (IA) y de algoritmos de aprendizaje automático en el contexto de los conflictos armados ha sido objeto de debate académico y político durante al menos la última media década, hasta la fecha las discusiones se han centrado en el posible desarrollo y despliegue de sistemas letales de armas autónomos. Más allá de esta perspectiva particular, el artículo llama la atención sobre otros usos militares de la IA que son concebibles o que de hecho, por ejemplo, ya existen con fines de detención, protección de la fuerza, mantenimiento de equipos o reconocimiento. Se examinan críticamente estas diferentes aplicaciones desde una perspectiva legal y ética, exponiendo algunos de los desafíos inherentes a la tecnología, como el sesgo algorítmico o la previsibilidad. Partiendo de la base de los enfoques ya existentes y emergentes para la regulación de la IA “civil”, el artículo concluye proponiendo una alternativa granular y escalonada de cara a la futura regulación de la IA militar con fundamento en un análisis crítico de cada aplicación en particular.

Obwohl die Anwendung von künstlicher Intelligenz (KI) und von Algorithmen für maschinelles Lernen im Kontext bewaffneter Konflikte mindestens in den letzten fünf Jahren Gegenstand wissenschaftlicher und politischer Debatten gewesen ist, fokussierten die Diskussionen bisher auf die mögliche Entwicklung und den möglichen Einsatz letaler autonomer Waffensysteme. Über diesen Gesichtspunkt hinaus lenkt der Artikel die Aufmerksamkeit auf andere denkbare oder tatsächlich bereits existierende militärische Anwendungen der KI, zum Beispiel zum Zwecke der Haft, des Schutzes der eigenen Kräfte, der Ausrüstungswartung oder Aufklärung. Der Autor prüft diese verschiedenen Anwendungen kritisch aus gesetzlicher und ethischer Sicht, und legt dabei einige der Herausforderungen offen, die der Technologie inhärent sind, wie algorithmische Voreingenommenheit oder Voraussagbarkeit. Auf der Basis existierender und neu aufkommender Vorgehensweisen in Bezug auf die Reglementierung “ziviler” KI schlägt der Artikel zum Schluss eine stufenweise künftige Reglementierung militärischer KI vor, die von der Kritikalität jeder besonderen Anwendung ausgeht.