Silahlı çatışmalar hukuku kapsamında yapay zekâ, otonom silah sistemleri ve komuta sorumluluğu
Artificial intelligence, autonomous weapon systems, and command responsibility under the law of armed conflicts
Yazar: MUHARREM UĞUR BOZKURT
Danışman: PROF. DR. FUNDA KESKİN ATA
Ankara Üniversitesi / Sosyal Bilimler Enstitüsü / Uluslararası İlişkiler Ana Bilim Dalı
Derece: Doktora, 2023
Konu: Hukuk = Law ; Uluslararası İlişkiler = International Relations
Dizin: Askeri gereklilik = Military necessity ; Ayrımcılık = Discrimination ; Cezai sorumluluk = Criminal liability ; Emir komuta sistemleri = Command and control systems ; Orantılılık = Proportionality ; Otonom silah sistemleri = Autonomous weapon systems ; Silahlı çatışmalar hukuku = Law of Armed Conflicts ; Sorumluluk = Responsibility ; Yapay zeka = Artificial intelligence ; İnsaniyetçilik = Humanitarianism

Özet:
Yapay zekâ teknolojisinde son dönemde meydana gelen gelişmeler, yapay zekânın silah
sistemlerinde de kullanımı olasılığını ortaya çıkarmış, bu durum bazı kaygıları beraberinde
getirmiştir. Bu kaygının temelinde insanın tekelinde olması gerektiği öne sürülen hedef seçimi
ve saldırı kararının otonom silah sistemlerinin (OSS) ortaya çıkmasıyla makinelere
devredilecek olması ve öğrenen yapay zekâ sistemlerinin açıklanabilirlik ve öngörülemezlik
konularındaki süregelen sorunları yatmaktadır. Halen kullanımda olan bir OSS bulunmamakla
birlikte yapay zekâ silahlı kuvvetlerde birçok alanda kullanılmakta, ancak söz konusu sorun
alanları daha ileri kullanımın önüne geçmektedir.

OSS, silahlı çatışmalar hukuku bağlamında bir savaşan değil silah sistemidir. Bu nedenle,
OSS'ye yönelik özel bir düzenlemenin yokluğunda silahı çatışmalar hukukunun silahlara ilişkin
kuralları ile genel ilkeler uygulanmalıdır. Silahlı çatışmalar hukukunun temel ilkeleri olan
insaniyet, askerî gereklilik, ayrım yapma ve orantılılık ilkeleri çerçevesinde bir değerlendirme,
OSS'nin hukuka uygun kullanımının mümkün olduğunu göstermektedir. Ayrıca, OSS
kullanımı sonucunda ortaya çıkacak ihlallerden, diğer silahlarda olduğu gibi, kullanıcı ve karar
alıcıların sorumluluğu doğacaktır. Bu nedenle bir sorumluluk boşluğundan söz etmek mümkün
görülmemektedir. Bireysel sorumluluğun yanında komuta sorumluluğunun da uygulanması
mümkündür.

Komuta sorumluluğu II. Dünya Savaşı sonrası yargılamalarla gündeme gelmiş, daha
sonra Cenevre Sözleşmelerine ek 1. No.lu Protokolde yer bulmuş, kavram Uluslararası Ceza
Mahkemelerinin yargılamalarıyla daha da netleşmiştir. Bugün gelinen aşamada komuta
sorumluluğunun örf ve âdet hukuku kuralı olduğu kabul edilmektedir. Bir komutanın astlarının
eylemlerinden sorumlu tutulabilmesi için bir komuta kontrol ilişkisinin ve etkin kontrolün
varlığı, komutanın astları tarafından işlenmiş/işlenmek üzere olan suçlar hakkında bilgisinin
olması ve bunları engellemek, bastırmak ve cezalandırmak için yetki ve olanağı dahilindeki
önlemleri almamış olması gerekmektedir. Bu şartlar sağlandığında komuta sorumluluğu OSS
kullanılması sonucu ortaya çıkan savaş suçlarına da uygulanabilecektir.

Abstract:
Recent developments in artificial intelligence technology have revealed the possibility of
using artificial intelligence in weapon systems, and this has brought some concerns. The basis
of this concern lies in the fact that target selection and attack decision, which is claimed to be
in the monopoly of humans, will be transferred to machines with the emergence of autonomous
weapon systems (AWS), and the ongoing problems of explainability and unpredictability of
learning artificial intelligence systems. Although there is no AWS in use yet, artificial
intelligence is used in many areas in the armed forces, but the problem areas prevent further
use.

AWS is a weapon system, not a combatant, in the context of the law of armed conflict
(LOAC). Therefore, in the absence of specific regulations for the AWS, the weapons law and
the general principles of LOAC should be applied. An analysis within the framework of the
principles of humanity, military necessity, discrimination, and proportionality, which are the
core principles of the LOAC, shows the possibility of legitimate use of AWS. In addition, as
with other weapons, the responsibility of the operators and decision makers will arise from the
violations that will occur as a result of the use of AWS. Therefore, there will be no responsibility
gap. It is also possible to apply command responsibility besides individual responsibility.

Command responsibility arose in the proceedings after World War the Second, later,
it was included in Protocol No. 1 to the Geneva Conventions, and the concept became clearer
with the proceedings of the international criminal courts. Today, it is accepted that command
responsibility is a customary law rule. In order for a commander to be held responsible for the
actions of his subordinates, there should be a command and control relationship and effective
control, the commander should have knowledge of the crimes committed/about to be committed
by his subordinates, and he should not have taken the measures within his power and ability to
prevent, suppress and punish them. When these conditions are met, command responsibility
can also be applied to war crimes resulting from the use of AWS.