## Autonomous Weapon Systems dan Legalitas Penggunaannya Dalam Hukum Humaniter Internasional

## Aulia Putri Yunanda
auliaputriy@gmail.com Universitas Airlangga

## Abstract
The development of weapons technology leads into the practice of dehumanization concept which no longer require human intervention to operate the weapons, so that weapons could be equipped with automatic and autonomy system. One of the weapons that are being equipped with autonomous system is autonomous weapon systems. Autonomous weapon systems have the ability to choose and attack, one or more target, without any human intervention. Under International Humanitarian Law, there are no regulations that specifically regulate autonomous weapon systems. Hence, legal review of autonomous weapon systems as new means of warfare is needed to be established, in order to determine, whether that such kind of weapon is forbidden or not within International Humanitarian Law. This research is a legal research which intends to examine the legality of autonomous weapon systems usage under International Humanitarian Law, which includes: International Humanitarian Law regulations regarding the use of weapons in armed conflict, and the legality of using autonomous weapon systems under International Humanitarian Law. The results of this research showed that autonomous weapon systems violated the provisions of International Humanitarian Law, which are the principle of proportionality, distinction, limitation, humanity and public conscience of Martens Clause. Keywords : Weapon; Means and Methods of Warfare; Autonomous Weapon Systems.

## Abstrak
Perkembangan teknologi persenjataan mengarah pada penerapan konsep dehumanization yang tidak lagi membutuhkan keterlibatan manusia dalam proses penggunaan senjata, sehingga senjata dapat dilengkapi dengan sistem otomatis dan otonom. Salah satu bentuk senjata yang dilengkapi dengan sistem otonom adalah autonomous weapon systems. Autonomous weapon systems mempunyai kemampuan untuk memilih target dan melakukan penyerangan terhadap target, tanpa intervensi manusia. Dalam Hukum Humaniter Internasional, tidak ada pengaturan yang secara spesifik  mengatur  mengenai  autonomous  weapon  systems.  Sehingga  perlu  dilakukan  tinjauan hukum untuk menentukan apakah penggunaan autonomous weapon systems dilarang atau tidak oleh Hukum Humaniter Internasional. Penelitian ini merupakan penelitian hukum yang bertujuan untuk mengkaji keabsahan penggunaan autonomous weapon systems dalam Hukum Humaniter Internasional, yang meliputi: pengaturan Hukum Humaniter Internasional mengenai penggunaan senjata dalam konflik bersenjata, dan keabsahan penggunaan autonomous weapon systems dalam pengaturan Hukum Humaniter Internasional. Hasil penelitian ini menunjukkan bahwa autonomous weapon systems melanggar ketentuan Hukum Humaniter Internasional yaitu prinsip pembedaan, prinsip proporsionalitas, prinsip pembatasan, serta prinsip-prinsip dasar kemanusiaan dan kesadaran umum dalam Martens Clause.
Kata Kunci : Senjata; Sarana dan Metode Berperang; Autonomous Weapon Systems.

## Pendahuluan
Pada dasarnya, perkembangan teknologi tidak terlepas kaitannya dengan perkembangan teknologi persenjataan, karena teknologi baru atau yang sedang
Jurist-Diction: Vol. 2 No. 2, Maret 2019 377

## Jurist-Diction
Volume 2 No. 2, Maret 2019
Histori artikel: Submit 1 Februari 2019; Diterima 15 Februari 2019; Diterbitkan online 1 Maret 2019.

## 378 Aulia Putri: Autonomous Weapon Systems
dalam pengembangan dapat digunakan untuk memenuhi keinginan suatu negara dalam memiliki persenjataan yang lebih unggul dibandingkan negara lain, sehingga perkembangan teknologi persenjataan akan mempengaruhi negara dalam memilih strategi berperang dan mengembangkan senjata baru untuk digunakan dalam peperangan. 1 Sehubungan dengan itu, negara-negara sudah mulai memikirkan untuk mengganti kekuatan militernya, sehingga kekuatan bersenjata yang awalnya dilakukan oleh personel angkatan bersenjata, akan digantikan oleh senjata yang dilengkapi dengan mesin canggih yang dapat dioperasikan dari jarak jauh atau bahkan tidak memerlukan intervensi manusia sama sekali. Hal tersebut bertujuan untuk mencegah dan meminimalkan risiko celaka bagi personel angkatan bersenjata. 2
Berdasarkan gagasan tersebut, muncul suatu konsep “dehumanization” yang tidak lagi membutuhkan kehadiran manusia dalam proses penggunaan senjata. Konsep tersebut diterapkan dalam pengembangan teknologi persenjataan, sehingga senjata dengan sistem tersebut tidak hanya otomatis tetapi juga otonom. Otonom (autonomy) merupakan kemampuan mesin untuk beroperasi tanpa pengawasan manusia, semakin kecil kebutuhan akan pengawasan dan intervensi manusia, semakin besar atau tinggi sifat otonom dalam mesin tersebut. 3 Dalam perkembangannya, terdapat beberapa bentuk senjata yang dilengkapi dengan sistem otonom, yang kemudian senjata tersebut akan dikategorikan berdasarkan tingkat otonomi dan tingkat pengawasan manusia, yang sebagai berikut:
1. Sistem Senjata Otomatis ( Automated Weapon Systems) .
Sistem senjata otomatis merupakan sistem senjata yang dilengkapi dengan sistem otonom dengan tingkat yang sangat rendah, karena senjata dengan sistem tersebut hanya mengikuti instruksi yang telah diprogram sebelumnya, tanpa menggunakan informasi yang dikumpulkan untuk secara independen menarik
1 H. J. Morgenthau, Kenneth W. Thompson, Politik Antar Bangsa (Yayasan Pustaka Obor 2010).[271].
2 Jarna Petman, Autonomous Weapons Systems and International Humanitarian Law: ‘Out of The Loop’? (Unigrafia Oy 2017).[5].
3 Krishnan Armin, Killer Robots Legality and Ethicality of Autonomous Weapons (Ashgatae Pubishing Company 2009).[4].
kesimpulan untuk merespon atau bereaksi. 4
2.  Senjata Semi-Otonom ( Semi-Autonomous Weapon Systems ).
Senjata semi otonom merupakan system senjata yang akan secara otomatis menarget objek militer yang potensial dan memberi sinyal kepada operator ma- nusia, yang selanjutnya operator tersebut akan memutuskan apakah serangan akan diluncurkan terhadap target atau tidak. 5
3.  Senjata Otonom ( Fully-Autonomous Weapon Systems ).
Dalam perkembanggannya, negara-negara belum menyepakati definisi formal mengenai Fully-Autonomous Weapon Systems atau Autonomous Weapon Systems (selanjutnya disebut AWS ), namun definisi yang paling diterima secara umum adalah sebagai berikut: “Any weapon system with autonomy in its critical functions—that is, a weapon system that can select (search for, detect, identify, track or select) and attack (use force against, neutralize, damage or destroy) targets without human intervention.” 6 Berdasakan  definisi  tersebut,  AWS merupakan sistem senjata yang memiliki sifat otonom dalam fungsi kritikalnya, sehingga dapat memilih dan menyerang satu atau lebih target tanpa intevensi manusia lebih lanjut. Dalam definisi yang lebih sempit, AWS merupakan sistem senjata dengan kecerdasan buatan (artificial  intelligence) yang diprogram untuk secara independen menentukan tindakannya atau mengambil keputusan penyerangan sendiri tanpa memerlukan pengawasan atau keterlibatan manusia secara langsung. 7
Berdasarkan penjelasan tersebut, terdapat beberapa kategori senjata dengan sistem otonom, namun dalam penulisan ini, penulis akan membatasi pembahasan pada jenis senjata AWS, sebagai sistem senjata yang memiliki tingkat otonom yang
4 Umesh Chandra Jha, Killer Robots: Lethal Autonomous Weapon Systems Legal, Ethical, and Moral Challenges (Vij Books India Pvt Ltd 2016).
5 Adja Hosseini Ghasemi, Semi-Autonomous Weapon Systems in International Humanitarian Law - A study of the new decision-making and responsibility issue in International Humanitarian Law relating to Semi-Autonomous Weapon Systems (Tesis Lund University 2014).[15].
6 Neil Davidson , ‘ A Legal Perspective: Autonomous Weapon Systems under International Humanitarian Law’ (2017) 30 UNODA Occasional Papers .[6].
7 ICRC, Autonomous Weapon Systems: Technical, Military, Legal and Humanitarian Aspects (Expert Meeting) (ICRC 2014).[13].

## 380 Aulia Putri: Autonomous Weapon Systems
jauh lebih tinggi. Dalam Hukum Humaniter Internasional, tidak terdapat pengaturan yang secara khusus mengatur mengenai penggunaan AWS dalam konflik bersenjata, sehingga perlu dilakukan peninjauan lebih lanjut secara hukum, apakah penggunaan AWS akan menyalahi ketentuan dalam Hukum Humaniter Internasional, terutama dalam hal sarana dan metode berperang, atau penggunannya telah sesuai dengan ketentuan tersebut.

## Autonomous Weapon Systems
Sebagaimana telah disebutkan sebelumnya, bahwa AWS merupakan sistem senjata yang memiliki sifat otonom dalam fungsi kritikalnya, sehingga memiliki kemampuan untuk mengendalikan gerakan, mendeteksi target, dan membuat keputusan untuk melakukan serangan tanpa campur tangan manusia. 8 Hal tersebut dimungkinkan karena AWS terdiri dari 3 (tiga) komponen penting, yaitu: 9
1.  Sistem sensor.
Sistem sensor digunakan untuk memperoleh gambar, data, atau informasi lain dari zona target, yang dilengkapi dengan satu atau lebih kamera yang beroperasi dan menghasilkan gambar dalam bentuk digital atau kompatibel dengan pemrosesan digital.
2.  Komputer (kecerdasan buatan atau prosessor).
Komputer akan memproses gambar atau data yang telah diperoleh, kemudian mendeteksi, mengenali, atau mengidentifikasi target berdasarkan karakteristik gambar  atau  kriteria  identifikasi  target.  Sistem  komputer  dilengkapi  dengan perangkat lunak yang memiliki kecerdasan buatan, yang memungkinkan sistem komputer untuk memiliki kemampuan seperti manusia, berupa pengenalan pola, penguraian teks, dan perencanaan atau pemecahan masalah. 10 Dalam tahap selanjutnya, komputer akan memberikan sinyal kontrol input ke sistem pemasangan senjata yang mengarahkan senjata untuk menembak satu atau lebih
8 Jarna Petman, Loc.Cit.
9 United States Patent, Autonomous Weapon Systems, Patent No. US 7,210,392 B2, 2007.
10 Krishnan Armin, Op.Cit. [5].
target potensial, dalam bentuk digital atau analog.
3.  Senjata.
Senjata akan melaksanakan keputusan yang diambil oleh komputer dan meluncurkan serangan ke sasaran tertentu dari target potensial, sesuai dengan seperangkat aturan yang telah ditentukan sebelumnya.
Dalam hal penggunaan AWS, kontrol atau pengawasan manusia dilakukan dalam berbagai bentuk dan derajat dalam 2 (dua) tahap, yaitu tahap pengembangan dan pengujian sistem senjata (development stage) , dan tahap pengaktifan sejata yang berdasarkan keputusan komandan atau operator (activation stage) . Dalam tahap pengembangan, kontrol manusia dilakukan dengan melakukan pemrograman sistem senjata dan desain teknis senjata, menentukan parameter operasional senjata yang harus diintergrasikan ke dalam instruksi militer, seperti membatasi penggunan sistem senjata pada situasi tertentu, dan membatasi pergerakan senjata dalam ruang dan waktu. 11 Sementara dalam tahap pengaktifan, kontrol manusia dilakukan dengan mengaktifkan senjata, yang melibatkan keputusan komandan atau operator untuk menggunakan sistem senjata tertentu, dengan tujuan tertentu. 12 Setelah senjata diaktifkan, maka operasi sistem senjata akan tergantung pada kinerja teknis senjata dalam keadaan penggunaan tertentu, sebagaimana ditentukan dan diuji pada tahap pengembangan. Berkaitan dengan hal tersebut, terdapat tahapan ketiga, yaitu tahap pengoperasian AWS yang tidak tidak membutuhkan pengawasan atau kontrol manusia, karena dalam pengoperasiannya, AWS akan beroperasi dengan bergantung pada sistem operasional senjata yang sudah ditetapkan, dan secara mandiri memilih serta menyerang target penyerangan.
Berdasarkan pembahasan tersebut, para pihak yang terlibat dalam tahap pengembanga dan pengaktifan AWS adalah komandan militer, operator, tim akusisi, programmer komputer, dan perancang senjata. Para pihak tersebut selanjutnya akan berpengaruh pada pengaturan akuntabilitas atau pertanggungjawaban, apabila penggunaan AWS menyalahi ketentuan dalam Hukum Humaniter Internasional.
11 Neil Davidson , Op.Cit. [12].
12 ibid. [13].

## 382 Aulia Putri: Autonomous Weapon Systems
Terdapat 2 (dua) bentuk pertanggung jawaban dalam Hukum Internasional, yaitu: 1.  Pertanggung Jawaban Negara (State Responsibility)
Pertanggung jawaban negara akan timbul apabila terdapat tindakan negara yang melanggar kewajiban dalam Hukum Internasional, sebagaimana disebutkan dalam Pasal 1 the Draft Articles on Responsibility of States for Internationally Wrongful Acts (selanjutnya disebut Rancangan Konvensi tentang Tanggung
Jawab Negara ) : 13 “Every internationally wrongful act of a State entails the international responsibility of that State.” Terdapat 2 bentuk Hukum Internasional yang dapat dilanggar oleh negara, yaitu: (1) hukum internasional publik yang bersumber pada perjanjian internasional, hukum kebiasaan internasional, dan asas- asas hukum internasional; dan (2) Perjanjian bilateral atau multilateral.
Berkaitan dengan tindakan negara, Pasal 8 Rancangan Konvensi tentang Tanggung Jawab Negara , menyebutkan: “ The conduct of a person or group of persons shall be considered an act of a State under international law if the person or group of persons is in fact acting on the instructions of, or under the direction or control of, that State in carrying out the conduct.” Pasal tersebut memberi ketentuan bawah apabila seseorang atau kelompok orang bertindak atas intruksi atau dibawah arahan atau kendali negara, maka tindakan tersebut dianggap sebagai tindakan negara. Ketentuan yang lebih sempit dan spesifik disebutkan dalam Pasal 4 Rancangan Konvensi tentang Tanggung Jawab Negara, bahwa Salah satu tindakan yang dapat dikategorikan sebagai tindakan negara, berdasarkan Pasal 4 Rancangan Konvensi tentang Tanggung Jawab Negara, adalah tindakan organ negara dalam kapasitas resmi yang berdasarkan hukum nasionalnya mempunyai kewenangan untuk bertindak atas nama negara, seperti contohnya angkatan bersenjata suatu negara. Berdasarkan ketentuan tersebut, apabila negara mengerahkan angkatan bersenjatanya untuk melakukan serangan dengan menggunakan AWS, dan terdapat
13 Draft articles on Responsibility of States for internationally wrongful acts adopted by the International Law Commission at its fifty-third session (2001) (extract from the Report of the In - ternational Law Commission on the work of its Fifty-third session, Official Records of the General Assembly, Fifty-sixth session, Supplement No. 10 (A/56/10), chp.IV.E.1) . Selanjutnya disebut Ran- cangan Konvensi tentang Tanggung Jawab Negara.
kesalahan dan pelanggaran Hukum Humaniter Internasional, maka negara dapat dimintai pertanggungjawaban secara internasional.
2.  Pertanggung Jawaban Individu (individual responsibility)
Terdapat beberapa pihak yang dapat dianggap bertanggung jawab secara individu atas kesalahan penggunaan AWS, yaitu: (1) kombatan; (2) komandan militer; (3) programmer; dan (4) perancang AWS. Pembahasan pertanggungjawaban individu dalam penulisan ini terbatas pada pertanggungjawaban individu dalam Hukum Humaniter Internasional, sehingga pihak yang akan dibahas adalah kombatan dan komandan militer.
Dalam Hukum Humaniter Internasional, pertanggungjawaban individu meliputi pembuktian unsur mental elements atau mens rea , dan physical elements . Ketentuan mengenai mental elements terdapat dalam Pasal 30 Rome Statute of the International Criminal Court14 (selanjutnya disebut Statuta Roma 1998 ), yang menyatakan bahwa mental elements terdiri dari niat (intent) dan pengetahuan (knowledge) . Niat yang dimaksudkan adalah niat individu untuk terlibat dalam tindakan pelanggaran, menyebabkan konsekuensi pelanggaran atau sadar bahwa pelanggaran akan terjadi. Sementara pengetahuan adalah pengetahuan individu terhadap tindakan pelanggaran atau mengetahui bahwa konsekuensi akan terjadi. Dalam hal physical elements , tindakan pidana yang dilakukan seorang individu harus memenuhi unsur-unsur kejahatan (elements of crime) dari tindak pidana yang dilakukan, dan berdasar pada Pasal 25 ayat (3) Statuta Roma 1988. Apabila seserang terbukti memenuhi unsur mental elements dan physical elements dari suatu tindak pidana, maka seseorang tersebut harus bertanggungjawab secara individu.
1.  Kombatan
Kombatan sebagai pihak yang terlibat dalam suatu konflik bersenjata harus me - matuhi ketentuan dalam Hukum Humaniter Internasional, termasuk ketentuan yang melarang atau membatasi penggunaan sarana dan metode berperang. Hal tersebut ses-
14 Rome Statute of the International Criminal Court, 17 July 1998 .  Selanjutnya disebut Statuta Roma 1998.

## 384 Aulia Putri: Autonomous Weapon Systems
uai dengan pengaturan dalam Pasal 35 Protocol Additional to the Geneva Conventions of 12 August 1949, and relating to the Protection of Victims of International Armed Conflicts 15 (selanjutnya disebut Protokol Tambahan I 1977 ) yang sebagai berikut:
(i) In any armed conflict, the right of the Parties to the conflict to choose meth - ods or means of warfare is not unlimited;
(ii) It is prohibited to employ weapons, projectiles and material and methods of warfare of a nature to cause superfluous injury or unnecessary suffering;
(ii) It is prohibited to employ methods or means of warfare which are intend- ed, or may be expected, to cause widespread, long-term and severe damage to the natural environment.
Kombatan dapat dianggap bertanggung jawab atas penggunaan AWS, apabila kombatan tersebut menyadari bahwa pengoperasian AWS akan melanggar ketentu- an Hukum Humaniter Internasional.
2.  Komandan Militer
Komandan militer dapat bertanggung jawab secara individu, apabila pengo- perasian AWS melanggar ketentuan Hukum Humaniter Internasional. Hal tersebut dikarenakan, komandan militer merupakan pihak yang memutuskan apakah AWS akan diluncurkan atau tidak dalam konflik bersenjata. 16 Selain itu, komandan militer juga dapat bertanggung jawab atas kesalahan bawahannya, karena komandan mi- liter berkewajiban untuk mengendalikan perilaku bawahannya. 17 Ketentuan terse- but berlaku, apabila komandan militer mengetahui atau mempunyai alasan untuk mengetahui bahwa bawahannya akan melakukan kesalahan tetapi tidak melakukan tindakan yang diperlukan untuk menghalanginya. 18
Berdasarkan uraian diatas mengenai karakteristik AWS, maka selanjutnya perlu ditinjau lebih lanjut mengenai legalitas AWS sebagai salah satu bentuk
15 Protocol additional to the Geneva Conventions of 12 August 1949, and relating to the Pro - tection of Victims of International Armed Conflicts (Protocol I), 8 June 1977 . Selanjutnya disebut Protokol Tambahan I 1977.
16 Ajda Hosseini Ghasemi, Op.Cit. [34].
17 Pasal 86 ayat (2) Protokol Tambahan I 1977.
18 Pasal 86 ayat (2) dan Pasal 87 Protokol Tambahan I 1977.
senjata baru, berdasarkan Hukum Humaniter Internasional. Seperti halnya semua senjata, menilai keabsahan AWS akan tergantung pada karakteristik spesifiknya, dan apakah karakteristik tersebut dapat digunakan sesuai dengan aturan Hukum Humaniter Internasional, dalam semua situasi dimana senjata tersebut dimaksudkan dan diharapkan untuk digunakan.

## Legalitas Autonomous Weapon Systems
Dalam Hukum Humaniter Internasional, terdapat beberapa instrumen hukum yang merujuk pada kebutuhan untuk meninjau teknologi senjata baru, agar nantinya dapat diketahui apakah senjata baru tersebut telah sesuai atau tidak dengan ketentuan umum Hukum Humaniter Internasional mengenai pembatasan sarana dan metode berperang. Intsrumen internasional pertama yang mengatur mengenai pentingnya meninjau legalitas senjata baru adalah The Declaration of St. Petersburg of 1868 19
(selanjutnya disebut Deklarasi St. Petersburg 1868 ), yang mengatur sebagai berikut:
The Contracting or Acceding Parties reserve to themselves to come hereafter to an understanding whenever a precise proposition shall be drawn up in view of future improvements which science may effect in the armament of troops, in order to maintain the principles which they have established, and to conciliate the necessities of war with the laws of humanity.

## Sehubungan dengan hal tersebut, Pasal 36 Protokol Tambahan I 1977 mengatur ketentuan yang serupa, Pasal 36 menyebutkan bahwa:
In the study, development, acquisition or adoption of a new weapon, means or method of warfare, a High Contracting Party is under an obligation to determine whether its employment would, in some or all circumstances, be prohibited by this Protocol or by any other rule of international law applicable to the High Contracting Party.
Ketentuan dalam Pasal tersebut mewajibkan negara peserta untuk melakukan tinjauan hukum terhadap senjata, sarana dan metode berperang baru, dalam hal ini adalah AWS, pada berbagai tahap pengembangan dan penyebaran senjata, guna memastikan bahwa penggunaan senjata sesuai dengan ketentuan Protokol
19 Declaration Renouncing the Use, in Time of War, of Explosive Projectiles Under 400 Grammes Weight. Saint Petersburg, 29 November / 11 December 1868. Selanjutnya disebut Deklara- si St. Petersburg 1868.

## 386 Aulia Putri: Autonomous Weapon Systems
Tambahan I 1977 atau aturan Hukum Internasional lainnya yang berlaku. AWS merupakan jenis senjata baru yang dapat ditinjau secara hukum berdasarkan Pasal 36 Protokol Tambahan I 1977. Hal tersebut dikarenakan, ruang lingkup senjara, sarana dan metode berperang baru dalam Pasal tersebut adalah sangat luas, sehingga dapat mencakup semua jenis senjata, baik senjata anti-personnel atau anti-materiel , lethal atau non-lethal , dan sistem senjata. 20
Dalam hal prosedur atau tata cara melakukan tinjauan hukum terhadap senjata baru, Pasal 36 Protokol Tambahan I tidak mengatur mengenai hal tersebut  dengan lebih lanjut, namun dalam praktiknya tinjuan hukum dapat dilakukan dengan menilai desain, karakteristik senjata, serta bagaimana senjata tersebut digunakan degan berdasar pada: 21
1.  Perjanjian internasional yang mengikat negara tersebut, hukum kebiasaan inter- nasional, atau aturan lainnya yang relevan, seperti ketentuan umum Hukum Hu- maniter Internasional mengenai sarana dan metode berperang, dan aturan khusus Hukum Humaniter Internasiona yang melarang atau membatasi penggunaan sa- rana dan metode berperang tertentu.
2.  Martens Clause yang meliputi prinsip-prinsip kemanusiaan dan kesadaran umum (public conscience) , apabila tidak ada perjanjian atau hukum kebiasaan internasional yang relevan dengan senjata yang sedang ditinjau.
Sesuai dengan uraian tersebut, maka AWS sebagai senjata baru akan ditinjau secara hukum dengan berdasar pada ketentuan umum Hukum Humaniter Internasional, perjanjian internasional, dan Martens Clause . Ketentuan umum
Hukum Humaniter Internasional yang membatasi sarana dan metode berperang dalam konflik bersenjata berdasar pada prinsip-prinsip umum Hukum Humaniter Internasional, yaitu prinsip kepentingan militer, kemanusiaan, kesatriaan, pembedaan , proporsionalitas , dan pembatasan. Dalam pembahasan kali ini,
20 International Committee of the Red Cross Geneva (ICRC Geneva), ‘A Guide to the Legal Review of New Weapons, Means and Methods of Warfare: Measures to Implement Article 36 of Additional Protocol I of 1977’, (2006), 88 International Review of the Red Cross.[936].
prinsip yang akan dijadikan acuan dalam meninjau karakteristik AWS adalah prinsip kepentingan militer, proporsionalitas, pembedaan, dan pembatasan yang selanjutnya dijelaskan sebagai berikut:
1.  Prinsip Kepentingan Militer (Military Necessity)
Prinsip kepentingan militer membenarkan para pihak yang berkonflik untuk menggunakan segala bentuk kekerasan yang diperlukan untuk mencapai atau mendapat keuntungan militer (military advantages) yang pasti, yaitu melemahkan atau mengalahkan kekuatan musuh. Dalam pelaksanannya, prinsip kepentingan militer akan dibatasi dengan prinsip tambahan lainnya yang juga harus dipenuhi, yaitu prinsip proporsionalitas dan prinsip pembatsan.
Berdasarkan  prinsip  tersebut, AWS  harus  terlebih  dahulu  mengidentifikasi target militer, kemudian menilai apakah penyerangan target militer dapat menghasilkan keuntungan militer yang pasti. 22 Apabila AWS tidak dapat mengidentifikasi apakah sasaranya adalah target militer yang sah atau bukan (seperti penduduk sipil, objek budaya, fasilitas medis, dan objek sipil), maka AWS selanjutnya tidak dapat memutuskan apakah penyerangan target militer tersebut akan mengasilkan keuntungan militer yang langsung dan pasti.
2.  Prinsip Proporisionalitas (proportionality principle)
Prinsip Proportionalitas melarang segala bentuk penyerangan terhadap target militer, apabila korban atau kerugian sipil diprediksi akan melebihi atau tidak sebanding dengan keuntungan militer yang diharapkan. 23 Dalam upaya untuk memenuhi prinsip tersebut, terdapat prinsip kehati-hatian (precautionary principle) yang mengharuskan komandan militer untuk mengambil segala tindakan pencegahan (precaution) yang dianggap perlu, saat meluncurkan dan merencanakan serangan, guna menghindari dan meminimalkan hilangnya nyawa penduduk sipil dan kerusakan pada objek sipil. The US
Air Force berpendapat bahwa dalam hal menentukan proporsionalitas dari suatu serangan, penentuan tersebut merupakan penetuan yang subjektif yang
22 Adja Hosseini Ghasemi, Op.Cit. [26].
23 Pasal 51 (5) (b) Protokol Tambahan I 1977.

## 388 Aulia Putri: Autonomous Weapon Systems
inheren dan diselesaikan berdasarkan case-by-case basis . 24 Berkaitan dengan hal tersebut, The ICRC commentary menyatakan bahwa dalam membuat keputusan mengenai proporsionalitas serangan, didasarkan pada akal sehat dan iktikad baik komandan militer. 25
Berdasarkan karakteristik AWS, AWS tidak mempunyai tingkat kemampuan yang sama dengan manusia dalam menentukan proportionalitas dalam suatu serangan, selain itu sangat sulit bagi AWS untuk tetap memenuhi prinsip proporsionalitas dan kehati-hatian, bersamaan dengan mengelola sejumlah data dan skenario tidak terduga yang berbeda dengan sistem operasional senjata yang telah diprogram sebelumnya. Hal tersebut dikarenakan, sistem operasional senjata yang dibentuk dalam tahap pengembangan tidak mencakup ketentuan dalam batas apa serangan dapat dilakukan atau tidak, atau standar yang dianggap proporsional agar serangan dapat dilakukan.
3.  Prinsip Pembedaan (Distinction Principle)
Prinsip pembedaan mengharuskan para pihak yang berkonflik untuk setiap saat dapat membedakan antara penduduk sipil dan personel angkatan bersenjata, serta membedakan antara objek sipil dan militer. Pada dasarnya prinsip tersebut melarang adanya penggunaan senjata yang bersifat indiscriminate atau tidak dapat membedakan antara target militer yang sah atau bukan. Jenis analisis yang diperlukan untuk memenuhi prinsip pembedaan adalah analisis yang sangat kompleks dan sangat konstektual. Sehubungan dengan hal tersebut, Benjamin Khrisnan berpendapat bahwa: “distinguishing between a harmless civilian and an armed insurgent could go beyond anything machine perception could possibly do.” 26
Secara  karakteristik,  AWS  tidak  memiliki  kualifikasi  yang  dimiliki  oleh manusia untuk mengidentifikasi apakah seorang prajurit telah menjadi hors de combat dalam situasi yang kompleks dan sangat konstektual, menilai
24 Adja Hosseini Ghasemi, Op.Cit. [22]. 25 ibid. [25].
26 Krishnan Armin, Op.Cit. [ 99].
dan memahami keadaan emosi individu, dan menilai situasi yang dimaksud sebagai harmless . Personel angkatan bersenjata dapat menilai seluruh konteks secara menyeluruh, sedangkan AWS dalam pengoperasiannya hanya akan tergantung pada visi atau aspek tertentu karena pemrogramannya.  Dalam hal sistem operasional senjata, juga tidak ada ketentuan ataupun karakterisasi yang jelas tentang bagaimana penduduk sipil dan hors de combat harus bertindak, terlihat atau berperilaku agar dapat dibedakan dengan target militer yang sah.
4.  Prinsip Pembatasan (Limitation Principle)
Prinsip pembatasan membatasi hak para pihak yang berkonflik dalam memilih dan menggunakan sarana berperang untuk melukai lawannya. Ketentuan dalam Hukum Humaniter Internasional melarang atau membatasi penggunaan senjata yang berdasarkan sifat dan karakteristiknya: (1) menyebabkan cedera berlebihan dan penderitaan yang tidak perlu; (2) bersifat tidak diskriminatif;
(3) menyebabkan kerugian dan korban sipil yang berlebihan; (4) menyebabkan kerusakan  lingkungan  dalam  jangka  waktu  yang  panjang;  dan  (5)  bersifat curang atau khianat. Dalam hal ini, apabila AWS tetap digunakan sebagai sarana beperang, maka akan melanggar prinsip pembatasan. Hal tersebut dikarenakan, AWS secara sifat dan karakteristiknya tidak dapat memenuhi ketentuan dalam prinsip porporsionalitas dan prinsip pembedaan.
Dalam pembahasan selanjutnya, tinjauan hukum AWS akan didasarkan pada perjanjian internasional, yang dianggap ketentuannya paling mendekati karakteristik AWS, yaitu Convention on Prohibitions or Restrictions on the Use of Certain Conventional Weapons Which May Be Deemed to Be Excessively Injurious or to Have Indiscriminate Effects 27 (yang selanjutnya disebut Konvensi Senjata Konvensional 1980 ). Dalam Konvensi Senjata Konvensional 1980 terdapat kesepakatan umum antar negara peserta yang menyepakati bahwa kontrol atau pengawasan manusia yang “bermakna”
27 Convention on Prohibitions or Restrictions on the Use of Certain Conventional Weapons Which May be Deemed to be Excessively Injurious or to Have Indiscriminate Effects. Geneva, 10 October 1980. Selanjutnya disebut Konvensi Senjata Konvensional 1980.

## 390 Aulia Putri: Autonomous Weapon Systems
atau “efektif”, atau “tingkat penilaian manusia yang tepat” harus dipertahankan pada penggunaan suatu sistem senjata untuk memenuhi persyaratan hukum dan etika.  Hal tersebut tentunya sulit untuk dipenuhi oleh karakteristik AWS, karena keterlibatan manusia terbatas pada tahap pengembangan dan pengaktifan, sementara pada tahap pengoperasian AWS tidak membutuhkan intervensi manusia. Hal tersebut akan membawa ancaman yang nyata, apabila AWS mengalami kegagalan dalam sistem pengoperasiannya tetapi tidak ada celah bagi manusia untuk melakukan intervensi.
Sebagaimana dijelaskan sebelumnya, bahwa tinjauan hukum dapat pula berdasar pada Martens Clause . Martens Clause terdapat dalam Preambul Hague Convention IV respecting the Laws and Customs of War on Land 28 (selanjutnya disebut Konvensi IV Den Hagg 1907 ) berbunyi sebagai berikut:
“Until a more complete code of the laws of war is issued, the High Contract- ing Parties think it right to declare that in cases not included in the Regula- tions adopted by them, populations and belligerents remain under the protec- tion and empire of the principles of international law, as they result from the usages established between civilized nations, from the laws of humanity and the requirements of the public conscience.” 29
Berdasarkan ketentuan tersebut, Martens Clause merupakan klausula yang diperuntukkan untuk peristiwa atau permasalahan tidak diatur dalam ketentuan Hukum Humaniter Internasional, sehingga apabila terdapat kekosongan atau celah dalam hukum positif, maka solusi yang diambil harus berdasar pada prinsip-prinsip dasar kemanusiaan dan kesadaran umum. Tujuan dari klausula tersebut adalah untuk mencegah kemungkinan diserahkannya perihal-perihal yang belum diatur pada kesewenangan-wenangan (arbitrary opinion) dari para komandan. 30 Prinsip kemanusiaan mengharuskan adanya perlakuan manusiawi terhadap individu lain, serta penghormatan terhadap kehidupan dan martabat manusia. Berdasarkan
28 Convention (IV) respecting the Laws and Customs of War on Land and its annex: Regula- tions concerning the Laws and Customs of War on Land. The Hague, 18 October 1907. Selanjutnya disebut Konvensi IV Den Hagg 1907.
29 Ajda Hosseini Ghasemi, Op.Cit. [26].
30 Haryomataram, Sekelumit tentang Hukum Humaniter Internasional (Sebelas Maret Uni- versity Press 1994).[14].
karakteristiknya AWS gagal untuk menghormati martabat manusia, karena mendasarkan penentuan hidup dan mati manusia, atau menentukan sasaran target penyerangan, pada perhitungan algoritme yang tertanam dalam sistem komputer. Karakteristik AWS juga bertentangan dengan kesadaran umum, karena memiliki konsep sistem senjata yang penggunaan kekuatan dan penyerangannya dilakukan diluar kendali manusia.
Berdasarkan tinjauan hukum AWS diatas, dapat diketahui bahwa terdapat 3 hal mendasar yang menjadikan AWS melanggar Hukum Humaniter Internasional, yaitu:
1.  Sistem pengoperasian AWS tidak memiliki tingkat kemampuan yang dapat melakukan penilaian terhadap situasi yang kompleks dan kontekstual, seperti mengevaluasi proporsionalitas suatu serangan atau rencana serangan bersamaan dengan melakukan tindakan pencegahan yang diperlukan guna membatasi ker- ugian dan korban sipil, membedakan objek atau penduduk sipil dengan target militer dalam situasi yang kompleks.
2.  AWS tidak memiliki tingkat intervensi manusia yang cukup, karena intervensi manusia hanya terbatas pada tahap pengembangan dan tahap pengaktifan, seh- ingga menimbulkan ancaman yang nyata, apabila AWS mengalami kegagalan sistem pengoperasian.
3.  AWS gagal untuk menghormati martabat manusia dan bertentangan dengan ke- sadaran umum, karena mendasarkan hidup dan mati manusia pada perhitungan algoritme, serta penggunaan kekuatan dan penyeranggannya berada diluar ken- dali manusia.

## Kesimpulan
AWS merupakan bentuk senjata baru yang memiliki sistem otonom, sehingga secara independen dapat melakukan penargetan dan penyerangan tanpa campur tangan manusia. Belum ada pengaturan dalam Hukum Humaniter Internasional yang secara spesifik melarang atau membatasi penggunaan AWS, sehingga perlu dilakukan tinjauan hukum terhadap desain, karakteristik, dan cara penggunaan AWS dengan berdasar pada prinsip-prinsip umum Hukum Humaniter Internasional, perjanjian internasional tentang
sarana dan metode berperang, dan Martens Clause .  Hasil tinjauan hukum menunjukkan bahwa AWS melanggar ketentuan Hukum Humaniter Internasional yaitu: (1) prinsip proporsionalitas; (2) prinsip pembedaan; (3) prinsip pembatasan; (4) ketentuan mengenai tingkat  intervensi  manusia  dalam  Konvensi  Senjata  Konvensional  1980;  (5)  prinsip- prinsip dasar kemanusiaan dan kesadaran umum dalam Martens Clause . Oleh karena itu, diperlukan pembentukan instrumen hukum yang mengikat, yang memberikan pengaturan lebih lanjut mengenai penggunaan AWS dalam konflik bersenjata.

## Daftar Bacaan

## Buku
H.J. Morgenthau, Kenneth W. Thompson, Politik Antar Bangsa (Yayasan Pustaka Obor 2010).
Haryomataram, Sekelumit tentang Hukum Humaniter Internasional (Sebelas Maret University Press 1994).
Jarna Petman, Autonomous Weapons Systems and International Humanitarian Law: ‘Out of The Loop’? (Unigrafia Oy 2017).
Krishnan Armin, Killer Robots Legality and Ethicality of Autonomous Weapons (Ashgatae Pubishing Company 2009).
Umesh Chandra Jha , Killer Robots: Lethal Autonomous Weapon Systems Legal, Ethical, and Moral Challenges (Vij Books India Pvt Ltd 2016).

## Jurnal
Internat ional Committee of the Red Cross Geneva , ‘A Guide to the Legal Review of New Weapons, Means and Methods of Warfare: Measures to Implement Article 36 of Additional Protocol I of 1977’ (2006) 88 International Review of theRed Cross.
Neil Davidson , ‘A Legal Perspective: Autonomous Weapon Systems under International Humanitarian Law’ (2007) 30 UNODA Occasional Papers.

## Tesis
Ghasemi, Adja Hosseini, Semi-Autonomous Weapon Systems in International Humanitarian Law - A study of the new decision-making and responsibility issue in International Humanitarian Law relating to Semi-Autonomous
Weapon Systems (Lund University 2014).

## Perjanjian Internasional
Convention (IV) respecting the Laws and Customs of War on Land and its annex: Regulations concerning the Laws and Customs of War on Land. The Hague, 18 October 1907.
Convention on Prohibitions or Restrictions on the Use of Certain Conventional Weapons Which May be Deemed to be Excessively Injurious or to Have Indiscriminate Effects. Geneva, 10 October 1980.
Declaration Renouncing the Use, in Time of War, of Explosive Projectiles Under 400 Grammes Weight. Saint Petersburg, 29 November / 11 December 1868
Protocol Additional to the Geneva Conventions of 12 August 1949, and relating to the Protection of Victims of International Armed Conflicts (Protocol I), 8 June 1977.
Rome Statute of the International Criminal Court, 17 July 1998.
HOW TO CITE : Aulia Putri Yunanda, ‘Autonomous Weapon Systems Dan Legalitas Penggunannya Dalam Hukum Humaniter Internasional’ (2019) Vol. 2 No. 2 Jurist-Diction
--halaman ini sengaja dibiarkan kosong--