## Artificial Intelligence Sebagai Subjek Hukum: Tinjauan Konseptual dan Tantangan Pengaturan di Indonesia
Eka Nanda Ravizki dan Lintang Yudhantaka eka.nanda.ih@upnjatim.ac.id UPN Veteran Jawa Timur

## Abstract
Artificial Intelligence (AI) is an invention that is changing the face of the world. The emergence of machines with AI certainly has a disruptive effect on various social structures of society. Conceptually, the more intelligent a system is, the more likely it is that the system will take actions that have legal consequences. So, if this smart system can act and think like humans, does that mean the system must also have legal rights and protections like humans? Therefore, to meet the legal need for regulation of AI, it is necessary to have a deep understanding of how the concept of AI is a legal subject and the challenges in regulation that must be answered if AI is recognized as a legal subject in Indonesia. The research method used in this paper is descriptive analysis. This method uses literature research on the rules of law and legislation in force, and the data collected is analyzed descriptively. It is supported by using a statute approach and a conceptual approach to get complete results. The conclusion put forward in this paper is that several concepts allow AI to be considered a legal subject, in particular, the theory of legal entities and organ theory, which essentially states that the law can recognize legal subjects other than humans naturally (naturalijk person). Then, several challenges were found in the effort to regulate it, namely related to criminal liability and copyright.
Keywords: Conceptual Review; Artificial Intelligence; Legal Subject.

## Abstrak
Artificial Intelligence (AI) merupakan penemuan yang mengubah wajah dunia. Munculnya mesin dengan AI tentu menimbulkan efek disruptif terhadap berbagai tatanan sosial masyarakat. Secara konseptual, semakin cerdas suatu sistem, maka semakin besar kemungkinan sistem tersebut untuk melakukan tindakan yang menimbulkan akibat hukum. Maka, apabila sistem cerdas ini memiliki kapasitas bertindak dan berpikir sebagaimana manusia, apakah itu berarti sistem juga harus memiliki hak dan perlindungan hukum selayaknya manusia. Oleh karena itu, dalam rangka memenuhi kebutuhan hukum akan pengaturan tentang AI, maka diperlukan suatu pemahaman yang mendalam tentang bagaimana konsep AI sebagai subjek hukum dan tantangan dalam pengaturan yang harus dijawab apabila AI diakui sebagai subjek hukum di Indonesia. Metode penelitian yang digunakan dalam makalah ini adalah deskriptif analisis. Metode ini menggunakan penelitian kepustakaan terkait dengan kaidah-kaidah hukum dan peraturan perundang- undangan yang berlaku serta data yang terkumpul dianalisa secara deskriptif. Untuk mendapatkan hasil yang komprehensif, maka ditunjang dengan menggunakan pendekatan pendekatan statute approach dan conceptual approach. Kesimpulan yang dikemukakan dalam makalah ini adalah terdapat beberapa konsep yang memungkinkan AI dianggap sebagai subjek hukum, khususnya adalah teori badan hukum dan teori organ, yang intinya menyatakan bahwa hukum dapat mengakui subjek hukum selain manusia secara natural ( naturalijk person ). Kemudian, dalam upaya pengaturannya ditemukan beberapa tantangan, yaitu terkait pertanggungjawaban pidana dan hak cipta. Kata Kunci: Tinjauan Konseptual; Artificial Intelligence; Subjek Hukum .

## Notaire
Article history: Submitted 16 September 2022; Accepted 25 October 2022; Available online 31 October 2022.
e-ISSN:  2655-9404                    p-ISSN:  2721-8376 DOI: 10.20473/ntr.v5i3.39063 Vol. 5 No. 3, Oktober 2022
Copyright © 2022 Eka Nanda Ravizki dan Lintang Yudhantaka. Published in Notaire. Published by Universitas Airlangga,  Magister Kenotariatan.
352
Eka Nanda dan Lintang Y.: Artificial Intelligence Sebagai...

## Pendahuluan
Teknologi yang maju pesat beberapa dekade belakangan ini memunculkan berbagai penemuan baru yang mempengaruhi kehidupan manusia. Salah satu penemuan yang mengubah wajah dunia adalah Artificial  Intelligence (AI) atau kecerdasan buatan. Gagasan tentang AI pertama muncul melalui John McCarty yang memulai penelitian pada tahun 1955 dengan berasumsi bahwa setiap aspek kecerdasan manusia dapat didefinisikan secara tepat dan dapat disimulasikan oleh mesin. 1 Meskipun belum ada kata sepakat dari para ahli untuk mendefinisikan AI, harus diakui bahwa saat ini sudah banyak mesin dengan kecerdasan buatan yang hadir di tengah kehidupan kita sehari-hari.
Munculnya mesin dengan kecerdasan buatan tentu menimbulkan efek disruptif terhadap berbagai tatanan sosial masyarakat. Salah satu pertanyaan krusial yang muncul adalah: jika sebuah mesin dapat berpikir, memutuskan, dan bertindak atas kemauan sendiri, bukankah mesin tersebut seharusnya juga harus bisa diakui sebagai suatu entitas. Pertanyaan ini erat kaitannya dengan konsep subjek hukum secara luas.
Secara konseptual, semakin cerdas suatu sistem, maka semakin besar kemungkinan sistem tersebut untuk melakukan tindakan yang menimbulkan akibat hukum. Maka, apabila sistem cerdas ini memiliki kapasitas bertindak dan berpikir sebagaimana manusia, apakah itu berarti sistem juga harus memiliki hak dan perlindungan hukum selayaknya manusia?
Berbagai pertanyaan di atas mungkin terlihat sebagai sebuah premis bayangan yang belum perlu dipikirkan di masa sekarang. Namun, perkembangan teknologi yang sangat pesat memungkinkan banyak bayangan masa depan terwujud dalam waktu yang relatif singkat. Sehingga wajar jika banyak negara yang sudah bersiap-siap menyiapkan instrument hukum mereka terkait dengan status  hukum  Artificial  Intelligence.  Di  Uni  Eropa  misalnya,  pada  tahun  2016 lalu, European  Parliament’s  Committee  on  Legal  Affairs merilis draft laporan dan
1 John McCarthy, ‘Der Vater Der Rechner-Cloud Ist Tot’, <. http://www.spiegel.de/netzwelt/ web/john-mccarthy-der-vater-der-rechner-cloud-ist-tot-a-793795.html,>  accessed 14 Agustus 2022.
mosi yang menyerukan perlunya seperangkat peraturan hukum perdata tentang robot cerdas yang mengatur pembuatan, penggunaan, otonomi, dan dampaknya kepada masyarakat. 2 Terdapat beberapa solusi hukum yang ditawarkan oleh European Parliament, salah satunya adalah saran untuk menciptakan status hukum “ electronic person ” untuk robot pintar sehingga mereka dapat dipandang sebagai subjek hukum yang dapat dimintai pertanggung jawaban secara perdata maupun pidana. 3
Uni Eropa bukanlah satu-satunya yang mendiskusikan pentingnya isu ini. Pada tahun 2009, Yueh-Hsuan Weng dari Peking University menuliskan bahwa pemerintah Jepang dan Korea Selatan sedang mempersiapkan tatanan hukum agar warga negaranya dapat hidup dalam harmoni dengan koeksistensi robot pintar. 4
Kementerian Ekonomi, Perdagangan, dan Industri Jepang telah menerbitkan serangkaian “panduan robot”, yang membahas masalah bisnis dan keselamatan bagi robot generasi berikutnya. 5
Di  Indonesia,  hingga  saat  ini,  diskusi  mengenai  AI  dan  pengaruhnya terhadap hukum di Indonesia belum banyak berkembang. Jelas juga diketahui bahwa Indonesia tidak memiliki aturan hukum apapun yang membahas mengenai keberadaan robot-robot pintar ini. Namun, apabila diskusi ditarik ke arah konseptual hukum, maka ada suatu kemungkinan bahwa AI dapat dipandang dan diakui sebagai subjek hukum jenis baru.
Keingintahuan dan kesadaran bahwa AI akan berkembang semakin pesat inilah yang mendorong kami untuk membuat penelitian ini. Penelitian ini akan berusaha mencari titik terang posisi mesin cerdas dalam kaidah hukum yang ada, serta melihat implikasi apa yang mungkin muncul apabila mesin cerdas diberikan
2 Mady  Delvaux,  ‘European  Parliament  Committee  on  Legal  Affairs  Report  with Recommendations  to  the  Commission  on  Civil  Law  Rules  on  Robotic’  ( (INL) ,  2016).< http:// www.europarl.europa.eu/sides/getDoc.do?pubRef=-//EP//NONSGML+COMPARL+PE- 582.443+01+DOC+PDF+V0//EN&language=EN , > accessed  14 Agustus 2022.
3 ibid. 4 Yueh-Hsuan  Weng, et.  al ‘Toward  the  Human-Robot  Co-Existence  Society:  On  Safety Intelligent for Next Generation Robots, Springer Science’ (2009) I International Journal Social Robot [267-289].
5 ibid.

## 354
Eka Nanda dan Lintang Y.: Artificial Intelligence Sebagai...
status sebagai subjek hukum jenis baru. Kami merasa penelitian ini penting untuk menyambut dunia yang terus berubah, dan melihat progres yang sudah dilakukan oleh negara-negara lain dalam menyambut era kecerdasan buatan.

## Metode Penelitian
Tipe penelitian yang digunakan dalam penelitian ini adalah Penelitian Hukum ( Legal Reseach ). Penelitian hukum dilakukan untuk memecahkan isu hukum yang diajukan serta hasil yang hendak dicapai adalah memberikan preskripsi mengenai apa yang seyogianya. 6 Pendekatan yang dipakai dalam penelitian ini adalah pendekatan perundang-undangan ( statute  approach ), pendekatan konseptual
( conceptual approach ), dan pendekatan perbandingan ( comparative approach).
Metode pengumpulan data dilakukan dengan cara mengumpulkan bahan hukum primer, bahan hukum sekunder, bahan non-hukum baik melalui library research atau searching  website diinventarisir terlebih dahulu guna memperoleh informasi mengenai kebenaran bahan hukum tersebut lalu dikelompokkan dan dikaji dengan pendekatan perundang-undangan dan pendekatan konseptual guna memperoleh gambaran sinkronisasi dari semua bahan hukum
Setelah data terkumpul, kemudian dilakukan analisis dengan metode deskriptif analisis. Metode ini merupakan metode yang memusatkan perhatian pada rumusan masalah yang sedang dihadapi dengan mengumpulkan sumber bahan  hukum  yang  telah  ada  untuk  kemudian  dianalisis,  diidentifikasi  secara mendalam melalui studi kepustakaan dengan menguraikan setiap masalah yang ada yaitu dengan memilah-milah mana yang sesuai dengan rumusan masalah, yaitu tentang bagaimana kondisi perkembangan AI, Landasan Teori dalam Pemberian Status Subjek Hukum kepada AI, Perbandingan Kebijakan Mengenai Status  Hukum  AI  di  Beberapa  Negara,  dan  Tantangan  Pengaturan  Artificial Intelligence sebagai Subjek Hukum di Indonesia dalam beberapa aspek.
6 ibid. [89].

## Kondisi Perkembangan AI Saat ini
Meskipun  beberapa  praktisi  telah  mendefinisikan  apa  itu  AI,  namun  hingga saat ini belum ada definisi tunggal tentang AI yang diterima secara universal. Dengan demikian,  sulit  untuk  secara  jelas  mendefinisikan  perbedaan  garis  terang  antara  apa yang merupakan AI dan apa yang tidak. Oleh karena itu, tidak menutup kemungkinan definisi  AI  lain  akan  muncul  di  masa  mendatang  seiring  dengan  perkembangan kapabilitas AI.
Keragaman  definisi  AI  ini  terkait  dengan  penggunaan  AI  dalam  kehidupan manusia, kinerja dan keterlibatan kemampuan AI dalam memecahkan masalah manusia, dan akurasi AI saat menangani algoritma dan big data . Meskipun batas-batas AI dapat menjadi tidak pasti dan cenderung berubah dari waktu ke waktu, namun yang penting adalah bahwa tujuan inti dari research dan penggunaan AI selama adalah untuk mengotomatisasi (membuat sesuatu dapat berjalan secara mandiri) atau mereplikasi kecerdasan manusia. Dalam pemahaman yang berbeda, keragaman definisi AI bukan karena  ada  beberapa  konsep  AI  yang  berbeda  yang  didefinisikan  oleh  para  praktisi, tetapi itu terjadi karena AI itu sendiri selalu berkembang dari waktu ke waktu.
Sebelum menentukan tingkatan AI saat ini, penting untuk dipahami bahwa AI terus berkembang menjadi lebih kompleks. Berdasarkan buku AI populer yang ditulis oleh Stuart Russell dan Peter Norvig, 7 dalam menentukan tingkatan atau klasifikasi AI, maka dapat mempertimbangkan taksonomi berikut: (1) systems  that  think  like  humans (sistem yang berpikir seperti manusia), (2 )  systems  that  act  like  humans (sistem yang bertindak seperti manusia), (3) systems that think rationally (sistem yang berpikir secara rasional), dan (4) systems that act rationally (sistem yang bertindak secara rasional).
Taksonomi dari Peter Norvig sangat relevan untuk menganalisis dari AI yang AI kompleks. Contoh relevan dari AI kompleks adalah Autonomous Car . AI membawa paradigma baru dalam dunia otomotif. Produsen kendaraan dunia menghadapi momen revolusioner ketika kendaraan memperoleh sistem komputer onboard yang canggih,
7 Stuart  Russell  and  Peter  Norvig,  ‘Artificial  Intelligence:  A  Modern  Approach  (3rd  Edition)’ (Pearson 2009) .

## 356
Eka Nanda dan Lintang Y.: Artificial Intelligence Sebagai...
akses Internet, dan tampilan hardware yang interaktif dan canggih. 8 Dengan demikian, sekarang AI menjadi fokus utama dalam pengujian dan pengembangan kendaraan otonom dengan cara baru dan inovatif. Kemampuan deep  learning AI  adalah  teknologi  paling  signifikan  yang  membuat  kendaraan/mobil  dapat mengemudi secara otonom. Kemampuan Deep learning AI, dapat meniru aktivitas neuron , mendukung fungsi seperti pengenalan suara dan ucapan, pencarian suara, pengenalan dan pemrosesan gambar, deteksi gerakan, dan analisis data. 9 Dengan pengembangan baru AI, ini membantu kendaraan/mobil mengenali lalu lintas pejalan kaki, kendaraan lain di jalan, dan sinyal lalu lintas, dan mematuhi rute yang dipetakan.
Dengan  melihat  taksonomi  dan  contoh  AI  diatas,  sudah  jelas  bahwa  AI kompleks  berbeda  dari  AI  sederhana.  Dapat  dilihat  bahwa  AI  kompleks  tidak hanya memiliki sistem komputerisasi yang cerdas atau algoritma komputerisasi yang cerdas, tetapi juga memiliki perilaku cerdas manusia (human intelligent behaviour). Dengan demikian, dapat dilihat bahwa pengembangan AI ditujukan untuk membuatnya menjadi self-training agent/machine learning (kemampuan untuk mengumpulkan  pengalaman  pribadi).  Fitur  unik  ini  memungkinkan  AI  untuk bertindak secara berbeda dalam situasi yang sama, tergantung pada tindakan yang dilakukan sebelumnya.
Fitur  unik  AI  kompleks  membuatnya  menjadi  sangat  mirip  dengan pengalaman dan cara berpikir manusia. Pemodelan kognitif dan teknik berpikir rasional memberikan lebih banyak fleksibilitas dan memungkinkan penciptaan program yang memiliki dapat memproses sesuatu layaknya otak manusia (brain activity processes). Hayes 10 berpendapat bahwa “in their complexity and operating principles, certain software programs imitate certain processes of the human brain,” the
8 D.A. Boehm-Davis, A. Marcus, et al, ‘“The next Revolution: Vehicle User-Interfaces and the Global Rider/Driver Experience”’ (2003) The ACM CHI Conference on Human Factors in Computing Systems.[708-709].
9 MIT Technology Review Insights, ‘“Self-Driving Cars Take the Wheel”,’ ( MIT Technology Review, ).<https://www.technologyreview.com/s/612754/self-driving-cars-take-the-wheel/ > accessed pada 1 Agustus 2022
10 Hayes, ‘Artificial Intelligence: The Future’s Getting Closer’ (1988} The International Journal of Technology Law and Practice.[338].
functioning of which is based on an artificial neural network ” (dalam kompleksitas dan prinsip operasinya, software tertentu dapat meniru proses tertentu dari otak manusia, yang fungsinya didasarkan pada jaringan saraf tiruan). Berdasarkan pernyataan tersebut, dapat disimpulkan bahwa AI yang ada saat ini adalah AI yang sangat kompleks dan canggih. AI yang dapat berjalan secara mandiri dengan berpikir, belajar, dan membuat keputusan mandiri berdasarkan perilaku cerdas manusianya.
Pertanyaan selanjutnya yang muncul terkait perkembangan AI adalah tentang di mana kondisi AI saat ini dalam beberapa tahun terakhir. Untuk menjawab pertanyaan ini, kita harus melihat kategori level AI yang disediakan oleh  Mikhail  Batin  dan  Alexey  Turchin, 11 yaitu: Narrow  AI,  Artificial  General Intelligence (AGI), dan Superintelligence . Berdasarkan kategorisasi level AI tersebut, maka dapat diketahui bahwa AI yang paling banyak digunakan saat ini dianggap sebagai Narrow AI. Narrow AI (Weak AI) adalah tingkat program komputer yang mencapai kinerja di atas manusia dalam tugas yang spesifik dan sempit. 12 Jumlah program tersebut berkembang pesat karena keberhasilan dari pengembangan machine learning . Narrow AI memiliki kemampuan belajar dan menggunakannya untuk membuat keputusan independen. Namun demikian, ia dapat melakukan proses di mana sistem komputerisasi menganalisis data dan menggunakan pengetahuan yang baru ditemukan untuk menginformasikan keputusan atau prediksi secara independen. Meskipun Narrow AI juga dapat berkembang karena kemampuan pembelajaran mesin, tetapi masih tidak dapat mencapai tingkat kecerdasan manusia di banyak bidang seperti AGI.
AGI mengacu pada sistem AI masa depan yang menunjukkan perilaku cerdas dan canggih layaknya manusia di berbagai tugas kognitif. Dengan demikian,
Narrow AI yang ada saat ini masih akan sulit untuk mencapai tahap AGI. Upaya untuk mencapai AGI terus dilakukanmelalui penelitian Panjang selama beberapa
11 Mikhail Batin dan Alexey Turchin, ‘Kecerdasan Buatan Dalam Perpanjangan Kehidupan: Dari Pembelajaran Mendalam Ke Superintelligence’ (2017) 41 Journal Informatica.[401-417].
12 N. Bostrom., Superintelligence (Oxford University Press 2014).

## 358
Eka Nanda dan Lintang Y.: Artificial Intelligence Sebagai...
dekade ini. Komite Teknologi NSTC, juga pernah menyampaikan bahwa AGI tidak akan tercapai setidaknya selama beberapa dekade. Pendapat ahli tentang perkiraan tanggal kedatangan AGI berkisar antara 2030 hingga berabad-abad dari sekarang. 13
Oleh karena itu, status level AI saat ini adalah berada pada level Narrow AI. Inilah yang menjadi fokus makalah ini. Dengan berkonsentrasi pada Narrow AI, makalah ini menghindari beberapa argumen yang lebih spekulatif tentang kekuatan transformatif AI. Namun demikian, itu juga karena adopsi Narrow AI akan sangat besar. Penggunaannya telah menjadi semakin luas. 14 Kemampuan Narrow AI mencakup reasoning, machine learning, robotics, natural language processing, object perception, information storage and retrieval, and speech, handwriting, face recognition . Fitur-fitur tersbut akhirnya mampu melahirkan mobil self-driving/Autonomous Car , aplikasi penerjemah otomatis, aplikasi pengolah big data, dan robot permainan, di antara banyak aplikasi lainnya. 15 Perhatikan bahwa, meskipun AI dalam penelitian ini berpotensi menjadi AGI dan juga memiliki konsekuensi transformatif, namun makalah ini tidak berfokus pada AGI karena istilah tersebut sementara ini masih digunakan dalam konteks Penelitian dan Pengembangan (R&D).

## Landasan Teori dalam Pemberian Status AI sebagai Subjek Hukum
Berdasarkan pembahasan tentang level atau kualifikasi AI sebelumnya, maka diketahui bahwa AI saat ini belum mencapai level yang setara dengan manusia (tipe AGI). Namun demikian, dengan meliht fakta bahwa AI terus berkembang menjadi semakin kompleks, maka upaya pembuatan payung hukum untuk AI harus segera dipersiapkan sejak dini. Hal ini pentin dalam rangka mengantisipasi dampak negative dari AI yang sudah sampai ke tahap atau level AGI atau bahkan superintelligence .
13 Megan Smith, et all., ‘Preparing for The Future of Artificial Intelligence’ (2017) National Science and Technology Council (NSTC) Committee on Technology Executive Office of the President of United States.
14 Joel Tito, et. all., ‘Destination Unknown: Exploring the Impact of Artificial Intelligence on Government’ (2017) Artificial Intelligence and Future of Government, the Centre for Public Impact (CPI).[6].
15 ibid.
Ditilik  dari  regulasi  Indonesia  yang  ada,  diskursus  hukum  tentang  AI sebenarnya  bisa  dianalisis  dalam  Kitab  Undang-Undang  Hukum  Perdata (KUHPer).  KUHPer  secara  tidak  langsung  memberikan  opsi  bahwa  AI  dapat dianalogikan sebagai pekerja. Hal tersebut dapat terlihat pada hubungan antara pekerja  dan  majikan  yang  diatur  pada  dalam  Pasal  1367  ayat  (1)  dan  (3)  KUH Perdata yang menyatakan sebagai berikut:
“(1) Seseorang tidak saja bertanggung jawab untuk kerugian yang disebabkan perbuatannya sendiri, tetapi juga untuk kerugian yang disebabkan perbuatan orang-orang yang menjadi tanggung jawabnya atau disebabkan oleh  barang-barang  yang  berada  di  bawah  pengawasannya.”  Dan  (3) Majikan-majikan dan orang yang mengangkat orang lain untuk mewakili urusan-urusan mereka adalah bertanggung jawab tentang kerugian yang diterbitkan oleh pelayan-pelayan atau bawahan-bawahan mereka di dalam melakukan pekerjaan untuk mana orang-orang ini dipakainya”.
Berdasarkan pengaturan tersebut, kita dapat menganalogikan AI sebagai pekerja dengan melihat karakteristik “pekerja” yang melekat pada sistem AI. Penerapan dan penggunaan AI dalam kehidupan sehari-hari juga membantu apa yang sebenarnya dapat dilakukan manusia, dimana hal ini membuat kesan AI semakin melekat dengan pekerja. Dengan demikian, jika AI dianalogikan seperti pekerja, maka pertanggungjawaban atas kelalaian/kesalahan dari AI dapat dibebankan kepada pemilik AI selaku “pemberi kerja”. Selain itu, perlu diingat bahwa jika AI adalah seorang pekerja, ia memiliki hubungan hukum dengan pemberi kerja. Tentu saja, dia juga bertanggung jawab kepada majikannya jika dia melanggar hukum. AI yang dinilai sebagai pekerja juga dapat bertanggung jawab secara independent. Namun dalam praktiknya ini sangat sulit, sehingga masih membutuhkan manusia untuk dapat bertanggung jawab.
Selain menganalogikan AI sebagai pekerja, terdapat juga kemungkinan bahwa AI dianalogikan sebagai hewan. Hal ini semata-mata melihat kemiripan antara hewan dan AI sebagai entitas yang dapat bergerak dan berperilaku acara mandiri (otonom). Dalam hal ini, KUHPer mengatur apabila hewan menyebabkan kerugian maka pemiliknya akan bertanggung jawab. Hal ini disebutkan dalam Pasal 1368 KUH Perdata yang menyatakan bahwa:
Eka Nanda dan Lintang Y.: Artificial Intelligence Sebagai...
“Pemilik binatang, atau siapa yang memakainya, selama binatang itu dipakainya, bertanggung jawab atas kerugian yang disebabkan oleh binatang tersebut, baik binatang itu ada di bawah pengawasannya maupun binatang tersebut tersesat atau terlepas dari pengawasannya”.
Dengan demikian, apabila AI dianologikan sebagai hewan, maka apabila AI melakukan perbuatan yang melanggar hukum atau merugikan pihak lain, maka segala sesuatu hal yang ditimbulkan oleh perbuatan oleh AI akan ditanggung oleh pemiliknya atau oang yang menjalankan AI tersebut. Namun demikian, analogi bahwa AI dapat dipersamakan dengan binatang merupakan perdebatan Panjang yang masih harus dikaji lebih mendalam dari sisi filosofis dan teoritisnya.
Dalam  perkembangannya,  para  ahli  meyakini  bahwa  AI  akan  memiliki kemampuan merasa yang semakin tinggi dan diprediksi akan melampaui kecerdasan manusia. Teknologi yang ada saat ini juga dianggap mampu untuk menciptakan AI yang dapat memahami berbagai aspek kemandirian dan kecerdasan. Teknologi juga dapat memperluas pandangan filosofis terkait kemandirian AI. Sebelumnya, AI dianggap mandiri sepanjang AI dapat melakukan pekerjaannya berdasarkan program yang sebelumnya diterapkan. Namun saat ini, AI jauh lebih mandiri dari itu. AI dapat menentukan sendiri tujuan dan targetnya dan memilih bagaimana cara yang terbaik untuk mencapai tujuan dan target tersebut.
AI  telah  berkembang  dari  yang  sebelumnya  dianggap  hanya  fiksi  ilmiah menjadi suatu fakta ilmiyah karena telah memiliki kemampuan yang sebelumnya hanya  bisa  dibayangkan  sebagimana  dalam  film-film  atau  cerita-cerita  buatan manusia. Marshal S Willick, menyatakan bahwa “ AI can be defined as the capability of a device to perform functions that are normally associated with human intelligence, such as reasoning, learning and self-improvement ”. 16 Berdasarkan pernyataan tersebut maka dapat deketahui bahwa AI kini memiliki suatu kemampuan seperti bergerak dan berproduksi, memprediksi dan memilih, mampu mempelajari, memahami, dan menginterpretasikan, mampu menganalisis dan menentukan langkah terbaik, mampu mempersepsikan dan merasakan emosi.
16 David Feil-Seifer and Maja J, Mataria, Human-Robot Interaction, Encyclopedia of Complexity and System Science (2009).
Dengan demikian, maka sebenarnya AI semakin memiliki kesamaan dengan manusia penciptanya. Hal ini akan meningkatkan kesulitan untuk membedakan produk hasil proses dari suatu teknologi yang dibuat manusia dengan produk hasil proses dari AI, karena AI telah terbukti memiliki kapasitas yang terkadang secara  mental  dan  fisik  memiliki  kemiripan  dengani  funngsi-fungsi  yang  ada pada manusia, dan kebanyakan orang percaya bahwa AI memiliki kemampuan tersebut. Meningkatnya kesamaan antara manusia dan AI secara tidak langsung membuktikan bahwa saat ini diperlukan suatu pengakuan yang menyatakan bahwa AI adalah suatu subjek hukum.
Harus  diakui  bahwa  sulit  untuk  mengkategorikan  atau  menyamakan AI seperti organisma layaknya manusia. Namun demikian, dalam sejarahnya, perdebatan semacam ini pernah dilakukan dalam memandang korporasi sebagai subjek hukum. Perdebatan yang muncul pada waktu itu adalah bahwa korporasi bukanlah organisme namun terdapat kebutuhan untuk mengakui korporasi sebagai subjek hukum. Hal ini melahirkan teori badan hukum dan teori organ, yang intinya adalah bahwa hukum dapat mengakui subjek hukum selain manusia secara natural ( naturalijk person ).
Teori badan hukum ini relevan dengan teori terkait Philosophical Personality . Banyak ahli yang berpendapat bahwa tujuan utama adanya hukum adalah untuk meningkatkan sesejahteraan dan melindungi kepentingan manusia. Manusia adalah satu-satunya penerima manfaat dari hukum, namun pendapat tersebut mungkin menjadi kurang tepat apabila kita hanya menganganggap bahwa manusia adalah satu-satunya subjek. 17 Filsuf,  ilmuwan,  ahli  teori,  dll,  telah  melakukan beberapa upaya untuk memberikan teori yang diterima secara umum untuk sifat filosofis  tentang personality tetapi belum menemukan ukuran yang pasti. 18 Hal ini membuktikan bahwa tendensi untuk memersonifikasi entitas selain manusia menimbulkan suatu kebingungan. Ketika ada yang mempertanyakan mengenai
17 J.  Harris,  ‘Human  Beings,  Persons  and  Conjoined  Twins:  An  Ethical  Analysis  of  the Judgment in Re A’ (2001) 9 Medical L Rev.
18 R.A. Brooks, Robot: The Future of Flesh and Machines 194-95 (Penguin Press London 2002).
362
Eka Nanda dan Lintang Y.: Artificial Intelligence Sebagai...
mengenai legal nature of personality , maka pertanyaan tersebut juga sedikit banyak akan menyinggung ranah filosofi.
Dengan  demikian,  maka  dapat  kita  ketahui  bahwa  hubungan  antara legal personality dengan philosophical  personality masih menimbulkan banyak kebingungan ketika menentukan apakah suatu obejek tersebut dapat memperoleh personality . Oleh karena itu terdapat metode ditawarkan untuk dapat menentukan personality suatu entitas baru, yaitu Conditions-based  method . Metode ini mempertanyakan mengenai “dalam kondisi apa hukum memperlakukan X sebagai subjek hukum?” Berdasarkan metode ini, akan menjadi tidak penting mencari analogi antara manusia X dan korporasi Y untuk menjelaskan legal personality dari Y karena kesamaan yang relevan antara keduanya adalah sangat nyata yaitu keduanya sama-sama diberlakukan sebagai subjek hukum. 19
Metode conditions-based dapat memberikan pengakuan status subjek hukum terhadap suatu entitas non-manusia. Mereka mempunya legal personality bukan karena sesuatu yang melekat secara alamiah atau karena bagaimana mereka akan merespon hukum, namun secara sederhana karena mereka, berdasarkan fakta, diperlakukan oleh hukum memiliki hak dan kewajiban hukum.  Dengan  kata  lain,  status  sebagai  subjek  hukum  merupakan  suatu kesimpulan dan bukan suatu premis. Selain itu, metode ini juga sejalan dengan sejarah perkembangan subjek hukum. Contoh paling mudah adalah pemberian status subjek hukum kepada Perseroan Terbatas. Dengan kata lain, sebenarnya bukanlah hal baru konsep entitas bukan-manusia memiliki hak dan kewajiban hukum.
Dengan demikian, diakui Badan hukum sebagai subjek hukum merupakan pionir terciptanya subjek hukum artifisial . Munculnya badan hukum merupakan satu  contoh  yang  menyatakan  bahwa  personifikasi  pernah  dilangsungkan  dan diwujudkan. Dalam sejarah perkembangan konsep subjek hukum, badan hukum kini  bukanlah  satu-satunya  perwujudan  dari  subjek  hukum  artifisial.  Konsep
19 HL Hart, ‘Definition and Theory in Jurisprudence’ (LQR 1954).[37 & 56].
yang sama juga seharusnya dapat dikembangkan untuk menyebut sesuatu selain manusia sebagai sebuah subjek hukum.
Terakhir, penting untuk diperhatikan bahwa, jika AI diakui sebagai subjek hukum, itu tidak berarti bahwa hukum terikat untuk memberikan AI semua hak dan kewajiban hukum yang dimiliki oleh subjek hukum pada umumnya, apalagi seperti yang dimiliki oleh manusia. Status hukum yang diberikan kepada AI harus sesuai dengan pertimbangan yang membenarkan atribusi dari legal personality , serta pertimbangan hukum praktis yang timbul dari sifat alaminyanya. Hal inilah yang menjadikan isu terkait legal personality, legal capability, dan liability/responsibility AI menjadi menarik untuk diteliti lebih lanjut.

## Perbandingan Kebijakan Mengenai Status Hukum AI di Beberapa Negara
Penggunaan AI akan sangat berdampak pada masyarakat di beberapa negara, baik secara positif maupun negatif. Seperti kebanyakan teknologi baru, AI  juga  berpotensi  menciptakan  masalah  baru.  Hal  ini  karena  AI  juga  dapat disalahgunakan dalam aktivitas yang tidak etis atau bahka perbuatan kriminal. Oleh karena itu, penting untuk memahami tantangan dalam mengkonseptualisasikan AI dalam peraturan-peraturan di beberapa negara. Tujuannya adalah untuk mendapatkan insigt dan lesson learnt dari negara lain yang sudah lebih dulu secara aktif memanfaatkan AI.
A. Eropa
Pada tahun 2012, Komisi Eropa memprakarsai Proyek RoboLaw (judul lengkap:
Regulating  Emerging  Robotic  Technologies  in  Europe:  Robotics  Facing  Law  and Ethics) 20 dengan tujuan utama menyelidiki keterkaitan antara teknologi yang muncul di bidang bio-robotik (termasuk AI) dengan sistem sistem hukum di negara-negara Eropa, menyelidiki apakah AI dapat mengganggu hukum tradisional, menyelidiki kemungkinan risiko yang timbul akibat AI terhadap hak-hak dasar dan kebebasan, dan menyelidiki secara lebih umum landasan atau payung hukum apa yang dapat
20 Erica Palmerini, Interplay Antara Hukum Dan Teknologi, Atau RoboLaw Dalam Hukum Dan Teknologi. Tantangan Mengatur Perkembangan Teknologi (Pisa University Press 2012).[7-8].

## 364
Eka Nanda dan Lintang Y.: Artificial Intelligence Sebagai...
dikembangkan untuk mengakomodasi AI. Tujuan dari proyek ini adalah untuk menguraikan analisis komprehensif dari peraturan terkini yang berkaitan dengan robotika dalam sistem hukum yang berbeda, untuk memahami apakah peraturan baru diperlukan atau apakah masalah yang ditimbulkan oleh teknologi robot dapat ditangani oleh kerangka hukum yang ada. 21
Hasil  terpenting  dari  Proyek  RoboLaw  adalah  laporan  akhir  yang  berisi “Pedoman Pengaturan Robotika” ( Guidelines  on  Regulating  Robotics ), yang dipresentasikan pada tanggal 22 September 2014. Laporan tersebut ditujukan kepada Komisi Eropa, dalam rangka membangun kerangka hukum yang kuat untuk pengembangan teknologi robot di Eropa. Pedoman dimaksudkan untuk digunakan oleh Komisi Eropa untuk menanggapi masalah etika dan praktis mengenai penerapan teknologi yang muncul.
Di Eropa, pertanyaan “bisakah Artificial Intelligence menjadi badan hukum” masih hanya teoritis dari perspektif hari ini. Meskipun proyek RoboLaw yang digerakkan oleh UE mempromosikan pengembangan pedoman yang mengatur pengoperasian robotika — termasuk AI, tetapi UE berpendapat bahwa AI tidak memiliki kepribadian hukum. Oleh karena itu, dalam litigasi untuk ganti rugi, AI tidak dapat diakui sebagai entitas yang memenuhi syarat untuk mendapatkan ganti rugi. Kompensasi harus dilakukan oleh orang yang berkaitan langsung dengan AI.
Mengenai masalah pertanggungjawaban, Pedoman Pengaturan Robotika menyadari bahwa pada akhirnya, otonomi robot menimbulkan pertanyaan tentang sifat mereka berdasarkan kategori hukum yang ada – apakah mereka harus dianggap sebagai orang, badan hukum, hewan atau benda – atau apakah kategori baru  harus  dibuat,  dengan  ciri  dan  implikasi  spesifiknya  sendiri  sehubungan dengan atribusi hak dan kewajiban, termasuk tanggung jawab atas kerusakan. 22
Dengan demikian, di bawah kerangka hukum saat ini, robot tidak dapat dimintai pertanggungjawaban atas tindakan atau kelalaian yang menyebabkan kerusakan
21 ibid.
pada pihak ketiga. Oleh karena itu, aturan yang ada tentang pertanggungjawaban mencakup kasus-kasus di mana penyebab tindakan atau kelalaian robot dapat ditelusuri kembali ke agen manusia tertentu seperti produsen/perusahaan dan/ atau pengguna/operator. Oleh karena itu, para pelaku tersebut dapat dimintai pertanggungjawaban secara tegas atas tindakan atau kelalaian robot.
Selain itu, Pedoman tentang Regulasi Robotika menganggap bahwa solusi hukum apa pun yang berlaku untuk pertanggungjawaban robot, instrumen legislatif masa depan harus menyediakan penerapan strict liability sebagai dasar aturan, sehingga hanya memerlukan bukti bahwa kerusakan telah terjadi dan dapat menunjukkan hubungan sebab akibat antara perilaku berbahaya robot dan kerusakan yang diderita oleh pihak yang terluka atau dirugikan. 23 Di sini, dapat disimpulkan bahwa Eropa cenderung lebih menggunakan pertanggungjawaban perdata robot ( robots’ civil liability ).

## B. Jepang
Jepang dikenal sebagai negara maju di Asia yang memiliki kebijakan dan strategi inovatif untuk pengembangan AI. Pada bulan April 2016, Dewan Strategis untuk Teknologi AI ( Strategic  Council  for  AI  Technology ) diluncurkan di bawah arahan Perdana Menteri untuk mempromosikan penelitian dan implementasi sosial dari AI. 24 Tujuannya  adalah  untuk  mengidentifikasi  dan  mengatasi tantangan masyarakat dengan memanfaatkan inovasi teknologi, seperti IoT, big data , AI, dan robot. 25
Pada bulan September 2018, Kantor Kabinet ( The  Cabinet  Office ) memulai gugus tugas untuk menetapkan paket strategi AI Jepang, dan telah mengelaborasi detailnya menuju masyarakat AI yang berpusat pada manusia, menggabungkan langkah-langkah terpadu dari semua kementerian dan lembaga. 26 Draf  paket
23 ibid .(10). 24 Naoko Abe, ‘Cross-Cultural (France and Japan) and Multidisclinary Discussion on Artifical Intelligence and Robotics’ [2018] CEAFJP.[7-8]
25 ibid.
26 Hitoshi Mitomo, ‘Telecommunications Policies of Japan’ (2020) 1 Advances in Information and Communication Research.

## 366
Eka Nanda dan Lintang Y.: Artificial Intelligence Sebagai...
ini terungkap pada Desember 2018, dan akhirnya diumumkan pada April 2019. Lima poin utama dari paket ini adalah: 1) pengembangan sumber daya manusia;
2) mendesain ulang sistem sosial untuk implementasi AI; 3) platform pertukaran data; 4) lingkungan inovasi; dan 5) prinsip-prinsip sosial (masalah etika, hukum dan sosial). 27
Berdasarkan kebijakan Japan tentang AI yang dijelaskan di atas, maka dapat diketahui bahwa Jepang masih belum memiliki kebijakan khusus untuk mengatur secara  spesifik  tentang  teknologi  AI,  namun  sektor  tertentu  mungkin  memiliki peraturan yang berlaku untuk teknologi AI. Contohnya adalah RUU Amandemen Hak Cipta akan mulai berlaku pada 1 Januari 2019 untuk mempromosikan layanan digital dan AI yang inovatif. 28
Terkait pertanggungjawaban AI, kebijakan AI di jepang memprioritaskan keselamatan konsumen dalam penggunaan robot rumah tangga otonom atau remote control untuk penggunaan sehari-hari. Jika robot menyebabkan kecelakaan serius, maka standar teknologi apa yang harus diatur, sebelum robot itu dijual sebagai  peralatan  rumah  tangga.  Dengan  demikian,  diperlukan  pembaharuan peraturan yang menekankan bagaimana menentukan kewajiban produsen apabila produk AI nya menimbulkan kerugian. Oleh karena itu, pertanggungjawaban AI di Jepang masih diatur untuk produsen atau produsen.
Berdasarkan penjelasan tentang tantangan dalam mengkonseptualisasikan AI dalam peraturan di beberapa negara di atas, dapat disimpulkan bahwa AI akan memiliki konsekuensi yang luas di seluruh wilayah dan di seluruh dunia. Negara- negara mempunyai kewajiban untuk memantau keamanan dan kemanfaatan dari AI yang berkembang, dan mengadaptasi kerangka peraturan untuk mendorong inovasi sekaligus melindungi publik. Negara-negara perlu menekankan bahwa ada kebutuhan untuk mengatur AI secara khusus dalam rangka memastikan keselamatan dan meminimalkan risiko bahaya dari inovasi teknologi, termasuk AI.
27 ibid. 28 ‘Peluang Untuk Perusahaan Swiss AI Di Jepang’ ( Swiss Business Hub Jepang , 2019).<https:// www.s-ge.com/sites/default/files/publication/free-form/s-ge-artificial-intelligencereport-japan. pdf> accessed 14 Agustus 2022.
Selain itu, negara-negara menyadari bahwa pengawasan pemerintah diperlukan. Negara-negara juga menyadari bahwa keberadaan dan potensi transformatif AI pasti akan mendorong regulasi AI segera dijadikan agenda utama untuk dibuatkan kebijakan. Inisiatif yang sedang berlangsung dari beberapa negara mengenai AI dianggap memiliki karakter yang sama, di mana AI memiliki kapasitas hukum yang terbatas dan semua tanggung jawab atas tindakan mereka berada di tangan pemiliknya, dalam kata lain adalah the man behind AI.
Mengenai masalah pertanggungjawaban, karena AI diprediksi akan mempengaruhi  secara  langsung  kehidupan  manusia,  bahkan  secara  fisik, tanggung jawab atas kerugian yang disebabkan oleh AI akan semakin menonjol. Melihat adanya prospek bahwa AI dapat berperilaku dengan cara menyimpang dari desain aslinya atau berperilaku secara mandiri berdasarkan kemampuannya untuk melakukan deep learning, maka perlu mempelajaari lebih lanjut konsep dalam hukum pidana dalam menanggapi kejahatan yang mungkin dilakukan oleh AI. Tujuannya adalah untuk menemukan penanggung jawab utama apabila AI melakukan tindakan yang disruptive atau  bahkan tindakan kriminal.

## Tantangan  Pengaturan  Artificial  Intelligence  sebagai  Subjek  Hukum  di Indonesia dalam beberapa aspek
A. Terkait Pertanggungjawaban Pidana
Munculnya mesin/robot dengan AI ternyata telah menimbulkan efek disrupsi bagi masyarakat. Sistem AI berbeda dari algoritma (program) komputer biasa lainnya karena keunikannya. AI dapat belajar secara mandiri, mengumpulkan pengalaman dan menghasilkan solusi yang berbeda berdasarkan analisis berbagai situasi secara independen dari kehendak pengembang mereka (programmer), yaitu dapat beroperasi secara mandiri (autonomous) daripada secara otomatis. 29
Paulus Cerka menyatakan kekhawatirannya terhadap dampak disrupsi
29 ibid.
Eka Nanda dan Lintang Y.: Artificial Intelligence Sebagai...
AI terhadap masyarakat yang sudah terjadi jauh di tahun sebelumnya. 30
Sebagai contoh, pada tahun 1981, seorang karyawan Jepang berusia 37 tahun dari sebuah pabrik sepeda motor dibunuh oleh robot AI yang bekerja di dekatnya. 31 Robot secara keliru mengidentifikasi karyawan tersebut sebagai ancaman terhadap misinya, dan menghitung bahwa cara paling efisien untuk menghilangkan ancaman ini adalah dengan mendorongnya ke mesin operasi yang berdekatan. 32 Menggunakan lengan hidroliknya yang sangat kuat, robot itu menabrakkan pekerja yang terkejut itu ke dalam mesin yang sedang beroperasi, membunuhnya seketika, dan kemudian melanjutkan tugasnya tanpa ada yang mengganggu misinya. 33
Pada abad ke-21, ketika penggunaan teknologi berbasis AI menjadi semakin meluas, jumlah insiden terkait AI juga meningkat. Kecelakaan paling mengejutkan yang dibuat oleh AI diberi judul sebagai insiden Robot Gaak. Pada tahun 2002, Magna Science Center di Rotherham, Inggris, menjalankan sebuah proyek yang disebut “ Living  Robot ”. Robot yang ditugaskan untuk peran “predator” dan “mangsa” dilepaskan ke arena seluas 2.000 meter persegi. Menggunakan sensor inframerah, “mangsa” mencari makanan yang ditunjukkan oleh cahaya dan “pemangsa” memburu mereka dan menguras energi mereka. 34 AI beroperasi melalui jaringan saraf. Eksperimen tersebut harus mengkonfirmasi prinsip “survival of the fittest” dan mengungkapkan apakah robot (termasuk AI) dapat mengambil manfaat dari pengalaman yang diperoleh, yaitu untuk secara mandiri menemukan teknik berburu dan teknik untuk melindungi diri. Selama percobaan, robot Gaak yang tidak sengaja ditinggalkan selama 15 menit berhasil melarikan diri. Robot memaksa kabur dengan mendobrak dinding “penjara”, menemukan jalan keluar dan pergi
30 Cerka, Paulius, et.all.(2017) Op.Cit. [338].
31 Yueh-Hsuan Weng (n 4).[267-273]. 32 ibid. 33 ibid. 34 Martin Wainwright, ‘“Robot Fails to Find a Place in the Sun”,’ ( The Guardian , 2002)., http:// www.theguardian.com/uk/2002/jun/20/engineering.highereducation, accessed 14 Agustus 2022.
ke  jalan.  Hingga  akhirnya,  ketika  mencapai  tempat  parkir,  robot  tersebut membuat kecelakaan dengan menabrak mobil. 35
Insiden lain yang terjadi dalam beberapa tahun terakhir lebih dramatis. Pada tahun 2018, Uber yang mengemudi sendiri dengan tidak sengaja membunuh  Wanita  pejalan  kaki  di  Arizona  dalam  kecelakaan  fatal.  Polisi setempat mengatakan bahwa mobil self-driving itu dalam mode otonom pada saat kecelakaan dan kendaraan itu menabrak seorang wanita, yang sedang berjalan di luar penyeberangan dan kemudian meninggal di rumah sakit. 36
Selain itu: (i) dalam 1,7 juta mil perjalanan, Google Self-Driving Car mengalami 11 kecelakaan yang mengakibatkan kerusakan; (ii) perangkat lunak pengenalan suara dapat menjadi faktor penyebab kecelakaan mobil; (iii) robot perawat yang mengingatkan pasien untuk minum obat gagal memastikan bahwa obat benar-benar diminum, yang dapat menyebabkan kematian pasien. 37
Dari penjelasan dan contoh kerugian yang ditimbulkan AI, banyak AI yang terlibat dalam kecelakaan yang bersifat mematikan, di mana kontribusi dari AI itu sendiri dipertanyakan. Satu pertanyaan penting yang muncul adalah “jika sebuah mesin dapat berpikir, memutuskan, dan bertindak atas kemauannya sendiri, bukankah mesin harus bertanggung jawab atas tindakannya?” Pertanyaan ini erat kaitannya dengan tanggung jawab hukum dan konsep subjek hukum dalam konteks yang luas.
Secara konseptual, semakin cerdas suatu sistem, semakin besar kemungkinan akan melakukan tindakan yang menimbulkan akibat hukum. Misalnya, munculnya mobil pintar dengan teknologi AI yang kompleks yang dapat mengemudi sendiri tanpa kendali manusia. Artinya, akibat yang timbul dari tindakan mengemudikan mobil tersebut bukan lagi akibat dari perbuatan
35 ibid.
36 The  Guardian,  ‘“Self-Driving  Uber  Kills  Arizona  Woman  in  First  Fatal  Crash  Involving Pedestrian”,’. https://www.theguardian.com/technology/2018/mar/19/uber-self-driving-car- kills-woman-arizona-tempe, accessed 14 Agustus 2022.
37 Kseniya  Charova,  Cameron  Schaeffer,  Lucas  Garron,  ‘“Robotic  Nurses”,’  (2011). http:// cs.stanford.edu/people/eroberts/cs181/projects/2010-11/ComputersMakingDecisions/robotic nurses/index.html , accessed 14 Agustus 2022.
Eka Nanda dan Lintang Y.: Artificial Intelligence Sebagai...
manusia, tetapi mungkin merupakan akibat dari kontribusi perbuatan mobil pintar tersebut. Oleh karena itu, ketika mobil pintar menabrak orang yang sedang menyeberang jalan dan menyebabkan orang tersebut terluka, apakah mobil tersebut dapat dimintai pertanggungjawaban secara hukum pidana? Di sisi lain, jika sistem cerdas ini memiliki kapasitas untuk bertindak dan berpikir seperti manusia, apakah berarti sistem tersebut juga harus memiliki hak dan perlindungan hukum seperti manusia?.
Hukum  pidana  bertujuan  untuk  mencegah  terjadinya  kerugian  dan kesalahan moral dari perilaku yang dilarang oleh kejahatan. 38 Arahan moral yang diberikan oleh hukum pidana membuat pelaku secara moral dapat dihukum dan dikenakan ancaman sanksi pidana. 39 Perlombaan untuk menciptakan AI yang kompleks atau mungkin makhluk buatan yang super cerdas menantang hukum pidana, karena kontrol manusia adalah salah satu kunci penting ketika meminta pertanggungjawaban seseorang atas kejahatan. 40 Ketika AI kompleks bertindak secara mandiri, kontrol amanusia atas AI kompleks an berkurang dan meunculkan problematika dalam menentukan  pertangungungjawabannya.  Dalam  arti  lain,  karakteristik  AI yang kompleks akan bertabrakan dengan persyaratan untuk menetapkan pertanggungjawaban.

## B. Terkait Hak Cipta
UU  Hak  Cipta  Indonesia  mendefinisikan  pencipta  sebagai  seseorang atau sekelompok orang yang secara sendiri atau bersama-sama menghasilkan suatu ciptaan yang bersifat khas dan pribadi. 41 Orang, dalam KUH Perdata Indonesia, dipahami sebagai penyandang hak, atau subjek hukum. 42 Subekti menjelaskan bahwa semua manusia dapat dianggap sebagai penyandang hak
38 A  P  Simester  and  Andreas  von  Hirsch, ‘Crimes,  Harms,  and  Wrongs:  On  the  Principles  of Criminalization (Hart Publishing 2014).[12]. 39 ibid. [18].
40 George P Fletcher, Basic Concepts of Criminal Law (Oxford University Press 1998).[44].
41 Pasal 1 angka 2, ibid.
42 Subekti, Pokok-Pokok Hukum Perdata (2003).[19].
mulai dari seseorang dilahirkan sampai meninggal dunia. 43 Namun, tidak semua penyandang hak dianggap cakap hukum. Manusia, misalnya, hanya dapat diakui kecakapan hukumnya setelah mencapai usia kedewasaan.
Hukum Indonesia sendiri membagi orang menjadi dua, yaitu i) naturlijkpersoon dan ii) rechtpersoon.    Natuurlijkpersoon atau natural  person dipahami sebagai manusia, yang secara alami dianggap sebagai subjek hukum. Sementara rechtpersoon atau legal  person adalah subjek hukum yang diberi hak dan kewajiban  selayaknya  manusia.  Hingga  saat  ini,  contoh rechtpersoon adalah perseroan terbatas, koperasi, dan yayasan.
Elemen  kedua  dalam  definisi  pencipta  adalah  ciptaan  yang  ‘bersifat khas dan pribadi.’ Sayangnya, Undang-Undang tentang Hak Cipta Indonesia tidak memberikan penjabaran lebih lanjut tentang elemen ini. Oleh karena itu, penulis mencari penjelasan dari ‘sifat khas dan pribadi’ dalam putusan hakim  terkait  sengketa  Hak  Cipta  di  Indonesia  dan  menemukan  beberapa penjelasan  terkait  ‘sifat  khas  dan  pribadi’.  Dalam  kasus  Banjarnahor  v.  PT Holcim  (2015),  pengadilan  dalam  tingkat  Peninjauan  Kembali  menentukan pencipta dari suatu program komputer dengan cara bertanya kepada pihak yang  bersengketa  mengenai  bagaimana  kerja  dari  program  tersebut.  Hasil dari pertanyaan tersebut menunjukkan bahwa hanya penggugat-lah yang mampu menjelaskan kerja dari program tersebut. 44
Sementara itu, tergugat tidak mampu memberikan penjelasan serupa. Oleh karena itu, pengadilan beranggapan bahwa penggungat memiliki ‘sifat khas dan pribadi’ terhadap program komputer yang diciptakannya. Sehingga pengadilan memutuskan bahwa penggugatlah yang memiliki Hak Cipta atas program komputer tersebut. Selanjutnya, dalam kasus Arifin (2016), ‘sifat khas dan pribadi’ dieprtimbangkan selama ciptaan tersebut benar-benar dihasilkan dari pikiran atau ide seseorang, dituangkan dalam bentuk nyata, dan ciptaan
43 ibid.
44 Lihat Putusan Banjarnahor v. PT Holcim, 2015, Mahkamah Agung, No. 23/PK/Pdt.Sus- HKI/2015.

## 372
Eka Nanda dan Lintang Y.: Artificial Intelligence Sebagai...
tersebut hanya diketahui oleh penciptanya. 45
Mengacu  pada  putusan  pengadilan  tersebut,  ‘sifat  khas  dan  pribadi’ sangat erat kaitannya dengan pengetahuan dari pencipta. Uji terkait apakah sebuah ciptaan bersifat khas dan pribadi dilakukan dengan mencari tahu apakah pihak yang mengklaim Hak Cipta terhadap suatu ciptaan memiliki pengetahuan tentang ciptaan tersebut. Terkait dengan sengketa program komputer,  misalnya,  ‘sifat  khas  dan  pribadi’  diberikan  kepada  orang  yang memiliki pengetahuan tentang kinerja program dan membuat program tersebut bekerja. Contoh lain, misalnya dalam pembuatan lagu, ‘sifat khas dan pribadi’ diberikan kepada orang yang dapat menjelaskan proses pembuatan lagu tersebut, dan tidak semata-mata diberikan kepada orang yang mengetahui lagu tersebut.
Dua elemen yang  telah  dijabarkan  sebelumnya  merupakan tantangan bagi  UUHC.  Pertama-tama,  perlu  dijawab  apakah  AI  dapat  dikategorikan sebagai  pencipta  dalam  lingkup  UUHC.  UUHC  Indonesia  menyebutkan bahwa pencipta adalah manusia atau badan hukum. Sampai saat ini, AI belum diakui sebagai manusia, maupun sebagai badan hukum. Oleh karena itu, AI tidak dapat dikategorikan sebagai orang dalam ranah UUHC.
Tantangan kedua adalah untuk memenuhi elemen bahwa ciptaan haruslah memiliki ‘sifat khas dan pribadi.’ Dalam hukum Indonesia sendiri, sifat tersebut dapat muncul apabila ada hubungan antara pencipta dengan ciptaannya, dalam hal pencipta harus mengetahui pembuatan serta cara kerja ciptaannya. Oleh karena itu, tantangannya dipersempit menjadi sebuah pertanyaan ‘apakah AI memiliki kemampuan untuk menjelaskan ciptaannya?’
Untuk menjawab pertanyaan tersebut, maka perlu untuk melakukan kajian lebih mendalam mengenai sifat dan karakteristik ciptaan AI terkini.
AI dalam konteks penelitian ini adalah bagian dari kategori Artificial General  Intelligence (AGI), yang mampu menghasilkan hasil tertentu setelah
45 Lihat  Putusan  Indonesia  v.  Arifin,  2016,  Pengadilan  Negeri  Yogyakarta  No.  35/Pid. Sus/2016/PN.Yyk.
menganalisa  dan  mempelajari  data  yang  diberikan  oleh  pengguna.  Dalam pembuatan ciptaan, terdapat record yang dapat dicetak. Tetapi record tersebut tidak bisa menjelaskan proses pembuatan ciptaan.  Dengan kata lain, record yang ada tidak menunjukkan pengetahuan AIS terhadap ciptaannya. Orang terdekat yang dapat menjelaskan bagaimana proses ciptaan tersebut berlangsung adalah programmer. Oleh karena itu, berdasarkan UUHC yang berlaku, ciptaan AI tidak bisa dianggap memiliki ‘sifat khas dan pribadi’.
Kedua elemen yang menyusun definisi pencipta tidak dapat dipenuhi oleh  AI.  Berdasarkan  UUHC  yang  berlaku,  AI  tidak  dapat  dikategorikan sebagai pencipta dari sebuah ciptaan karena AI bukan merupakan orang, dan tidak memiliki ‘sifat khas dan pribadi’ terhadap ciptaannya. Dengan kondisi demikian, tantangan yang harus dijawab selanjutnya adalah bagaimana UUHC sebaiknya menjawab perkembangan AI di Indonesia sehingga dapat mengakomodir keberadaan dan ciptaan AI?

## Kesimpulan
Saat  ini,  kita  dapat  mendefinisikan  AI  sebagai  mesin  canggih  yang  dapat berjalan secara mandiri dengan berpikir, belajar, dan membuat keputusan independen selayaknya manusia. Dengan demikian, apabila sistem cerdas ini memiliki kapasitas bertindak dan berpikir sebagaimana manusia, maka dapat dimungkinkan AI dianggap sebagai subjek hukum. Terdapat beberapa konsep dalam hukum yang dapat mengakomodasi AI sebagai subjek hukum. Dalam hukum perdata, AI dapat dianologikan sebagai pekerja dan juga dapat dipersamakan dengan hewan. Dengan kata lain, apabila AI melakukan perbuatan yang melanggar hukum atau merugikan pihak lain, maka akan ditanggung oleh pemiliknya atau orang yang menjalankan AI tersebut. Selain itu, berdasarkan teori badan hukum dan teori organ, yang intinya menyatakan bahwa hukum dapat mengakui subjek hukum selain manusia secara natural ( naturalijk person ) membuat adanya kemungkinan AI dapat diakui sebagai subjek hukum. Sementara itu, praktik di beberapa negara juga menunjukkan adanya potensi AI diakui sebagai subjek hukum.
374
Eka Nanda dan Lintang Y.: Artificial Intelligence Sebagai...
Terdapat beberapa tantangan dalam pengaturan Artificial Intelligence sebagai Subjek Hukum di Indonesia. Pertama adalah terkait pertanggungjawaban pidana. Pada intinya isu ini adalah terkait dengan bagaimana konsep supaya AI dapat dimintai pertanggungjawaban secara hukum pidana dan apabila tidak bisa maka siapa pihak yang wajib bertanggungjawab. Kedua adalah terkait dengan hak cipta. Tantangan yang harus dijawab selanjutnya adalah bagaimana UUHC sebaiknya menjawab perkembangan AI di Indonesia sehingga dapat mengakomodir keberadaan dan ciptaan AI.

## Daftar Bacaan

## Buku
A P Sim ester and Andreas von Hirsch, ‘Crimes, Harms, and Wrongs: On the Principles of Criminalization, (Hart Publishing 2014).
David  Feil-Seifer  and  Maja  J,  Mataria, Human-Robot  Interaction,  Encyclopedia  of Complexity and System Science (2009).
Erica Palmerini, Interplay Antara Hukum Dan Teknologi, Atau RoboLaw Dalam Hukum Dan Teknologi. Tantangan Mengatur Perkembangan Teknologi (Pisa University Press 2012).
George P Fletcher, Basic Concepts of Criminal Law (Oxford University Press 1998).
HL Hart, ‘Definition and Theory in Jurisprudence’ (LQR 1954).
N. Bostrom., Superintelligence (Oxford University Press).
R.A. Brooks, Robot: The Future of Flesh and Machines 194-95 (Penguin Press London 2002).
Subekti, Pokok-Pokok Hukum Perdata, (2003).

## Jurnal
D.A. Boehm-Davis, A. Marcus, et al, ‘“The next Revolution: Vehicle User-Interfaces and the Global Rider/Driver Experience”’ [2003] The ACM CHI Conference on Human Factors in Computing Systems.
Delvaux  M,  ‘European  Parliament  Committee  on  Legal  Affairs  Report  with
Notaire, 5 (3) 2022: 351-376 375
Recommendations to the Commission on Civil Law Rules on Robotic’ ( (INL) , 2016) http://www.europarl.europa.eu/sides/getDoc.do?pubRef=-// EP//NONSGML+COMPARL+PE-582.443+01+DOC+PDF+V0// EN&language=EN , > accessed  14 Agustus 2022.
Hayes, ‘Artificial Intelligence: The Future’s Getting Closer’ [1988] The International Journal of Technology Law and Practice.
Hitoshi  Mitomo,  ‘Telecommunications  Policies  of  Japan’  (2020)  1  Advances  in Information and Communication Research.
J. Harris, ‘Human Beings, Persons and Conjoined Twins: An Ethical Analysis of the Judgment in Re A’, (2001) 9 Medical L Rev.
Joel  Tito,  et.  all.,  ‘“Destination  Unknown:  Exploring  the  Impact  of  Artificial Intelligence  on  Government”’  [2017]  Artificial  Intelligence  and  Future  of Government, the Centre for Public Impact (CPI).

## Megan Smith  et. all., ‘” Preparing for The Future of Artificial Intelligence”,’ [2017]
National Science and Technology Council (NSTC) Committee on Technology Executive Office of the President of United States.
Mikhail  Batin  dan  Alexey  Turchin,  ‘“Kecerdasan  Buatan  Dalam  Perpanjangan Kehidupan: Dari Pembelajaran Mendalam Ke Superintelligence,”’ (2017) 41 Journal Informatica.
Naoko Abe, ‘Cross-Cultural (France and Japan) and Multidisclinary Discussion on Artifical Intelligence and Robotics’ [2018] CEAFJP.
Stuart Russell and Peter Norvig, ‘Artificial Intelligence: A Modern Approach (3rd Edition)’, [2009] Essex, England: Pearson.
Yueh-Hsuan  Weng    et  al,  ‘Toward  the  Human-Robot  Co-Existence  Society:  On Safety  Intelligent  for  Next  Generation  Robots,  Springer  Science’  (2009)  I International Journal Social Robot 267.

## Laman
Insi ghts  MTR,  ‘“Self-Driving  Cars  Take  the  Wheel”,’  ( MIT  Technology  Review, ) <https://www.technologyreview.com/s/612754/self-driving-cars-take- the-wheel/> accessed pada 1 Agustus 2022.
John McCarthy, ‘Der Vater Der Rechner-Cloud Ist Tot’, < http://www.spiegel.de/ netzwelt/web/john-mccarthy-der-vater-der-rechner-cloud-ist-tot-a-793795. html,>  accessed 14 Agustus 2022.
376
Eka Nanda dan Lintang Y.: Artificial Intelligence Sebagai...
Kseniya  Charova,  Cameron  Schaeffer,  Lucas  Garron,  ‘“Robotic  Nurses”,’  (2011) http://cs.stanford.edu/people/eroberts/cs181/projects/2010-11/ ComputersMakingDecisions/robotic  nurses/index.html , accessed 14
Agustus 2022.
Martin  Wainwright,  ‘“Robot  Fails  to  Find  a  Place  in  the  Sun”,’  ( The  Guardian , 2002) < http://www.theguardian.com/uk/2002/jun/20/engineering. highereducation>, accessed 14 Agustus 2022. ‘Peluang Untuk Perusahaan Swiss AI Di Jepang’ ( Swiss Business Hub Jepang , 2019) <  https://www.s-ge.com/sites/default/files/publication/free-form/s-ge- artificial-intelligencereport -japan.pdf> accessed 14 Agustus 2022.
The  Guardian,  ‘“Self-Driving  Uber  Kills  Arizona  Woman  in  First  Fatal  Crash Involving Pedestrian” < https://www.theguardian.com/technology/2018/ mar/19/uber-self-driving-car-kills-woman-arizona-tempe, accessed 14 Agustus 2022.
How to cite: Eka Nanda Ravizki dan Lintang Yudhantaka, ‘ Artificial Intelligence Sebagai Subjek Hukum: Tinjauan Konseptual dan Tantangan Pengaturan di Indonesia’ (2022) Vol. 5 No. 3 Notaire.