## 181
Karya ini berlisensi di bawah Creative Commons Attribution 4.0 (CC BY 4.0)

## Masalah Etis dalam Penerapan Sistem Kecerdasan Buatan
Untung Rahardja
Fakultas Sains dan Teknologi Universitas Raharja
Jl. Jenderal Sudirman No.40, Cikokol, Kec. Tangerang, Kota Tangerang, Banten 15117
E-mail : untung@raharja.info
Rahardja,  U.  (2022).  Masalah  Etis  dalam  Penerapan  Sistem  Kecerdasan  Buatan. Technomedia Journal , 7 (2 Oktober), 181–188.
https://doi.org/10.33050/tmj.v7i2.1895

## ABSTRAK
Kecerdasan buatan adalah salah satu teknologi yang banyak digunakan oleh semua jenis mulai dari bisnis kecil hingga besar termasuk Amazon, Netflix, Flipkart, YouTube antara lain untuk meningkatkan sistem  dan  proses  mereka,  menghasilkan  lebih  banyak  pendapatan  dan  mengambil  keputusan  yang tepat.  Sistem  otomatis  dan  mobil  self-driving  adalah  beberapa  contoh  yang  hebat  dari  kecerdasan buatan.  Namun,  selama  perkembangan  ada  beberapa  masalah  etika  yang  muncul  dan  yang  perlu ditangani untuk membuat keseimbangan yang baik antara kecerdasan buatan, etika bisnis dan manusia. Sehingga  tujuan  utama  pengembangan  kecerdasan  buatan  adalah  untuk  kemajuan  masyarakat  dan bukan menentangnya. Penelitian ini membahas beberapa masalah kritis yang muncul akibat penerapan kecerdasan buatan dan menyarankan cara untuk menangani masalah tersebut.
Kata Kunci : Ethika, Deep Learning, Data Hacking, Kecerdasan Buatan

## ABSTRACT
Artificial  intelligence  is  one  of  the  technologies  which  are  being  extensively  used  by  all  types  of businesses small to large including Amazon, Netflix, Flipkart, YouTube among others for improving their system and processes, generating more revenue and taking informed decisions. Automated systems and self-driving cars are some of the good examples of AI. However, during all these developments there are several ethical issues that have arisen and that need to be addressed to make a fine balance between  artificial  intelligence,  business  and  human  ethics  so  that  the  primary  purpose  of  AI development  is  served  for  the  betterment  of  society  and  not  against  it.  This  paper  discusses  several critical issues which have emerged due to the application of AI and suggest ways to deal with the issues.
Keywords : AI, Ethics, Deep Learning, Data Hacking

## PENDAHULUAN
Kecerdasan  Buatan  muncul  dengan  kecepatan  yang  sangat  cepat  dan  sebagian  besar perusahaan  mencoba  mengintegrasikannya  ke  dalam  solusi  dari  permasalahan  mereka  [1]. Alasan  di  baliknya  adalah  terdapat  arsitektur plug-in yang  mudah.  Ada  beragam  aplikasi Kecerdasan  Buatan  yang  memengaruhi  semua  sektor  utama.  Kehadiran  berbasis  wajah, chatbots , perawatan kesehatan berbasis Kecerdasan Buatan, dll [2] [3]. menjadi bagian yang tidak  terpisahkan  dari  kehidupan  sehari-hari.  Kecerdasan  Buatan  membutuhkan  data  untuk membuat berbagai keputusan yang baik atau keputusan cerdas. Penelitian ini akan merangkum pertanyaan  terkait  Kecerdasan  Buatan  dan  Etika.  Tujuan  dari  penelitian  ini  adalah  untuk mengeksplorasi jawaban atas pertanyaan-pertanyaan tersebut.
Gambar 1. Data, kecerdasan Buatan, dan Etika [1]
Perusahaan  besar  seperti  Alphabet,  Google,  Facebook,  IBM,  Amazon  dan  Microsoft dengan pahlawan visioner seperti Stephen Hawking, peneliti Kecerdasan Buatan terkenal dan Elon  Musk  berpikir  bahwa  sekarang  adalah  waktu  yang  tepat  untuk  berbicara  mengenai cakupan kecerdasan buatan yang bisa terbilang hampir tak ada habisnya. Dalam berbagai hal, hal ini merupakan keunggulan baru untuk etika dan estimasi ancaman seperti halnya teknologi yang sedang berkembang.

## PERMASALAHAN
Privasi data adalah salah satu masalah kritis yang menjadi perhatian utama, tidak hanya dalam  konteks  Kecerdasan  Buatan  tetapi  juga  di  bidang  lainnya.  Sudah  menjadi  hal  yang lumrah bahwa sistem Kecerdasan Buatan memproses data dalam jumlah besar. Data pengguna yang berbeda berinteraksi dengan berbagai jenis sistem seperti pelanggan menelusuri buku di Amazon, pelajar mengakses kursus yang berbeda dari platform e-learning seperti MOODLE ( Modular  object-oriented  development  for  learning  environment ),  data  -    data  pasien  dalam bidang  kedokteran  [4].  Baru-baru  ini  dilaporkan  dalam  berita  bahwa  kebijakan  WhatsApp memaksa pengguna untuk mengizinkan perusahaan mengakses informasi pribadi mereka yang dapat  digunakan  oleh  perusahaan  untuk  menjual  produk  dan  layanan  mereka  dan  untuk meningkatkan  pengalaman  pengguna.  Sistem  Kecerdasan  Buatan  mengumpulkan  dan memproses  semua  jenis  data  yang  mulai  dari  pertemanan,  hubungan,  keyakinan  politik,
kegiatan  keagamaan,  riwayat  pembelian,  data  medis,  pelacakan  data  GPS  setiap  menit pergerakan pengemudi jika GPS diaktifkan [5].
Di  satu  sisi,  sistem  Kecerdasan  Buatan  memenuhi  kebutuhan  pengguna  dengan menyediakan item  berdasarkan preferensi  mereka seperti buku yang ingin dibeli  pengguna, video  yang  ingin  ditonton  pengguna,  namun  mereka  juga  menghadirkan  risiko  keamanan seperti beberapa percakapan rekaman sistem tanpa diketahui oleh pengguna [6], [7]. Kejadian ini dapat disalahgunakan oleh beberapa orang yang memiliki niat jahat. Beberapa data medis penting pasien dapat digunakan tanpa izin dari pengguna. Banyak kasus tersebut dilaporkan melalui  berbagai  media  cetak  dan  elektronik  untuk  memperingati  orang  agar  berhati-hati menggunakan sistem ini untuk menghindari masalah.
Beberapa  undang-undang  sedang  diberlakukan  di  beberapa  negara  untuk  mengurangi dampak yang timbul dari penggunaan informasi pribadi melalui sistem  Kecerdasan Buatan. Berikut ini beberapa upaya yang sedang diusahakan untuk melindungi data konsumen:
Gambar 2. Prediksi Data Analisis [8]
Beberapa  undang-undang  sedang  diberlakukan  di  beberapa  negara  untuk  mengurangi dampak  yang  timbul  dari  penggunaan  informasi  pribadi  melalui  sistem  kecerdasan  buatan. Berikut ini sedang diupayakan untuk melindungi data konsumen:
a. Transparansi
: Transparansi  berarti  desainer  algoritmik  harus menjelaskan  penggunaan  pengambilan  keputusan  algoritmik.  Kebijakan  privasi  terperinci diperlukan  oleh  perusahaan  yang  akan  menetapkan  tolok  ukur  bagi  regulator  tentang penanganan data perusahaan dan meminta pertanggungjawaban perusahaan tersebut [9].
b. Menjelaskan kemampuan  : Menjelaskan kemampuan adalah salah satu  fitur penting dari sistem kecerdasan buatan yang memungkinkan seseorang yang dipengaruhi oleh keputusan otomatis algoritma untuk mencari dalam menjelaskan kemampuan atau orang yang
terpengaruh  dapat  mendekati  orang  -  orang  untuk  logika  dari  suatu  keputusan.  Menjelaskan kemampuan  terdiri  dari  tiga  komponen  yang  meliputi  (a)  mengidentifikasi  keputusan algoritmik  (b)  membatalkan  keputusan  tertentu  (c)  berfungsi  sebagai  penetapan  media  [10], [11].
c. Penilaian Risiko
: Ini adalah komponen penting lainnya dari setiap sistem kecerdasan buatan yang terdiri dari keputusan otomatis yang melibatkan risiko tinggi bagi  manusia.  Peraturan  mengharuskan  setiap  pengambilan  keputusan  otomatis  didahului dengan  penilaian  risikonya  terhadap  individu.  Terdapat  juga  tindakan  lain  yang  setiap  bias dalam  desain  algoritma  atau  data  serta  dampak  potensial  pada  individu  harus  diantisipasi terlebih dahulu [12].
d. Audit : Audit memastikan bahwa apakah suatu perusahaan mematuhi program kebijakan privasinya atau tidak. Audit program dapat dilakukan oleh perusahaan itu sendiri yang juga disebut audit diri, atau dapat melalui pihak ketiga untuk melakukan hal yang sama. Audit pengambilan keputusan algoritmik membantu mencocokkan pandangan ke depan dengan melihat ke belakang; namun, audit masih dalam tahap awal dan sulit dilakukan dikarenakan beberapa alasan dan masih dalam tahap berkembang [13].

## METODE PENELITIAN
Peran  Kecerdasan  Buatan  meningkat  dalam  aktivitas  penting  seperti  keuangan, otentikasi di berbagai platform, dll. Seperti salah satu contoh satu aplikasi di mana pengguna dapat  masuk  ke  sistem  menggunakan  pencocokan  wajah.  Fasilitas  ini  memungkinkan pengguna  untuk check-in ke  akun  email,  entri  hotel, banking  module saat boarding ,  dll. Kecerdasan Buatan mengalami masalah akurasi dan pada saat yang sama ada berbagai serangan dalam visi komputer, analitik suara, dll. dan dianggap sebagai ancaman. Deep Fakes menjadi berita dan dianggap sebagai ancaman [14].
Gambar 3. Hasil Deep Fake
Gambar  3  menunjukkan  hasil Deep  Fake ,  dan  hasil  yang  akurat  baik  dalam  hal kemajuan Kecerdasan Buatan tetapi dianggap sebagai ancaman karena dapat membuat berita
palsu  [14].  Berbagai  komunitas  mengkhawatirkan  masalah  ini  dan  telah  membuat  berbagai peraturan.  Pada  bulan  Januari  tahun  2019,  undang-undang  Eksekutif  tentang  mengelola Kepemimpinan  Amerika  dalam  Kecerdasan  Buatan  yang  bertanggung  jawab  atas  sains  dan teknologi  Kebijakan  menegaskan  garis  besar  Panduan  untuk  Regulasi  Aplikasi  Kecerdasan Buatan, yang melibatkan 10 prinsip untuk lembaga Amerika Serikat saat menentukan apakah dan bagaimana mengendalikan kecerdasan buatan [14], [15]. Negara-negara lain juga membuat undang-undang dan peraturan untuk mengendalikan dampak negatif dari Kecerdasan Buatan. Beberapa organisasi melarang fitur berbasis Kecerdaan Buatan seperti pencocokan wajah untuk menghindari resiko yang berbahaya.
Gambar 4. Step Kecerdasan Buatan

## HASIL DAN PEMBAHASAN
Kecerdasan Buatan sedang banyak digunakan di  berbagai  bidang seperti  pemrosesan gambar, diagnosis penyakit, saham, prakiraan cuaca, dan lainnya [16]. Dalam beberapa tahun terakhir mobil self-driving telah muncul sebagai inovasi yang mendatang yang didorong oleh Kecerdasan  Buatan.  Meskipun  mobil  ini  menawarkan  banyak  keuntungan  dibandingkan pendahulunya seperti 90% pengurangan kematian lalu lintas, 60% penurunan emisi berbahaya, menghilangkan gelombang stop-and-go hingga 100%, peningkatan 10% dalam penghematan bahan bakar, peningkatan jalur 500% kapasitas, 40% pengurangan waktu perjalanan, diantara yang lain. Terdapat beberapa masalah etika yang juga terkait dengan mobil self-driving [17]. Beberapa  masalah  utama  muncul  dalam  kasus  penyeberangan,  belokan  dan persimpangan pejalan kaki. Untuk menghindari kecelakaan ini, desain mobil self-driving perlu menyeimbangkan keselamatan orang lain. Pilihan paling sulit untuk mobil self-driving adalah dalam  situasi  lalu  lintas  ketika  harus  membuat  kombinasi  keputusan  yang  berbeda  yang melibatkan penyelamatan dan pengorbanan  [18], [19]. Masalah kritis lainnya  terkait dengan mobil self-driving adalah  kelumpuhan  pilihan  yang  menunjukkan  bahwa  mobil  menemukan dirinya dalam situasi di mana ia harus memutuskan mana yang berbahaya dalam kedua kasus. Refleksi moral dan bias pencipta mobil self-driving adalah beberapa masalah etika lain yang perlu ditangani.
Gambar 5. Implikasi bagi Kendaraan Otonom [18]

## 4.1 Latihan Ekstrim
Salah satu masalah terkenal yang disebut sebagai masalah trolly untuk dipecahkan oleh Kecerdasan  Buatan,  terutama  dalam  konteks  mobil  yang  dapat  mengemudi  sendiri. Pertanyaannya  adalah  bagaimana  mobil  otomatis  harus  memutuskan  saat  berada  di persimpangan jalan [19]. Pada gambar 5 kendaraan berada dalam dilema tentang apakah harus menyelamatkan satu nyawa atau lima nyawa. Singkatnya, kita dapat mengatakan bagaimana mobil self-driving harus  mendekati  penyeberangan?  Gambar  tersebut  menunjukkan  bahwa sebuah troli yang sedang mendekati penyeberangan di mana ia pasti akan menabrak satu orang atau  lima  orang.  Ia  harus  memutuskan  apakah  akan  menyelamatkan  satu  nyawa  atau menyelamatkan lima nyawa.

## 4.2 Keselamatan Orang
Operasi  otonom  tidak  akan  terbatas  hanya  pada  mobil.  Truk,  bis,  dan  semua  jenis kendaraan  pengiriman  lokal  juga  akan  mengemudi  sendiri,  sehingga  semakin  mengurangi biaya  dan  meningkatkan  keselamatan.  Mereka  akan  melakukannya  dengan  lebih  efisien, sehingga  mengurangi  konsumsi  bahan  bakar.  Bis  sekolah  masih  membutuhkan  pengawasan orang dewasa untuk memastikan anak-anak kecil tidak lepas kendali atau nongkrong di jendela, tetapi  sekarang  orang  dewasa  akan  dapat  memberikan  perhatian  penuh  kepada  anak-anak karena bis itu mengemudi sendiri. Terlebih lagi ini tidak baik bagi pengemudi manusia yang mata  pencahariannya  hanya  bergantung  pada  profesi  ini.  Ini  bukan  ancaman  langsung  bagi mereka, tetapi bisa terjadi di masa depan [20].

## 4.3 Merancang Mobil Self-Driving
Masalah  etika  terbesar  pada  akhirnya  akan  melibatkan  bagaimana  kendaraan  ini direkayasa  untuk  digunakan  manusia  dan  bagaimana  mereka  akan  dipresentasikan  kepada konsumen [21]. Dalam satu atau dua dekade mendatang, kita akan memiliki berbagai macam kendaraan  tersedia  dengan  tingkat  kemampuan  otomatis  yang  sangat  berbeda.  Seperti kebanyakan teknologi kendaraan, sebagian besar konsumen akan memiliki pengetahuan yang dangkal tentang bagaimana sistem yang berbeda bekerja. Dari sudut pandang etika, kendaraan perlu dirancang untuk memastikan bahwa pengemudi akan memberikan tingkat kewaspadaan yang diperlukan untuk penggunaan yang aman dari setiap konfigurasi. Faktor manusia adalah aspek penting dalam transisi ke tingkat otomatisasi yang lebih tinggi. Jadi, pertanyaan etisnya adalah,  sejauh  mana  kita  memastikan  bahwa  manusia  menggunakan  teknologi  ini  dengan bijak?

## KESIMPULAN
Penelitian  ini  menjelaskan  pentingnya  Kecerdasan  Buatan  di  berbagai  sektor  dan mengangkat keprihatinan terkait dengan etika. Semua pertanyaan  telah dijawab pada penelitian ini.  Tiga  pertanyaan  penelitian  telah  terangkum.  Literatur  dieksplorasi  untuk  menemukan jawaban  atas  pertanyaan-pertanyaan  tersebut.  Berbagai  komunitas  dan  lembaga  penelitian sedang  membuat blueprints .  Selama  perkembangan  terdapat  beberapa  masalah  etika  yang muncul. Penerapan kecerdasan buatan dinilai dapat mengatasi masalah etika tersebut seperti dampak negatif yang dapat terjadi.

## SARAN
Pendokumentasian  etika  yang  tepat  akan  menjadi  langkah  selanjutnya  sebagai pekerjaan dimasa depan. Diharapkan kedepannya kecerdasan buatan akan terus berkembang lebih baik lagi dan dapat mengatasi dampak atau resiko yang akan terjadi kedepannya.

## DAFTAR PUSTAKA
[1] E.  Kazim  and  A.  Koshiyama,  “The  interrelation  between  data  and  AI  ethics  in  the context of impact assessments,” AI and Ethics , vol. 1, no. 3, pp. 219–225, 2021.
[2] M.  R.  Pabubung,  “Epistemologi  Kecerdasan  Buatan  (Ai)  dan  Pentingnya  Ilmu  Etika Dalam Pendidikan Interdisipliner,” Jurnal Filsafat Indonesia , vol. 4, no. 2, pp. 152–159, 2021.
[3] F. D. Wihartiko, S. Nurdiati, A. Buono, and E. Santosa, “Blockchain dan Kecerdasan Buatan  dalam  Pertanian:  Studi  Literatur,” Jurnal  Teknologi  Informasi  dan  Ilmu Komputer , vol. 8, no. 1, pp. 177–188, 2021.
[4] I. Faridah, F. R. Sari, T. Wahyuningsih, F. P. Oganda, and U. Rahardja, “Effect Digital Learning  on  Student  Motivation  during  Covid-19,”  in 2020  8th  International Conference on Cyber and IT Service Management (CITSM) , 2020, pp. 1–5.
[5] Q.  Aini,  U.  Rahardja,  N.  P.  L.  Santoso,  and  A.  Oktariyani,  “Aplikasi  Berbasis Blockchain  dalam  Dunia  Pendidikan  dengan  Metode  Systematics  Review,” CESS (Journal of Computer Engineering, System and Science) , vol. 6, no. 1, pp. 58–66, 2021.
[6] K.  Rukmayuninda  Ririh,  N.  Laili,  A.  Wicaksono,  and  S.  Tsurayya,  “STUDI KOMPARASI  DAN  ANALISIS  SWOT  PADA  IMPLEMENTASI  KECERDASAN BUATAN (ARTIFICIAL INTELLIGENCE) DI INDONESIA,” 2020.
[7] U. Rahardja, E. P. Harahap, and D. D. Christianto, “Pengaruh Teknologi Blockchain Terhadap Tingkat Keaslian Ijazah,” Technomedia J , vol. 4, no. 2, pp. 211–222, 2021.
[8] I. Handayani, D. Supriyanti, G. Maulani, and N. Lutfiani, “The ilearning journal center: Education startup to enhance lecturer research,” Int. J. Adv. Trends Comput. Sci. Eng , vol. 9, no. 4, pp. 4678–4682, 2020.
[9] A.  K.  Yadav  and  R.  K.  Bajpai,  “KYC  optimization  using  blockchain  smart  contract technology,” Int J Innov Res Appl Sci Eng (IJIRASE) , vol. 4, no. 3, pp. 669–674, 2020.
[10]  A.  Dudhat,  N.  P.  L.  Santoso,  S.  Santoso,  and  R.  Setiawati,  “Blockchain  in  Indonesia University: A Design Viewboard of Digital Technology Education,” Aptisi Transactions on Technopreneurship (ATT) , vol. 3, no. 1, pp. 68–80, 2021.
[11]  Q. Aini, T. Hariguna, P. O. H. Putra, and U. Rahardja, “Understanding how gamification influences  behaviour  in  education,” International  Journal  of  Advanced  Trends  in Computer Science and Engineering , vol. 8, no. 1.5 Special Issue, pp. 269–274, 2019, doi: 10.30534/ijatcse/2019/4781.52019.
[12]  M.  MacCarthy,  “An  examination  of  the  Algorithmic  Accountability  Act  of  2019,” Available at SSRN 3615731 , 2019.
[13]  N. T. Lee, P. Resnick, and G. Barton, “Algorithmic bias detection and mitigation: Best practices and policies to reduce consumer harms,” Brookings Institute: Washington, DC, USA , 2019.
[14]  “Deepfakes:  A  threat  to  democracy  or  just  a  bit  of  fun?  -  BBC  News.” https://www.bbc.com/news/business-51204954 (accessed Aug. 10, 2022).
[15]  Sudaryono, U. Rahardja, and E. P. Harahap, “Implementation of Information Planning and Strategies Industrial Technology 4.0 to Improve Business Intelligence Performance on  Official  Site  APTISI,”  in Journal  of  Physics:  Conference  Series ,  Aug.  2019,  vol. 1179, no. 1. doi: 10.1088/1742-6596/1179/1/012111.
[16]  A. Adiyanto and R. Febrianto, “Authentication of transaction process in E-marketplace based on blockchain?? technology,” Aptisi Transactions On Technopreneurship (ATT) , vol. 2, no. 1, pp. 68–74, 2020.
[17]  J. C. P. Pratama, “TINJAUAN LITERATUR TENTANG KECERDASAN BUATAN SEBAGAI PENDEKATAN DALAM PENGENDALIAN SISTEM LALU LINTAS,” Jurnal Infrastruktur , vol. 7, no. 1, pp. 61–69, 2021.
[18]  A.  Martinho,  N.  Herber,  M.  Kroesen,  and  C.  Chorus,  “Ethical  issues  in  focus  by  the autonomous vehicles industry,” Transp Rev , vol. 41, no. 5, pp. 556–577, 2021.
[19]  N.  F.  Rozy,  R.  Ramadhiansya,  P.  A.  Sunarya,  and  U.  Rahardja,  “Performance Comparison Routing Protocol AODV, DSDV, and AOMDV with Video Streaming In Manet,” in 2019  7th  International  Conference  on  Cyber  and  IT  Service  Management (CITSM) , 2019, vol. 7, pp. 1–6. doi: 10.1109/CITSM47753.2019.8965386.
[20]  T. Nurhaeni, K. Werhan, and M. Hardini, “Viewboard Effectiveness on Raharja Internet Cafe  Website  as  Sales  Information  Submission  Media,” Aptisi  Transactions  On Technopreneurship (ATT) , vol. 1, no. 1, pp. 20–26, 2019.
[21]  R. Rosyid and M. A. W. Prasetyo, “Robot Peraga 12 Gerakan Pengaturan Lalu Lintas Berbasis Arduino Mega 2560,” Technomedia Journal , vol. 5, no. 2 Februari, pp. 193– 205, 2021.