## PENGARUH ARTIFICIAL INTELLIGENCE TERHADAP TINGKAT KASUS DEEP FAKE PADA SELEBRITAS DI TWITTER
Bramcov Stivens Situmeang 1) , Inggrid Yolanda Silitonga 2) , Reskina Felida Silaen 3) , Tiurmaida Siringo-ringo 4 ) , Ester Esari Sipayung 5)
1,2,3,4,5) Program Studi Ilmu Komunikasi, Universitas Kristen Indonesia
Email : bramcov143@gmail.com 1) , inggridyolandasilitonga@gmail.com 2) reskina.felida.silaen@gmail.com 3) , tiurmaidahernatamanisa@gmail.com 4) , esariester@gmail.com 5)

## ABSTRAK
Penelitian ini penting untuk diangkat, karena dengan adanya perkembangan AI yang semakin pesat. Maka kasus deep fake juga dapat meningkat. Oleh karena itu perlu adanya pengetahuan yang mendalam dan dipahami oleh selebritas dan netizen twitter untuk mencegah penyebaran informasi yang salah. Penelitian ini bertujuan untuk dapat mengetahui pengaruh artificial intelligence secara khusus domain machine learning dan deep  learning terhadap  tingkat  kasus deep  fake pada  selebritas  di  twitter  dan  untuk  dapat  mengetahui persentase pengaruh artificial intelligence secara khusus domain machine learning dan deep learning terhadap tingkat  kasus deep  fake pada  selebritas  di  twitter.  Penelitian  ini  menggunakan  teori generative  adversarial network yang  dikemukakan  oleh  Ian  Goodfellow.  Penelitian  ini  menggunakan  pendekatan  kuantitatif deskriptif. Hasil penelitian menemukan  terdapat pengaruh machine learning terhadap tingkat kasus deep fake secara  signifikan.  Sedangkan,  tidak  terdapat  pengaruh deep  learning terhadap  tingkat  kasus deep  fake secara signifikan.  Selain  itu,  penelitian ini  menemukan  bahwa  terdapat  perbedaan  visual  antara  video  deep fake  dan  video  originial  dengan  cara  melihat  gambar  dan  video  secara  seksama  untuk  menemukan  jeda  di dalam  konten  deep  fake  tersebut.  Selain,  itu  penelitian  ini  memberikan  solusi  untuk  membedakan  secara algoritma  dengan  cara  menggunakan  Model Support  Vector  Machine (SVM),  tetapi  kekurangannya  model SVM membutuhkan spesifikasi data dan komputasi yang tinggi.
Kata Kunci : artificial intelligence, machine learning, deep learning, deep fake

## ABSTRACT
This research is important to highlight because, with the increasingly rapid development of AI, cases of deep fakes may also increase. Therefore, it is necessary for celebrities and Twitter netizens to have in-depth knowledge  and  understanding  to  prevent  the  spread  of  misinformation.  This  research  aims  to  find  out  the influence of artificial intelligence, specifically the machine learning and deep learning domain, on the level of deep fake cases among celebrities on Twitter and to find out the percentage influence of artificial intelligence, specifically the machine learning and deep learning domain, on the level of deep fake cases among celebrities on Twitter.. This research uses the generative adversarial network theory proposed by Ian Goodfellow. This research  uses  a  descriptive-quantitative  approach.  The  research  results  found  that  there  was  a  significant influence of machine learning on the level of deep fake cases. Meanwhile, there is no significant influence of deep learning on the level of deep fake cases. In addition, this research found that there are visual differences between deep fake videos and original videos by looking at the images and videos carefully to find gaps in the deep fake content. Apart from that, this research provides a solution for algorithmic differentiation by using the Support Vector Machine (SVM) model, but the drawback is that the SVM model requires high data and computational specifications.
Keywords: artificial intelligence, machine learning, deep learning, deep fake

## 1. PENDAHULUAN
Deepfake  menjadi  fenomena  yang menimbulkan kekhawatiran baru di era digital. Istilah ini mengacu pada penggunaan kecerdasan  buatan  untuk  membuat  atau memanipulasi  video  dan  audio  yang  tampak asli  namun  sebenarnya  palsu.  Teknologi  ini telah menimbulkan risiko
yang
mengkhawatirkan berupa penyebaran informasi
palsu atau menyesatkan, mempengaruhi  opini  publik  atau  bahkan merusak  reputasi  seseorang.  Seiring  dengan berkembangnya  kemajuan  dalam    kecerdasan buatan,  perdebatan  seputar  etika,  privasi,  dan keamanan  data  semakin  sengit,  sehingga menimbulkan pertanyaan tentang kepercayaan terhadap  konten  digital.  Adapun  beberapa contoh  kasus deep  fake yang  terjadi  pada selebgram yaitu Gal Gadot, ialah seorang artis serta  model  asal  rusia.  Ia  pernah  menjadi korban deep  fake yaitu  foto  yang  dihasilkan dari  AI  tersebut  membuat  bentuk  tubuh  Gal Gadot  dari  yang  memakai  tank  top  menjadi tidak  berpakaian.  Hal  ini  membuat  foto tersebut  sudah  viral  di  twitter  pada  24 November 2023 serta sudah ditonton sebanyak 2.535  tayangan.  Hal  ini  tentunya  merusak reputasi  gal  gadot  sendiri.  Berikut  data  yang diambil dari twitter sebagai berikut:

## Gambar. 1 Ilustrasi Deep fake
Selanjutnya  ada Taylor  Swift,  seorang penyanyi  dan  penulis  yang  berasal  dari Amerika  Serikat.  Ia  pernah  menjadi  korban kasus deep fake . Foto tersebut sudah tranding di  berbagai  media  sosial.  Dalam  manipulasi foto tersebut Ia sedang melakukan aksi seksual dengan menggunakan memorabilia tim futbol kansas  city  chief.  Dampak  penggunaan deep fake sudah  nyata  yang  terjadi  di  kalangan
selebritis.  Maka  dari  itu  sebagai  perempuan lebih  menjaga  privasi  data  diri  agar  terhindar dari  adanya  manipulasi.  (kumparan,  2024). Berikut ini data yang diambil dari kumparan.com sebagai berikut:

## Gambar 2. Kasus Deep fake Taylor Swift
Adapun Nagita Slavina, seorang aktris yang  berasal  dari  Indonesia.  Ia  juga  pernah terseret  kasus  video deep  fake dengan  durasi 61  detik.  Video  tersebut  diduga  hasil manipulasi yang dibuat oleh AI. (detik, 2022). Berikut  ini  data  yang  diambil  dari  detik.com. sebagai berikut:

## Gambar 3. Kasus Deep fake Nagita Slavina
Dapat  diketahui  bahwa  adanya  AI memberikan  kemudahan  oleh  pengguna, namun seiring berjalannya waktu teknologi ini digunakan  sebagai  hal  yang  negatif  yaitu sebagai alat untuk memanipulasi foto ataupun video. Maka dari itu sebagai pengguna penting untuk  tetap  memakai  AI  sebagai  hal  yang positif saja. Sehingga nantinya tidak ada kasus deep fake yang terjadi. Hal ini bisa diatasi yaitu
lebih  menjaga  privasi  data  diri  agar  tidak semakin banyak kasus deep fake tersebut.
Perkembangan artificial  intelligence (AI) mulai dari Alan Turing yang menciptakan AI untuk pertama kalinya pada tahun 1950 lalu dikembangkan  oleh  John  McCarthy  di  tahun 1956  dan  masuk  ke  indonesia  pada  tahun 1980-an  (Anwar,  C.  F,  2023). Artificial intelligence (AI)  adalah  pengembangan  dari sistem  komputer  yang  bisa  melakukan  tugas yang  biasanya  dilakukan  manusia.  Beberapa istilah  yang  dikaitkan  dengan  kecerdasan buatan  (AI),  antara  lain machine  learning , deep  learning , Artificial  Neural  Network (ANN)  atau  jaringan  syaraf  tiruan,  Natural Language Processing (NLP) atau pemrosesan bahasa  alami,  dan  lain-lain.  Kecerdasan Buatan  (AI)  telah  memberikan  dampak signifikan terhadap sejumlah industri, termasuk  pengenalan  suara  dan  wajah, kendaraan  otonom,  dan  layanan  kesehatan. Bahkan  AI  sudah  digunakan  dalam  bisnis pribadi  atau  bisa  dikatakan  mencari  peluang keuntungan  pribadi  (Eriana  and  Zein,  2023). Setelah  AI  berkembang  di  Indonesia,  lalu muncul  bagian  dari  AI  yakni machine learning . Machine  learning (ML)  merupakan bagian dari AI berfungsi untuk membantu AI meniru  proses  pembelajaran  manusia  dan secara  bertahap  meningkatkan  akurasinya, machine  learning (ML)  bidang  dari  ilmu komputer  dan  kecerdasan  buatan  (AI)  yang berfokus pada pemanfaatan data dan algoritma. Lalu, machine learning melahirkan sistem yang lebih modern yaitu deep learning . Deep  learning (DL)  adalah  bagian  dari  ML yang  menggunakan  jaringan  syaraf  tiruan untuk  membuat  mesin  belajar  sendiri  dalam memilih fitur untuk meningkatkan performanya. ML ketika data di input melalui data algoritma, diproses jadi ekstraksi fitur dan klasifikasi  kemudian  menghasilkan  output data  sesuai  perintah  user.  Sedangkan  DL ketika  user  menginput  data  sudah  sekaligus ekstraksi  fitur  dan  klasifikasi  secara  utuh sehingga menghasilkan output secara otomatis oleh mesin komputer (Eriana and Zein, 2023).
Gambar 4. Proses Machine learning dan Deep Learning
Kemudian, Artificial  Neural  Network (ANN)  atau  bisa  dikenal  sebagai  jaringan syaraf  tiruan  yakni  Jaringan  saraf  tiruan memiliki  kesamaan  dengan  jaringan neuron terkait di otak manusia yang saling terkait satu sama  lain.  Ada  beberapa  metode  di  mana neuron digabungkan  satu  sama  lain  pada lapisan jaringan. Neuron ini disebut node yang berfungsi sebagai sejenis model pembelajaran mesin,  atau  lebih  khusus  lagi,  model pembelajaran  mendalam,  yang  digunakan dalam pembelajaran tanpa pengawasan. Selain ANN, ada juga bagian dari deep learning yaitu Natural  Language  Processing (NLP)  yang memiliki arti bahasa pemrosesan bahasa alami, NLP bagian dari deep learning yang berfungsi untuk  memungkinkan  mesin  komputer  dalam menganalisis,  memahami,  dan  menggunakan bahasa  manusia  secara  praktis.  Peneliti mengambil  contoh  domain  dari  AI  yang diterapkan  dalam  penelitian  ini  yaitu domain computer vision (CV), CV merupakan domain AI datanya berupa gambar dan video. CV kini yang  sedang  tren  dan  penuh  perbincangan, karena  data  dari  CV  dapat  melatih  komputer bisa  melakukan  penglihatan  seperti  manusia. Contoh  implementasi  dari  CV  yakni  filter instagram,  pendeteksi  plat  mobil  untuk  E- tilang  dan  Chest  X-ray.  Selain  digunakan sebagai mesin penglihatan atau pendeteksi, CV digunakan  sebagai  manipulasi  gambar  atau video.  Contoh  penerapan  CV  yang  sedang menjadi  perdebatan  orang  yaitu deep  fake . Kecerdasan  buatan  yang  dapat  menghasilkan audio,  video,  dan  gambar  hoax  yang  realistis dikenal  sebagai  “ deepfake AI.”  Istilah  ini
merupakan kombinasi dari pembelajaran palsu dan  pembelajaran  mendalam,  yang  mengacu pada  teknologi  dan  informasi  palsu  yang dihasilkan dari deep fake .
Kasus deep  fake pertama  kali  di  dunia pada  tahun  2017  yang  dimana  wajah  artis terkenal  yakni  Gal  Gadot  menjadi  perhatian netizen,  karena  wajah  dari  aktris  Gal  Gadot ditampilkan  ke  dalam  video  porno.  Sejak konten  tersebut  ditayangkan,  tidak  sedikit netizen  mengkhawatirkan  akan  dampak  dari computer vision terkait privasi dan penyalahgunaan  foto  dan  video  seseorang (Digitaldonat,  2024).  Selain  kasus  artis  Gal Gadot,  tentunya  ada  kasus  terbaru  yang menjadi perbincangan di dunia maya. Seperti, kasus deep  fake artis  Taylor  Swift.  Kasus  ini terjadi pada 29 Januari 2024, konten deep fake ini  menampilkan  artis  Taylor  Swift  tanpa busana  yang  tersebar  di  aplikasi  twitter. Setelah  konten deep  fake tersebar  dan  aktris taylor  Swift  angkat  bicara  dan  mengatakan bahwa  konten deep  fake sama  saja  dengan pelecehan seksual terhadap perempuan, sehari kemudian, konten deep fake di take down oleh kuasa hukum Taylor Swift dari aplikasi twitter (Diva Lufiana Putri, 2024).
Fenomena  yang  ada  seharusnya  AI digunakan  untuk  hal  positif  dan  bertanggung jawab,  tetapi  yang  ada  AI  digunakan  untuk membuat  konten deep  fake yang  tersebar  di twitter  dan  merugikan  korban.  Sehingga  ada gap  masalah,  karena  penggunaan  AI  yang tidak  bertanggung  jawab  terjadi  adanya penyebaran  konten deep  fake di  twitter, terutama kalangan selebritis. Jika permasalahan  deepfake  dikaitkan  ke  dalam etika komunikasi, masalah ini sudah melanggar  prinsip  dasar  etika  yakni  bahwa semua  aktivitas  dilakukan  oleh  manusia  dan tindakan  mengenai  apa  yang  harus  dilakukan harus  dipertimbangkan  secara  cermat  dan berpedoman  pada  nilai-nilai.  Karena  prinsip dasar  etika  terdapat  ke  dalam  cabang  ilmu filsafat  sebagai  filsafat  moral.  Sedangkan permasalahan deep  fake sudah  melanggar batasan etika dari pedoman nilai yakni sistem algoritma bekerja dengan cara mengumpulkan data  privasi  dari  korban  dan  pengguna  dapat
menyalahgunakan  data  privasi  yang  telah dikumpulkan dari sistem algoritma.
Berikut data  jumlah  kasus yang disebabkan  oleh  AI.  Berdasarkan  hasil wawancara CNN, wamenkominfo mengatakan bahwa data home security yang menampilkan kasus  konten deep  fake yang  tersebar berjumlah 95.820 yang tersebar secara global pada  2023  (Tim  CNN  Indonesia,  2023).  Ada peningkatan  sebesar  550  persen  dari  tahun 2019  secara  global.  Hal  yang  sangat mengkhawatirkan karena bisa disalahgunakan dan dimanipulasi untuk penipuan, pornografi, dan  tujuan  jahat  lain,  yang  berujung  pada penyebaran disinformasi," ujar Nezar. Hal ini juga  didukung  bahwa  indonesia  merupakan pengguna terbanyak teknologi Ai terbesar ke- 8 di dunia (Yonatan, 2023).

## Gambar 5. Daftar Negara Pengguna Artificial intelligence Terbanyak di Dunia
Selain  data  pengguna  AI  terbanyak, berdasarkan  katadata  (Cindy  Mutia  Annur, 2023), terdapat data pengguna aplikasi twitter di  Indonesia  terbanyak  ke-4  berjumlah  25,25 juta  pada  Juli  2023.  Berdasarkan  data  yang telah  dipaparkan  di  atas,  tim  peneliti  ingin tertarik  untuk  meneliti  dan  berfokus  pada pengaruh artificial  intelligence terhadap tingkat  kasus deep  fake pada  selebritas  di twitter.    Beberapa  penelitian  terdahulu  dalam topik yang serupa telah dilakukan oleh peneliti lain, diantaranya
Dalam  Penelitian  Bogren,  Hussein (Bogren et  al., 2024)  studi  ini  membahas tentang  kesenjangan  dengan  memeriksa wacana  media  sosial  dan  persepsi  seputar masalah  etika  yang  menonjol  dari  deepfakes dan menempatkannya dalam lanskap etika AI yang  lebih  luas.  Hasil  penelitian  ini mengungkapkan berbagai kekhawatiran, seputar  informasi  yang  salah  dan  persetujuan terhadap  ketakutan  yang  lebih  dalam  tentang peran deepfake dalam  menumbuhkan  rasa tidak  percaya  diri,  serta  kekhawatiran mengenai  penyalahgunaan  teknologi  dan aplikasi  yang  berbahaya.  Penelitian  ini  juga mengungkapkan  bahwa  adanya  kekhawatiran tentang  prinsip-prinsip  etika  yang  telah ditetapkan dan dapat dilanggar oleh teknologi ini. Prinsip tersebut berupa martabat, transparansi,  privasi,  dan  non-kejahatan  yang menyimpang dalam aplikasi deepfake. Perbedaan  dalam  penelitian  ini,  metode  yang digunakan dalam pendekatan penelitian diatas yaitu  kualitatif  yang  menyerupai  netnografi, 320  postingan  dari  Reddit  dan  Youtube dianalisis secara tematik dan juga komentarnya. Sedangkan penelitian ini menggunakan  pendekatan  kuantitatif  dengan berfokus pada berapa persentase pengaruh AI terhadap  kasus deepfake pada  selebritasi  di twitter.
Dalam  penelitian  Leliana,  Irhamdhika (Leliana et  al. ,  2024),  Penelitian  yang  diteliti Leliana dkk meneliti tentang mencari problem solving  dari  masalah  yang  ditimbulkan  oleh deep fake , sekaligus memberikan pemahaman terkait dampak dari dari pembuatan video deep fake untuk  menjaga  integritas  komunikasi. Metode yang dipakai dalam penelitian Leliana yaitu  metode  penelitian  kualitatif  dengan menggunakan  studi  literatur.  Hasil  penelitian dapat  disimpulkan deep  fake merupakan permasalahan yang terus berkembang semakin parah  ketika  digunakan  oleh  pengguna  yang tidak bertanggung jawab, teknologi tidak dapat disalahkan. Jadi untuk mengatasi permasalahan  ini  kembali  kepada  pengguna dalam  menerapkan  etika  komunikasi  untuk menanggulangi permasalah tersebut.
Perbedaan dari penelitian ini yaitu tim peneliti ingin  berfokus  untuk  mengetahui  berapa
persentase  pengaruh  dari  AI  terhadap  kasus deep fake selebritas di twitter dan mengaitkan ke dalam etika komunikasi terhadap pengguna AI.  Hal  unik  yang  diambil  dari  penelitian Leliana  dkk  yaitu  dengan  mengambil  konsep dari deep  fake dan  menerapkan  ke  dalam penelitian ini sebagai  referensi  penelitian dan novelty dalam penelitian ini yaitu tim peneliti menerapkan  metode  penelitian  kuantitatif sehingga ada kebaruan pada metode pendekatan yang diterapkan.
Sedangkan  penelitian  yang  dilakukan oleh  Rahardja  (Rahardja,  2022),  Penelitian yang dilakukan oleh Rahardja meneliti tentang masalah serius yang disebabkan oleh deep fake seperti penyalahgunaan data privasi orang dan penipuan  sehingga  merugikan  dari  korban deep  fake .  Metode  yang  dipakai  kualitatif. Hasil  penelitian  dapat  dijelaskan  bahwa teknologi  diciptakan untuk  membantu  kinerja dari manusia, tetapi sering kali disalahgunakan oleh  manusia  itu  sendiri,  akibatnya  masalah yang disebabkan manusia harus dirasakan oleh manusia  juga.  Jadi  intinya  harus  ada keseimbangan antara pengguna dan teknologi, untuk  mencapai  keseimbangan  diperlukan kesadaran  dan  kepekaan  akan  teknologi. Perbedaan  dalam  penelitian  ini  yaitu  peneliti ingin mengetahui apakah ada pengaruh dari AI terhadap  peningkatan  kasus  deep  atau  ada faktor  lain  yang  membuat deep  fake semakin meningkat. Hal unik yang diambil tim peneliti dari  penelitian  Rahardja  adalah  peneliti menerapkan  sistem  kerja  algoritma  dengan mengumpulkan  data  pengguna  seperti  kasus deep  fake .  Novelty  dalam  penelitian  ini  yaitu tim peneliti menerapkan objek kasus deep fake di  aplikasi  twitter.  Karena  karakter  netizen twitter berbeda dengan karakter yang ada pada penelitian Rahardja.
Berdasarkan  pengamatan  tim  peneliti, penelitian  ini  penting  dan  menarik  untuk diteliti. karena, semakin banyaknya pengguna AI  dan  pengguna  twitter  akan  tetapi  netizen twitter  masih  kesulitan  untuk  membedakan antara  video deep  fake dan  video  asli,  serta tidak  sedikit  netizen  ikut  serta  dalam memviralkan  video deep  fake yang  tersebar sehingga  dapat  merugikan  korban  dari  video deep fake.
Kesadaran masyarakat mengenai deeepfake  masih  kurang  di  Indonesia. Berdasarkan hasil survey penelitian oleh Vida penyelenggara sertifikasi elektronik (Mediana, 2024) menyatakan bahwa, sekitar 30% pelaku bisnis  di  Indonesia  tidak  mengetahui  bentuk tipuan  deepfake,  dan  hampir  52%  responden tidak  dapat  mengingat  deepfake  sebagai ancaman utama kecerdasan buatan saat ini. hal ini  menunjukkan  bahwa  masih  banyak  orang yang  tidak  memahami  potensi  bahaya teknologi deepfake dan tidak siap menghadapi ancaman yang dihadirkan oleh deepfake. oleh karena  itu,  penting  untuk  meningkatkan kesadaran masyarakat tentang risiko deepfake dan bagaimana melindungi diri dari penipuan yang menggunakan teknologi ini.
Metode  penelitian  yang  dipakai  oleh peneliti  untuk  menjawab  rumusan  masalah dibawah  yakni  peneliti  menggunakan  metode penelitian  kuantitatif.  Menurut  Sugiyono (Sugiyono, 2019) dapat dilihat sebagai teknik penelitian berbasis positivisme yang menggunakan  instrumen  penelitian  untuk mengumpulkan  data  populasi  atau  sampel tertentu. Analisis kekuatan bersifat kuantitatif atau  statistik,  dan  tujuannya  adalah  untuk menguji hipotesis yang ada.
Penelitian  ini  memiliki  tiga  rumusan masalah yakni apakah ada pengaruh artificial intelligence secara  khusus  domain machine learning dan deep  learning terhadap  tingkat kasus deep  fake pada  selebritas  di  twitter?, berapa  persentase  pengaruh  dari  domain machine learning dan deep learning terhadap tingkat  kasus deep  fake pada  selebritas  di twitter? dan  apakah terdapat perbedaan visual yang  membedakan  antara  video  original  dan video deep fake ?. Oleh karena itu, tujuan dari penelitian  ini  ingin  untuk  dapat  mengetahui pengaruh artificial  intelligence secara  khusus domain machine  learning dan deep  learning terhadap  tingkat  kasus deep  fake pada selebritas  di  twitter  dan  untuk  dapat mengetahui  persentase  pengaruh artificial intelligence secara  khusus  domain machine learning dan deep  learning terhadap  tingkat kasus deep fake pada selebritas di twitter.
Konsep Artificial intelligence
Secara  umum  dalam  Kamus  Besar Bahasa Indonesia artificial intelligence dikenal  sebagai  kecerdasan  buatan  adalah bagian  dari  cabang  ilmu  komputer  dengan tujuan  mengembangkan  sistem  dan  mesin sehingga  dapat  melakukan  tugas  dengan bantuan kecerdasan manusia. Artificial intelligence membagi beberapa konsep seperti machine  learning (pembelajaran  mesin), neural network (jaringan saraf tiruan), natural language  processing  (pemrosesan  bahasa alami).  perkembangan  AI  ini  memberikan dampak  untuk  berbagai  bidang  seperti peniruan  suara,  wajah,  mobil  otonom, pengobatan dan lainnya (Eriana, 2023:1).
Keberadaan  AI juga didukung dengan adanya pembagian sub bidang antara machine learning (ML)  dan  deep  learning  (DL). machine  learning merupakan  salah  satu cabang  yang  terfokus  pada  penggunaan  data dan  algoritma  untuk  meniru  cara  belajar manusia. Model machine learning belajar dari data  yang  diberikan  dengan  mengidentifikasi pola untuk membuat prediksi atau keputusan. mesin  dapat  digunakan  di  berbagai  aplikasi seperti  pengenalan  wajah,  suara,  teks,  dan tulisan  tangan.  seperti  halnya  filter  spam  di email,  pendeteksi  penipuan  uang,  dan pengenalan wajah di sistem kamera keamanan. pada  intinya  Artificial  Intilligence  bertujuan untuk  menghasilkan  kecerdasan  buatan, sedangkan machine learning bagian atau cara untuk mencapai tujuan tersebut. Berbeda jelas dengan  konsep  deep  learning  merupakan cabang dari machine learning yang menggunakan  neural  network  (saraf  buatan) dari struktur otak manusia. Jaringan ini terdiri dari  beberapa  lapisan  yang  saling  terhubung. Dengan  kata  lain,  deep  learning  terproses secara  otomatis  mengekstrak  fitur  penting langsung dari data tanpa harus pemilihan fitur manual.

## Konsep Deep fake
User  Interface  sebuah  hasil  dari kecerdasan  buatan deep  fake yang  membuat tampilan  muka  dengan  sebuah  gambar  dan video  digabungkan  sehingga  tampak  lebih nyata (Afnan, 2022). deep fake menggunakan
algoritma machine  learning yang  terinspirasi pada  struktur  kerja  otak  manusia. deep  fake menggunakan dua data yang berasal dari data sumber  (rekaman  asli  orang  yang  ingin dimanipulasi)  dengan  data  target  (rekaman wajah  dan  suara  orang  lain  yang  ingin dicantumkan). kemudian, algoritma mempelajari  karakteristik  dari  dua  data tersebut.  adanya  fenomena  deepfake  inilah yang  menjadi  konsep  penelitian, deep  fake memiliki  potensi  merugikan  bagi  orang  lain seperti  penyebaran  informasi  hoax,  merusak reputasi  bagi  seseorang  yang  tidak  pernah melakukan  hal  tersebut,  dan  hilangnya kepercayaan publik pada media online.
Teori GAN (Generative Adversarial
Network)
Untuk memahami fenomena deep fake memerlukan  teori  yang  mendukung  untuk menyelesaikan masalah. penelitian ini mengambil sebuah teori Generative Adversarial Network dengan tujuan
memberikan kerangka berpikir untuk memahami  bagaimana  deepfake  dibuat, disebarkan, digunakan.
Generative Adversarial Network Theory  beranggapan  bahwa  generator  atau palsu  (user) dapat  membuat  data fake sampel yang realistis dengan data aslinya. konsep teori GAN  bergantung  pada  konsep  pembelajaran mesin. Ada asumsi dasar pada teori ini adalah dengan  memberikan  data  yang  cukup, kemudian  model  GAN  mampu  mempelajari pola  dan  karakteristik  data.  hasil  akhirnya adalah  menghasilkan  data  yang  serupa. konteks ini masuk ke dalam deepfake dengan data berupa video atau gambar wajah dan suara orang  lain.  GAN  memiliki  2  model  dalam pandangannya meliputi :
1. Model  Generatif  :  Tujuan  model  ini untuk  menghasilkan  data  baru  seperti wajah dan suara deep fake yang sangat mirip dengan data asli nya.
2. Model  Diskriminatif  :  Tujuan  model tersebut untuk menganalisis data yang dikeluarkan  oleh  model  generatif  dan
berusaha  untuk  membedakan  dengan data asli.
Pengerjaan  dan  proses  latihan  teori GAN berlangsung secara iteratif yang artinya generator akan selalu menghasilkan data baru dan mampu mengelabui diskriminator, sementara itu diskriminator akan terus bekerja untuk  membedakan  mana  yang  data  asli  atau palsu.  melewati  proses  ini  sangat  berharap kualitas  data  buatan  yang  dihasilkan  oleh generator semakin meningkat.
Kemampuan Deepfake untuk
menghasilkan data yang nyata dan meyakinkan,  membuatnya  sebagai  alat  yang ideal  untuk  menciptakan  deepfake.  generator sendiri  bisa  dilatih  dengan  data  wajah  dan suara orang tertentu. kemudian, bisa menghasilkan  sebuah  video  dan  audio  yang memperlihatkan  orang  tersebut  mengatakan atau  melakukan  sesuatu  terhadap  hal  yang tidak  pernah  dilakukan.  pada  akhirnya, kesimpulan  akhir  dari  teori  GAN  ini memaparkan  bagaimana  model machine learning ini mampu digunakan untuk menghasilkan  deepfake  yang  sangat  realistis dan  meyakinkan.  paham  pada  teori  dan implementasi  etika  dari  teori  GAN  penting untuk  memerangi  penyebaran  informasi  yang menyesatkan  dan  memanipulasi  di  media online.

## 2. METODE
Machine  learning dan deep  learning adalah dua variabel yang membentuk penelitian ini. Dengan menggunakan metodologi  kuantitatif,  penelitian  ini  bersifat deskriptif. Penelitian ini menggunakan populasi  berjumlah  120  pengguna  Twitter sebagai  responden.  Melalui  penggunaan kuesioner,  data  dikumpulkan.  Sampelnya berjumlah  30  responden.  Metodologi  sampel purposif adalah metode yang digunakan dalam penelitian  ini.  Metodologi  pemilihan  sampel yang  mempunyai  perhatian  khusus  adalah purposive sampling, menurut Sugiyono (Sugiyono,  2019).  Dalam  penelitian  ini peneliti  menggunakan  teknik  analisis  data
kuantitatif.  Landasan  penelitian  kuantitatif pada  dasarnya  adalah  data  statistik.  Peneliti dapat  menerapkan  antara  10%  sampai  25% sesuai  dengan  kemampuan  peneliti  dapat dilihat  dari  waktu,  dana  dan  tenaga. Berdasarkan  pendapat  dari  sugiyono,  karena itu penelitian ini menerapkan sampel minimum berjumlah 25%. Jika diperhitungkan sebagai berikut:
N = 25/100 X N Note:
N: Jumlah Populasi
N = Sampel
N = 25/100 x 120 N = 30 responden (sampel) Penelitian menjadi salah satu cara untuk menemukan jawaban atas pertanyaan. Penelitian merupakan berbagai  kegiatan yang meliputi mengumpulkan, mengolah, menyajikan, menganalisis data/peristiwa, serta interpretasi dan pengambilan keputusan. Jenis penelitian  yang  digunakan  oleh  peneliti  yaitu penelitian  kuantitatif.  Pendekatan  kuantitatif cenderung  dikaitkan  dengan  pendekatan deduktif  dalam  hal  pengujian  teori  dan menggunakan  angka  dan  fakta  dan  objektif terhadap objek yang diteliti. Peneliti menggunakan  pendekatan  kuantitatif,  karena relevan dengan penelitian yang dapat membantu  menyelesaikan  masalah  dengan baik.
Adapun  metode  yang  digunakan  dalam penelitian ini adalah metode survei. Penelitian dengan  menggunakan  metode  survei  ini merupakan penyelidikan yang dilakukan untuk mendapatkan fakta-fakta dari gejala yang ada dan  mencari  keterangan-keterangan  secara faktual  baik  tentang  institusi  sosial,  ekonomi atau  politik  dari  suatu  kelompok.  Dalam pengumpulan  data,  teknik  yang  digunakan oleh  peneliti  adalah  kuesioner  (angket) tertutup.  Kuesioner  tertutup  adalah  kuesioner yang berisi daftar pertanyaan dengan sejumlah alternatif  pilihan  jawaban  yang  sudah disediakan  oleh  peneliti  dan  tidak  memberi kesempatan kepada responden untuk memberi jawaban  lain  selain  jawaban  yang  telah disediakan (Sugiyono, 2019).
Paradigma  merupakan  cara  pandang tertentu untuk memaknai suatu hal, pemaknaannya  bergantung  pada  paradigma yang  digunakan.  Paradigma  yang  digunakan dalam  penelitian  ini  adalah  paradigma positivisme.  Paradigma  ini  menganggap bahwa  ilmu  adalah  satu-satunya  pengetahuan yang  valid  dan  bersifat  empiris.  Paradigma positivisme  beranggapan  bahwa  segala  yang dialami oleh manusia terjadi karena fakta-fakta yang dapat diukur dan memiliki sebab-akibat. Oleh  karena  itu,  hasil  penelitian  yang menggunakan  paradigma  ini  dinilai  dapat memprediksi pola perilaku manusia (Sugiyono,  2019).  Hal  ini  menjadi  alasan peneliti  memilih  paradigma  positivisme karena sesuai dengan kasus yang diambil yaitu deepfake  dan  bagaimana  perilaku  manusia dalam menggunakan program Artificial intelligence (AI).
Gambar 6. Kerangka Teoritis
3. HASIL DAN PEMBAHASAN
Deskriptif Statistik

## Tabel. 1 Machine learning Source: Output SPSS, 2024
Tabel  1.  di  atas  menunjukkan X1.6  mempunyai  nilai  mean  tertinggi yang  artinya  responden  mengetahui algoritma  dari machine  learning yaitu supervised , seperti K- nearest neighbor dan support vector machine. Algoritma dari machine  learning merupakan algoritma yang secara langsung terhubung
dengan pembuatan
deepfake .  Sementara  itu  pernyataan dari  X1.10  mempunyai  nilai  mean terendah  yang  memiliki  arti  bahwa responden  belum  bisa  membedakan antara  video  original  dan  video deep
fake yang  diproduksi  oleh machine learning .

## Tabel. 2 Deep Learning
Source: Output SPSS, 2024
Tabel  2.  di  atas  menunjukkan X2.6  mempunyai  nilai  mean  tertinggi yang  artinya  responden  mengetahui mengetahui  beberapa  jenis  Jaringan Syaraf  Tiruan,  seperti  Convolutional
Neural Networks (CNNs) dan Recurrent  Neural  Networks  (RNNs). Algoritma  dari machine  learning merupakan algoritma yang berhubungan dengan pembuatan chatbot,  deepfake.  Sementara  itu pernyataan dari X2.5 mempunyai nilai mean  terendah  yang  memiliki  arti bahwa  responden  kurang  mengetahui cara bekerja dari jaringan syaraf tiruan dan  dampak  yang  dihasilkan  dari jaringan  syaraf  tiruan  seperti  proses penyempurnaan  dari deep  fake atau pemalsuan  gambar  dan  video  secara otomatis.

## Analisis Linear Sederhana
Tabel 3. Uji Regresi Linear Sederhana

## Source: Output SPSS, 2024
Berdasarkan tabel di atas menunjukkan  bahwa  nilai  konstanta sebesar 2.472 (a) dan regresi 0.453 (b). Jadi  persamaan  dari  regresi  linear sederhana  di  atas  dapat  dijelaskan sesuai dengan rumus sebagai berikut
Y = 2.472 + 0.453 + e
Jika  dijelaskan,  variabel  tingkat machine  learning terkait deep  fake sebesar 2.472 dan koefisien regresi X1 sebesar  0.453  menyatakan  setiap penambahan 1% nilai artificial intelligence terkait  tingkat  kasus deep fake bertambah  sebesar  0.453. Koefisien  regresi  bernilai  positif, sehingga  dapat  dikatakan  bahwa  arah pengaruh variabel x terhadap variabel y yakni  pengaruh  positif  dengan  dasar pengambilan keputusan sebagai berikut:
1. Berdasarkan tabel 3 didapatkan
nilai signifikansi sebesar 0,000 < 0,05 sehingga dapat disimpulkan  bahwa  variabel  X yakni artificial  intelligence
berpengaruh terkait kasus deep fake pada selebritas di twitter
2. Berdasarkan  uji  t  (parsial) menunjukkan bahwa nilai signifikansi  pengaruh machine learning (X1)  terhadap  kasus deep  fake (Y)  adalah  nilai  t hitung  2.295  <  nilai  t  tabel 1.701  Maka  Ha  diterima  dan H0  ditolak  artinya  terdapat pengaruh machine  learning terhadap  tingkat  kasus deep fake secara signifikan.

## Tabel. 4 Uji T Machine learning (X1)
Source: Output SPSS, 2024
Berdasarkan uji t (parsial)
menunjukkan  bahwa  nilai  signifikansi pengaruh machine  learning (X1)
terhadap  kasus deep  fake (Y)  adalah nilai t hitung 2.295 < nilai t tabel 1.701 Maka  Ha  diterima  dan  H0  ditolak artinya  terdapat  pengaruh machine learning terhadap  tingkat  kasus deep fake secara signifikan
Tabel. 5 Uji T Deep Learning (X2)
Source: Output SPSS, 2024
Berdasarkan uji t (parsial) menunjukkan  bahwa  nilai  signifikansi pengaruh deep learning (X2) terhadap kasus deep  fake (Y)  adalah  nilai  t hitung 0.611 < nilai t tabel 1.701 Maka H0  diterima  dan  Ha  ditolak  artinya tidak terdapat  pengaruh deep learning terhadap tingkat kasus deep fake secara signifikan
Berdasarkan hasil analisis regresi linear  sederhana, machine  learning memiliki  pengaruh    positif  dan signifikan terhadap tingkat kasus deep fake pada  selebritas di twitter. Tentunya peningkatan kasus deep fake ini  disebabkan  oleh  pengguna  yang tidak  bertanggung  jawab.  Karena mesin  komputer  tidak  akan  berjalan dengan  sendirinya  ketika  tidak  ada pengguna  yang  menggunakan.  Selain itu,  berdasarkan  Tabel.1  pengguna twitter masih belum bisa membedakan antara  video  original  dan  video deep fake .  Sehingga  dapat  disimpulkan bahwa  semakin  tinggi  pengguna machine learning maka semakin tinggi kasus deep fake dan kasus deep fake ini bergantung  pada  buruk  atau  baiknya dari pengguna machine learning .

## 4. PENUTUP

## 4.1  Kesimpulan
Berdasarkan  hasil  analisis  data yang  telah  dijelaskan  sebelumnya, maka dapat disimpulkan bahwa:
1. Penelitian  ini  menemukan  bahwa domain AI machine learning berpengaruh secara signifikan terhadap peningkatan  kasus deep  fake pada selebritas di twitter. Sedangkan domain deep learning tidak berpengaruh secara signifikan terhadap peningkatan kasus deep fake pada selebritas di twitter.
2. Penelitian  ini  menunjukkan  bahwa persentase  pengaruh  dari machine learning sebesar  57%  sedangkan persentase pengaruh dari deep learning
sebesar  43%  terhadap  tingkat  kasus deep fake pada selebritas di twitter
3. Terakhir,  penelitian  ini  menemukan bahwa terdapat perbedaan visual antara video deep  fake dan  video  originial dengan cara melihat gambar dan video secara seksama untuk menemukan jeda di  dalam  konten deep  fake tersebut, selain  itu  penelitian  ini  memberikan solusi  untuk  membedakan  secara algoritma  dengan  cara  menggunakan model  Support  Vector  achine  (SVM), tetapi  kekurangannya  model  SVM membutuhkan  spesifikasi  data  dan komputasi yang tinggi.

## 4.2 Saran
1. Diadakan sosialisasi kepada masyarakat mengenai Artificial intelligence (AI)  lebih  dalam  agar kedepannya  dapat  membedakan  hasil video deep  fake yang  diproduksi  AI atau video original.
Selain itu, perlu diadakan penelitian  lebih  lanjut  mengenai  cara mengatasi  dan  membedakan  video deep  fake yang  diproduksi  oleh  AI dengan tujuan masyarakat lebih paham akan perkembangan teknologi.

## 5. DAFTAR PUSTAKA
Abdul  Hussein,  M.,  &  Bogren,  W.  (2023).
Social  Media's  Take  on  Deepfakes: Ethical  Concerns  in  the  Public Discourse.
Afnan, H. A., Wardah Yuspin, S. H., & Kn,
M.  (2022). Perlindungan  Hukum Penyalahgunaan Artificial intelligence Deepfake  Pada  Layanan  Pinjaman Online (Doctoral dissertation, Universitas Muhammadiyah
Surakarta).
Cindy  Mutia  Annur  (2023)  ‘Jumlah Pengguna  Twitter  Indonesia  Duduki
Peringkat  ke-4  Dunia  per  Juli  2023’, databoks.katadata.co.id,
November. Available
at: https://databoks.katadata.co.id/datapu
blish/2023/11/01/jumlah-pengguna- twitter-indonesia-duduki-peringkat- ke-4-dunia-per-juli-2023.
Cut  Fatma  Anwar  (2023)  ‘ Artificial intelligence : Bagaimana Perkembangan dan Pengaruhnya Bagi Masyarakat Indonesia?’,
Portalpublikasi.id.
Available at:
https://portalpublikasi.id/2023/04/29/a rtificial-intelligence-bagaimana- perkembangan-dan-pengaruhnya- bagi-masyarakat- indonesia/#:~:text=Penggunaan  AI  di
Indonesia sudah,serta makin banyaknya penggunaan internet.
Dadan  Iskandar,  D.M.R.  (2019)  ‘Difusi
Inovasi  Siaran  Televisi  Digital  pada Masyarakat  Jakarta’,  4(143–151),  p.
255. Available at: https://repository.mercubuana.ac.id/83 915/1/Prosiding FIX ISBN 10JAN2020.pdf#page=150. Detik (2022) ‘Terkuak Video 61 Detik Mirip Nagita Slavina Ternyata Palsu Belaka’, Detik.com .  Available  at: https://news.detik.com/berita/d- 5899937/terkuak-video-61-detik- mirip-nagita-slavina-ternyata-palsu-
belak
Digitaldonat,  S.  (2024)  Seperti  apa  Kasus
Deepfake Pertama di Dunia?, Senin, 1 Januari. Available at:
https://digitaldonat.republika.co.id/lite rasi/1753685475/seperti-apa-kasus- deepfake-pertama-di-dunia.
Diva  Lufiana  Putri  (2024)  ‘Ramai  Kasus Deepfake  Taylor  Swift,  Ahli  Ungkap Cara  Terhindar  dari  AI  Pornografi’, kompas.com. Available at: https://www.kompas.com/tren/read/20 24/01/29/180000065/ramai-kasus- deepfake-taylor-swift-ahli-ungkap- cara-terhindar-dari-ai. Eriana, E.S. and Zein, D.A. (2023) ‘ Artificial intelligence (Ai)  Penerbit  Cv.  Eureka Media Aksara’, pp. 24–32.
Eriana, E.S. and Zein, D.A. (2023) ‘ Artificial intelligence (Ai)  Penerbit  Cv.  Eureka Media Aksara’, pp. 24–32.
kumparanwoman  (2024)  ‘Wajah  Taylor
Swift Diedit ke Foto Vulgar Pakai AI, Gedung Putih Buka Suara’, kumparan.com . Available
at: https://kumparan.com/kumparanwoma
n/wajah-taylor-swift-diedit-ke-foto- vulgar-pakai-ai-gedung-putih-buka- suara-228uuX83c8E/full.
Leliana,  I.  et  al.  (2024)  ‘Etika  Dalam  Era
Deepfake: Bagaimana Menjaga Integritas  Komunikasi’,  Jurnal  Visi
Komunikasi,
22(02), p. 234.
doi:10.22441/visikom.v22i02.24229.
Mailin,  Gepeng  Rambe,  Ar-Ridho,  Abdi,  C.
(2022)  ‘Teori  media/teori  difusi inovasi’,  Jurnal  Guru  Kita  PGSD, 6(2)(september 2016), pp. 168–168. Mediana (2024) “masih banyak pebisnis yang
tak menyadari potensi bahaya “Deepfake””,  kompas.id,  Available at: https://www.kompas.id/baca/ekono mi/2024/04/24/kesadaran-risiko- negatif-deepfakes-belum-merata-di- masyarakat-dan-pelaku-bisn is.
Rahardja,  U.  (2022)  ‘Masalah  Etis  dalam
Penerapan Sistem Kecerdasan Buatan’,  Technomedia  Journal,  7(2), pp. 181–188. doi:10.33050/tmj.v7i2.1895. Sugiyono (2019) Metode Penelitian
Kuantitatif,  kualitatif,  dan  R&D.
Bandung: Alfabeta
Tim  CNN  Indonesia  (2023)  ‘Kominfo  Beri
Peringatan,  Perempuan  Jadi  Target
Penyalahgunaan AI’, CNN Indonesia,
November.
Available at:
https://www.cnnindonesia.com/teknol ogi/20231120105820-192- 1026470/kominfo-beri-peringatan- perempuan-jadi-target- penyalahgunaan-ai .
Widjajanti  Mulyono  Santoso  (2016)  Ilmu Sosial di Indonesia Perkembangan dan Tantangan. Edisi pert. Edited by W.M. Santoso.  Jakarta:  Yayasan  Pustaka
Obor Indonesia.
Available at:
https://books.google.co.id/books?hl=i d&lr=&id=Qx_dCwAAQBAJ&oi=fn d&pg=PA3&dq=Santoso,+W.+M.+(2
014).+Ilmu+Sosial+di+Indonesia:+Pe rkembangan+dan+Tantangan.+Jakarta :+Yayasan+Pustaka+Obor++Indonesi a.&ots=rW8107NTLj&sig=XrdWV7 D_p7- w89X010_5F3LPsz8&redir_esc=y#v .
Yonatan, A.Z. (2023) ‘8 Negara Asia Pasifik dengan Prediksi Pengguna AI
Terbanyak  2023,  Indonesia  Nomor Berapa?’, data.goodstats.id/. Available at:
https://data.goodstats.id/statistic/agnes zefanyayonatan/8-negara-asia-pasifik- dengan-prediksi-pengguna-ai- terbanyak-2023-indonesia-nomor- berapa-EP1x5