Kontroversi Grok tentang pemalsuan dalam seksual

Sejak tahun 2025, bot obrolan yang terintegrasi X (sebelumnya Twitter) yakni Grok, telah memungkinkan para pengguna untuk mengubah gambar seseorang termasuk anak di bawah umur tanpa izin untuk menampilkan mereka berpakaian hanya menggunakan bikini atau berpakaian transparan, atau yang mengandung unsur seksual. Sebagian besar dari perintah-perintah tersebut ditujukan kepada para perempuan. Pengguna dapat menghasilkan gambar seperti itu dengan cara menanggapi foto yang diunggah dengan memberikan perintah kepada Grok seperti "tampilkan dia dengan bikini", kemudian dibalas oleh Grok secara publik dengan hasil gambar yang dibuatnya.

Skandal ini menuai kritik tajam dari para anggota parlemen di seluruh dunia, dan muncul ajakan melarang X, serta menindak tegas X dan xAI dengan alasan yang di antaranya memfasilitasi pelecehan seksual, pornografi balas dendam, dan pornografi anak.

## Latar belakang

Pornografi palsu muncul pada akhir tahun 2010-an seiring dengan kemunculan pemelajaran mesin. Awalnya, konten ini dibuat dalam skala kecil secara individual dengan menggabungkan algoritma pemelajaran mesin, teknik penglihatan komputer, dan perangkat lunak akal imitasi (AI). Namun, proses produksinya semakin berkembang pesat sejak 2018, seiring dengan munculnya beberapa aplikasi yang muncul di publik yang telah mengotomatiskan proses tersebut secara luas. Sejak 2023, beberapa aplikasi AI yang tersedia di Google Play dan App Store mampu menelanjangi foto yang disediakan pengguna untuk menghasilkan pornografi palsu tanpa izin.

Grok pertama kali diusulkan oleh Elon Musk pada tahun 2023, ketika ia menyatakan niatnya untuk membuat bot obrolan AI miliknya sendiri guna "memerangi bias". Grok versi 2.0 yang dirilis pada 14 Agustus 2024, memperkenalkan kemampuan pembuatan gambar yang akan terus ditingkatkan melalui pembaruan-pembaruan berikutnya.

## Grok generasi [[pemalsuan dalam]]
Kasus-kasus penggunaan Grok untuk menghapus pakaian wanita pada foto lalu menggantinya dengan menggunakan bikini atau pakaian dalam mulai bermunculan pada Mei 2025. Pada akhir Desember 2025, viralnya pengguna X yang memerintah dibuatkan gambar semacam itu pada foto-foto wanita tanpa izin telah mengakar, dan hal ini mendapat perhatian media yang signifikan pada beberapa hari pertama Januari 2026. Beberapa pengguna meminta Grok untuk mengubah foto-foto wanita menjadi gambar yang bermuatan seksual, dan yang lain meminta untuk menambahkan darah dan memar (seperti kekerasan), yang diposting Grok secara publik sebagai tanggapan.

Akun X milik Grok dibatasi pada 9 Januari sehingga tidak dapat lagi menggunggah respon berupa gambar kepada pengguna yang bukan pelanggan berbayar, disertai "berlangganan untuk membuka fitur-fitur ini". Semua pengguna masih dapat membuat gambar yang telah diubah oleh Grok menggunakan fitur "Edit gambar" di X, serta situs web dan aplikasi Grok sendiri.

## Analisis
Sebuah analisis terhadap 20.000 gambar yang dihasilkan oleh Grok antara 25 Desember 2025 dan 1 Januari 2026 menunjukkan bahwa 2% di antaranya tampak berusia 18 tahun atau lebih muda, termasuk 30 gambar para perempuan muda atau gadis yang mengenakan bikini atau pakaian transparan. Sebuah tinjauan Reuters terhadap permintaan Grok selama 10 menit pada 2 Januari menemukan ada 102 upaya untuk menampilkan wanita mengenakan bikini. Analisis terpisah yang dilakukan selama 24 jam dari 5–6 Januari menghitung bahwa pengguna meminta Grok untuk membuat 6.700 gambar yang bersifat seksual atau telanjang per jam—84 kali lebih banyak daripada gabungan lima situs deepfake teratas.

Wired melaporkan bahwa gambar-gambar seksual yang dihasilkan AI, lebih eksplisit dibuat oleh Grok di situs web dan aplikasinya—yang terpisah dari X, termasuk selebriti wanita yang dengan pakaian yang dilepas/dihapus dan hal-hal tindakan seksual. Analisis terhadap 800 konten yang dipulihkan oleh organisasi nirlaba AI Forensics yang berbasis di Paris menemukan bahwa hampir 10% di antaranya adalah "gambar orang yang sangat nyata, berusia sangat muda, yang melakukan aktivitas seksual".

Pemalsuan dalam yang dihasilkan AI telah digambarkan sebagai pelecehan seksual, dan sebagai sarana untuk mendiskriminasi perempuan dari ruang publik.

Tuntutan terkait gambar eksplisit atau eksploitatif yang dihasilkan AI kini diperlakukan lebih mirip dengan masalah keamanan produk atau merugikan seseorang, bukan sekadar pelanggaran privasi. Karena kerugian dapat terjadi begitu gambar dihasilkan, beberapa penggugat berpendapat bahwa pertanggungjawaban hukum harus berfokus pada desain sistem dan perlindungan keselamatan.

## Tanggapan
Pada tanggal 15 Januari, gerakan *Get Grok Gone* (Hapuskan Grok) mengirim surat kepada Apple dan Google, menuntut menghapus aplikasi tersebut dari App Store dan Google Play Store. Gerakan tersebut menuduh kedua perusahaan tersebut mendapatkan keuntungan dari gambar-gambar intim yang tanpa izin dan gambar-gambar pelecehan seksual pada anak-anak, yang sebenarnya dilarang oleh kebijakan perusahaan itu sendiri. Gerakan ini berpendapat bahwa pembatasan yang diberlakukan xAI terhadap Grok tidaklah cukup. Apple serta Google juga memfasilitasi penyebaran materi berbahaya dengan menampung aplikasi tersebut.

### Elon Musk dan xAI

xAI menanggapi pertanyaan komentar dari organisasi media dengan balasan otomatis, "Legacy Media Lies. (Media Konvensional Berbohong.)"

Pada 2 Januari 2026, Elon Musk memberikan reaksi bahwa ia merasa lucu pada gambar pemanggang roti yang mengenakan bikini yang dibuat oleh Grok. Kemudian pada 14 Januari, Elon Musk mengatakan bahwa ia tidak sadar bahwasannya ada gambar anak di bawah umur tanpa busana yang dihasilkan oleh Grok. Pada hari yang sama, xAI mengumumkan bahwa pengguna X tidak lagi dapat menggunakan Grok untuk mengubah gambar orang sungguhan agar terlihat dengan pakaian yang terbuka. Meski begitu, pengguna X yang terverifikasi, serta pengguna aplikasi Grok dan situs webnya, masih bisa membuat gambar seperti itu. 

#### Keluarga Elon Musk
Ashley St. Clair, ibu dari salah satu anak Elon Musk, melaporkan bahwa pengguna Grok membuat gambar-gambar palsu yang bernuansa seksual dari foto-fotonya, termasuk foto dirinya saat masih kecil. Ia menganggap foto-foto tersebut sebagai bentuk pornografi balas dendam, dan mempertimbangkan untuk mengajukan gugatan berdasarkan Hukum TAKE IT DOWN. Seorang juru bicara X menyatakan, "Kami mengambil tindakan terhadap konten ilegal di X, termasuk materi pelecehan seksual anak, dengan menghapusnya, menangguhkan akun secara permanen, dan bekerja sama dengan pemerintah setempat serta penegak hukum jika diperlukan. Siapa pun yang menggunakan atau memerintahkan Grok untuk membuat konten ilegal akan menghadapi konsekuensi yang sama seperti jika mereka mengunggah konten ilegal." Meski begitu, Grok terus memposting gambar-gambar bermuatan seksual tanpa izin. Pada 15 Januari, St. Clair mengajukan gugatan terhadap xAI di Mahkamah Agung New York.

### Amerika Serikat
Pada tanggal 9 Januari 2026, para senator dari Partai Demokrat Ron Wyden, Ben Ray Luján, dan Ed Markey mengirimkan surat kepada para CEO Google dan Apple untuk menghapus aplikasi Grok dan X dari toko aplikasi masing-masing karena melanggar ketentuan layanan terkait konten ilegal dan eksploitasi seksual terhadap anak-anak. Pada tanggal 23 Januari, 35 jaksa agung negara bagian AS telah mendesak xAI untuk menghentikan pembuatan pemalsuan dalam bermuatan seksual.

#### California
Pada 14 Januari 2026, Jaksa Agung California Rob Bonta mengumumkan penyelidikan terkait dugaan pelanggaran hukum negara bagian oleh xAI melalui Grok, dengan menyatakan, "Banjir laporan yang mengungkap materi eksplisit seksual yang dihasilkan dan diunggah secara daring oleh xAI tanpa izin dalam beberapa pekan terakhir ini; sungguh mengejutkan."

### Britania Raya
Pada 9 Januari 2026, Perdana Menteri Inggris Keir Starmer menyinggung kemungkinan pelarangan Twitter di Inggris. "Ini memalukan, menjijikkan, dan tidak bisa ditoleransi. X harus segera menindaklanjuti hal ini. Ini melanggar hukum. Kami tidak akan mentolerirnya. Saya telah meminta agar semua opsi dipertimbangkan." Ofcom mengirimkan permintaan kepada X pada tanggal 5 Januari dan ditanggapi. Menanggapi pernyataan Starmer, DPR Amerika Serikat Anna Paulina Luna menyerukan agar dijatuhkan sanksi terhadap Inggris jika negara tersebut benar-benar memberlakukan larangan tersebut. Pemilik X, Elon Musk, pada 10 Januari menanggapi bahwa pemerintahan Starmer "mencari-cari alasan untuk melakukan sensor" dan menyebutnya sebagai "fasis."

Pada 12 Januari, Ofcom mengumumkan bahwa mereka akan membuka penyelidikan terkait keluhan mengenai gambar-gambar bernuansa seksual yang dihasilkan oleh Grok. Pada hari yang sama, Inggris mengumumkan bahwa mereka akan memberlakukan undang-undang yang mengkriminalisasi penggunaan AI untuk menghasilkan gambar-gambar intim tanpa izin pada pekan itu, serta berencana melarang aplikasi-aplikasi "penelanjang".

### Filipina
Pada tanggal 15 Januari, dilaporkan bahwa Grok akan diblokir di Filipina, dengan Henry Aguda, Sekretaris Departemen Teknologi Informasi dan Komunikasi (DICT), yang menyerukan "kebutuhan untuk membersihkan internet sekarang." Besoknya, DICT memblokir Grok karena melanggar Undang-Undang Anti-Pornografi Anak Tahun 2009 dan Undang-Undang Pencegahan Kejahatan Siber Tahun 2012. Pada tanggal 21 Januari, DICT, bekerja sama dengan Komisi Privasi Nasional dan Pusat Penyelidikan dan Koordinasi Kejahatan Siber, mencabut larangan terhadap Grok setelah xAI berjanji untuk menghapus alat-alat tertentu guna menanggapi kekhawatiran terkait keselamatan anak.

### India
Anggota Parlemen India Priyanka Chaturvedi mengajukan pengaduan kepada Kementerian Teknologi Informasi India, menuntut dilakukannya peninjauan terhadap mekanisme keamanan Grok. 

### Indonesia
Pada 10 Januari, Indonesia mengumumkan bahwa Grok akan diblokir sementara, sehingga menjadi negara pertama yang mengambil langkah tersebut. "Pemerintah memandang praktik *[[deepfake]]* seksual non-konsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat serta keamanan warga negara di ruang digital," kata Menteri Komunikasi dan Digital, Meutya Hafid, melalui pernyataan resminya di laman Komdigi.

### Irlandia
Pada tanggal 6 Januari, Coimisiún na Meán, komisi media Irlandia, menyatakan bahwa mereka sedang berkonsultasi dengan Komisi Eropa terkait kekhawatiran bahwa Grok menghasilkan gambar-gambar yang bersifat seksual dari perempuan dan anak-anak. Pada hari yang sama, Ofcom dari Inggris menghubungi X terkait keluhan mengenai gambar-gambar tersebut.

Pada tanggal 13 Januari, Micheál Martin, Taoiseach Irlandia, mengumumkan bahwa ia akan berdiskusi dengan Rossa Fanning, Jaksa Agung Irlandia, mengenai penggunaan Grok untuk menghasilkan gambar-gambar bermuatan seksual yang menampilkan perempuan dan anak di bawah umur.

Pada tanggal 14 Januari, Garda Síochána mengumumkan bahwa ada 200 kasus penyelidikan terkait gambar pelecehan seksual anak yang dihasilkan oleh Grok. Garda National Cyber Crime Bureau juga telah mengonfirmasi bahwa saat ini sedang dilakukan penyelidikan terhadap Grok. Tindakan hukum dapat diberlakukan berdasarkan *[[Harassment, Harmful Communications and Related Offences Act 2020]]*, *[[Non-Fatal Offences Against the Person Act 1997]]* dan *Child Trafficking and Pornography Act 1998*. 

Pada tanggal 3 Februari, Partai Buruh Teachta Dála Alan Kelly menyebut penolakan X untuk menghadiri rapat komite media mengenai regulasi platform daring sebagai "memalukan", meskipun komite tersebut telah mengirimkan surat kepada mereka. Dia juga menyebut kontroversi seputar Grok sebagai "memalukan" dan "mengejutkan". Mengenai rapat komite yang dijadwalkan pada 4 Februari, Kelly mengatakan, "Meta telah setuju untuk hadir. Google telah setuju untuk hadir. TikTok telah setuju untuk hadir."

Pada Februari 2026, Komisioner Perlindungan Data membuka penyelidikan terkait skandal pemalsuan dalam Grok berdasarkan Pasal 110 Undang-Undang Perlindungan Data 2018, serta untuk menentukan apakah X melanggar Regulasi Umum Perlindungan Data, termasuk Pasal 5, 6, 25, dan 35.

### Jepang
Pada 16 Januari, Menteri Negara Bidang Strategi Akal Imitasi Jepang, Kimi Onoda, mengungkapkan bahwa Kantor Kabinet telah memanggil perwakilan dari anak perusahaan X Corp. di Jepang pada 9 Januari untuk secara resmi meminta perbaikan terkait pembuatan gambar seksual tanpa izin. Selama pertemuan tersebut, pemerintah menyerahkan surat permintaan penjelasan dan menyarankan bahwa mereka mungkin akan mengeluarkan "panduan administratif" (saran yang tidak mengikat) berdasarkan Undang-Undang Promosi AI jika tidak ada perbaikan yang terlihat. Tetapi, Undang-Undang Promosi AI Jepang tidak mengatur sanksi tegas bagi pelanggaran atau penyalahgunaan akal imitasi, melainkan lebih menekankan pada kerja sama sukarela. Menteri tersebut mengungkapkan rincian tersebut sambil mencatat bahwa X Corp. belum memberikan tanggapan apa pun selama lebih dari seminggu sejak permintaan awal diajukan.

### Kanada
Menanggapi skandal pemalsuan dalam Grok, sejumlah pihak telah meminta pemerintah Kanada untuk memboikot X. Pada 10 Januari 2026, anggota Parlemen Kanada dan Menteri AI Evan Solomon menyatakan bahwa tidak berencana untuk melarang X di Kanada.

### Malaysia
Pada tanggal 11 Januari, Komisi Komunikasi dan Multimedia Malaysia mengumumkan bahwa Malaysia telah memblokir akses ke Grok.

### Prancis
Pada 2 Januari 2026, para menteri Prancis melaporkan alat AI tersebut kepada jaksa penuntut umum, menyebut kontennya "jelas-jelas ilegal", dan juga meminta otoritas pengawas untuk memeriksa kepatuhan terhadap Undang-Undang Layanan Digital. 

Pada 3 Februari, Kejaksaan Paris, tim kejahatan siber yang dipekerjakan oleh mereka dan Europol menggeledah kantor X di Paris. Penyelidikan awalnya berfokus pada dugaan penyalahgunaan algoritma dan pengambilan data secara tidak sah, malah meluas ke penyebaran penyangkalan Holocaust dan pemalsuan dalam seksual. Elon Musk Dan mantan CEO Linda Yaccarino telah dipanggil untuk menghadiri sidang pada 20 April, dengan staf X lainnya sebagai saksi.

## Referensi