Misinformasi oleh kecerdasan buatan

Intelegensia Artifisial (AI) bukanlah solusi mutlak dalam memerangi misinformasi; justru sebaliknya, teknologi AI dapat dieksploitasi untuk menciptakan dan menyebarkannya. Sebagai contoh, Large Language Models (LLM) - algoritma pembelajaran mesin yang dilatih dengan sejumlah besar teks tulisan manusia untuk memahami, memprediksi, dan menghasilkan bahasa manusia - kini umum digunakan untuk menghasilkan teks yang sangat mirip dengan tulisan manusia. Konten yang dihasilkan AI menggunakan LLM semakin sulit dibedakan dari informasi yang dibuat manusia, dan dalam beberapa kasus bahkan dianggap lebih kredibel. Buchanan dkk. juga mendemonstrasikan kemampuan LLM dalam menciptakan pesan misinformasi berkualitas sedang hingga tinggi dengan sedikit campur tangan manusia. Mereka juga menemukan bahwa misinformasi yang dihasilkan AI dapat menyesuaikan bahasa untuk kelompok tertentu dan terkadang menggunakan stereotip dan bahasa rasis pada topik tertentu.

Teknologi AI berkontribusi pada penyebaran misinformasi melalui dua cara utama. Pertama, teknologi tersebut menyediakan cara baru untuk menciptakan dan memanipulasi berbagai bentuk konten, termasuk teks, gambar, audio, dan video. Kedua, sistem AI yang dikembangkan dan diterapkan oleh platform daring untuk meningkatkan keterlibatan pengguna memainkan peran penting dalam diseminasi misinformasi daring yang cepat dan efektif.

 Prevalensi Misinformasi yang Dibuat oleh AI 
Perkembangan pesat dalam bidang AI generatif semakin mempermudah manipulasi konten dan penyebaran misinformasi dalam skala besar, baik oleh individu yang berniat jahat, pengguna awam, maupun pihak-pihak lainnya.

Pada November 2022 Meta harus menonaktifkan Galactica, sebuah Model Bahasa Besar (LLM) bidang sains yang dirancang untuk "merangkum makalah akademis, menyelesaikan persoalan matematika, (dan) membuat artikel Wiki", hanya berselang tiga hari setelah perilisannya. Dalam kurun waktu singkat tersebut, Galactica terdeteksi menghasilkan hasil yang bias dan bahkan keliru, termasuk pembuatan makalah fiktif dan terkadang salah mengatribusikan referensi kepada peneliti sebenarnya. Sementara, sebuah penelitian yang dilakukan di Jerman pada awal tahun 2024 terkait mutu konten mesin telusur menemukan "kecenderungan konten yang disimplifikasi, repetitif, dan kemungkinan besar dihasilkan oleh kecerdasan buatan" pada platform Google, Bing, dan DuckDuckGo. 

Hingga tahun 2024, NewsGuard telah mendeteksi sebanyak 1.133 situs berita dan informasi yang dibuat menggunakan AI dan beroperasi dengan tingkat pengawasan manusia yang sangat rendah atau tanpa pengawasan. Organisasi ini juga tengah memantau narasi-narasi keliru yang dihasilkan oleh perangkat berbasis kecerdasan buatan. Selain itu, NewsGuard juga menemukan sebuah jaringan yang terdiri atas 167 situs daring pemberitaan yang terafiliasi dengan Rusia, berkedok sebagai media berita lokal, dan memublikasikan klaim-klaim palsu atau sangat menyesatkan terkait perang di Ukraina, dengan memanfaatkan AI sebagai alat utama produksi konten.

 Referensi