Radikalisasi algoritmik

Radikalisasi algoritmik adalah sebuah fenomena sosial yang terjadi di dalam pelantar media sosial (seperti Facebook dan YouTube), di mana para penggunanya digiring ke suatu pemahaman, pandangan dan pemikiran (politik, ideologi dan nilai sosial) yang ekstrem serta radikal melalui rekomendasi konten yang diatur oleh sistem algoritma pada suatu pelantar aplikasi tersebut. Algoritma merekam interaksi pengguna, mulai dari tanda suka atau tidak suka hingga jumlah waktu yang dihabiskan dalam bermedia sosial, untuk menghasilkan sebuah ruang gema. Dengan ruang gema ini, pengguna didorong untuk menjadi lebih terpolarisasi melalui preferensi di media dan terus mengalami bias konfirmasi.

Radikalisasi algoritmik telah menjadi sebuah fenomena yang kontroversial karena sering kali perusahaan media sosial memiliki kepentingan untuk mempertahankan ruang gema. Sejauh mana algoritma pemberi rekomendasi konten benar-benar bertanggung jawab atas radikalisasi masih menjadi kontroversi. Banyak studi telah menemukan hasil yang kontradiktif mengenai apakah algoritma telah mempromosikan konten ekstremis atau tidak.

 Mekanisme 
Mekanisme utama dalam radikalisasi algoritmik adalah dengan cara menciptakan ruang gema. Ruang gema adalah suatu keadaan ketika pengguna media sosial menemukan sebuah keyakinan yang diyakini atau dapat memperkuat pikiran mereka, kemudian algoritma akan menyebarkannya secara berulang-ulang dalam sebuah komunitas tertutup. Misalnya, jika seorang pengguna media sosial sering mencari atau berinteraksi dengan konten yang terkait dengan suatu ideologi politik tertentu, maka algoritma akan terus merekomendasikan konten terkait ideologi tersebut terus-menerus dan secara bertahap akan mempersempit cakupan informasi pengguna. Ruang gema pada pelantar media sosial bekerja dengan cara mempelajari minat dan kesukaan pengguna untuk mengubah pengalaman mereka di umpan mereka agar tetap terlibat dalam sebuah topik. Ruang gema menyebarkan informasi tanpa keyakinan yang berlawanan dan mungkin dapat menyebabkan bias konfirmasi. Menurut teori polarisasi kelompok, ruang gema berpotensi membawa pengguna atau kelompok ke dalam sikap radikal yang lebih ekstrem.

Mekanisme lainnya adalah dengan efek lubang kelinci. Efek lubang kelinci terjadi ketika pengguna media sosial secara bertahap direkomendasikan konten arus utama dengan topik yang sama terus-menerus oleh algoritma, hingga akhirnya disuguhi konten yang lebih ekstrem. Algoritma mencoba untuk mempertahankan keterlibatan pengguna, mulai dari merekomendasikan konten dengan bumbu provokatif, kemudian secara terang-terangan menyarankan konten yang lebih radikal karena algoritma melihat minat pengguna yang berkelanjutan terkait konten tersebut. Misalnya, seorang pengguna yang menonton video tentang tokoh politik pada awalnya akan direkomendasikan potongan berita utama terkait tokoh tersebut. Namun, ketika pengguna ini berinteraksi dengan konten yang lebih partisan, algoritma akan mulai menyarankan video dengan sudut pandang yang lebih ekstrem dari sumber yang kurang kredibel.

 Dampak 
Fenomena radikalisasi algoritmik telah dimanfaatkan oleh berbagai kelompok teroris ekstremis, termasuk organisasi jihadis seperti ISIS. Kelompok-kelompok ekstrem ini telah memanfaatkan media sosial untuk menyebarkan propaganda sekaligus merekrut anggotanya. Algoritma yang digunakan pada pelantar seperti X (dahulu Twitter), Facebook, dan TikTok dengan tidak sengaja telah memperkuat eksistensi konten seperti ini dengan cara merekomendasikannya kepada pengguna yang menunjukkan ketertarikan terhadap topik terkait konten tersebut.

Contoh kasusnya adalah rencana serangan teroris yang berujung penangkapan terhadap beberapa remaja di Wina, Austria pada tahun 2024. Para remaja ini berencana akan melakukan serangan teroris di konser Taylor Swift. Hasil penyelidikan mengungkapkan bahwa beberapa tersangka telah teradikalisasi secara daring, dan TikTok menjadi salah satu pelantar yang digunakan untuk menyebarkan konten ekstremis dengan memengaruhi keyakinan dan tindakan mereka.

 Solusi 
Fenomena radikalisasi algoritmik adalah tantangan kompleks yang membutuhkan pendekatan multiaspek dengan melibatkan kebijakan pemerintah, teknologi, dan pendidikan. Langkah yang dapat diambil adalah dengan meningkatkan transparansi algoritma yang digunakan perusahaan media sosial. Pemerintah atau lembaga regulator dapat membuat peraturan yang mewajibkan pelantar media sosial untuk lebih transparan mengenai cara kerja algoritma mereka. Hal ini akan memungkinkan peneliti, akademisi, dan masyarakat umum untuk lebih memahami bagaimana cara konten di media sosial direkomendasikan. Perusahaan media sosial juga dapat melakukan upaya memoderasi terhadap konten buatan penggunanya dan membuat sistem yang dapat mengidentifikasi, melacak, dan menghapus konten radikal serta memblokir pengguna yang terlibat dengan cepat.

Kesadaran dan wawasan dari pengguna media sosial dalam menyaring fakta dari konten yang dikonsumsi juga merupakan langkah pencegahan radikalisasi algoritmik paling ampuh. Kesadaran dan wawasan ini dapat diperoleh lewat literasi digital atau sosialisasi melalui berbagai media untuk menjelaskan cara menyaring sumber informasi, mengenali tanda-tanda berita palsu, serta melindungi diri dari manipulasi informasi kepada masyarakat umum.
 Referensi 

Kategori:Radikalisasi
Kategori:Ekstrimisme
Kategori:Media sosial
Kategori:Bias media