Algoritmik radikalleşme

Algoritmik radikalleşme, YouTube ve Facebook gibi popüler sosyal medya sitelerindeki algoritmaların kullanıcıları zaman içinde giderek daha aşırı içeriklere yönlendirdiği ve onların radikalize olmuş aşırıcı siyasi görüşler geliştirdiği kavramıdır. Algoritmalar, beğenilerden/beğenmeme işaretlerine ve paylaşımlara harcanan süreye kadar kullanıcı etkileşimlerini kaydederek, kullanıcıların ilgisini devam ettirecek sonsuz medya içeriği üretir. Kendi fikirlerini teyit etmeye yönelik medya tercihleri ve kendini doğrulama yoluyla, kullanıcı, yankı odası kanalları aracılığıyla daha kutuplaşmış hale getirilir.

Algoritmik radikalleşme, genellikle sosyal medya şirketlerinin yankı odası kanallarını kaldırmak konusunda çıkarları olmadığı için tartışmalı bir özellik olarak kalmaktadır. Sosyal medya şirketleri algoritmik radikalleşmenin varlığını kabul etmiş olsa da, her birinin bu büyüyen tehdidi nasıl yöneteceği henüz net değildir.

Sosyal medya platformları, kullanıcıların ilgi ve beğenilerini öğrenerek, beslemelerinde deneyimlerini değiştirir ve onları bağlı tutmak için kaydırma yapar. Bir yankı odası, kullanıcıların düşüncelerini büyüten veya pekiştiren inançlarla karşılaştıklarında ve benzer düşünen kullanıcıların bir grup oluşturduğu kapalı bir sistemde oluşur. Yankı odalarının sorunu, karşıt inançları içermeyen bilgilerin yayılması ve doğrulama yanlılığına yol açabilmesidir. Bir gruplaşma teorisi olan "gruplaşma" teorisine göre, bir yankı odası kullanıcıları ve grupları daha aşırı radikalize pozisyonlara yönlendirebilir. Ulusal Tıp Kütüphanesi'ne göre, "Çevrimiçi kullanıcılar genellikle dünya görüşlerine uygun bilgilere daha çok ilgi gösterir, farklı düşünceleri görmezden gelir ve paylaşılan anlatımlar etrafında kutuplaşmış gruplar oluşturur. Ayrıca, kutuplaşma yüksek olduğunda dezenformasyon hızla yayılır."

Facebook'un algoritması, kullanıcıların etkileşimde bulunmak isteyeceği içeriği önermeye odaklanır. Arkadaşların popüler gönderilerini, viral içerikleri ve bazen ayrıştırıcı içerikleri önceliklendirerek içeriği sıralar. Her besleme, kullanıcının belirli ilgi alanlarına göre kişiselleştirilir ve bu bazen kullanıcıları sorunlu içeriklerin yer aldığı bir yankı odasına yönlendirebilir. Kullanıcılar, algoritmanın kullandığı ilgi alanları listesini "Reklam Tercihleriniz" sayfasına giderek bulabilirler. Pew Araştırma çalışmasına göre, Facebook kullanıcılarının %74'ü bu listenin varlığını araştırmadıkları sürece o sayfaya yönlendirilmediklerini belirtmişlerdir. Ayrıca, Facebook'un kullanıcılarına siyasi etiketler ataması da oldukça yaygındır. Son yıllarda, Facebook yapay zeka kullanarak kullanıcıların beslemelerinde gördükleri içeriği ve onlara önerilen içeriği değiştirmeye başlamıştır. The Facebook Files adlı belge, AI sisteminin kullanıcı etkileşimini her şeyin üzerinde önemsediğini ortaya koymuştur. The Facebook Files aynı zamanda yapay zeka sistemlerini kontrol etmenin zor olduğunu göstermiştir.

2021 yılında sızdırılan bir iç yazışmada, Facebook "platformlarımızın işleyişi tarafsız değil" diyerek, maksimum kar elde etmek için etkileşimi optimize etmenin gerekliliğini kabul etmiştir. Etkileşimi artırmak için algoritmaların nefret, yanlış bilgi ve siyasetin uygulama faaliyetleri için önemli olduğunu tespit etmiştir. Bahsi geçen iç yazışmada, "Materyal ne kadar kışkırtıcı ise, kullanıcıları o kadar fazla etkilemektedir ve algoritma tarafından daha çok desteklenmektedir" ifadesine yer verilmiştir. Bir 2018 çalışmasına göre, "yalan haberler gerçek bilgilerden daha hızlı ve geniş bir şekilde yayılmaktadır... Yalan haberlerin, doğrulara kıyasla Twitter'da yeniden paylaşılma olasılığının %70 daha yüksek olduğu ve ilk 1,500 kişiye 6 kat daha hızlı ulaştığı bulunmuştur. Bu etki, diğer kategorilere kıyasla siyasi haberlerde daha belirgin bir şekilde görülmektedir."

YouTube, 2005 yılından beri var olan ve aylık olarak 2.5 milyardan fazla kullanıcıya sahip olan bir platformdur. YouTube'un keşif içerik sistemleri, kullanıcının kişisel etkinliklerine (izlenen, favoriler, beğeniler) odaklanarak onları önerilen içeriğe yönlendirmektedir. YouTube'un algoritması, kullanıcılara önerilen videoların yaklaşık %70'inden ve insanları belirli içerikleri izlemeye yönlendiren faktörlerden sorumludur. Yeni bir çalışmaya göre, kullanıcıların önerilen içeriklerinde istenmeyen videoları görmemek için çok az gücü vardır. Bu durum, nefret söylemi, canlı yayınlar gibi videoları da içermektedir.

YouTube, radikal içeriğin yayılması için etkili bir platform olarak belirlenmiştir. El-Kaide ve benzeri aşırıcı grupların, YouTube'u terör örgütü propaganda videolarının yayılması ve uluslararası medya kuruluşlarıyla etkileşime girmek için kullandığı tespit edilmiştir. Amerikan Behavioral Scientist Journal tarafından yayınlanan bir araştırma çalışmasında, "YouTube algoritmasının karar verme sürecine katkıda bulunabilecek bazı özelliklerin belirlenebilir olup olmadığını" araştırdılar. Çalışmanın sonuçları, YouTube algoritmasının aşırıcılık içeren içerik önerilerinde video başlığında radikal kelimelerin varlığının etkili olduğunu gösterdi. 2023 Şubat ayında, Gonzalez v. Google davasında, sorulan soru Google'ın, YouTube'un ebeveyn şirketi olan Google'ın, algoritması aracılığıyla teröristlere yardım ettiği iddia edilen ISIS videolarını kullanıcılara önermesi konusunda davalardan korunup korunmadığıdır. Bölüm 230, genel olarak çevrimiçi platformları, kullanıcılarının yayınladığı içeriklerden kaynaklanan hukuki sorumluluktan koruma altına alır.

TikTok, her kullanıcının sayfasını farklı hale getiren videoları 'Sana Özel Sayfa' (For You Page - FYP) olarak öneren bir uygulamadır. Uygulamanın algoritma yapısı gereği, TikTok'un FYP'si, uygulamadaki önceki etkileşimlerinize dayanarak zamanla daha açıklayıcı ve radikal videoların gösterilmesiyle ilişkilendirilmiştir. TikTok'un başlangıcından bu yana, uygulama, yanlış bilgi ve nefret söylemi konularında eleştirilere maruz kalmıştır çünkü bu tür medya içerikleri genellikle algoritma tarafından daha fazla etkileşim üretmektedir.

2022 yılı itibarıyla TikTok'un ABD Güvenlik Başkanı, "Nisan-Haziran arasında 81.518.334 video, Topluluk İlkelerimizi veya Hizmet Şartlarımızı ihlal ettiği için küresel olarak kaldırıldı" şeklinde bir açıklama yapmıştır. Bu adımlar, nefret söylemi, taciz ve yanlış bilginin önüne geçmek amacıyla atılmıştır.

ABD Adalet Bakanlığı, 'yalnız kurt' terörizmini "bir hükümetin veya terör örgütünün yardımı veya teşviki olmaksızın tek başına bir terör saldırısına karışan kişi" olarak tanımlamaktadır. İnternet üzerindeki sosyal medya platformları aracılığıyla, 'yalnız kurt' terörizmi, algoritmik radikalleşmeyle bağlantılı olarak artmaktadır. İnternet üzerindeki yankı odaları aracılığıyla, genellikle radikal olarak kabul edilen bakış açıları benimsenmiş ve hızla diğer aşırılık yanlıları tarafından benimsenmiştir. Bu bakış açıları, forumlar, grup sohbetleri ve sosyal medya aracılığıyla teşvik edilerek inançlarını pekiştirmektedir.

"The Social Dilemma" adlı 2020 yapımı belgesel-drama, sosyal medyanın ardındaki algoritmaların bağımlılığı teşvik ettiğini, insanların görüşlerini, duygularını ve davranışlarını manipüle ederek komplo teorileri ve yanlış bilgileri yaymada yetenek sahibi olduğunu anlatmaktadır. Film, "yankı odaları" ve "sahte haberler" gibi kavramları defalarca kullanarak sosyal medyadaki psikolojik manipülasyonu kanıtlamaya ve bunun sonucunda siyasi manipülasyona yol açtığını göstermeye çalışmaktadır. Filmde, Ben'in sosyal medya bağımlılığına daha da derinlemesine düştüğü, algoritmanın onun sosyal medya sayfasının uzun vadeli etkileşim için %62.3 olasılığa sahip olduğunu tespit ettiği şeklinde bir hikâye anlatılmaktadır. Bu durum Ben için önerilen videoların daha da artmasına ve sonunda propaganda ve komplo teorilerine daha fazla dahil olmasına, her videoyla birlikte daha da kutuplaşmasına yol açar.

1996 iletişim Ahlaki Düzensizlik Yasası'nın 230. bölümü, "Bir interaktif bilgisayar hizmetinin sağlayıcısı veya kullanıcısı, başka bir bilgi içerik sağlayıcısı tarafından sağlanan herhangi bir bilginin yayıncısı veya konuşmacısı olarak kabul edilmeyecektir" şeklinde belirtmektedir. 230. bölüm, medyayı üçüncü taraf içeriğinden kaynaklanan yasal sorumluluklardan veya davalardan korur, örneğin kullanıcının yasadışı faaliyetlerinden. Ancak, bu yaklaşım şirketin zararlı içeriği veya yanlış bilgileri kaldırma teşvikini azaltmaktadır. Bu açık, sosyal medya şirketlerine yasal risk olmaksızın radikal içeriği yayma ve karlarını maksimize etme imkanı sağlamaktadır.