演算法激進化

演算法激進化是指，諸如YouTube和Facebook等熱門社交媒體網站上的推薦算法會隨著時間的推移，引導使用者接觸越來越極端的內容，最終導致使用者形成激進的極端政治觀點。算法會仔細記錄使用者的互動行為，包括點讚、點踩以及觀看時長，其目的是生成源源不斷的媒體內容，以維持使用者的參與度。回音室效應已被證明會加劇消費者的兩極分化，其主要機制是通過強化媒體偏好和驗證既有信念。

演算法激進化仍然是一個備受爭議的現象，因為社交媒體公司通常並不願意清除回音室效應。推薦演算法在多大程度上導致了激進化，目前仍存在爭議。關於演算法對極端主義內容的推廣，已有研究得出了相互矛盾的結論。

## 社交媒體回音室和資訊繭房

社交媒體平台會學習使用者的興趣和喜好，並據此調整其資訊流內容，以吸引用戶持續瀏覽，這被稱為「資訊繭房」。當使用者接觸到與自身觀點相符或強化自身想法的資訊時，就會形成回音室效應，並在封閉系統中形成一個志同道合的使用者群體。回音室效應使得資訊傳播缺乏對立觀點，並可能導致確認偏誤。根據群體極化理論，回音室效應可能會引導使用者和群體走向更加極端激進的立場。美國國家醫學圖書館指出：「網路使用者傾向於選擇符合自身世界觀的資訊，忽略異議資訊，並圍繞共同的敘事形成極化的群體。此外，當極化程度較高時，錯誤信息會迅速傳播。」

## 按站點

### Facebook

Facebook的演算法專注於推薦能激發使用者互動的內容。他們會優先推送好友的熱門帖子、病毒式傳播的內容，有時也會推送一些具有爭議性的內容。每個使用者的動態消息都會根據其特定興趣進行個性化定製，但這有時會導致使用者陷入充斥著不良內容的「回音室」中。使用者可以通過訪問「你的廣告偏好設置」頁面來查看演算法使用的興趣列表。根據皮尤研究中心的一項研究，74% 的Facebook 使用者在研究引導他們訪問該頁面之前，並不知道這個列表的存在。Facebook 給使用者貼上政治標籤也相當普遍。近年來，Facebook 開始使用人工智慧來改變使用者在動態消息中看到的內容以及系統向他們推薦的內容。一份名為《Facebook 文件》的文件揭示，他們的 AI 系統將使用者互動置於一切之上。《Facebook 文件》還表明，控制 AI 系統已被證明非常困難。

在2021年洩露的一份2019年8月內部備忘錄中，Facebook承認「我們平台的機制並非中立」，並得出結論：為了實現利潤最大化，必須優化使用者參與度。為了提高使用者參與度，演算法發現仇恨言論、虛假資訊和政治內容對應用程式的活躍度至關重要。正如備忘錄中所述，「內容越具煽動性，使用者參與度就越高，演算法對其的推廣效果也就越好。」根據2018年的一項研究，「虛假謠言的傳播速度和範圍都比真實資訊更快……研究發現，虛假資訊在Twitter上的轉發率比真實資訊高出70%，並且觸達前1500名使用者的速度是真實資訊的六倍。這種效應在政治新聞中比其他類別更為顯著。」

### YouTube

YouTube自 2005 年上線以來，月活躍用戶超過 25 億。YouTube 的內容發現系統主要基於使用者的個人活動（觀看、收藏、點讚）來推薦內容。YouTube 的演算法大約負責 70% 的使用者推薦影片，並決定使用者觀看特定內容的動機。根據Mozilla基金會2022 年的一項研究，使用者幾乎無法阻止未經請求的影片出現在推薦內容中。這些影片包括仇恨言論、直播等。

YouTube 已被認定為傳播極端化內容的重要平台。蓋達組織和類似的極端組織被指利用 YouTube 發布招募影片並與國際媒體互動。美國行為科學家雜誌發表的一項研究探討了「是否有可能識別出一組屬性，以幫助解釋 YouTube 演算法的部分決策過程」。研究結果表明，YouTube 演算法對極端主義內容的推薦會考慮影片標題中是否存在極端主義關鍵詞。2023 年 2 月，在Gonzalez訴 Google一案中，爭議的焦點在於 YouTube 的母公司 Google 是否受到法律保護，免於因網站演算法幫助恐怖分子向使用者推薦ISIS影片而面臨的訴訟。眾所周知，第 230 條通常保護在線平台免於承擔使用者發布內容的民事責任。

多項研究發現，幾乎沒有證據表明 YouTube 的算法會將注意力引導至那些原本不關注極右翼內容的使用者。

### TikTok

TikTok是一個會向使用者「為你推薦」（FYP）頁面推薦影片的平台，因此每個使用者的頁面內容都各不相同。由於該應用背後的演算法特性，TikTok的FYP頁面會根據使用者之前在該應用上的互動情況，逐漸推送更多露骨和激進的影片。自TikTok推出以來，該應用就因充斥著虛假資訊和仇恨言論而備受關注，因為這些類型的媒體通常會給演算法帶來更多互動。

截至 2022 年，TikTok 美國安全主管發表聲明稱，「4 月至 6 月期間，全球範圍內共刪除了 81,518,334 個違反我們社區準則或服務條款的影片」，以減少仇恨言論、騷擾和虛假資訊。

研究指出，有些人會因為在TikTok上接觸到的內容而變得激進。例如，2023年初，奧地利當局挫敗了一起針對LGBTQ+驕傲遊行的陰謀，該陰謀涉及兩名青少年和一名20歲的年輕人，他們都受到了TikTok上聖戰內容的啟發。其中年齡最小的嫌疑人年僅14歲，他曾接觸過一些伊斯蘭極端分子製作的美化聖戰的影片。這些影片促使他進一步接觸類似內容，最終導致他參與策劃了一起襲擊。

另一起案件涉及2024年奧地利維也納幾名青少年被捕，他們計劃在泰勒·斯威夫特演唱會上發動恐怖襲擊。調查顯示，部分嫌疑人在網上受到極端思想的影響，TikTok是他們用來傳播極端主義內容的平台之一，這些內容影響了他們的信仰和行為。

<image>

## 自我激進化

另見：激進化

美國司法部將「獨狼式」（自我）恐怖主義定義為「在沒有政府或恐怖組織幫助或鼓勵的情況下，單獨實施恐怖襲擊的人」。通過網際網路上的社交媒體，「獨狼式」恐怖主義日益猖獗，並與演算法激進化密切相關。在網際網路的回音室效應下，一些通常被視為激進的觀點被其他極端分子接受並迅速採納。這些觀點在論壇、群聊和社交媒體上得到鼓勵，從而強化了他們的信念。

## 媒體中的引用

### 社會困境

主條目：《社會困境》

《社交困境》是一部2020年的紀錄片，講述了社交媒體背後的演算法如何助長使用者成癮，並擁有操縱人們觀點、情緒和行為的能力，從而傳播陰謀論和虛假資訊。影片反覆使用「回音室效應」和「假新聞」等熱門詞彙，證明社交媒體存在心理操縱，進而導致政治操縱。影片中，本的社交媒體成癮問題日益嚴重，因為演算法發現他的社交媒體頁面有62.3%的長期互動率。這導致本的推薦信息流中出現更多影片，他最終更加沉迷於宣傳和陰謀論，隨著觀看的影片越來越多，他的立場也越來越極端。

## 建議的解決方案

### 美國：削弱第230條保護

主條目：第230條

《通信規範法》第230條規定：「任何互動電腦服務的提供者或使用者均不得被視為由其他資訊內容提供者提供的任何資訊的發布者或發言人。」第230條保護媒體免於承擔第三方內容（例如使用者的非法活動）的責任或被起訴。然而，批評者認為，這種做法降低了公司刪除有害內容或虛假資訊的積極性，並且這一漏洞使得社交媒體公司能夠通過推送極端內容來最大化利潤，而無需承擔法律風險。這一說法本身也受到了第230條支持者的批評，因為在該條款通過之前，法院在Stratton Oakmont, Inc. v. Prodigy Services Co.一案中裁定，任何形式的審核都會使內容提供者承擔責任，因為他們是其選擇保留內容的「發布者」。

立法者已起草法案，旨在削弱或取消《通信規範法》第230條對演算法內容的保護。眾議院民主黨議員安娜·埃舒、弗蘭克·帕隆、邁克·道爾（美國政治家）和簡·沙科夫斯基於2021年10月提出了《反對惡意演算法法案》（HR 5596）。該法案在委員會階段夭折，但其內容是，如果個性化推薦演算法明知或魯莽地向使用者推送會導致身體或嚴重精神傷害的內容，則取消該法案對服務提供商的保護。