算法激进化

算法激进化是指，诸如YouTube和Facebook等热门社交媒体网站上的推荐算法会随着时间的推移，引导用户接触越来越极端的内容，最终导致用户形成激进的极端政治观点。算法会仔细记录用户的互动行为，包括点赞、点踩以及观看时长，其目的是生成源源不断的媒体内容，以维持用户的参与度。回音室效应已被证明会加剧消费者的两极分化，其主要机制是通过强化媒体偏好和验证既有信念。

算法激进化仍然是一个备受争议的现象，因为社交媒体公司通常并不愿意清除回音室效应。推荐算法在多大程度上导致了激进化，目前仍存在争议。关于算法对极端主义内容的推广，已有研究得出了相互矛盾的结论。

## 社交媒体回音室和信息茧房

社交媒体平台会学习用户的兴趣和喜好，并据此调整其信息流内容，以吸引用户持续浏览，这被称为“信息茧房”。当用户接触到与自身观点相符或强化自身想法的信息时，就会形成回音室效应，并在封闭系统中形成一个志同道合的用户群体。回音室效应使得信息传播缺乏对立观点，并可能导致确认偏误。根据群体极化理论，回音室效应可能会引导用户和群体走向更加极端激进的立场。美国国家医学图书馆指出：“网络用户倾向于选择符合自身世界观的信息，忽略异议信息，并围绕共同的叙事形成极化的群体。此外，当极化程度较高时，错误信息会迅速传播。”

## 按站点

### Facebook

Facebook的算法专注于推荐能激发用户互动的内容。他们会优先推送好友的热门帖子、病毒式传播的内容，有时也会推送一些具有争议性的内容。每个用户的动态消息都会根据其特定兴趣进行个性化定制，但这有时会导致用户陷入充斥着不良内容的“回音室”中。用户可以通过访问“你的广告偏好设置”页面来查看算法使用的兴趣列表。根据皮尤研究中心的一项研究，74% 的Facebook 用户在研究引导他们访问该页面之前，并不知道这个列表的存在。Facebook 给用户贴上政治标签也相当普遍。近年来，Facebook 开始使用人工智能来改变用户在动态消息中看到的内容以及系统向他们推荐的内容。一份名为《Facebook 文件》的文件揭示，他们的 AI 系统将用户互动置于一切之上。《Facebook 文件》还表明，控制 AI 系统已被证明非常困难。

在2021年泄露的一份2019年8月内部备忘录中，Facebook承认“我们平台的机制并非中立”，并得出结论：为了实现利润最大化，必须优化用户参与度。为了提高用户参与度，算法发现仇恨言论、虚假信息和政治内容对应用程序的活跃度至关重要。正如备忘录中所述，“内容越具煽动性，用户参与度就越高，算法对其的推广效果也就越好。” 根据2018年的一项研究，“虚假谣言的传播速度和范围都比真实信息更快……研究发现，虚假信息在Twitter上的转发率比真实信息高出70%，并且触达前1500名用户的速度是真实信息的六倍。这种效应在政治新闻中比其他类别更为显著。”

### YouTube

YouTube自 2005 年上线以来，月活跃用户超过 25 亿。YouTube 的内容发现系统主要基于用户的个人活动（观看、收藏、点赞）来推荐内容。YouTube 的算法大约负责 70% 的用户推荐视频，并决定用户观看特定内容的动机。根据Mozilla基金会2022 年的一项研究，用户几乎无法阻止未经请求的视频出现在推荐内容中。这些视频包括仇恨言论、直播等。

YouTube 已被认定为传播极端化内容的重要平台。基地组织和类似的极端组织被指利用 YouTube 发布招募视频并与国际媒体互动。美国行为科学家杂志发表的一项研究探讨了“是否有可能识别出一组属性，以帮助解释 YouTube 算法的部分决策过程”。研究结果表明，YouTube 算法对极端主义内容的推荐会考虑视频标题中是否存在极端主义关键词。2023 年 2 月，在Gonzalez诉 Google一案中，争议的焦点在于 YouTube 的母公司 Google 是否受到法律保护，免于因网站算法帮助恐怖分子向用户推荐ISIS视频而面临的诉讼。众所周知，第 230 条通常保护在线平台免于承担用户发布内容的民事责任。

多项研究发现，几乎没有证据表明 YouTube 的算法会将注意力引导至那些原本不关注极右翼内容的用户。

### TikTok

TikTok是一个会向用户“为你推荐”（FYP）页面推荐视频的平台，因此每个用户的页面内容都各不相同。由于该应用背后的算法特性，TikTok的FYP页面会根据用户之前在该应用上的互动情况，逐渐推送更多露骨和激进的视频。自TikTok推出以来，该应用就因充斥着虚假信息和仇恨言论而备受关注，因为这些类型的媒体通常会给算法带来更多互动。

截至 2022 年，TikTok 美国安全主管发表声明称，“4 月至 6 月期间，全球范围内共删除了 81,518,334 个违反我们社区准则或服务条款的视频”，以减少仇恨言论、骚扰和虚假信息。

研究指出，有些人会因为在TikTok上接触到的内容而变得激进。例如，2023年初，奥地利当局挫败了一起针对LGBTQ+骄傲游行的阴谋，该阴谋涉及两名青少年和一名20岁的年轻人，他们都受到了TikTok上圣战内容的启发。其中年龄最小的嫌疑人年仅14岁，他曾接触过一些伊斯兰极端分子制作的美化圣战的视频。这些视频促使他进一步接触类似内容，最终导致他参与策划了一起袭击。

另一起案件涉及2024年奥地利维也纳几名青少年被捕，他们计划在泰勒·斯威夫特演唱会上发动恐怖袭击。调查显示，部分嫌疑人在网上受到极端思想的影响，TikTok是他们用来传播极端主义内容的平台之一，这些内容影响了他们的信仰和行为。

<image>

## 自我激进化

另见：激进化

美国司法部将“独狼式”（自我）恐怖主义定义为“在没有政府或恐怖组织帮助或鼓励的情况下，单独实施恐怖袭击的人”。通过互联网上的社交媒体，“独狼式”恐怖主义日益猖獗，并与算法激进化密切相关。在互联网的回音室效应下，一些通常被视为激进的观点被其他极端分子接受并迅速采纳。这些观点在论坛、群聊和社交媒体上得到鼓励，从而强化了他们的信念。

## 媒体中的引用

### 社会困境

主条目：《社会困境》

《社交困境》是一部2020年的纪录片，讲述了社交媒体背后的算法如何助长用户成瘾，并拥有操纵人们观点、情绪和行为的能力，从而传播阴谋论和虚假信息。影片反复使用“回音室效应”和“假新闻”等热门词汇，证明社交媒体存在心理操纵，进而导致政治操纵。影片中，本的社交媒体成瘾问题日益严重，因为算法发现他的社交媒体页面有62.3%的长期互动率。这导致本的推荐信息流中出现更多视频，他最终更加沉迷于宣传和阴谋论，随着观看的视频越来越多，他的立场也越来越极端。

## 建议的解决方案

### 美国：削弱第230条保护

主条目：第230条

《通信规范法》第230条规定：“任何互动计算机服务的提供者或用户均不得被视为由其他信息内容提供者提供的任何信息的发布者或发言人。” 第230条保护媒体免于承担第三方内容（例如用户的非法活动）的责任或被起诉。然而，批评者认为，这种做法降低了公司删除有害内容或虚假信息的积极性，并且这一漏洞使得社交媒体公司能够通过推送极端内容来最大化利润，而无需承担法律风险。这一说法本身也受到了第230条支持者的批评，因为在该条款通过之前，法院在Stratton Oakmont, Inc. v. Prodigy Services Co.一案中裁定，任何形式的审核都会使内容提供者承担责任，因为他们是其选择保留内容的“发布者”。

立法者已起草法案，旨在削弱或取消《通信规范法》第230条对算法内容的保护。众议院民主党议员安娜·埃舒、弗兰克·帕隆、迈克·道尔（美国政治家）和简·沙科夫斯基于2021年10月提出了《反对恶意算法法案》（HR 5596）。该法案在委员会阶段夭折，但其内容是，如果个性化推荐算法明知或鲁莽地向用户推送会导致身体或严重精神伤害的内容，则取消该法案对服务提供商的保护。