网上仇恨言论

网络仇恨言论是一种在网络上发表的言论，目的是基于种族、宗教、民族血统、性取向、残疾和/或性别攻击个人或群体。网络仇恨言论很难定义，但可以通过其所起的贬低或非人性化作用来识别。
《公民权利和政治权利国际公约》等多边条约试图界定其范围。多方利益相关方进程（例如《拉巴特行动计划》）试图提供更大的清晰度并提出识别仇恨信息的机制。国家和地区机构则试图促进对仇恨信息的理解，使其更加扎根于当地传统。
互联网的速度和覆盖范围使得政府难以在虚拟世界中执行国家立法。社交媒体是公开表达的私人空间，这给监管机构带来了困难。一些拥有这些空间的公司对打击网络仇恨言论变得更加积极。
定义.
仇恨言论.
仇恨言论的概念涉及言论自由与个人、集体和少数群体权利的冲突，也涉及尊严、自由和平等的概念。它很难定义，但可以通过其功能来识别。
在国家和国际立法中，仇恨言论是指基于目标的社会和/或人口身份，鼓吹煽动伤害的言论，包括歧视、敌视、激进化、言语和/或身体暴力行为。仇恨言论可能包括但不限于鼓吹、威胁或鼓励暴力行为的言论。这一概念还可以扩展到培养偏见和不容忍气氛的言论，因为这种气氛可能会助长有针对性的歧视、敌视和暴力袭击。在政治选举等关键时刻，仇恨言论的概念可能容易被操纵；煽动仇恨言论的指控可能在政治对手之间互相交换，或被当权者用来压制异议和批评。仇恨言论（无论是通过文字、图像还是声音传达）可以通过其所起的贬低或非人性化作用来识别。 
法律学者和政治理论家杰里米·沃尔德伦 (Jeremy Waldron)认为，仇恨言论始终包含两条信息：第一，让群体外的成员感到不受欢迎或感到害怕；第二，让群体内的成员感到他们的仇恨信仰是合法的。
网络仇恨言论的特征.
联合国人权理事会少数群体问题特别报告员观察到，网络仇恨言论泛滥，这带来了一系列新的挑战。社交网络平台和为打击仇恨言论而创建的组织都认识到，网上传播的仇恨信息越来越普遍，并引起了前所未有的关注，以制定适当的应对措施。根据收集全球网络仇恨言论实例的网络应用程序HateBase 的数据，大多数仇恨言论案件都针对基于种族和国籍的个人，但针对宗教和社会阶层的仇恨煽动也在增加。
虽然网络仇恨言论与线下类似表达并无本质区别，但网络内容及其监管仍面临独特的挑战。这些挑战与其永久性、流动性、匿名性和复杂的跨司法管辖性有关。
持久性.
仇恨言论可以以不同的形式在多个平台上长期存在，并且可以反复链接。正如在线仇恨预防研究所首席执行官安德烈·奥博勒 (Andre Oboler ) 所指出的那样，“内容存在的时间越长，对受害者造成的伤害就越大，肇事者也更加自以为是。如果你在早期阶段删除内容，你可以限制曝光。这就像清理垃圾一样，它并不能阻止人们乱扔垃圾，但如果你不处理这个问题，它只会越积越多，进一步加剧。”  Twitter围绕热门话题组织的对话可能会促进仇恨信息的快速广泛传播，但它们也为有影响力的演讲者提供了回避信息的机会，并可能结束煽动暴力的热门帖子。相反， Facebook可能会允许多个帖子并行继续，而不被注意；创造更持久的空间，冒犯、歧视和嘲笑某些个人和群体。
巡回.
网上的仇恨言论可能四处流传。即使内容被删除，它也可能在其他地方得到表达，可能是在同一平台上以不同的名称或在不同的网络空间中。如果一个网站被关闭，它可以通过监管较不严格的网络托管服务或通过重新分配到法律对仇恨言论门槛较高的国家来快速重新开放。仇恨言论的流动性质也意味着，过去无法得到公众表达和支持的不成熟的思想或受影响的行为，现在可能会出现在大量观众可以看到的地方。
匿名.
匿名性也会给处理网络仇恨言论带来挑战。网络讨论可能是匿名或假名的，这可能会让人们在表达观点时感到更安全，但也很容易助长破坏性行为。 正如 “哨兵项目 ”运营总监德鲁-博伊德（Drew Boyd）所言，“互联网赋予个人说出可怕话语的能力，因为他们认为不会被发现。这就是网络仇恨言论如此独特的原因，因为与在现实生活中承担言论后果相比，人们在发表仇恨言论时感到更自在。” 中国和韩国对社交媒体实行实名制。Facebook、LinkedIn、和Quora都试图启用实名制，以更好地控制网络仇恨言论。此类措施引起了强烈争议，因为它们被认为侵犯了隐私权及其与言论自由权的交集。
很多网络仇恨言论都是由网络“喷子”发布的，他们通常是使用假名的用户，发布令人震惊、粗俗且总体上不真实的内容，目的显然是引发负面反应，但如果读者与他们持有相同观点，他们也可能意在影响或招募读者加入他们的信仰。社交媒体还为激进和极端的政治或宗教团体提供了一个平台，让他们可以组建、建立网络和合作，传播反建制和反政治正确的信息，并宣传种族主义、反女权主义、恐同、恐跨性别等信仰和意识形态。完全匿名的在线交流很少见，因为它要求用户采用高度技术性的措施来确保自己不容易被识别。
跨司法管辖区蔓延.
另一个复杂因素是互联网的跨国影响力，这引发了在打击仇恨言论的法律机制方面跨司法管辖区合作的问题。虽然欧洲、亚洲和北美洲都已签订了司法协助条约，但这些条约通常进展缓慢。许多私营部门互联网中介机构的跨国影响力可能在某些情况下为解决问题提供更有效的渠道，尽管这些机构也常常受到跨司法管辖区数据请求的影响（比如披露某一内容作者的身份）。不同的司法管辖区对仇恨言论也有独特的定义，这使得起诉可能在较不严格的司法管辖区寻求庇护的肇事者变得困难。
与通过传统渠道传播仇恨言论不同，网络仇恨言论的受害者可能难以知道应该向谁求助，因为平台、当地执法机构以及发表仇恨言论的人的当地执法机构都可能觉得这个问题不属于他们的管辖范围，即使有仇恨言论政策和法律。非政府组织和游说团体一直在提高认识，并鼓励不同的利益相关者采取行动。
人工智能.
一些科技公司，例如Facebook，使用人工智能 (AI)系统来监控仇恨言论。然而，人工智能可能并不总是一种监控仇恨言论的有效方式，因为系统缺乏人类所拥有的判断技能。例如，用户可能会发布或评论一些被归类为仇恨言论或违反社区准则的内容，但如果目标词拼写错误，或者某些字母被替换为符号，人工智能系统将无法识别它。这一弱点导致人们试图通过故意拼写错误来规避审查算法，例如在COVID-19期间，对疫苗犹豫不决的人使用“vachscenes”而不是“vaccines” 。因此，人类仍然必须监控监控仇恨言论的人工智能系统；这是人工智能技术中一个常见的问题，被称为“自动化的最后一英里”，这意味着最后 10% 或 1% 的工作是最难​​完成的。
框架.
风暴前线先例.
2014年伊斯兰恐怖主义事件发生后，要求采取更多限制性或侵入性措施来遏制互联网传播仇恨和暴力潜力的呼声很普遍，仿佛在线和离线暴力之间的联系是众所周知的一样。相反，如下例所示，表象往往具有欺骗性。Stormfront被认为是第一个“仇恨网站”。它于 1995 年 3 月由前三K党领导人创办，很快成为讨论新纳粹主义、白人民族主义和白人分裂主义相关思想的热门空间，先是在美国，然后在全球。该论坛呼吁发动种族圣战，煽动使用暴力抵制移民。并被认为是招募活动分子和可能协调暴力行为的空间。少数探讨过 Stormfront 身份的研究实际上描绘了一幅更为复杂的图景。而不是将其视为协调行动的空间。著名的极右翼活动家指责该论坛只是“键盘侠”的聚会。例如，据 De Koster 和 Houtman 报道，其中一位表示：“我读过论坛上的不少文章，我觉得大家大惊小怪，但实际上却没有什么动静。激进主义/政治部分本身就很荒谬。[...] 更不用说只有四个人参加的集会了。” 更能说明问题的是该网站的常规会员对这些指控做出的一些回应。正如其中一位辩称的那样，“当然，我有权发表意见，但不必积极付诸行动。[...] 我不参加示威活动，也不加入任何政党。如果这让我成为键盘侠，那没关系。这样我感觉很好。[...] 我并不为此感到羞耻。”  De Koster 和 Houtman 仅调查了 Stormfront 的一个全国性分会和一个不具代表性的用户样本，但上述答案至少应该提醒人们，即使在主要功能是承载极端主义观点的空间中，也要谨慎对待将言论和行为联系起来的假设。南方贫困法律中心在 2014 年发表了一项研究，发现该网站的用户“据称在过去五年中对近 100 人被谋杀负有责任。” 
国际原则.
许多国际人权文件和条约中没有明确提到仇恨言论，但一些与人类尊严和言论自由有关的原则间接地提到了仇恨言论。例如，1948 年为应对第二次世界大战暴行而起草的《世界人权宣言》第七条规定了在法律下享有平等保护的权利，该条宣称：“人人有权享受平等保护，以免受违反本宣言的任何歧视行为以及煽动这种歧视的任何行为之害。” 《世界人权宣言》还规定，每个人都有言论自由的权利，包括“不受干涉地持有意见的自由，以及通过任何媒体和不论国界寻求、接受和传递信息和思想的自由。” 
《世界人权宣言》在制定人权保护框架和议程方面发挥了决定性作用，但该宣言不具约束力。随后，一系列具有约束力的文件应运而生，为言论自由和防止歧视提供更有力的保护。《公民权利和政治权利国际公约》针对仇恨言论，第 19 条规定了言论自由权，第 20 条规定禁止煽动歧视、敌视或暴力的仇恨言论。其他更有针对性的国际法律文书也包含对仇恨言论定义和确定应对措施有影响的条款，例如：《防止及惩治灭绝种族罪公约》（1951 年）、《消除一切形式种族歧视国际公约》（ICERD）（1969 年），以及在较小程度上影响较大的《消除对妇女一切形式歧视公约》（CEDAW）（1981 年）。
仇恨言论与《公民权利和政治权利国际公约》.
《公民权利和政治权利国际公约》是有关仇恨言论及其管制的辩论中最常提及的法律文书，尽管它没有明确使用“仇恨言论”一词。第 19 条经常被称为“公约核心”的一部分 ，它规定了言论自由权。该条款规定了这项权利，还包括一般限制，任何限制这项权利的行为都必须符合这些限制才能合法。第 19 条之后是第 20 条，该条明确限制言论自由，适用于“鼓吹民族、种族或宗教仇恨，煽动歧视、敌视或暴力”的情况。这项条款可以描述为体现仇恨言论的特定概念，因此将其纳入的决定引起了强烈争议。人权事务委员会是《公民权利和政治权利国际公约》为监督其实施而设立的联合国机构，它意识到了这种紧张局势，并试图强调第 20 条与言论自由权完全兼容。根据《公民权利和政治权利国际公约》，言论自由权不是一项绝对权利。国家可以在有限的情况下合法地限制言论自由：
“3. 行使本条第2款规定的权利时，必须履行特殊的义务和责任。因此，行使本条第2款规定的权利时，必须遵守某些限制，但这些限制仅限于法律规定并有必要的情形：（a）尊重他人的权利或名誉；（b）保护国家安全、公共秩序、公共卫生或道德。 ” 
第 19 条第 3 款与第 20 条之间，对言论自由权的限制有选择性和强制性之分。第 19 条第 3 款规定，对言论自由的限制“因此可以受到某些限制”，只要这些限制是法律规定的，并且是出于某些合法目的所必需的。第 20 条规定，任何鼓吹（某些种类的）仇恨，构成煽动歧视、敌视或暴力的行为“应受法律禁止”。尽管有迹象表明，根据第 20 条，法律应禁止哪些言论犯罪行为，但情况仍然很复杂。特别是在概念化（i）仇恨表达、（ii）鼓吹仇恨的表达和（iii）具体构成煽动歧视、敌视或暴力的实际危害的仇恨言论之间的明确区别时，存在一个灰色地带。虽然各国有义务禁止被视为“煽动歧视、敌意或暴力的宣扬仇恨的言论”，这与《公约》第 20 条第 (2) 款相一致 ，但如何解释这一言论，尚无明确的定义。