智能社会：进退两难

《智能社会：进退两难》（The Social Dilemma）是一部2020年的美国文献纪录片，由Jeff Orlowski执导，并由奥洛夫斯基、Davis Coombe和维基·柯蒂斯(Vickie Curtis)编剧，讲述了社交媒体对社会造成的负面影响。

**概要**
这部纪录片深入探讨社交媒体和科技公司使用的让用户上瘾的心理基础和操控技巧。这些公司监视、追踪和测量人们的在线活动，然后使用这些数据来建立预测用户行为的人工智能模型。前Google设计伦理学家和Center for Humane Technology的联合创始人Tristan Harris，在这部纪录片中解释了科技公司的三个主要目标：
# 参与目标：增加使用率，确保用户继续滚动。
# 增长目标：确保用户回流并邀请朋友，进而吸引更多的朋友。
# 广告目标：确保在实现上述两个目标的同时，公司也从广告中尽可能多地赚取利润。
哈里斯在总结这一点时发出警告：「如果你不为产品买单，那么你就是产品。」这是引用了之前、汤姆·约翰逊和安德鲁·刘易斯的见解。 
哈里斯将科技中使用的操控策略比喻为魔术：如何透过操控人们所看到的东西来说服他们，并将这种心理学融入科技之中呢？
另一位受访者是纽约大学史登商学院的社会心理学家乔纳森·海特，他提出了有关社交媒体对心理健康的担忧。自21世纪初以来，青少年和年轻人的抑郁和自杀率有所上升，他指出这一趋势与当时社交媒体在移动手机上普及有关。纪录片还探讨了假新闻的危害。哈里斯认为这是一种「以不实讯息谋利的商业模式」，公司通过允许不受监管的讯息以最优价格抵达用户而赚取更多钱。麻省理工学院的一项研究发现，在Twitter上假新闻的传播速度是真实新闻的六倍。维基百科被提及为一个中立平台的例子，该平台向所有用户展示完全相同的内容，而不会为个人度身定制或以盈利为目的。
奥洛夫斯基用了一组演员将这部电影中涉及的问题戏剧化地呈现出来。故事讲述了一个五口之家的故事，从不同角度展示了社交媒体的使用及其对他们日常生活的影响。主人公本(Ben)是一名少年，在受到「参与」、「增长」和「广告」三个人工智能的操控下，深陷社交媒体成瘾中。本的姐姐卡桑德拉(Cassandra)则认为人们可以在没有手机的情况下保持与互联网的联系，她代表着不受社交媒体和科技操控的个人，这不同于她家庭的其他成员。伊斯拉(Isla)是家庭中年纪最小的女儿，代表了青少女如何因社交媒体而陷入抑郁，并失去了自我认同感。
这个故事中的一个场景显示了这家人在晚餐桌旁。母亲建议每个人在吃晚饭之前将手机锁在厨房保险箱中，但当有人的手机响起通知时，伊斯拉从桌子旁站起来，试图打开厨房保险箱。在几次尝试失败后，她最终用工具砸碎了厨房保险箱，取回了自己的手机，但同时损坏了本的手机屏幕。作为获得新手机屏幕的条件，本答应母亲在一周内不使用手机。在该场景的结尾，卡桑德拉独自坐在餐桌旁。约定时间过半，本违背了诺言，逐渐对社交媒体上瘾。屏幕背后的人工智能之前分析出，在他的社交媒体页面上推送「极端中心」政治内容有62.3%的长期参与机会。一旦本开始观看由人工智能推荐的视频，他就会沉浸在充斥着宣传和阴谋论的内容中，以至于影响了他的日常生活，导致他逃掉足球训练，忽略了朋友和家人。最终，在电影结尾，本参加了一场「极端中心」集会，并升级为暴力事件。卡桑德拉在上学的路上在人群中发现了本，当本试图靠近卡桑德拉时，被警察制服并拘留。
受访者重申他们对人工智慧在社交媒体中的角色以及这些平台对社会影响的担忧，并主张「需要做出一些改变」。曾在Firefox和Mozilla工作的前员工，也是人道技术中心的联合创始人阿萨·拉斯金，解释称，硅谷最初是以「人道技术」的理念开始的，但公司已经偏离了技术的初衷。
在纪录片的片尾字幕中，受访者提出观众可以采取的反击行动方式，例如关闭通知、永不接受YouTube上的推荐视频、使用不保留搜索记录的搜寻引擎，以及在家中制定手机使用规则。

**主题**
《智能社会：进退两难》主要探讨了社交媒体使用所带来的深刻社会和文化影响，特别强调算法在塑造行为和进行心理操控方面的作用。这部纪录片还触及了各种相互关联的主题，包括政治操控、技术成瘾、回声室、假新闻以及社交媒体对心理健康的影响，尤其是抑郁和焦虑。整部纪录片的片段集中在一个演员饰演的家庭的例子，展示了社交媒体给他们的日常生活带来的巨大影响。
一位受访者，前Facebook主管蒂姆·肯德尔，谈到了Facebook的令人震惊的目标：不断提高应用程序的成瘾性，以实现持续提高参与度。前Google设计师特里斯坦·哈里斯将这种成瘾程度比喻为「拉斯维加斯老虎机」，因为用户「检查他们的手机希望收到通知，就像拉动老虎机的操纵杆希望中大奖一样」。随着社交媒体的目标在20世纪末到21世纪初时与初次引入时相比已经改变并在社会中急剧增加了流行度，正如哈里斯所描述的，社交媒体不再被视为一种工具。不同于社会只在需要时专门使用的工具，社交媒体平台努力提供先进的方法，以吸引用户点击应用程序以获取更多内容。根据肯德尔的说法，用户沉浸在这个应用程序中，暴露于无数的信息，这可能导致社会内的紧张局势。虚假信息和假新闻经常传播，用户无法区分虚假和真实新闻，导致意识形态和社会分歧的差异。
社会心理学家和作家乔纳森·海特强调了社交媒体对抑郁和焦虑的影响，尤其是对年轻青少年的影响。这部纪录片报导了与社交媒体使用有关的美国少女抑郁、自我伤害和自杀入院率的统计数据。这些入院率数字在大约2011年前保持稳定，对比2009年在美国年龄较大（15至19岁）的少女的入院率上升了62％，而年龄较小（10至14岁）的少女的上升了189％。此外，自杀率也呈现相同的趋势，与2001年至2010年相比，年龄较大的少女自杀率增加了70％，年龄较小的少女自杀率增加了151％。根据海特的访谈，1996年以后出生的人成长于使用社交媒体是常态的社会中，因此从小就持续暴露在过载的内容中。过早接触这些平台是导致抑郁和自我伤害急剧上升的原因之一。

**制作**

**灵感**
杰夫·奥洛夫斯基以《Chasing Coral》和《Chasing Ice》而闻名，在2018年开始制作这部纪录片，并于2019年完成。在Deadline的竞争者纪录片活动的座谈会上被问及影片背后的灵感时，奥洛夫斯基提到他一直对巨大的系统性和社会性挑战感到好奇。他逐渐相信，「在硅谷的少数设计师在不知不觉中编写着正在塑造地球上数十亿人生活的代码。」
奥洛夫斯基在电影的FAQ页面写道：
这部电影的图形、动画和视觉效果由Mass FX Media制作，并由Netflix制作。
这部电影的类型是科学和自然纪录片。

**选角**

**受访者**
 特里斯坦·哈里斯，前Google设计伦理学家，Apture的联合创始人和CEO，人道技术中心的联合创始人；《Your Undivided Attention》播客的联合主持人，与阿萨·拉斯金共同主持- 蒂姆·肯德尔，前Facebook盈利总监，前Pinterest总裁，Moment（一个追踪屏幕时间的移动应用程序）的CEO- 杰伦·拉尼尔，美国计算机哲学作家，计算机科学家，视觉艺术家，当代古典音乐作曲家；《十条立即删除你的社交媒体帐号的理由》的作者- Roger McNamee ，Facebook的早期投资者，着有《Zucked: Waking Up to the Facebook Catastrophe》，风险投资公司Elevation Partners的联合创始人- 阿萨·拉斯金，前Mozilla Labs用户体验主管和Firefox的创意负责人；人道技术中心的联合创始人，Massive Health的创始人；无限滚动发明人- 贾斯汀·罗森斯坦，前Facebook工程经理，前Google产品经理，Asana和One Project的联合创始人- 肖珊娜·祖博夫 ，哈佛商学院荣誉教授，着有《监控资本主义时代》- 杰夫·塞伯特，前Twitter产品负责人，科技企业家- 安娜·伦布克，斯坦福大学医学院成瘾医学主任- 乔纳森·海特，纽约大学斯特恩商学院的社会心理学家，着有《正义之心》和《The Coddling of the American Mind: How Good Intentions and Bad Ideas Are Setting Up a Generation for Failure》- 桑迪·帕拉基拉斯(Sandy Parakilas)，前Facebook平台运营经理，前Uber产品经理- Cathy O’Neil，数据科学家，着有《Weapons of Math Destruction》- 兰迪玛·费尔南多(Randima Fernando)，前Nvidia产品经理，Mindful Schools的前执行董事，人道技术中心的联合创始人兼执行董事- 乔·托斯卡诺(Joe Toscano)，前Google体验设计顾问，着有《Automating Humanity》- 贝利·理查森(Bailey Richardson)，Instagram早期团队成员，People & Company的合伙人- 拉希达·理查森(Rashida Richardson)，东北大学法学院法学和政治科学助理教授，AI Now Institute前政策研究主管- 吉尓莫·沙斯洛(Guillaume Chaslot)，前Google（YouTube）软件工程师，AlgoTransparency的创始人- Renée Diresta，斯坦福互联网观测所的技术研究经理，Data for Democracy前政策主管- 辛西亚·M·黄(Cynthia M. Wong)，人权观察前高级互联网研究员- 亚历克斯·罗特(Alex Roetter)，前Twitter工程高级副总裁- 林恩·福克斯 (Lynn Fox) ，前苹果公司企业和Mac公关总监，前Google企业通讯执行

**演员**
 斯凯勒·吉桑多(Skyler Gisondo)饰演本(Ben)- 卡拉·海沃德(Kara Hayward)饰演卡桑德拉(Cassandra)- 索菲亚·哈蒙斯 (Sophia Hammons)饰演伊斯拉(Isla)- 克里斯·格兰迪 (Chris Grundy)饰演继父- 巴巴拉·盖林 (Barbara Gehring)饰演母亲- 文森特·卡塞瑟(Vincent Kartheiser)饰演人工智能- 卡塔利娜·加拉约阿 (Catalina Garayoa)饰演丽贝卡(Rebecca)- 塞尔吉奥·维拉雷亚尔 (Sergio Villarreal)饰演路易斯(Luiz)- 劳拉·奥比奥尔斯 (Laura Obiols)饰演文戴塔 (Vendetta)- 维克·亚历杭德罗 (Vic Alejandro)饰演警官
旁白：珍妮·朱 (Jenny Jue)

**原声带**
所有的音乐都由马克 ·克劳福德(Mark Crawford)创作的。
正如马克 ·克劳福德在《智能社会：进退两难》采访中所描述的那样，通过使用「人造」和机械声音，他通过这段配乐表现了社交媒体令人担忧的影响。 在每首歌都在强调关于纪录片的「困境」概念。title21=Machine Learning

**发行**
《智能社会：进退两难》于2020年1月26日首映于辛丹斯电影节，并于2020年9月9日在Netflix全球发行。这部纪录片在上映的28天内被3800万户观看。它在2021年第73届黄金时段创意艺术艾美奖的七项提名中获得两项奖项。
这部电影约长94分钟，只能通过Netflix订阅来观看。然而，你可以通过在《智能社会：进退两难》的官方网页上请求，获得40分钟的免费版本。

**反响**

**评论**
《智能社会：进退两难》获得普遍的正面评价。对《智能社会：进退两难》的多数正面分析认为该影片深入剖析，将抽象概念降低到易于理解的水平。然而，一些负面评论强调戏剧化的剧本降低了影片信息传达的效果。在评论聚合网站烂番茄上，根据66篇评论，影片获得85%的好评，平均评分为7.2/10。该网站的评论一致认为：「《智能社会：进退两难》以清晰而全面的方式呈现了对我们被数据挖掘的现状的警醒分析。」在Metacritic上，根据9位影评人的评论，该影片的加权平均分为78/100。
这部电影因其描绘了社交媒体成瘾效应的严重性而广受好评，并通过业内人士的角度向广大观众揭示了科技公司为增加使用量和数据提取的策略。ABC新闻的马克·肯尼迪称该影片是「深入研究社交媒体是如何设计制造成瘾并操纵我们行为的震撼之作，这是由一些监督过Facebook、Google和Twitter等系统的人告诉我们的」。RogerEbert.com的Nell Minow指出，该影片对人类通过电脑技术对人类的潜在自毁提出了「根本性和存在性的问题」，并赞扬了影片「出色地」利用社交媒体行业的领袖和重要人物的自白。
其他评论家指出该片揭示了关于社交媒体公司如何策略性地让用户在他们的应用程序上尽可能待更长时间的令人震惊的信息。《纽约时报》的德维卡·吉瑞什表示，「《智能社会：进退两难》非常有效地敲响关于数据挖掘和操纵技术侵入我们的社交生活及其他方面的警钟。」《卫报》的John Naughton罕见地为这部电影普遍受批评的戏剧化剧情辩护，在电影的虚构部分评论道，电影展示了「普通」的美国家庭如何被拖入互联网和手机的兔子洞（爱丽丝梦游仙境的比喻）。诺顿说：「虚构情节是必要的，因为批评行业将用户视为实验鼠的行为所面临的最大困难是向这些鼠解释正在发生在他们身上的事情，而他们不断被实验者控制的智能手机所提供的愉悦（在这种情况下是高剂量多巴胺）转移注意力。」 
伊丽莎白·潘科娃(Elizabeth Pankova)为评论增添了新的见解，她提到「影片中的资讯没有什么特别新奇之处」，但她认为使《智能社会：进退两难》与众不同的是「这些资讯的提供者：对硅谷的悔恨、自觉的战士变成了硅谷的良心反对者。」
然而，大多数评论家经常将影片中戏剧性的再现视为不满的主要原因。纽约时报的德维卡·吉瑞什指出奥洛夫斯基拍摄该虚构叙事是为了说明纪录片关于社交媒体对心理健康影响的主要观点。
的尼尔·米诺(Nell Minow)表示，「即使是才华横溢的斯凯勒·吉桑多也无法成功饰演一个被极端错误资讯所诱惑的青少年，而文森特·卡塞瑟体现了阻碍我们专注于线上世界以外事物的公式的情景简直是愚蠢至极。」The Verge的凯西·牛顿(Casey Newton)认为，影片中戏剧化的部分「荒谬……而那令人不安的钢琴音乐试图说服每个场景，而不是加剧紧张感，却赋予了它一种滑稽的感觉。」影片还因过于简单，未包括有关社交媒体的长期评估而受到批评。Slate杂志的普拉纳夫·马尔霍特拉(Pranav Malhotra)表示，该影片「强调了围绕技术的老掉牙反乌托邦叙事」，并「依赖陈腔滥调，尤其是将技术视为唯一危害的因素，特别是对儿童的危害。」他还批评该影片未能承认长期批评社交媒体的活动人士和评论员，指出「它本应给予像Safiya Noble、Sarah T. Roberts和Siva Vaidhyanathan等重要的互联网和媒体学者更多的空间，这些学者一直在探讨更广泛的结构性不平等如何反映并经常放大大型科技公司的做法。」评论最终谴责了另一个缺乏细微差异的反乌托邦叙事的「不加批判」的呈现。
针对《智能社会：进退两难》所收到的评论和批评，该纪录片的导演杰夫·奥洛夫斯基提到，他的纪录片是一个「局内人视角」，作为斯坦福大学毕业生对矽谷的视角。
在接受Copenhagen_International_Documentary_Film_Festival的访谈时，他提到：「我认为无数的电影制片人，尤其是纪录片制片人，都希望通过他们的作品取得影响力。」他后来补充说：「电影制片人经常无法获得资源或团队来开展他们的宣传活动。」

**科技公司回应和电影影响**
Facebook在其关于页面上发表声明，称该电影「扭曲了社交媒体平台运作的真实情况，将其定位为困难且复杂的社会问题的替罪羊。」
CNBC报导称，观看了《智能社会：进退两难》后，社交媒体用户怀疑是否应该继续使用Facebook或Instagram。然而，当询问Facebook是否存在用户减少的可能性时，Facebook拒绝回答或对此发表任何评论。
Mozilla员工Ashley Boyd和Audrey Hingle指出，尽管「《智能社会：进退两难》的制作、发布和受欢迎程度代表着建立一个了解社交媒体影响并要求平台改进的互联网用户运动的重要里程碑」，但该电影本应包含更多不同的声音。 

**提名和获奖**

**参见**
 算法激进化- 躯体变形障碍- 公共固化- 网络心理学- 数字公民- 数字媒体使用与心理健康- 末日滚动- Facebook-剑桥分析数据丑闻- 错误共识效应- 过滤气泡- 群体极化- 有说服力的技术- 有问题的社交媒体使用- 搜寻引擎操纵效果- 选择性暴露理论- 社交媒体与心理学- 监视资本主义- 目标式广告

**参考资料**

**相关作品**
 社交网络- 互联网之子- 个资风暴：剑桥分析事件

**外部连结**
 www.thesocialdilemma.com- id=81254224- 11464826- id=m/the_social_dilemma