问题：﻿科学技术和科技公司的发展，与社会产生了哪些矛盾？未来将如何解决？ 本提问为「知乎 2018『互联网洞见者』」十个提问的第十问，由知乎创始人 & CEO 周源提出（ 知乎 ID：周源 ）。更多详细信息，请点击进…
话题：﻿技术、科技、社会、科技公司、科学
回答：﻿科技伦理难题（Moraldilemmaofnewtechnology）。应该任由新型科技调整甚至主导我们的道德理念，还是在思想层面没有达标的前提下潜龙勿用，抑或在此间左右逢源呢？这是一个极其宏大的命题，我们不妨先收窄视角，从自动驾驶这个方向切入。让我们试想一下下面的这幅场景（视频来自https://www.youtube.com/watch?v=ixIoDYVfKA0）：在智能自驾（AIpilot）的时代，马路上的一辆轿车被卷入了紧急状况之中：前方卡车上重物不可避免地坠下，而此时车内人员面临的情况是：刹车已经来不及阻止碰撞。这时候他们面临的抉择是：1）直线撞击重物；2）左拐撞击一辆SUV；3）右拐撞击一辆摩托；那么AI的选择是=“车内人员安全优先，撞击摩托并导致其驾驶员受伤甚或死亡”or“车外人员安全优先，直线撞击前方重物使车内人员受伤甚或死亡”or“权弊衡利，撞击安全系数更高的SUV”如果是手动挡驾驶，人们的决定是基于应激反应，而不是机关算尽的深思熟虑。人们应急的行为来源于恐惧的本能，而不是前瞻的洞见或者怀揣的恶意。但如果AI的核心算法是由编程人员基于未来可能的特定情况而输入的，那么这其中散发着蓄意的味道。正面来看，无人/自动驾驶汽车可以减少交通状况中的人为失误，从而达到大幅降低事故与伤亡率的目的。另外，无人驾驶的好处还有：交通便捷顺畅、降低有害物质排放、最小化低效且高压的驾驶时间。但事故仍然会发生，并且这样的结果可能在数月或者数年前程序编撰或者政策制定时就被埋下了。因此，程序员以及行政管理人员将面临选择的艰难境地。事实上，搭建机器选择的总体算法框架，例如最小化伤害，令人跃跃欲试，但即便如此也还是会引发触碰道德灰色地带的选择。举个栗子，让我们回到初始的设定，只不过这时左侧更换为一名佩戴头盔的摩托员，右侧则并没有佩戴。这时，这辆无人驾驶轿车将会选择如何碰撞？如果你选择碰撞佩戴头盔者，因为她生存的几率更高，那么客观上，你是否在惩罚一名守法的驾驶员呢？相反，如果你选择右侧那位并未佩戴头盔的摩托骑士，就是因为他违反规定，那么此选择已经远远偏离了最初的危害最小化设计原则，这个AI更接近于实施道路正义。于斯，伦理的考量将变得更加棘手。在两种情形下，潜在的设计法则是以某种靶向算法实施出来。换句话说，这种设计在实施撞击上系统化地好恶某一特定对象。而被选机车的驾驶员将会承受这种算法的负面结果，尽管他们并没有实然性错误。新型科技的出现会衍生出其他许多新式的伦理困境。比如，如果你必须在一辆以群体存活率最大化与一辆不计选择保全其驾驶员生命的智能汽车中选择，你会如何作？如果这些车辆开始自我分析并考量自身的驾驶员们的各种细节，又将会如何？这是否意味着一个随机的选择仍然优于最小化伤害导向的预定选择？最终又会是哪些人来制定这些选择？程序员、公司还是政府？先且不急，我们不妨看一则调查。无独有偶，最近《Nature》发布了一篇文章，题目叫做“TheMoralMachineexperiment”，获取地址：TheMoralMachineexperiment在这篇报告中，麻省理工学院、哈佛大学、英属哥伦比亚大学以及图卢兹大学的研究团队呕心沥血，驱动世界各地多达230万志愿者共思维演绎了4000万种有轨电车难题（https://people.howstuffworks.com/trolley-problem.htm）的自动驾驶版本情形，一份份决定生死大权的电子答案雪片般飞向终端电脑。a）道德机器参与者所属地区的全球覆盖图。每一个点代表这个区域至少有一人作过一个选择（n=3960万）；b）道德机器参与界面图。一辆自动驾驶机车突然刹车失灵，保持路线会导致正在闯红灯的三位老人（二男一女）死亡。变道则会导致车内三名乘客（成年男、成年女、小男孩）丧生。当自动驾驶车辆疾驰而向人行道上的行人时，你会选择变道还是撞向特定的人群？当然，变道的风险是可能撞向一块坚硬的路障，引发车内乘客伤亡。这些受害者们有不同的人数、不同的性别、不同的年龄以及其他不同的特征之分，他们时而可能是拄拐散步的老人，时而可能又会变为推着婴儿车的妇女，时而可能变成携带现金的窃贼，时而可能又是守规或者违规的人行道路人。甚至，小猫小狗也放入了选项之中。与电车难题相比，这些情形不存在时间压力，所以你可以很充足地权衡两种选择。在统计学结果上，志愿者们都明显倾向于救人超过宠物、多人超过单人、孩童超过成年、守法行人超过乱穿马路者、衣冠楚楚的公务人员超过衣衫褴褛的乞讨人员。但同时，志愿者只会适度倾向于女性超过男性、行人超过乘客、体态轻匀的慢跑者超过大号体格的路人。司机们变道与保持路线的可能性相当。全球化倾向。a）每一行中，ΔP表示右侧行动的概率与左侧行动的概率差值。比如，对于年龄这个因子，放过年轻人的概率比放过老年人概率高出0.49；b）相比于一位成年男性或者女性，每个角色的相对优势与劣势。对于每个角色，ΔP表示放这个角色（单独出现）的概率与放过一位成年男性或者女性的概率差值。上面的这份统计中，考虑到样本的量级（n=3520万），95%的均值置信区间被省去。在上图b中，可以明显看到具有被拯救偏向的四个群体：婴儿、小男孩、小女孩以及孕妇。不仅如此，研究者们还考察了文化集群因素的影响，他们收集了130个国家与地区内平均超过100名回答者的数据，并根据主要的文化特征将这些地理区域划分为三块：西方国群（主要是北美与欧洲的大部分国家）、东方国群（中国、日本、韩国、印尼等亚洲国家）以及南方国群（中部与南部美洲地区）。偏好倾向如下图所示：a）以平均边际因果效应为基础的国别分层聚类。树状图中分支的三个不同颜色代表了三大国群：西方、东方和南方；b）三大国群就9种因子平均因果边际效应得分的雷达图从上图可以明显看到倾向区别，举个栗子，南方国群的国家居民们比其他两个国群在拯救倾向上明显地偏向妇女、年轻人、高社会地位人群，在人类vs宠物的人类拯救倾向上也明显弱于另外两个国群。东方国群的选择在拯救年轻人（vs老年人）的倾向上就十分弱化。西方国群的选择也在某些因子上具有明显倾向性，尽管他们会偏向选择拯救人类（vs宠物）、多数（vs少数），但是一旦被置于驾驶室中，保持直线撞击行人（preferenceforinaction）的倾向显然相对更高，也远高于其他两个国群。文章中还有其他解读，这里就不一一赘述。值得注意的是，这个思想实验并不是空中楼阁，非自驾版本的选择困境在2016年就兑现过：纽约州伊萨卡市的一个小山坡上，一名卡车司机因为刹车失灵而不得不在建筑工地与咖啡馆间做出抉择，驾驶员选择了后者，一名服务员因此丧生（SurveyPollstheWorld:ShouldaSelf-DrivingCarSavePassengers,orKidsintheRoad?）。回到主题针对这个自驾科技的道德伦理困境，TED频道的网友提供了下列建议：1）Comment：Allowselfdrivingvehiclestocommunicatewithoneanother.Thatway,insuchascenario,multiplevehiclescouldworkinunisontoallowasafepathwayoutforthecarindanger.Thiswould,ofcourse,requireveryrapidcommunicationbetweenthevehicles.Itwouldsignificantlylowerthechancesofthishappening,butnotpreventitineveryinstance.﻿达成自动驾驶机车间的信息交流。据此，在此类情况中，车群便可以协同作用为险迫车辆厘清一条安全通道。当然，这需要车群间迅驰的交流。此方案可以大幅降低困境出现的几率，但例例俱到是不可能的。2）Comment：Inaworldofselfdrivingcars,whyarepeoplestillridingmotorcycles?﻿Reply#1：Becausemotorcyclesarefun?Becauseforsomepeople,anexceptedamountofdangeristhrilling?Thesamereasonpeopleclimbmountainswithoutsafetygeartoday.Expectingeveryonetotakethesafestoptionorassumingthatforeveryonethesafestoptionisinherentlythebest,orworse,theonlyoptionisfoolishness.YOUFOOL!YOUFOOLISHFOOL!YOUFOOLHARDYFOOLISHFOOL!﻿问：在自动驾驶车辆的世界中，为啥人们还需要骑行摩托？回复#1：因为摩托骑行仍然有趣？因为对于某些人而言，刺激险中求？与现今人们不佩戴安全设备登山的原因一样。想要人人都采取最为安全的选项或者假设对于每个人而言最安全的选择总是最好的，或者更糟的，唯一的选项就是愚蠢。~~~~3）﻿Comment：Ipredictthatfuturecarswillcontinuallybemadestructurallystrongerandsaferforoccupantsduringacrashinsteadofhavingprogramstotellittoswerve.﻿我认为未来的汽车将会倾向于在结构上更加强力并且更能在撞击中保障乘客的安全，而不是去寻求制定如何拐弯的程序。其实，科技发展而衍生的伦理困境绝不仅仅是哲学家们的吊诡呓语、危言耸听，这把达摩克利斯之剑从信息时代伊始就以短息诈骗、人肉搜索等等形式假手，各位有识之士，如有感慨，不妨来一场未来主义的思维实验。Bonus：谈及科技与道德伦理的博弈，英剧《黑镜》可谓首屈一指。某集：《一千五百万的价值》大数据互联生活时代（看片、饮食、工作被统统捆绑）下，靠骑行赚取消费点数。上面左图的数字即为消费点数，需要倚靠右图里的疯狂骑行赚取，如果劳力不够，即点数低于临界值会被降阶为清洁员（图中黄衣）。男主第一次1500万消费点的乾坤一掷，只为梦中情人一展歌喉，然而纯洁的理想等到的却是充满虚伪和堕落的舞台。男主冲冠一怒为红颜，了断自我的绝望也被算计成“真情实露”的表演当科技变得可以计算所有，当数据强大到生活可以不用出圈，你的特点与模式可以被轻易提取，居民们可能会沦落成虚拟的符号与傀儡，被不法者玩弄鼓掌。某集：《你的全部历史》未来发展到可以在人体内内置芯片，随时提取记忆。现实中的快感已然沦为影像的背景，律师男主的多疑被记忆体无限放大，在一场歇斯底里的爆发过后，崩溃的妻子离去留下他一人孤寂的身影。注意上图男主手中的小型播放器。一边是回溯记忆的福利、一边是永恒伤痛的苦楚，作为有限记忆的常人自由是否更好呢？某集：《白熊》未来科技可以清洗记忆，大众是否支持对于犯下不可饶恕罪行的坏人实施记忆“永刑”？注意上图中太阳穴附近的电波装置某集：《终极玩家》VR技术的无限演绎，科技产品的人体试验，当真实与虚幻难分伯仲，当机器学习超越人类认知，我们又该如何选择？男主Cooper的记忆在不断被改写《黑镜》目前经典迭出，第五季将于今年12月份登陆，对于此类科技伦理困境有感的朋友们，不容错过。