问题：﻿科学技术和科技公司的发展，与社会产生了哪些矛盾？未来将如何解决？ 本提问为「知乎 2018『互联网洞见者』」十个提问的第十问，由知乎创始人 & CEO 周源提出（ 知乎 ID：周源 ）。更多详细信息，请点击进…
话题：﻿技术、科技、社会、科技公司、科学
回答：﻿感谢@周源提出这个问题，一个好的问题是回归思考的良机。在我们谈论科技与社会的时候，自人类伊始，科技仿佛一直是社会进步的不竭动力，从车轮火炬到科技革命，社会生产力和人类文明以库茨维尔定理（TheLawofAcceleratedReturn）呈指数进步。回望人类的科技成就，我们往往会感到不可思议——60年前人类登上月球；120年前卡尔本茨发明汽车，7年后莱特兄弟完成首次飞行；而再倒推120年，工业用蒸汽机才刚刚诞生；在此之前，是两千年之长的铁器文明，三千年属于神祗和青铜的岁月，五千年没有文字的新石器和长达二百万年的旧石器时代……愈发迅猛的技术爆炸，让人类的发展不再依赖于进化。图1人类科技的加速发展[1]而当暂时摆脱战争和饥饿，站在21世纪的今天回望过去，我们似乎有充分的理由成为一个技术主义者，仿佛可以坚信——科技真的能够解决一切问题[2]。诚然，以亿万年的宏观视角从宇宙来看人类，「星辰大海」无疑是最崇高的追求；然而，恪守书斋的大哲学家也曾经说过——世界上只有两样东西是值得深深景仰的，一个是我们头上的灿烂星空，另一个是我们内心的崇高道德法则。[3]图2伊曼努尔·康德（1724-1804），启蒙时代著名德意志哲学家[4]正如问题中，尽管所述科技在社会发展中扮演了积极的角色，但科技与社会之间也并非没有矛盾。这源于社会的视角永远是带有时代烙印的人类，而不是星瀚宇宙。当特定时代背景下的人审视科技进步，他的思考不可避免地带着所属的时代色彩和道德忧虑——因为，前沿科技往往走在法律之前，而科技又如武功并无正邪之分，唯有使用它的人才有善恶之别。绝对的理性会孕育纯粹的科技，也会催生社会的癫狂，在社会崩裂的世界大战中，生化武器的人体实验就是科技滥用的结果，是令人类蒙羞的历史。因而约束科技的「不滥用」就更需要法律之外的伦理限制，这里绕不开的是科技工作者的根本素养——科技伦理（Ethicsoftechnology）。科技伦理「科技伦理」是一个在国内还相对为陌生的名词，但在国外的工程学课堂上却是一门必修课。科技伦理是科技工作者及其共同体所应恪守的价值观念、社会责任与行为规范。它聚焦于人和企业与技术、工程、环境、生命之间的道德问题。尽管我们沉迷于科技爆炸的宏伟遐思，但科技伦理恰恰在不断反思——科学技术的发展，是否会把人类社会引向深渊。譬如今天的我们，或者说从1965年I.J.Good提出智能爆炸[5]开始，半个世纪以来的人类，一直在思考着「人工智能」的「科技伦理」命题，科幻作家弗诺·文奇在1982年提出了技术奇点，文奇认为——超越人类智能的计算器将在50年之内问世，这次变化好比200万年以前人类的出现一样重大。——弗诺·文奇《技术奇点即将来临：后人类时代生存指南》，1982[6]科学家和哲学家们反复思索技术奇点与强人工智能的来临，对人类而言意味着什么。数字计算机之父冯·诺依曼和数学家StanislawUlam在对话中思考强人工智能诞生后人类社会可能的形态，认为我们所熟知的人类的社会、艺术和生活模式，都将不复存在[7]，现在的人类难以理解未来，就好比金鱼无法理解人类；伟大的艾萨克·阿西莫夫在《基地与地球》中用隐讳的笔法暗示道：人类的历史使命可能就是为了将文明发展到技术奇点、为宇宙带来强人工智能[8]。于是我们不免发问：如果科技向着失控的方向蒙眼狂奔，人类又是否应该按下暂停键？图3伊萨克·阿西莫夫（1920-1992），20世纪最有影响力的科幻作家之一[9]阿西莫夫早在1942年尝试给出了他的答案，并至今被奉为圭臬，这就是著名的机器人三定律（ThreeLawsofRobotics）[10]，而三定律实际上是在做一件事——「为人工智能设计伦理」：机器人三定律：一机器人不得伤害人类，或因不作为使人类受到伤害。二除非违背第一定律，机器人必须服从人类的命令。三除非违背第一及第二定律，机器人必须保护自己。……尽管三定律看起来已足够保护人类，但对于强人工智能社会而言，这样的定律又带有了浓厚的碳基社会色彩，将人类完全凌驾于同样智慧的机器人之上，似乎未必会符合技术奇点之后的社会伦理。因而一些人工智能研究者以为不足一哂，并将其戏称为「基质沙文主义」[11]。当然，这毕竟是后话了。在现代，科技伦理仍以人类为核心，尊重人类是科技应用的前提。但事实上，尊重却常常被罔顾，跨越伦理的界线催生了众多科技与社会的矛盾。以汽车行业为例，不少实际发生在我们身边的案例，与我们的生活息息相关。在共享出行提升公民的交通便捷与生活质量的时候，网约车公司出现的「网约车同程不同价」用「大数据杀熟」，让太多网约车用户感到寒心。当大数据分析与深度学习技术用于赤裸裸地建立价格歧视，用户的愤怒在所难免，不免追问：企业的责任心何在，技术的边界又何在？当尊重失位，科技引发的矛盾暴露无遗。又如2008-2015年排放作弊车辆在北美造成的环境污染。据一项发表于EnvironmentalResearchLetters的研究测算结果认为，2008年至2015年间的作弊车辆造成的过度排放导致了人类死亡[12]。图4尾气测试作弊造成的过度氮氧化物排放测算，2008-2015为实际过度排放值，2015-2040是已销售作弊车辆在未来可能造成的影响，阴影表示预测的上下限[12]这些案例将持续对未来产生影响，也仍将为科技工作者和企业长鸣警钟。而在今天，科技与社会的矛盾仍然不鲜：科技发展有时「超过」社会需求——互联网和智能手机带来的过度便利所引发的「隐私悖论」成为了悬在人类社会头顶的新兴的达摩克利斯之剑；科技有时又会「落后」社会需求——在有的地方，人们还并未享受到科技带来的便利。隐私悖论与技术便利互联网和智能手机的普及，为全世界带来了从未有过的便利和舒适，「个性化推送」「个性化定制」无处不在。「智能化」与「大数据」渗透进了社会的方方面面，智能手机在带来便利的同时，让隐私的界限愈发模糊。但我们正处于大数据的蛮荒地带，在这个模糊地带里，大量企业将伦理抛之脑后、放肆窃取贩卖用户数据的现象，早已不鲜见。在数据储存公司EMC发起的针对15个国家1.5万名消费者的调查中发现[13]，当面对「你愿意以牺牲一些隐私为代价，换取更多便利与舒适吗？」的问题时，51%受访者表示不愿意，而27%表示愿意；这一结果在各国又有所不同，受访国家中，印度愿意比例最高为48%，德国愿意比例最低为12%。这意味着绝大部分人其实并不想违背自己意愿牺牲隐私来换取「过度的」智能化便利。图5EMC调查发现大部分用户实际并不愿意牺牲隐私来换取过度的便利，这在不同地区意愿各不相同[14]智能手机和移动互联网技术本身并不构成对人类的威胁，只有企业思考清楚自己的责任所在，以科技伦理作为底线，克制地使用科技顺应并引领社会需求：为用户提供便利、避免用户隐私陷入不可控的风险，才能有效缓解社会与科技之间的矛盾。而究其核心，仍然是对用户尊重，这时候，科技应该慢一点，听一听社会的声音。关于这一行业的科技伦理话题，太多的负面案例可能不需要再进行枚举，这里倒是可以说一个值得参照的企业案例——苹果的差分隐私技术（DifferentialPrivacy,DP）苹果手机对用户信息的处理逻辑是：在手机端完成对用户照片和信息的数据分析，将分析结果上传云端，而不是直接上传照片。在2016年之前，这一偏向用户隐私的策略，使苹果在人工智能与深度学习技术一度落后于谷歌和Facebook。而利用2016年公开的差分隐私技术，苹果的坚持获得了回报。在DP技术下，苹果可以在对已加密的用户数据进行分析，获得用户群体的行为模式为用户提供便利，但用户个体的隐私数据仍然是无法解析的。（详见：苹果的DifferentialPrivacy差分隐私技术是什么原理？）图6通过对一群人的分析，完成对某一用户群体emoji表情的建议[15]然而，尽管人们受困于智能手机和移动网络造成的「过度便利」，在有些地方，科技却应该更加快一点，尊重并满足社会的需求，就比如——汽车。汽车作为制造业的明珠，在信息时代到来之后，已经有一阵子没有再成为大众眼中前沿科技的弄潮儿了。而随着智能化浪潮的兴起，人们在车上对社交与便利的需求也愈发高涨，大部分车企开发的车载多媒体系统（车机）都采用了保守的社交方案，在汽车驾驶时停用社交功能；而部分车机则较为激进，直接将手机端的功能移植过来，虽然人们已离不开社交，但回复信息所分散的注意力将极大地影响驾驶的安全性，就如某些APP接入车载系统的新闻便引起了对行车安全的大规模讨论：为驾驶员提供社交便利，是否会影响驾驶安全，又是否是技术的滥用[16]。显然，人们需要更加智能化的车机在保障驾驶安全的同时，提供生活的便利。在汽车领域，这里也有一个正面的案例——福特联合斑马的车机系统设计（AliOS）作为首批合作阿里斑马系统的外资品牌，百年企业福特汽车尝试在新翼虎上向用户开放社交的便利，但并没有鲁莽而生硬地移植社交软件，福特的设计非常审慎：考虑了独特的汽车社交场景——「车友」，车友之间可以通过语音建立车队、建立车友地图、使用系统直接进行语音对讲。车友出行不再需要另外准备对讲机。而说到语音交互，翼虎的车机交互充分基于语音设计，避免驾驶员分散注意力、误操作，保障了安全：不仅包括了常见的基础语音功能，还包括了能够识别主副驾驶的定向语音、语音操作车内多媒体/空调/地图/电话/内循环等多项功能、甚至还可以通过语音和车机一起玩成语接龙、听歌猜歌名。图7福特翼虎AliOS的各项语音功能（左边是语音指令列表；右侧是语音互动游戏）此外，旅行路书、美食地图、卡拉OK、车载钱包、智慧停车和智慧加油等功能极大地便捷了用户的使用，让用户不再需要一边开车一边查手机。而这些功能也是可以使用语音进行操作的。AliOS让用户避免了开车过程中对手机的依赖，并用科技手段在提供便利的同时，保证了安全。图8福特翼虎AliOS的旅行路书与美食地图未来何去何从科技持续发展，社会观念同样在不断变革，这将不断地催生新的矛盾和新的科技伦理问题。那么如何解决矛盾？对用户尊重与对科技应用的克制，无疑是负责任的企业应该做到的方向。MIT数字商业中心研究员MichaelSchrage在哈佛商业评论上发表的一篇题为《大数据歧视的危险新时代》一文中写到：未来大数据的挑战并不在于技术，而是在于管理层的管理与分析路径，能否做到相对透明且显著公平。[17]相应地，微软的CEO纳德拉在2018Build大会上谈论了智能化技术背后的三大原则——隐私、责任和道德。[18]值得一提的是，说到尊重用户、从用户的角度出发，又要说到上一节中两个案例之一的福特公司。福特是曾引领世界技术变革的美国企业——她被纽约时报记者BillVlasic称作底特律皇室[19]。在刚刚过去的十月里，福特选择了深耕中国、以本土用户为主的战略。一方面福特将中国市场地位上升到与北美市场平行的位置；另一方面，联盟斑马网络，成为了第一批应用AliOS的跨国车企，将携手推出新一代福特翼虎。阿里与福特的强强联手，将便利推进一大步的同时，以信息安全作为底线，核心仍然是尊重用户的意愿。图9「停车爱看远山岚」[20]图10「直指边城虎翼飞」[20]最后，我想解决科技与社会矛盾的关键在于掌握好技术的双刃剑。而掌剑的剑诀——科技伦理，也并非一成不变，它随着社会的进步时时刻刻要经历新的争议与讨论。而在今天科技时而被滥用，我企盼还有难得的、负责任的科技从业者的责任与良心，值得我们去期待明天。参考文献及资料来源：[1]MartinHilbert,UniversityofCalifornia,DigitalTechnology&SocialChange[2]刘慈欣在2007年中国国际科幻大会上的发言[3]康德,公武,蓝.纯粹理性批判[M].商务印书馆,1960.[4]伊曼努尔·康德画像[5]I.J.Good-Wikipedia[6]VingeV.Thecomingtechnologicalsingularity[J].WholeEarthReview,1993,81:88-95.[7]Ulam,Stanislaw(May1958),"TributetoJohnvonNeumann",BulletinoftheAmericanMathematicalSociety64（nr3,part2）:1-49[8]AsimovI.FoundationandEarth,1986;tr.it[J].FondazioneeTerra,1987.[9]伊萨克·阿西莫夫画像[10]AsimovI.I,robot[M].Spectra,2004.[11]WhyAsimov'sThreeLawsOfRoboticsCan'tProtectUs[12]BarrettSRH,SpethRL,EasthamSD,etal.ImpactoftheVolkswagenemissionscontroldefeatdeviceonUSpublichealth[J].EnvironmentalResearchLetters,2015,10(11):114005.[13]隐私悖论和大数据的挑战[14]EMC，Majorityexpectsprivacytoerodeinyearsahead|ZDNet[15]AcloserlookatDifferentialPrivacyiniOS10andmacOSSierra[16]车载大屏幕能用微信了？[17]SchrageM.BigData’sdangerousneweraofdiscrimination[J].HarvardBusinessReview,2014.[18]SatyaNadella:Build2018-Stories[19]VlasicB.OnceUponaCar:TheFallandResurrectionofAmerica'sBigThreeAutoMakers--GM,Ford,andChrysler[M].WilliamMorrow,2011.[20]福特官网