问题：﻿科学技术和科技公司的发展，与社会产生了哪些矛盾？未来将如何解决？ 本提问为「知乎 2018『互联网洞见者』」十个提问的第十问，由知乎创始人 & CEO 周源提出（ 知乎 ID：周源 ）。更多详细信息，请点击进…
话题：﻿技术、科技、社会、科技公司、科学
回答：﻿我认为科学技术和科技公司与社会最大的矛盾，在于技术的发展和应用带来的便捷性与社会安全的矛盾。IoT(InternetofThings)，即物联网的概念大约在20年前被提出。近十年以来，随着科学技术的提高，有着极其迅猛的发展。IoT设备的发展趋势根据估计，到2020年，全球联网的设备可能可以达到500亿台，远超人类的数量。也就是说，平均每个人有5台以上的设备是联网的。物联网给人们带来了非常大的便捷，我们可以利用云端的服务器让身边的各种设备变得智能，但是同时也给社会带来了极大的挑战。随着越来越多的设备连入互联网，我们发现，开始有相当一部分可以「杀人」的武器，被连入了互联网，比如汽车。一个连入互联网的汽车意味着，在这个世界上任何一个角落有互联网的人，都有控制你汽车的潜在可能。你可能认为我是危言耸听，或者杞人忧天，但是这件事已经发生了。在2015年，一个两个人的团队花了几个月的时间，成功地「远程」hack掉了一辆正在高速上行进的JeepCherokee。他们在和汽车没有任何近距离接触的情况下，通过互联网，突破了收音机系统，然后取得了车辆的控制权。他们可以控制空调，雨刷器，收音机，令油门失效，控制刹车。令人担忧的是，正在路上开着的有相同Vulnerability的车，有140万辆（AfterJeepHack,ChryslerRecalls1.4MVehiclesforBugFix）。140万辆有软件问题的车，可以在短时间内用同一个手段被黑客攻破，没有任何预警，来不及修复，几乎同时踩死刹车，试问这个操作会死多少人？总有人狡辩说，每个技术出现都是带着争议的，每个技术出现的时候，也都有其安全性的担忧，但是现在大家不活得好好的么？可事实上，有史以来，从未有过壁垒如此低，影响面积如此大，杀伤力如此强的技术。菜刀可以拿来杀人，没错，但是一个人拿着一把菜刀能杀多少人？上一个杀伤力如此强的技术大约是原子弹，而人们对其杀伤力的担忧不幸地成为了现实。广岛、长崎两颗原子弹，一共杀死了超过30万的人。在此之后，想要成为世界强国，手里就得有原子弹。美苏军备冷战，第三世界国家倾全国之力开发核技术，从中国到伊朗到朝鲜，有了原子弹就有了发言权。而在那之后随着各国势力的相互制衡，再未有过大规模的核战争。可是原子弹的技术壁垒多高？原子弹是两个程序员拿着10w美金的经费就能做出来的么？或者说，如果原子弹这个东西，两个程序员拿着10w美金可以做出来，你害怕么？这并不是一个孤例，在此之前、之后，都有若干汽车被或多或少地以各种形式攻破。而随着所有的汽车大规模连入互联网，以及被众多车企和用户看作重中之重的「自动驾驶」技术的引入，你们认为这样的事情是会更容易发生，还是更难呢？而车企们面对这个令人极其毛骨悚然的问题，是如何回复的呢？「我们已经把这个问题修复了。」很好，你们的解决方案就是把已经发现的问题修好。这也不能怪车企，因为这就是现在互联网公司的现状。「Movefastandbreakthings」，这是Facebook曾经的motto，在2014年他们发现这motto不怎么靠谱，于是改掉了，但这个思路依然被很多互联网公司奉若圭臬。在那个时代，比的是谁先出新feature，谁先占领市场，谁先吸引客户。东西有问题？无所谓，后面慢慢修就好了，先ship了再说。于是我们判断安全的标准，成为了这公司多久可以出补丁。一个bug出来，公司立刻发了补丁，我们说，啊这公司好注重安全。我们说「你要购买正版操作系统，并且及时做系统更新」，这样就可以做到「安全」。有没有人意识到，在你说这些话，做这些事的同时，你已经默认了，「我这个系统是不安全的，而且永远不可能安全」？一个真正安全的系统，是不需要补丁的。一个需要补丁的系统，就是不安全的。但是很多互联网公司，是可以接受不安全的系统的。对于他们来说，新的feature比系统的安全性和稳定性重要的多。Facebook挂了有啥了不起的？刷新一下就得了呗。Youtube40分钟用不了怎么办？在Twitter上抱怨一下咯。银行信息被盗取，信用卡信息都暴露给黑客了？没事，我给你发张新卡。这些公司可以接受自己的系统不安全，事实上他们的系统也确实是不安全的。可是所有的公司都可以这样么？飞机操作系统忽然蓝屏了怎么办？没事重启一下。汽车刹车忽然不好使了怎么办？没事过两天就修复了。烤面包机在家里没人的时候忽然开始满负荷工作然后把房子点了怎么办？没事我再盖一个嘛。什么？卧室里还有个刚出生的小baby？没事我还可以生个新的。GE最近出了一款联网的炉子，你可以提前放好配料，然后在下班之前远程控制它开始做饭，然后到家就能吃了。没错，一款自带无限天然气供给，外加一个内置点火系统的炉子，远程操控。事实就是，没有什么公司在意客户的安全，他们只在乎客户是不是爽，以及是否认为他们安全。有个网站，叫NationalVulnerabilityDatabase（https://nvd.nist.gov/），这个网站是美国DepartmentofHomelandSecurity在维护的一个各种系统已知Vulnerability的网站。上面可以搜索各种系统的问题。你们知道从1994年到现在，有多少和linuxkernel相关的Vulnerability么？3500+。Windows？2900+。MacOSX?4100+。今天有人请你坐一艘船去出海，然后告诉你，这艘船上我们发现了3000个洞，但是已经都被堵上了。你敢去么？你心得多大，才会相信这艘已经被发现了3000个洞的船上，没别的洞了？很不幸的是，正是这些系统，被广泛地应用于和我们生命息息相关的设备上。正是开发这些系统的人，设计开发可以杀死我们设备的方法，并号召大家付诸实践。更不幸的是，当下社会的程序员已经被洗脑到「不相信世界上有绝对安全的系统」，「如果Google做不出来，那世界上就没人能做出来」。于是乎演化出了一个理论「吃饭会噎死，喝水会呛死，走在路上会被花盆砸死，难道你就不吃不喝不走路了？所以这些可以把我们杀了的设备不安全是无所谓的」。真是滑天下之大稽。你走在路上会被花盆砸死，和在地球的另一端有个随时可以控制花盆砸你的人，能一样么？不去区分偶然和必然，不去思考个别和普遍，捂住耳朵偷铃铛，把脑袋埋在沙子里面装看不见。然而世界上有一群人，在用一种完全不同的方式写程序、做产品，就是做飞机的。飞机使用的操作系统需要经过最严苛的筛选，而飞机的控制系统代码也要做最全面的测试。不光如此，波音的工程师想要知道机翼的最大承重，怎么办？他们造出来一架完整的可以卖的飞机，然后在机翼上加重量，直到把机翼掰折。而用在波音787，空客A380，以及各种F系列战斗机的操作系统INTEGRITY，从用的那天开始，就没更新过任何什么补丁。当然了，即便想修改其中任何一行代码，都要经历极其繁复的手续，做大量的证明和测试，才能被批准。GreenHillsSoftware在给INTEGRITY做证明和测试的时候每行代码平均花了多少钱？几百美金。而自打软件控制的飞机上天以来，没有一起飞行事故，经过调查是由于软件失灵导致的。每天全球有多少个航班？10w+。前两天有个之前在Tesla实习的小朋友来我们公司面试，我们CEO问他在Tesla做什么，他说做Gateway。如果有对Tesla了解的，Gateway是Tesla汽车里负责安全的那个部分，专门负责分拣信息啥的。CEO说那你每次上传代码的时候，都有人检查么？他说「Sometimes」。是的，一个实习生，上传Tesla里最核心安全部件的代码，有时候有人检查一下他的code。回归主题，我不想这个答案变成一个GreenHills的宣传文，因为这个矛盾是大于一个公司的。每一个有社会责任感的公司，都应该意识到这件事，都应该意识到现在有可以杀人的设备被连到了互联网，都应该意识到这些设备并不安全，都应该意识到整个社会都不安全。而不是自己做鸵鸟，哄骗着客户做鸵鸟，只为了发大财赚大钱。未来如何解决这个问题？我想第一步我已经说了，是觉醒。只有发现这个问题，才可能解决这个问题。这个问题不会自己消失，只会越来越大，如果有一天爆发，将会造成很可怕的影响。这和病一样，越早治疗，对身体越好。不看医生不体检，不代表你就健康了。那第二步，大概是学习。了解这些杀人工具的开发和娱乐软件的开发有什么不同，学习正确的开发「安全」系统的方法，不再去「Movefastandbreakthings」，学习怎么写一个没有问题的系统。没有人可以一直写没有bug的代码，没错。但是我们可以从系统上控制代码的影响，让那些可能有问题的代码不影响到我的核心功能。第三步，就是实践。这个事情，说起来容易，做起来难。一旦你学习了「正确」的对杀人工具编程的方式，你会发现这个方式很令人讨厌。你会花更多的钱，更多的时间，带来一个性能上更差的产品，而这一切的牺牲只是为了这个产品变得安全。更令人苦恼的是，世界上所有开发的比你便宜比你快比你性能高的产品，都号称他们是安全的。而安全这个事，在出事之前，是谁都可以说的。哪怕在出事之后，只要修复了出的那个问题，就可以再说自己是安全的了。因此，恐怕要想一切向钱看的企业们做出这种牺牲，就需要社会和法律的共同配合。社会上我们要尽量让每一个人知道，这东西联网可能会不安全，就像知道这东西联网会很方便一样。如果我们自己都不在意自己的安危，就没有一个企业会在意。法律上，要有相应的规章制度，要去强制这些制造杀人工具的企业去遵循一些「正确」的方法。飞机的软件就有DO-178的各种规定，当然现在汽车也有ASIL。可是这恐怕还远远不够。想来也是，既然是矛盾，就必然存在取舍，存在博弈。而对于这个矛盾而言，利益都在明处，钱，便捷性，科技感；而风险都在暗处，安全性，未来可能的丑闻，潜在的生命威胁。无论是企业还是用户，都更容易看到明处的利益，而忽视了暗处的风险。只希望社会不需要一场场灾难才看清这些风险，不要有了911才加强机场的安检。如果真的出大事，恐怕是一场比911大得多的灾难吧。