科技行者 11月20日 北京消息(文/高飞): 很多科幻小说作家的想象,最终在现实世界中得到了应验。
大师级科幻小说作家阿西莫夫有过一个思考,对于AI驱动的机器人,除了应该不断提升机器本身的智力水平之外,让其更好用之外,在其和人类打交道的时候,还需要一个更宏观的,在技术至上的指导原则。他在短篇小说集《我,机器人》中写了这样一组规则,称为“机器人三定律”:
1. 机器人不得伤害人类,或者不得置人类于危难中;
2. 机器人必须服从人类的命令,除非与第一定律冲突;
3. 机器人可以在不与第一、第二定律冲突情况下维护自身存在。
1985年,阿西莫夫又出版了《机器人与帝国》,在书中他将三大法则扩张为四大法则,增加了第零法则:机器人不得伤害整体人类,或坐视整体人类受到伤害,构成更加完整的机器人四定律。
虽然机器人三定律、四定律在很多有关于人工智能的电影和文学作品中屡屡出现,但也一直停留在想象阶段,并没有被实际应用过。一方面的原因,是在很长一段时间里,机器的智力水平还没有高到能和人类社会日常生活的息息相关;另外一个原因,则是由于阿西莫夫的原则只是简单的语言符号,并未构成严密的逻辑闭环。
但这并不妨碍阿西莫夫的思考成为一种新学科“机械伦理学”的基础,一门以人类为中心,关于机器人的建造和使用的学科,其核心就是如何安全的应用智能机器。
自动驾驶,数据是基石,但并不是全部
而Mobileye公司,正在试图在自动驾驶领域,书写堪比机器人三定律,甚至更精确的规则。
这个月的月初,至顶网(赛博故事母平台)拜访了