Well, I don't really know what wrong is, but I know that I don't want to do it. "So that's the first and second principles right there." So I should let the human switch me off. "And in fact you can calculate the incentive that the robot has to allow the human to switch it off, and it's directly tied to the degree of uncertainty about the underlying objective.
Я точно не знаю, что правильно, а что нет, но я точно знаю, что не хочу ошибаться ». Здесь действуют первые два правила. « Следовательно, я должен разрешить людям отключить меня ». Фактически вы можете просчитать стимул, благодаря которому робот позволит людям отключить себя, и этот стимул тесно связан с неопределённостью поставленной цели.