So that when we begin to grapple with the ideas of artificial intelligence in the future, we shouldn't only be asking ourselves, "Can we build it?" But we should also be asking ourselves, "What idea of the human do we want to have reflected back to us?" This is an essentially philosophical idea, and it's one that can't be answered with software alone, but I think requires a moment of species-wide, existential reflection.
Поэтому, когда мы начинём вкладывать ресурсы в создание искусственного интеллекта в будущем, мы не должны спрашивать себя лишь о том, сможем ли мы его создать. Мы также должны задать себе вопрос: « Какое понятие о человеке мы хотели бы получить от компьютера в ответ? » Это по своей сути философская мысль, ответить на которую невозможно только с помощью программного обеспечения, и которая, на мой взгляд, требует многогранного, осмысленного подхода.