The concern is really that we will build machines that are so much more competent than we are that the slightest divergence between their goals and our own could destroy us.
Беспокоит на самом деле то, что мы создаём устройства, которые настолько нас превосходят, что малейшее расхождение между их целями и нашими может нас уничтожить.