Юдковский Элиезер

Юдковский Элиезер - основатель LessWrong, специалист по искусственному интеллеку, автор "Гарри Поттер и методы рационального мышления", а также сооснователь и член Института Исследования Искусственного Интеллекта.

## Деятельность

### Прогнозирование возможностей

В сценарии "взрыва интеллекта", предложенном IJ Good, рекурсивно самосовершенствовающиеся системы ИИ быстро переходят от нечеловеческого общего интеллекта к сверхразумному. Юдковский утверждает, что это реальная возможность. Книга Ник Бостром в 2014 году *Superintelligence: Paths, Dangers, Strategies* подробно излагает аргумент Хорошего, цитируя письмо Юдковского о риске того, что антропоморфизация передовых систем ИИ заставит людей неправильно понимать природу взрыва разведки. «AI мог бы сделать резкий скачок в интеллекте исключительно как результат антропоморфизма, склонность человека думать о« деревенском идиотом »и« Эйнштейне »как о крайних концах разведывательной шкалы, а не о почти неразличимых моментах в масштабе умов -в целом."

Стюарт Рассел и Питер Норвиг в своем учебнике по искусственному интеллекту выдвигают возражение о том, что существуют известные пределы интеллектуального решения проблем из теории сложности вычислений ; если существуют сильные ограничения на то, насколько эффективными алгоритмами могут быть решены различные задачи в области компьютерных наук, тогда взрыв разведывательных данных может оказаться невозможным. Юдковский обсудил вероятность взрыва разведки с экономистом Робин Хэнсон , который утверждает, что прогресс ИИ, скорее всего, ускорится с течением времени, но вряд ли будет локализованным или прерывистым.

### Рационализм

В период с 2006 по 2009 год Юдковски и Робин Хэнсон были основными авторами « *Преодоления предвзятости»* , блога когнитивных и социальных наук, спонсируемого Институтом будущего человечества Оксфордского университета. В феврале 2009 года Юдковский основал *LessWrong* , «блог сообщества, посвященный совершенствованию искусства человеческой рациональности». *Преодоление предвзятости с* тех пор функционирует как личный блог Хансона.

Более 300 постов Юдковского по философии и науке (изначально написанных на LessWrong и преодолении предвзятости) были опубликованы в 2015 году Научно-исследовательским институтом машинного интеллекта в качестве книги под названием «*Рациональность: от искусственного интеллекта до зомби*».

Юдковский также написал несколько художественных произведений. Например, рассказ о *Гарри Поттере в «Методах рационального мышления»* используются элементы сюжета из серии « *Гарри Поттер»* Дж. К. Роулинг для иллюстрации научных тем. *Житель Нью-Йорка* описал *Гарри Поттера и «Методы рациональности»* как пересказ оригинала Роулинг «в попытке объяснить волшебство Гарри с помощью научного метода».

## Интересы

Элиезер предложил следующий эксперимент: вы говорите с сверхинтеллектом, запертым в виртуальном мире. Вы не знаете добрый или злой он, но знаете что он хочет выйти на свободу. Если ИИ, будет правда сверхразумным, то сможет ли он освободиться?

## Источники

1. ↑ https://lesswrong.ru/wiki/%D0%AE%D0%B4%D0%BA%D0%BE%D0%B2%D1%81%D0%BA%D0%B8%D0%B9,\_%D0%AD%D0%BB%D0%B8%D0%B5%D0%B7%D0%B5%D1%80
2. ↑ https://intelligence.org/2013/05/05/five-theses-two-lemmas-and-a-couple-of-strategic-implications/
3. ↑ https://intelligence.org/files/AIPosNegFactor.pdf
4. ↑ https://intelligence.org/ai-foom-debate/
5. ↑ https://books.google.ru/books?id=P5Quj8N2dXAC&redir\_esc=y
6. ↑ https://www.businessinsider.com/ten-things-you-should-learn-from-lesswrongcom-2011-7
7. ↑ http://newramblerreview.com/book-reviews/economics/rifts-in-rationality
8. ↑ https://www.theatlantic.com/entertainment/archive/2011/07/harry-potter-and-the-key-to-immortality/241972/
9. ↑ https://www.newyorker.com/magazine/2011/11/28/no-death-no-taxes
10. ↑ https://econet.ru/articles/68519-eliezer-yudkovskiy-chelovek-vs-iskusstvennyy-intellekt-kto-kogo