Machine Intelligence Research Institute

**Исследовательский институт машинного интеллекта** (MIRI), ранее **Институт искусственного**

**интеллекта** (**SIAI**), является некоммерческой организацией, основанной в 2000 году Элиезером Юдковским, первоначально для ускорения развития искусственного интеллекта, но с 2005 года направленной на выявление и управление потенциальные риски для человечества, что будущие системы ИИ могут стать сверхразумными. В работе MIRI основное внимание уделяется дружественному подходу AI к проектированию систем и прогнозированию скорости разработки технологий.

## История

В 2000 году самоучка Элиезер Юдковский был вовлечен в группу Extropian и основал Институт сингулярности искусственного интеллекта при финансовой поддержке Брайана и Сабины Аткинс; Первоначальная цель института заключалась в ускорении развития искусственного интеллекта (ИИ). Юдковский начал беспокоиться о том, что системы ИИ, разработанные в будущем, могут стать сверхразумными и представлять угрозу для человечества, а в 2005 году институт перешел в Силиконовую долину и начал фокусироваться на способах выявления и управлять этими рисками; это было в то время, когда ученые в этой области были в основном безразличны к ним, но некоторые трансгумнисты выражали озабоченность.

Начиная с 2006 года Институт организовал саммит Singularity для обсуждения будущего ИИ, включая его риски, первоначально в сотрудничестве со Стэнфордским университетом и финансированием от Питера Тиля ; *Хроника Сан-Франциско* описала первую конференцию как «выездную зону залива для технологии, вдохновленной философией, называемой трансгуманизмом». В 2011 году его офисы были четырьмя квартирами в центре Беркли. В декабре 2012 года институт продал свое название, веб-домен и саммит Singularity для Университета Singularity, а в следующем месяце получил название «Исследовательский институт машинной разведки».

В 2014 и 2015 годах общественный и научный интерес к рискам ИИ рос; этот переход от того, что когда-то считалось «сумасшедшим» для основного направления, стимулировал дальнейшие пожертвования для финансирования исследований в MIRI и подобных организациях.

## Исследовательский подход

Подход MIRI к выявлению и управлению рисками ИИ во главе с Юдковским в основном касается того, как разрабатывать дружественный ИИ - как первоначальный дизайн систем ИИ и механизмов, обеспечивающих дружественность эволюционирующих систем ИИ.

Исследователи MIRI выступают за раннюю работу по обеспечению безопасности в качестве меры предосторожности, пока не стало слишком поздно. Однако исследователи МИРИ выразили скептицизм по поводу взглядов сторонников сингулярности, таких как Рэй Курцвейл, что суперинтеллигент«не за горами». MIRI профинансировала работу по прогнозированию с помощью инициативы AI Impacts, которая изучает исторические примеры прерывистых технологических изменений и разработала новые меры относительной вычислительной мощности человека и компьютерной техники.

## Источники

1. ↑ 1,0 1,1 https://futureoflife.org/2015/10/11/113/
2. ↑ 2,0 2,1 https://www.newyorker.com/magazine/2015/11/23/doomsday-invention-artificial-intelligence-nick-bostrom
3. ↑ 3,0 3,1 3,2 https://www.ft.com/content/abc942cc-5fb3-11e4-8c27-00144feabdc0
4. ↑ https://www.sfgate.com/business/article/Smarter-than-thou-Stanford-conference-ponders-2497190.php
5. ↑ https://www.sfgate.com/news/article/Public-meeting-will-re-examine-future-of-2504766.php
6. ↑ https://www.npr.org/2011/01/11/132840775/The-Singularity-Humanitys-Last-Invention
7. ↑ https://singularityu.org/2012/12/09/singularity-university-acquires-the-singularity-summit/
8. ↑ https://intelligence.org/2013/01/30/we-are-now-the-machine-intelligence-research-institute-miri/
9. ↑ Tegmark, Max (2017). *Life 3.0: Being Human in the Age of Artificial Intelligence*. United States: Knopf. ISBN 978-1-101-94659-6.
10. ↑ 10,0 10,1 https://www.theatlantic.com/technology/archive/2015/01/building-robots-with-better-morals-than-humans/385015/
11. ↑ Russell, Stuart; Norvig, Peter (2009). *Artificial Intelligence: A Modern Approach*. Prentice Hall. ISBN 978-0-13-604259-4.
12. ↑ https://www.ozy.com/fast-forward/the-21st-century-philosophers/65230
13. ↑ http://blogs.discovermagazine.com/lovesick-cyborg/2015/09/02/making-sure-ais-rapid-rise-is-no-surprise/