"Многообещающая технология может уничтожить человечество"

На конференции ЦИПР футуролог, автор книги "Последнее изобретение. Искусственный интеллект и конец человеческой эры" Джеймс Баррат рассказал корреспонденту "Денег" Светлане Рагимовой, каким образом технологии могут сделать наше будущее мрачным.

Какую из проблем, связанных с технологическим прогрессом, вы считаете главной?

— Главный вызов для технологической индустрии сегодня — необходимость научиться управлять технологиями. Мы должны создавать инновации, которые в будущем принесут нам и планете пользу, а не вред.

В цифровую эпоху нет недостатка в инновационных идеях и капитале, чтобы их подпитывать. Но мы недостаточно вкладываем умственных усилий в то, чтобы предвидеть негативные последствия стремительного развития продуктов. К примеру, компания Rethink Robotics создала робота по имени Baxter, который может своими "руками" производить множество операций, выполняемых сейчас на заводах людьми. Робот стоит всего $20 тыс., это годовая зарплата человека, работающего на заводе в США. Baxter готов трудиться за эти деньги три смены вместо одной, никогда не заболеет и не уйдет в декрет. Если бы наблюдался дефицит рабочих рук на заводах, робот был бы прекрасным решением. Но в реальности эта деятельность дает возможность выживать миллионам семей.

В то же время идет международная гонка по созданию автономных боевых роботов и дронов, в которой участвует 52 нации. Самые продвинутые роботы будут убивать автономно, без участия людей в принятии решений.

Создание Baxter и боевых автономных роботов может принести огромные прибыли корпорациям. Но нам нужно спросить себя: станут ли эти инновации вкладом в позитивное будущее? Если это не так, достаточно ли у нас ума и дисциплины, чтобы перефокусировать их разработку?

Что вы думаете об идее минимального гарантированного дохода? Суть ее в том, что гражданам не обязательно работать, чтобы выжить,— государство выдает им достойное пособие, и они могут заниматься только тем, что любят. Придумавшие это считают, что так люди станут счастливее...

— Минимальный гарантированный доход — привлекательная идея для развитых стран, но совершенно нереалистичная для неразвитых. В развитых странах выплата определенной суммы один раз в год — это решение, которое помогло бы уменьшить потери государства и бюрократическую волокиту, возникающие при выплате множества небольших сумм, как это происходит сейчас. Проблема в том, что идея не сработает, когда миллионы людей в ближайшее десятилетие лишатся работы из-за машин. Мы вступаем в эру масштабной безработицы и экономического сдвига, вызванных цифровой революцией и подъемом искусственного интеллекта (ИИ), робототехники, автоматизации. Согласно исследованию MIT (Массачусетский технологический институт.— "Деньги"), в ближайшие 20 лет половина рабочих мест будет автоматизирована. Только в США беспилотные автомобили отберут работу у пяти миллионов профессиональных водителей. Семь миллионов клерков, отвечающих за ввод данных, и сотрудников бэкофиса тоже вскоре потеряют работу. ИИ глубоко внедрится и в другие профессиональные сферы — бухгалтерию, журналистику, медицину, юриспруденцию.

Почему минимальный гарантированный доход — плохая идея, если речь идет об относительно крупных масштабах? Потому что деньги на выплаты придется изымать в виде налогов у корпораций вроде Apple и Google, которые зарабатывают на цифровой революции. Но эти компании и им подобные очень талантливы в уходе от налогов. Если коротко, они зарабатывают в странах с высокими налогами, но показывают свою прибыль там, где налоги низкие или вообще отсутствуют, как в Ирландии.

Второе ложное суждение, которое лежит в основе идеи минимального гарантированного дохода,— то, что работники, обладающие определенными профессиональными навыками, будут вполне нормально себя чувствовать, даже если у них нет осмысленной работы. Конечно, некоторые предпочтут быть безработными. Другие будут более продуктивно использовать "субсидированный" образ жизни. Но большая часть работников — "синие" и "белые воротнички" — обретают ощущение осмысленности жизни и собственной значимости через успехи в работе, за которую получают деньги. В автоматизированном мире у них этой возможности не будет. Отберите рабочие места, доход — получите нестабильную массу несчастных граждан.

Надеюсь, корпорации извлекли урок из истории Генри Форда, инноватора, который привнес метод конвейерной сборки в автомобильное производство. Он понял, что его компания разорится, если его собственные заводские рабочие не смогут позволить себе покупать машины, которые собирают. Создатели продуктов, получающие преимущество благодаря цифровой революции, должны спросить себя: кто будет покупать их продукцию, если работа будет лишь у небольшого количества людей?

С точки зрения потребителя технологии развиваются невероятно быстро. Но для специалистов очевидно, что будущее наступать не слишком торопится. То, что было изобретено 20-30 лет назад, находит реальное применение лишь сейчас. Хороший пример — экспертные системы, которые только начинают использоваться в бизнесе. В медицине каждый день делаются фантастические открытия, но в практику их внедрят минимум лет через двадцать. Слишком рано говорить о сингулярности, не так ли?

— Применение экспертных систем (сейчас это такая же "античная" идея, как фондю) было ограничено недостаточным количеством данных, низкой процессорной скоростью и техниками программирования. Сейчас уже нет этих барьеров для технологий глубокого машинного обучения и подкрепленного обучения (reinforcement learning). Пришло время для этих инноваций. AlphaGo, программа компании DeepMind, которая одержала победу над чемпионом мира по игре го в четырех из пяти партий, использовала обе эти техники.

IBM Watson (компания поместила бренд в название наиболее интересного своего приобретения) — это модель для нового типа экспертных систем для юриспруденции, медицины, фармакологических исследований, бизнес-аналитики и т. д. Watson и технология, которая лежит в основе AlfaGo,— это лишь начало. Думаю, мы увидим теперь экспоненциальное развитие таких систем и такой же рост их применения.

Стоит ли ждать технологической сингулярности (имеется в виду создание машин, которые умнее людей) в ближайшее время? Думаю, имеет смысл говорить о ближайших двух десятилетиях. Подумайте вот о чем. Мы создали машины, которые обыгрывают нас в го и шахматы, лучше нас в навигации, в доказательстве теорем, распознавании объектов, в диагностике рака и многом другом. Мы создали виртуальных физиков, которые руководят исследованиями в лабораториях. Не так давно мы создали машины, которые лучше нас в исследовании и разработке искусственного интеллекта. В дальнейшем именно машины, а не мы, люди, определят скорость развития ИИ.

Можно посмотреть на это и с другой стороны. Десятки корпораций и различные государства вливают миллиарды долларов в создание машин с человеческим уровнем интеллекта. Google, IBM, Baidu — лишь некоторые из тех, кто открыто стремится к этой цели. Согласно данным McKinsley, инвестиции в искусственный интеллект и робототехнику достигнут $10-20 трлн к 2025 году.

Если сейчас и кажется, что будущее наступает медленно, уверяю вас, это ощущение скоро изменится.

Как, на ваш взгляд, меняются люди как биологический вид? Мы прогрессируем или наоборот? Куда ведут нас новейшие технологии?

— В своих наиболее совершенных проявлениях продукты цифровой революции, такие как интернет, робототехника, автоматизация, объединяют нас, а не разделяют, они не способствуют регрессу.

Наука об ИИ требует наиболее глубокого погружения во внутреннюю жизнь человека, так как затрагивает психологию, логическое мышление, восприятие, неврологию и даже этику. То есть речь идет о способностях и идеях, которые делают нас теми, кем мы являемся. Мы должны получить пользу от такого интенсивного исследования самих себя. Некоторые считают, что мы неизбежно сольемся с этими технологиями и станем улучшенной, более умной и долго живущей версией Homo Sapiens.

ИИ обладает гигантским потенциалом улучшения человеческой жизни, он способен фундаментально изменить то, кем мы являемся как биологический вид. Но, к сожалению, это сопровождается большими рисками.

Какой эффект вам хотелось бы получить от своих прогнозов как футурологу и как человеку?

— Я бы хотел, чтобы понимание рисков, которые несет с собой ИИ, достигло критической массы в общественном сознании. Хотелось бы, чтобы как можно больше людей так же, как я, понимали, что самая важная задача человечества — позаботиться о безопасном развитии искусственного интеллекта. Когда я начал собирать данные для своей книги "Наше последнее изобретение", редко кто осознавал опасность ИИ всерьез. Сегодня, всего лишь несколько лет спустя, выдающиеся специалисты в области технологий и технологические энтузиасты, включая Илона Маска, Билла Гейтса, Стивена Хокинга, Стюарта Рассела, публично заявляют, что многообещающая, сулящая большие прибыли технология может уничтожить человечество.

Меня поддерживает группа MIRI (Machine Intelligence Research Institute, Институт исследований машинного интеллекта.— "Деньги"), которая работает над созданием безопасного ИИ уже больше десяти лет. Недавно сформированный Future of Life Institute (Институт будущего жизни) объединил философов и разработчиков искусственного интеллекта для контроля ИИ, чтобы он создавался безопасно и согласно этическим принципам. Эстонский предприниматель Ян Таллин открыл фонд для финансирования стартапов, который поддерживает несколько групп, работающих в тех же направлениях. Илон Маск и его коллеги выделили $1 млрд на OpenAI — организацию, созданную для развития опенсорсной (то есть с открытым кодом) разработки технологий ИИ, чтобы предотвратить появление опасной монополии суперинтеллектуальных машин. Окно времени, когда можно сделать ИИ безопасным для будущего, небольшое. Глядя на все эти проекты, могу сказать, что у нас есть шанс побороться. Интересно, когда в России появятся организации, созданные разумными адептами технологий, которые будут заниматься безопасностью ИИ?

Инженеры и ученые часто вдохновляются идеями футурологов и научных фантастов в своей деятельности. Таким образом, последние несут ответственность за то, куда движется человечество. А вы чувствуете свою ответственность? Бывает ли так, что какой-то прогноз вы не обнародуете?

— Чудесный вопрос. Я написал свою книгу именно для того, чтобы попытаться повлиять на будущее, предупредить общество о реальных рисках создания ИИ в отсутствие правил техники безопасности. Буду счастлив взять на себя ответственность, когда смогу убедить хотя бы одного человека, что мы играем с огнем.

Мы, люди, играем с огнем постоянно. Но пока наш инстинкт самосохранения сработал лишь раз — когда создали технологию на основе ядерного распада. Мы все думаем об ИИ как о способе сделать смартфон умнее, а наши зады — крупнее, а следовало бы понять, что ИИ похож на ядерный распад: технология обещает фантастические преимущества и одновременно несет огромную угрозу. Разрабатывать ее необходимо крайне аккуратно.

Мои прогнозы довольно мрачные, но я еще не публиковал самых мрачных. В нашей галактике миллиарды звезд. Рядом с каждой могут быть обитаемые планеты. Во вселенной миллиарды галактик. Совершенно определенно где-то есть разумная жизнь, возможно, существуют миллионы цивилизаций, которые процветают или находятся в упадке. Настолько ли мы умны, чтобы выживать достаточно долго для того, чтобы встретиться с ними? Как много из тех далеких цивилизаций выбрали необдуманный путь технологических инноваций и тем самым закрыли себе дверь в будущее?