Врастание машин

В издательстве Individuum вышла книга французского литератора и политика Гаспара Кёнига «Конец индивидуума», рассказывающая о ложных и подлинных опасностях искусственного интеллекта и способах справиться с ними.

Гаспар Кёниг — интеллектуал на редкость широкого профиля: журналист, эссеист, автор нескольких романов, философ, специалист по Жилю Делёзу, а также активный политик, даже пытавшийся баллотироваться в прошлом году в президенты Франции. Кёниг — сторонник классического либерализма, противостоящего как левым, так и либертарианцам с неолибералами. Все это чувствуется в его книге об искусственном интеллекте, вышедшей в оригинале в 2019 году. Он пишет по-журналистски бойко, рассказывает забавные истории, при этом к месту ссылается на Декарта и Спинозу, а заодно занимается апологетикой традиционных ценностей просвещенной Европы — частной собственности, неприкосновенности личности и свободы воли. При этом «Конец индивидуума» не кабинетное эссе, а большое расследование: Кёниг путешествует по Европе, Америке, Китаю и Израилю, встречаясь с людьми, так или иначе связанными с миром компьютерных технологий,— амбициозными стартаперами, хакерами-активистами, математиками и физиками, политиками, философами, а также врачами, композиторами и грузчиками — теми, чей труд оказывается напрямую затронут развитием искусственного интеллекта.

Начинается книга с самых распространенных тревог, вызываемых ИИ: компьютеры стремительно обучаются думать; если они уже обыгрывают гроссмейстеров в шахматы, то скоро будут способны и к не менее сложным активностям; они разовьют собственную субъектность, найдут цели, отличные от целей человечества, а возможно, и противоположные им; «Терминатор» и «Матрица» станут реальностью. Если даже и не так, искусственный интеллект вскоре отменит едва ли не все человеческие профессии, люди останутся без работы. Если вкратце: все это не так. Не будет ни техноутопии, ни техноантиутопии. Сами специалисты по ИИ утверждают: искусственный интеллект — по крайней мере, такой, каким мы его знаем сейчас,— не умеет думать, он умеет только симулировать мышление. Он оперирует грандиозными массивами данных, но не знает понятий и абстракций. Соответственно, у него нет целей, человеческих интенций и не может быть воли. С рабочими местами все немного сложнее. Конечно, автоматизация многих задач изменит рынок, но, как показывает весь опыт человечества, эта реструктуризация просто создаст новые профессии; без людей компьютер обходиться не сможет. Эти тревоги — ложные, но они отвлекают нас от серьезных проблем, которым и посвящена в первую очередь книга Кёнига.

Страшные видения будущего не дают вполне разглядеть тот факт, что ИИ уже вовсю меняет нашу повседневную жизнь. Наш выбор дороги до дома, выбор чтения на выходные, выбор еды и выбор любви все больше подчиняются логике алгоритмов — от гугл-мэпс до твиттера, от «Убера» до тиндера (в русских реалиях все это можно заменить «Яндексом»). Кёниг использует здесь понятие «nudge» — толчок. Это не принуждение, а мягкая сила — логичный и простой путь, который подсказывает нам приложение, а мы без особого сопротивления идем по нему. Параллельно те же приложения собирают наши данные, они знают о нас все больше и больше, и это — только начало. Так рождается то, что еще на заре компьютерных технологий Делёз назвал «обществом контроля» — децентрированной, рассеянной повсюду и никому не принадлежащей власти, незаметно проницающей все сферы существования.

В Америке такое общество пока лишь потенция. Между тем в Китае, все больше становящемся лидером в области айти, оно уже почти реальность. Парадоксально сочетающий власть коммунистической партии, капиталистическую экономику и возрождение конфуцианских традиций с их идеей общего блага, современный Китай оказался идеальным полигоном для экспериментов в области компьютерного управления жизнью своих граждан. Их самое интимное существование оказывается плотно переплетено с государственным надзором; у всех граждан Китая уже есть электронный рейтинг — «социальный кредит», учитывающий все их правонарушения и достижения и соответственно раздающий им награды и наказания. Китайские специалисты по ИИ посмеиваются над своими американскими коллегами, застрявшими в полумерах и не видящими всех преимуществ тотальной алгоритмизации социальной жизни. На западный взгляд эти проекты уже всерьез попахивают антиутопией.

Что делать нам, обычным людям, чтобы сопротивляться тотальному контролю, не становиться жертвами мегаломанов Шанхая и Сан-Франциско, но при этом не превращаться в новых луддитов, безуспешно стремящихся повернуть прогресс вспять? На эти глобальные вопросы у Кёнига довольно скромный, но вполне достойный и подчеркнуто либеральный ответ. Помнить, что главное преимущество человека — его свобода воли, способность выбирать; что сама личность констатируется решениями и выборами; что на первый взгляд абсурдные, вроде бы не имеющие оснований решения, от которых нас может избавить искусственный интеллект, на деле и двигают прогресс. Помнить об этом — значит сопротивляться власти платформ, предлагающих решить все за нас. Еще одно средство — изменить отношение к информации, тем самым личным данным, благодаря доступу к которым и работают платформы. Информация должна стать нашей собственностью: мы можем давать или не давать ее по желанию, продавать ее по собственному решению, а иногда доплачивать платформам за их услуги, вместо того чтобы скармливать им нашу жизнь. Только так мы сможем перестать быть пешками в игре информационных корпораций и стать активными игроками. Вывод не слишком революционный, но в своей умеренности по-своему убедительный.

цитата

Понимая пружины, заставляющие нас думать и действовать, можно освободиться от самих себя. Осознание детерминизма, который нами управляет, позволяет нам установить разумную дистанцию по отношению к нашим желаниям. Так, сексуальность из одержимости превратится в простое удовольствие, которым мы будем, не скупясь, баловать нашу столь легковерную плоть. И твиттер уже не будет нас так раздражать, когда мы сможем предугадывать собственные реакции, которые алгоритмы социальной сети предсказывают с такой устрашающей точностью. Мы станем сами для себя чем-то вроде старого товарища, с которым общаются, не питая особых иллюзии на его счет.

Гаспар Кёниг. Конец индивидуума. Путешествие философа в страну искусственного интеллекта. М.: Individuum, 2023. Перевод: Инна Кушнарева

Подписывайтесь на канал Weekend в Telegram