Искусственный интеллект и технократическое мышление

ЛАПШИН Аркадий Олегович — кандидат исторических наук, член президиума Академии политических наук, главный редактор журнала «Власть»

искусственный интеллект и технократическое мышление

Аннотация. Журнал продолжает свою новую программную рубрику «Глобализация и информационное общество». В статье, предваряющей публикации номера, главный редактор журнала «Власть» затронул наиболее актуальный, но не до конца исследованный аспект цифровизации современного общества, связанный с местом человека в конструкции «искусственный интеллект - человек - среда». Важно уже сегодня задуматься о конфликте интересов между электронным и живым мозгом. Автор показывает, что именно техно-бюрократические методики лежат в основе трагических нестыковок в системе «человек -искусственный интеллект».

Ключевые слова: глобализация, риски цифровизации, искусственный интеллект, техно-бюрократический подход, идеальное, культура

Предваряя остроактуальную статью моего коллеги профессора Алексея Чернышева, мне хотелось бы очень коротко остановиться на нескольких моментах заявленной темы.

Первое - это расширенное, максималистское, неумеренное использование самого понятия «искусственный интеллект» (далее - ИИ). Я думаю, это связано прежде всего с приходом в научную сферу неких суррогатов, клише из массового сознания. Называется это явление формальной рациональностью (о ней писал еще М. Вебер, отличая ее от рациональности материальной, которая является абсолютной самоценностью для ее носителей). Привнесение этого феномена в практику жизни ведет к далеко идущим последствиям. «Логическим следствием перехода к формальной рациональности становится, - пишет профессор В.П. Бабинцев, - имитация управления, в ходе которой реальные значения и смыслы замещаются и подменяются формальным воспроизведением операций и процедур, сопровождаемых их демонстрацией, декларацией и декорацией» [Бабинцев 2015: 13]. А в результате получается так, что у нас что ни очередной робот - то ИИ, что ни хорошенькая актриса - то звезда.

Так происходит в реальности, в которой бизнес массового производства диктует маркетинг, деньги и прежде всего, конечно, прибыль. Все это заставляет массмедиа штамповать и вбрасывать в сознание человека миллионы фейков и симулякров. С этой стороной нашей жизни бороться бессмысленно - она часть самой этой жизни. Но есть и другие, более масштабные следствия современного общества массового потребления. О них чуть подробнее и серьезнее.

Эти следствия связаны с конструкцией, которую условно можно назвать «искусственный интеллект - человек - среда». Еще совсем недавно механизмы управления сложными системами (в т.ч. самолетами) были заточены под психоантропологические особенности человека. Сейчас специалисты в этой области не без оснований утверждают, что развитие ИИ и техники в целом снизили роль человеческого фактора в возникновении катастроф. Но, утверждают эксперты, здесь появляется другая проблема. Если брать самолеты, то пилоты от управления аппаратом переходят к мониторингу многочисленных дисплеев и вмешательству при необходимости. Недавние авиационные катастрофы с американскими новейшими «боингами» высветили весь трагизм столкновения, «конфликта интересов» мощного бортового компьютера и человека. Раньше

2 019' 0 2

ВЛАСТЬ

75

систему управления сложными системами строили под человека - авиационная эргономика служила верой и правдой много десятилетий. В настоящее время использование цифровых систем сделало человека-управленца сплошь и рядом прилагательным к ИИ. И здесь-то и возникли трагические нестыковки в системе «человек - искусственный интеллект».

Я думаю, что именно чисто технократический подход к решению проблем сопряжения человека и ИИ создает кризисные ситуации в их взаимоотношениях. Здесь мне хочется привести одну мысль известного философа и культуролога А. Пелипенко, который писал, что «неизбывный технократизм, порождающий убежденность в том, что для технологического прогресса не существует никаких препятствий, в том числе и ментально-культурных, ибо никаких более важных целей, чем бесконечное улучшение материальных условий существования, у человека быть не может» [Пелипенко 2012: 30]. Серьезные эксперты призывают: необходимо срочно разработать фундаментально новые методики и положения, учитывающие качественно иной уровень автоматизации и управления сложными системами, связанными с элементами ИИ.

В случаях с самолетами и иными механизмами, управляемыми элементами ИИ, возникает вероятность «конфликта интересов» между электронным и живым мозгом. Я не знаю, возможно ли в ближайшем будущем создать цифровые модели, разрешающие или минимизирующие эти конфликты. Поскольку ИИ есть все-таки порождение человеческого мозга, а его экзистенциальные составляющие уходят в глубь идеального, до конца не понятого, то, очевидно, здесь и кроются фундаментальные причины конфликта интересов ИИ и человека. Все-таки они взаимодействуют не в виртуально-игровом мире, а в условиях реальной среды, динамику изменения которой пока невозможно уложить в сухие алгоритмы программ. Интуиция профессионала в цифру не укладывается. И больных лечить надо, глядя, хотя бы изредка, ему в глаза, а не только на монитор компьютера. И, как говорили старые врачи, лечить надо больного, а не болезнь. В этом подходе заложен опыт, интуиция и нравственная сторона профессии.

Да, современный ИИ опережает наш мозг в скорости действия. Но пока в человеке есть нечто, что превосходит простой количественный перебор вариантов. Да и практика показывает, что сегодняшняя модель превращения пилотов в компьютерных операторов ведет к трагическим последствиям. Механика чисто технократических подходов здесь явно недостаточна для функционально успешного взаимодействия ИИ и человека. Установки технократического мышления рождаются в т.ч. и от универсализации тестового вида обучения (с его картинками, смайликами и мемами). В итоге такого обучения мы получаем исполнителей с клиповым, конвергентным (линейным) мышлением.

Все, что нельзя измерить посредством цифры, заключить в нее и, наконец, купить, - а это любовь, дружба, сострадание, способность продуцировать смыслы - является продуктом и достоянием культуры. Идеальное в человеке пока, к счастью, не поддается механическому цифровому клонированию.

Возможно ли ждать взрывных эвристических эффектов от использования ИИ? Очевидно, да: в тех сферах, которые человеческий мозг просто не успел просчитать, ИИ делает это быстрее. Возможны ли «сумасшедшие» находки у ИИ, которые определят повороты в эволюции человеческой цивилизации, или это будет контрэволюция? Трудно сказать, ведь в этом случае в ИИ нужно вводить и все человеческие ненормальности, включая психические. Но бесспорно то, что проблема идеального в условиях ИИ должна рассматриваться по-новому. Как? Время покажет. Я же хотел подчеркнуть, что пока чисто технократический подход к прогрессу уже создает трагические ситуации. И нельзя превращать в хлам логоцентрические основы нашей жизни, о которых так глубоко писал мой друг

Андрей Пелипенко. Уход от техно-бюрократических методик, основанных на механическом суммировании выводов отдельных исследований, и возвращение системного междисциплинарного анализа могут лечь в основу современного экспертного дискурса. Звучит витиевато, но совершенно искренне, поверьте.

Список литературы

Бабинцев В.П. 2015. Формальная рациональность и конструирование правдоподобия в публичном управлении. - Власть. № 6. С. 12-16.

Пелипенко А.А. 2012. Постижение культуры. М.: РОССПЭН. 607 с.

LAPSHIN Arkadiy Olegovich, Cand.Sci.

ARTIFICIAL INTELLIGENCE AND TECHNOCRATIC MENTALITY

Abstract. The journal continues its new program rubric «Globalization and the Information Society». The editor-in-chief of Vlast' Journal touched upon the most relevant, but not enough investigated aspect of digitalization of the modern society that is connected with the place of a person in the system of artificial intelligence - man - environment. Today it is important to think about the conflict of interests between the electronic and the living brain. The author shows that techno-bureaucratic techniques underlie the tragic inconsistencies in the system of man -artificial intelligence. Keywords: globalization, digitalization risks, artificial intelligence, techno-bureaucratic approach, ideal, culture

ЧЕРНЫШОВ Алексей Геннадиевич — доктор политических наук, профессор кафедры государственного и муниципального управления Финансового университета при Правительстве РФ

искусственный интеллект в качестве новой религии и идеологии цифровых данных

Аннотация. В настоящее время происходит кардинальная смена социальной жизни людей, связанная с внедрением в практику человека новых технологических решений. Цифра и искусственный интеллект все больше обживаются на культурном пространстве, становятся неотъемлемой частью жизненного ландшафта. Вместе с тем впервые в истории человеческого сообщества на повестку дня выходит вопрос о возможности сохранения биологического и социального начала в деятельности человека в условиях новой, самой непредсказуемой научно-технической революции.

Ключевые слова: искусственный интеллект, естественный интеллект, этика цифры, религия цифровых данных, смысловой контент, наднациональный экспертный гражданский форум

Научно-технический прогресс достиг такого уровня развития, что люди впервые в истории своего существования стали реально пытаться реализовать на практике принцип формирования интеллекта1 вне человека, т.е. на конечной инстанции - создание самим homo sapiens машины, которая сможет

1 Интеллект, или ум - качество психики, состоящее из способности приспосабливаться к новым ситуациям, способности к обучению и запоминанию на основе опыта.