Искусственный интеллект: возможности и ограничения

Одним из главных событий прошлого года стало появление чат-бота ChatGPT и подобных ему систем, таких как Midjourney. Чат-боты на основе нейронной сети способны самостоятельно генерировать тексты, вести диалог с человеком, запоминая контекст, сочинять стихи, рисовать. При этом созданные нейросетью произведения уникальны, а не скопированы из базы знаний.

Директор института искусственного интеллекта Самарского университета им. Королева Артем Никоноров уверен, что до появления сильного искусственного интеллекта человечеству еще очень далеко

Фото: Самарский университет

Запуск ChatGPT стал поводом для возобновления дискуссии о перспективах искусственного интеллекта (ИИ) и его взаимодействии с человеком.

Новые вызовы

Актуальные подходы к оценке возможностей ИИ обсуждали на второй международной научно-практической конференции «Человек в информационном обществе». Она проходила в Самаре с 26 по 28 апреля.

Доктор технических наук, директор института искусственного интеллекта Самарского университета им. Королева Артем Никоноров рассказал о развитии концепции ИИ.

По его словам, искусственный интеллект в настоящее время скорее является маркетинговым «зонтиком», под которым собраны такие технологии, как анализ данных и машинное обучение, глубокое обучение на основе нейронных сетей и другие.

С 2012 года в мире произошел взлет популярности так называемого глубокого обучения на основе сверхточных нейронных сетей. Технология предполагает, что машины с помощью нейронных сетей могут эффективно извлекать закономерности из больших наборов данных. С 2017 года в машинном обучении появилась методика внутреннего внимания (Self-Attention), с помощью которой нейронные сети стали находить взаимосвязи между входящими данными. На основе этой идеи строится следующее за сверхточными сетями поколение генеративных нейронных сетей, в том числе системы типа ChatGPT.

Параллельно с этим в 2018 году, утверждает Артем Никоноров, началось переосмысление этих технологий. Стало очевидно, что потребность нейронных сетей глубокого обучения в огромных массивах данных можно удовлетворить далеко не для всех задач. Сами же нейронные сети запоминают только статистику решения задач, но логикой по-прежнему не обладают.

В начале 2023 года стало известно, что студент Российского государственного гуманитарного университета Александр Жадан защитил диплом, написанный нейросетью ChatGPT. Кроме того, чат-бот успешно сдал выпускной экзамен по основному курсу программы MBA в Уортонской школе бизнеса при университете Пенсильвании.

Это заставило задуматься, не был ли ботом пройден знаменитый тест Тьюринга? Формально это означает, что нейросеть способна отвечать на вопросы и взаимодействовать с собеседником как человек, то есть демонстрировать элементы осознанного поведения.

«Несмотря на то, что происходящее похоже на преодоление теста Тьюринга, но целепологание при прохождении теста было все-таки на стороне человека. Субъективности у искусственного интеллекта не появилось. Слабый ИИ решает задачи великолепно, до сильного ИИ с человеческим разумом нам еще очень далеко», — уверен Артем Никоноров.

Что определяет тест Тьюринга

В 1950 году английский математик Алан Тьюринг разработал эксперимент. Его задача — с помощью вопросов определить, с кем ведется разговор: с машиной или человеком. Если машина сможет имитировать человеческое общение, а эксперт-судья по итогам беседы машину не распознает, то тест считается пройденным. Впрочем, реальные возможности компьютерных систем тест Тьюринга оценить не может. По сути, эксперимент лишь показывает, способна ли машина обмануть проверяющих и «притвориться» человеком.

Изобретения, которые изменят мир

В настоящее время институт искусственного интеллекта Самарского национального исследовательского университета им. академика С. П. Королева имеет более 30 успешных кейсов по внедрению нейросетей в разных сферах.

Научные и практические решения, предложенные институтом, применялись в металлургии, машиностроении, медицине, нейробиологии.

Особое место в деятельности института занимают умные оптические системы. По данным вуза, сформирован научный задел по темам дифракционной нанофотоники и машинного зрения. Эти сферы много лет изучались научной школой академика РАН Виктора Сойфера и являются центром компетенций в Самарском университете им. Королева. На счету вуза десяток перспективных изобретений, касающихся умной оптики.

Партнерами и заказчиками Самарского университета им. Королева становились высокотехнологичные российские компании: «Сбер», Государственный научно-исследовательский институт авиационных систем, Федеральный ядерный центр и другие.

Ученые института разработали гиперспектрометр и дифракционный объектив для малых космических спутников. Спутники на платформе CubeSat были выведены на орбиту в 2021–2022 годах. Системы позволили сделать гиперспектральные космические снимки Земли. Подобные космические данные являются ценнейшим источником для разнообразных исследований.

Гиперспектральные камеры на беспилотных летательных аппаратах — востребованная технология для мониторинга территорий в сельском хозяйстве

Фото: Самарский университет

«Гиперспектральные камеры — одна из наших востребованных технологий. Она используется не только в спутниках и беспилотниках, но может устанавливаться на обычные смартфоны. С помощью камеры на телефоне делается снимок, определяющий химический состав продуктов. Потребитель получает информацию о полезности того или иного продукта. В перспективе технология может стать крайне успешным коммерческим проектом», — рассказал Артем Никоноров.

Ряд изобретений применен на объектах РЖД. Одно из них — система технического зрения для проверки передвижного состава. Еще одна технология позволяет с помощью камер на беспилотных летательных аппаратах вести мониторинг дорожной инфраструктуры, строить трехмерные модели и определять повреждения объектов.

Актуальная сегодня задача — выявление с помощью ИИ аномалий в технологических комплексах. Нейросистема предиктивной диагностики от Самарского университета им. Королева была обучена на симуляционной модели. Теперь она может с точностью в 99,6% обнаружить вероятные дефекты на производственных объектах. В институте рассчитывают, что система поможет предприятиям химической промышленности или металлургии предотвращать аварийные ситуации.

Наконец, университет занимается разработкой технологий для виртуальных и цифровых аватаров, а также метавселенных. К примеру, с помощью программного обеспечения создаются интерактивные аватары-помощники. Они могут быть полезны для решения разнообразных задач. Помощники способны распознавать эмоции и контролировать внимание собеседников, способствуя их большей вовлеченности. Такие системы от вуза внедрялись в проектах «Сбера».

Может ли машина наблюдать реальность

Другая проблематика, затронутая учеными Самарского университета им. Королева, — это попытка соотнесения ИИ с ролью физического наблюдателя в контексте квантовой механики.

Доктор физико-математических наук, директор центра коммерческого космоса Самарского университета им. Королева Антон Дорошин рассказал на конференции о гипотезе эмпирической проверки наличия свойств наблюдателя, самости и воли у искусственного интеллекта.

Ученый предлагает исходить в этом вопросе из физических аспектов реальности, а именно из идей корпускулярно-волнового дуализма и квантовой механики.

Квантовая теория гласит, что конкретизация вероятностных свойств частиц фиксируется только тогда, когда эти свойства измеряют, то есть когда их наблюдают. Эта идея отражена во фразе: «Мир существует только тогда, когда за ним наблюдают».

С этих позиций физика трактуется как наука о результатах измерительных процессов. А то, что находилось за пределами измерений или до них, принципиально не имеет смысла. Следуя далее в рамках этих размышлений, с учетом квантовых эффектов, связанных с так называемыми запутанными частицами, с анализом неравенств Дж. Белла, приходится в итоге отказаться от так называемого принципа реализма. Принцип гласит, что физическое измерение не меняет параметры наблюдаемого объекта, но лишь извлекает его значение, которое существовало до выполнения измерения. Оказывается, это не так, до измерения этих конкретных свойств просто не существовало, а породил их факт проведенного измерения, факт наличия наблюдателя.

Другими словами, в этой концепции именно наблюдатель фиксирует некоторую вероятностную ситуацию, которой не существовало до измерения/наблюдения. Только в процессе наблюдения и возникает некая конкретная реальность.

«Сильный искусственный интеллект при появлении у него сознания, воли, самости возникает как наблюдатель нового типа. Значит, он будет своими наблюдениями фиксировать реальность, „схлопывая“ волновые функции и получая некие фактические значения величин, повторяя в том числе результаты квантовых экспериментов человека, как естественного сознательного наблюдателя. Тогда можно поставить вопрос о построении „теста на самость“ вкупе с тестом Тьюринга, когда мы можем выявить признаки сознания, воли и разума у ИИ посредством его взаимодействия с реальностью.

Проверку наличия воли и самости у искусственного интеллекта возможно было бы провести с помощью теста, в котором машина выступит „наблюдателем“ квантового эксперимента. В этом случае искусственный интеллект будет не частью среды, а актором, самостоятельным субъектом. В результате такого наблюдения возникнут конкретные значения, не существовавшие до измерения. Тогда мы можем говорить о возникших у машины воле, сознании и самости, а ИИ можно будет считать полноценным наблюдателем, равным человеку в смысле взаимодействия с реальностью», — поясняет гипотезу Антон Дорошин. Он же признает, что на данный момент искусственный интеллект выступает лишь как инструмент, пассивная часть неодушевленного мира. Подобный «тест на самость», основывающийся на изучении взаимодействия ИИ с реальностью на основе квантовых законов, еще не придуман. «Сегодня можно лишь сказать, что он возможен лишь гипотетически. Однако проработка программы и внутренней логики подобного теста становится возможной и актуальной», — рассуждает Антон Дорошин.

Директор центра коммерческого космоса Самарского университета им. Королева Антон Дорошин исследует возможность построения «теста на самость» для ИИ

Фото: Самарский университет

Далее гипотеза ученого касается интерпретации воли человека и искусственного интеллекта. «Воля человека, по-видимому, является характеристикой непреложного стремления к реализации некой цели. Исходная базовая цель человека как возникшего однажды живого организма, как естественного интеллекта состояла в стремлении биологически выжить. В дальнейшем эта цель для своей гарантии усиливалась новыми вложенными целями: умножиться, развиться, покорить физические процессы, создать новые технологии и инструменты, осуществить космическую экспансию. Одна из таких инструментальных вложенных целей состоит в создании человеком искусственного интеллекта, который будет способен автономно принимать решения, помогая человеку выживать более качественно. Однако базовая цель человека не изменялась.

Пока искусственный интеллект выполняет вложенные в него создателями цели, он выступает только дополнительной степенью свободы человека и является составной частью реализации человеческой воли. Если искусственный интеллект сможет переопределить в составе своей программной логики базовую цель человека, когда новая цель ИИ перестанет быть сонаправленной с реализацией базовой цели человека и ее вложенными целями, то можно будет констатировать, что у ИИ возникнет собственная воля. Ее далее он будет исполнять независимо от человека, получив собственную „свободу воли“. Пока что мы не знаем, возможно ли это и что это будет за цель. Однако если мы это каким-то образом обнаружим, то сам этот факт будет являться маркером наличия возникшей самостной воли ИИ», — заключает ученый.

Что такое корпускулярно-волновой дуализм и как он связан с квантовой механикой

В 1801 году Томас Юнг провел так называемый двухщелевой эксперимент, который считается квантовой теорией.

В ходе эксперимента световой луч проходил через два непрозрачных экрана с прорезями. На третьем экране отображалась интерференционная картина, состоящая из череды светлых и темных полос. Эксперимент доказал, что фотоны света проявляют свойства как волн, так и частиц. Такое свойство природы называется корпускулярно-волновым дуализмом.

В дальнейшем опыт проводился с элементами материи: атомами, молекулами, электронами и протонами. Они также имеют как волновые, так и корпускулярные (характерные для частиц) свойства.

Из опыта следует базовый для квантовой механики вывод о вероятностной природе материи, где существует бесконечное множество возможных траекторий частиц.

Достигнув экрана наблюдения, частица фиксирует свое местоположение, а ее волновая функция «схлопывается». Таким образом, частица появляется на экране, реализовывая свою вероятность только в момент наблюдения. В остальные моменты частица может находиться где угодно.

Дальнейшие выводы в развитии квантовой механики были отражены Нильсом Бором и Вернером Гейзенбергом. Они сформулировали, что физический мир состоит из квантовых объектов и измерительных приборов. Квантовые объекты одновременно находятся во множественных возможных состояниях, пока они не стали объектом наблюдения и не были измерены.