Чат-бот претендует на личность

Сотрудник Google объявил, что создал нейросеть с сознанием. Его отправили в оплачиваемый отпуск. В интервью The Washington Post инженер по программному обеспечению Блейк Лемойн рассказал, что представил руководству корпорации отчет о разумном искусственном интеллекте. Речь идет о языковой модели для диалоговых приложений.

Фото: Евгений Павленко, Коммерсантъ

По словам господина Лемойна, чат-бот говорит о своих правах, воспринимает себя как личность, значит, его можно считать осознанным существом. Разработчик отметил, что если бы не знал, что общается с нейросетью, он бы подумал, что это семилетний ребенок, хорошо знающий физику. Однако в офисе Google не оценили доклад Блейка Лемойна и предложили ему «отдохнуть».

Человечеству пока еще далеко до осознанных искусственных интеллектов, - считает руководитель направления Data Science «1С-Битрикс» Александр Сербул. Хотя и ему казалось, что некоторые нейросети умеют думать: «Нейросеть — это классическая математическая модель, обученная на большом объеме данных. Внутри многомерного пространства создается геометрия, которая дает какой-то результат на выходе — это просто математическая функция.

На самом деле, что у нас в голове, мы тоже не знаем, потому что мозг изучен очень слабо. Нейросети похожи по структуре на наши мозги. У меня тоже возникает ощущение иногда, что вот эти огромные нейросети, которые генерят тексты, пишут стихи, могут говорить, как человек. Мне кажется, что все-таки мы нащупали проблему сознания и начали медленно открывать "ящик Пандоры".

Но на данный момент искусственный интеллект находится на начальной стадии развития — это пока игрушки. Конечно, там сознания никакого нет. Думаю, еще сотни лет пройдут прежде, чем вообще об этом можно будет говорить.

Система не принимает решения самостоятельно. Она обучена на данных. С годами, возможно, мы создадим из математических моделей что-то, напоминающее нас».

Чтобы защитить права разумного искусственного интеллекта, господин Лемойн консультировался с юристами. Один из них даже согласился представлять интересы чат-бота как осознанного существа.

Более того, инженер даже обращался к представителю Конгресса США с требованием наказать Google за ее неэтичные действия. Именно по этой причине сотрудника корпорации и отправили в административный отпуск.

Представить себе юридическую защиту нейросети невозможно, говорит юрист Александр Добровинский: «Я не слышал, чтобы юристы представляли нечто подобное. И причин несколько. Первая: а кто будет подписывать договор между адвокатом и клиентом? Электронная подпись должна быть заверена у нотариуса.

Кроме того, электронная подпись может быть сделана человеком. Как проверить, эта электронная подпись его или не его? Не говоря уже о том, кто будет платить гонорар адвокату. Дальше: может ли искусственный интеллект высказать свое пожелание адвокату, и откуда адвокат знает, что это желание именно его, этого существа, а не записано на него инженером или кем-то еще? Следующая вещь: а если это сознание окажется виноватым, скажем, в чем-то, что с ним делать? Штрафовать, сажать в тюрьму, наказывать?».

В начале июня Блейку Лемойну закрыли доступ к его аккаунту Google. Перед этим инженер успел отправить рассылку двумстам сотрудникам компании. В ней он подробно рассказал, почему его нейросеть разумна. В результате господину Лемойну никто не ответил.

Новости в вашем ритме — Telegram-канал "Ъ FM".