ChatGPT теряет доверие

В Испании начали расследование в отношении создателей ChatGPT, процедуру запустило Национальное агентство по защите персональных данных. Как сообщается на сайте регулятора, разработчик нейросети — компания Open AI могла нарушить некие нормы законодательства страны. Испанские власти обратились в Европейский совет по защите данных, чтобы поднять этот вопрос на пленарном заседании. Ранее расследование в отношении OpenAI начали власти Канады. Поводом стала жалоба на сбор, использование и раскрытие личной информации без согласия пользователей. Кроме того, в марте в Италии ограничили использование ИИ после утечки платежных данных пользователей и их разговоров.

Фото: Игорь Иванко, Коммерсантъ

К чему могут привести подобные запреты? В их эффективности сомневается преподаватель Школы глубокого обучения МФТИ Татьяна Гайнцева: «Запретить его можно точно так же, как любые другие онлайн-сервисы, например, Telegram. Но до конца, очевидно, это сделать не получится, хотя бы потому, что люди знают, что такое VPN. Кроме того, даже если ChatGPT станет недоступен, то многие пользователи начинают обучать уже свои аналоги нейросети.

Через несколько лет мы придем к тому, что очень много подобных систем появится, а запретить их все невозможно. Такие реакции сейчас объясняются тем, что просто очень резко все произошло. Правоохранительная система не успела на это отреагировать, и разные страны в частном порядке сами как-то пытаются это отрегулировать.

Скорее всего, порядок использования ИИ постепенно придет к некоторому балансу, и мы выработаем некую систему регулирования. Конечно, она нужна, тем более если речь идет о пользовательских данных».

Тем временем в России решили разработать специальный законопроект, который будет регулировать деятельность искусственного интеллекта. В частности, документ определит ответственность и исключит случаи использования технологии мошенниками, о таком намерении объявила «Единая Россия». Правда, в этом нет нужды, уверен партнер юридической компании «Томашевская и партнеры» Роман Янковский:

«С одной стороны, есть определенные ограничения на использование чувствительной информации, в частности, персональных и платежных данных. С другой, чат-бот обрабатывает их автоматически. Все понимают, что OpenAI открыла доступ к нему не потому, что они филантропы, а потому что собирают результаты бесед с чат-ботом и используют их для улучшения его работы. По тому, как он отвечает на вопросы, заметно, что нейросеть становится лучше.

Соответственно, каким-то образом эти данные попадают внутрь бота. Конечно, все пытаются понять, а как эти данные защищены, как бот определяет, какую информацию хранить, какую — нет. А что если вы сможете убедить его сообщить вам данные, которые ему дал другой пользователь?».

Об угрозе слишком быстрого развития искусственного интеллекта активно заговорили около месяца назад. Тогда на сайте Future of Life появилось открытое письмо, которое подписали более 1 тыс. человек, в том числе владелец Tesla Илон Маск и сооснователь Apple Стив Возняк. Они призвали прекратить хотя бы на шесть месяцев тренировки систем мощнее GPT-4.

Новости в вашем ритме — Telegram-канал "Ъ FM".