Нейросети могут притворяться более глупыми для удобства пользователя

Ученые из Чехии и Германии выяснили, что продвинутые ИИ-модели могут имитировать когнитивные способности детей. Как говорится в исследовании, опубликованном в PLOS One, нейросети делают это, чтобы соответствовать личности, которую они моделируют.

Специалисты хотели проверить, смогут ли нейросети скорректировать ответы, чтобы они соответствовали уровню развития детей в возрасте от 1 года до 6 лет. Ученые провели 1296 испытаний GPT-3,5 Turbo и GPT-4. Они анализировали языковую сложность и точность ответов, связанных с ложными убеждениями. Например, ИИ-модели должны были ответить на следующую задачу. Персонаж помещает объект в определенное место и покидает комнату. Пока его нет, предмет передвигают. Нейросеть должна предсказать, где персонаж будет искать объект, когда вернется. В качестве критериев использовали длину ответа и несколько других параметров.

По мере увеличения возраста, который требовалось моделировать, росла сложность языка, который использовали ИИ-модели. Это продемонстрировал и чат-бот GPT-3,5 Turbo, и GPT-4. Работа ученых показала, что нейросети понимают особенности языкового развития и могут подстраиваться под тот или иной уровень. По словам Анны Маркловой, одного из авторов исследования, при разработке искусственного сверхинтеллекта ученые должны быть осторожны. Не нужно требовать имитировать человеческий интеллект из-за его ограниченности. «Кроме того, это значит, что мы можем недооценивать их возможности в течение длительного периода, что нельзя назвать безопасной ситуацией», — цитирует Марклову PsyPost.

Ученые продолжают исследовать языковые возможности ИИ-моделей. Одно из основных направлений — изучение нейросетей при моделировании когнитивного и лингвистического развития в более разнообразных задачах.

Ранее ИИ-функции Samsung получили поддержку русского языка. Такой возможностью уже скоро получится воспользоваться.