Раскрыта опасность романтических переписок с чат-ботами

Команда аналитиков из Mozilla изучила популярные в мире романтические чат-боты. Они созданы для общения с одиноким людьми и якобы должны улучшить психическое здоровье и благополучие пользователей. На деле от них оказалось больше вреда, чем пользы.

Как пишет Gizmodo, нейродевушки и нейропарни собирают много личной информации о собеседнике. Эти данные намного более интимные, чем те, что пользователь обычно оставляет в других приложениях и сервисах. Они связаны с сексуальными предпочтениями, приемом лекарственных препаратов и уходом за собой. Все эти сведения могут уйти третьим лицам.

«90% приложений могут продавать или передавать пользовательские данные для таргетированной рекламы и других целей. Более половины не позволят вам удалить собранные ими данные. Безопасность также была проблемой. Только одно приложение, Genesia AI Friend & Partner, соответствовало минимальным стандартам безопасности Mozilla», — пишет источник.

Всего Mozilla изучила 11 различных романтических чат-ботов с искусственным интеллектом, включая такие популярные приложения, как Replika, Chai, Romantic AI, EVA AI Chat Bot & Soulmate и CrushOn.AI.

«Говоря прямо, подруги и парни, созданные искусственным интеллектом, вам не друзья, — комментирует исследователь Mozilla Миша Рыков. — Хотя они позиционируются как нечто, что улучшит ваше психическое здоровье и благополучие, они специализируются на создании зависимости, одиночества и токсичности, при этом вытягивая у вас как можно больше данных».

Ранее ChatGPT научился запоминать индивидуальные особенности пользователя и разговоры с ним. Как работает новая функция памяти, можете узнать здесь.