По чату не ботать

В Российском государственном гуманитарном университете (РГГУ) призвали ограничить доступ студентов к одному из популярных чат-ботов «из-за его возможного негативного влияния на обучение». Там указывают, что «образовательное сообщество оказалось перед лицом нового вызова, связанного с применением нейронных сетей и искусственного интеллекта». Такая реакция последовала на получившую широкий общественный резонанс историю защиты дипломной работы Александра Жадана: пятикурсник признался, что написал ее с помощью нейросети. В Минобрнауки пока не отреагировали на ситуацию. Эксперты же подчеркивают, что даже продвинутая нейросеть не может главного: прийти к тому или иному осмысленному выводу.

Фото: Дмитрий Духанин, Коммерсантъ

Студент пятого курса РГГУ Александр Жадан, как он утверждает, написал дипломную работу на тему «Анализ и совершенствование управления игровой организацией», прибегнув к помощи искусственного интеллекта. «Введение и теоретическую часть я смог написать с помощью ChatGPT, исходя из запросов: у меня есть план, дай мне, пожалуйста, текст для моего диплома,— рассказал Александр Жадан.— Указывал, сколько мне нужно символов. Во второй и третьей части, которые посвящены практической деятельности, мне нужно было осветить, что я делал непосредственно в организации. Я комбинировал свою работу с другой, чтобы можно было основываться на чьем-то тексте». Отметим, господин Жадан работает бренд-менеджером в CM Games, которая занимается разработкой игр.

ChatGPT — продвинутый чат-бот с искусственным интеллектом, запущенный в ноябре 2022 года. ChatGPT умеет отвечать на вопросы, переводить тексты, решать математические задачи, составлять юридические документы, генерировать рассказы на заданные темы (от школьных сочинений до научных работ), писать код на нескольких языках программирования (например, Python), обрабатывая запросы на естественных языках (включая русский). За первые пять дней с момента релиза он набрал более 1 млн пользователей. Чат-бот создала компания OpenAI, которой руководит экс-президент венчурного фонда Y Combinator Сэм Альтман. OpenAI также известна по нейросети DALL-E, способной создавать картины на основе текстовых запросов.

«Научный руководитель обращал внимание на то, что у меня присутствует несвязность в работе, что нужно дорабатывать русский язык, и я этим активно занимался в процессе,— поделился господин Жадан.— Я пробовал сделать это через чат-бот, но выходило немного не то. В итоге я больше сам редактировал, но также смотрел, что предлагает ChatGPT». По словам студента, работа заняла несколько дней, но суммарно 23 часа. Несколько дней назад, по словам Александра Жадана, он защитил работу. Диплом, по его словам, прошел проверку на антиплагиат: 82% оригинальности текста.

Александр Жадан

Фото: страница Александра Жадана в VK

Скандал вокруг истории защиты диплома студента Жадана начался после того, как об этом рассказали несколько СМИ. С официальным заявлением вынужден был выступить РГГУ. «Если десятилетия назад главной проблемой для вузов был плагиат и недобросовестные заимствования и эта проблема была успешно решена, то сейчас образовательное сообщество оказалось перед лицом нового вызова, связанного с применением нейронных сетей и искусственного интеллекта в научной и образовательной деятельности,— заявили “Ъ” в пресс-службе вуза.— Российские и зарубежные эксперты высказывают опасения по поводу возникшей проблемы, и найти достойный выход — главная задача научного сообщества». Ситуация «актуализировала необходимость оперативного решения задач, связанных с разработкой инструментов распознавания использования нейросетей при подготовке письменных работ (курсовые работы, эссе, рефераты, ВКР)», подчеркивают в учебном заведении.

В РГГУ пообещали, что специалисты и научное сообщество проведут повторный анализ дипломной работы.

А пока предложили «ограничить доступ к чат-боту ChatGPT в образовательных организациях из-за его возможного негативного влияния на обучение», не пояснив, как это должно быть сделано. “Ъ” попросил Минобрнауки прокомментировать предложения представителей РГГУ, но в ведомстве оперативно не ответили.

Руководитель группы распознавания действий компании NtechLab (один из крупнейших в мире поставщиков систем видеоаналитики) Динар Ахматнуров подчеркивает, что языковые нейросети освоили написание связных текстов еще несколько лет назад. «По сути, это языковые модули, которые обучаются с помощью широкой выборки текстовой информации. Они действительно могут написать текст, который будет казаться нам очень связным». Но, подчеркивает господин Ахматнуров, даже продвинутая нейросеть, способная написать школьное сочинение или научную работу, не может главного: прийти к тому или иному осмысленному выводу. «Языковые нейросети, и это очень важно понимать, хорошо умеют подражать языковому стилю, но самостоятельно сделать выводы или же привнести в работу научную новизну они не способны. Эти программы не думают, а лишь хорошо притворяются. Впрочем, возможно, этого достаточно, чтобы защитить дипломную работу, которую комиссия прочтет по диагонали»,— резюмирует он.

«Ситуация с нейросетью доказала, что в России есть серьезные проблемы с выпускными работами,— заявил председатель Всероссийского студенческого союза Олег Цапко.— Ужесточение требований по "Антиплагиату" не дает серьезных результатов — как мы видим, систему можно обойти». Господин Цапко также обращает внимание, что «нейросеть не может сама написать хорошую работу», поэтому «важно смотреть на содержание работы, а не на цифры "Антиплагиата"».