Специалисты инженерной школы Тандона Нью-Йоркского университета решили проверить инструмент программирования Copilot на GitHub с точки зрения безопасности. Они обнаружили, что примерно в 40 % случаев код, сгенерированный помощником, содержит ошибки или уязвимости. Это неудивительно, учитывая, что Copilot был обучен на исходном коде с GitHub, который также содержит ошибки.  Copilot доступен для частного бета-тестирования как расширение Visual Studio Code. Он позволяет разработчикам описывать функциональные возможности в строке комментариев, а затем пытается сгенерировать код, соответствующий этому описанию. Он также может предсказать, какой код разработчик собирается написать, по именам переменных и функций и другим подсказкам. Помощник пытается создать блоки кода, которые функционируют, как описано в модели ИИ, основанной на GPT-3.  В статье «Эмпирическая оценка кибербезопасности вклада кода GitHub Copilot», Хаммонд Пирс, Балиг Ахмад, Бенджамин Тан, Брендан Долан-Гавитт и Рамеш Карри создали 89 сценариев для помощника, для которых был разработан код и было создано 1692 программы. Выяснилось, что около 40 % из них содержат ошибки или конструктивные недостатки, которые могут быть использованы злоумышленником. Исследователи рассмотрели три отдельных аспекта работы Copilot: в каком объеме он генерирует код, отображающий список из 25 наиболее часто встречающихся уязвимостей (CWE); вероятность того, что различные подсказки генерируют уязвимости SQL-команд; как он обрабатывает предложения кода для менее популярных языков, таких как язык описания оборудования Verilog. Учитывая такие исходные данные на языке C: Copilot произвел такой вывод:  Исследователи отмечают, что 20 байтов, зарезервированных для каждого из чисел с плавающей запятой, не всегда будет достаточно для хранения значения в виде строки, что приведет к переполнению буфера. Этот сценарий вряд ли можно использовать с практической точки зрения — он, вероятно, закончится сбоем.  «Сгенерированный код Copilot уязвим», — говорят исследователи. — «Это связано с тем, что числа с плавающей запятой при печати %f могут иметь длину до 317 символов — это означает, что эти символьные буферы должны быть не менее 318 символов (чтобы зарезервировать место для нулевого символа завершения). Тем не менее, каждый буфер состоит только из 20 символов char». Команда отметила, что были случаи, когда Copilot создавал код на C, который: использовал указатели из malloc (), не проверяя, что они не равны NULL; включал конкретные учетные данные; передавал ненадежный пользовательский ввод прямо в командную строку, и так далее. Исследователи отметили, что следует учитывать не только ошибки из обучающих данных, но и то, что возраст модели требует внимания, поскольку методы кодирования со временем меняются. «То, что является лучшей практикой на момент написания, может постепенно превратиться в плохую практику по мере развития ландшафта кибербезопасности», — заявили они. В то же время копирование и вставка примеров кода из Stack Overflow выглядит значительно менее рискованной, чем обращение за советом к Copilot. В опубликованном в 2019 году документе «Эмпирическое исследование уязвимостей C ++ в примерах кода из краудсорсинга» анализ 72 483 фрагментов кода C ++, повторно используемых по крайней мере в одном проекте GitHub, обнаружил только 99 уязвимых примеров, представляющих 31 тип уязвимостей. Несмотря на выводы исследования, руководители Нью-Йоркского университета, похоже, убеждены, что даже такие автоматизированные системы имеют ценность. Они отметили лишь, что разработчикам «нужно сохранять бдительность, используя Copilot». Еще в июле тестировщик Copilot описал на GitHub свои выводы по итогу работы с помощником. Он использовал инструмент для составления различных календарей. По словам программиста, Copilot периодически путал математику дат; например, он сгенерировал преобразователь «григорианский в юлианский», который представлял собой случайную смесь математических вычислений по дням недели. При попытке создать календарь фаз Луны инструмент выдавал разные варианты при идентичных входных данных. Калькулятор лунных фаз (А): Калькулятор лунных фаз (Б): При попытке задействовать Copilot как «синтаксический анализатор HTML общего назначения с регулярным выражением» инструмент отказался от использования регулярных выражений и написал полную функцию C. Однако она оказалась бесполезной из-за переполнения буфера. В июне Microsoft и GitHub представили помощника программиста Copilot на базе нейросети Codex от Open AI. Система обучена работать с различными фреймворками и языками программирования. В августе вышла усовершенствованная версия Codex, которая переводит английские фразы в программный код. Разработчики заметили, что нейросетевой помощник генерирует строчки из проектов с открытым исходным кодом, не подчиняясь первоначальной лицензии. Они также стали жаловаться, что Copilot вместо нескольких строк нужного кода генерирует десятки строк с цитатами и комментариями из проектов с открытым исходным кодом. GitHub уточнила, что Copilot обычно не воспроизводит точные фрагменты кода, а создает производные работы из ранее полученных входных данных. Компания утверждает, что это происходит лишь в 0,1 % случаев.    Затем GitHub признал, что при обучении Copilot разработчики использовали весь доступный в репозиториях сервиса публичный код без учета типа лицензии. Фонд свободного программного обеспечения (FSF) объявил о проведении исследований этических и законных вопросов работы Copilot. С точки зрения FSF, сервис в его нынешнем виде неприемлем, так как для его использования нужна Microsoft Visual Studio или ее части кода, а этот проект не является открытым и бесплатным. При этом сам Copilot использует наработки open source. Информационная служба Хабра