У нейросети заклинило шестеренки

Появление новых технологий, принципы работы которых еще не вошли в корпус всеобщего знания, исторически пробуждает в людях разную реакцию: в одних случаях это желание понять принцип действия, в других — неприятие, основанное на предубеждениях. Недавно такой популярной, но мало кому действительно понятной темой были рекомендательные алгоритмы в интернете, теперь пришел черед генеративных нейросетей.

Юрий Литвиненко

Фото: Эмин Джафаров, Коммерсантъ

На днях председатель партии «Справедливая России — За правду» (СРЗП) Сергей Миронов возмутился результатами работы новой версии нейросети Kandinsky от Сбербанка. Ему не понравилось, что неким «представителям экспертного сообщества» не удавалось генерировать с ее помощью флаг России в правильных цветах или ожидаемый ими образ «Z-патриота». Неясно, пытался ли лидер СРЗП сам проверить эту информацию, зато он попросил об этом генерального прокурора Игоря Краснова с опасением, что разработка Сбербанка «формирует негативный образ России».

Активные пользователи генеративных нейросетей давно в курсе их ограничений и специфики работы с ними: чтобы заставить те же Midjourney или Stable Diffusion изобразить что-то конкретное, порой необходимо задать очень точные параметры — вплоть до указания стиля изображения (например, «реальное фото»). К тому же многие нейросети натренированы на наборах данных, не включающих в себя новейшие реалии. Например, у вышедшей в марте GPT-4 таким сроком отсечения служит сентябрь 2021 года.

Депутатское тестирование компьютерных технологий имеет давнюю традицию. Чарльз Бэббидж (1791–1871), изобретатель разностной и аналитической машин (последнюю принято считать протокомпьютером), писал в мемуарах, что члены британского парламента неоднократно спрашивали его: «Если вы введете в машину неверные значения, выдаст ли она верные ответы?» — «Я не в состоянии правильно понять ту путаницу понятий, которая могла вызвать такой вопрос»,— поражался изобретатель.

Порой парламентарии не ограничиваются вопросами к авторам новых технологий, а сразу переходят к ответам. Так, во время публичных слушаний в Конгрессе США в 2018 году конгрессмен Ламар Смит спросил гендиректора Google Сундара Пичаи, мешает ли что-то сотрудникам компании манипулировать результатами поиска. После этого, не дав собеседнику даже ответить, он сказал: «Мое время истекло, поэтому просто отвечу, что не согласен с вами».

Сам факт прогрессивности той или иной технологии не может автоматически избавлять ее от критики. В конце концов, технику будущего делают люди настоящего со своим набором приоритетов и представлений о мире. Но возможно, если ставить перед машиной корректные вопросы, она будет работать.