Разум вне игры

Если когда-то словами года в технологической сфере были «нанотехнологии», потом «биг дата» и «блокчейн», то в 2021 году явным лидером стал «искусственный интеллект». С подачи главы государства и следуя его поручениям, чиновники стройным хором заявляли, что совсем скоро делегируют нейросетям значительную часть полномочий: заставят их искать противоправный контент в интернете, преступников на улицах и общаться с гражданами онлайн. Но пока адекватность такого «внешнего разума» оставляет желать лучшего, а перспективы его дальнейшего распространения и вовсе грозят проблемами, полагает корреспондент отдела медиа и телекоммуникаций Татьяна Исакова.

Корреспондент отдела медиа и телекоммуникаций «Ъ» Татьяна Исакова

Фото: Глеб Щелкунов, Коммерсантъ

В контексте усиливающейся в стране цифровой повестки частотность упоминания во всех федеральных СМИ искусственного интеллекта (ИИ) выросла с 97 тыс. раз в 2019 году до 148 тыс. раз в 2021-м. Хотя «официальная» история технологии в России началась как раз в 2019 году, когда Владимир Путин поручил кабмину, «Сберу» и другим организациям разработать подходы к национальной стратегии развития ИИ, до дела дошло только в начале 2021 года, когда было поручено активно стимулировать внедрение технологии в отраслях экономики, социальной сфере и госсекторе.

Чиновники словно вспомнили все научно-фантастические фильмы и романы, которые вдохновляли их в юности. МВД запросило финансирование на внедрение ИИ для поиска серийных преступников, видимо, пересмотрев «Пятый элемент» 1997 года, где полиция использует технологию моментальной идентификации личности. Камеры в Москве власти решили оснастить функционалом для распознавания не только людей, но и мусора, животных и пробок на дорогах, а также системой аналитики, способной предугадывать происшествия, как в «Особом мнении» 2002 года. А внедрение компьютеров, выполняющих голосовые или текстовые команды, будто родом из «Бегущего по лезвию» 1982 года, анонсировали в программах цифровой трансформации почти все министерства и ведомства.

Повсеместные разговоры о цифровизации и внедрении ИИ в стране уже стали предметом насмешек и даже легли в основу сюжета нескольких вирусных видеороликов о кибербудущем России.

Но если отбросить сарказм, ИИ как в России, так и в мире пока находится на начальном этапе развития, и его внедрение в ряде случаев может не то что не помочь, но и обернуться во вред.

Так, умные голосовые боты, работающие на основе обучающихся нейросетей, уже могут общаться между собой и даже принимать решения, которые вряд ли обрадуют пользователя. В ноябре широкий резонанс получила история о том, как голосовой помощник «Олег», разработанный Тинькофф-банком, который может отвечать на звонки, когда абонент недоступен, поговорив с ботом оператора Tele2, подключил ни о чем не подозревающему хозяину новый тариф на сотовую связь. А все потому, что искусственный интеллект Tele2 воспринял вежливый ответ «хорошо» другого интеллекта как согласие на услугу.

Проблемой выглядит и предвзятость систем ИИ, возникающая из-за переноса человеческих предубеждений в скоринговые алгоритмы обучения. Так, например, всего за сутки общения с молодежью в Twitter чат-бот Tay от Microsoft научился ругаться и стал делать расистские высказывания. Сложности бывают и с неуместным чувством юмора, которое разработчики пытаются развить в роботах. Тот же общительный «Олег» как-то на вопрос клиента «Где посмотреть историю операций по карте?» ответил «В голове». Правда, сразу оговорился и добавил, что решил просто поболтать.

Умные системы распознавания лиц пока так же далеки от идеала. Вот, например, китайский топ-менеджер Дун Минчжу, входящая в список 100 самых влиятельных женщин по версии Forbes, неожиданно оказалась на «доске позора» одного из китайских перекрестков. Дело в том, что в Китае ИИ распознает пешеходов, перебежавших дорогу в неположенном месте, а затем публикует их имена и фото на табло. Дун Минчжу не перебегала дорогу, но ее фото было на проезжавшем мимо автобусе с рекламным плакатом. Вышел неприятный конфуз. А моей знакомой в пандемию пришел штраф за нарушение самоизоляции во время болезни, в то время как из дома она не выходила. При просмотре видео с камеры стало ясно, что нейросеть приняла за нее сестру, которая живет в другом районе города.

ИИ становится проблемой и для блогеров.

В этом году создатели контента на разных платформах стали чаще сталкиваться с автоматическими блокировками постов: например, алгоритмы «Яндекс.Дзена» не позволяют авторам опубликовать улучшенный текст, если он уже был в сети, а также могут принять произведение искусства за порнографию, как произошло с публикацией о скульптуре Эдгара Дега «Маленькая четырнадцатилетняя танцовщица». Ее ограничили в показах из-за нецензурного контента.

С учетом того что глава Роскомнадзора Андрей Липов в уходящем году прямо заявил о намерении подключить ИИ к поиску запрещенного контента в интернете, можно ожидать, что уже в 2022 году (именно тогда ведомство планирует запустить систему ИИ «Окулус») число проблем, связанных с технологией, вырастет. И очень хочется надеяться, что чиновники и бизнес в стремлении к инновациям все же не будут полностью отключать реальный разум. Как говорил герой одного известного сериала — если компьютер влюбится в программистку или покончит с собой из-за лишнего веса, тогда, может быть, я поверю в искусственный интеллект.

Каким нам запомнился 2021-й