Этические аспекты искусственного интеллекта

Этические аспекты искусственного интеллекта

Рекомендация

Искусственный интеллект играет важную роль в жизни миллиардов людей. Порой незаметно, но нередко с глубокими последствиями, новейшие технологии преображают наши общества и заставляют задуматься о том, что значит быть человеком.

ИИ может помочь миллионам учащихся в получении среднего образования, заполнить дополнительные 3,3 миллиона рабочих мест и, что более актуально, помочь нам справиться с распространением и последствиями пандемии COVID-19. Наряду с многочисленными преимуществами эти технологии также несут в себе риски и проблемы, связанные с негативными последствиями злонамеренного использования технологий или углубления неравенства и разрыва.

© GettyImages / PeopleImages

Что нам необходимо?

Международная и национальная политика и нормативно-правовая база для обеспечения того, чтобы эти новые технологии приносили пользу всему человечеству.

ИИ, ориентированный на интересы человека.

Как обеспечить верховенство закона в цифровом мире?

В этом видео Габриэла Рамос, заместитель Генерального директора ЮНЕСКО по социальным и гуманитарным наукам, объясняет, как новые технологии преобразуют мир и нашу повседневную жизнь прежде невообразимым образом. Глобальная пандемия еще больше ускорила применение технологий ИИ: от приложений для отслеживания до цифровых платформ для обеспечения непрерывности преподавания и обучения миллионов учащихся. В какой степени можно доверять ИИ? Кто должен нести ответственность, если алгоритм дискриминирует или проявляет предвзятость? Как мы можем обеспечить справедливое распределение экономических выгод от ИИ, а не усиление растущего социального неравенства? ЮНЕСКО находится в авангарде крупнейшего диалога между правительствами, гражданским обществом и частным сектором по созданию прочной основы для верховенства права в цифровом мире.

Что необходимо знать об ИИ

ИИ доказал свою ценность в борьбе с пандемией COVID-19

ИИ способствует замедлению экономического воздействия кризиса с помощью цифровых платформ. Он также помогает исследователям обрабатывать огромные объемы данных в гонке по поиску вакцины или лечения. ИИ участвует в сдерживании распространения вируса с помощью технологий тестирования и отслеживания. Тем не менее, поскольку люди предоставляют доступ к своим данным, использование ИИ во время пандемии вновь вызвало озабоченность в отношении конфиденциальности, защиты и использования данных, которые выходят за рамки потребностей отслеживания вирусов.

Рост, обусловленный ИИ, скорее всего, будет крайне неравномерным

Ожидается, что к 2022 году искусственный интеллект создаст около 4 триллионов долларов США добавленной стоимости. К 2030 году наибольшие экономические выгоды ожидаются в Китае и Северной Америке, на которые придется 70% глобального экономического воздействия ИИ. ИИ имеет динамику «победитель получает все», которую необходимо регулировать: концентрация ИИ в руках нескольких стран с высоким уровнем дохода, скорее всего, оставит развивающиеся страны далеко позади. Последние не будут извлекать или получат лишь незначительную пользу из технологий ИИ и не будут владеть такими технологиями.

© World Economic Forum, Accenture, Gartner, Anders S.G. Andrae et al.

Более того

ИИ способствует увеличению существующего гендерного разрыва

Только 22% всех специалистов в сфере ИИ — женщины. Поскольку они недостаточно представлены в отрасли, гендерные предубеждения и стереотипы воспроизводятся в технологиях искусственного интеллекта. Не случайно виртуальные личные помощники, такие как Siri, Alexa или Cortana, по умолчанию имеют «женские» голоса. Выражаемое ими раболепие и иногда покорность являются примером того, как ИИ может (продолжает) усиливать и распространять гендерные предрассудки в нашем обществе.

ИИ может стать мощным инструментом для решения проблем изменения климата и окружающей среды

По мере того как планета продолжает нагреваться, последствия изменения климата усугубляются. Путем сбора и анализа данных модели на базе ИИ могут, например, способствовать улучшению управления экосистемами и восстановлению среды обитания, что имеет важное значение для уменьшения сокращения популяций рыб и диких животных. При этом извлечение данных потребляет почти 10% энергии во всем мире. Поэтому крайне важно также решить проблему высокого энергопотребления ИИ и последующего влияния на выбросы углерода.

ИИ не может быть зоной без закона

ИИ уже присутствует в нашей жизни, направляя наш выбор, часто таким образом, который может быть вредоносным. В отрасли существуют законодательные пробелы, которые необходимо быстро заполнить. Первым шагом является достижение согласия в отношении того, какие именно ценности должны быть закреплены и какие правила должны соблюдаться. Существует множество рамочных основ и руководящих принципов, но они применяются неравномерно, и ни один из них не является подлинно глобальным. ИИ используется в глобальном масштабе, поэтому нам необходим глобальный инструмент для его регулирования.

Этические аспекты искусственного интеллекта

Эволюция рекомендации

Рекомендация об этических аспектах искусственного интеллекта

Подготовка проекта текста Рекомендации

Специальная группа экспертов

Генеральный директор ЮНЕСКО назначила 24 известных специалиста с междисциплинарным и плюралистическим опытом в области этики искусственного интеллекта для формирования Специальной группы экспертов (СГЭ) в марте 2020 года.

Этой группе было поручено подготовить проект глобального документа по установлению стандартов в форме Рекомендации ЮНЕСКО с должным учетом различных аспектов, включая окружающую среду и потребности стран Глобального Юга.

Президиум СГЭ

СГЭ также избрала свой Президиум, используя онлайн процедуры:

Председатель: г-жа Эмма Рутткамп-Блум

Докладчик: г-н Сан Ук И

Заместители Председателя:    

г-жа Констанца Гомес-Монт
г-жа Ирена Нестерова
г-жа Голестан (Салли) Радван
г-н Питер-Пол Вербек

См. также

Первое виртуальное заседание Специальной группы экспертов

В связи с исключительными обстоятельствами, вызванными пандемией COVID-19, СГЭ провела первый этап своей работы практически с конца марта по начало мая 2020 года.

Рабочий документ предоставил им справочную информацию в качестве отправной точки для размышлений.

СГЭ работала в течение шести недель в рабочих группах, которые координировались шестью ее членами: Роберт Кроплевски, Джули Овоно Ассевини, Голестан (Салли) Радван, Эмма Рутткамп-Блум, Питер-Пол Вербик и Йи Цзэн.

Виртуальные обсуждения также проходили с 20 по 24 апреля 2020 года. В них приняли участие более 40 наблюдателей от государств-членов, ООН и других межправительственных организаций, которые предоставили СГЭ письменные комментарии. В результате СГЭ подготовила первую версию проекта текста Рекомендации в мае 2020 года, которая стала предметом широких консультаций с участием многих заинтересованных сторон в период с конца июня по начало августа 2020 года.

Второе виртуальное заседание Специальной группы экспертов

СГЭ приступила к рассмотрению отзывов, полученных в ходе процесса многосторонних консультаций в середине августа и провела виртуальное заседание с 31 августа по 4 сентября 2020 года для пересмотра первой версии проекта текста. В течение этой недели более 100 наблюдателей от 43 государств-членов, Организации Объединенных Наций и других межправительственных органов, а также НПО зарегистрировались для наблюдения за работой совещания.

Кульминацией этой работы стала доработка первого проекта Рекомендации СГЭ 7 сентября 2020 года.

Многосторонний процесс консультаций

Первая версия проекта текста Рекомендации по этическим аспектам искусственного интеллекта, подготовленная Специальной группой экспертов (СГЭ) в мае 2020 года, претерпела существенные изменения после обширного процесса онлайн-консультаций с участием многих заинтересованных сторон в период с конца июня по начало августа 2020 года. Эти консультации сыграли решающую роль в разработке всеобъемлющего, инклюзивного и плюралистического проекта текста, в котором будут отражены интересы, проблемы и мнения различных заинтересованных сторон, вовлеченных в ИИ.

Партнеры из разных стран мира совместно с ЮНЕСКО организовали этот процесс консультаций на основе трех компонентов:

Консультации по первому варианту проекта Рекомендации были также проведены с системой Организации Объединенных Наций с помощью Комитета высокого уровня по программам (КВУП), что привело к внесению общесистемного вклада Организации Объединенных Наций в деятельность СГЭ.

Разнообразие точек зрения, выявленных в ходе консультаций, было учтено СГЭ при пересмотре первого варианта проекта текста с 31 августа по 4 сентября 2020 года.

Межправительственный процесс и переговоры

Предварительный доклад и первый проект Рекомендации были направлены государствам-членам в сентябре 2020 года для получения их письменных комментариев к 31 декабря 2020 года. Эти письменные комментарии были приняты во внимание Генеральным директором при подготовке ее окончательного доклада по Рекомендации.

Окончательный доклад, содержащий проект текста Рекомендации, был разослан государствам-членам и представлен Специальному комитету правительственных экспертов (Категория II). Заседание специального комитета проходило в два этапа: первый — с 26 по 30 апреля 2021 года, второй — с 21 по 25 июня 2021 года. Межсессионные консультации также были организованы в период с 1 по 18 июня 2021 года (12 дней).

После нескольких месяцев конструктивного диалога и переговоров представители государств-членов ЮНЕСКО согласовали проект текста амбициозной и широкомасштабной новой модели этической разработки и внедрения искусственного интеллекта.

© everything possible / Shutterstock.com

Наши ресурсы

Recommendation on the Ethics of Artificial Intelligence

UNESCO

Artificial intelligence: the promises and the threats

Preliminary study on a possible standard-setting instrument on the ethics of artificial intelligence

UNESCO

Preliminary study on the technical and legal aspects relating to the desirability of a standard-setting instrument on the ethics of artificial intelligence

UNESCO

Preliminary study on the Ethics of Artificial Intelligence

UNESCO

Report of COMEST on robotics ethics