Одрэ Азуле: «Взять от ИИ только лучшее»

Статья

Одрэ Азуле: «Взять от ИИ только лучшее»

29 июня 2018

Last update:13 июля 2018

Искусственный интеллект (ИИ) способен помочь человечеству в решении многих серьезных социальных проблем. Он же поднимает и немало сложных вопросов в плане этики, прав человека и безопасности. Несмотря на это, до сих пор не существует международных этических рамок, затрагивающих все сферы разработки и применения ИИ. Генеральный директор ЮНЕСКО убеждена: такие рамки необходимы.

Генеральный директор ЮНЕСКО Одрэ Азуле отвечает на вопросы Ясмины Шоповой

Почему ЮНЕСКО интересуется ИИ?

Эксперты единодушны: человечество находится на пороге новой эры. Искусственный интеллект (ИИ) преобразит нашу жизнь так, как мы и представить себе не можем. Изменения уже начались, и они затрагивают все аспекты нашей жизни. ИИ широко применяется в самых различных областях, включая здравоохранение, образование, культуру, безопасность, оборону... В последние годы в этой сфере ведется все больше исследований, значительные средства в ИИ инвестируют не только Интернет-гиганты GAFAM (Google, Apple, Facebook, Amazon и Microsoft), но и многие страны, становясь активными участниками «четвертой промышленной революции».

В эпоху перемен ЮНЕСКО надлежит сыграть значимую роль. Прежде всего, потому что ИИ непосредственно затрагивает сферы компетенции Организации. Глубокой трансформации подвергнется образование. Методики преподавания, средства обучения, получения знаний и подготовки учителей коренным образом изменятся. В этой связи будет возрастать актуальность вопроса о формировании новых навыков, необходимых для существования в мире, который все более автоматизируется.

ИИ уже широко востребован в области культуры. Так, созданные с его помощью трехмерные изображения можно использовать при восстановлении объектов культурного наследия, что мы и намерены сделать в отношении древнего города Мосул в Ираке. ИИ применяется и в науке. Например, в наших экологических программах и подводных исследованиях он используется для классификации изображений планктона и автоматического обнаружения и учета китообразных и морских птиц. Конечно же, достижения в области ИИ самым непосредственным образом отражаются на связи и работе с информацией. ЮНЕСКО надлежит провести тщательный анализ преимуществ и угроз, которые ИИ несет в себе для образования, культуры, науки, коммуникации и информации.

Каковы, по Вашему мнению, эти угрозы?

ИИ может предоставить нам грандиозные возможности по достижению целей, поставленных в Повестке дня на период до 2030 года, но при условии, что этические вопросы, которые он поднимает, начнут решаться без промедления. Да, это наш шанс, так как технологии ИИ помогают быстрее двигаться к реализации Целей устойчивого развития. Они позволяют повысить точность оценки рисков и прогнозирования, ускорить обмен знаниями за счет инновационных решений в образовании, здравоохранении, экологии, урбанизме и творческих индустриях, улучшить качество жизни людей. Но это и риск, ибо автоматизация и так называемая цифровизация создают новые диспропорции, понижают разнообразие культурных индустрий, лихорадят рынки труда, порождают нестабильность, увеличивают неравенство между имеющими доступ к новым технологиям и теми, кто его лишен.

В этом вопросе ЮНЕСКО также призвана сказать свое слово, поддерживая входящие в нее государства и сокращая неравенство в доступе к знаниям и исследовательским разработкам. Существует риск, что технологический разрыв многократно усилит социальное неравенство. ЮНЕСКО должна быть в состоянии помочь своим государствам-членам адаптироваться к новым реалиям и получить доступ к технологиям.

Как именно ЮНЕСКО может оказывать такую поддержку?

Одна из проблем, испытываемых государствами-членами, состоит в нехватке сложного, инновационного инженерно-технического оборудования и достаточно компетентных людских ресурсов – ученых и инженеров. ЮНЕСКО может оказать поддержку и содействовать сглаживанию различий между странами с помощью своих Центров образования и подготовки кадров в области науки, техники и инноваций (НТИ), Глобальной обсерватории инструментов политики в области НТИ (GO-SPIN) и Международной программы по фундаментальным наукам (МПФН).

Какие проблемы поднимает ИИ в области образования? Как ЮНЕСКО намерена их решать?

Пожалуй, это главная для Организации сфера, и для нее текущая революция также влечет за собой как положительные, так и отрицательные последствия. Образовательные компьютерные программы на базе ИИ уже используются для децентрализации и индивидуализации обучения, консультирования студентов по учебным планам и сертификации. Однако эти технологии стоят дорого и потому недоступны большинству людей. Отсюда риск увеличения пропасти между богатыми и бедными.

В качестве ведущего учреждения Руководящего комитета по осуществлению ЦУР – «Образование-2030», который координирует усилия по достижению Цели 4 в области устойчивого развития, посвященной образованию, ЮНЕСКО находится в выгодном положении, чтобы заниматься решением этой проблемы, выявляя то, каким образом ИИ может способствовать обеспечению общедоступности образования, и оценивая его потенциальное воздействие на будущее просвещения.

Одним из наших приоритетов станет распространение технологий ИИ, находящихся в свободном доступе, с целью способствовать инновациям на местном уровне.

Чтобы подготовить подрастающие поколения к тому новому пейзажу на рынке труда, который сейчас рисует ИИ, необходимо будет также переосмыслить образовательную программу, заостряя внимание на точных науках, технологии, технике и математике, не забывая, однако, о первостепенной важности гуманитарных наук и знаний в области философии и этики.

Какова связь между ИИ, философией и этикой?

Надо полагать, в своей взрослой жизни сегодняшние школьники и студенты столкнутся с проблемами, природа которых нам сегодня неизвестна. Трудно предвидеть, как изменятся эти постоянно усложняющиеся машины, каждый день становящиеся немного самостоятельнее, в каком-то смысле уже бросающие вызов человеческой личности. Поэтому знания в области этики, социальных и гуманитарных наук будут в целом столь же важны, сколь и компетентность в области наук точных. Ведь в своей работе интеллектуальная система может использовать и предвзятые данные – например, гендерные предрассудки. В связи с этим требуется обеспечить большую прозрачность таких систем, а для внесения в них корректировок необходимо опираться на твердые этические принципы.

Почему эволюцию ИИ трудно предсказать?

Исследования в области ИИ движутся вперед с весьма большой скоростью, тогда как юридическая, социальная и этическая среда, которая должна их окружать, меняется очень медленно. Насколько автономной может быть та или иная машина в своих действиях и принятии решений? На кого ляжет ответственность при несчастном случае? И кто решает, каковы должны быть ценности, формируемые у машин в ходе их так называемого «обучения»? Сегодня на эти и многие подобные им вопросы ответа все еще нет.

Например, было обнаружено, что системы, обучение которых велось на образцах обычного человеческого языка, «усвоили» предрассудки и стереотипы, содержащиеся в разного рода текстах из нашей повседневной жизни. Как не встревожиться из-за риска однажды стать свидетелем появления робота с дискриминационным, расистским или неприязненным поведением?

Основания для беспокойства имеются и по множеству иных поводов: защита частной жизни и целевая реклама в Интернете, свобода выражения мнений и цензурные алгоритмы, автоматизированная журналистика, монополия на информацию и т. д.

И хотя фундаментальные исследования в этой области в целом полны благих намерений, невольные отклонения – как, впрочем, и преднамеренные – все же возможны. Поэтому необходимо сделать все, чтобы эти технологии развивались в строгом соответствии с установленными этическими нормами.

Что может в этом плане сделать ЮНЕСКО?

Если мы хотим извлечь лучшее из открывающихся перед миром возможностей, надо сделать так, чтобы ИИ служил на благо людям, уважая достоинство и права человека.

Однако до настоящего времени не существует международных этических рамок, затрагивающих все сферы разработки и применения ИИ.

ЮНЕСКО представляет собой уникальный глобальный форум с более чем двадцатилетним опытом разработки международных документов, связанных с биоэтикой и с этикой науки и техники*. Организация также может опереться на два консультативных органа, которые объединяют экспертов, активно работающих в этих направлениях. Это Всемирная комиссия по этике научных знаний и технологий (КОМЕСТ) и Международный комитет по биоэтике (МКБ).

Мы обязаны провести всемирное и просвещенное обсуждение этой проблемы – обсуждение не техническое, а сугубо этическое – с тем, чтобы встретить новую эпоху с открытыми глазами, не жертвуя нашими ценностями, и, если государства-члены сочтут необходимым, привести к общему знаменателю наши моральные принципы.

Дополнительная информация:

Всеобщая декларация о геноме человека и правах человека

Международная декларация о генетических данных человека

Всеобщая декларация о биоэтике и правах человека

Декларация об этических принципах, связанных с изменением климата

Рекомендация в отношении научной деятельности и научных работников

Audrey Azoulay, Director-General of UNESCO, interviewed by Jasmina Šopova

Why is UNESCO interested in AI?

The experts are unanimous: humanity is on the threshold of a new era. Artificial intelligence will transform our lives to an extent that we cannot imagine. This transformation has already begun and it affects all aspects of our lives. AI has many applications in fields as varied as health, education, culture, security, defence, etc. Research has increased considerably in recent years: the giants of the web, FAMGA, but also many countries, are now investing massively in AI, and becoming actors of this “Fourth Industrial Revolution”.

UNESCO has a significant role to play in these changing times. First, because AI’s applications directly affect the Organization’s areas of expertise. Education will be profoundly transformed by AI. Teaching tools, ways of learning, access to knowledge, and teacher training will be revolutionized. The question of what skills to develop in order to evolve in an increasingly automated world will become more and more central.

In the field of culture, AI is already widely applied: for example, 3D imaging is used for heritage reconstruction – as we will do for the old city of Mosul in Iraq. In the sciences too, particularly in our environmental programmes and in underwater research – for the classification of plankton images or the automatic detection and census of cetaceans and seabirds, for example. Communication and information are also directly dependent on advances in AI. UNESCO must lead this reflection on the benefits and risks of AI in education, culture, science and communication and information.

What are the risks, in your view?

In general, AI can be a fantastic opportunity to achieve the goals set by the 2030 Agenda, but that means addressing the ethical issues it presents, without further delay. An opportunity, because its applications can help us to advance more rapidly towards the achievement of the Sustainable Development Goals (SDGs) – by allowing better risk assessment; enabling more accurate forecasting and faster knowledge-sharing; by offering innovative solutions in the fields of education, health, ecology, urbanism and the creative industries; and by improving standards of living and our daily well-being. But it is also a threat, because automation and digitization create new imbalances. They can decrease diversity in cultural industries, disrupt the labour market, create job insecurity and increase disparities between those who have access to these new technologies and those who are deprived of them.

This is where UNESCO also has a role to play – in trying to reduce the inequalities in access to knowledge and research – through the support it provides to its Member States. The technological divide is likely to have a multiplier effect on social inequalities. UNESCO must be able to help its Member States adapt to new realities and access technological knowledge.

How can UNESCO provide this support, concretely?

One of the challenges for Member States is to have sophisticated, cutting-edge engineering materials and adequate human resources – scientists and engineers. Through its Centres for Education and Training in Science, Technology and Innovation (STI), its Global Observatory of Science, Technology and Innovation Policy Instruments (GO-SPIN) and its International Basic Sciences Programme (IBSP), UNESCO is in a position to provide such support – and to help reduce disparities between countries.

What are the challenges posed by AI in education? How does UNESCO intend to respond to these?

This is, of course, a key area for the Organization. Here again, the revolution that is now underway is generating  both positive and negative effects.

Educational software based on AI is already being used to decentralize teaching and personalize it, and to provide students with curriculum advice, or even certification. But these technologies are expensive and therefore inaccessible to the great majority – the gap between rich and poor is likely to widen even further.

As a result of its coordinating role in the SDG-Education 2030 Steering Committee to monitor the achievement of Sustainable Development Goal 4, dedicated to education, UNESCO is in an excellent position to lead this work – by identifying the possible contributions of AI to inclusive education and assessing its potential impact on the future of learning.

Promoting open-access AI tools that will encourage local innovation will be one of our priorities.

To prepare future generations for the new landscape of work that AI is creating, it will also be necessary to rethink educational programmes, with an emphasis on science, technology, engineering and mathematics – but also giving a prominent place to the humanities and to competencies in philosophy and ethics.

What is the relationship between AI and philosophy or ethics?

In their adult lives, today's schoolchildren and students will undoubtedly have to face problems that are currently unfathomable to us. It is difficult to predict all the possible developments of these increasingly sophisticated machines that are gaining a little more autonomy each day – to the point of already challenging human identity, to a certain extent. This is why skills in ethics, but also in the social sciences and the humanities in general, will be just as important as those in the formal sciences. There may also be embedded biases – including gender biases – in AI systems, that require more transparency from these systems and strong ethical principles to correct them.

Why is it difficult to predict future developments in AI?

Research in the field of AI is advancing at a very rapid pace, while the legal, social and ethical environments that are needed to guide it are evolving very slowly. How far can a machine’s autonomy and its decision-making power be allowed to go? If an accident occurs, who is responsible? And who decides what values are instilled in machines during what is called their “training”? These and many other questions remain unanswered today.

It was noticed, for example, that algorithms trained in ordinary human language had acquired prejudices based on stereotypes from textual data present in our everyday culture. How can we not be concerned about the danger of the emergence of machines with discriminatory, racist or hostile behaviours?

There are also many other reasons to be concerned about – privacy protection and targeted advertising on the internet; freedom of expression and censorship algorithms; automated journalism and information monopolies, etc.

Even if fundamental research in this field is largely motivated by well-being, unintentional, but also intentional, deviations are always possible. That is why it is imperative to ensure that this technology develops according to rigorously established ethical standards.

What can UNESCO do in this regard?

If we are to make the most of the possibilities offered by AI to the world, we must ensure that it serves humanity, with respect for human dignity and human rights.

Yet, no international ethical framework that applies to all AI developments and applications currently exists.

UNESCO is this unique universal forum with over twenty years of  experience in developing international instruments related to bioethics and the ethics of science and technology*. It can also rely on the expertise of two advisory bodies working actively on these issues: the World Commission on the Ethics of Scientific Knowledge and Technology (COMEST) and the International Bioethics Committee (IBC).

It is our responsibility to lead a universal and enlightened debate – not a technical debate, but an ethical one – in order to enter this new era with our eyes wide open, without sacrificing our values, and to make it possible, if Member States so wish, to establish a common global foundation of ethical principles.

Share