Оракулы нашего времени, или как устроено общество технознания*

удк 130.2

DOI dx.doi.org/10.24866/1997-2857/2019-4/126-136 А.р. латыпова*

оракулы нашего времени,

или как устроено общество технознания**

Статья посвящена аналитике современного типа общества, где медиасреду, уже ставшую естественной средой обитания современного человека, определяют «умные» технологии; они принимают активное участие в формировании социального, политического, экономического, культурного поля, претендуя на обретение собственной агентности. Их роль в производстве, науке, медицине, индустрии развлечений и других сферах растет, и многие функции, которые ранее возлагались на человека, делегируются технике и цифровым медиа, которые функционируют в логике премедиации - предвосхищения событий и формирования актуальной повестки. Еще недавно мы говорили о переходе к постсоциальным обществам знания, где традиционные социальные связи распадаются, коллективное тело фрагментиру-ется, а эксперты (и автоматические экспертные системы) становятся новой элитой, теперь мы фиксируем следующую итерацию - переход к обществам технознания, когда место экспертов занимают искусственные вычислительные системы, способные к обучению, экономическое поведение регулируется цифровыми медиа, а социальное поле вновь пересобирается через медиа компьютерных игр, социальных сетей, стриминговых сервисов и т. п. Базируясь на «умных» технологиях (искусственном интеллекте, нейросетях, машинном обучении), общество технознания предлагает новые конфигурации социального, где человек разделяет властные полномочия с машиной (речь идет как о смещении ролей, так и о кооперации) и все больше доверяет экспертным системам, основанным на обучении. Процесс пересборки отношений между человеком и машиной (его влияние на повседневные практики) представлен на основе анализа принципа устройства искусственных ней-росетевых технологий, а также конкретных примеров их применения, как в области медицины, так и в других сферах.

Ключевые слова: искусственный интеллект, искусственные нейросети, общество технознания, машинное обучение, цифровые медиа, активность объекта

Oracles of our time, or how the society of techno-knowledge works. ALINA R. LATYPOVA

The article is devoted to the analytics of modern society, where «smart» technologies determine the media environment (which has become essential for humans). They take an active part in the formation of the social, political, economic and cultural field, pretending to have their own agency. Their role in the industry, science, medicine, entertainment, and other areas is growing and many functions that were previously assigned to humans are now delegated to technology and digital media functioning in the logic of premediation. If recently we talked about the transition to

* ЛАТЫПОВА Алина Раилевна, сотрудник Центра медиафилософии и Лаборатории исследований компьютерных игр Института философии Санкт-Петербургского государственного университета. E-mail: latypova.al@gmail.com © Латыпова А.Р., 2019

** Работа выполнена при финансовой поддержке гранта РФФИ. Проект № 18-011-00414а. 126 гуманитарные исследования в восточной сибири и на дальнем востокЕ • № 4 • 2019

post-social societies of knowledge, where traditional social ties were disintegrating, the collective body was fragmenting, and experts (and automatic expert systems) were becoming a new elite, now we are observing a new shift to the societies of techno-knowledge, where artificial computer learning systems replace the experts, economic behaviour is regulated by digital media, and the social field is reassembled through the media of computer games, social networks, and streaming services. Based on «smart» technologies (artificial intelligence, neural networks, machine learning), the society of techno-knowledge offers new social configurations, in which humans share power with machines and increasingly trust expert systems, based on training. The process of reassembling the relation between humans and machines is explored through the analysis of the organizational principle of artificial neural network systems and their usage in medicine and other areas.

Keywords: artificial intelligence, artificial neural networks, society of technoknowledge, machine learning, digital media, object activity

Введение

«Спроси у Google» - один из базовых императивов современности. Поисковые онлайн-си-стемы сейчас мало кого могут удивить, они стали неотъемлемой частью нашей повседневной жизни. Технологии развиваются стремительно, и сейчас на пике интереса разнообразные системы искусственного интеллекта, в том числе искусственные нейросети, машинное обучение, генеративные технологии и т. п. Вычислительные системы теперь не просто используются для создания цифрового контента, они его создают. Кроме того, технологии распознавания лиц, как частный случай применения больших данных, также набирают обороты, что провоцирует целый ряд этических, политических, социальных, экономических последствий. Предсказательная роль медиа выходит на первый план. Ремедиа-ционные процессы, когда они медиальные формы включают в себя другие, реализуя двойную логику сокрытия и предъявления своей медиальной природы [11], все чаще сопровождаются процессами премедиации [15], то есть предвосхищения событий на основе аналитики имеющихся данных. Прогностический потенциал медиа уже не просто является элементом нарратива фантастических произведений, но приобретает реальные очертания и находит применение в различных сферах жизни современного человека. В отличие от предшествующих форм медиа (телевидение, радио, фотография и т. п.), которые направлены на работу с прошлым, цифровые медиа, работающие на основе различных технологий искусственного интеллекта, ориентированы на будущее. Более того, «современные медиа не просто дают возможность анализа прошлого и настоящего, они сами инициируют будущие со-

бытия. Социальные сети способны аккумулировать огромный ресурс внимания и направлять его в определенное социально-политическое русло («арабская весна», флэш-мобы, фанатские движения и т. п.). Новые медиа создают повестку. И происходит это не в духе политической инженерии, нет единого центра, из которого исходят команды, сами медиа, распределенный способ их функционирования порождают те или иные события» [6, с. 377]. Таким образом, на первый план выходят системы, которые умеют не только обрабатывать данные, но и адаптироваться к изменяющимся условиям, другими словами, обучаться. В основном они работают с большими массивами данных и выдают все более точные прогнозы. В 1980-е - 1990-е гг. большие надежды возлагали на экспертные системы (системы аналитики данных на основе заданных алгоритмов), но сейчас стало ясно, что их применимость ограничена, а это сказывается на их популярности: к 2016 г. более чем вдвое упал спрос на них [19]. Работа на основе формулируемых инженером правил делает экспертные системы менее адаптивными, нежели искусственные нейросети, создающие свои правила. Возможность обучения делает нейросетевые технологии более гибкими и, как следствие, более перспективными для решения актуальных задач.

От обществ знания

к обществам технознания

В период рассвета экспертных систем гуманитарные и социальные науки откликнулись концепцией «общества знания». Э. Гидденс, Д. Белл, З. Бауман, К. Кнорр Цетина и другие исследователи маркировали современное общество как общество знания, где власть при-

2019 • № 4 • гуманитарные исследования в восточной сивири и на дальнем востоке

127

надлежит экспертам. В эпоху, когда традиция и община больше не могут предложить индивиду способов справляться с вызовами времени (модели мышления, субъективации, социальных отношений терпят крах и не справляются с меняющейся современностью), когда «мы переходим к миру увеличивающихся скоростей, к новым эпифеноменам реальности медиа, к одноразовым предметам и сооружениям <...>, к мобильным формам существования, к ситуации постоянно обновляемого программного обеспечения.» [8, с. 136], ориентиром становится знание, и на сцену истории выходят «умные люди» - эксперты, обращение к которым может помочь понять новую окружающую действительность, сориентироваться в ней. В обществе знания ключевую роль играет не просто знание, но умение работать с ним (отсюда и формируется фигура эксперта). В этом смысле автоматизированные экспертные системы стали незаменимыми помощниками, ведь они могли обрабатывать большие базы данных, применяя наборы правил. Более того, они стали основой для принятия многих решений [16].

Одновременно с ростом значимости знания отмечают «темную» сторону общества знания - атрофию социального. Так, Кнорр Цетина фиксирует упадок социальных отношений (традиционных для индустриальной эпохи), диагностирует переход к постсоциальному состоянию: «Сложные организации разваливаются на системы мелких независимых центров, <...> отчасти теряется структурная глубина иерархически организованных социальных систем, <...> услуги, предоставляемые живым человеком, заменяются автоматизированными электронными услугами.» [3, с. 274].

Очевидно, что концепция общества знания уже не может быть адекватной для описания современной ситуации. Сейчас можно говорить как минимум об обществе технознания, когда на первый план выходят не «умные» люди, а «умные» вещи (способные адаптироваться к изменяющимся условиям), когда обучающиеся нейросети заменяют экспертные системы, а анализ больших данных дает более точные прогнозы, нежели специалисты. Концепция общества технознания предполагает отклик на реальность, где цифровые объекты не только получают слово, но и обзаводятся собственной агентностью (по крайней мере, материальным объектам ее активно приписывают [2]), из инструментов превращаются в акторов. Техноло-

128 ГУМАНИТАРНЫЕ ИССЛЕДОВАНИЯ В ВОС

гии машинного обучения высвобождают созидательный потенциал вычислительных систем, которые могут не только следовать правилам, предложенным человеком, но формировать свои наборы правил и решать поставленные задачи самостоятельно. Деревья решений приобретают ризоматическую структуру, высвободившуюся из-под тотальной власти человека (речь не идет о полной эмансипации1).

В сфере принятия решений также происходят значительные перемены. Автоматизированные системы уже в обществе знания завоевали доверие, однако нейросети сделали заметный шаг вперед. Это связано с возможностью обращения к истории предыдущих решений. Как отмечает Н. Луман, в основе решения (он говорит о человеческом решении) лежит не анализ существующей информации, касающейся конкретной проблемы, а исключительно история решений, принимаемых ранее в связи с этой проблемой [7]. И несмотря на ярлык современного общества как «общества информации» (что не только для Лумана является спорным), она не играет значительной роли в принятии важных решений. Следующий шаг: мы адаптируем данную концепцию принятия решений к автоматизированным системам, в частности к искусственным нейросетям, которые также способны работать со своей историей посредством обучения. Особенно это актуально в связи с обращением к методу обратного распространения ошибки2, когда нейросеть возвращает неправильное значение для корректировки распределения связей. Получается, что машина уже работает не в режиме соотнесения данных и правил, а в режиме постоянной корректировки

1 Искусственные нейросети обладают целым рядом технических ограничений, особенно в области интерпретации символических структур и творчества [17, р. 3], которые, вполне возможно, так и не будут преодолены.

2 Вычислительный метод перераспределения весов (связей) в многослойном перцептроне (математическая или компьютерная модель восприятия информации) для получения более точного результата. Если нейросеть на выходе получает несоответствие в сделанной ей классификации, она возвращает ошибку обратно по цепочке искусственных нейронов и сеть перераспределяет связи. Те нейроны, что участвовали в передаче «неверной» информации, уже с меньшей вероятностью будут передавать сигнал по тому же пути в следующий цикл. Метод был открыт еще в 1970-х гг., но широкое распространение получил значительно позже.

мной сибири и на дальнем востоке • № 4 • 2019

опыта, она оттачивает результат и опирается на те решения, которые уже принимала. Это дает основание говорить о качественно другом положении дел, происходит своего рода антро-пологизация процесса принятия решений - то, что некогда было сугубо человеческим актом, теперь присуще и технике. Демаркационная линия между человеком и машиной уже не выглядит столь отчетливой, как прежде.

Здесь же хотелось бы вернуться к опасениям исследователей относительно упадка социальных отношений и заявить о преждевременной констатации «смерти социального» [1]. С одной стороны, можно последовать за Латуром и заменить категорию «социального» на более подвижные и гибкие понятия, например, «ассоциации», поскольку они способны описывать «гибридную» современность точнее, нежели монолитные конструкции классической социальной теории [5]. С другой стороны, мы можем говорить о реабилитации социального с учетом включения в социальное поле новых неодушевленных акторов. Более того, многие практики, такие как компьютерные игры, возвращают нам опыт социального в его более или менее привычном виде3. Развивающиеся технологии искусственного интеллекта, нейросетей, машинного обучения предлагают все больше проектов, направленных на интегрирование техники в человеческий опыт и гибридные формы социальности. Подобные форм социального преодолевают разрыв между субъектом и природой, проявивший себя в познании в Новое время [4]. Исследовательский взгляд больше не дистиллирует человеческие сущности в качестве субъектов действия, наделяя всех неодушевленных сущностей лишь статусом природных/рукотворных объектов. Теперь нечеловеческие акторы легитимно выступают действующими, что в свою очередь порождает целый ряд следствий, как для науки, так и для общества в целом. Например, исследования и разработка искусственного интеллекта в области моделирования эмоциональных и социальных систем уже активно применяются многими

3 В компьютерных играх, в частности в массовых многопользовательских онлайн-играх, мы зачастую имеем дела с классическими формами социального, в которых прослеживается иерархичность отношений, четко прочерченные ролевые модели, сложившиеся внутриигровые конвенции, социальные нормы, набор санкций, применяемых за их неисполнение и т. п.

компаниями (чат-боты, способные реагировать на эмоциональное состояние клиента и подстраиваться под него), а также используются в сфере компьютерных игр. Конечно, речь не идет о том, что социальный опыт машины равносилен социальному опыту человека, но такие технологии явным образом предлагают гибридные формы социального, когда коммуникация выстраивается нелинейным образом и связь «человек - машина - человек»4 приобретает символическое измерение, где машина - это не просто материальный предмет или интерфейс, но система символического - контейнер знаний, который переходит от одного человека к другому. Пусть традиционная преемственность знаний (из поколения в поколение, от преподавателя к студенту и т. п.) теряет свои позиции в современном обществе, зато ей на смену приходят новые модели взаимодействия.

Искусственные нейросети vs. эксперты

Общество технознания оттесняет не только экспертов, но и классические экспертные системы. Искусственные нейросети, обучающиеся различными способами, формируют новую власть - власть «умных» машин. Предсказательная сила таких систем растет, что смещает акценты в области экспертной оценки. Знание по-прежнему играет важную роль, но кто становится носителем этого знания? Человек или искусственная нейросеть, способная обучаться? Чьи прогнозы точнее? Власть сопряжена со способностью предсказывать, экстраполировать, полагать. Тот, кто может смотреть в будущее, владеет настоящим. Как показал Ницше, память позволила разглядеть горизонт будущего, что в свою очередь дало возможность соотноситься с ними, давать обещания со всеми кровавыми культурными последствиями. Для нас важен жест - возможность смотреть вперед определяет полюс власти. Соответственно, те медиа, что в наибольшей степени ориентированы на будущее (точное будущее), обладают большим властным потенциалом. Далее попробуем показать, каким образом нейросети перехватывают эстафету у экспертов.

Представьте себе ситуацию, вы смотрите телевизор или видео на УоиТиЬе с выступлением известного политика, а позже выясняете, что это видео ненастоящее, ничего такого политик

4 О различных конфигурациях отношений «человек - машина» в контексте современных технологий см.: [18].

не говорил и вообще не принимал участие в этой съемке. Кажется, чем-то напоминает роман Филиппа К. Дика «Предпоследняя истина» (1964). Хотя на самом деле это реальность. На конференции SIGGRAPH 2017 г. ученые продемонстрировали результат работы искусственной нейросети, которая полностью сгенерировала видео речи Барака Обамы. Понять, оригинал это или фейк, невозможно ни машине, ни человеку, если не знать, что это плод генеративных технологий. Мимика лица (включая движение глаз) и движение губ согласованы не только между собой, но и с окружением (освещением). Даже при сопоставлении сгенерированного видео с оригинальным невооруженным глазом увидеть разницу невозможно. Конечно, речь идет не о всесильном искусственном интеллекте, который играет с реальностью, как ему вздумается, но о трудоемком и кропотливом обучении нейронных сетей, построенных на базе генеративных технологий и имеющих очень узкую специализацию. Метод имеет свои ограничения, но тем не менее уже способен создавать «искусственную» медиапродукцию, которая способна конкурировать с оригинальной на уровне человеческого и машинного восприятия. Здесь встает вопрос, можем ли мы до сих пор называть ее «искусственной», если она неотличима от того, что мы привыкли называть естественным? Видео с Бараком Обамой не единственный пример успешно обученной ней-росети. Все помнят распространение в 2017 г. скандальных порновидео от пользователя deepfakes, где лица порноактрис были заменены искусственной нейросетью лицами знаменитостей. Алгоритм постепенно менял лица в роликах в соответствии с образцами, которыми выступали фотографии и видео, доступные в Сети. Хотя качество роликов не всегда было блестящим, подобный эксперимент вызвал широкий общественный резонанс. В 2019 г. после выхода трейлера к игре «Death Stranding» все лица героев были заменены с помощью той же технологии на лицо геймдизайнера игры Хидео Кодзимы, которого таким образом геймеры раскритиковали за излишний эгоцентризм.

С одной стороны, мы видим очередное смещение границ цифрового и до-цифрового, естественного и искусственного, с другой - констатируем вслед за российским теоретиком медиа и философом К.П. Шевцовым тотальность цифровой реальности через лаконичный, но емкий тезис «Все есть фейк». Можем ли мы вообще

выделять регистры оригинального, искусственного, созданного и возникшего в условиях цифры? Если нейросеть порой превосходит человека в решении тех или иных задач, но при этом неспособна решить элементарные с точки зрения человеческого сознания, можно ли признавать ее «умной»? Можно ли говорить о еще одном шаге в направлении симуляции сознания? Или мы безвозвратно остаемся в координатах «китайской комнаты», какие бы блестящие результаты не выдавала машина? Утверждают, что нейросети способны генерировать художественные произведения (музыкальные или произведения изобразительного искусства) не хуже человека, пусть они и не понимают, что они создают. Сеть не знает, что хорошо, а что плохо, но способна создать удивительное разнообразие моделей. Можем ли мы приравнивать произведения машины к произведениям человека, если в них отсутствует понимание, а, следовательно, и сознание?

Эти вопросы, безусловно, важны для понимания новых медиа, но в данном случае нас интересует, как их устройство влияет на знание, опыт и организацию человеческой жизни. Как уже отмечалось, искусственные нейросе-ти узкоспециализированы, они не могут решать любые задачи: цели всегда конкретны и область применения их довольно ограничена. Искусственную нейросеть обучают (иногда это может происходить «с учителей», то есть при непосредственном участии инженера, или «без учителя», когда сеть в процессе обучения обнаруживает правильные варианты решения), для их обучения нужно большое количество информации: для систем распознавания голоса необходима база звуков разной степени сложности, для систем распознавания образов - соответственно, база изображений. Загружаются они вручную либо из уже существующих библиотек, где годами копится нужная информация. За последние годы исследования машинное обучение шагнуло вперед за счет улучшения технологий. Сформировались огромные базы данных, которые способны обрабатывать современные компьютеры. Кроме того, возможность подключаться к ним онлайн освободила разработчиков нейросетей от необходимости сохранять весь объем данных на локальном компьютере, теперь сети могут «обучаться, используя один или несколько примеров сразу в ходе потокового сценария» [10], то есть обращаться к библиотеке, хранящейся на стороннем сервере, в нужный момент. Это высвобождает

колоссальные мощности, которые раньше были заняты нуждами архивации.

Однако проблема работы с данными остается: машине нужно объяснить, что значит тот или иной объект, к какому классу его нужно отнести, как этот объект может быть выражен математически и т. п. Например, искусственная нейросеть может построить математическую модель кружки или ложки, но мы должны предоставить ей большое количество образов этих предметов в разных условиях (разрешение картинки, размер и форма предмета, освещение, ракурс и т. д.) и набор классов, чтобы было ясно, как атрибутировать эти объекты. Такие изображения можно загрузить из имеющихся библиотек (одна из крупнейших ImageNet (Рис. 1) на 2019 г. насчитывает 14 197 122 изображений и 21 841 классов), но аннотации для каждого изображения вводятся вручную. Если быть конкретнее, на фотографии/картинке мы помечаем, в какой геометрической области находится изображение необходимого предмета. Сеть сопоставляет данный набор пикселей с другими, предоставленными ей, и постепенно

формирует знание о том, как «выглядит» этот предмет. Для сети это математическая модель, набор точек на экране, но их порядок становится ей понятен, и уже в следующий раз она может с меньшей вероятностью ошибки классифицировать предмет. Другими словами, в машину всегда нужно вложить некоторое знание, с которым она будет работать (под дальнейшей работой может подразумеваться классификация, модификация, приращение знания и даже генерация нового содержания, вплоть до генерации искусственной нейросетью других ней-росетей, которые направлены на решение еще более специализированных задач).

Сформировать правильные входящие условия и алгоритм обучения - это необходимые условия, которые привносятся в систему извне. Нейросеть в этом смысле нельзя назвать закрытой системой par excellence, несмотря на ее способность создавать внутри себя другие сети. Следовательно, не приходится говорить ни об автономности искусственных нейросетей, ни об их универсальности. Чем сложнее задача, тем объемнее и доскональное должны быть ин-

Рис. 1. Пример подборки в ImageNet

2019 • № 4 • гуманитарные исследования в восточной сивири и на дальнем востоке

131

PHILOSOPHIA РЕГЕПП№

струкции и велики и специализированы объемы загружаемой для обработки информации. Уже на этом этапе вопрос о разумности, сознании искусственных нейросетей снимается. Мы все еще движемся в логике, которую довольно ясно прописал Джон Серл в главе «Сознание, мозг и программы»: какой бы совершенной, многоплановой ни была программа, сколько бы информации в нее ни было загружено, она все равно останется программой, лишенной понимания результатов своей деятельности. Даже если на выходе мы получаем поведение, схожее с поведением человека, мы не можем заключать о наличии сознания у машины, поскольку она работает с формальными символами и инструкциями, лишенными для нее всякого смысла. Такая маши-на/программа/нейросеть может быть блестящим комбинатором, но делать вывод о ее мышлении, имея в посылках формальные символы и процедуры, увы, нельзя. Дж. Серл подробно разобрал аргументы в пользу невозможности построения сознания на основе формальных процедур [9].

Однако не стоит впадать в противоположную крайность и отказывать новым технологиям в способности проявлять активность и действовать так, как если бы они обладали долей сознания, сообразительности и свободой воли. В случае нейросетей подобная активность реализуется не на этапе входных данных или на уровне ее архитектуры, но на этапе обработки

информации и принятия решений. Разберем пример довольно простого (по меркам технологии) многослойного перцептрона (Рис. 2), направленного на распознавание рукописных цифр от 0 до 9 на площади 28 на 28 пикселей. В изображении содержится 784 отдельных пикселя, а в перцептроне - 784 аналогичных нейрона, которые получают сигнал в зависимости от степени заполнения пикселя. То есть если пиксель полностью «заполнен», значение будет 1, если пуст - 0, если же это пиксель на границе фигуры, его значение зависит от степени приближения к тому или другому состоянию. Градиенты серого получают значение между 0 и 1, например, 0,35 или 0,83. Таким образом сеть будет понимать степень «заполненности» пикселей, что позволит ей точнее классифицировать объект. Эти 784 нейрона составляют входящий слой нейросети. Соответственно, выходов у нас 10 (от 0 до 9). Между входящим и выходящим слоями обычно находится 1-2 скрытых слоя, в каждом из которых также будет несколько нейронов (однако их число значительно меньше, чем во входящем слое, например, 15 или 16). Не будем вдаваться в подробности, как рассчитывается число скрытых нейронов, это в данном случае не принципиально. Важно понять, как работает нейросеть. Главная цель скрытых слоев - распределить сигналы по более ограниченным группам, поскольку обрабатывать сразу

13 002 (в нашем примере) входных сигнала не имеет смысла.

Самое интересное происходит на уровне скрытых слоев, здесь нельзя сказать, каким образом осуществляется (пере)распределение весов (связей), почему та или иная связь приводит к активации тех или иных скрытых нейронов (здесь также не будем вдаваться в подробности активации и торможения нейронов). Эти два слоя для нас в данном случае - черный ящик, но именно в нем кроется потенциал активности сети.

Нельзя не упомянуть, что все это становится возможно при применении метода обратного распространения ошибки. Именно так сеть постоянно учится, перераспределяет веса (огрубляя - вероятности связей между нейронами) и путем множества итераций приходит к распознаванию той или иной рукописной цифры. Такая сеть довольно чувствительна к почерку: если у нее закрепился определенный набор пикселей за какой-то частью символа, то отсутствие части пикселей приведет к идентификации ошибки и сеть не распознает ту цифры, которую уже распознавала верным образом ранее, хотя человеческий глаз сделал бы это без проблем. Это частая проблема в работе с искусственным интеллектом - научить его действию, которое человек совершает за долю секунды и даже не задумывается над ним. Приведем пример робота, передвигающегося по комнате, на полу которой рассыпаны игрушки. Даже маленький ребенок легко преодолевает «препятствия» и не наступает на игрушки, в то время как в программу робота нужно загрузить информацию о каждой игрушке с конкретными параметрами, чтобы он смог сгенерировать верный путь. И если положение игрушек изменится, программу нужно будет обновить [12, р. 89]. Конечно, можно усовершенствовать робота камерой и анализировать положение вещей относительно нее, но это также дополнительные усилия по программированию, не говоря уже о реализации возможности обучения. Однако есть области, где машинное обучение набирает обороты и показывает хорошие результаты, что дает нейросетям право конкурировать не просто с человеком, но с экспертом. Речь идет о применении машинного обучения в медицине. Уже многие годы ученые пытаются создавать «полезные» нейросети, которые помогут в диагностике и лечении больных, особенно тяжелыми, труднодиагностируемыми заболеваниями, где превентивное обнаружение недуга может спасти человеку жизнь.

Один из удачных экспериментов в этой области провела группа ученых из США и Канады [13]. С помощью машинного обучения искусственный интеллект учили распознавать заболевания сетчатки не только не заметные невооруженным глазом, но и с трудом распознаваемые без дополнительных процедур. Искусственный интеллект справился с диагностикой лучше, чем эксперты-офтальмологи. Результаты диагностики сети сопоставлялись, с одной стороны, с «золотым стандартом» (он сформировался из результатов уже поставленных диагнозов для 997 пациентов, при этом сканы их сетчаток не попали в тестовую выборку [13, р. 1343-1344]), с другой - с тем, как диагностировали врачи (эксперты). Последние были разделены на две группы, первой группе давали взглянуть только на снимки, второй же предоставляли дополнительно историю болезни и результаты других анализов. И хотя вторая группа экспертов справилась лучше первой (что очевидно), они не смогли опередить нейросеть: искусственный интеллект справлялся на том же уровне, а иногда и превосходил экспертов. На рисунке, взятом из упомянутой статьи [13, р. 1344], видно, насколько близки результаты человека и машины по картографированию сетчатки (Рис. 3). Данный эксперимент показывает, насколько тонкой может быть настройка нейросети и как то, что происходит в «черном ящике» скрытых слоев, может порождать уникальные и практичные решения. Однако специализация сети крайне узконаправленна и работает с конкретным набором болезней, локализованых в определенных участках глаза. В общей сложности было задействовано 14 884 снимка сетчатки, что вновь отсылает нас к проблеме точечного наполнения программы и задает технологические границы сети.

Возвращаясь на уровень анализа устройства нейросети, распознающей почерк, заметим, что нейросеть представляет собой гибрид машинного и активного. Она создается человеком, но обладает зоной собственной активности, скрытой от него5. Особенно это касается гене-

5 Довольно любопытным примером в области взаимодействия искусственных нейросетей и человека выступает совершенствование «умного дома» с помощью машинного обучения. Система анализирует комплекс показателей, включающий внешние факторы (это может быть цена на электричество, температура помещения или температура за окном и т. п.) и пользовательские привычки (время использования прибора, интервал, частота и т. п.). На ос-

Рис. 3. Результат сопоставления работы нейросети и экспертов из эксперимента с диагностикой заболевания сетчатки [13, р. 1344]

ративных технологий, где слепая зона шире, чем в более простых нейросетях. Кроме того, искусственные нейросети постоянно преодолевают собственные границы не только из-за развития технологий, но и благодаря «социальным» сетям. Большое количество пользователей вносит свой вклад в развитие сетей, это может быть активное, целенаправленное участие, а может быть пассивное - как в случае с системами защиты от ботов (появляются при повторной загрузке сайтов, на-

нове получаемой изо дня в день информации алгоритм настраивается на пользователя и создает для него максимально комфортные условия (по крайней мере, в теории). Таким образом, при удачном стечении обстоятельств мы можем наблюдать технико-антропологический симбиоз, гармоничное сосуществование, граничащее с нормализацией (Если программа также будет настроена на алгоритмы «здорового» образа жизни, не станет ли она принуждать пользователя к «нормальным» практикам и вступать в конфликт с его желаниями?). Подробнее о том, как можно применить алгоритм машинного обучения на конкретном примере хлебопечки см.: [14].

пример), которые подразумевают распознавание изображений. В итоге вы включаетесь в процесс обучения сети вне зависимости от вашего желания. Активная роль пользователя проявляется при его участии в различных научных экспериментах. Подобный принцип уже реализуется, правда, пока самые знаковые проекты не связаны непосредственно с нейросетями. Всем известна компьютерная онлайн-игра «Foldit» по синтезу белка или, например, «Planet Hunters», где игрокам предлагается классифицировать планеты, чтобы найти такие, на которых возможна жизнь. Игра работает на аутентичном материале - реальных снимках звездного неба. Таким образом, сообщество игроков способно обнаружить то, что могло скрываться годами от группы ученых. Точечные, но многочисленные классификации порой способствуют лучшему решению задачи, нежели усилия небольшой, пусть и квалифицированной группы. Любопытно, принцип работы этой игры аналогичен тому, как работают рекуррентные нейросети. В них нейроны имеют дело

только с небольшой частью входящей информации, они не обрабатывают ее целиком, а отвечают только за свой небольшой сегмент, что позволяет ускорить процесс обработки информации и сделать его менее зависимым от памяти и мощности компьютера. Это в свою очередь позволяет решать более сложные задачи. Возникает в некотором роде разделение труда, только на уровне искусственных нейронов.

Распределение микрозадач между пользователями (по сути - краудсорсинг) способствует накоплению специализированной информации большого объема, которая в дальнейшем может использоваться в том числе и для обучения искусственных нейросетей. Упомянутый выше ImageNet позволяет каждому желающему загружать изображения в свою базу данных. Соответственно, мы видим, что распределенная сеть работает как внутри нейросети (на скрытых уровнях), так и вне ее, когда подключается «социальная» сеть (сеть пользователей) для работы с информацией.

Заключение

Медиа активны и способны порождать новые смыслы и практики не только на уровне содержания, но и на уровне формы. Искусственный интеллект, нейросети, цифровые объекты в целом существуют в координатах цифровой эволюции, их функционирование способно породить мутации, которые могут привести к нетривиальным и неожиданным способам решения научных задач, выявлению новых трендов, тенденций и т. п. Стоит обратить внимание на скрытые слои сетей, их генеративный потенциал. Развитие искусственных нейросетей может быть не только полезно для решения технических задач, но и применимо в области гуманитарных наук, где работать приходится как с цифрами и показателями, так и с трудно артикулируемыми вещами, с опытом, который тяжело оцифровать, перевести на язык количественных методов. В этом смысле глубокое машинное обучение может помочь совершенствовать качественные методы работы, что значительно увеличит разрешающую способность наук о человеке и обществе.

Мы видим, что развитие разного рода искусственных нейронных сетей, методов машинного обучения способствует возникновению систем, претендующих на роль экспертов в современном обществе. Такие системы не обладают сознанием, не понимают тех выводов, которые делают, но могут выдавать точные прогнозы, классифи-

кации, принимать решения. Они не обходятся без человека, ведь их структура, устройство и оперативность базируются на человеческих навыках, задающих координаты их работы. Однако функция человека по поддержанию работы ней-росетей все больше смещается в сторону технической поддержки, обеспечения работоспособности, хотя и сохраняет творческих потенциал в плане изобретения более совершенных искусственных систем. Общество технознания нельзя назвать идеальным, но оно неизбежно наступает, и мы должны понимать, как оно устроено, чтобы искать обходные пути, стратегии сопротивления контролю и альтернативные способы существования в мире тотальности цифры.

СПИСОК ЛИТЕРАТУРЫ

1. Бодрийяр Ж. В тени молчаливого большинства, или Конец социального. Екатеринбург: Изд-во Уральского университета, 2000.

2. Ерофеева М. О возможности акторно-се-тевой теории действия // Социология власти. 2015. Т. 27. № 4. С. 51-71.

3. Кнорр-Цетина К. Социальность и объекты. Социальные отношения в постсоциальных обществах знания // Социология вещей: сборник статей. М.: Издательский дом «Территория будущего», 2006. С. 267-306.

4. Латур Б. Нового времени не было. СПб.: Издательство Европейского университета в Санкт-Петербурге, 2006.

5. Латур Б. Пересборка социального: введение в акторно-сетевую теорию. М.: Издательство Высшей школы экономики, 2014.

6. Латыпова А.Р., Ленкевич А.С. Премедиа-ция // Медиареальность: концепты и культурные практики: учебное пособие. СПб.: Фонд развития конфликтологии, 2017. С. 373-378.

7. Луман Н. Решения в «информационном обществе». Проблемы теоретической социологии. Вып. 3. СПб.: Издательство СПбГУ, 2000.

8. Савчук В.В. Медиафилософия. Приступ реальности. СПб.: Издательство РХГА, 2014.

9. Серл Дж. Сознание, мозг и программы [Электронный ресурс]. - Режим доступа: http:// alt-future.narod.ru/Ai/searle1.htm#_ftn1

10. Alpaydin, Е., 2016. Machine learning: the new AI. Cambridge: MIT Press.

11. Bolter, J.D. and Grusin, R., 1999. Remediation: understanding new media. Cambridge: MIT Press.

12. Broussard, M., 2018. Artificial unintelligence: how computers misunderstand the world. Cambridge: MIT Press.

13. Fauw, J., Ledsam, J.R., Romera-Paredes, B. et al., 2018. Clinically applicable deep learning for diagnosis and referral in retinal disease. Nature Medicine, Vol. 24, pp. 1342-1350.

14. Goubko, M., Kuznetsov, S., Neznanov, A. and Ignatov, D., 2016. Bayesian learning of consumer preferences for residential demand response. IFAC-PapersOnLine, Vol. 49, no. 32, pp. 24-29.

15. Grusin, R., 2010. Premediation: affect and mediality after 9/11. New York: Palgrave Macmillan.

16. Kvesko, S., Kornienko, A., Kvesko, B. and Chicherina, N., 2018. Expert systems as the basis of decisions in the knowledge society. MATEC Web of Conferences, Vol. 155.

17. Oleinik, A., 2019. What are neural networks not good at? On artificial creativity. Big Data & Society, Vol. 6, pp. 1-13.

18. Tsvetkova, M. et al., 2017. Understanding human-machine networks: a cross-disciplinary survey. ACM Computing Surveys, Vol. 50, no. 1.

19. Wagner, W.P., 2017. Trends in expert system development: A longitudinal content analysis of over thirty years of expert system case studies. Expert Systems with Applications, Vol. 76, pp. 85-96.

REFERENCES

1. Baudrillard, J., 2000. V teni molchalivogo bolshinstva, ili Konets sotsialnogo [In the shadow of the silent majorities, or the end of the social]. Ekaterinburg: Izd-vo Ural'skogo universiteta.

2. Erofeeva, M.O., 2015. O vozmozhnosti aktorno-setevoi teorii deistviya [On the possibility of an actor-network theory of action], Sotsiologiya vlasti, Vol. 27, no. 4, pp. 51-71.

3. Knorr Cetina, K., 2006. Sotsialnost' i ob'ekty. Sotsialnye otnosheniya v postsotsialnykh obshchestvakh znaniya [Sociality with objects. Social relations in postsocial knowledge societies]. In: Sotsiologiya veshchey: sbornik statei. Moskva: Izdatelskii dom «Territoriya budushchego», pp. 267-306.

4. Latour, B., 2006. Novogo vremeni ne bylo [We have never been modern]. Sankt-Peterburg: Izdatel'stvo Evropeiskogo universiteta v Sankt-Peterburge.

5. Latour, B., 2014. Peresborka sotsialnogo: vvede-niye v aktorno-setevuyu teoriyu [Reassembling the social: an introduction to actor-network theory]. Moskva: Izdatel'stvo Vysshey shkoly ekonomiki.

6. Latypova, A.R. and Lenkevich, A.S., 2017. Premediatsiya [Pre-mediation]. In: Mediareal'nost': kontsepty i kulturnye praktiki: uchebnoe posobie. Sankt-Peterburg: Fond razvitiya konfliktologii, pp. 373-378.

7. Luhmann, N., 2000. Resheniya v «informatsi-onnom obshchestve». Problemy teoreticheskoi sotsiologii [Decisions in the «information society». The issues of theoretical sociology]. Vyp. 3. Sankt-Peterburg: Izdatel'stvo SPbGU.

8. Savchuk, V.V., 2014. Mediafilosofiya. Pristup real'nosti [Mediaphilosophy. Attack reality]. Sankt-Peterburg: Izdatel'stvo RKhGA.

9. Searl, J. Soznanie, mozg i programmy [Minds, brains, and programs]. URL: http://alt-future.narod. ru/Ai/searle1.htm#_ftn1

10. Alpaydin, E., 2016. Machine learning: the new AI. Cambridge: MIT Press.

11. Bolter, J.D. and Grusin, R., 1999. Remediation: understanding new media. Cambridge: MIT Press.

12. Broussard, M., 2018. Artificial unintelligence: how computers misunderstand the world. Cambridge: MIT Press.

13. Fauw, J., Ledsam, J.R., Romera-Paredes, B. et al., 2018. Clinically applicable deep learning for diagnosis and referral in retinal disease. Nature Medicine, Vol. 24, pp. 1342-1350.

14. Goubko, M., Kuznetsov, S., Neznanov, A. and Ignatov, D., 2016. Bayesian learning of consumer preferences for residential demand response. IFAC-PapersOnLine, Vol. 49, no. 32, pp. 24-29.

15. Grusin, R., 2010. Premediation: affect and mediality after 9/11. New York: Palgrave Mac-millan.

16. Kvesko, S., Kornienko, A., Kvesko, B. and Chicherina, N., 2018. Expert systems as the basis of decisions in the knowledge society. MATEC Web of Conferences, Vol. 155.

17. Oleinik, A., 2019. What are neural networks not good at? On artificial creativity. Big Data & Society, Vol. 6, pp. 1-13.

18. Tsvetkova, M. et al., 2017. Understanding human-machine networks: a cross-disciplinary survey. ACM Computing Surveys, Vol. 50, no. 1.

19. Wagner, W.P., 2017. Trends in expert system development: A longitudinal content analysis of over thirty years of expert system case studies. Expert Systems with Applications, Vol. 76, pp. 85-96.