Границы человека и машины

Границы человека и машины

Роман Душкин

Директор по науке и технологиям в Агентстве Искусственного Интеллекта

Саркис Григорян:

Добрый вечер! Сегодня четверг, 19:00, как обычно мы встречаемся в передаче «Искусство интеллекта», где обсуждаем всё, что связано с искусственным интеллектом. Сегодня у нас в гостях очень интересный гость, Роман Душкин, директор по науке и технологиям агентства искусственного интеллекта, также автор курса по искусственному интеллекту, который он делает совместно с Томским государственным университетом. И просто очень интересный собеседник. Сегодня мы немножко от технической стороны программирования нейронных сетей и так далее, может быть, уйдём и поговорим о самом понимании, что такое интеллект, как мы вообще понимаем, что такое сознание. Если мы говорим, что это интеллектуальная машина, как мы можем её сравнить, насколько она интеллектуальная. Все вот эти вопросы мы сегодня обсудим, постараемся, чтобы вам было понятнее. Роман, спасибо, что пришёл.

Роман Душкин:

Спасибо, Саркис, что пригласил. Я немножко поправлю, это Томский государственный университет в соавторстве со мной сделал курс. На самом деле, курсов у меня целых семь уже, в том числе, и по философии сознания, которая является сегодня у нас центральной темой, как я понимаю.

Саркис Григорян:

Смотри, очень интересный вопрос. На прошлой передаче в беседе с Игорем Балком, когда я затронул вопрос того, что говорят о том, как мы можем быть порабощены роботами и все вот эти страшные темы, Игорь сказал очень интересную вещь. Это разница американского и российского менталитета. Он говорит, OK, есть ещё другое, это то, когда мы, условно, создадим искусственный интеллект, он будет настоящий, и как люди будут его использовать, не будут ли люди угнетать его, и какие права будут у этих машин. И здесь очень интересный вопрос тогда получается, насколько мы можем сопоставить интеллект машины и человека вообще. Из этого вытекает вообще другой вопрос, что такое искусственный интеллект. Потому что мы видим очень разные виды интеллекта в природе. Если мы с самого низа, есть бактерии, которые по одной и ничего из себя не представляют, но вместе, группой какие-то интеллектуальные вещи делают. Есть грибы, много исследований, что грибница разрастается и определённые задачи какие-то решает свои. Есть условные муравьи, которые каждый сам по себе, может быть, не такой интеллектуальный, но когда они в группе, или как пчёлы они решают какие-то очень сложные задачи. То есть это тоже какие-то виды все интеллекта. Такой же, как и у нас или как у енота какого-нибудь. Что вообще такое интеллект с точки зрения философии, как мы здесь его можем определить, и как мы его можем вообще его обозначить. Животный он или не животный, как ты считаешь, как ты думаешь?

Роман Душкин:

Давайте я отвечу на этот последний вопрос, что такое интеллект. Как такового определения такого точного математического, научного нет. Это философская концепция, которая в разных философских школах, течениях определяется по-разному. Но она, сам по себе интеллект является чуть ли не центральной концепцией всей философии. Потому что какой главный вопрос философии? Взаимодействие сознания и бытия. Интеллект - это то, где рождается сознание. Но не совсем так, потому что сознание, скорее всего, может быть и без интеллекта. Я думаю, мы об этом ещё поговорим в эфире. Фактически, человеческий интеллект определяется через его свойства. То есть эксплицитно. Если человек показывает несколько, примерно десяток разных свойств, даже не свойства, а таких психических процессов, процессов психики, которые происходят у нас в голове, то считается, что этот человек, он разумный, он показывает разумное поведение. Я могу перечислить эти свойства, я себе такую сделал небольшую шпаргалку. Восприятие, мы воспринимаем. Все живые существа тоже воспринимают. Интеллект характеризуется памятью, память должна быть. Мышление, а за ним идёт речь. И вот речь как раз как вторая сигнальная система, как символьная система, которой мы можем абстрагировать нашу реальность, воспринимаемую реальность. И она как раз характеризует интеллектуальное существо высокого уровня в отличие от интеллектуальных существ низкого уровня, о которых мы тоже сейчас поговорим. Хотя, с другой стороны, мы не знаем, может быть, они тоже как-то друг с другом общаются, просто у нас нет каналов взаимодействия с ними, мы не можем оценить их интеллект. Но самые высшие психологические функции, это воображение, внимание, воля и, самое главное, это рефлексия. В принципе, рефлексия. Мы обращаемся к самим себе, мы можем осмысливать свои собственные мысли, свои собственные внутренние состояния. И вот это очень важные характеристики интеллекта, в том понимании, как мы можем это наблюдать у самих себя и по поведению других людей. Это очень важная штука, что мы, фактически, объективно оценить не можем наличие сознания и интеллекта у другого существа. Это исключительно такая субъективная штука, и наука очень долгое время отказывалась вообще воспринимать сознание как таковое, интеллект и разум, как те объекты изучения, к которым можно подступиться при помощи научного подхода. Потому что это исключительно такая субъективно воспринимаемая штука. Оценить их объективно при помощи какого-то инструментального контроля затруднительно, очень затруднительно. Особенно такие категории, как субъективная квалиа, которую мы воспринимаем, а некоторые учёные и философы вообще отказывают им в наличии. То есть они говорят, что никаких квалий не существует, это все выдумки. Но извините меня, я их воспринимаю прямо сейчас, здесь и сейчас я их воспринимаю, как это их не существует. Это я отвлёкся. И теперь я перехожу к предыдущему вопросу, предпоследнему, что же такое искусственный интеллект. Там все любят говорить, что единого определения нет, это очень расплывчатое понятие. Я сейчас дам определение, которое очень понятное, конкретное и простое, и оно было с самого начала. Было предложено отцами основателями искусственного интеллекта. Когда в 1956-м году собрались 20 учёных в Дартмутском колледже и предложили, это было очень конкретное, простое определение. И не нужно сейчас ничего выдумывать, мне кажется, это исходит из непонимания того. Кто-то где-то услышал «искусственный интеллект», а что это такое не понимает, и начинаются вот эти придумки, что определения нет. Есть определение. Искусственный интеллект - это междисциплинарное направление исследования, целью которого является постижение природы нашего разума, нашего собственного интеллекта, человеческого. Почему? Саркис, можете немножко пофантазировать.

Саркис Григорян:

Почему? Во-первых, наверное, он нам более-менее, я бы не сказал, что он нам, наверное, ближе к пониманию, чем другой разум. Потому что мы сами с собой, изнутри на себя проще посмотреть.

Роман Душкин:

Это несомненно, да.

Саркис Григорян:

Мне, условно говоря, в свою голову проще залезть, понять какие-то мотивы, чем даже в твою.

Роман Душкин:

Абсолютно.

Саркис Григорян:

Хотя мы вроде представители одного, не вроде, а мы представители одного вида, высшие приматы, люди. Я думаю, исходя из этого. Кстати, вот про эту встречу. Это не та ли встреча, когда учёные встретились все, они посчитали, что они сейчас за лето быстро, за два месяца опишут все функции человеческого интеллекта и сделают настоящий искусственный интеллект.

Роман Душкин:

Абсолютно.

Саркис Григорян:

Это та история.

Роман Душкин:

Это тот самый Дартмутский семинар, и Джон Маккарти тогда, он провозгласил термин Artificial Intelligence, которым назвали вот это междисциплинарное направление исследований. Какая его цель? Познание природы нашего собственного интеллекта, нашего собственного разума. Почему, потому что мы не можем залезть в голову друг другу. Во-первых, это неэтично, как можно раскрыть черепную коробку и копаться там в сером веществе. Во-вторых, это невозможно. Даже если мы раскроем черепную коробку, мы найдём там кусок мяса, биологический субстрат. А как в нём внутри поевляется интеллект и сознание, мы не сможем понять, копаясь в нём скальпелем или применяя к нему какие-то электрические потенциалы. И тогда возникла идея, давайте мы высшие когнитивные функции смоделируем на компьютере. Вот эта идея была. Мы поработаем тут два месяца, 20 учёных собрались, два месяца поработаем, мы большинство когнитивных функций человека смоделируем на компьютере и на модели будем изучать. Будем изучать природу нашего собственного разума. Отсюда всё и завертелось. Им это не удалось, у них не получилось смоделировать так, как они хотели, но зато был дан старт вот этому направлению. И уже потом, через несколько десятилетий появилось много прикладных решённых задач при помощи технологий искусственного интеллекта, как мы теперь говорим. То есть если искусственный интеллект, это направление исследований, задачей которого является постижение природы нашего человеческого интеллекта, естественного, то в процессе этих исследований было найдено очень много важных и интересных моделей, которые получили прикладное значение. И эти прикладные модели вылились в появления разных технологий: нейронные сети, системы, основанные на знаниях, NLP, не нейролингвистическое программирование, а обработка естественного языка. NLP здорового человека.

Саркис Григорян:

Как я недавно пошутил, что CNN для меня уже не телеканал.

Роман Душкин:

Convolutional Neural Network.

Саркис Григорян:

Да.

Роман Душкин:

И я закончу, соответственно, в процессе вот таких исследований появилось много таких технологий, мы стали решать прикладные задачи. Решая эти прикладные задачи, мы стали строить искусственные интеллектуальные системы. В обывательском понимании под термином «искусственный интеллект» стали пониматься вот эти искусственно-интеллектуальные системы, в которых интеллекта отдана та самая когнитивная функция, которая моделируется конкретной искусственно-интеллектуальной системой. Вот и всё.

Саркис Григорян:

Смотри, ты когда говорил, когда мы говорили о том, что залезть в чужой мозг сложно, а ещё до этого ты между делом сказал, что может быть, у них, у животных есть свой интеллект, они на каком-то уровне общаются, но нам это не дано понять, мы ограничены в этом. Я вспомнил прекрасную историю с Го, когда сначала AlphaGo, потом AlphaZero разгромил всех чемпионов.

Роман Душкин:

Китайцы плакали, смотря на это.

Саркис Григорян:

Да, и это классно, это дало очень большой такой старт, задел китайцам, там начало всё бешено развиваться.

Роман Душкин:

Момент спутника у них наступил.

Саркис Григорян:

Они как-то это, как личную обиду восприняли, как личный вызов. Но самое, что мне здесь интересно и к чему я это вспомнил, что игроки, присутствующие люди, которые были при матче. все как один говорили, что они абсолютно не понимали, каким образом и почему компьютер так ходит, что он им показал в этой игре, которая у нас считалась самая человеческая и о которой буквально год с лишним назад говорили, что только через 10 лет компьютер сможет победить.

Роман Душкин:

Через пять.

Саркис Григорян:

Кто как у нас. Но имеется в виду, что это очень быстро произошло. И получается так, что то, в чем мы считали, что мы круче, умнее, самые профессионалы в этой игре говорят, что целые области игры оказываются просто недоступны нашему пониманию, мы просто не можем это понять. То есть здесь всё-таки разница интеллектов есть, где просто нашему недоступно, ограниченность какая-то нашего интеллекта должна быть, как таковая. Что на этот счёт ты скажешь? Это же очень интересный такой вопрос, где именно мы граничим. Грубо говоря, если мы создадим какую-то систему, сможем ли мы понять, если она будет выше нас сильно интеллектуальнее, сможем ли мы понять, что она интеллектуальная. Или она нас сможет, условно говоря, обмануть и это будет какой-то бог, который сверху всё видит и слышит, условно говоря, решает, а мы тут делаем вид, что мы самые умные. Вот этим как?

Роман Душкин:

Саркис, ты сейчас переплёл очень много разных мыслей и идей, которые надо сейчас разбирать. Они друг с другом не связаны. Бог, который наблюдает.

Саркис Григорян:

Я образно говорю, что есть разница.

Роман Душкин:

Я сейчас все объясню, постараюсь объяснить. Что касается непознаваемости ходов в Го, которые сделала AlphaZero, мне кажется, тут немножко журналисты приукрашивают все это.

Саркис Григорян:

Лукавят.

Роман Душкин:

Не то, что лукавят, но приукрашивают. Все же гонятся за медийной известностью и так далее. То, что машина совершила какой-то ход, игроки, которые тысячи лет играют в это Го, целые династии игроков из поколения в поколение передают, а машина совершает ход, который, как было написано, «нечеловечески красив», но никто его не мог понять из людей, осмыслить. Это не значит, что мы его понять не можем. Это значит, что в какой-то момент, когда эта теория игры в Го и практика игры в Го развивалась, люди рассматривают небольшие подмножества деревьев решений, как это проходить. И этот ход был просто отсеян, как ход, который не был интересен, потому что в ближайшей стратегической перспективе он ни к чему не вёл. Его никто никогда не рассматривал. Это не значит, что мы, люди, его не можем осмыслить. Сидит там теоретик игры в Го, подумает немножко, поймёт, почему он так нечеловечески красив и он также станет человечески понятен. Что касается, меня очень забавляет, когда говорят, что мы, наш интеллект изучаем, он нам доступен через личное восприятие, а других людей мы не можем понять. Но я боюсь огорчить и тебя, и наших слушателей, что нет никаких причин доверять даже самим себе.

Саркис Григорян:

Я согласен. Я в данном случае имел в виду, что наш нам более доступен, как нам кажется, чем интеллект другого, потому что понятно, есть куча исследований, которые говорят о том, что мы сначала уже где-то внутри принимаем решение, а потом нам кажется, что это мы приняли. Много что есть неосознанного.

Роман Душкин:

Тут небольшое лукавство. Неосознанного много.

Саркис Григорян:

И именно вопрос того, где реально мы решили, а где не мы, это тоже вот грань такая, не всегда понятная.

Роман Душкин:

Это что такое, что значит мы решили. Любое наше решение, любое решение моё, это моё решение, потому что в голове у меня никого нет. И ни у кого в голове никого нет.

Саркис Григорян:

Согласен. Но давай так, у нас есть то, та часть, которая у нас.

Роман Душкин:

Волеизъявление называется.

Саркис Григорян:

Да, а есть та, часть, которая нам досталась эволюционно, которая там тащится очень долгое время, передаётся от самых простейших, далее, далее, у приматов и так далее. То есть есть животная часть, которая нам недоступна для какого-то понимания.

Роман Душкин:

Почему недоступна?

Саркис Григорян:

По крайней мере, все психологи говорят, что мы туда не можем залезть.

Роман Душкин:

Мы туда сознательно не можем залезть.

Саркис Григорян:

Да, сознательно не можем, я об этом и говорю. Не можем сознательно, а здесь можем.

Роман Душкин:

Смотри, за что отвечает эта животная часть? Она отвечает за базовые функции, необходимые организму для выживания?

Саркис Григорян:

Да.

Роман Душкин:

Бег, размножение, еда, спрятался, поспать и так далее.

Саркис Григорян:

Ориентировочные рефлексы.

Роман Душкин:

То, что находится в стволе головного мозга. Поднимаемся чуть выше, лимбическая система, которая есть уже у теплокровных животных. Она отвечает за эмоциональный ответ такой высшей эмоции. Не просто эмоции, которые даже у растений существуют, а высшие эмоции, которые позволяют достаточно быстро реагировать на те или иные изменения внешней среды. Эмоции - это первая сигнальная система, которая позволила организмам как-то реагировать на изменение стимулов внешней среды. И только потом появилась нервная система, как более быстрая сигнальная система. Возник у млекопитающих неокортекс, где обрабатывается уже символьная информация. Но у нас вся эта эволюционная штука осталась. Я хочу сказать, что специалисты, я сейчас постараюсь перевести вот эту штуку на язык специалистов информационных технологий. Те разработчики, которые занимаются созданием информационных, особенно автоматизированных систем, сейчас поймут это очень хорошо. Эмоция, эмоциональная система, лимбическая система наша, это посылка сигналов в эфир всем, кому нужно. То есть это асинхронная передача информации. Если у нас есть общая шина передачи информации в некой информационной системе, допустим, построенная по архитектуре SOA, service-oriented architecture,то мы в эту шину можем пускать сигналы в эфир не конкретной системе, а в эфир пускаем, и кому нужно, тот этот сигнал ловит и забирает. Также и эмоции у нас действуют. Когда надпочечники выделяют норадреналин, этот адреналин схватывает сигнальные молекулы в тех органах, которые должны быть задействованы в мгновенном ответе на угрожающую ситуацию. У нас учащается сердце, у нас учащается дыхание, у нас мышцы все подтягиваются. У нас что-то расслабляется, чтобы облегчить организм.

Саркис Григорян:

Да, условно, какая-то половая система в этот момент не задействуется совсем, пищеварительная может, понятно.

Роман Душкин:

То есть сигнал получили все, но этот сигнал медленный, потому что химическое распространение, диффузионное. И потом появилась нервная система, это система сигнализации быстрая, в терминах информационных технологий это синхронная передача цифровых сигналов, от системе к системе. То есть если мы через общую шину данных хотим передать сигнал от системы А в систему Б, мы задействуем брокер объектных запросов и передаём через него прямо в интерфейс системы. Так работает нервная система. И вот, человек ничего нового не выдумал в области информационных технологий, и получилось так, что эволюция давно придумала всё сама, не так оптимально, как хотелось бы, но придумала.

Саркис Григорян:

Получается, мы только пока что повторяем.

Роман Душкин:

Знаешь, не то, что повторяем, мне кажется, это такие универсальные принципы организации вообще. Теория информации, она подсказывает, что наверное, всё-таки универсальные принципы. И кем бы мы ни были, мы бы все равно пришли к этому в конце-концов при развитии.

Саркис Григорян:

То есть я правильно понимаю, что мы можем сказать, что есть некие такие базовые правила мироздания, в рамках которых действуют любые интеллектуальные системы?

Роман Душкин:

Я боюсь однозначно отвечать на этот вопрос, потому что иногда я задумываюсь о том, не является ли математика, как язык науки, порождением нашей биохимии, которая у нас в голове. Это очень сложный философский вопрос, ответить на него очень сложно. Но очень многие философы об этом задумывались и до сих пор задумываются. Но мне всё-таки кажется, что Платон был прав, и математика - это универсальный язык, находящийся где-то в мире идей, и он абсолютно одинаковы для всех. То есть математика - это язык, который будет понятен любому существу, имеющему разум. Аксиоматика Пеано, определяющая натуральные числа, как они устроены, структуру натуральных чисел. Не 2+2=4, как любят говорить, а именно структуру натуральных чисел и всех прочих чисел, вплоть до трансфинитных, которые надстроены над натуральными числами. Вот эти натуральные числа существуют независимо от того, как устроена биохимия нашего разума. И существо, поднявшееся на ступеньку, которая позволяет ему так или иначе придумать вот эту аксиоматику. У нас её придумал Пеано, а у какого-нибудь инопланетянина ее придумает инопланетянский учёный, она будет одинаковой. Потому что натуральные числа одинаковы для всех, для любого разума, и не зависят от того, что у нас в голове.

Саркис Григорян:

Для нашей вселенной.

Роман Душкин:

Я сомневаюсь, что существуют другие вселенные. Я что-то сейчас забыл, про что мы начали говорить.

Саркис Григорян:

Я задал вопрос о том, что можно ли сказать, что существуют некие такие главные правила, которые закруглены в материи, в рамках которых действуют какие-либо интеллектуальные или околоинтеллектуальные агенты.

Роман Душкин:

Мне кажется, что математика это и есть та штука, которая незыблема. То есть натуральные числа, они такие и никакие другие, и быть не могут другими. Соответственно, расширяя натуральные числа, переходим к целым числом, они такие. С другой стороны, комплексные числа, это всего лишь абстракция, которая позволяет нам решать определённые задачи. И как таковых комплексных чисел, это просто вектор, длиной 2. То есть комплексных чисел не существует как таковых. А действительные числа, рациональные, потом действительные, иррациональные числа, они должны существовать сами по себе, независимо от наличия разума.

Саркис Григорян:

Скажи, пожалуйста, чтобы совсем глубоко не углубляться, чтобы зрители тоже не уставали. Давай такой вопрос, касаемо того, что сейчас говорили, сильный искусственный интеллект или то, чего кто-то боится терминаторов, кто-то боится, что его заменят, работу его, это самое, наверное, ближайшее. Веришь ли ты или как-то думаешь, в течение какого времени, возможно ли вообще создание то, что называется сильного искусственного интеллекта, который будет полностью соответствовать нашему уровню или превосходить?

Роман Душкин:

Во тут нет вопроса веры. Потому что я сейчас тоже скажу очень простую вещь и возможно, зрители нас и слушатели воспримут очень просто. Фундаментальных препятствий для того, чтобы создать интеллект нет. Перед нами есть пример того, что существует интеллект. Мы все интеллектуальные существа с разумом, с сознанием. Каждый про себя может сказать: я человек разумный, у меня есть сознание. То есть фундаментальных препятствий для того, чтобы появилось такое существо нет. Это значит, что рано или поздно мы сможем постичь природу этого явления и воссоздать её. Будет это рано или поздно, это уже другой вопрос. Но поскольку фундаментальных препятствий к этому нет, то познаем мы, в конце концов, когда-нибудь, это точно. Когда? Может быть, я надеюсь, что на моей жизни, при моей жизни. Я надеюсь. На самом деле, стремление к AGI artificial general intelligence или сильный искусственный интеллект по нашему, это не совсем равнозначные термины, но тем не менее.

Саркис Григорян:

В чем разница, давай сразу просто, чтобы зрители понимали, потому что там куча терминов, сильный, слабый. Понятно, слабый, узко заточенный, решает какие-то конкретные, сильный когда мы говорим, мы имеем в виду умного терминатора, условно говоря.

Роман Душкин:

Не совсем так. Понятно, слабый искусственный интеллект, это Siri, сидящая в телефоне, или беспилотный автомобиль, или робот-пылесос. Это слабый искусственный интеллект. То, что эта система построена на базовых вещах, которые разработаны были в рамках искусственного интеллекта как научного направления, ни у кого уже не должно вызывать сомнений. Это так. Сильный искусственный интеллект, это некое разумное, искусственно созданное существо, которое осознаёт само себя. И у которого есть такие же внутренние квалитативные состояния, как у нас, людей, и оно абсолютно от нас не отличается ничем базово, кроме как то, что оно было не рождено женщиной, а появилось в результате каких-то манипуляций при помощи тех или иных инструментов. И не обязательно это будет в компьютере. Мое личное мнение, что это будет на стыке трёх наук: химии (биохимии), информационных технологий и техники (робототехники). То есть это должна быть некая воплощённая физико-химическая субстанция, которая в конечном итоге обретет сознание. Это сильный искусственный интеллект. А AGI artificial general intelligence, искусственный интеллект общего уровня, это не обязательно существо, обладающее самосознанием. Это некая система, которая может решать задачи примерно так же, как их решает человек. И тут нет обязательного требования, что у него должна быть какая-то внутренняя жизнь, внутреннее квалитативное состояние. Он может быть тем, что Чалмерс называет философским зомби. То есть у него всё темно внутри, но он выполняет задачи, которые, вот хороший тест, например, на AGI, это поступить в институт, закончить его и получить диплом. Ни один узкий искусственный интеллект, ни одна узкая система искусственного интеллекта это сделать не сможет, даже если мы будем её затачивать на это. Это необходим именно General, общий искусственный интеллект. И теперь что касается кто кого захватит, кто кого поработит. Мне кажется, тут вообще не должно стоять такой идеи, если AGI появится или сильный искусственный интеллект появится, то он появится совершенно не так, как себе предполагают многие. На самом деле, мне кажется, что будет происходить постепенная гибридизация сознания человека и усиление когнитивных функций человека при помощи имплантов. И некоторые люди, которые изберут этот путь, в конечном итоге станут новой человеческой интеллектуальной расой, не знаю, насколько они останутся человеческой расой, но они станут новой интеллектуальной расой, которая уже не будет людьми биологическими, но останутся людьми по своему наследию. Это описано во многих таких киберпанковских романах, не научно-фантастических, скажем, а именно киберпанковских. Потому что научная фантастика обычно концентрируется на создании искусственных агентов интеллектуальных при помощи программирования, или они сами в процессе генетического программирования возникли. А вот киберпанк как раз концентрируется на замене человеческой составляющей, биологической составляющей разума на какие-то импланты, в конце концов, мы получаем нечеловеческий интеллект и даже, возможно, в нечеловеческом теле.

Саркис Григорян:

Я вспомнил фильм «Джонни-мнемоник» по шикарному рассказу, там даже был не то, что человек, там, я помню, дельфин был, который взламывал коды.

Роман Душкин:

Боевой дельфин.

Саркис Григорян:

Боевой дельфин, да.

Роман Душкин:

Да «Джонни-мнемоник», это конкретная такая притча, Уильям Гибсон её написал.

Саркис Григорян:

Да, Уильям Гибсон.

Роман Душкин:

Мне нравится Гибсон, я сейчас такой апарт сделаю небольшой в сторону нашей дискуссии. Почему мне нравится Гибсон, потому что термин «русские хакеры», который сейчас очень популярен и там, и у нас, у нас он в положительном контексте, а там наоборот в отрицательном, ввел Уильям Гибсон. И в его произведениях, особенно в трилогии «Киберпространство», которую я очень рекомендую, термин «русские хакеры», он такой насыщенно эмоциональный. Там тоже кто-то негативно воспринимает, кто-то позитивно. Но самое страшное то, что русские хакеры делали самые страшные ледорубы. Ледорубом называлась программа, которая пробивает любой лёд. А льдом называлась защита, системы защиты. И те, кто не читал «Киберпространство», я очень рекомендую. Это книга, в которой предвосхищено практически всё, что мы сегодня наблюдаем. И предвосхищено ещё очень много из того, к чему мы идём.

Саркис Григорян:

«Нейромант», «Граф Ноль» и «Мона Лиза Овердрайв», шикарная, на самом деле, трилогия, ты сейчас говоришь, я давно читал её, прямо с улыбкой вспоминал.

Роман Душкин:

А перед ней можно прочитать «Сожжение Хром».

Саркис Григорян:

Да, «Сожжение Хром» тоже. Ну и, наверное, можно ещё тогда и Стерлинга вспомнить.

Роман Душкин:

Брюс Стерлинг, да.

Саркис Григорян:

Второго из таких титанов, отцов киберпанка.

Роман Душкин:

«Схизматрица», это удивительное произведение. Ну а после них можно перейти к Нилу Стивенсону и начать всё, вот это «Лавина», «Воспоминания о будущем», «Алмазный век» и так далее.

Саркис Григорян:

Сейчас уже совсем много всего, и нашего, и ненашего. То есть скажи тогда, если мы сейчас говорим о том, что будут такие вещи, которые описывал Гибсон, которые описывал Стерлинг, в чем особенность всех киберпанковских романов, это все антиутопии. Там всегда будущее мрачное, там всегда люди выживают, и там все мрачно. И видишь, как мы пришли к этой теме, но при этом начиналось с того, что ничего страшного не будет, всё ОК. Ну ты же понимаешь, что какие-то будут проблемы, какие-то будут социальные сдвиги очень крупные, которых мы даже сейчас не можем предположить.

Роман Душкин:

Несомненно. Но, Саркис..

Саркис Григорян:

Я не противник, я просто задаю вопрос, потому что людям интересно, и мне интересно от разных людей, с кем я общаюсь, услышать разные мнения в данном случае. Я понимаю, что это неизбежно, я понимаю, что мы к этому все придём, кто-то позже, кто-то раньше, я честно сам бы себе что-нибудь, может быть, вшил. Память какую-то, где-то ещё что-то. Но давай поговорим о том, что как ты думаешь, что может быть плохого.

Роман Душкин:

Знаешь, я бы не стал об этом говорить, потому что вся история человеческой цивилизации - это плохое на плохом и плохим погоняет. Тут, знаешь, если себя накручивать, я считаю, что будущее, оно блестящее и яркое, туда нужно стремиться. Да, и у нас, в том числе, у специалистов в области искусственного интеллекта одна из задач стоит в том, чтобы не допустить скатывания в оголтелый киберпанк. А прийти всё-таки к обществу всеобщей справедливости, где искусственно-интеллектуальные системы, являющиеся философскими зомби, поэтому у нас к ним не должно быть никаких моральных страданий.

Саркис Григорян:

Да, сострадание, всё это.

Роман Душкин:

Потому что у них нет внутреннего мира, и мы это очевидно знаем, достоверно знаем. Они полностью определяют нашу жизнь, а мы занимаемся саморазвитием и стремлением к звёздам и так далее.

Саркис Григорян:

Творчеством.

Роман Душкин:

Вот это, знаешь, всё заплачки вот эти, люди будут заниматься творчеством. Мы только вчера в нашей экспертной группе обсуждали, что не смогут 7 млрд. человек или 8, сколько нас уже здесь, заниматься творчеством.

Саркис Григорян:

Это конечно.

Роман Душкин:

И 98 % людей, им это даже не нужно. Им придётся самим сесть на базовый, основной доход и доживать свой век в каком-то таком полуживотном состоянии.

Саркис Григорян:

Вполне возможно, что и вообще поведение людей изменится.

Роман Душкин:

Несомненно.

Саркис Григорян:

Изначально мы будем с рождения чему-то другому учиться. И сама парадигма взгляда на мир. Я тоже в Советском Союзе был рождён, я помню всё: детский сад, школа, институт, параллельно ты октябрёнок, комсомолец, пионер. И всё, у тебя вся жизнь рассчитана, у тебя есть прямо такая понятная парадигма, в рамках которой ты живёшь. Сейчас она, например, уже меняется, это можно посмотреть на милениалов, на последнее поколение. Меняются вообще ландшафты, культура потребления меняется. Я думаю, что здесь тоже все вот эти вещи поменяются, может быть, мы будем с детства уже учить людей, детей своих другому.

Роман Душкин:

Абсолютно.

Саркис Григорян:

В рамках вот этих систем.

Роман Душкин:

Любые социальные сдвиги приводят к сдвигам в отношениях между людьми, в том, как мы настраиваем и новое поколение к жизни. Это неизбежно.

Саркис Григорян:

Смотри, давай ещё поговорим вот о чем. Ты, как человек, который философией занимаешься интеллекта, сознанием, всем вот этим, это, на самом деле, очень интересно, потому что мало, с кем об этом можно поговорить.

Роман Душкин:

Можно я объясню, почему.

Саркис Григорян:

Что почему?

Роман Душкин:

Почему я этим занимаюсь.

Саркис Григорян:

Конечно.

Роман Душкин:

Чтобы те, кто меня не знает из слушателей, понимали, что я искусственным интеллектом занимаюсь с 1986г. как таковым. То есть это очень давно. Я учился на кафедре кибернетики в МИФИ, которую основал один из отцов-основателей русской школы искусственного интеллекта, Лев Тимофеевич Кузин. В России очень сильная школа искусственного интеллекта. Но и в России, и во всём мире отсутствует гуманитарная составляющая, это очень важно. В учебниках по искусственному интеллекту и у нас, и там одна математика сплошная. Если там взять классический труд Рассела и Норвига об искусственном интеллекте, который называется «Искусственный интеллект. Современный подход», там логика, математика и ещё логика, всё, и так везде. То есть гуманитарной составляющей нет нигде. Несмотря на то , что изначально искусственный интеллект - это междисциплинарная область исследования. Здесь должны быть психологи, нейрофизиологи, социологи, все те, кто занимается гуманитарной составляющей научного знания. И найдя вот эту лакуну, я понял, что я должен быть каким-то связующим звеном, потому что я очень давно занимаюсь технической составляющей, но гуманитарная составляющая ускользает ото всех. И одна из моих задач - это именно это. Поэтому я погрузился в философию сознания, нейрофизиологию, социологию, психологию, во все эти науки для того, чтобы привнести гуманитарную составляющую в область искусственного интеллекта.

Саркис Григорян:

Это прекрасно. Скажи, давай поговорим о том, где в природе вообще и какие виды интеллекта встречаются на примерах, что-то интересное расскажи зрителям об этом.

Роман Душкин:

Расскажу. Нам очень сложно понять изнутри другого существа, интеллектуально оно или нет, поэтому мы можем оценивать интеллектуальность исключительно по поведению. То есть такой бихевиористский подход, поведенческая оценка интеллектуальных способностей. И другого нам пока не дано, мы ещё не разработали точную теорию интеллекта, разума, сознания, поэтому мы косвенными методами пытаемся это всё осмыслить. Поэтому я сейчас скажу принцип, который программистами применяется. Принцип утки. Если нечто выглядит как утка, ходит как утка и крякает как утка, то скорее всего, это утка. И то же самое применяется и здесь. Если нечто выглядит интеллектуально, ведёт себя интеллектуально, действует интеллектуально, как будто бы, то мы предполагаем, что это интеллектуальное существо. А что там у неё на самом деле в голове или внутри него, если у него нет головы, нам это не дано постичь. На самом деле, сегодня, скорее всего, большинство учёных уже не отрицает, что у животных, по крайней мере, у высших животных, у теплокровных, у млекопитающих есть какие-то виды психики. Я не говорю интеллекта, я говорю психики. То есть они воспринимают, у них есть память, у них есть какие-то базовые зачатки сигнальных систем, которые позволяют им решать задачи, принимать решения в сложных ситуациях. То есть это не просто биологические машинки кибернетические, которые реактивно реагируют на стимул. У них есть какие-то внутренние состояния и так далее. То есть все, как минимум, высшие животные, обладают какими-то зачатками интеллекта. Какими-то видами интеллекта. Но это не так интересно. Больше всего лично меня интересует так называемый многоагентные системы и то, что в них зарождается некий роевой интеллект, как это называется, swarm intelligence. Роевой интеллект, это такое эмерджентное свойство многоагентных систем, самым простым примером которых является муравейник, пчелиный рой, стая скворцов, которые вот это...

Саркис Григорян:

Потрясающе красиво выглядит.

Роман Душкин:

Но возьмём муравьиную кучу. Каждый муравей, насекомое, это реальная маленькая биологическая машинка, которая запрограммирована своими генами. И от генетической своей программы он никогда не отойдёт. Реагирует на феромоны, на прикосновение других муравьёв и так далее. Но куча в целом обладает зачатками нечеловеческого интеллекта. Потому что вспоминаем признаки интеллекта. Восприятие. У этой кучи есть восприятие опосредовано через восприятие миллионов, сотен тысяч маленьких муравьиных тел. Но восприятие кучи намного более сложное, чем каждого конкретного муравья вместе, потому что она, эта куча воспринимает более глобальные явления. Воспринимает температуру окружающей среды, её тренды и прогнозы, влажность и так далее. Воспринимает так или иначе физическое воздействие, механическое воздействие на саму себя, на кучу. Потому что если мы нажмем на неё, муравьи начнут двигаться, феромоны выпрыснутся, начнётся какая-то движуха.

Саркис Григорян:

Атаковать побегут.

Роман Душкин:

Да. У неё есть память, она может размножаться. Куча, как супер организм может отпочковать от себя семью, и если взять наших муравьёв обычных лесных, Formica rufa, красных, рыжих лесных муравьёв, большие которые, если взять какой-то муравейник, то вдали вокруг него мы найдём другие муравейники. С большой вероятностью это отпочковавшиеся друг от друга муравьиные кучи. Можно понять, какая была постарше, какая помоложе, но они все родственники друг другу, сёстры или братья, сложно сказать кто. То есть куча, муравьиная куча, это некое существо, обладающее странными зачатками интеллекта, которая может жить в потенциале вечно. То есть она не умирает. Там даже если царица умрёт, муравьи себе выведут новую, и она продолжит жить. Это как многоклеточный организм, каждая клетка умирает достаточно быстро, но организм живет. Я почему сейчас, прошу прощения, почему к многоагентным системам очень пристальное внимание. Потому что одна из теорий нашего разума говорит о том, что у нас в голове много разных агентов, которые друг с другом взаимодействуют. И разум, и сознание возникают как эмерджентное свойство вот этого взаимодействия.

Саркис Григорян:

А где у муравьёв тогда находится вот этот общий искусственный интеллект, грубо говоря? В каком он виде тогда, в какой момент один маленький муравей становится частью вот этого большого интеллекта? У природы есть такая предрасположенность или как? У нас очень мало времени уже, я думаю, это будет последний вопрос, но он очень интересный, где эта грань?

Роман Душкин:

Я быстро отвечу. Примерно так же, как один отдельный нейрон у нас здесь становится частью нашего разума и нашего интеллекта. На этот вопрос невозможно ответить. Мы ещё не знаем.

Саркис Григорян:

Хорошо, ну ладно тогда, есть ещё загадки, которые нам предстоит отгадать, я думаю. И мы в любом случае будем свидетелями очень поразительных вещей. Я хотел бы, чтобы ты в конце что-нибудь такое позитивное сказал, чего нам ждать, может быть, в ближайшее время, какие-то такие вещи. Притом что я с тобой согласен про то, что мы живём сейчас в самое лучшее время из всех времён, которое было возможно. И я думаю, что дальше так и будет, кто бы что ни говорил. Но давай зрителям что-нибудь хорошее скажем напоследок.

Роман Душкин:

Хорошее можно сказать то, что развивайтесь, каждый должен развиваться не только вглубь, но и вширь. Научный подход, естественно-научное мировоззрение - это то, что ведёт прогресс вперёд, и мы должны, мы, как человечество должны стремиться к звёздам. Потому что держание всех яиц на одной маленькой планетке, это печально. Соответственно, надо объединяться и стремиться к звёздам.

Саркис Григорян:

Отлично. Спасибо тебе большое, что пришёл, спасибо за интереснейшую беседу.

Роман Душкин:

Спасибо тебе.