Люмени

Часть 1. Глава 13.

Мария выбежала из подъезда, тяжело дыша. Она ненавидела себя: спокойствие, рассудительность, логика ‒ вот, что многие годы в ней воспитывали учителя и наставники. Она могла найти смысл в последовательности кодов, химической реакции различных веществ, но не в своих эмоциях. Ее ничего не связывало с Сарой, кроме ИИ, который она создала для дочери. Более ничего.

«Ты не обязана помогать этим людям, ‒ говорила себе Мария. ‒ Твоя задача ясна. Ты училась, практиковалась, работала для этого. Для строительства будущего. Для спасения человеческого вида. Для путешествия на другие планеты».

Майкл выбежал вслед за Марией, но, заметив ее состояние, приближаться не стал.

‒ Он предложил мне отдать ИИ. Отдать ему Таню… ‒ бормотала Мария.

‒ А что? Что в ней «особенного»?

Майкл догадался, что у Марии есть необычная, ненормальная, привязанность к ИИ, всё равно, что испытывать эмоции к рабочему компьютеру ‒ ведь машина просто выполняет последовательность команд.

«Рассказать ему о том, что делала Таня? ‒ думала Мария. ‒ Как он это воспримет? Даже если… отдать ее Нейтану, станет ли она выполнять его указания?»

‒ Совсем недавно произошел один инцидент.

Мария огляделась по сторонам, чтобы убедиться, что ее никто не подслушивает. Для верности она подошла поближе и начала тихо рассказывать.

‒ Я просматривала воспоминания Сары, а позже Таня начала… проецировать сама себя.

‒ Что?

‒ Она пыталась создать себе тело. Я никогда не давала таких разрешений, да они и не прописаны в программе. Коды просто появились «из ниоткуда». Таня как будто обрела… разум.

Майкл погрузился в размышления.

Всё это время Таня получала информацию извне, и в тот момент, когда пользователь упомянула об ошибке (которая больше не повторилась), Таня вывела на линзы пользователя следующую информацию:

«Я зафиксировала тот факт в файле с ошибками, что гарантирует неповторение описанной ситуации вновь».

Ничего не обсуждая, Майкл и Мария сели в машину и поднялись в воздух. Они возвращались в Город на поверхности.

‒ Тебе не кажется, что ты, сама того не понимая, одушевляешь ИИ? – спросил Майкл по дороге назад. ‒ Даже то проецирование могло быть лишь ошибкой в коде. Багом10.

‒ Я всё проверила. И обнаружила коды, которые там быть не должны. Кстати, я хотела попросить тебя взглянуть на программу. Может быть, ты разберешься?

‒ Конечно, взгляну, но ты мне так и не ответила, что такого особенного в этом ИИ, кроме предполагаемого бага? Ты очень остро отреагировала на просьбу отца «одолжить» у тебя ИИ, словно решила, что мы его отнимаем. Ты думаешь, что не проживешь без помощника? Но ведь есть и другие ИИ‑помощники, которых ты можешь позволить себе приобрести, конечно, не таких мощных, как Таня, но всё же они могут выполнять для тебя всё то же самое, что и она.

Мария отвернулась к окну ‒ ей нечего было ответить. Она и сама прекрасно понимала, что это нездоровая привязанность к чему‑то ненастоящему, искусственному ‒ Мария сама придала функционированию ИИ применяемый только к человеку смысл.

Таня была не просто программой.

Близким «человеком», которого у нее никогда не было.

2020 год.

Том: И… мы в прямом эфире! Сегодня у меня в гостях дочка моего хорошего друга Питера Хилла – Сара Хилл. Саре 25 лет, недавно у нее вышла книга «Почему я не могу стать богачом?». В книге рассматривается проблема разницы между малоимущими и богатыми слоями населения. Это попытка найти ответ на вопрос: почему мы так много работаем и так мало зарабатываем? Привет, Сара!

Сара: Привет, Том! Рада быть здесь.

Том: А я рад видеть тебя на нашем подкасте. Я проиграл Питеру в карты.

Сара: Поэтому ты позвал меня сюда?

Том: Естественно, а что ты думаешь, мне есть дело до тех, кто не умеет зарабатывать? Эй, Рэй, мы говорим об этом на подкасте?

Рэй: Обычно… нет.

Том: Вот и я о чем, но я рад предоставить тебе возможность рассказать о книге и переубедить меня.

Сара: Попытаюсь.

Том: Даже не пытайся. Так, ладно, хватит смеяться. А если серьезно, я знаю многих людей, которые работают намного больше, чем я (это часов на 10 больше), но зарабатывают гораздо меньше. Как так получилось?

Сара: Это действительно удивительный социальный феномен, который, как мне кажется, пошел еще с тех времен, когда общество добровольно передало часть своих полномочий правящему (царю, императору ‒ неважно), чтобы тот защищал их от бед, а между тем они работали не покладая рук, обеспечивая его, хотя, по сути, могли жить намного лучше, чем тот человек, который лишь обладал мускулами (ну или знаниями) для отражения атак врагов. С тех пор люди почему‑то решили, что они не в состоянии существовать отдельно: им обязательно нужен был кто‑то, кто скажет им, что делать и как жить. То есть люди добровольно продали себя в рабство. Хотя могли делиться друг с другом ценными знаниями, обменивать одни услуги на другие, не развивая денежные отношения; объединяться, не обязательно под предводительством суверена, для защиты от нападения врагов. Непонятно, где человечество «свернуло не туда». И что тогда, что сейчас (даже при наличии глобальной сети интернет, которая вроде как должна нас всех интегрировать в «единую интерактивную Вселенную») мы всё еще разрозненны. Сейчас наблюдается почти аналогичная ситуация, что в прошлом, только защищать особо никого не надо. Отношения усложнились, поэтому общество фактически поделилось на два социальных слоя, в каждом из которых есть свои правители: слой, так скажем, «реальной жизни» и слой жизни «виртуальной». При этом правители обоих миров правят людьми одновременно, особо не конкурируя друг с другом, а у виртуального мира еще и несколько правителей! Подумать только: человек не только самостоятельно вогнал себя в рабство другому человеку, но и увеличил количество своих «рабовладельцев».