Сам-то я “сварщик не настоящий” и в искусственных интеллектах ничего не понимаю, но когда “вокруг только и разговоров, что о море и о закате”, возникает непреодолимое желание разобраться хотя бы на бытовом уровне, “что такое, товарищи, море и что такое, товарищи, закат”. Если кому интересна (ещё одна) точка зрения дилетанта на то, что делать с приближающейся технологической сингулярностью - добро пожаловать под кат. Но сразу предупреждаю, ничего нового вы там не обнаружите, просто рефлексия одного естественного интеллекта. Начну с вики, я всегда с неё начинаю: Интелле́кт (от лат. intellectus «восприятие»; «разуме́ние», «понимание»; «понятие», «рассу́док») или ум — качество психики, состоящее из способности осознавать новые ситуации, способности к обучению и запоминанию на основе опыта, пониманию и применению абстрактных концепций, и использованию своих знаний для управления окружающей человека средой. Общая способность к познанию и решению проблем, которая объединяет познавательные способности: ощущение, восприятие, память, представление, мышление, воображение. То есть, для наблюдения интеллекта у объекта, сам объект должен обладать следующим: способностью получать информацию из окружающего мира - ощущение и восприятие; способностью хранить полученную информацию - память; способностью анализировать полученную информацию - представление и мышление; способностью прогнозировать желаемое воздействие на окружающую среду - мышление и воображение; способностью воздействовать на окружающую среду; В общем, объект, обладающий интеллектом, должен иметь возможность получать информацию о своём окружении, запоминать эту информацию, анализировать её, синтезировать свою реакцию в соответствии со “смыслом жизни” (целевой функцией) и воздействовать на окружение в благоприятном для себя ключе. Если принимать за основу такое определение интеллекта, то надо признать, что “интеллект” - явление довольно распространённое. Даже червь обладает всеми вышеприведенными признаками интеллекта, включая память. Все ли свойства интеллекта одинаково важны? Можно ли отранжировать свойства интеллекта по их значимости? На мой взгляд безусловно нельзя отказать интеллекту в необходимости получения информации, её сохранения и анализа. Без этих трёх пунктов мы в принципе не можем говорить о каком-либо мышлении. Но насколько необходимо интеллекту какое-либо воздействие на окружающую среду? И связанная с этим способность к синтезу? Я допускаю возможность существования интеллекта, обладающего способностями к созданию управляющего воздействия, но не имеющего возможности (или цели) это воздействие применить. Этакий буддистский монах, бесстрастно созерцающий происходящее вокруг. Мы даже можем спросить у него совета, но не факт, что он нам его даст - ведь это может разрушить его бесстрастность. И если этот монах никому ничего не говорит и никаким другим способом не взаимодействует с этим миром, то он ничем не отличается от каменной статуи самого Будды. Да, возможно, его интеллект достиг Просветления и познал Высшую Истину, но с точки зрения стороннего наблюдателя в нём сложно, даже невозможно, обнаружить интеллект. Таким образом, лично я считаю, что интеллект обязан себя проявлять каким-либо значимым для окружающей среды способом. Не то, чтобы я отказывал в интеллекте медитирующим буддистским монахам или каменным статуям, просто я на такой интеллект не обращаю внимания. У каждого значимого интеллекта в его блоке генерации управляющего воздействия должна быть целевая функция. Смысл существования интеллекта. В принципе, само существование, жизнь - это и есть изменение окружающей среды в соответствии с этой целевой функцией. Именно целевая функция определяет направление, в котором интеллект синтезирует свои решения, формирует жизненные приоритеты интеллекта. Таким образом, можно сказать, что способность к изменению окружения - это самое главное свойство интеллекта, а целевая функция - главная характеристика этого свойства. Ну тут всё просто - любой объект, созданный человеком, в котором присутствуют все 5 вышеперечисленных свойств: датчики для считывания информации об окружающей среде; анализатор, составляющий модель окружающей среды; память, отражающая влияние событий на модель; блок принятия решений, генерирующей воздействие на окружающую среду в соответствии с целевой функцией и данными из памяти и анализатора; средства воздействия на окружающую среду; Любой объект, обладающий этими свойствами, является Искусственным Интеллектом. Да хотя бы тот же автопилот в вашем автомобиле. То есть ИИ столь же распространён в нашей жизни, как и обычный интеллект. На первый взгляд просится ответ - тот, который больше знает. Обладает бóльшим объёмом информации для анализа, бóльшим количеством правил для синтеза. Да, общий объём знаний (опыт) отдельного человека безусловно является неким показателем уровня интеллекта, но гораздо важнее актуальность этого опыта, его применимость в достижении своих целей. Я до сих пор  много чего знаю об устройстве MS-DOS, но мне эти знания вообще никак не помогают в разработке веб-приложений. Получается, что более сильный интеллект не тот, который обладает уникальными или разнообразными знаниями, а тот, который более успешно применяет имеющиеся. Но как определить успешность в данном контексте? Какой интеллект можно считать успешным, а какой - нет? На мой взгляд, успешным считается тот интеллект, действия которого по изменению окружающего мира полнее удовлетворяют его собственную целевую функцию.  Но как сравнивать целевые функции, допустим, дождевого червя и круиз-контроля? В чем заключается полнота удовлетворения - в скорости, в экономности или в долговременности воздействия? Получается, что мы можем сравнивать интеллекты только в том случае, если у них есть пересечение интересов (целей) и они могут вступить в борьбу друг с другом: прямо - например, на шахматной доске, или опосредствованно - через тесты. А есть ли какой-нибудь интерес, общий для всех интеллектов? Чтобы по нему можно было сравнить все интеллекты и выявить наиболее сильный. Боюсь, что даже инстинкт самосохранения не является таковым - самцы богомолов тому примером.  Тем не менее, есть нечто, присущее всем без исключения интеллектам - и естественным, и искусственным. Это способность интеллекта изменять окружающую среду. Можно ли эту способность каким-то образом использовать для оценки силы интеллекта? Кто интеллектуально сильнее - обезьяна с гранатой (или ядерным фугасом) или человек с лопатой? Интуитивно понятно, что интеллектуально человек сильнее обезьяны, хотя в краткосрочной перспективе ядерный фугас может значительно сильнее изменить ландшафт, чем лопата. В общем, чтобы можно было определить, какой интеллект сильнее, нужно сравнивать интеллекты в противоборстве (конкуренции) или на наборе тестов. Если у двух интеллектов нет общих целей в целевой функции, то их сравнение в принципе невозможно. Как нельзя сравнить интеллекты червя и круиз-контроля.  Эйнштейн учил, что всё в мире относительно. Мы не можем сравнивать интеллекты червя и круиз-контроля, но мы можем сравнивать два разных круиз-контроля или два разных червя. Супер-интеллект всегда “супер” лишь по отношению к другому интеллекту, который сам по отношению к нему “унтер”. На мой взгляд, супер-интеллект решает все те же задачи, что и унтер-интеллект, только лучше - быстрее и качественнее. Круг возможностей “супера” может быть шире круга возможностей “унтера”, и не может быть ýже. Иначе он переходит из разряда “супер” в разряд “просто другой” - конкурирующий в ряде задач, но не превосходящий. Мы можем ограничить ряд задач и сравнивать интеллекты относительно друг друга на этой ограниченной выборке. Например, в играх - в шахматах или в го. В таком случае мы можем произвести ранжирование игроков по интеллекту и выявить тех (“унтеры”), кто никогда не выигрывает у других (“суперы”).  Но можно ли считать “супером” того, кто выигрывает лишь в 90% случаев? В 95%? В 99.9%? Должен ли супер-интеллект иметь тотальное преимущество над унтер-интеллектом или достаточно просто подавляющего? На мой взгляд подавляющего недостаточно для гордого звания супер, но у кого-то может быть другая точка зрения. Итого: супером можно быть только по отношению к “родственному” интеллекту - интеллекту, решающему аналогичные задачи, т.е., имеющему такие же цели в своей целевой функции. Например, круиз-контроль автомобиля является супер-интеллектом по отношению ко мне (и к большинству людей) в вопросе поддержания заданной скорости на дороге. Побудительным мотивом для этого поста стал ажиотаж с “технологической сингулярностью” апофеозом которого было письмо с призывом приостановить исследования в области ИИ на полгода. Так-то я сам веб-разработчик, но тут пришло время прикинуть, стоит ли в очередной раз изучать новый модный фреймворк или грядущий Скайнет загонит остатки человечества в каменный век, в котором любые фреймворки станут неактуальны. Размышления свои я уже описал, а теперь выводы. Если основываться на вышеизложенном, то опасность интеллект начинает представлять тогда, когда его средств воздействия на окружающую среду достаточно для создания этой самой опасности. Несколько тавтологично, но тем не менее. Медитирующий монах не более опасен, чем каменный Будда. Любой интеллект не представляет никакой опасности, если у него нет никаких средств воздействия на окружающую среду. Любой интеллект не представляет той опасности, избегание которой в явном виде заложено в его целевой функции. А вот если наоборот - в его целевой функции заложено создание какой-либо опасности, то такой интеллект будет стремиться к своей цели всеми доступными ему способами. Наличие приставки “супер” у интеллекта не добавляет никакой новой интриги к вышесказанному. Даже если появится какой-либо супер-интеллект, превосходящий по своим возможностям всё человечество вместе взятое, он всё равно будет представлять опасность лишь в рамках своих возможностей. Ну не сможет даже супер-интеллект уронить Луну в Тихий океан. По крайней мере, на имеющемся техническом уровне. Прелесть ситуации в том, что появление Супер-ИИ лично для меня никоим образом ничего не меняет. Я не считаю себя самым умным существом на Планете, поэтому не боюсь возможной конкуренции с его стороны. Я периодически сталкиваюсь с интеллектами (естественными и искусственными), которые на голову превосходят мой личный интеллект в тех или иных вопросах. Я вполне допускаю, что есть такой интеллект (отдельно-человеческий или социальный), по отношению к которому я являюсь унтер-интеллектом, но этот супер-интеллект настолько умён, что не даёт мне возможности осознать его существование. И я постоянно нахожусь в опасности, которая исходит от других интеллектов - животных, людей и машин. Просто это привычная опасность, с которой я знаю, как сосуществовать. Другими словами: “Что было, то и будет; и что делалось, то и будет делаться, и нет ничего нового под солнцем.” (с) P. S. Ну и насчёт “технологической сингулярности” - в Природе нет ни одного процесса, развивающегося по экспоненте бесконечно долго. Даже процесс расширения Вселенной таковым не является. Если нам где-то привиделась экспонента, нужно просто отойти на шаг назад и посмотреть на неё в другом масштабе. wiredgeese.com