Поломки и халатность: когда ожидать восстания машин

По мнению инженера подразделения международной медиагруппы «Россия сегодня» в Крыму Юрия Артамонова, выйти из-под контроля человека роботы могут из-за поломок, халатности программистов и окрепшего искусственного интеллекта.

От поломок никто не застрахован

«Сами машины могут и не выйти из-под контроля, и программа может в них заложена правильная, но от поломки никто не застрахован. Так, многие живут в многоквартирных в домах с этажностью больше пяти, где есть лифт. Лифт — это простейший пример робота: машина, которая выполняет рутинную работу по заложенной программе. Но случаются страшные трагедии. Не сама программа, а именно неисправность механизмов, которые нас окружают, если они выйдут из строя, могут причинить какой-то вред», — сказал он в эфире радио «Спутник в Крыму».

По словам инженера, роботы вошли в жизнь человека «давно и прочно». Ведь это механизм, который выполняет какую-то задачу по установленной человеком программе. Робот — это и кофемашина, и пылесос, и мультиварка.

«Робота изначально придумали для выполнения каких-то рутинных операций за человека, чтобы он думал, а машина работала», — считает Артамонов.

Специалист напоминает: во время работы робота может выйти из строя какой-то сервопривод. Кроме того, важно учитывать и то, как человек, который работает над созданием робота, относится к своей задаче.

«Программисты, которые пишут программы для роботов, могут это делать по-разному: одни могут предусмотреть неблагоприятное развитие ситуации, а другие напишут просто заложенный алгоритм, а аварийной ситуации не предусмотрят. И проверить это можно только на практике. И здесь нет доверия уже не к машинам, а к программистам», — продолжает эксперт.

Угроза искусственного интеллекта

«Сами по себе машины восстать не смогут. Но над машинами сейчас искусственный интеллект. Этот искусственный интеллект на сегодняшний день в зачаточном состоянии, и чтобы стать полноценным, у него должны появиться эмоции, а благодаря эмоциям — желание что-то делать. И когда это появится у искусственного интеллекта, то тогда можно ожидать всего чего угодно», — считает Артамонов.

По его словам, события могут развиться и по сценарию, описанному фантастами прошлого: «через поколения окажется, что нейросеть разовьется, а люди деградируют и придется искусственному интеллекту брать шефство над людьми».

«Благодаря искусственному интеллекту человечество стало писать дипломы, программы. Человечество семимильными шагами идет к собственной деградации. Почему? Социализация нынешней молодежи происходит в основном в компьютерных играх. И там уже другие ценности. Неоднократно повторял своей дочери: не страшно, что ваше поколение станет взрослыми, страшно, что взрослым не станет ваше поколение», — говорит Артамонов.

По его мысли, развитие искусственного интеллекта выгодно кому-то в финансовых целях и может привести к деградации общества в целом, когда новое поколение, за которое все будут делать роботы, вдруг «перестанет бороться за свое существование».

«Нельзя полагаться только на искусственный интеллект, нужно самим к чему-то стремиться, а не ждать, что завтра за тебя что-то нарисуют, споют, напишут стихи. Нельзя забывать, что мы тоже интеллект и не подменять свой искусственным», — считает инженер. И добавляет: роботы — это инструмент, который нужно использовать во благо.

Ранее директор по науке и технологиям Агентства искусственного интеллекта Роман Душкин заявил, что технологии искусственного интеллекта в какой-то степени даже более опасны, чем ядерные, однако восстания машин бояться ненужно. Необходимо внедрять и развивать государственное регулирование их применения.

Более того, ученые все чаще приходят к выводам, что в будущем нейросети могут перерасти человека.