آیا هوش مصنوعی می تواند انسان را بکشد؟!

در مقطعی در آینده، هوش مصنوعی هوشمندتر، سریع‌تر و قدرتمندتر از آنچه که هستیم خواهیم داشت و آن زمان است که ما انسان‌ها دیگر در اوج نخواهیم بود. اما انسانیت چطور؟ و چگونه می توانیم برای آن روز آماده شویم؟ برای بررسی این سوالات با من همراه باشید.لوک ملهاوزر، مدیر اجرایی موسسه تحقیقاتی هوش مصنوعی(MIRI) است، گروهی که در مورد راه‌هایی برای باهوش‌تر کردن انسان‌ها و بهتر از انسان‌ها تحقیق می‌کند. ملهاوزر اخیراً با همکاری نیک بوستروم از مؤسسه آینده بشری (FHI) مقاله ای به نام « توسعه هوش مصنوعی بشر دوستانه» منتشر کرده است. با هم به بررسی این نوشته ها می پردازیم: سوال: اولین بار چه زمانی با مشکل دوستی با یک ابرهوش مواجه شدید؟اواسط سال 2010 بود که مقاله ای در سال 1965 از ایروینگ جان گود، همکار آلن تورینگ در جنگ جهانی دوم را خواندم که با هم برای شکستن کد آلمانی همکاری می کردند و به پاراگراف زیر رسیدم:بیایید تصور کنیم که یک ماشین فوق هوشمند به عنوان ماشینی تعریف می شود که از هوش هر انسانی فراتر می رود. از آنجایی که طراحی این خودرو به خودی خود یکی از خلاقیت های یک ذهن درخشان است، این خودرو می تواند خودروهای بیشتری از آن طراحی کند. در این حالت «انفجار مغزی» رخ می دهد و مغز انسان بسیار ضعیف تر از ماشین ابر هوشمند است. به این ترتیب، اولین ماشین ابری هوشمند ساخته شده توسط انسان، آخرین ماشین ساخته شده توسط انسان است.من در آن زمان داستان های علمی تخیلی نخوانده بودم و با ایده "فراسانسان گرایی" چندان آشنا نبودم، اما بلافاصله متوجه شدم که تصمیم آقای گود نیز نتیجه همین چیزها بوده است و آنچه من معتقدم، به عنوان مثال، که. هوش نتیجه الگوریتم های ذهنی است و یک فرآیند جادویی نیست. من به سرعت متوجه شدم که انفجار هوش می تواند یک رویداد بزرگ در تاریخ بشر باشد و مهمترین کاری که می توانستم انجام دهم این بود که مطمئن شوم چنین انفجاری تأثیری داشته است.در ابتدا فکر می‌کردم که چنین چالش بزرگ برای قرن بیست و یکم به صدها میلیون دلار بودجه تحقیقاتی نیاز دارد و در این مورد کمک کمی خواهم داشت. اما طی چند ماه آینده متوجه شدم که کمتر از 5 نفر در سراسر جهان به طور تمام وقت در این زمینه کار می کنند و حتی این کار بدون بودجه انجام می شود. بنابراین، در آوریل 2011، کار خود را به عنوان مدیر شبکه رها کردم و شروع به آموزش درMIRI کردم تا ببینم چگونه می توانم به حل این مشکل کمک کنم، و متوجه شدم که بهترین کاری که می توانم برای کمک انجام دهم این بود که مسئولیت را بپذیرم. مدیر اجرایی MIRI شوم بنابراین من از نوامبر 2011 به عنوان مدیر اجرایی MIRI انتخاب شده ام.سوال: آخرین فیلم اسپایک جونز، او، بحثی را در مورد هوش مصنوعی به راه انداخت. در مورد به تصویر کشیدن هوش مصنوعی در فیلم چه می توانید بگویید؟ و چگونه با هوش مصنوعی نهایی مقایسه می شود؟فیلم فیلم بسیار خوبی است و هوش مصنوعی خوب است اما نیازی به واقع بینانه نیست.کارگردان این فیلم، اسپایک جونز، هنگام نوشتن فیلمنامه با دانشمندان کامپیوتر مشورت نکرده است که برای دانشمندانی که فیلم را دیده اند نیز مشخص است.بدون ارائه فیلم می توانم بگویم که هوش مصنوعی او، اگر واقعاً در دنیای واقعی وجود داشته باشد، به راحتی می تواند اقتصاد جهانی را تغییر دهد. اما در این فیلم وجود هوش مصنوعی که باهوشتر از انسان است و قابلیت بهبود دارد به هیچ وجه دنیای فیلم را تحت تاثیر قرار نمی دهد. همانطور که رابین هنسون، اقتصاددان در فیس بوک نوشت:فیلمی مانند تایتانیک را تصور کنید که در آن یک کوه یخ به کشتی برخورد می کند و شکاف بزرگی در بدنه کشتی ایجاد می کند، با این تفاوت که این ترک فقط بر شخصیت های فیلم تأثیر می گذارد و باعث می شود مردم راه های دیگری را برای هدایت کشتی انتخاب کنند.این چیزی است که من هنگام تماشای فیلمHer احساس کردم.سوال: نظریه پردازان هوش مصنوعی مانند شما هشدار می دهند که روزی کنترل ماشین هایی را که می سازیم از دست خواهیم داد. این به دو دلیل به طور ناگهانی و سریع رشد خواهد کرد. یکی تهدید پردازش و دیگری توانایی ادامه بهبود سیستم است. لطفا هر کدام از اینها را توضیح دهید:کنترل رفتار یک عامل عمدی باهوش تر از ما بسیار دشوار است. چنین مشکلی بسیار دشوارتر از کنترل یک انسان دیگر در چنین شرایطی است.با آزمون و خطا با فرآیندهای کنترلی مختلف و اشتباهات زیاد و درس گرفتن از اشتباهات خود، شاید بعد از 50 سال بتوانیم کنترل یک هوش مصنوعی خودساز را یاد بگیریم. متأسفانه، به نظر نمی‌رسد که جای اشتباه زیادی داشته باشیم، زیرا سرعت رشد و کنترل چنین هوشی توسط قدرت‌های مختلف می‌تواند بسیار بالا باشد. دو دلیل احتمالی برای چنین رویدادی وجود دارد: تهدید پردازش و خوددرمانی متوالی.در مقاله خود من و همکارم ریسک عملیاتی را به صورت زیر تعریف می کنیم.فرض کنید قدرت پردازش طبق قانون مور دو برابر شود، اما یافتن یک الگوریتم هوش مصنوعی عمومی در سطح هوش انسانی بسیار دشوار است. همانطور که ما در نهایت نرم‌افزاری را برای هوش مصنوعی عمومی در سطح انسانی می‌سازیم، با یک تهدید پردازشی مواجه می‌شویم: چنین هوش مصنوعی منبع بزرگی از قدرت پردازش کم‌هزینه خواهد بود و هوش مصنوعی می‌تواند روی چنین سخت‌افزاری تکرار شود. پلتفرم و جمعیت آن به سرعت رشد خواهند کرد. بیشتر از جمعیت.یکی دیگر از دلایل از دست دادن کنترل از دست انسان و افتادن به دست هوش مصنوعی، توانایی هوش مصنوعی در بهبود مداوم است. یک هوش مصنوعی با قدرت هوش عمومی در سطح انسانی قادر است به سرعت متوجه شود که اگر هوش خود را بررسی کند و توانایی های فکری خود را بهبود بخشد، بهتر می تواند به اهداف خود دست یابد. خودسازی یک ارزش همگرا با تمام بالاترین ارزش‌های دیگری است که هر عاملی می‌تواند داشته باشد، به همین دلیل است که بسیاری از مردم برای بهبود وضعیت خود به دنبال کتاب هستند. بنابراین، همانطور که در مقاله خود ذکر کردیم:اگر ما یک هوش مصنوعی بسازیم که به همان اندازه در ایجاد هوش مصنوعی خوب باشد، چرخه خوددرمانی هوش مصنوعی را آغاز کرده ایم. هنگامی که چنین هوش مصنوعی خود را اصلاح می کند، هوش اصلاح کننده نیز بهبود می یابد و در نتیجه هوش متعاقب رویدادها به سرعت از قابلیت های هوش انسانی فراتر می رود.سوال: برخی افراد معتقدند که در مورد هوش مصنوعی چیزی برای ترس وجود ندارد. و اگر مأموری داریم که بسیار باهوش‌تر از انسان است، نمی‌تواند احمق یا ظالم باشد و بخواهد ما را نابود کند. به چنین افرادی که فکر می کنند هوش مصنوعی بهتر از ما انسان ها خواهد بود، چه حرفی دارید؟در هوش مصنوعی، قابلیت های یک سیستم مستقل از اهداف آن است. به این ترتیب می توانید یک سیستم بسیار هوشمند با هدف افزایش قیمت سهام یک شرکت خاص، فیلتر کردن هرزنامه ها یا افزایش بهره وری شرکت بسازید. وقتی سیستمی را بهبود می‌دهید یا خودش را بهبود می‌بخشد، اهداف سیستم لزوماً تغییر نمی‌کند، اما سیستم در دستیابی به اهدافش بهتر می‌شود.اخطارها و استثناهایی برای چنین قاعده کلی وجود دارد، اما نکته اینجاست که ما نباید سرنوشت دنیای خود را روی یک شرط بندی مخاطره آمیز شرط بندی کنیم که هرچه هوش مصنوعی ایجاد شود ارزش های اخلاقی بهتری نسبت به ما دارد. در عوض، می‌توانیم برای افراد باهوش سرمایه‌گذاری کنیم تا به راه‌حل‌های کنترلی فکر کنند که می‌توانیم برای هوش مصنوعی ابرهوشی پیدا کنیم.در مقاله خود من و همکارم ریسک عملیاتی را به صورت زیر تعریف می کنیم:فرض کنید قدرت پردازش طبق قانون مور دو برابر شود، اما یافتن یک الگوریتم هوش مصنوعی عمومی در سطح هوش انسانی بسیار دشوار است. همانطور که ما در نهایت نرم‌افزاری را برای هوش مصنوعی عمومی در سطح انسانی می‌سازیم، با یک تهدید پردازشی مواجه می‌شویم: چنین هوش مصنوعی منبع بزرگی از قدرت پردازش کم‌هزینه خواهد بود و هوش مصنوعی می‌تواند روی چنین سخت‌افزاری تکرار شود. پلتفرم و جمعیت آن به سرعت رشد خواهند کرد. بیشتر از جمعیت.برای یادگیری هوش مصنوعی از کجا شروع کنیم؟!برای یادگیری هوش مصنوعی و وارد شدن به دنیای حرفه ای برنامه نویسی می توانید از DEVELOPER CLUB آکادمی رستاوا کمک بگیرید. شما با وارد شدن به این باشگاه، می توانید به صورت رایگان به مدت ۱۵ روز از مزایای آن بهره مند شوید که شامل ارتباط مستقیم با منتورها و اساتید برتر و همچنین دانشجویان است. فرصت را از دست ندهید و همین الان آن را امتحان کنید.دلیل اصلی ترس از دست رفتن کنترل هوش مصنوعییکی دیگر از دلایل از دست دادن کنترل از دست انسان و افتادن به دست هوش مصنوعی، توانایی هوش مصنوعی در بهبود مداوم است. یک هوش مصنوعی با قدرت هوش عمومی در سطح انسانی قادر است به سرعت متوجه شود که اگر هوش خود را بررسی کند و توانایی های فکری خود را بهبود بخشد، بهتر می تواند به اهداف خود دست یابد. خودسازی یک ارزش همگرا با تمام بالاترین ارزش‌های دیگری است که هر عاملی می‌تواند داشته باشد، به همین دلیل است که بسیاری از مردم برای بهبود وضعیت خود به دنبال کتاب هستند. بنابراین، همانطور که در مقاله خود ذکر کردیم:اگر ما یک هوش مصنوعی بسازیم که به همان اندازه در ایجاد هوش مصنوعی خوب باشد، چرخه خوددرمانی هوش مصنوعی را آغاز کرده ایم. هنگامی که چنین هوش مصنوعی خود را اصلاح می کند، هوش اصلاح کننده نیز بهبود می یابد و در نتیجه هوش متعاقب رویدادها به سرعت از قابلیت های هوش انسانی فراتر می رود.سوال: همراه با مؤسسه آینده بشریت در آکسفورد، MIRI فعالانه در تلاش است تا مشکل غیردوستانه بودن هوش مصنوعی را برطرف کند، و ما قبل از اینکه چیزی در مورد نحوه طراحی هوش مصنوعی آینده بدانیم، آن را از این مؤسسات می بینیم. استراتژی فعلی شما چیست؟خب، تا آنجا که من می دانم، این دو مؤسسه تنها مؤسسه هایی هستند که به طور منظم تحقیقات در مورد این موضوع را تأمین می کنند. همچنین گروه جدیدی در دانشگاه کمبریج به نام CSER وجود دارد که وقتی منابع مالی زیادی به دست می آورند تحقیقات خود را در این زمینه گسترش می دهند، اما یک فرد بسیار قابل اعتماد را به عنوان مشاور خود پیدا کرده اند، مانند استیون هاوکینگ و جورج چرچ. در همین حال، تلاش مؤسسه آینده بشر این بوده است که مشکل کنونی و وضعیت را در رابطه با مشکل ترسیم کند و از طریق کنفرانس هایی مانند AGI Impacts در سال 2012، بسیاری از محققان را در این زمینه گرد هم آورد. MIRI همچنین با FHI بر روی چنین تحلیل های استراتژیک همکاری نزدیکی داشته است، اخیراً روی ریاضیات هوش مصنوعی دوستانه کار کرده است و این کار را در یک کارگاه تحقیقاتی در مورد ریاضیات هوش مصنوعی دوستانه و حل مسائل خرد انجام داده است. سوال: چه ایده هایی در مورد چگونگی ایجاد یک هوش مصنوعی دوستانه که دوست انسان باشد و نتواند ارزش های درونی خود را تغییر دهد چیست؟به نظر می رسد راه حل "مقدار متغیر" یک راه حل پیش فرض غیرمستقیم باشد. اما حتی چنین راه حلی در مراحل اولیه بسیار دشوار است.با پیشرفت هوش مصنوعی، ما در حال کار بر روی مدل های اولیه برای دستیابی به اهداف مورد نظر خود هستیم. با این حال، چنین مدل های اولیه با هوش مصنوعی واقعی فاصله زیادی دارند.سوال: چقدر خوشبین هستید که بتوانیم پاسخی برای این مشکل پیدا کنیم و یک هوش مصنوعی دوستانه که هدفش از بین بردن مردم نیست چه مزایایی می تواند برای ما به ارمغان بیاورد؟مزایای چنین هوش مصنوعی دوستانه ای می تواند نجومی باشد. به سختی می توان گفت که چگونه یک هوش قوی تر از من، که با ارزش های پیشرفته تر از من هدایت می شود، می تواند جهان را بهبود بخشد، اما من فکر می کنم تصویری که می تواند تصوری از چنین دنیایی به ما بدهد، کشتی ای است که خود را تجدید می کند. ، کشتی که شروع به ساخت تمدن های شاد، امن و پیشرفته در سراسر جهان می کند.کارشناسان هوش مصنوعی که به طور تمام وقت برای پاسخ به سوالات در این زمینه کار می کنند، نظرات متفاوتی در مورد توانایی انسان در حل مشکل دارند.اگر از من بپرسید باید بگویم بسیار بدبین هستم. مشکل کنترل یک ابر هوش مصنوعی بسیار دشوارتر از مشکلات کنونی جهان مانند گرم شدن کره زمین یا زیست شناسی مصنوعی است، و فکر نمی کنم تمدن های کنونی بتوانند توانایی ها و هوش خود را به اندازه کافی سریع افزایش دهند تا به سوالات ما قبل از رسیدن به اولین پاسخ پاسخ دهند. فوق العاده ورود هوش مصنوعی اما این فرضیه نیز نیاز به بررسی بیشتر دارد. ما در مطالعه خود با همین سوال روبرو هستیم، در این مورد مناسب بودن تمدن.نظر شما درباره هوش مصنوعی چیست؟!