موضوع مقاله: اوپن‌ای‌آی | مخاطب: عمومی | لحن: دانشنامه‌ای | ساختار: عنوان، مقدمه، 3 بخش، جمع‌بندی | مقاله: | # اوپن‌ای‌آی | مقدمه: اوپن‌اِی‌آی یک مؤسسهٔ پژوهشی آمریکایی در زمینهٔ هوش مصنوعی است که هدف آن توسعهٔ هوش مصنوعی دوستانه برای خدمت به بشریت است. | ## بخش 1: اوپن‌ای‌آی | برای همکاری آزادانه با سایر مؤسسات و پژوهشگران، اوپن‌اِی‌آی پتنت‌ها و تحقیقات خود را به‌صورت عمومی منتشر می‌کند. بخشی از انگیزه‌های بنیان‌گذاران اوپن‌اِی‌آی (به‌ویژه ایلان ماسک و سَم آلتمَن) به نگرانی‌هایی که در ارتباط با تهدید هوش مصنوعی برای موجودیت‌های دیگر تصور می‌شود، ذکر شده‌است. تاریخچه در اکتبر ۲۰۱۵، ایلان ماسک، سام آلتمن و سایر سرمایه‌گذاران، این سازمان را با سرمایه اولیه ۱ میلیارد دلار راه اندازی کردند. پس از این مسابقه، گرگ براکمن مدیر ارشد تکنولوژی اوپن‌ای‌آی، اعلام کرد که این بات نحوه انجام بازی دوتا را طی دو هفته آموزش از طریق مسابقه با خودش فرا گرفته است و این بات برای ایجاد نرم‌افزاری برای انجام اعمال پیچیده‌ای مثل عمل جراحی آماده می‌شود. ایلان ماسک در ۲۱ فوریه ۲۰۱۸ اوپن‌ای‌آی را ترک کرد و علتش را امکان تعارض فعالیتش در اوپن‌ای‌آی با برنامه تسلا برای توسعه هوش مصنوعی قادر به راندن اتومبیل‌ها، اعلام کرد. دانشمندان شرکت اوپن‌ای‌آی که توسعه‌دهنده چت جی پی تی هستند، خواستار تنظیم مقرراتی برای هوش مصنوعی «فوق‌هوشمند» شده‌اند و استدلال می‌کنند که سازمانی معادل آژانس بین‌المللی انرژی اتمی، برای محافظت از بشریت از خطر ایجاد تصادفی چیزی با قدرت نابود کردن آن مورد نیاز است. به گزارش «گاردین»، «گرگ براکمن» و «ایلیا سوتسکور»، مؤسسان این شرکت و «سم آلتمن»، مدیر اجرایی آن خواستار تشکیل یک تنظیم‌کننده بین‌المللی شدند تا مقرراتی را برای کار بر روی نحوه بازرسی سیستم‌ها، نیاز به ممیزی، آزمایش انطباق با استانداردهای ایمنی، و اعمال محدودیت‌هایی در درجات استقرار و سطوح امنیتی به منظور کاهش «خطر وجودی» چنین سیستم‌هایی را تنظیم کنند. این خبر موجب هراس سرمایه‌گذاران شد و در ۲۷ ژانویه، انویدیا بیشترین کاهش ارزش بازار در یک روز (۵۸۹ میلیارد دلار) را در تاریخ به ثبت رساند. این پروژه که نام آن از ابررایانهٔ «Stargate» اوپن‌ای‌آی گرفته شده، با برآورد هزینهٔ ۵۰۰ میلیارد دلار طی چهار سال آینده تأمین مالی می‌شود. در ۲۳ ژانویه، اوپن‌ای‌آی «Operator» را منتشر کرد؛ ابزاری مبتنی بر «عامل هوش مصنوعی» و اتوماسیون وب که قادر است با مرورگر شما به وب‌سایت‌ها مراجعه کرده و وظایف تعریف‌شده توسط کاربر را انجام دهد. در ۱۰ فوریه، کنسرسیومی به رهبری ایلان ماسک پیشنهادی ۹۷٫۴ میلیارد دلاری برای خرید نهاد غیرانتفاعی کنترل‌کنندهٔ اوپن‌ای‌آی ارائه کرد و اعلام نمود که حاضر است هر پیشنهاد بهتری را برابر یا بیشتر کند. این پیشنهاد در ۱۴ فوریهٔ ۲۰۲۵ رد شد و اوپن‌ای‌آی اعلام کرد که شرکت برای فروش نیست. در فوریه، اوپن‌ای‌آی هویت بصری خود را با قلم‌نوشت جدید، نشان‌واژه، نماد و پالت رنگی تازه بازطراحی کرد. اوپن‌ای‌آی از سال ۲۰۲۴ با برودکام برای طراحی یک تراشهٔ سفارشی هوش مصنوعی که توانایی هم آموزش و هم استنتاج را دارد و برای تولید انبوه در سال ۲۰۲۶ توسط TSMC در فناوری ۳ نانومتری تولید خواهد شد، همکاری می‌کند. این ابتکار با هدف کاهش وابستگی اوپن‌ای‌آی به GPUهای انویدیا که هزینه‌بر و با تقاضای بالا هستند، انجام می‌شود. در ۱۳ فوریه، سم آلتمن اعلام کرد که GPT-4.5، که درون‌سازمانی با نام «Orion» شناخته می‌شود، آخرین مدلی خواهد بود که فاقد استدلال زنجیره‌فکری کامل است. آلتمن همچنین اشاره کرد که GPT-5، که انتظار می‌رود طی ماه‌های آتی منتشر شود، می‌تواند مدل‌های سری O و GPT را یکپارچه سازد و نیاز به انتخاب بین آن‌ها را برطرف کند. | ## بخش 2: اوپن‌ای‌آی | در مارس ۲۰۲۵، اوپن‌ای‌آی توافق‌نامه‌ای ۱۱٫۹ میلیارد دلاری با CoreWeave، ارائه‌دهندهٔ خدمات ابری متمرکز بر هوش مصنوعی و حامی مالی انویدیا، امضا کرد. در آوریل ۲۰۲۵، اوپن‌ای‌آی ۴۰ میلیارد دلار سرمایه جذب کرد و پس از پول شرکت را در ارزش ۳۰۰ میلیارد دلاری ثبت نمود که بزرگ‌ترین معاملهٔ خصوصی فناوری در تاریخ محسوب می‌شود. در ۹ آوریل ۲۰۲۵، اوپن‌ای‌آی علیه ایلان ماسک در دادگاه فدرال طرح دعوای متقابل کرد و او را به «رفتارهای سوءنیّت‌آمیز» برای کند کردن پیشرفت شرکت و تصاحب نوآوری‌ها به نفع شخصی متهم نمود. انگیزه برخی از دانشمندان مانند استیون هاوکینگ و استوارت راسل بر این باورند که اگر هوش مصنوعی پیشرفته روزی قادر باشد که خودش را با نرخی فزاینده، طراحی و بازطراحی کند، می‌تواند یک «انفجار هوش» غیرقابل توقف را به وجود آورد که منجر به انقراض بشریت گردد. اوپن‌ای‌آی معتقد است که «فهمیدن اینکه هوش مصنوعی همسطح هوش انسان چقدر می‌تواند مفید باشد»، دشوار است و به همان اندازه درک این موضوع که «هوش مصنوعی همسطح انسان اگر نادرست ساخته یا استفاده شود، چقدر می‌تواند به جامعه آسیب برساند» نیز دارای دشواری است. استراتژی ایلان ماسک این سؤال را مطرح می‌کند که: «بهترین کاری که می‌توان برای اطمینان از خوب بودن آینده کرد چیست؟ می‌توان در حاشیه نشست و کاری نکرد یا می‌توان در ساختار صحیح برای توسعه هوش مصنوعی به نحوی که ایمن و مفید باشد مشارکت کرد.» ایلان ماسک اذعان می‌نماید که همواره در مسیر توسعه هوش مصنوعی (بی‌ضرر) ریسک ساخته شدن چیزی که از آن می‌ترسیم وجود دارد، با این حال، بهترین دفاع این است که «تا می‌توانیم به توانمند کردن افراد برای بهره‌گیری از هوش مصنوعی کمک کنیم. اگر همه قدرت هوش مصنوعی داشته باشند، آنگاه هیچ شخص یا گروهی وجود نخواهد داشته که ابرقدرت هوش مصنوعی باشند» استراتژی غیرمعمول ماسک و آلتمن که کاهش مخاطرات هوش مصنوعی از طریق همه گیر کردن آن است، در بین افرادی که نگران خطر انقراض بشریت به‌دست هوش مصنوعی هستند، استراتژی بحث‌برانگیزی است؛ مثلاً فیلسوف Nick Bostrom در رویکرد ماسک تردید دارد: «اگر شما دکمه ای دارید که با فشردن آن اتفاقات بدی می‌افتد، نباید آن را به سایرین هم بدهید.» در طول یک گفتگو در سال ۲۰۱۶ پیرامون منحصر به فرد بودن تکنولوژی، آلتمن گفت که «ما اصلاً برنامه ای برای انتشار همه کد منبع نداریم» و برنامه ای را مورد اشاره قرار داد که طی آن امکان «انتخاب نمایندگان برای یک مجموعه هدایتگر توسط مردم دنیا» وجود خواهد داشت. گرگ باکمن اظهار داشت که «هدف فعلی ما انجام دادن بهترین کاری است که می‌توانیم انجام دهیم. این هدف کمی ابهام دارد.» Gym Gym با هدف ارائه یک بنچمارک هوش عمومی مصنوعی که به راحتی نصب شده و بتواند روشی را که در آن محیط‌های هوش مصنوعی در تحقیقات تعریف می‌شوند، استانداردسازی نماید، منتشر شد. هدف از استانداردسازی محیط در هوش مصنوعی آسان‌تر کردن بازتولید نتایج تحقیقات منتشر شده است. در سپتامبر سال ۲۰۱۷، صفحه مستندات سایت gym دیگر نگهداری نمی‌شود و به جای آن تمرکز روی صفحه گیت هاب gym قرار گرفته است. RoboSumo ایگور مرداک از اوپن‌ای‌آی استدلال می‌کند که رقابت بین عامل‌ها می‌تواند ایجاد یک «مسابقه تسلیحاتی» نماید که می‌تواند قابلیت عامل برای عمل، حتی خارج از محیط مسابقه را افزایش دهد. در RoboSumo، یک روبات مجازی انسان نما در ابتدا فاقد هرگونه دانشی است، حتی نحوه راه رفتن را هم نمی‌داند. سپس طی یک رقابت خصمانه، عامل یادمی‌گیرد که چگونه خود را با شرایطی که همواره در حال تغییر است انطباق دهد. پس از آنکه عامل از محیط رقابت خارج شد و در محیط جدیدی قرار گرفت، عامل استوار باقی می‌ماند که این بیاگر این خواهد بود که او ایجاد تعادل را به صورت عمومی فرا گرفته است. مدل سود محدود و فلسفه غیرانتفاعی اوپن‌ای‌آی در زمان تأسیس (۲۰۱۵) یک مؤسسهٔ کاملاً غیرانتفاعی بود و هدف اصلی آن توسعهٔ هوش مصنوعی عمومی (AGI) به نفع کل بشریت بود. | ## بخش 3: اوپن‌ای‌آی | این مدل سازمانی ترکیبی از تعهد به اهداف غیرانتفاعی و نیاز به سرمایه‌گذاری تجاری است و کنترل نهایی شرکت همچنان در دست نهاد غیرانتفاعی باقی مانده است. طبق گزارشی که در مجله Wired چاپ شده است، براکمن با یوشوا بنجیو یکی از بنیان‌گذاران یادگیری عمیق ملاقاتی داشته و طی آن لیستی از بهترین محققان در این زمینه را تهیه کردن است. پیتر لی از مایکروسافت اشاره می‌کند که: "هزینه یک محقق هوش مصنوعی بیش از هزینه یک بازیکن پست کوارتربک در بازی فوتبال آمریکایی است. گرچه پرداخت‌ها در اوپن‌ای‌آی در سطح شرکت هاست و نه موسسه‌های غیر انتفاعی، ولی با این حال با پرداخت‌ها در گوگل و فیسبوک قابل قیاس نیست. با این وجود Sutskever اظهار داشت که او حاضر به ترک گوگل و رفتن به اوپن‌ای‌آی است "بخشی به دلیل افرادی خیلی ماهری که روی این پروژه کار می‌کنند و گسترهٔ عظیمی که پروژه دارد". براکمن اظهار داشته است که "بهترین کاری که می‌توانم انجام دادنش را تصور کنم، حرکت دادن بشریت به سمت ساخت هوش مصنوعی است که ایمن باشد." یکی از محققان اوپن‌ای‌آی به نام Wojciech Zaremba اظهار داشته است که پیشنهادهای بسیار دیوانه واری را برای پیوستن به اوپن‌ای‌آی رد کرده است. سوء استفاده سپاه در فوریه ۲۰۲۴ مایکروسافت اعلام کرد که هکرهای سپاه پاسداران، و کشورهای دیگری مانند چین، روسیه، و کره شمالی از اوپن‌ای‌آی برای ردگیری و هدف‌گرفتن مخالفان خود استفاده می‌کنند. تأثیرات چت‌جی‌پی‌تی و دیگر محصولات اوپن‌ای‌آی تأثیر گسترده‌ای بر آموزش، رسانه‌ها، تولید محتوا و صنایع مختلف گذاشته‌اند. ورود این فناوری‌ها به زندگی روزمره، بحث‌های گسترده‌ای دربارهٔ آیندهٔ کار، آموزش و اخلاق هوش مصنوعی ایجاد کرده است. نگرانی‌ها و تأثیرات اجتماعی رشد سریع هوش مصنوعی‌های پیشرفته، از جمله محصولات اوپن‌ای‌آی، موجب شکل‌گیری بحث‌های گسترده در زمینهٔ پیامدهای اجتماعی و اخلاقی آن شده است. برخی از مهم‌ترین نگرانی‌ها عبارت‌اند از: بازار کار: خودکارسازی وظایف انسانی می‌تواند منجر به تغییرات گسترده در بازار کار و از بین رفتن برخی مشاغل در حوزه‌هایی مانند ترجمه، تولید محتوا و برنامه‌نویسی شود. اطلاعات نادرست: مدل‌های زبانی توانایی تولید متن‌های دقیق و قانع‌کننده دارند، اما همواره احتمال خطا یا تولید مطالب نادرست وجود دارد که می‌تواند به گسترش اخبار جعلی کمک کند. حریم خصوصی: تحلیل داده‌های کاربران برای آموزش و بهبود مدل‌ها نگرانی‌هایی دربارهٔ استفادهٔ احتمالی از اطلاعات شخصی ایجاد کرده است. سوگیری الگوریتمی: به‌دلیل آموزش این مدل‌ها بر پایهٔ داده‌های موجود در اینترنت، امکان بازتولید سوگیری‌های فرهنگی، جنسیتی یا نژادی وجود دارد. تمرکز قدرت: منتقدان هشدار داده‌اند که توسعهٔ این فناوری توسط تعداد محدودی از شرکت‌های بزرگ می‌تواند به تمرکز قدرت و انحصار منجر شود. | ## جمع‌بندی | خطرات بلندمدت: برخی پژوهشگران احتمال داده‌اند که در صورت دستیابی به هوش مصنوعی عمومی (AGI)، چالش‌های ایمنی و خطرات بنیادین برای آیندهٔ بشریت مطرح شوند.