پیش‌نویس:هوش مصنوعی قابل اعتماد

هوش مصنوعی قابل اعتماد (Trustworthy AI) به سامانه‌های هوش مصنوعی گفته می‌شود که برای داشتن استدلال شفاف، قابل توضیح (XAI)، پاسخ‌گو، مقاوم، منصف و درستکار، محترم به حریم خصوصی داده‌ها، و قابل هدایت یا هم‌راستا با اهداف انسانی طراحی شده‌اند.Ethics Guidelines for Trustworthy AI, The Independent High-Level Expert Group on Artificial Intelligence, set up by the European Union, April 8, 2019 (Spanish Government website)Mehrabi, Ninareh; Morstatter, Fred; Saxena, Nripsuta; Lerman, Kristina; Galstyan, Aram (13 July 2021). "A Survey on Bias and Fairness in Machine Learning". ACM Computing Surveys. 54 (6): 115:1–115:35. arXiv:1908.09635. doi:10.1145/3457607. ISSN 0360-0300. S2CID 201666566.Russell, Stuart J.; Norvig, Peter (2021). Artificial intelligence: A modern approach (4th ed.). Pearson. pp. 5, 1003. ISBN 9780134610993. Retrieved September 12, 2022.Toner, Helen. "How to Govern AI — Even If It’s Hard to Predict". TED.

 اصطلاح‌شناسی 
پژوهش‌های اخیر در حوزه اخلاق هوش مصنوعی بین قابلیت اعتماد (trustworthiness) و اعتمادپذیری (trustability) به عنوان دو شرط متفاوت مرتبط با هوش مصنوعی قابل اعتماد تمایز قائل می‌شوند. قابلیت اعتماد به این موضوع می‌پردازد که آیا یک سامانه هوش مصنوعی یا نهادهای مستقرکننده آن با قابل اتکا بودن، منصف بودن و پاسخ‌گو بودن، شایسته اعتماد هستند یا خیر. از سوی دیگر، اعتمادپذیری، پرسش پیشینی است که آیا یک نهاد معین اصلاً از نوع چیزی‌است که اعتماد میان‌فردی می‌تواند به طور منسجم در مورد آن اعمال شود، در مقابل اتکای صرفاً ابزاری.Jannel, Romaric; Tallant, Jonathan (2026). "Trustability and trustworthiness: conceptual foundations and the case of AI". AI and Ethics. 6 (13). Springer. doi:10.1007/s13347-025-00982-6.

شفافیت در هوش مصنوعی شامل قابل درک ساختن فرآیندها و تصمیمات این‌گونه سامانه‌ها برای کاربران و ذی‌نفعان است. پاسخ‌گویی تضمین می‌کند که پروتکل‌هایی برای رسیدگی به پیامدهای نامطلوب یا سوگیری‌هایی که ممکن است پدید آیند، با مسئولیت‌های تعیین‌شده برای نظارت و درمان، وجود داشته باشد. استواری و امنیت با هدف اطمینان از عملکرد قابل اعتماد سامانه‌های هوش مصنوعی در شرایط مختلف و محافظت از آن‌ها در برابر حملات مخرب است."'Trustworthy AI' is a framework to help manage unique risk". MIT Technology Review. Retrieved 2024-06-01.

بی‌آزاری را می‌توان از طریق آموزش امتناع (refusal training) به دست آورد: آموزش مدل‌ها برای پرهیز از درخواست‌های مشکل‌ساز، و افزودن فیلترهایی برای تشخیص و جلوگیری از بحث درباره خروجی‌های مغرضانه، غیراخلاقی یا خطرناک.Varona, Daniel; Suárez, Juan Luis (April 2022). "Discrimination, Bias, Fairness, and Trustworthy AI". CulturePlex Laboratory, London. Applied Sciences Magazine (MDPI Open Access Publishing). تحقیقاتی در مورد چگونگی آموزش هوش مصنوعی انجام شده است تا با اهداف انسانی هماهنگ شود.

 تکنیک‌ها و استانداردسازی ITU 
ایجاد هوش مصنوعی قابل اعتماد یکی از اهداف حکمرانی و سیاست‌گذاری هوش مصنوعی است. برای دستیابی به شفافیت و حریم خصوصی داده‌ها، می‌توان از چندین فناوری افزایش‌دهنده حریم خصوصی (PET) استفاده کرد. این فناوری‌ها عبارتند از:"Advancing Trustworthy AI - US Government". National Artificial Intelligence Initiative. Retrieved 2022-10-24."TrustworthyAI". ITU. Archived from the original on 2022-10-24. Retrieved 2022-10-24. This article incorporates text from this source, which is by the International Telecommunication Union available under the CC BY 4.0 license.

 رمزنگاری همومورفیک برای محاسبه روی داده‌های رمزگذاری‌شده بدون نیاز به رمزگشایی
 یادگیری فدرال و محاسبات چندجانبه امن (MPC) برای توزیع آموزش مدل بدون به اشتراک گذاشتن اطلاعات بین مراکز یادگیری و سرورهای محاسباتی
 حریم تفاضلی برای افشای داده‌های آماری با تضمین عدم افشای اطلاعات خصوصی
 اثبات دانش صفر - ارائه صحت قابل اثبات برای گزاره‌ها بدون افشای هیچ اطلاعات اضافی

یک برنامه کاری برای دستیابی به هوش مصنوعی قابل اعتماد توسط اتحادیه بین‌المللی مخابرات (ITU)، یکی از آژانس‌های سازمان ملل متحد، و در چارچوب برنامه "هوش مصنوعی برای خوبی" (AI for Good) آن آغاز شد. ریشه آن به گروه کانونی ITU-WHO در مورد هوش مصنوعی برای سلامت بازمی‌گردد، جایی که نیاز شدید به حریم خصوصی و تحلیل‌گری، تقاضا برای استانداردی در این فناوری‌ها ایجاد کرد.

در سال ۲۰۲۰، برنامه "هوش مصنوعی برای خوبی" به فضای آنلاین منتقل شد و مجموعه سمینارهای TrustworthyAI برای شروع بحث در مورد این موضوعات راه‌اندازی شد. این امر در نهایت به فعالیت‌های استانداردسازی انجامید."TrustworthyAI Seminar Series". AI for Good. Retrieved 2022-10-24.

در اتحادیه اروپا، رهنمودهای اخلاقی برای هوش مصنوعی قابل اعتماد می‌گوید که هوش مصنوعی قابل اعتماد باید قانونی، اخلاقی و استوار باشد. در عمل، این رهنمودها هفت الزام را برای هوش مصنوعی قابل اعتماد تعریف می‌کنند: عاملیت و نظارت انسانی؛ استواری و ایمنی فنی؛ حریم خصوصی و حکمرانی داده‌ها؛ شفافیت؛ تنوع، عدم تبعیض و انصاف؛ رفاه اجتماعی و محیطی؛ و پاسخ‌گویی."Ethics guidelines for trustworthy AI". digital-strategy.ec.europa.eu. Retrieved 2026-06-06.

 محاسبات چندجانبه امن 
محاسبات چندجانبه امن (MPC) در چارچوب "پرسش ۵" (انکوباتور) گروه مطالعاتی ۱۷ ITU-T در حال استانداردسازی است.Shulman, R.; Greene, R.; Glynne, P. (2006-03-21). "Does implementation of a computerised, decision-supported intensive insulin protocol achieve tight glycaemic control? A prospective observational study". Critical Care. 10 (1): P256. doi:10.1186/cc4603. ISSN 1364-8535. PMC 4092631.

 رمزنگاری همومورفیک 
رمزنگاری همومورفیک امکان محاسبه روی داده‌های رمزگذاری‌شده را فراهم می‌کند، جایی که نتایج یا خروجی هنوز رمزگذاری‌شده و برای افرادی که محاسبه را انجام می‌دهند ناشناخته است، اما می‌تواند توسط رمزگذار اصلی رمزگشایی شود. این فناوری اغلب با هدف امکان استفاده در حوزه‌های قضایی متفاوت از محل ایجاد داده (مثلاً تحت GDPR) توسعه می‌یابد.

 یادگیری فدرال 
ماسک‌های مجموع صفر که توسط یادگیری فدرال برای حفظ حریم خصوصی استفاده می‌شوند، به طور گسترده در استانداردهای چندرسانه‌ای گروه مطالعاتی ۱۶ ITU-T (VCEG) مانند JPEG، MP3، H.264 و H.265 (معروف به MPEG) استفاده می‌شوند.

 اثبات دانش صفر 
کارهای پیش‌استانداردسازی قبلی در مورد موضوع اثبات دانش صفر در گروه کانونی ITU-T در مورد فناوری‌های دفتر کل توزیع‌شده انجام شده است.

 حریم تفاضلی 
کاربرد حریم تفاضلی در حفظ حریم خصوصی در چندین کارگاه یادگیری ماشین "روز ۰" در نشست‌های جهانی "هوش مصنوعی برای خوبی" بررسی شد.

 اتحاد "شورشیان" موزیلا 
در ژانویه ۲۰۲۶، بنیاد موزیلا و شرکت‌های تابعه آن تغییر استراتژیک خود را برای تخصیص کل ۱٫۴ میلیارد دلار ذخیره خود به ساخت آنچه مارک سورمن، رئیس بنیاد، "اتحاد شورشیان" برای هوش مصنوعی قابل اعتماد نامید، اعلام کردند.Capoot, Ashley (2026-01-27). "Mozilla building an AI rebel alliance to take on OpenAI, Anthropic". CNBC. Retrieved 2026-01-27. این ابتکار که از سوی سورمن به عنوان یک جایگزین مأموریت‌محور در برابر تسلط بازار اوپن‌ایآی و آنتروپیک框架‌بندی شده، به دنبال ایجاد یک پشته هوش مصنوعی متن‌باز تا سال ۲۰۲۸ است."Mozilla Recruits Partners to Take on AI Goliaths". PYMNTS. 2026-01-27. Retrieved 2026-01-27.

این اتحاد شامل چندین استارت‌آپ است که از طریق موزیلا ونچرز تأمین مالی شده‌اند و به طور خاص بر حکمرانی غیرمتمرکز و شفافیت تمرکز دارند:Morrison, Elizabeth (2026-01-27). "Mozilla's Rebel Alliance Wages Open AI War on OpenAI, Anthropic". WebProNews. Retrieved 2026-01-27.

 تریل (Trail): شرکتی که چارچوب‌های انطباق هوش مصنوعی را برای صنایع تنظیم‌شده توسعه می‌دهد.
 ترنسفورمر لب (Transformer Lab): توسعه‌دهنده ابزارهای متن‌باز برای مدیریت مدل هوش مصنوعی.
 اومی (Oumi): پلتفرمی برای آموزش و استقرار مدل‌های متن‌باز.

اصطلاح "اتحاد شورشیان" اشاره تاریخی به تلاش‌های موزیلا در سال ۱۹۹۸ برای به چالش کشیدن انحصار مرورگر مایکروسافت دارد. در حالی که بودجه ۱٫۴ میلیارد دلاری قابل توجه است، با ده‌ها میلیارد سرمایه جمع‌آوری‌شده توسط رقبای انحصاری مانند اوپن‌ایآی مقایسه شده است."Mozilla Recruits Partners to Take on AI Goliaths". PYMNTS. 2026-01-27. Retrieved 2026-01-27.

 مباحثه 
برخی از فیلسوفان استدلال می‌کنند که سامانه‌های هوش مصنوعی کنونی به بهترین وجه به عنوان ابزارهایی درک می‌شوند که اهداف اصیل اعتماد بین‌فردی نیستند. آن‌ها استدلال می‌کنند که اعتماد باید به سمت ترتیبات انسانی و نهادی که بر طراحی، استقرار و نظارت سامانه‌ها حاکم است، هدایت شود. این موضع از تفسیر "هوش مصنوعی قابل اعتماد" به عنوان حکمرانی و استفاده قابل اعتماد از هوش مصنوعی حمایت می‌کند، نه اعتماد به خود مصنوعات.

به گفته زانتی و همکاران، یک استدلال رایج این است که "یک نهاد X قابل اعتماد است اگر و فقط اگر X دارای انگیزه‌های درست، حسن نیت و/یا به تعهدات اخلاقی نسبت به اعتمادکننده پایبند باشد" و سامانه‌های هوش مصنوعی فاقد این ویژگی‌ها هستند. زانتی و همکاران این نتیجه‌گیری را رد می‌کنند و استدلال می‌کنند که تعریف قابلیت اعتماد برای سامانه‌های هوش مصنوعی لازم نیست تعریف انسان‌ها را آینه کند و در عوض می‌تواند بر پایه قابلیت اتکا همراه با ویژگی‌های ارزش‌بار مانند انصاف، شفافیت و احترام به خودمختاری انسانی باشد.Zanotti, Giacomo; Petrolo, Mattia; Chiffi, Daniele; Schiaffonati, Viola (2024). "Keep trusting! A plea for the notion of Trustworthy AI". AI & Society. 39 (6): 2691–2702. doi:10.1007/s00146-023-01789-9. hdl:11311/1252561. ISSN 0951-5666.

استوارت جی. راسل و پیتر نورویگ اشاره می‌کنند که کسب اعتماد می‌تواند شامل تأیید و اعتبارسنجی، صدور گواهینامه، شفافیت و قابلیت توضیح باشد.Russell, Stuart J.; Norvig, Peter (2021). "28.3.4 Trust and transparency". Artificial intelligence: A modern approach (4th ed.). Pearson. ISBN 9780134610993. Retrieved September 12, 2022.

 جستارهای وابسته 

 هوش مصنوعی
 علم داده
 انصاف در یادگیری ماشین
 فناوری‌های ارتقاءدهنده حریم خصوصی (Privacy-enhancing technologies)

 منابع