قوانین رباتیک

**قوانین رباتیک** به هر مجموعه‌ای از قوانین، قواعد یا اصول گفته می‌شود که با هدف ایجاد چارچوبی بنیادی برای هدایت رفتار ربات‌هایی طراحی شده‌اند که دارای درجه‌ای از خودمختاری باشند. چنین ربات‌های پیشرفته‌ای هنوز وجود ندارند، اما در علمی-تخیلی، فیلم‌ها و نیز در حوزه‌های فعال تحقیق و توسعه در رباتیک و هوش مصنوعی بسیار مورد توجه قرار گرفته‌اند.

شناخته‌شده‌ترین مجموعه قوانین، قوانین سه‌گانه رباتیک اثر آیزاک آسیموف در دههٔ ۱۹۴۰ است، اما پژوهشگران در دهه‌های بعد مجموعه قوانین دیگری نیز پیشنهاد کرده‌اند.

## قوانین سه‌گانه رباتیک آیزاک آسیموف

مشهورترین قوانین، «قوانین سه‌گانه رباتیک» اثر آیزاک آسیموف است. این قوانین نخستین‌بار در داستان کوتاه او در سال ۱۹۴۲ با نام «دور سرگردانی» معرفی شدند، هرچند پیش‌تر در چند داستان دیگر به‌طور ضمنی مطرح شده بودند. این قوانین سه‌گانه عبارتند از:
# یک ربات نباید به انسان آسیب برساند یا با بی‌عملی باعث آسیب‌دیدن انسان شود.
# یک ربات باید از دستورهای صادرشده توسط انسان‌ها اطاعت کند، مگر این‌که این دستورها با قانون اول در تضاد باشند.
# یک ربات باید از وجود خود محافظت کند، تا جایی که این محافظت با قانون اول یا دوم در تضاد نباشد.

در "The Evitable Conflict" این قوانین به‌صورت کلی‌تر بازنویسی شدند:
# هیچ ماشینی نباید به بشریت آسیب برساند یا با بی‌عملی باعث آسیب به بشریت شود.

این دیدگاه در پایان کتاب *[[بنیاد و زمین]]* باز هم گسترش یافت و «قانون صفرم» معرفی شد، که سه قانون اصلی زیرمجموعهٔ آن شدند:

تا  این قوانین همچنان بیشتر در جایگاه یک «فنون پی‌رنگ» باقی مانده‌اند.

### قوانین افزوده
نویسندگان و پژوهشگران دیگر در کنار قوانین آسیموف، قوانین تازه‌ای پیشنهاد کرده‌اند.

در رمان ۱۹۷۴ Lyuben Dilov با عنوان *راه ایکاروس*، «قانون چهارم رباتیک» مطرح شد: «یک ربات باید در همه حال هویت خود را به‌عنوان ربات آشکار کند.» دلیل این قانون، جلوگیری از طراحی ربات‌هایی بیش از حد شبیه انسان عنوان شد که می‌توانست باعث سوءتفاهم شود.

در سال ۲۰۲۴ Dariusz Jemielniak در نشریه آی‌تریپل‌ئی اسپکتروم پیشنهاد کرد «قانون چهارم» چنین باشد: «هیچ ربات یا سامانهٔ هوش مصنوعی نباید با وانمودکردن به انسان بودن، انسان‌ها را فریب دهد.»

«قانون پنجم» نیز توسط Nikola Kesarovski در داستان کوتاه «قانون پنجم رباتیک» (۱۹۸۳) مطرح شد: «یک ربات باید بداند که ربات است.» در این داستان، یک قتل رخ می‌دهد که عامل آن رباتی انسان‌نماست که هویت واقعی خود را به‌عنوان ربات تشخیص نداده بود.

هری هریسون در ۱۹۸۶ داستانی با عنوان «قانون چهارم رباتیک» نوشت که در آن آمده است: «یک ربات باید توانایی تولیدمثل داشته باشد، مادامی که این کار با قانون اول، دوم یا سوم در تضاد نباشد.»

در ۲۰۱۳ هوتن اشرفیان قانونی موسوم به «AIonAI» پیشنهاد کرد که بر روابط بین ربات‌ها یا هوش‌های مصنوعی با یکدیگر تمرکز داشت. این «قانون ششم» می‌گوید: «تمام ربات‌هایی که دارای سطحی مشابه از خرد و وجدان انسانی هستند، باید نسبت به یکدیگر با روحیهٔ برادری رفتار کنند.»

## اصول رباتیک EPSRC / AHRC
در سال ۲۰۱۱، شورای پژوهش علوم مهندسی و فیزیک (EPSRC) و شورای پژوهش هنر و علوم انسانی (AHRC) در بریتانیا به‌طور مشترک مجموعه‌ای از پنج اصل اخلاقی برای «طراحان، سازندگان و کاربران ربات‌ها» در دنیای واقعی منتشر کردند. این مجموعه همراه با هفت «پیام کلان» بود که بر پایهٔ کارگاه پژوهشی سپتامبر ۲۰۱۰ تنظیم شد:

پنج اصل اصلی چنین بودند:

# ربات‌ها نباید صرفاً یا عمدتاً برای کشتن یا آسیب‌زدن به انسان طراحی شوند.
# این انسان‌ها هستند که مسئولیت دارند، نه ربات‌ها. ربات‌ها ابزارهایی هستند برای دستیابی به اهداف انسانی.
# ربات‌ها باید به‌گونه‌ای طراحی شوند که ایمنی و امنیتشان تضمین شود.
# ربات‌ها مصنوعات‌اند؛ نباید به‌گونه‌ای طراحی شوند که با برانگیختن واکنش یا وابستگی عاطفی، از کاربران آسیب‌پذیر سوءاستفاده کنند. باید همیشه بتوان ربات را از انسان تشخیص داد.
# باید همیشه بتوان مشخص کرد چه کسی از نظر حقوقی مسئول یک ربات است.
پیام‌های کلان مورد نظر نیز چنین بودند:
* ما باور داریم ربات‌ها می‌توانند اثر مثبت عظیمی بر جامعه داشته باشند و می‌خواهیم پژوهش مسئولانه در این زمینه تشویق شود.
* رفتار نادرست، به ضرر همه است.
* پاسخ‌دادن به نگرانی‌های عمومی، به پیشرفت همه کمک می‌کند.
* باید نشان دهیم که به‌عنوان رباتیک‌دان، متعهد به بالاترین استانداردهای ممکن هستیم.
* برای فهم بهتر زمینه و پیامدهای پژوهش خود باید با متخصصان رشته‌های دیگر، از جمله علوم اجتماعی، حقوق، فلسفه و هنر همکاری کنیم.
* باید به اخلاق شفافیت بیندیشیم: آیا مرزی برای آنچه باید آشکار شود وجود دارد؟
* وقتی گزارش‌های نادرست در رسانه‌ها می‌بینیم، باید وقت بگذاریم و با خبرنگاران تماس بگیریم.

اصول EPSRC به‌طور گسترده به‌عنوان نقطهٔ آغاز سودمند شناخته شدند. در سال ۲۰۱۶ تونی پرسکات کارگاهی برگزار کرد تا این اصول بازبینی شوند، از جمله برای تفکیک میان اصول اخلاقی و حقوقی.

## توسعه قضایی
در برخی کشورها، به‌ویژه در آسیا، تدوین اصطلاحات و چارچوب‌های جامع حقوقی برای ارزیابی پیشرفت‌های فناورانه در صنعت رباتیک آغاز شده است. این روند نشان‌دهندهٔ بازتفسیر معاصر حقوق (و اخلاق) در حوزهٔ رباتیک است و بازاندیشی در مفاهیم سنتی حقوقی را دربرمی‌گیرد. این شامل مسائل مربوط به مسئولیت حقوقی در حقوق مدنی و کیفری نیز می‌شود.

## قوانین ساتیا نادلا
در ژوئن ۲۰۱۶، ساتیا نادلا مدیرعامل مایکروسافت در گفت‌وگویی با مجلهٔ *[[اسلیت (مجله)]]* اصولی را دربارهٔ هوش مصنوعی مطرح کرد که صنعت و جامعه باید در نظر بگیرند:

# هوش مصنوعی باید برای کمک به انسان طراحی شود و استقلال انسان را محترم بشمارد.
# هوش مصنوعی باید شفاف باشد، یعنی انسان‌ها باید بدانند چگونه کار می‌کند و آن را بفهمند.
# هوش مصنوعی باید بهره‌وری را افزایش دهد بدون آنکه کرامت انسانی را خدشه‌دار کند.
# هوش مصنوعی باید با حفظ حریم خصوصی هوشمندانه اعتماد کاربران را جلب کند.
# هوش مصنوعی باید دارای مسئولیت‌پذیری الگوریتمی باشد تا انسان‌ها بتوانند آسیب‌های ناخواسته را جبران کنند.
# هوش مصنوعی باید در برابر سوگیری‌ها محافظت کند و نباید علیه افراد تبعیض‌آمیز عمل کند.
## قوانین تیلدن
مارک دبلیو. تیلدن فیزیک‌دان رباتیک و از پیشگامان توسعهٔ ربات‌های ساده بود.

او بعدها قوانین آسیموف را «ضعیف» و انسان‌محور توصیف کرد و سه اصل تازه برای ربات‌های «وحشی» پیشنهاد داد:

# یک ربات باید به هر قیمتی از وجود خود محافظت کند.
# یک ربات باید دسترسی به منبع انرژی خود را به‌دست آورده و حفظ کند.
# یک ربات باید همواره به‌دنبال منابع انرژی بهتر باشد.
تیلدن هدف خود را چنین توصیف کرد: «... پرورش یک گونهٔ سیلیکونی به سوی خودآگاهی، اما با کنترل کامل بر ویژگی‌های آن. نه گیاه، نه حیوان؛ چیزی دیگر.»

## جستارهای وابسته
* هوش مصنوعی دوستانه
* اخلاق ربات
* اخلاق هوش مصنوعی
* ربات نظامی

## منابع

* 

رده:رباتیک