پیش‌نویس:قضیه تنش‌گر اخلاقی

"این مقاله در حال ترجمه از ویکی انگلیسی است

لطفا حذف نشود."

قضیه تنش گر اخلاقی

قضیهٔ تنظیم‌گر اخلاقی (به انگلیسی: Ethical regulator theorem) توسط میک اشبی ارائه شده است.این قضیه بر پایهٔ قضیهٔ تنظیم‌گر خوب کاننت-اشبی (Conant-Ashby good regulator theorem) بنا شده‌است. ابهام موجود در قضیهٔ تنظیم‌گر خوب از این واقعیت نشئت می‌گیرد که خوب بودن در تنظیم‌گری (توانایی کنترل مؤثر یک سامانه) به معنای خوب بودن از نظر اخلاقی نیست.

قضیه

قضیهٔ تنظیم‌گر اخلاقی ادعا می‌کند که نه شرط زیر برای اخلاقی و مؤثر بودن یک تنظیم‌گر سایبرنتیکی لازم و کافی است:

۱. هدف که به صورت اولویت‌بندی‌شده و بدون ابهام بیان شود.

۲. حقیقت دربارهٔ گذشته و حال.

۳. انواع (تنوع) کنش‌های ممکن.

۴. قابلیت پیش‌بینی آثار آیندهٔ کنش‌ها.

۵. هوش برای انتخاب بهترین کنش‌ها.

۶. تأثیرگذاری بر سیستم تنظیم‌شونده.

۷. اخلاق که به صورت قواعد اولویت‌بندی‌شده و بدون ابهام بیان شود.

۸. درستی (یکپارچگی) همهٔ زیرسامانه‌ها.

۹. شفافیت رفتار اخلاقی.

از میان این شروط، تنها شش شرط نخست برای مؤثر بودن یک تنظیم‌گر ضروری هستند. سه شرط اخلاق، درستی و شفافیت در صورتی که سامانه تنها نیاز به مؤثر بودن داشته باشد، اختیاری هستند.

 قانون ناکارآمدی اخلاقیِ محتوم 
این موضوع به قانون «ناکارآمدی اخلاقیِ محتوم» (Law of Inevitable Ethical Inadequacy) منجر می‌شود که می‌گوید:«اگر تصریح نکنید که به یک سامانهٔ اخلاقی امن نیاز دارید، آنچه به دست می‌آورید یک سامانهٔ ناایمن و غیراخلاقی است.»دلیل این امر آن است که مگر اینکه کفایت اخلاقی یک نیاز تلقی شود، طراحی یک سامانه به سمت بهینه‌سازی برای مؤثر بودن تمایل خواهد داشت و در نتیجه تا حد امکان ابعاد اختیاریِ اخلاق، درستی و شفافیت را نادیده می‌گیرد. این امر به ناچار به طراحی و پیاده‌سازیِ سامانه‌ای منجر می‌شود که از نظر اخلاقی ناکارآمد و در برابر دستکاری آسیب‌پذیر است.

 کارآمدی یک تنظیم‌گر (Effectiveness of a regulator) 
قضیهٔ تنظیم‌گر اخلاقی نشان می‌دهد که کارآمدی یک تنظیم‌گر سایبرنتیکی به هفت شرط بستگی دارد. کارآمدی یک تنظیم‌گر (R) را می‌توان به صورت تابع زیر بیان کرد:

Effectivenessᵣ = Purposeᵣ × Truthᵣ × (Varietyᵣ – Ethicsᵣ) × Predictabilityᵣ × Intelligenceᵣ × Influenceᵣ

اگر دو سامانهٔ A و B برای کنترل یک سامانهٔ سوم C با یکدیگر رقابت کنند و Effectiveness_A از Effectiveness_B بیشتر باشد، A احتمال بیشتری برای به دست گرفتن کنترل C خواهد داشت. تابع کارآمدی نشان می‌دهد که چگونه تنوع کنش‌های موجود برای یک تنظیم‌گر اخلاقی، به اندازهٔ همهٔ کنش‌های غیراخلاقی کاهش می‌یابد، که این امر تنظیم‌گر اخلاقی را در رقابت با یک رقیب غیراخلاقی در موقعیت ضعیف‌تری قرار می‌دهد.

 پارادایم سایبرنتیک مدل-محور (Model-Centric Cybernetics Paradigm) 

بر اساس پارادایم سایبرنتیک مدل-محور (model-centric cybernetics paradigm), یک تنظیم‌گر اخلاقی محصول نظم‌دهیِ سطح سوم (third-order regulation) است. پارادایم سایبرنتیک مدل-محور بر پایهٔ اصول اولیه، به ویژه قضیهٔ تنظیم‌گر خوب کاننت-اشبی بنا شده است که ثابت می‌کند «هر تنظیم‌گر خوبِ یک سامانه باید مدلی از آن سامانه باشد». این پارادایم تعریف می‌کند که یک تنظیم‌گر (regulator) سایبرنتیکی شامل موارد زیر است:

 یک هدف (purpose)
 یک مدل (model)
 یک ناظر (observer) که تنها آنچه را مدل به عنوان پارامتر ورودی نیاز دارد مشاهده کند
 نوعی هوش تصمیم‌گیرنده (decision-making intelligence)
 یک کانال کنترلی (control channel) که کنش‌ها یا ارتباطات انتخاب‌شده را به سامانهٔ تنظیم‌شونده منتقل می‌کند.

بنابراین، برای مؤثر بودن:

 یک تنظیم‌گر مرتبهٔ اول (ساده) سایبرنتیکی نیاز به مدلی از سامانه‌ای دارد که در حال تنظیم آن است.
 یک تنظیم‌گر مرتبهٔ دوم (بازتابی) تنها در صورتی می‌تواند به بازتابی بودن دست یابد که مدلی از خودش داشته باشد و آن مدل بازنماییِ بی‌درنگ (real-time representation) از انواعِ کنش‌هایی (variety) را رمزگذاری کند که در اختیار تنظیم‌گر است.

نهایتاً، یک تنظیم‌گر اخلاقی با استفاده از یک تنظیم‌گر سوم (third regulator) برای تنظیم یک تنظیم‌گر بازتابی محقق می‌شود. این کار به منظور محدود کردن تنظیم‌گر بازتابی به گونه‌ای انجام می‌پذیرد که تنها رفتاری از خود نشان دهد که با طرحوارهٔ اخلاقی (ethical schema) رمزگذاری‌شده در مدل سوم مغایرت نداشته باشد. اگر مدل سوم آنچه را غیرقانونی یا از نظر اجتماعی غیرقابل قبول است رمزگذاری کند، مفهوم تنظیم‌گر مرتبهٔ سوم برای ساخت ربات‌های قانون‌مدار (law-abiding robots) و هوش مصنوعی اخلاقی (ethical AI) کاربرد خواهد داشت.

منابع

M. Ashby, "Ethical Regulators and Super-Ethical Systems". Systems, 2020; 8(4):53.

R. C. Conant and W. R. Ashby, "Every good regulator of a system must be a model of that system", Int. J. Systems Sci., 1970, vol 1, No 2, pp. 89–97

M. Ashby, "Problems with Abstract Observers and Advantages of a Model-Centric Cybernetics Paradigm". Systems, 2022; 10(3):53.