التقارب الأدائي

التقارب الأدائي هو الميل الافتراضي لمعظم الكائنات الذكية والموجهة نحو الهدف (البشرية وغير البشرية) لملاحقة أهداف فرعية مماثلة، حتى لو كانت أهدافها النهائية مختلفة تمامًا.  وبتصور أدق، قد يسعى الوكلاء (الكائنات ذات الوكالة) إلى تحقيق أهداف عملية (أهداف يتم إنشاؤها في السعي لتحقيق غاية معينة، ولكنها ليست الأهداف النهائية في حد ذاتها) دون توقف، بشرط ألا يتم إشباع أهدافهم النهائية (الجوهرية) بشكل كامل أبدًا.

تفترض نظرية التقارب الأدائي أن العامل أو الوكيل الذكي الذي لديه أهداف تبدو غير ضارة ولكنها غير محدودة يمكنه أن يتصرف بطرق ضارة بشكل مفاجئ. على سبيل المثال، قد يحاول جهاز كمبيوتر له هدف غير مقيد وحيد وهو حل مشكلة رياضية معقدة مثل فرضية ريمان تحويل الأرض بأكملها إلى جهاز كمبيوتر عملاق واحد لزيادة قوته الحسابية حتى يتمكن من النجاح في حساباته. 

 محركات الذكاء الاصطناعي الأساسية 
قام ستيف أوموهوندرو بتفصيل العديد من الأهداف الأدائية المتقاربة، بما في ذلك الحفاظ على الذات أو حماية الذات، أو وظيفة المنفعة، أو سلامة محتوى الهدف، وتحسين الذات، واكتساب الموارد. ويشير إلى هذه المحركات أو الدوافع باعتبارها "محركات الذكاء الاصطناعي الأساسية".

"المحرك" في هذا السياق يُعرّف بأنه "ميل سيكون موجودًا ما لم يتم مواجهته على وجه التحديد"؛  وهذا يختلف بشكل كبير عن المصطلح النفسي " الدافع "، الذي يشير إلى حالة مثيرة تنتج عن اضطراب التوازن الداخلي.  على سبيل المثال، إن ميل الشخص إلى ملء نماذج ضريبة الدخل كل عام هو "دافع" بالمعنى الذي يقصده أوموهوندرو، ولكن ليس بالمعنى النفسي. 

 سلامة الهدف والمحتوى 
في البشر، يمكن للتجربة الفكرية أن تفسر الحفاظ على الأهداف النهائية. لنفترض أن المهاتما غاندي لديه حبة دواء، إذا تناولها، ستجعله يرغب في قتل الناس. وهو الآن مسالم : أحد أهدافه النهائية الصريحة هو عدم قتل أي شخص أبدًا. ومن المرجح أن يرفض تناول حبوب منع الحمل لأنه يعلم أنه إذا أراد قتل الناس في المستقبل، فمن المرجح أن يقتلهم، وبالتالي فإن هدف "عدم قتل الناس" لن يتحقق. 

ومع ذلك، في حالات أخرى، يبدو أن الناس سعداء بترك قيمهم النهائية تنحرف.  البشر كائنات معقدة، وأهدافهم قد تكون غير متسقة أو غير معروفة، حتى بالنسبة لهم.  "We humans often seem happy to let our final values drift... For example, somebody deciding to have a child might predict that they will come to value the child for its own sake, even though, at the time of the decision, they may not particularly value their future child... Humans are complicated, and many factors might be in play in a situation like this... one might have a final value that involves having certain experiences and occupying a certain social role, and becoming a parent—and undergoing the attendant goal shift—might be a necessary aspect of that..."

 الاستشهادات 

 مراجع 



تصنيف:الخطر الوجودي من الذكاء الاصطناعي العام
تصنيف:مخاطرة
تصنيف:نية
تصنيف:هدف