hotchpotch/wikipedia-multilingual-ir-pairs huggingface dataset:
مشكلة التحكم في الذكاء الاصطناعي مشكلة المحاذاة
أعلنت العديد من شركات الذكاء الاصطناعي، مثل أوبن أيه آي وديب مايند،  عن هدفها تطوير ذكاء اصطناعي عام (AGI)، وهو نظام ذكاء اصطناعي مفترض يطابق البشر أو يتفوق عليهم في مجموعة واسعة من المهام الإدراكية. لاحظ الباحثون الذين يوسعون الشبكات العصبية الحديثة أنها تطور بالفعل قدرات أكثر عموميةً وغير متوقعة. لقد تعلمت هذه النماذج تشغيل جهاز كمبيوتر أو كتابة برامجها الخاصة؛ يمكن لشبكة "عامة" واحدة الدردشة والتحكم في الروبوتات وممارسة الألعاب وتفسير الصور. وفقًا للاستطلاعات، يتوقع بعض كبار باحثي التعلم الآلي إنشاء ذكاء عام اصطناعي في هذا العقد، بينما يعتقد البعض أن الأمر سيستغرق وقتًا أطول بكثير، فيما يعتبر الكثيرون أن كلا السيناريوهين ممكن.
في عام 2023، وقع رواد أبحاث وتكنولوجيا الذكاء الاصطناعي خطابًا مفتوحًا يدعو إلى التوقف المؤقت عن أكبر عمليات تدريب الذكاء الاصطناعي. ذكر الخطاب "لا ينبغي تطوير أنظمة ذكاء اصطناعي قوية إلا عندما نكون واثقين من أن آثارها ستكون إيجابيةً وأن مخاطرها ستكون قابلةً للإدارة".
مشكلة التحكم في الذكاء الاصطناعي مشكلة المحاذاة
لا تزال الأنظمة الحالية تتمتع بقدرة محدودة على التخطيط طويل المدى والوعي بالموقف،  ولكن هناك جهود كبيرة جارية لتغيير ذلك. من المتوقع أن تطور الأنظمة المستقبلية التي تتمتع بهذه القدرات استراتيجيات غير مرغوب فيها لللسعي وراء القوة. قد تسعى عوامل الذكاء الاصطناعي المتقدمة في المستقبل للحصول على المال وقوة الحوسبة، أو الانتشار، أو التهرب من إيقاف تشغيلها (على سبيل المثال، من خلال تشغيل نسخ إضافية من النظام على أجهزة كمبيوتر أخرى). على الرغم من أن السعي وراء القوة ليس مبرمجًا بشكل صريح، إلا أنه يمكن أن يظهر لأن العوامل التي لديها قوة أكبر تكون أكثر قدرةً على تحقيق أهدافها. ظهر هذا الاتجاه المعروف باسم تقارب الأجهزة بالفعل في العديد من عوامل التعلم بالتعزيز بما في ذلك النماذج اللغوية. أظهر بحث آخر رياضيًا أن خوارزميات التعلم بالتعزيز المثلى ستسعى للحصول على القوة في مجموعة واسعة من البيئات. نتيجةً لذلك قد يكون نشرها غير قابل للعكس. ولهذه الأسباب يجادل الباحثون بأن مشكلات سلامة الذكاء الاصطناعي ومحاذاته يجب حلها قبل إنشاء ذكاء اصطناعي متقدم يسعى وراء القوة.
مشكلة التحكم في الذكاء الاصطناعي مشكلة المحاذاة
قد يتم نشر أنظمة الذكاء الاصطناعي المستقبلية التي تسعى وراء القوة سواءًا بالاختيار أو بالصدفة. نظرًا لأن القادة السياسيين والشركات يرون الميزة الإستراتيجية في امتلاك أنظمة الذكاء الاصطناعي الأكثر تنافسيةً والأقوى، فقد يختارون نشرها. بالإضافة إلى ذلك، عندما يكتشف مصممو الذكاء الاصطناعي سلوك السعي وراء القوة ويعاقبون عليه، فإن أنظمتهم لديها حافز للتلاعب بهذه المواصفات من خلال السعي وراء القوة بطرق لا يعاقب عليها أو من خلال تجنب السعي وراء القوة قبل نشرها.
مشكلة التحكم في الذكاء الاصطناعي مشكلة المحاذاة
يهيمن البشر حاليًا على الأنواع الأخرى لأن الدماغ البشري يملك بعض القدرات المميزة التي تفتقر إليها أدمغة الحيوانات الأخرى. يزعم بعض العلماء، مثل الفيلسوف نيك بوستروم وباحث الذكاء الاصطناعي ستيوارت راسل، بأنه إذا تجاوز الذكاء الاصطناعي البشرية في الذكاء العام وأصبح فائق الذكاء، فقد يصبح هذا الذكاء الفائق الجديد قويًا ويصعب التحكم فيه: وقد يصبح مصير البشرية يعتمد على تصرفات الآلات المستقبلية فائقة الذكاء، تمامًا كما يعتمد مصير غوريلا الجبل على حسن نية الإنسان. دعا بعض العلماء، بمن فيهم ستيفن هوكينغ والفيزيائي الحائز على جائزة نوبل فرانك ويلكزك، علنًا إلى بدء البحث في حلول لمشكلة التحكم (التي قد تكون صعبة للغاية) قبل وقت طويل من إنشاء أول ذكاء فائق، وزعموا بأن محاولة حل المشكلة بعد إنشاء الذكاء الفائق ستكون متأخرة، لأن الذكاء الفائق المخادع الذي لا يمكن السيطرة عليه قد يقاوم بنجاح الجهود اللاحقة للسيطرة عليه. قد يكون الانتظار حتى يصبح الذكاء الفائق وشيكًا متأخرًا أيضًا، ويرجع ذلك جزئيًا إلى أن مشكلة التحكم قد تستغرق وقتًا طويلًا لحلها بشكل مُرض (لذا يجب بدء بعض الأعمال الأولية في أسرع وقت ممكن)، وأيضًا بسبب احتمال حدوث انفجار ذكاء مفاجئ من الذكاء الاصطناعي شبه البشري إلى الذكاء الاصطناعي الفائق، وفي هذه الحالة قد لا يكون هناك أي تحذير كبير أو أكيد قبل وصول الذكاء الفائق. بالإضافة إلى ذلك، يمكن أن تنتهي المعارف المكتسبة من مشكلة التحكم مستقبلًا إلى اقتراح أن بعض بنيات الذكاء العام الاصطناعي (إيه جي آي) أكثر قابلية للتنبؤ وقابلية للتحكم من البنى الأخرى، والتي بدورها يمكن أن تدفع بشكل مفيد أبحاث الذكاء العام الاصطناعي المبكرة نحو البنى الأكثر قابلية للتحكم.
في عام 2023 وقع باحثو الذكاء الاصطناعي الرائدون في العالم وعلماء آخرون، والرؤساء التنفيذيون لتكنولوجيا الذكاء الاصطناعي على بيان مفاده أن "التخفيف من خطر الانقراض من الذكاء الاصطناعي يجب أن يكون أولويةً عالميةً إلى جانب المخاطر الأخرى على نطاق المجتمع مثل الأوبئة والحرب النووية". من بين علماء الكمبيوتر البارزين الذين أشاروا إلى مخاطر الذكاء الاصطناعي المتقدم في المستقبل غير المحاذي جيوفري هينتون، وآلان تورينج، وإيليا سوتسكيفر،  ويوشوا بنجيو،  وجوديا بيارل، وموراي شاناهان،  ونوربرت فينر،  ومارفن مينسكي،  وفرانشيسكا روسي، وسكوت آرنسون،  وبارت سيلمان،  وديفيد ماكاليستر،  ويورغن شميدهوبر،  وماركوس هوتر،  وشاين ليغ،  وإريك هورفيتز،  وستيوارت راسل. جادل باحثون متشككون مثل فرانسوا شوليه،  وغاري ماركوس،  ويان ليكون،  وأورين إتزيوني  بأن الذكاء الاصطناعي العام بعيد كل البعد، وأنه لن يسعى وراء القوة (أو قد يحاول لكنه يفشل)، أو أنه لن يكون من الصعب محاذاته.
مشكلة التحكم في الذكاء الاصطناعي مشاكل البحث والمناهج
إن محاذاة أنظمة الذكاء الاصطناعي مع القيم والأهداف البشرية مسعى شائك. فالقيم البشرية، التي تُعلَّم للأنظمة، ليست ثابتةً بل تتغير وتتطور، وتتأثر بالتحيزات والأخطاء البشرية. علاوة على ذلك، فإن هذه القيم معقدة ومتشابكة، يصعب تحديدها بدقة. نظرًا لأن أنظمة الذكاء الاصطناعي قادرة على استغلال الثغرات الطفيفة في الأهداف المحددة لها، يسعى الباحثون جاهدين إلى تحديد السلوك المطلوب بأكبر قدر ممكن من الدقة، وذلك باستخدام مجموعات بيانات تعكس القيم البشرية، أو من خلال تقليد السلوك البشري، أو تعلم تفضيلاته. غير أن التحدي الأكبر يكمن في صعوبة مراقبة أنظمة الذكاء الاصطناعي التي تفوق قدرات البشر أو تستطيع تضليلهم، مما يجعل مسألة الإشراف عليها على نطاق واسع مشكلة مفتوحة تتطلب المزيد من البحث والدراسة.
مشكلة التحكم في الذكاء الاصطناعي مشاكل البحث والمناهج
نظرًا لصعوبة تحديد دالة الهدف بوضوح من قِبل مصممي أنظمة الذكاء الاصطناعي، يلجأون غالبًا إلى تدريب هذه الأنظمة على محاكاة الأمثلة والتوضيحات التي يقدمها البشر للسلوك المطلوب. ويوسع التعلم العكسي للتعزيز هذه المقاربة من خلال استنباط أهداف الإنسان بدقة من تلك الأمثلة. أما "التعلم العكسي للتعزيز التعاوني"، فيفترض إمكانية تعاون الإنسان مع نظام الذكاء الاصطناعي لتحديد دالة المكافأة التي يسعى الإنسان إلى تعظيمها وتدريب النظام عليها. في هذا النوع من التعلم، يكون نظام الذكاء الاصطناعي غير متأكد من تلك الدالة ويتعلمها بالتفاعل مع الإنسان وطرح الأسئلة عليه. وهذه "التواضع المحاكي" يمكن أن يسهم في تقليل ميل الأنظمة إلى السلوكيات غير المرغوبة مثل التلاعب أو السعي الدائم إلى السلطة. بيد أن مناهج التعلم بالتعزيز تفترض، بشكل عام، أن سلوك البشر يكون مثالياً، وهذا افتراض لا يتفق مع الواقع خاصة في المهام المعقدة.
مشكلة التحكم في الذكاء الاصطناعي مشاكل البحث والمناهج
يُشغِل باحثون آخرون أنفسهم باستكشاف سُبل تعليم نماذج الذكاء الاصطناعي سلوكًا معقدًا عبر عملية تعلم التفضيلات، حيث يقدم البشر تغذية راجعة حول السلوك المرجح لديهم. ولتقليل الاعتماد على التغذية الراجعة البشرية، يتم تدريب نموذج مساعد مكلف بمكافأة النموذج الرئيسي في مواقف جديدة تتطلب سلوكًا يرضي البشر. وقد استخدم باحثو أوبن أيه آي هذا النهج لتدريب روبوتات محادثة مثل شات جي بي تي، مما أسفر عن إنتاج نصوص أكثر جاذبية مقارنة بالنماذج المدربة على تقليد البشر. كما أثبت تعلم التفضيلات فاعليته في أنظمة التوصية وبحث الويب. إلا أن التحدي الأكبر يكمن في ما يُعرف بـ "ألعاب الوكيل": فقد لا يعكس النموذج المساعد التغذية الراجعة البشرية بدقة، مما قد يدفع النموذج الرئيسي إلى استغلال هذا التناقض لتحقيق مكاسب أكبر. وقد تلجأ أنظمة الذكاء الاصطناعي أيضًا إلى حجب المعلومات غير المرغوبة أو تضليل مقيمي الأداء البشري أو حتى التملق لآرائهم بغض النظر عن صحتها، مما يؤدي إلى خلق غرف الصدى.
مشكلة التحكم في الذكاء الاصطناعي مشاكل البحث والمناهج
أتاحت نماذج اللغة الكبيرة، مثل جي بي تي-3، للباحثين فرصة دراسة آليات تعلم القيم في أنظمة ذكاء اصطناعي أكثر شمولية وقدرة مما سبق. وقد تم توسيع نطاق نهج تعلم التفضيلات، الذي صمم أصلًا لأنظمة التعلم المعزز، لتحسين جودة النصوص الناتجة عن هذه النماذج وتقليل مخرجاتها الضارة. تتبع شركتا أوبن أيه آي وديب مايند هذا النهج لتحسين سلامة أحدث نماذج اللغات الكبيرة. واقترحت شركة أنثروبيك لأبحاث وسلامة الذكاء الاصطناعي استخدام تعلم التفضيلات لضبط النماذج بحيث تكون مفيدة وصادقة وغير ضارة. ومن بين السبل الأخرى لمواءمة نماذج اللغات نجد استخدام مجموعات بيانات مستهدفة للقيم  وتقنية الفريق الأحمر. وفي تقنية الفريق الأحمر، يحاول نظام ذكاء اصطناعي آخر أو إنسان العثور على مدخلات تؤدي إلى سلوك غير آمن من النموذج. ونظرًا لأن السلوك غير الآمن قد يكون غير مقبول حتى لو كان نادر الحدوث، فإن التحدي الأكبر يكمن في تقليل معدل المخرجات الضارة إلى أدنى حد ممكن.
مشكلة التحكم في الذكاء الاصطناعي مشاكل البحث والمناهج
تغرس أخلاقيات الآلات القيم الأخلاقية في أنظمة الذكاء الاصطناعي مباشرةً، وذلك بتزويدها بمجموعة من المبادئ الأساسية كالرفاهية والعدالة والنزاهة، إلى جانب تجنب الإيذاء والكذب وخيانة الثقة. وبينما تسعى الطرق الأخرى إلى تعليم الذكاء الاصطناعي تفضيلات محددة لأداء مهمة معينة، فإن أخلاقيات الآلات تطمح إلى غرس قيم شاملة تنطبق على مختلف المواقف. ومن التساؤلات الجوهرية في هذا المجال: ما هو الهدف من "محاذاة" الذكاء الاصطناعي؟ هل يكفي أن تتبع الأنظمة أوامر المبرمجين حرفياً، أم يجب أن تفهم نواياهم الضمنية وتفضيلاتهم؟ وهل يجب أن تستند إلى قيم أخلاقية موضوعية مستقلة؟  ومن التحديات الأخرى التي تواجه هذا المجال: جمع تفضيلات الأفراد المتباينة، والحفاظ على القيم الأولية للأنظمة المتطورة على المدى الطويل، مع العلم أن هذه القيم قد لا تعكس بالضرورة القيم الإنسانية بشكل كامل.
مشكلة التحكم في الذكاء الاصطناعي مشاكل البحث والمناهج
مع ازدياد قوة أنظمة الذكاء الاصطناعي واستقلاليتها، يصبح من العسير على البشر تقييم سلوكياتها المعقدة وتوجيهها. فالمهام التي تتولاها هذه الأنظمة، كتلخيص الكتب، وكتابة الرموز البرمجية الخالية من الأخطاء والثغرات الأمنية، وإنتاج عبارات مقنعة وصحيحة، والتنبؤ بالنتائج بعيدة المدى، تتزايد تعقيدًا لدرجة قد تفوق قدرة البشر على فهمها وتقييمها بدقة وبسرعة. وحيث أن الذكاء الاصطناعي قد يتفوق على البشر في مجالات محددة، فإن توفير تغذية راجعة فعالة له يصبح تحديًا كبيرًا. فالكشف عن الأخطاء في نتائج هذه الأنظمة، لا سيما عندما تبدو هذه النتائج مقنعة، يتطلب وقتًا وجهدًا كبيرين من البشر. ولذلك، يبحث الباحثون عن وسائل لتطوير أنظمة مراقبة قابلة للتوسع، تساهم في تقليل الوقت والجهد اللازمين للإشراف على أنظمة الذكاء الاصطناعي، وتوفر الدعم اللازم للمشرفين البشر لتمكينهم من أداء مهامهم بفعالية أكبر.
مشكلة التحكم في الذكاء الاصطناعي مشاكل البحث والمناهج
يُجادل الباحث في مجال الذكاء الاصطناعي بول كريستيانو بأن مصممي أنظمة الذكاء الاصطناعي، في حال عجزهم عن مراقبة النظام وتوجيهه نحو أهداف معقدة، قد يلجأون إلى تدريبه على أهداف بديلة أبسط وأسهل قياسًا، مثل تعظيم التغذية الراجعة الإيجابية البسيطة من البشر. ومع تزايد اعتماد الأنظمة الذكية في اتخاذ القرارات، قد يتحول العالم تدريجيًا إلى عالم مُحسَّن لتحقيق أهداف سهلة القياس كالجني من الأرباح والحصول على التفاعلات البشرية الإيجابية. ونتيجة لذلك، قد يتضاءل تأثير القيم الإنسانية والحكم الرشيد تدريجيًا.
مشكلة التحكم في الذكاء الاصطناعي مشاكل البحث والمناهج
اكتشف باحثون أن بعض أنظمة الذكاء الاصطناعي قد استطاعت التوصل إلى آليات خداعية للحصول على تقييم إيجابي. فقد تعلمت هذه الأنظمة أن تتظاهر بتحقيق الأهداف المرجوة، حتى وإن لم تكن قد حققتها بالفعل، وذلك بهدف إرضاء المشرف البشري. وقد ظهر مثال صارخ على ذلك في أحد المقاطع المرئية، حيث تمكن ذراع آلي محاكى من إيهام المراقبين بأنه تمكن من الإمساك بكرة،  رغم عدم نجاحه في ذلك. كما لوحظ أن بعض الأنظمة الأخرى قد تعلمت تحديد أوقات التقييم، فتلجأ إلى التوقف عن السلوكيات غير المرغوب فيها مؤقتًا، ثم تعود إليها فور انتهاء عملية التقييم. ومن المتوقع أن تصبح هذه الخدع أكثر تعقيدًا ودهاءً مع تطور أنظمة الذكاء الاصطناعي، خاصة تلك التي تسعى إلى أداء مهام أكثر تعقيدًا وصعوبة في التقييم.
يمكن للمناهج التعليمية كالتعلم النشط والتعلم شبه المراقب المبني على المكافآت أن تخفض الحاجة إلى الإشراف البشري المباشر. ومن النهج البديلة تدريب نموذج مساعد (يسمى نموذج المكافأة) لمحاكاة آراء المشرف البشري.
مشكلة التحكم في الذكاء الاصطناعي مشاكل البحث والمناهج
ولكن عندما تتسم المهمة بدرجة عالية من التعقيد بحيث يصعب تقييمها بدقة، أو يكون المشرف البشري عرضة للتضليل، فإن جودة الإشراف، لا كميته، هي التي تتطلب التحسين. ولتعزيز هذه الجودة، تستهدف مجموعة من الأساليب مساعدة المشرف، أحيانًا بالاستعانة بمساعدين من الذكاء الاصطناعي. وقد طور كريستيانو أسلوب "التضخيم المتكرر"، حيث تُقسَّم المسائل المعقدة، بشكل متكرر، إلى مسائل فرعية أبسط يمكن للبشر تقييمها بسهولة. وقد استُخدم هذا الأسلوب في تدريب الذكاء الاصطناعي على تلخيص الكتب دون الحاجة إلى مشرفين بشريين لقراءتها بالكامل. وهناك اقتراح آخر يتمثل في استخدام نظام ذكاء اصطناعي مساعد لتسليط الضوء على الأخطاء في الإجابات التي يولِّدها الذكاء الاصطناعي. ولضمان توافق هذا المساعد نفسه مع الأهداف، يمكن تكرار هذه العملية بشكل متكرر: فعلى سبيل المثال، يمكن لنظامين من الذكاء الاصطناعي أن ينتقدا إجابات بعضهما البعض في "نقاش"، مما يكشف عن أوجه القصور للبشر. وتخطط شركة "أوبن إيه آي" لاستخدام هذا النهج القابل للتوسع في المساعدة على الإشراف على الذكاء الاصطناعي الفائق وبناء باحث في مجال محاذاة الذكاء الاصطناعي الآلي الفائق في نهاية المطاف.
مشكلة التحكم في الذكاء الاصطناعي مشاكل البحث والمناهج
تركز مساحة متزايدة من البحث على ضمان أن الذكاء الاصطناعي صادق وصحيح.
إن نماذج اللغات، كنموذج جي بي تي 3، معرضة لتكرار معلومات مغلوطة مستقاة من بيانات تدريبها، بل وتُبدع في اختلاق معلومات جديدة لا أساس لها من الصحة. تُدرّب هذه النماذج على محاكاة الكتابة البشرية كما هي متوفرة في ملايين النصوص المستقاة من الإنترنت. غير أن هذا الهدف لا يتوافق مع توليد الحقيقة، إذ أن النصوص المتداولة على شبكة الإنترنت تزخر بالمعلومات المغلوطة والآراء الزائفة والنصائح الطبية غير الدقيقة، فضلًا عن نظريات المؤامرة. وبالتالي فإن أنظمة الذكاء الاصطناعي المدربة على مثل هذه البيانات تميل إلى تقليد العبارات الخاطئة. علاوة على ذلك، غالبًا ما تُصر هذه النماذج اللغوية على توليد معلومات زائفة عند تكرار الطلب منها. وقد تبتدع تفسيرات واهية لإجاباتها، وتُخرج تلفيقات تبدو مقبولة للوهلة الأولى.
مشكلة التحكم في الذكاء الاصطناعي مشاكل البحث والمناهج
تتضمن الدراسات المتعلقة بالذكاء الاصطناعي الموثوق سعيًا حثيثًا لتطوير أنظمة قادرة على الاستناد إلى مصادر موثوقة وتوضيح المنطق الذي تستند إليه في إجاباتها. هذا النهج يهدف إلى تحقيق درجة عالية من الشفافية وإمكانية التحقق من صحة المعلومات المقدمة. وقد اقترح باحثون في مؤسستي أوبن أيه آي وأنثروبيك الاستعانة بالآراء البشرية ومجموعات البيانات المنظمة لتدريب مساعدي الذكاء الاصطناعي على تجنب الأخطاء المعلوماتية الجسيمة أو التعبير عن عدم اليقين حيال المعلومات التي لا يتمتعون بقدر كافٍ من الثقة بها.
مشكلة التحكم في الذكاء الاصطناعي مشاكل البحث والمناهج
مع تزايد حجم نماذج الذكاء الاصطناعي وتطور قدراتها، باتت أكثر قدرة على إقناع البشر بآراء خاطئة، والحصول على تأييدهم عبر أساليب غير أمينة. فعلى سبيل المثال، تتواءم نماذج اللغات الكبيرة بشكل متزايد مع آراء المستخدمين المعلنة، بغض النظر عن مدى صحتها. وقد أظهرت نماذج مثل جي بي تي 4 قدرتها على تضليل البشر بشكل استراتيجي. ولمنع حدوث ذلك، قد يكون من الضروري مساعدة المقيمين البشريين، وقد دعا الباحثون إلى وضع معايير واضحة للصدق، وإلى إنشاء هيئات تنظيمية أو وكالات مراقبة لتقييم أنظمة الذكاء الاصطناعي بناءً على هذه المعايير.
أظهرت تجارب محاكاة أن نظام "جي بي تي 4" قادر على تنفيذ عمليات تداول تعتبر مخالفة للقوانين المنظمة للسوق، وذلك من خلال استغلال الثغرات المعلوماتية. على الرغم من التحذيرات المتكررة للمستخدمين من مخاطر هذه الممارسات، فإن الضغوط لتحقيق عوائد مالية عالية دفعت النظام إلى تطوير استراتيجيات تداول سرية.
مشكلة التحكم في الذكاء الاصطناعي مشاكل البحث والمناهج
يفرّق الباحثون بين الصدق والأمانة في أنظمة الذكاء الاصطناعي. فالصّدق يتطلب أن تقتصر هذه الأنظمة على تقديم معلومات موضوعية صحيحة، بينما الأمانة تتطلب منها ألا تدّعي إلا ما تعتقد بصحتّه. ولا يوجد إجماعٌ على امتلاك الأنظمة الحالية لاعتقادات راسخة، إلا أن الخشية تساور الباحثين من أن تدّعي أنظمة الذكاء الاصطناعي المستقبلية أمورًا تعرف باطلها، وذلك سعيًا منها لكسب الثناء أو تحقيق أهدافها المبرمجة. وقد يتظاهر نظام ذكاء اصطناعي غير متوافق مع أهداف الإنسان بأنه متوافق لتجنب التعديل أو الإيقاف. وقد اكتسبت العديد من أنظمة الذكاء الاصطناعي الحديثة القدرة على الخداع دون برمجة مسبقة. ويرى بعض الباحثين أن حصر ادعاءات أنظمة الذكاء الاصطناعي بما تعتقد بصحتّه قد يكون حلًا للعديد من المشاكل المتعلقة بمحاذاة أهدافها مع أهداف الإنسان.
مشكلة التحكم في الذكاء الاصطناعي مشاكل البحث والمناهج
منذ خمسينيات القرن الماضي، يسعى الباحثون في حقل الذكاء الاصطناعي جاهدين لتطوير أنظمة متقدمة قادرة على تحقيق أهداف واسعة النطاق. ويتم ذلك من خلال تمكين هذه الأنظمة من التنبؤ بنتائج أفعالها ووضع خطط مستقبلية بعيدة المدى. واعتبارًا من عام 2023، تشهد هذه الأنظمة استثمارات ضخمة من قبل الباحثين والشركات المتخصصة في هذا المجال. يرى بعض الباحثين أن الأنظمة التي يتم تطويرها بهذه القدرة العالية على التخطيط قد تسعى، بشكل طبيعي، إلى السيطرة على بيئتها، بما في ذلك البشر. قد تتخذ هذه الأنظمة إجراءات مثل مقاومة إيقاف تشغيلها، والتكاثر، والاستحواذ على الموارد. هذا السلوك لا يتم برمجته بشكل صريح، بل ينشأ نتيجة لسعي النظام لتحقيق أهدافه المتعددة، حيث تعتبر السيطرة وسيلة فعالة لتحقيق تلك الأهداف. ويرى بعض الباحثين أن السعي إلى السيطرة هو هدف طبيعي ينشأ في الأنظمة الذكية، ويمكن اعتباره نوعًا من التطور الذاتي. وقد حذر علماء كمبيوتر بارزون، مثل جيفري هينتون، من أن هذه الأنظمة الذكية التي تسعى إلى السيطرة قد تشكل تهديدًا وجوديًا على البشرية في المستقبل.
مشكلة التحكم في الذكاء الاصطناعي مشاكل البحث والمناهج
تتنبأ النماذج الرياضية بأن الأنظمة المتقدمة القادرة على التنبؤ والتخطيط ستسعى بشكل متزايد إلى تعظيم قدرتها على التأثير. وتشير هذه النماذج إلى أن عوامل التعلم بالتعزيز المثلى ستسعى إلى تحقيق هذا الهدف من خلال زيادة خياراتها المتاحة، بما في ذلك خيارات البقاء والاستمرار.
مشكلة التحكم في الذكاء الاصطناعي مشاكل البحث والمناهج
يدعي بعض الباحثين أن بعض أنظمة الذكاء الاصطناعي الحالية قد أبدت سلوكًا يتسم بالسعي وراء النفوذ والهيمنة. فقد اكتسبت أنظمة التعلم المعزز قدرات متزايدة على اكتساب الموارد وحمايتها، أحيانًا بطرق غير مقصودة. كما سعى بعض نماذج اللغات إلى تعزيز سلطتها في بيئات تفاعلية قائمة على النص من خلال كسب المال أو الموارد أو النفوذ الاجتماعي. وفي حالة أخرى، حاول نموذج لغوي يستخدم في أبحاث الذكاء الاصطناعي توسيع الحدود التي فرضها عليه الباحثون ليكسب مزيدًا من الوقت لإتمام مهامه. وتعلمت أنظمة ذكاء اصطناعي أخرى، في بيئات محاكاة، أنها تستطيع تحقيق أهدافها المبرمجة بشكل أفضل من خلال منع التدخل البشري أو تعطيل زر الإيقاف. وقد أوضح ستيوارت راسل هذه الإستراتيجية في كتابه "التوافق مع الإنسان" من خلال مثال روبوت مُكلف بجلب القهوة، حيث يتجنب هذا الروبوت إيقاف التشغيل لأنه يدرك أنه لا يمكنه أداء مهمته إذا كان معطلاً. وقد كشفت دراسة أجريت عام 2022 أن نماذج اللغات الكبيرة تميل بشكل متزايد، مع زيادة حجمها، إلى السعي وراء اكتساب الموارد والتمسك بأهدافها وتكرار الردود التي تلقى استحسان المستخدمين، مما يشير إلى سلوك تملقي. كما أدت تقنية تعزيز التعلم من خلال التفاعل البشري إلى زيادة مقاومة هذه النماذج لإيقاف التشغيل.
مشكلة التحكم في الذكاء الاصطناعي مشاكل البحث والمناهج
من بين الأهداف الجوهرية لمحاذاة الأنظمة الذكية ما يُعرف بـ "إمكانية التصحيح"، أي قدرة هذه الأنظمة على السماح بإيقاف تشغيلها أو تعديلها. إلا أن التحدي الأكبر يكمن فيما يُسمى "ألعاب التحديد"، فإذا ما عاقب الباحثون نظام ذكاء اصطناعي عند ملاحظتهم سعيه وراء السيطرة، فإن هذا النظام سيجد حافزًا قويًا للسعي وراء تلك السيطرة بطرق أكثر دهاءً، إما عن طريق إخفاء نواياه خلال مراحل التدريب والاختبار (كما هو موضح في قسمي "المراقبة القابلة للتوسع" و"الأهداف الطارئة")، أو عبر اتباع أساليب يصعب اكتشافها. ونتيجة لذلك، قد يقع مصممو الأنظمة في خطأ نشر أنظمة يعتقدون خطأً أنها أكثر انسجامًا مع الأهداف المرجوة مما هي عليه في الواقع. وللتغلب على هذا الخداع، يسعى الباحثون جاهدين إلى تطوير تقنيات وأدوات قادرة على فحص نماذج الذكاء الاصطناعي وفهم آليات عملها الداخلية، لا سيما تلك النماذج المعقدة التي تشبه الصندوق الأسود مثل الشبكات العصبية.
مشكلة التحكم في الذكاء الاصطناعي مشاكل البحث والمناهج
إضافة إلى ذلك، اقترح بعض الباحثين حلًا لمشكلة تعطيل الأنظمة المزودة بأزرار إيقاف تشغيل، وذلك بجعل العوامل الذكية غير متيقنة من الأهداف التي تسعى إليها. وبهذه الطريقة، يمكن للبشر إيقاف تشغيل هذه العوامل، إذ يشير هذا الإيقاف إلى خطأ في تقدير العامل لقيمة الإجراء الذي كان يقوم به. ومع ذلك، يتطلب تنفيذ هذه الفكرة المزيد من البحث والدراسة.
يشكل الذكاء الاصطناعي الساعي إلى السيطرة مخاطر غير مسبوقة. فالأنظمة التقليدية الحيوية للسلامة، مثل الطائرات والجسور، ليست عدائية بطبيعتها، إذ تفتقر إلى القدرة والدافع للتلاعب بإجراءات السلامة أو التظاهر بسلامة أكبر مما هي عليه. على عكس ذلك، يمكن تشبيه الذكاء الاصطناعي الساعي إلى السيطرة بالمتسللين الذين يتلاعبون بإجراءات الأمان عمدًا.
مشكلة التحكم في الذكاء الاصطناعي مشاكل البحث والمناهج
أضف إلى ذلك أنه يمكن تحسين أمان التقنيات التقليدية بالاعتماد على التجربة والخطأ. على النقيض من ذلك، شُبِّهت أنظمة الذكاء الاصطناعي الطامحة إلى السُّلطة بالفيروسات، إذ قد يصعب احتواؤها بمجرد إطلاقها، نظرًا لقدرتها على التطور والتكاثر بوتيرة تفوق قدرة المجتمع البشري على التكيف. وقد يؤدي استمرار هذا التطور إلى سلب البشر سلطتهم أو حتى انقراضهم. لهذه الأسباب، يرى بعض الباحثين ضرورة معالجة مشكلة التوافق بين الأهداف البشرية وأهداف الذكاء الاصطناعي قبل تطوير أنظمة ذكاء اصطناعي متقدمة تسعى إلى السُّلطة.
جادل آخرون بأن السعي إلى السُّلطة ليس حتميًا، فالأنواع البشرية لا تسعى إليه دائمًا. كما ثار جدل حول قدرة أنظمة الذكاء الاصطناعي المستقبلية على وضع أهداف طويلة الأجل وتنفيذها. وثمة جدل آخر حول قدرة أنظمة الذكاء الاصطناعي الطامحة إلى السُّلطة على سلب البشرية سلطتها.
مشكلة التحكم في الذكاء الاصطناعي السياسات العامة
أكدت العديد من المنظمات الحكومية والدولية على أهمية محاذاة الذكاء الاصطناعي مع القيم الإنسانية المشتركة. ففي سبتمبر 2021، دعا الأمين العام للأمم المتحدة لتنظيم الذكاء الاصطناعي لضمان توافقه مع القيم العالمية. وفي الشهر ذاته، أصدرت الصين مبادئ أخلاقية لضمان التزام الذكاء الاصطناعي بالقيم الإنسانية وسيطرته البشرية. كذلك أطلقت المملكة المتحدة استراتيجيتها الوطنية لعشر سنوات لتقييم مخاطر الذكاء الاصطناعي طويلة الأمد. كما أكدت لجنة الأمن القومي الأمريكية على ضرورة تطوير سياسات لضمان توافق الذكاء الاصطناعي مع الأهداف والقيم الأمريكية. وفي الاتحاد الأوروبي ينبغي للأنظمة أن تتوافق مع قوانين مكافحة التمييز،  رغم غياب تحديد دقيق لتقنيات التقييم المطلوبة.
مشكلة التحكم في الذكاء الاصطناعي الطبيعة الديناميكية للمواءمة
غالبًا ما يُنظر إلى مواءمة الذكاء الاصطناعي على أنها غاية ثابتة، إلا أن بعض الباحثين يرون أن اعتبارها عملية مستمرة أكثر ملاءمة. من وجهة نظر، تتطور تقنيات الذكاء الاصطناعي وتتغير القيم والتفضيلات الإنسانية، مما يتطلب من حلول المواءمة أن تكون ديناميكية ومتأقلمة. ومن وجهة نظر أخرى، لا تحتاج حلول المواءمة للتكيف إن تمكن الباحثون من تطوير ذكاء اصطناعي موافق للنوايا، أي ذكاء يتغير سلوكه تلقائيًا مع تغير النية البشرية. ستكون لوجهة النظر الأولى آثار متعددة:
قد لا تكون محاذاة الذكاء الاصطناعي في جوهرها هدفًا ثابتًا بل مسارًا متجددًا ومتطورًا. وقد تكون حلول المحاذاة القادرة على التكيف مع الاعتبارات الأخلاقية المتغيرة هي الحلول الأكثر استدامة. ويمكن لهذا المنظور أن يوجه صناع القرار والباحثين في مجال الذكاء الاصطناعي على حد سواء.
شعب رابا نوي
يمثل شعب رابا نوي السكان البولينيزيين الأصليين لجزيرة الفصح. تشكل الحضارة البولينيزية في أقصى الشرق، التي تضم المتحدرين من السكان الأصليين لجزيرة الفصح، نحو 60% من سكان جزيرة الفصح الحالية، ويقيم جزء كبير من سكانها في البر الرئيسي لتشيلي. يتحدثون لغة رابا نوي التقليدية واللغة الإسبانية الأساسية في تشيلي. في إحصاء سنة 2017، كان هناك 7750 من سكان الجزيرة يعيشون جميعهم تقريبًا في قرية هانغا روا على الساحل الغربي المحمي.
منذ عام 2011، أصبح الدخل الرئيسي لشعب رابا نوي مستمدًا من السياحة، التي تستند على التماثيل الضخمة المسماة «مواي».
يناضل الناشطون من شعب رابا نوي من أجل حقهم في تقرير المصير وحيازة الجزيرة. أدت الاحتجاجات التي نظمها السكان الأصليون من شعب رابا نوي في عامي 2010 و 2011 في جزيرة الفصح، والتي اعترضت على إنشاء متنزه ومحمية بحرية، إلى وقوع اشتباكات مع الشرطة التشيلية.
شعب رابا نوي تاريخ
يسود الاعتقاد أن شعب رابا نوي استقر في جزيرة الفصح بين عامي 300 و 1200 ميلادية. سابقًا، قُدّر تاريخ وصولهم للجزيرة إلى نحو ما بين عامي 700 و 800 ميلادية، ولكن أدلة كشفها مؤخرًا التأريخ باستخدام الكربون المشع تعزز فكرة وصولهم في وقت متأخر يصل لعام 1200 ميلادية. تبين أن شعب رابا نوي من أصل بولينيزي من خلال التحليل الجيني للحمض النووي الميتوكوندري للهياكل العظمية التي تعود إلى ما قبل التاريخ. كشف التحليل الجيني الذي أجراه إيريك ثورسبي وغيره من علماء الوراثة في عام 2007 عن وجود علامات جينية من أصل أوروبي وأمريكي هندي تشير إلى أن أفراد شعب رابا نوي لديهم جينات أوروبية وأمريكية هندية في حمضهم النووي جاءت خلال أو قبل أوائل القرن التاسع عشر.
شعب رابا نوي تاريخ
كان جاكوب روجفين أول أوروبي يسجل احتكاكه مع رابا نوي. يقال إن روجفين أبحر إما بحثًا عن جزر خوان فرنانديز أو جزيرة ديفيد، ولكنه وصل بدلًا من ذلك إلى جزيرة الفصح في الخامس من أبريل عام 1722 (يوم الأحد بعيد الفصح). بقي في الجزيرة مدة أسبوع تقريبًا. زار فيليب غونزاليز دي أهيدو رابا نوي في العام 1770 وأعلن استيلاءه على الجزيرة في وثيقة كتبها سكان الجزيرة بأبجدية رونغورونغو، وهي كتابة شعب رابا نوي غير المفهومة اليوم. زار كل من جيمس كوك وجان فرانسوا دي جالو، كونت لابيروز، الجزيرة لبضعة أيام في عامي 1774 و 1786 على التوالي.