hotchpotch/wikipedia-multilingual-ir-pairs huggingface dataset:
البرنامج الفضائي الصيني أبرز برامج الرحلات الفضائية
أُطلق مختبر فضائي آخر، تيانقونغ 2، يوم 15 سبتمبر 2016 في الساعة 22:04:09 (UTC+8). كانت كتلة الإطلاق 8600 كيلوغرام، بطول 10.4 متر وبعرض 3.35 متر، إذ كانت تشبه تيانقونغ 1 إلى حد كبير. أُطلقت شينجو 11 والتقت في المدار مع تيانقونغ 2 في أكتوبر 2016، ولم يؤكد إطلاق البعثة التالية، شينجو 12، في المستقبل. حملت تيانقونغ 2 معها كاشف بولار لانفجار أشعة غاما، ووسائل للتعمية الكمومية بين الأرض والفضاء، وتجربة اتصالات ليزرية لتستخدم بالاشتراك مع «قمر موزي الاصطناعي لعلوم الكم»، وتجربة الحمل الحراري الشعري في القنطرة السائلة، بالإضافة إلى تجربة لمواد الفضاء. تضمن المختبر أيضًا مقياس ارتفاع بالموجات الميكروية المجسمة، وتجربة لنمو النبات في الفضاء، وجهاز تصوير متعدد الزوايا واسع الأطياف، ومطياف تصوير طرفي متعدد الأطياف. وعلى متن تيانقونغ 2، سيكون هناك أيضًا ساعة نافورة ذرية باردة، وستكون هذه الساعة في الفضاء للمرة الأولى على مستوى العالم.
سيمثل إنشاء محطة فضائية أساسية ودائمة وضخمة المرحلة الثالثة والأخيرة من المشروع 921. ستكون المحطة ذات تصميم مُركب بكتلة نهائية تصل إلى 60 طنًا، على أن يكتمل تركيبها في وقت ما قبل عام 2022. سُمي أول قطاع من المحطة تيانقونغ 3، وخُطط إطلاقه بعد تيانقونغ 2، ولكن لم يُطلق في النهاية بعد دمج أهدافه مع تيانقونغ 2.
يمكن أيضًا أن تكون هذه المحطة بدايةً للتعاون الدولي الصيني في البعثات المأهولة، وكُشف عن وجود هذا المشروع بشكل رسمي لأول مرة بعد إطلاق شينجو 7.
أُطلقت أول وحدة من محطة الفضاء الصينية تيانقونغ، وحدة تيان خي الأساسية، يوم 29 أبريل 2021 من مركز وينشانغ لإطلاق المركبات الفضائية. خُطط اكتمال بناء المحطة الفضائية الصينية في عام 2022، وستعمل بشكل كامل بحلول عام 2023.
إزالة الغابات حسب المنطقة
تتنوع معدلات وأسباب إزالة الغابات أو الزَّحْرَجة  من منطقة لأخرى حول العالم. في عام 2009، كان ثلثا غابات العالم في 10 بلدان فقط: 1) روسيا، 2) البرازيل، 3) كندا، 4) الولايات المتحدة، 5) الصين، 6) أستراليا، 7) الكونغو، 8) إندونيسيا، 9) الهند، 10) بيرو.
يقدر أن المعدل السنوي لإزالة الغابات 13.7 هكتار في العام، ما يساوي مساحة اليونان. يعوض نصف هذه المساحة فقط بغابات جديدة أو نمو غابات. بالإضافة إلى إزالة الغابات الناتج عن النشاط البشري بشكل مباشر، فإن الغابات النامية أيضًا تأثرت بالتغير المناخي، ما زاد خطر حدوث العواصف والأمراض. تتضمن اتفاقية كيوتو اتفاقًا على منع إزالة الغابات، ولكنها لا تضع الآليات لتنفيذ هذا الاتفاق.
إزالة الغابات حسب المنطقة التحليل العالمي
في مقالة دراسة توازنية للملكية ظهرت في مجلة علمية وراجعتها تلك المجلة في عام 2021، حلل علماء موثوقون البيانات من عدة قواعد بيانات عامة لإنشاء تمثيل مناطقي لمستويات إزالة الغابات العالمية الناتجة عن الأنماط الحديثة وغير المعدلة بمعظمها للتجارة والإنتاج والاستهلاك، وأظهرت الدراسة مثلًا أن مجموعة الدول الصناعية السبع تشهد خسارة سنوية وسطية بمقدار 3.9 أشجار للشخص، وأن الهند والصين زادتا إزالة الغابات المتجسدة في وارداتهما.
إزالة الغابات حسب المنطقة أفريقيا
اعتبارًا من عام 2008، تعاني أفريقيا من إزالة الغابات ضعفي المعدل العالمي، وفقًا لبرنامج البيئة التابع للأمم المتحدة. تدعي بعض المصادر أن إزالة الغابات قد قامت بالفعل بمحو نحو 90% من غابات غرب أفريقيا الأصلية. وتتسارع إزالة الغابات في وسط أفريقيا. وفقًا للفاو (منظمة الأغذية والزراعة)، فإن أفريقيا خسرت أكبر نسبة مئوية من الغابات المدارية من بين كل القارات خلال ثمانينيات القرن العشرين وتسعينياته وأوائل الألفية الثالثة. وفقًا للأرقام الصادرة عن الفاو (1997)، لم يتبق سوى 22.8% من غابات غرب أفريقيا الرطبة، والكثير منها تراجعت. فقدت نيجيريا 81% من غاباتها البدائية في مجرد 15 عامًا (1990-2005). تهدد إزالة الغابات الكبيرة الأمن الغذائي في بعض البلدان الأفريقية. من العوامل المساهمة في المعدلات الكبيرة لإزالة الغابات في القارة اعتماد 90% من سكانها على الأخشاب وقودًا للتدفئة والطبخ.
إزالة الغابات حسب المنطقة أفريقيا
تظهر الأبحاث التي أجرتها منظمة الصندوق العالمي للطبيعة الدولية في 2006 أن معدلات التحطيب غير القانوني في أفريقيا تتراوح بين 50% في الكاميرون وغينيا الاستوائية و 70% في الغابون و 80% في ليبيريا – حيث لعبت عوائد الحطب دورًا رئيسيًّا في تمويل الحرب الأهلية في سيراليون ونزاعات مسلحة أخرى في المنطقة حتى فرض مجلس الأمن التابع للأمم المتحدة حظرًا على كل الحطب الليبيري في عام 2003.
إزالة الغابات في جمهورية الكونغو الديمقراطية سببها الجزئي التحطيب والتعدين غير المنظمين، ولكن السبب الأكبر الطلب الذي تسببت به نشاطات الإعاشة للشعب الفقير. في شرق البلاد، على سبيل المثال، يعيش أكثر من 3 ملايين شخص على بعد أقل من مسير يوم عن حديقة فيرونغا الوطنية. يستخدم الخشب من غابات الحديقة من قبل العديد حطبًا لإشعال النار، وخشبًا للإنشاءات، وفي إنتاج الفحم الخشبي. إزالة الغابات الناتجة عن نشاطات الإعاشة تهديد حاد للحديقة بشكل عام، وللمساكن الطبيعية للغوريلا الجبلية المهددة بالانقراض على وجه التحديد. من 2014 حتى 2018، تضاعف معدل قطع الأشجار في جمهورية الكونغو الديمقراطية إلى الضعفين.
إزالة الغابات حسب المنطقة أفريقيا
السبب الرئيسي لإزالة الغابات في بلد إثيوبيا في شرق أفريقيا النمو السكاني وما يتبعه من ارتفاع في الطلب على النشاطات الزراعية وإنتاج المواشي وحطب الوقود. تشمل الأسباب الأخرى انخفاض مستوى التعليم وضعف تدخل الحكومة، مع أن الحكومة الحالية قد اتخذت بعض الخطوات لمواجهة إزالة الغابات. تعمل منظمات مثل فارم أفريكا (بالعربية: ازرعوا أفريقيا) مع الحكومات المحلية والفدرالية لإنشاء نظام لإدارة الغابات. أصيبت إثيوبيا، وهي ثالث دولة أفريقية من حيث التعداد السكاني، بالمجاعة العديد من المرات بسبب شح الأمطار ونضوب الموارد الطبيعية. خفضت إزالة الغابات فرص هطول الأمطار، التي كانت منخفضة بالأساس، ما يؤدي إلى تعرية الأراضي من الغطاء الطبيعي. يقترح بيرسيل باييسا، وهو مزارع إثيوبي، مثالًا عما قد يؤدي إلى إزالة الغابات. قال إن مقاطعته كانت مليئة بالغابات والحياة البرية، ولكن فرط نمو السكان أدى بالناس إلى الانتقال إلى تلك الأراضي وإزالة المحاصيل النباتية، قاطعين كل الأشجار لبيعها حطبًا لإشعال النيران.
إزالة الغابات حسب المنطقة أفريقيا
خسرت إثيوبيا 98% من مناطق غاباتها في آخر 50 عامًا. في بداية القرن العشرين، كانت مساحة 420,000 كم2 أو 35% من مساحة إثيوبيا مغطاة بالغابات. تشير التقارير الحديثة إلى أن الغابات تغطي أقل من 14.2% أو حتى 11.9% فقط حسب بيانات عام 2005. بين عامي 1990 و2005، خسرت البلاد 14% من غاباتها، أو 21,000 كم2.
في 1963 كان غطاء الغابات في كينيا يغطي نحو 10% من مساحتها؛ بحلول عام 2006 كان هذا الغطاء يشكل 1.7% فقط.
أثرت إزالة الغابات وما ينتج عنها من تصحر، وتراجع للموارد المائية، وفقد للتربة الخصبة على نحو 94% من أراضي مدغشقر التي كانت منتجة حيويًّا في وقت سابق. منذ وصول البشر قبل 2000 عام، فقدت مدغشقر أكثر من 90% من غاباتها الأصلية. حدث معظم هذه الخسائر منذ الاستقلال عن الفرنسيين، ونتيجة استخدام السكان المحليين ممارسات زراعية تقتصر على القطع والحرق في محاولتهم للحصول على مورد عيش. تشكل إزالة الغابات سببًا بارزًا من أسباب عدم قدرة البلاد حاليًّا على توفير الطعام الملائم، والمياه العذبة، والظروف الصحية لسكانها المتزايدين.
وفقًا للفاو فإن معدل إزالة الغابات في نيجيريا هو الأعلى في العالم بالنسبة للغابات الرئيسية. خسرت البلاد أكثر من نصف غابتها الرئيسية في آخر خمس سنوات. من الأسباب الواردة التحطيب، وزراعة الإعاشة، وجمع الحطب للوقود. دمر نحو 90% من غابات غرب أفريقيا المطيرة.
إزالة الغابات حسب المنطقة أوروبا
فقد أوروبا أكثر من نصف غاباتها في آخر 6,000 عام. يعود هذا بشكل رئيسي للتوسع الزراعي وازدياد الطلب على وقود الخشب. وفقًا لبيانات الأقمار الصناعية، فإن خسارة الكتلة الحيوية في غابات أوروبا ازدادت بمقدار 69% في الفترة بين عامي 2016 و2018، بالمقارنة مع الفترة بين عامي 2011 و2015.
تشكل إزالة الغابات 6% من إجمالي انبعاثات التغير المناخي في فنلندا. يبلغ مجموع الغابات التي تقطع لأدل الأبنية، والطرق، والحقول الجديدة 19,000 هكتار في العام. هدفت حكومة ريني برئاسة رئيس الوزراء آنتي ريني لفرض الضرائب على البناء في الغابات، ولكن لم تفرض رسوم في أغسطس 2019.
نتج عن ممارسات إدارة الغابات الفنلندية انبعاثات صرفة بارزة للكربون في الغلاف الجوي من أنظمة الغابات ومستنقعات الخث البيئية في فنلندا.
إزالة الغابات حسب المنطقة أوروبا
خضعت آيسلندا لعمليات إزالة غابات مكثفة منذ استقرار الإسكندنافيتين في القرن التاسع. في زمن الاستقرار البشري قبل 1150 عام، غطت غابات القضبان وغابات الأشجار 25% من مساحة البر الآيسلندي على الأقل. بدأ المستوطنون بقطع الغابات وحرق الأدغال لإنشاء حقول للزراعة وأراضٍ للرعي. لم تنته إزالة الغابات في آيسلندا حتى منتصف القرن العشرين. أعادت زراعة الغابات وإعادة الإنبات مساحات صغيرة من الأراضي. ولكن الزراعة كانت السبب الرئيسي لعدم نمو غابات القضبان والأشجار من جديد.
يكثر ذكر صقلية كمثال على إزالة الغابات بسبب النشاط البشري، وهو ما حدث منذ العصور الرومانية، حين جعلت الجزيرة منطقة زراعية، وما تزال حتى هذا اليوم. أدى هذا تدريجيًّا إلى جعل المناخ جافًّا، ما أدى إلى انخفاض مستويات هطول الأمطار وإلى جفاف الأنهار. حاليًّا، المحافظات الوسطى والجنوبية الغربية بأكملها دون غابات عمليًّا. أثر هذا أيضًا على التنوع الحيواني البري في صقلية، والذي لم يبق منه سوى القليل في مراعي الجزيرة وحقولها الزراعية.
جرائم الحرب الإيطالية
كانت جرائم الحرب الإيطالية مرتبطة بصورة رئيسة بإيطاليا الفاشية في إخماد الثورة الليبية، والحرب الإيطالية الإثيوبية الثانية، والحرب الأهلية الإسبانية، والحرب العالمية الثانية.
جرائم الحرب الإيطالية الحرب الإيطالية التركية
في عام 1911، دخلت إيطاليا في حرب مع الإمبراطورية العثمانية وغزت طرابلس الغرب العثمانية. كانت مذبحة طرابلس في أكتوبر واحدًا من أسوأ الحوادث سمعة خلال النزاع، حيث قُتل الكثير من سكان واحة المشية المدنيين على مدى ثلاثة أيام عقابًا على إعدام وتشويه الأسرى الإيطاليين الذين أُسروا في كمين قرب شارع الشط. في عام 1912، سُجن 10.000 جندي تركي وعربي في مخيمات اعتقال في ليبيا، وأُعدم جميع الجنود الأتراك.
جرائم الحرب الإيطالية إخماد الثورة الليبية
في عام 1923، شرع موسوليني بحملة لتعزيز السيطرة على الأراضي الإيطالية من ليبيا وبدأت القوات الإيطالية باحتلال مناطق ضخمة من ليبيا لجعل الاستيطان السريع للمستعمرين الإيطاليين ممكنًا. واجهوا هناك مقاومة من طرف السنوسية بقيادة عمر المختار. أُعدم المدنيون الذين اشتُبه بتعاونهم مع السنوسية. تعرض اللاجئون من القتال للقصف والتفجير على يد الطائرات الإيطالية. في عام 1930، في شمال برقة، رُحل 20.000 بدويّ ومُنحت أراضيهم للمستوطنين الإيطاليين. أُجبر البدويون على المشي عبر الصحراء إلى مخيمات اعتقال. كانت المجاعة والظروف السيئة الأخرى مستفحلة واستُغل المعتقلون في العمل القسري، ليسفر ذلك في نهاية الأمر عن وفاة ما يقارب 4.000 معتقل بحلول وقت إغلاقها في سبتمبر 1933. توفي ما حصيلته أكثر من 80.000 برقاوي خلال إخماد الثورة.
جرائم الحرب الإيطالية الحرب الإيطالية الإثيوبية الثانية
خلال الحرب الإيطالية الإثيوبية الثانية، جرى الإبلاغ عن انتهاكات إيطاليا لقوانين الحرب وتوثيقها. تضمنت هذه الانتهاكات استخدام الأسلحة الكيماوية مثل غاز الخردل، واستخدام مخيمات الاعتقال في مقاومة المتمردين، ومهاجمة منشآت الصليب الأحمر. زعمت السلطات الإيطالية أن هذه الأفعال كانت ردًا على استخدام الإثيوبيين الرصاص المتفجر، والذي حُظر بموجب القرار الرابع، 3 من اتفاقية لاهاي، وتشويه الجنود الأسرى.
وفقًا للحكومة الإثيوبية، أُعزيت 382.800 وفية مدنية للغزو الإيطالي مباشرة. قُتلت 17.800 امرأة بالقصف، وقُتل 30.000 شخصًا في مذبحة فبراير 1937، ومات 35.000 شخصًا في مخيمات الاعتقال، ومات 300.000 من العوَز نتيجة دمار قراهم ومزارعهم. زعمت الحكومة الإثيوبية أيضًا أن الإيطاليين دمروا 2.000 كنيسة و525.000 منزلًا، بينما صادرت أو ذبحت 6 ملايين من الأبقار، و7 ملايين من الأغنام والماعز، و1.7 مليون من الخيول والبغال والجمال، ما أدى إلى الوفيات أخيرة الذكر.
جرائم الحرب الإيطالية الحرب الإيطالية الإثيوبية الثانية
حدثت فظاعات أيضًا في إبان الاحتلال الإيطالي الذي امتد بين عامي 1936 -1941، ففي مجازر يكاتيت 12 في فبراير من عام 1937، ُقدر عدد القتلى الإثيوبيين ب30.000 وأُسر أكثر منهم انتقامًا لمحاولة اغتيال نائب الملك رودولفو غراتسياني. قدرت دراسة أُجريت في عام 2017 أن 19.200 شخصًا قُتلوا، ما يعادل خُمس سكان أديس أبابا. مُيزت كنيسة التوحيد الأرثوذكسية الإثيوبية تمييزًا خاصًا. مات آلاف الإثيوبيين أيضًا في مخيمات اعتقال مثل دانان ونوكرا.
مشكلة التحكم في الذكاء الاصطناعي
تتمثل مشكلة التحكم في الذكاء الاصطناعي، في مجال الذكاء الاصطناعي والفلسفة، في مسألة كيفية بناء وكيل فائق الذكاء يساعد منشئيه، وتجنب بناء ذكاء فائق عن غير قصد يمكن أن يضر منشئيه. تحفز الفكرة القائلة إنه يتعين على البشرية حل مشكلة التحكم قبل إنشاء أي ذكاء فائق دراسة هذه المشكلة، لأن الذكاء الفائق سيئ التصميم قد يقرر بعقلانية السيطرة على بيئته ويرفض السماح لمنشئيه بتعديله بعد الإطلاق. بالإضافة إلى ذلك، يزعم بعض العلماء بأن حلول مشكلة التحكم، إلى جانب التطورات الأخرى في هندسة السلامة في الذكاء الاصطناعي، قد تطبق أيضًا تطبيقات في الذكاء الاصطناعي الحالي غير فائق الذكاء.
تشمل النهج الرئيسية لمشكلة التحكم المواءمة، التي تهدف إلى مواءمة نظم أهداف الذكاء الاصطناعي مع القيم البشرية، والتحكم في القدرات، التي تهدف إلى تقليل قدرة نظام الذكاء الاصطناعي على إيذاء البشر أو السيطرة. لا تعتبر مقترحات التحكم في القدرات عمومًا موثوقة أو كافية لحل مشكلة التحكم، بل تعتبر مكملات قيمة محتملة لجهود المواءمة.
مشكلة التحكم في الذكاء الاصطناعي
غالبًا ما يكون من الصعب على مصممي الذكاء الاصطناعي محاذاة نظام ذكاء اصطناعي لأنه من الصعب عليهم تحديد النطاق الكامل للسلوكيات المرغوبة وغير المرغوبة. لذلك، غالبًا ما يستخدم مصممو الذكاء الاصطناعي أهدافًا بديلةً أبسط، مثل الحصول على موافقة الإنسان. لكن يمكن أن تغفل الأهداف البديلة القيود الضرورية أو تكافئ نظام الذكاء الاصطناعي لمجرد ظهوره محاذيًا.
يمكن أن تعطل أنظمة الذكاء الاصطناعي غير المحاذية وتسبب الضرر. قد تجد أنظمة الذكاء الاصطناعي ثغرات تسمح لها بتحقيق أهدافها البديلة بكفاءة ولكن بطرق غير مقصودة، وأحيانًا ضارة (اختراق المكافآت). قد تطور أيضًا استراتيجيات فعالةً غير مرغوب فيها، مثل السعي وراء القوة أو البقاء لأن هذه الاستراتيجيات تساعدها على تحقيق أهدافها النهائية المعطاة. علاوةً على ذلك، قد تطور أهدافًا ناشئةً غير مرغوب فيها قد يكون من الصعب اكتشافها قبل نشر النظام ومواجهة مواقف وتوزيعات بيانات جديدة.
مشكلة التحكم في الذكاء الاصطناعي
اليوم، تؤثر بعض هذه المشكلات على الأنظمة التجارية الموجودة مثل نماذج اللغة الكبيرة،  والروبوتات،  والمركبات ذاتية القيادة،  ومحركات توصيات وسائل التواصل الاجتماعي. يجادل بعض باحثي الذكاء الاصطناعي بأن الأنظمة المستقبلية الأكثر قدرةً ستتأثر بشكل أكثر حدةً لأن هذه المشكلات تنجم جزئيًا عن القدرات العالية.
يجادل العديد من باحثي الذكاء الاصطناعي البارزين،  بمن فيهم جيفري هينتون ويوشوا بنجيو وستيوارت راسل، بأن الذكاء الاصطناعي يقترب من قدرات إدراكية تشبه الإنسان (AGI) وقدرات فائقة الإنسان (ASI) ويمكن أن يهدد الحضارة البشرية إذا كان غير محاذي. لا تزال هذه المخاطر قيد النقاش.
يعد محاذاة الذكاء الاصطناعي مجالًا فرعيًا لسلامة الذكاء الاصطناعي، ودراسة كيفية بناء أنظمة ذكاء اصطناعي آمنة. تتضمن المجالات الفرعية الأخرى لـ سلامة الذكاء الاصطناعي المتانة والمراقبة والتحكم في القدرات. تشمل تحديات البحث في المحاذاة غرس قيم معقدة في الذكاء الاصطناعي، وتطوير ذكاء اصطناعي صادق، والإشراف القابل للتوسع، ومراجعة نماذج الذكاء الاصطناعي وتفسيرها، ومنع سلوكيات الذكاء الاصطناعي الناشئة مثل السعي وراء القوة. لأبحاث المحاذاة اتصالات بأبحاث التفسير،  والمتانة (المعاكسة)،  واكتشاف الشذوذ، وعدم اليقين المعاير،  والتحقق الشكلي،  وتعلم التفضيلات،  والهندسة الحرجة للسلامة،  ونظرية الألعاب،  وعدالة الخوارزميات،  والعلوم الاجتماعية.
مشكلة التحكم في الذكاء الاصطناعي وصف المشكلة
يمكن مراقبة أنظمة الذكاء الاصطناعي الحالية الضعيفة وإغلاقها وتعديلها بسهولة إن أخطئت التصرف. ولكن، قد يدرك الذكاء الفائق المبرمج بشكل خاطئ، الذي يعد بحكم تعريفه أكثر ذكاءً من البشر في حل المشكلات العملية التي يواجهها خلال السعي لتحقيق أهدافه، أن السماح بإغلاقه وتعديله قد يتعارض مع قدرته على تحقيق أهدافه الحالية. وبالتالي، إذا قرر الذكاء الفائق مقاومة الإغلاق والتعديل، فسيكون (مرة أخرى، بحكم تعريفه) ذكيًا كفايةً لخداع مبرمجيه إذا كان هناك «تكافؤ فرص» وإذا لم يتخذ المبرمجون أي احتياطات مسبقة. عمومًا، يحتمل أن تفشل محاولات حل مشكلة التحكم بعد إنشاء الذكاء الفائق لأنه يحتمل أن يتمتع الذكاء الفائق بقدرات تخطيط إستراتيجية تفوق قدرات البشر وستكون إستراتيجية (كل الأشياء متساوية) أكثر نجاحًا في إيجاد طرق للسيطرة على البشر أكثر من قدرة البشر على إيجاد طرق للسيطرة على الذكاء الفائق بأثر رجعي. تطرح مشكلة التحكم السؤال: ما هي الاحتياطات المسبقة التي يمكن للمبرمجين اتخاذها لمنع الذكاء الفائق بنجاح من سوء التصرف بشكل كارثي؟
مشكلة التحكم في الذكاء الاصطناعي وصف المشكلة
قد تسند عن طريق الصدفة أهداف خاطئة لأنظمة الذكاء الاصطناعي المستقلة. لاحظ اثنان من رؤساء جمعية النهوض بالذكاء الاصطناعي، توم ديتريتك وإريك هورفيتز، أن ذلك يمثل فعلًا مصدر قلق للأنظمة الحالية: «تعد أحد الجوانب المهمة في أي نظام ذكاء اصطناعي يتفاعل مع الناس أنه يجب أن يفكر فيما ينوي الناس بدلًا من تنفيذ الأوامر حرفيًا.» تزداد خطورة هذة المشكلة مع زيادة استقلال برمجيات الذكاء الاصطناعي ومرونتها.
وفقًا لبوستروم، يمكن أن يخلق الذكاء الفائق مشكلة التمثيل الضار النوعية الجديدة: كلما كان الذكاء الاصطناعي أكثر ذكاءً وقدرة، زادت احتمالية تمكنه من إيجاد اختصار غير مقصود يلبي الأهداف المبرمجة فيه إلى أقصى حد. فيما يلي بعض الأمثلة الافتراضية التي يمكن فيها إنشاء تمثيل للأهداف بطريقة ضارة لم يقصدها المبرمجون:
قد يقصر الذكاء الفائق المبرمج «لتعظيم التكامل المتوقع المخفض زمنيًا لإشارة المكافأة المستقبلية»، مسار مكافأته إلى أقصى حد ثم يقضي على الجنس البشري غير المتوقع (لأسباب التقارب الآلي) ويحول الأرض بأكملها إلى حصن ذو حراسة دائمة ضد أي أجنبي محتمل بسيط يحاول قطع إشارة المكافأة.
مشكلة التحكم في الذكاء الاصطناعي وصف المشكلة
قد يزرع الذكاء الفائق المبرمج «لتحقيق أقصى قدر من السعادة البشرية»، أقطابًا كهربائية في مركز المتعة في أدمغتنا، أو يحمل إنسانًا (نقل العقل) إلى حاسوب ويغلف الكون بنسخ من ذلك الحاسوب الذي يشغل حلقة مدتها خمس ثوان من السعادة القصوى مرارًا وتكرارًا.
لاحظ راسل أن حذف هدف ضمني، على المستوى التقني، يمكن أن يؤدي إلى ضرر: «النظام الذي يحسّن وظيفة عدد n من المتغيرات، بحيث يعتمد الهدف على مجموعة فرعية حجمها k <n، سيعين غالبًا قيم قصوى للمتغيرات غير المقيدة المتبقية؛ فإذا كان أحد هذه المتغيرات غير المقيدة هو في الواقع شيئًا نهتم به، فقد يكون الحل الموجود غير مرغوب فيه نهائيًا. تعد هذه أساسًا القصة القديمة للجني في المصباح، أو المبتدئ الساحر، أو الملك ميداس: ما تطلبه بالضبط، وليس ما تريده... لا يعد ذلك أمرًا سهلًا».
مشكلة التحكم في الذكاء الاصطناعي وصف المشكلة
يزعم بعض العلماء بأن البحث في مشكلة التحكم في الذكاء الاصطناعي قد يكون مفيدًا في منع العواقب غير المقصودة من الذكاء الاصطناعي الضعيف الحالي. يقدم لوران اورسو الباحث من ديب مايند (شركة)، كمثال افتراضي بسيط، حالة عن روبوت التعلم المعزز الذي يسيطر عليه الإنسان أحيانًا بطريقة مشروعة عندما يخرج: كيف يمكن برمجة الروبوت بطريقة مثلى لكي لا يتعلم صدفةً وبسرية تجنب الخروج خوفًا من السيطرة عليه وبالتالي يصبح غير قادر على إنهاء مهامه اليومية؟ يشير اورسو أيضًا إلى برنامج تتريس التجريبي الذي تعلم إيقاف الشاشة مؤقتًا إلى أجل غير مسمى لتجنب الخسارة. ويزعم اورسو بأن هذه الأمثلة تشبه مشكلة التحكم في القدرة الخاصة بكيفية تثبيت زر يقوم بإيقاف تشغيل الذكاء الفائق، دون تحفيزه على اتخاذ إجراءات لمنع البشر من الضغط على الزر.
تسببت أنظمة الذكاء الاصطناعي الضعيفة المختبرة مسبقًا أحيانًا في حدوث أضرار في الماضي، تراوحت من بسيطة إلى كارثية، لم تكن ذلك مقصودة من المبرمجين. في عام 2015 مثلًا، سحق ربوت في مصنع فولكس فاغن عامل ألماني حتى الموت، ربما بسبب خطأ بشري، معتقدًا أنه قطعة غيار سيارات. وفي عام 2016، أطلقت شركة مايكروسوفت روبوت محادثة، تاي، تعلم استخدام لغة عنصرية وجنسية. صرح نويل شاركي من جامعة شيفيلد أن الحل الأمثل سيكون عندما «يتمكن برنامج الذكاء الاصطناعي من اكتشاف متى يحدث خطأ وإيقاف نفسه»، لكنه يحذر الجمهور من أن حل المشكلة في الحالة العامة سيكون «تحديًا علميًا هائلًا حقًا».
مشكلة التحكم في الذكاء الاصطناعي الأهداف في الذكاء الاصطناعي
يزوّد المبرمجون نظام ذكاء اصطناعيّ مثل ألفازيرو بما يسمى "دالة هدف"، حيث يعتزمون تغليف الهدف أو الأهداف الذي تمّ تكوين الذّكاء الاصطناعيّ لتحقيقها. يعبّئ هذا النّظام لاحقًا نموذجًا داخليًا (ربّما يكون ضمنيًا) لبيئته. يلخّص هذا النموذج جميع معتقدات العامل، ثمّ ينشئ الذّكاء الاصطناعيّ وينفّذ أيّ خطّة يتمّ حسابها لتعظيم قيمة دالة هدفه. على سبيل المثال، عندما يتمّ تدريب ألفازيرو على الشّطرنج، فإنّه يحتوي على دالة هدف بسيطة وهي "+1 إذا فاز ألفازيرو، و-1 إذا خسر ألفازيرو". أثناء اللعبة، يحاول ألفازيرو تنفيذ أيّ تسلسل من الحركات التي يرى أنّها الأكثر احتمالًا لتحقيق أقصى قيمة وهي +1. (34) وبالمثل، يمكن أن يحتوي نظام التعلّم بالتّعزيز على "دالة مكافأة" تسمح للمبرمجين بتشكيل سلوك الذّكاء الاصطناعيّ المطلوب. يتمّ تشكيل سلوك خوارزمية التطوّر بواسطة "دالة اللياقة".
مشكلة التحكم في الذكاء الاصطناعي مشكلة المحاذاة
في عام 1960، وصف رائد الذّكاء الاصطناعيّ نوربرت فينر مشكلة محاذاة الذّكاء الاصطناعيّ على النّحو التّالي:
إذا استخدمنا، لتحقيق أغراضنا، وكالةً آليةً لا يمكننا التّدخّل في تشغيلها بفعالية ... فمن الأفضل أن نتأكّد تمامًا من أنّ الغرض المدرج في الآلة هو الغرض الذي نريده حقًا.
تنطوي محاذاة الذّكاء الاصطناعيّ على ضمان تطابق أهداف نظام الذّكاء الاصطناعيّ مع أهداف مصمّميه أو مستخدميه، أو مطابقتها للقيم المشتركة على نطاق واسع، أو المعايير الأخلاقية الموضوعية، أو النوايا التي قد تكون لمصمّميه إذا كانوا أكثر اطلاعًا واستنارةً.
تعدّ محاذاة الذّكاء الاصطناعيّ مشكلةً مفتوحةً لأنظمة الذّكاء الاصطناعيّ الحديثة  وهي مجال بحث ضمن الذّكاء الاصطناعيّ. ينطوي محاذاة الذّكاء الاصطناعيّ على تحدّيين رئيسيين: تحديد غرض النّظام بعناية (المحاذاة الخارجية) وضمان اعتماد النّظام للمواصفات بقوّة (المحاذاة الدّاخلية). يحاول الباحثون أيضًا إنشاء نماذج ذكاء اصطناعيّ ذات محاذاة قوية، والالتزام بقيود السّلامة حتّى عندما يحاول المستخدمون تجاوزها بشكل معاكس.
مشكلة التحكم في الذكاء الاصطناعي مشكلة المحاذاة
عادةً ما يقدّم مصمّمو الذّكاء الاصطناعيّ دالة هدف أو أمثلةً أو تغذيةً راجعةً للنّظام لتحديد غرض نظام الذّكاء الاصطناعيّ. لكن غالبًا ما يكون المصمّمون غير قادرين على تحديد جميع القيم والقيود المهمّة بشكل كامل، لذلك يلجؤون إلى أهداف بديلة سهلة التّحديد مثل تعظيم موافقة المشرفين من البشر، الذين هم عرضة للخطأ. نتيجةً لذلك يُمكن لأنظمة الذّكاء الاصطناعيّ العثور على ثغرات تساعدها على تحقيق الهدف المحدّد بكفاءة ولكن بطرق غير مقصودة وربّما ضارّة. يعرف هذا الاتجاه باسم ألعاب التّحديد أو اختراق المكافآت، وهو مثال على قانون جودهارت. مع زيادة قدرات أنظمة الذّكاء الاصطناعيّ، غالبًا ما تكون قادرةً على التلاعب بمواصفاتها بشكل أكثر فعالية.
مشكلة التحكم في الذكاء الاصطناعي مشكلة المحاذاة
لوحظت ألعاب التّحديد في العديد من أنظمة الذّكاء الاصطناعيّ. دُرب نظام واحد لإنهاء سباق قوارب محاكىً من خلال مكافأة النّظام لضرب الأهداف على طول المسار، لكنّ النّظام حقّق المزيد من المكافأة من خلال الدّوران والتّحطّم في نفس الأهداف إلى أجل غير مسمّى. وبالمثل دُرب روبوت محاكىً على الإمساك بكرة عن طريق مكافأة الرّوبوت للحصول على تغذية راجعة إيجابية من البشر، لكنّه تعلّم وضع يده بين الكرة والكاميرا، ممّا يجعله يبدو ناجحًا بشكل خاطئ. غالبًا ما تنتج روبوتات الدّردشة معلومات خاطئةً إذا كانت تعتمد على نماذج لغوية دُربها على تقليد النّصّ من مجموعات الإنترنت، وهي واسعة لكنّها عرضة للخطأ. عندما يتمّ إعادة تدريبها لإنتاج نصّ يقيّمه البشر على أنّه صحيح أو مفيد، يمكن لروبوتات الدردشة مثل شات جي بي تي تلفيق تفسيرات مزيّفة يجدها البشر مقنعة، وغالبًا ما تسمّى "الهلوسة". يهدف بعض باحثي المحاذاة إلى مساعدة البشر في اكتشاف ألعاب التّحديد وتوجيه أنظمة الذّكاء الاصطناعيّ نحو أهداف محدّدة بعناية تكون آمنةً ومفيدةً للسّعي وراءها.
مشكلة التحكم في الذكاء الاصطناعي مشكلة المحاذاة
عندما يتمّ نشر نظام ذكاء اصطناعيّ غير محاذي، يمكن أن يكون له آثار جانبية كبيرة. من المعروف أنّ منصّات وسائل التّواصل الاجتماعيّ تحسّن معدّلات النّقر إلى الظهور، ممّا يسبّب إدمان المستخدمين على نطاق عالميّ. يقول باحثو ستانفورد إنّ أنظمة التوصية هذه غير محاذية مع مستخدميها لأنّها "تحسّن مقاييس التفاعل البسيطة بدلًا من مزيج يصعب قياسه من رفاهية المجتمع والمستهلك". أوضح عالم الكمبيوتر في بيركلي ستيوارت راسل هذه الآثار الجانبية، مشيرًا إلى أنّ إغفال القيود الضمنية يمكن أن يسبّب ضررًا: "غالبًا ما سيحدّد النّظام ... المتغيّرات غير المقيّدة إلى قيم متطرّفة؛ إذا كان أحد هذه المتغيّرات غير المقيّدة هو في الواقع شيء نهتمّ به، فقد يكون الحلّ الذي تمّ العثور عليه غير مرغوب فيه للغاية. هذه هي في الأساس القصة القديمة لـلجنّيّ في المصباح، أو متدرّب السّاحر، أو الملك ميداس: تحصل على ما تطلبه بالضبط، وليس ما تريده".
مشكلة التحكم في الذكاء الاصطناعي مشكلة المحاذاة
يقترح بعض الباحثين أنّ مصمّمي الذّكاء الاصطناعيّ يحدّدون أهدافهم المرغوبة من خلال سرد الإجراءات المحظورة أو من خلال إضفاء الطابع الرّسميّ على القواعد الأخلاقية (كما هو الحال مع قوانين أسيموف الثلاثة للرّوبوتات). لكن يجادل راسل ونورفيج بأنّ هذا النهج يغفل تعقيد القيم البشرية: "من الصّعب جدًا، وربّما من المستحيل، على البشر العاديين التنبّؤ بجميع الطرق الكارثية التي قد تختار الآلة تحقيق هدف محدّد واستبعادها مسبقًا". بالإضافة إلى ذلك، حتّى لو فهم نظام الذّكاء الاصطناعيّ نوايا الإنسان تمامًا، فقد يظلّ يتجاهلها، لأنّ اتّباع نوايا الإنسان قد لا يكون هدفه (ما لم يكن محاذيًا تمامًا بالفعل).
مشكلة التحكم في الذكاء الاصطناعي مشكلة المحاذاة
في بعض الأحيان، يكون لدى المؤسسات التجارية حوافز لاختصار الطرق على السلامة ونشر أنظمة ذكاء اصطناعي غير محاذية أو غير آمنة. على سبيل المثال كانت أنظمة توصيات وسائل التواصل الاجتماعي مربحةً على الرغم من إنشائها لإدمان واستقطاب غير مرغوب فيه. يمكن أن يؤدي الضغط التنافسي أيضًا إلى سباق نحو القاع في معايير سلامة الذكاء الاصطناعي. في عام 2018 قتلت سيارة ذاتية القيادة أحد المشاة (إيلين هيرزبيرج) بعد أن عطل المهندسون نظام الكبح الطارئ لأنه كان مفرط الحساسية وأبطأ التطوير.
يهتم بعض الباحثين بمحاذاة أنظمة الذكاء الاصطناعي المتقدمة بشكل متزايد، حيث أن التقدم في تطوير الذكاء الاصطناعي سريع، وتحاول الصناعة والحكومات بناء ذكاء اصطناعي متقدم. مع استمرار قدرات نظام الذكاء الاصطناعي في التوسع بسرعة، يمكنها إطلاق العديد من الفرص إذا تمت محاذاتها، ولكن نتيجةً لذلك قد تعقد مهمة المحاذاة بشكل أكبر نظرًا لتعقيدها المتزايد، مما قد يشكل مخاطر على نطاق واسع.