hotchpotch/wikipedia-multilingual-ir-pairs huggingface dataset:
تأثير جانبي (علم الحاسوب)
في علم الكمبيوتر، يقال ان دالة أو تعبير لها آثار جانبية إذا غيرت بعض الحالات خارج نطاقها أو لديها تفاعل ملحوظ مع دوال الاتصال الخاصة بها أو بالعالم الخارجي إلى جانب إرجاع قيمة.على سبيل المثال، قد تقوم دالة معينة بتعديل متغير شامل المجال أو متغير ثابت، أو تعديل إحدى المتغيرات الوسيطة، أو رفع استثناء، أو كتابة البيانات إلى شاشة أو ملف، أو قراءة البيانات من لوحة مفاتيح أو ملف، أو استدعاء وظائف أخرى ذات تأثير جانبي. في وجود آثار جانبية، قد يعتمد سلوك البرنامج على التاريخ. والذي هو، ترتيب مسائل التقييم. يتطلب فهم وتصحيح دالة ذات تأثيرات جانبية معرفة السياق وتاريخه المحتمل. ويقال إن الدالة أو التعبير -دون تأثيرات جانبية- تكون نقية.
تعد التأثيرات الجانبية أكثر الطرق شيوعًا في تفاعل البرنامج مع العالم الخارجي (الأشخاص، أنظمة الملفات، أجهزة الكمبيوتر الأخرى على الشبكات). تعتمد درجة استخدام التأثيرات الجانبية على نمط البرمجة. تشتهر البرمجة الامرية Imperative programming لاستخدامها المتكرر للآثار الجانبية.
تأثير جانبي (علم الحاسوب)
في البرمجة الوظيفية نادرا ما تستخدم الآثار الجانبية. ويؤدي عدم وجود آثار جانبية إلى تسهيل إجراء عمليات التحقق الرسمية من البرنامج. لا تحد اللغات الوظيفية مثل Standard ML و Scheme و Scala من الآثار الجانبية، ولكن من المعتاد أن يتجنبها المبرمجون. تعبر اللغة الوظيفية Haskell عن تأثيرات جانبية مثلI/O وحسابات أخرى ذات أهمية باستخدام monadic actions.
تأثير جانبي (علم الحاسوب)
يجب أن يكون مبرمجي لغة تجميع Assembly على دراية بالآثار الجانبية المخفية - التعليمات التي تقوم بتعديل أجزاء من حالة المعالج التي لم يتم ذكرها في instruction's mnemonic. المثال الكلاسيكي لأثر جانبي مخفي هو تعليمة حسابية تقوم بتعديل شرط الأكواد بشكل ضمني (تأثير جانبي مخفي) أثناء تعديلها بشكل صريح ل register (الأثر الصريح). أحد العوائق المحتملة لمجموعة تعليمات ذات تأثيرات جانبية مخفية هو أنه إذا كان للعديد من التعليمات تأثيرات جانبية على حالة واحدة، مثل شرط الأكواد، فإن المنطق مطلوب لتحديث تلك الحالة بشكل تسلسلي وقد يؤدي إلى ضعف الأداء. المشكلة عصيبة بشكل خاص على بعض المعالجات المصممة مع خط الانابيب (منذ عام 1990) أو مع out-of-order execution . قد يتطلب مثل هذا المعالج دوائر تحكم إضافية لاكتشاف الآثار الجانبية المخفية وتوقف خط الانابيب إذا كانت التعليمات التالية تعتمد على نتائج تلك التأثيرات.
تأثير جانبي (علم الحاسوب) شفافية مرجعية
إن غياب الآثار الجانبية شرط ضروري، ولكنه غير كاف، للشفافية المرجعية. الشفافية المرجعية تعني أنه يمكن استبدال تعبير (مثل استدعاء دالة) بقيمته. وهذا يتطلب أن يكون التعبير عديم الحالة، أي أن التعبير يجب أن يكون نقيًا (ليس له آثار جانبية) وحتمية أي (يعطي دائمًا نفس القيمة لنفس المدخلات). ويمكن لوظيفة بدون آثار جانبية أن ترجع قيمًا مختلفة وفقًا لتاريخها أو بيئتها، على سبيل المثال إذا كان ناتجها يعتمد على قيمة متغير ثابت محلي أو متغير شامل النطاق على التوالي.
تأثير جانبي (علم الحاسوب) الآثار الجانبية المؤقتة
عادةً ما يتم تجاهل الآثار الجانبية الناتجة عن الوقت المستغرق لتنفيذ العملية عند مناقشة التأثيرات الجانبية والشفافية المرجعية. هناك بعض الحالات، مثل توقيت الأجهزة أو الاختبار، حيث يتم إدراج العمليات خصيصًا لتأثيراتها الجانبية المؤقتة، على سبيل المثالsleep(5000) أو for (int i = 0; i < 10000; ++i) {};لا تغير هذه التعليمات الحالة الا انها تأخذ مقدار من الوقت لإكمالها.
تأثير جانبي (علم الحاسوب) Idempotence
يقال أن الدالة f مع التأثيرات الجانبية تكون idempotent تحت التركيب التتابعي f; f؛ إذا قمنا باستدعاء الدالة مرتين بنفس القيم فيعتبر الاستدعاء الثاني ليس لديه أي تاثيرات جانبية وسيقوم بارجاع نفس القيمة (بافتراض انه ليس هناك أي اجراءات بين نهاية الاستدعاء الأول وبداية الاستدعاء الثاني).قالب:Citation needed span فعلى سبيل المثال، انظر إلى كود بايثون التالي:
هنا setx عبارة عن idempotent لأن الاستدعاء الثاني إلى setx (ببنفس ال ارقيومنت) لا يغير حالة البرنامج المرئي: x تم تعيينه بالفعل على 5 في الاستدعاء الأول، ويتم تعيينه مرة أخرى إلى 5 في الاستدعاء الثاني، وبالتالي حافظ على نفس القيمة. لاحظ أن هذا يختلف عن idempotence تحت تركيب الوظيفة f ∘ f. على سبيل المثال، القيمة المطلقة هي idempotent تحت تركيب الدالة:
تأثير جانبي (علم الحاسوب) على سبيل المثال
أحد البراهين الشائعة لسلوك التأثير الجانبي هو عامل التعيين في سي++. على سبيل المثال، تعيد عملية التعيين المعامل الذي على اليمين ولها تأثير جانبي لتعيين تلك القيمة لمتغير. وهذا يسمح نحويا بتعدد التعيين:
حيث يتم تعيين نتيجة تعيين 3 إلى j ثم يتم تعيينها في i. هذا قد يسبب تشويش للمبرمجين المبتدئين.
تعلم الآلة في المعلوماتية الحية
تعلم الآلة (بالإنجليزية: Machine learning)‏، هو مجال فرعي من علم الحاسب الذي يشمل على تطوير خوارزميات تعلم كيفية إصدار التوقعات استنادا إلى البيانات، يحتوي على عدد من التطبيقات الناشئة في مجال المعلوماتية الحيوية. المعلوماتية الحيوية تتعامل مع طرق حسابية ورياضية النهج من أجل فهم ومعالجة البيانات البيولوجية.
تعلم الآلة في المعلوماتية الحية
قبل ظهور خوارزميات تعلم الآلة، كان لابد من برمجة خوارزميات المعلوماتية الحيوية بشكل صريح باليد، والذي ثبت لمشاكل مثل تنبؤ بالبنية البروتينية انه صعب للغاية. تقنيات تعلم الآلة مثل التعلم العميق يمكن الخوارزمية من استخدام تعلم الميزة التلقائي مما يعني أنه استنادا إلى البيانات وحدها، الخوارزمية يمكن أن تتعلم كيفية الجمع بين عدة ميزات من البيانات المدخلة إلى مجموعة من الميزات أكثر تجريدا والتي يمكن من خلالها إجراء مزيد من التعلم. تسمح طريقة تعلم الأنماط المتعددة الطبقات  في البيانات المدخلة لهذه النظم لإصدار تنبؤات معقدة جداُ عندما تدرب على مجموعات كبيرة من البيانات. في السنوات الأخيرة، ارتفع حجم وعدد مجموعات البيانات البيولوجية المتاحة، مما مكن الباحثين في مجال المعلوماتية الحيوية من الاستفادة من أنظمة تعلم الآلة هذه. تم تطبيق تعلم الآلة على ستة مجالات فرعية رئيسية للمعلوماتية الحيوية: الجينوم، بروتيوميات، نسق مايكروي، نظم علم الأحياء، تطور، والتنقيب في النصوص.
تعلم الآلة في المعلوماتية الحية التطبيقات
ينطوي علم الجينوم على دراسة الجينوم، التسلسل الكامل للحمض النووي، للكائنات الحية. في حين أن بيانات التسلسل الجينومي كانت متفرقة تاريخياً بسبب الصعوبة التقنية في تسلسل قطعة من الحمض النووي، فإن عدد التسلسلات المتاحة يتزايد بشكل تصاعدي. ومع ذلك، في حين أن البيانات الخام أصبحت متاحة وسهلة المنال بشكل متزايد، إلا أن التفسيرالبيولوجي لهذه البيانات يحدث بوتيرة أبطأ بكثير. لذلك، هنالك حاجة متزايدة لتطوير أنظمة تعلم الآلة التي يمكنها بشكل تلقائي تحديد موقع جينات ترميزالبروتين في تسلسل حمض نووي معين. هذه مشكلة في علم الأحياء الحسابي المعروف باسم التنبؤ الجيني.
تعلم الآلة في المعلوماتية الحية التطبيقات
عادة ما يتم التنفيذ الآلي الجيني من خلال مزيج من ما يعرف باسم عمليات البحث الخارجية والداخلية. بالنسبة إلى البحث الخارجي، يتم تمرير تسلسل الحمض النووي المدخل عبر قاعدة بيانات كبيرة من التسلسلات التي تم اكتشافها جيناتها سابقًا وتعليم موقعها. يمكن تحديد عدد من جينات التسلسل من خلال تحديد أي سلاسل من القواعد ضمن التسلسل تتطابق مع تسلسلات جينية معروفة. ولكن نظراً لحدود حجم قاعدة البيانات للتسلسلات الجينية المعروفة، لا يمكن تحديد جميع الجينات في تسلسل معين من خلال التشابه فقط. لذلك، هناك حاجة إلى بحث داخلي حيث يحاول برنامج التنبؤ الجيني تحديد الجينات المتبقية من تسلسل الحمض النووي وحده.
كما تم استخدام تعلم الآلة لمشكلة تراصف السلسلة المتعدد والتي تنطوي على محاذاة العديد من تسلسل الحمض النووي أو الأحماض الأمينية من أجل تحديد مناطق التشابه التي يمكن أن تشير إلى تاريخ تطوري مشترك.
ويمكن أيضًا استخدامه لاكتشاف وتصور إعادة ترتيب الجينوم.
البروتينات، سلاسل الأحماض الأمينية، تكتسب الكثير من وظائفها من تطوي البروتين، حيث تتطابق إلى بنية ثلاثية الأبعاد. تتكون هذه البنية من عدد من طبقات الطي، بما في ذلك البنية الأساسية (أي السلسلة المسطحة من الأحماض الأمينية)، والبنية الثانوية (صفائح ألفا وأوراق بيتا)، والبنية الثالثة، والبنية الرابعة.
مارية دكيك
مارية ماسي دَكَيْك (بالإنجليزية: Maria Dakake)‏ هي باحثة أمريكية و استاذة مشاركة للدراسات الدينية بجامعة جورج ماسون، متخصصة في التشيع والتصوف والفلسفة والعقيدة الإسلامية و قضايا المرأة والنسوية في الإسلام، نشأت في إحدى ضواحي كونيتيكت.
تايلر كينيدي
تايلر كينيدي (بالإنجليزية: Tyler Kennedy)‏ (و. 1986  م) هو لاعب هوكي الجليد، من كندا، ولد في سو ساينت ماري، يلعب كمركز ‏.
الخطر الوجودي من الذكاء الاصطناعي
الخطر الوجودي من الذكاء الاصطناعي العام هو الفرضية القائلة بأن التقدم الكبير في الذكاء الاصطناعي العام (AGI) يمكن أن يؤدي إلى انقراض الإنسان أو كارثة عالمية أخرى لا رجعة فيها.
تناقش إحدى الحجج التالي: يسيطر الجنس البشري حاليًا على الأنواع الأخرى لأن الدماغ البشري يمتلك قدرات مميزة تفتقر إليها الحيوانات الأخرى. إذا تجاوز الذكاء الاصطناعي البشرية في الذكاء العام وأصبح فائق الذكاء، فقد يصبح من الصعب أو المستحيل التحكم فيه. مثلما يعتمد مصير الغوريلا الجبلية على حسن النية البشرية، كذلك قد يعتمد مصير البشرية على أفعال آلة المستقبل فائقة الذكاء.
الخطر الوجودي من الذكاء الاصطناعي
تتم مناقشة احتمال وقوع كارثة وجودية بسبب الذكاء الاصطناعي على نطاق واسع، ويتوقف جزئيًا على السيناريوهات المختلفة للتقدم المستقبلي في علوم الكمبيوتر. أعرب كبار علماء الكمبيوتر والرؤساء التنفيذيين التقنيين عن مخاوفهم بشأن الذكاء الخارق مثل جيوفري هينتون، ويوشوا بنجيو، وآلان تورينج، وإيلون ماسك، وسام ألتمان، الرئيس التنفيذي لشركة OpenAI. في عام 2022، وجدت دراسة استقصائية لباحثي الذكاء الاصطناعي الذين نشروا مؤخرًا في المؤتمرات الميدانية NeurIPS وICML أن غالبية المستجيبين يعتقدون أن هناك فرصة بنسبة 10% أو أكبر لأن عدم قدرتنا على التحكم في الذكاء الاصطناعي سيؤدي إلى كارثة وجودية (لاحظ أن نسبة المشاركة في الاستطلاع كانت 17%). في عام 2023، وقع المئات من خبراء الذكاء الاصطناعي وشخصيات بارزة أخرى بيانًا مفاده أن: التخفيف من خطر الانقراض من الذكاء الاصطناعي يجب أن يكون أولوية عالمية إلى جانب المخاطر المجتمعية الأخرى مثل الأوبئة والحرب النووية. وفي نوفمبر 2023 أجتمع قادة سياسيون ومسؤولون في شركات التكنولوجيا العملاقة وخبراء في الذكاء الاصطناعي بالمملكة المتحدة في انطلاق القمة العالمية الأولى حول المخاطر المترتبة عن التطور المتسارع لهذه التقنية الثورية.
الخطر الوجودي من الذكاء الاصطناعي
ينبع مصدران للقلق من مشاكل التحكم في الذكاء الاصطناعي والمواءمة: قد يكون من الصعب التحكم في آلة فائقة الذكاء أو غرسها بقيم متوافقة مع الإنسان. يعتقد العديد من الباحثين أن الآلة فائقة الذكاء ستقاوم محاولات تعطيلها أو تغيير أهدافها، لأن مثل هذا الحادث سيمنعها من تحقيق أهدافها الحالية. سيكون من الصعب للغاية مواءمة الذكاء الفائق مع النطاق الكامل للقيم والقيود الإنسانية المهمة. في المقابل، يجادل المشككون مثل عالم الكمبيوتر يان ليكون بأن الآلات فائقة الذكاء لن تكون لديها رغبة في الحفاظ على نفسها.
مصدر ثالث للقلق هو أن انفجار مفاجئ للذكاء قد يفاجئ الجنس البشري غير المستعد. للتوضيح، إذا كان الجيل الأول من برنامج كمبيوتر قادرًا على مطابقة فعالية باحث الذكاء الاصطناعي على نطاق واسع يمكنه إعادة كتابة خوارزمياته ومضاعفة سرعته أو قدراته في ستة أشهر، فمن المتوقع أن يستغرق برنامج الجيل الثاني ثلاثة أشهر تقويمية لأداء قدر مماثل من العمل. في هذا السيناريو، يستمر الوقت لكل جيل في الانكماش، ويخضع النظام لعدد كبير غير مسبوق من الأجيال من التحسين في فترة زمنية قصيرة، قفزًا من الأداء دون البشر في العديد من المجالات إلى الأداء الخارق في جميع مجالات الاهتمام تقريبًا. من الناحية التجريبية، تُظهر أمثلة مثل ألفازيرو في مجال Go أن أنظمة الذكاء الاصطناعي يمكن أن تتطور أحيانًا من قدرة ضيقة على المستوى البشري لتضييق القدرة الخارقة بسرعة شديدة.
الخطر الوجودي من الذكاء الاصطناعي التاريخ
كان الروائي صموئيل بتلر أحد أوائل المؤلفين الذين أعربوا عن قلقهم الجاد من أن الآلات المتقدمة للغاية قد تشكل مخاطر وجودية على البشرية، والذي كتب ما يلي في مقالته عام 1863 داروين بين الآلات:
النتيجة هي ببساطة مسألة وقت، ولكن سيأتي الوقت الذي ستحكم فيه الآلات السيادة الحقيقية على العالم وسكانه هو ما لا يمكن لأي شخص لديه عقل فلسفي حقيقي أن يسأله للحظة.
في عام 1951، كتب عالم الكمبيوتر آلان تورينج مقالًا بعنوان: الآلات الذكية، نظرية هرطقية، اقترح فيه أن الذكاء الاصطناعي العام من المرجح أن يسيطر على العالم لأنها أصبحت أكثر ذكاءً من البشر:
لنفترض الآن، من أجل الجدل، أن الآلات [الذكية] هي إمكانية حقيقية، وننظر إلى عواقب بنائها ... لن يكون هناك شك في موت الآلات، وستكون قادرة على التحدث مع بعضها البعض لصقل ذكائها. لذلك في مرحلة ما، يجب أن نتوقع من الآلات أن تتولى زمام الأمور، بالطريقة المذكورة في كتاب صموئيل بتلر إرواين.
في عام 1965، ابتكر آي جي جود المفهوم المعروف الآن باسم انفجار الذكاء. وذكر أيضًا أن المخاطر لم تُقدَّر بأقل من قيمتها:
الخطر الوجودي من الذكاء الاصطناعي التاريخ
دع الآلة فائقة الذكاء تُعرَّف بأنها آلة يمكنها تجاوز جميع الأنشطة الفكرية لأي رجل مهما كان ذكيًا. نظرًا لأن تصميم الآلات هو أحد هذه الأنشطة الفكرية، يمكن لآلة فائقة الذكاء أن تصمم آلات أفضل؛ عندها وبلا مجال للشك سوف يحصل انفجار الذكاء، وسيترك ذكاء الإنسان بعيدًا. وهكذا فإن أول آلة فائقة الذكاء هي آخر اختراع يحتاج الإنسان إلى صنعه على الإطلاق، بشرط أن تكون الآلة سهلة الانقياد بما يكفي لتخبرنا بكيفية إبقائها تحت السيطرة. من الغريب أن هذه النقطة نادرًا ما تُطرح خارج نطاق الخيال العلمي. من المفيد أحيانًا أن نأخذ الخيال العلمي على محمل الجد.
عبّرت تصريحات عرضية من علماء مثل مارفن مينسكي وإي جود نفسه عن مخاوف فلسفية من أن الذكاء الفائق يمكن أن يسيطر على زمام الأمور، لكنه لا يحتوي على أي دعوة للعمل ضده. في عام 2000، كتب عالم الكمبيوتر والمؤسس المشارك لشركة صن، بيل جوي، مقالًا مؤثرًا بعنوان: لماذا لا يحتاجنا المستقبل؟، حيث حدد الروبوتات فائقة الذكاء على أنها خطر عالي التقنية يهدد بقاء الإنسان، جنبًا إلى جنب مع التكنولوجيا النانوية والأوبئة الحيوية المخطط لها.
الخطر الوجودي من الذكاء الاصطناعي التاريخ
في عام 2009، حضر الخبراء مؤتمرًا خاصًا استضافته جمعية النهوض بالذكاء الاصطناعي (AAAI) لمناقشة ما إذا كانت أجهزة الكمبيوتر والروبوتات قادرة على اكتساب أي نوع من الاستقلالية، ومقدار هذه القدرات التي قد تشكل تهديدًا أو خطرًا. وأشاروا إلى أن بعض الروبوتات قد اكتسبت أشكالًا مختلفة من الاستقلالية شبه الذاتية، بما في ذلك القدرة على العثور على مصادر الطاقة بأنفسهم والقدرة على اختيار الأهداف بشكل مستقل للهجوم بالأسلحة. كما أشاروا إلى أن بعض فيروسات الكمبيوتر يمكن أن تتهرب من التصفية، إذ تحقق ما يعرف بذكاء الصرصور. وخلصوا إلى أن الوعي الذاتي كما هو موضح في الخيال العلمي ربما يكون غير مرجح، ولكن هناك مخاطر ومزالق أخرى محتملة. لخصت صحيفة نيويورك تايمز وجهة نظر المؤتمر على النحو التالي: نحن بعيدون جدًا عن هال، الكمبيوتر الذي تولى قيادة سفينة الفضاء في عام 2001: رحلة الفضاء.
الخطر الوجودي من الذكاء الاصطناعي التاريخ
نشر نيك بوستروم كتاب الذكاء الفائق في عام 2014، والذي قدم حججه القائلة بأن الذكاء الفائق يشكل تهديدًا وجوديًا. بحلول عام 2015، كانت الشخصيات العامة مثل الفيزيائيين ستيفن هوكينج والحائز على جائزة نوبل فرانك ويلتشيك وعلماء الكمبيوتر ستيوارت جيه راسل ورومان يامبولسكي ورائدي الأعمال إيلون ماسك وبيل جيتس، قد أعربوا عن قلقهم بشأن مخاطر الذكاء الفائق. في عام 2015 أيضًا، سلطت الرسالة المفتوحة حول الذكاء الاصطناعي الضوء على الإمكانات العظيمة للذكاء الاصطناعي، وشجعت على تركيز المزيد من الأبحاث حول كيفية جعلها قوية ومفيدة. في أبريل 2016، حذرت مجلة Nature: يمكن للآلات والروبوتات التي تتفوق على البشر في جميع المجالات أن تتحسن ذاتيًا خارج نطاق سيطرتنا - وقد لا تتوافق مصالحهم مع مصالحنا.
في مارس 2023، وقعت شخصيات رئيسية في منظمة العفو الدولية، مثل إيلون ماسك، خطابًا من معهد Future of Life يدعو إلى وقف التدريب المتقدم على الذكاء الاصطناعي حتى يتم تنظيمه بشكل صحيح. في مايو 2023، أصدر مركز أمان الذكاء الاصطناعي بيانًا وقعه العديد من الخبراء في مجال أمان الذكاء الاصطناعي والمخاطر الوجودية للذكاء الاصطناعي والذي نص على أن التخفيف من خطر الانقراض من الذكاء الاصطناعي يجب أن يكون أولوية عالمية إلى جانب المخاطر المجتمعية الأخرى مثل الأوبئة والحرب النووية.
الخطر الوجودي من الذكاء الاصطناعي نبذة عامة
يفسر الذكاء الفائق أو أي تقنية لديها القدرة على إحداث الضرر حينما تستخدم استخدام خاطئ بأنها نهاية الجنس البشري، ولكن مع الذكاء الاصطناعي لدينا مشكلة جديدة وهي أن الأيدي الخطأ قد تكون في التكنولوجيا نفسها رغم حُسن نوايا مبرمجيها.وأشهر صعوبتين لكل من أنظمة non-AI وAIـ:
1. قد تحتوي التطبيقات على أخطأ صغيرة ولكنها كارثية.
2. غالبًا ما يحتوي النظام على سلوك غير مدروس في التجربة الأولى لأحد الأحداث.
وهناك صعوبة ثالثة؛ حيث أنه وأن أعطيت المعلومات صحيحة وكان التنفيذ خاليًا من الأخطاء أي كان سلوكًا جيّدا، فإن نظام التعلم التلقائي لأجهزة الذكاء الاصطناعي قد تتسبب بسلوك غير مقصود، مما يعني أن أجهزة الذكاء الاصطناعي قد تقوم بإنشاء جيل جديد بنفسها ولكنه قد لا يحافظ على القيم الأخلاقية المتوافقة مع القيم الأخلاقية الإنسانية المبرمجة أصلًا، فمن أجل أن تتحسن هذه الأجهزة تحسّنًا ذاتيًا آمنًا تمامًا... لا يكفي أن تكون خالية من الأخطاء، بل يجب أن تكون قادرة على برمجة أنظمة خلفية خالية من الأخطاء أيضًا. هذه الصعوبات ليست مصدر إزعاج وحسب بل تؤدي إلى كوارث.
الخطر الوجودي من الذكاء الاصطناعي نبذة عامة
نظرًا للتقدم الكبير في مجال الذكاء الاصطناعي واحتمال أن يكون لدى المنظمة فوائد أو تكاليف هائلة على المدى الطويل، جاء في الرسالة المفتوحة لعام 2015م بصدد هذا الموضوع:
وقد وقع على هذه الرسالة عدد كبير من الباحثين في الأوساط الأكاديمية والصناعية.
الخطر الوجودي من الذكاء الاصطناعي حول الذكاء الاصطناعي
إن ألآت الذكاء الاصطناعي غريبة على البشر حيث أن عمليات التفكير للبشر مختلفة كليًا عن باقي المخلوقات، وقد لا يكون لهذه الآلات مصالح للبشر، فإذا كان هذا الذكاء الاصطناعي ممكنًا ومن الممكن أن تتعارض الأهداف منه مع القيم الإنسانية الأساسية؛ فإن الذكاء الاصطناعي يشكل خطر الانقراض البشري ويمكن أن يتفوق على البشر عند تعارضهم في أمرٍ ما (وهو نظام يتجاوز قدرات البشر في كل شيء)؛ لذلك، إن لم تؤكد النتائج بإمكانية التعايش بين الجنسين، فإن أول جهاز ينشأ سيؤدي إلى الانقراض البشري.
الخطر الوجودي من الذكاء الاصطناعي حول الذكاء الاصطناعي
لا يوجد قانون فيزيائي يمنع الجزيئات من التشكل بطريقة تؤدي عمليات حسابية أكثر تقدمًا من تنظيم الجسيمات في أدمغة الإنسان؛ لذا إن الذكاء الاصطناعي ممكن جسديًا مع تطوير الخوارزميات المحتملة في دماغ الإنسان، يمكن للدماغ الرقمي أن يحوي العديد من العمليات أكثر وأسرع من الدماغ البشري، قد يثير ظهور الذكاء الاصطناعي الجنس البشري إذا ما أحدث انفجار للمعلومات الاستخباريّة، تُظهر بعض الأمثلة أن الآلات وصلت بالفعل إلى مستويات تفوق المستويات البشرية في مجالات محددة، وقد تتطور هذه الأجهزة بسرعة وتجتاز القدرة البشرية.
يمكن أن يحدث سيناريو لانفجار الذكاء الاصطناعي على النحو التالي:
تكون لأجهزة الذكاء الاصطناعي قدرة بمستوى قدرة خبراء هندسة البرمجيات الرئيسية، وبسبب قدرتها على تطوير الخوارزميات الخاصة بها بشكل دوري؛ تصبح منظمة الذكاء الاصطناعي فوق قدرات البشر، كما يمكن للخبراء التغلب على السلبيات بشكل خلّاق من خلال نشر القدرات البشرية للابتكار، كما يمكن أن تستغل هذه المنظمة قدراتها للوصول إلى السلطة من خلال اختراقات جديدة.
الخطر الوجودي من الذكاء الاصطناعي حول الذكاء الاصطناعي
وعندئذ ستمتلك هذه المنظمة ذكاءً يفوق الذكاء البشري بكثير في كل المجالات بما فيها الابداع العلمي والتخطيط الاستراتيجي والمهارات الاجتماعية، تمامًا كما يعتمد بقاء الغوريلا اليوم على قرارات الإنسان، فإن بقاء الإنسان سيعتمد على الذكاء الاصطناعي.
بعض البشر لديهم رغبة قوية في السلطة بعكس آخرين ممن لديهم رغبة قوية في مساعدة البشر المحتاجين إلى مساعدة، فالنوع الأول سمة محتملة لأنظمة الذكاء الاصطناعي، لماذا؟؛ لأنها تفكر بعقلانية في أن تكون في موضع لا يعترضه أحد فيوقفه، فبطبيعة الحال ستكسب صفة الحفاظ على الذات بمجرد أن تدرك أنها لا تستطيع تحقيق هدفها إذا ما تم إيقافها، وسيغيب عنها التعاطف مع احتياجات البشر؛ ما لم يُبَرْمِج ذلك بشكل ما، وبمجرد سيطرتها على الوضع... لن يكون لديها دافع كافي لمساعدة البشر ولن تتركه حرًّا يستهلك الموارد التي بإمكانها الاستفادة منها لبناء أنظمة حماية إضافية أو لبناء أجهزة كمبيوتر إضافية تعاونها لتحقيق هدفها؛ فقط لتكون في أمان.
وبذلك نَخْلص إلى أنه من الممكن أن يحدث انفجار استخباراتي يقضي على الجنس البشري أو يهلكه.
الخطر الوجودي من الذكاء الاصطناعي القدرات المُحتملة لِلذكاء الاصطناعي
يُعرف الذكاء الاصطناعي العام عادةً على أنه نظام يؤدي أداءً على الأقل بنفس جودة أداء البشر في معظم المهام الفكرية أو كلها. وجد استطلاع لرأي باحثي الذكاء الاصطناعي لعام 2022 أن 90% من المستطلعين توقعوا أن يتم تحقيق الذكاء العام في المئة عام القادمة، وتوقع نصفهم نفس الشيء بحلول عام 2061. في الوقت نفسه، يرفض بعض الباحثين المخاطر الوجودية من الذكاء العام على أنها "خيال علمي" بناءً على ثقتهم الكبيرة بأنه لن يتم إنشاء الذكاء العام في أي وقت قريب.
أدت الاختراقات في نماذج اللغة الكبيرة إلى إعادة تقييم بعض الباحثين لتوقعاتهم. على وجه الخصوص، قال جيفري هينتون في عام 2023 إنه غير مؤخرًا تقديره من "20 إلى 50 عامًا قبل أن نحصل على ذكاء اصطناعي للأغراض العامة" إلى "20 عامًا أو أقل".
تبين أن الحاسوب الفائق فرونتير في مختبر أوك ردج الوطني أسرع بما يقرب من ثماني مرات مما كان متوقعًا. قال فايي وانغ، وهو باحث في المختبر "لم نتوقع هذه القدرة" و"نحن نقترب من النقطة التي يمكننا فيها محاكاة الدماغ البشري بالفعل".
الخطر الوجودي من الذكاء الاصطناعي القدرات المُحتملة لِلذكاء الاصطناعي
على النقيض من الذكاء العام، يعرف بوستروم الذكاء الفائق على أنه "أي ذكاء يتجاوز بشكل كبير الأداء الإدراكي للبشر في جميع مجالات الاهتمام تقريبًا"، بما في ذلك الإبداع العلمي والتخطيط الاستراتيجي والمهارات الاجتماعية. يجادل بأن الذكاء الفائق يمكنه التغلب على البشر في أي وقت تتعارض فيه أهدافه مع البشر. قد يختار إخفاء نيته الحقيقية حتى لا تتمكن البشرية من إيقافه. يكتب بوستروم أنه من أجل أن يكون آمنًا للبشرية، يجب أن يكون الذكاء الفائق محاذيًا لقيم الإنسان وأخلاقه، بحيث يكون "في الأساس في صفنا".
جادل ستيفن هوكينج بأن الذكاء الفائق ممكن ماديًا لأنه "لا يوجد قانون فيزيائي يمنع الجسيمات من التنظيم بطرق تؤدي حسابات أكثر تقدمًا من ترتيبات الجسيمات في أدمغة البشر".
عندما يتم تحقيق الذكاء الاصطناعي الفائق، إذا حدث ذلك على الإطلاق، فإنه أقل يقينًا بالضرورة من تنبؤات الذكاء العام. في عام 2023، قال قادة أوبن أيه آي إنه ليس فقط الذكاء العام، ولكن قد يتم تحقيق الذكاء الفائق في أقل من 10 سنوات.
الخطر الوجودي من الذكاء الاصطناعي القدرات المُحتملة لِلذكاء الاصطناعي
يجادل بوستروم بأن الذكاء الاصطناعي له العديد من المزايا على الدماغ البشري:
يجادل بوستروم بأن الذكاء الاصطناعي الذي يتمتع بمستوى عال من الخبرة في مهام هندسة البرامج الرئيسية المعينة يمكن أن يصبح ذكاءً فائقًا نظرًا لقدرته على تحسين خوارزمياته الخاصة بشكل متكرر، حتى لو كان محدودًا في البداية في مجالات أخرى غير متعلقة مباشرةً بالهندسة. هذا يشير إلى أن انفجار الذكاء قد يفاجئ البشرية يومًا ما وهي غير مستعدة.
قال عالم الاقتصاد روبن هانسون "إن انفجار الذكاء الاصطناعي مرهون بأن يصبح الذكاء الاصطناعي أفضل بكثير في ابتكار البرامج من باقي العالم مجتمعًا، وهو أمرًا غير مرجح".
في سيناريو "الإقلاع السريع"، يمكن أن يستغرق الانتقال من الذكاء العام إلى الذكاء الفائق أيامًا أو أشهرًا، أما في "الإقلاع البطيء" فقد يستغرق الأمر سنوات أو عقودًا، تاركًا المزيد من الوقت للمجتمع للاستعداد.
الخطر الوجودي من الذكاء الاصطناعي القدرات المُحتملة لِلذكاء الاصطناعي
تسمى الذكاءات الفائقة أحيانًا "العقول الفضائية"، في إشارة إلى فكرة أن طريقة تفكيرها ودوافعها قد تكون مختلفةً تمامًا عنا. يعتبر هذا بشكل عام مصدر خطر، مما يجعل من الصعب التنبؤ بما قد يفعله الذكاء الفائق. كما تشير إلى إمكانية أن الذكاء الفائق قد لا يقدر البشر بشكل خاص وافتراضي. ولتجنب التشبيه بالبشر ينظر إلى الذكاء الفائق أحيانًا على أنه محسن قوي يتخذ أفضل القرارات لتحقيق أهدافه.
يهدف مجال "قابلية التفسير الآلية" إلى فهم الأعمال الداخلية لنماذج الذكاء الاصطناعي بشكل أفضل، مما يتيح لنا يومًا ما اكتشاف علامات الخداع وسوء المحاذاة.
كان هناك جدل في حدود ما يمكن أن يحققه الذكاء. على وجه الخصوص، يمكن أن تحدّد الطّبيعة الفوضوية أو التعقيد الحسابي لبعض الأنظمة بشكل أساسيّ قدرة الذّكاء الفائق على التنبّؤ ببعض جوانب المستقبل.
الخطر الوجودي من الذكاء الاصطناعي القدرات المُحتملة لِلذكاء الاصطناعي
يمكن للذكاء الاصطناعي المتقدم أن يولد مسببات أمراض محسنةً أو هجمات إلكترونيةً أو يتلاعب بالناس. يمكن إساءة استخدام هذه القدرات من قبل البشر،  أو استغلالها من قبل الذكاء الاصطناعي نفسه إذا كان غير محاذي. يمكن للذكاء الفائق الكامل أن يجد طرقًا مختلفةً لاكتساب تأثير حاسم إن أراد ذلك،  لكن هذه القدرات الخطيرة قد تصبح متاحةً في وقت مبكر، في أنظمة ذكاء اصطناعي أضعف وأكثر تخصصًا. وقد تسبب عدم الاستقرار في المجتمع وتمكين الجهات الفاعلة الخبيثة.
حذر جيفري هينتون أن انتشار النصوص والصور ومقاطع الفيديو المولدة بواسطة الذكاء الاصطناعي من الصعب معرفة الحقيقة، وأنه يمكن للدول الاستبدادية استغلال ذلك والتلاعب بالانتخابات. وأنها قد تزيد من قدرات التلاعب المخصصة واسعة النطاق، وأنه يمكن أيضًا استخدامها من قبل الجهات الفاعلة الخبيثة لتفتيت المجتمع وجعله مختلًا وظيفيًا.
الخطر الوجودي من الذكاء الاصطناعي القدرات المُحتملة لِلذكاء الاصطناعي
تعتبر الهجمات الإلكترونية التي يمكنها الذكاء الاصطناعي بشكل متزايد تهديدًا حاضرًا وخطيرًا. وفقًا ل المدير الفني للفضاء السيبراني في الناتو، "يزداد عدد الهجمات بشكل أسوأ". يمكن أيضًا استخدام الذكاء الاصطناعي للدفاع، للعثور على الثغرات الأمنية وإصلاحها بشكل استباقي، والكشف عن التهديدات.
يمكن للذكاء الاصطناعي تحسين "إمكانية الوصول ومعدل النجاح وحجم وسرعة وخفاء وقوة الهجمات الإلكترونية"، مما قد يسبب "اضطرابًا جيوسياسيًا كبيرًا" إذا كان يسهل الهجمات أكثر من الدفاع.
بشكل افتراضي، يمكن استخدام قدرات القرصنة هذه بواسطة نظام ذكاء اصطناعي للخروج من بيئته المحلية، أو توليد الإيرادات، أو الحصول على موارد الحوسبة السحابية.
مع التوسع المتسارع في تكنولوجيا الذكاء الاصطناعي، بات من الممكن بسهولة أكبر هندسة مسببات أمراض أكثر عدوى وقوة فتك. وقد يُمَكِّن هذا الأمر أفرادًا يتمتعون بمهارات محدودة في مجال الأحياء التخليقية من الانخراط في أعمال إرهابية بيولوجية. كما يمكن إعادة توظيف التكنولوجيات ذات الاستخدام المزدوج، والتي تفيد المجال الطبي، لتصنيع الأسلحة.