إيليزر يودكوفسكي

إليزر يودكوفسكي . February 16, 2012. Timestamp 1:18. هو باحث أمريكي في مجال الذكاء الاصطناعي وكاتب في نظرية القرار والأخلاق، ولد في 11 سبتمبر 1979، اشتهر بنشر الأفكار المتعلقة بالذكاء الاصطناعي الودود. وهو مؤسس وزميل باحث في معهد أبحاث الذكاء الآلي (MIRI)، وهي مؤسسة بحثية خاصة غير ربحية مقرها في بيركلي، كاليفورنيا. أثر عمله على احتمالية انفجار الذكاء الجامح على كتاب الفيلسوف نيك بوستروم لعام 2014 بعنوان الذكاء الفائق: المسارات والمخاطر والاستراتيجيات.

 العمل في مجال سلامة الذكاء الاصطناعي 

 التعلم الهدفي والحوافز في أنظمة البرمجيات 
نُوقشت آراء يودكوفسكي حول تحديات السلامة التي تُشكّلها الأجيال القادمة من أنظمة الذكاء الاصطناعي في كتاب ستيوارت راسل وبيتر نورفيج الجامعي بعنوان "الذكاء الاصطناعي: نهج حديث". ونظرًا لصعوبة تحديد الأهداف العامة يدويًا، استشهد راسل ونورفيج باقتراح يودكوفسكي بتصميم أنظمة مستقلة ومتكيّفة لتعلّم السلوك الصحيح مع مرور الوقت:

ردًا على مخاوف التقارب الآلي، والتي تعني أن أنظمة صنع القرار المستقلة ذات الأهداف المصممة بشكل سيئ سيكون لديها حوافز افتراضية لإساءة معاملة البشر، أوصى يودكوفسكي وباحثون آخرون في معهد أبحاث الذكاء الاصطناعي بإجراء عمل لتحديد وكلاء البرامج الذين يتقاربون في السلوكيات الافتراضية الآمنة حتى عندما تكون أهدافهم غير محددة بشكل صحيح.Leighton, Jonathan (2011). The Battle for Compassion: Ethics in an Apathetic Universe. Algora. ISBN 978-0-87586-870-7. كما اقترح يودكوفسكي في عام 2004 إطار عمل نظري لمواءمة الذكاء الاصطناعي يسمى الإرادة المستقرة المتماسكة، والذي يتضمن تصميم الذكاء الاصطناعي لمتابعة ما يرغب فيه الناس في ظل ظروف معرفية وأخلاقية مثالية.

 التنبؤ بالقدرات 
في كتاب الذكاء الاصطناعي: نهج حديث، أثار راسل ونورفيج اعتراضًا مفاده أن هناك حدودًا معروفة لحل المشكلات الذكية من خلال نظرية التعقيد الحسابي ؛ فإذا كانت هناك حدود قوية لكيفية قدرة الخوارزميات على حل المهام المختلفة بكفاءة، فقد لا يكون انفجار الذكاء ممكنًا.

في سيناريو الانفجار الذكي الذي افترضه آي جيه جود، تتحول أنظمة الذكاء الاصطناعي ذاتية التحسين بشكل متكرر من ذكاء عام دون مستوى الذكاء البشري إلى ذكاء خارق. يشرح نيك بوستروم في كتابه "الذكاء الخارق: المسارات، المخاطر، الاستراتيجيات" الصادر عام ٢٠١٤ حجة جود بالتفصيل، مستشهدًا برأي يودكوفسكي حول خطر تشبيه أنظمة الذكاء الاصطناعي المتقدمة بالبشر، مما قد يؤدي إلى سوء فهم الناس لطبيعة الانفجار الذكي. "قد يشهد الذكاء الاصطناعي قفزة حادة ظاهريًا في الذكاء نتيجةً بحتة للتشبيه، أي ميل البشر إلى اعتبار "أحمق القرية" و"أينشتاين" طرفين متطرفين في مقياس الذكاء، بدلًا من اعتبارهما نقطتين متقاربتين على مقياس العقول عمومًا." Russell, Stuart؛ Norvig, Peter (2009). Artificial Intelligence: A Modern Approach. Prentice Hall. ISBN 978-0-13-604259-4.Bostrom, Nick (2014). Superintelligence: Paths, Dangers, Strategies. Oxford University Press. ISBN 978-0199678112.

 مقال رأي في مجلة تايم 
في مقال رأي نُشر عام 2023 في مجلة تايم، ناقش يودكوفسكي خطر الذكاء الاصطناعي ودعا إلى اتفاقيات دولية للحد منه، بما في ذلك التوقف التام عن تطوير الذكاء الاصطناعي. واقترح أن تكون الدول المشاركة على استعداد لاتخاذ إجراءات عسكرية، مثل "تدمير مركز بيانات مارق بغارة جوية"، لفرض مثل هذا الوقف.Hutson, Matthew (May 16, 2023). "Can We Stop Runaway A.I.?". The New Yorker. ISSN 0028-792X. Archived from the original on May 19, 2023. Retrieved May 19, 2023. Eliezer Yudkowsky, a researcher at the Machine Intelligence Research Institute, in the Bay Area, has likened A.I.-safety recommendations to a fire-alarm system. A classic experiment found that, when smoky mist began filling a room containing multiple people, most didn't report it. They saw others remaining stoic and downplayed the danger. An official alarm may signal that it's legitimate to take action. But, in A.I., there's no one with the clear authority to sound such an alarm, and people will always disagree about which advances count as evidence of a conflagration. "There will be no fire alarm that is not an actual running AGI," Yudkowsky has written. Even if everyone agrees on the threat, no company or country will want to pause on its own, for fear of being passed by competitors. ... That may require quitting A.I. cold turkey before we feel it's time to stop, rather than getting closer and closer to the edge, tempting fate. But shutting it all down would call for draconian measures—perhaps even steps as extreme as those espoused by Yudkowsky, who recently wrote, in an editorial for Time, that we should "be willing to destroy a rogue datacenter by airstrike," even at the risk of sparking "a full nuclear exchange." ساعدت المقالة في تقديم النقاش حول محاذاة الذكاء الاصطناعي إلى التيار الرئيسي، مما دفع أحد المراسلين إلى طرح سؤال على الرئيس جو بايدن حول سلامة الذكاء الاصطناعي في مؤتمر صحفي.Silver, Nate (April 10, 2023). "How Concerned Are Americans About The Pitfalls Of AI?". FiveThirtyEight. Archived from the original on April 17, 2023. Retrieved April 17, 2023.

 إذا بناه أحد، سيموت الجميع 
بالاشتراك مع نيت سواريس، كتب يودكوفسكي كتاب "إذا بناه أي شخص، سيموت الجميع "، والذي سيتم نشره بواسطة شركة ليتل براون في 16 سبتمبر 2025.

 الكتابة العقلانية 
بين عامي ٢٠٠٦ و٢٠٠٩، كان يودكوفسكي وروبن هانسون المساهمين الرئيسيين في مدونة " التغلب على التحيز"، وهي مدونة في العلوم المعرفية والاجتماعية برعاية معهد مستقبل الإنسانية بجامعة أكسفورد. في فبراير ٢٠٠٩، أسس يودكوفسكي مدونة " أقل خطأ"، وهي مدونة مجتمعية تُعنى بصقل فن العقلانية البشرية. ومنذ ذلك الحين، أصبحت مدونة "التغلب على التحيز" مدونة هانسون الشخصية.

تم إصدار أكثر من 300 منشور مدونة بقلم يودكوفسكي حول الفلسفة والعلوم (كتبت في الأصل على أقل خطأ والتغلب على التحيز) ككتاب إلكتروني بعنوان Rationality: From AI to Zombies، بواسطة MIRI في عام 2015. يُشار إلى هذا الكتاب أيضًا باسم The Sequences. كما نشرت MIRI أيضًا Inadequate Equilibria، وهو كتاب يودكوفسكي الإلكتروني لعام 2017 حول عدم الكفاءة المجتمعية.

كتب يودكوفسكي أيضًا العديد من الأعمال الروائية. وتستخدم روايته الخيالية "هاري بوتر وأساليب العقلانية" عناصر حبكة من سلسلة هاري بوتر للكاتبة جيه كيه رولينغ لتوضيح مواضيع في العلوم والعقلانية.Miller, James (2012). Singularity Rising. BenBella Books, Inc. ISBN 978-1936661657.

 الحياة الشخصية 
يودكوفسكي هو شخص عصامي ولم يلتحق بالمدرسة الثانوية أو الكلية. وهو يهودي ونشأ كيهودي أرثوذكسي حديث، لكنه الآن علماني.

 المنشورات الأكاديمية 










 انظر أيضا 

 صندوق الذكاء الاصطناعي
 الذكاء الاصطناعي الودود
 رسالة مفتوحة حول الذكاء الاصطناعي

 مراجع 

 روابط خارجية 


 Rationality: From AI to Zombies (entire book online)
 @ESYudkowsky – Yudkowsky on X

تصنيف:أمريكيون من أصل يهودي
تصنيف:عواقبيون
تصنيف:فلاسفة نظرية المعرفة أمريكيون
تصنيف:مبردون
تصنيف:تحرريون أمريكيون
تصنيف:كتاب من بيركيلي (كاليفورنيا)
تصنيف:باحثو ذكاء اصطناعي أمريكيون
تصنيف:مؤسسون أمريكيون
تصنيف:مدونون ومدونات أمريكيون
تصنيف:مدونون أمريكيون
تصنيف:أشخاص أحياء
تصنيف:مواليد 1979
تصنيف:صفحات بترجمات غير مراجعة