الببغاء الاحتمالي

في تعلم الآلة، يُعد مصطلح الببغاء العشوائي (stochastic parrot) استعارة، قدمتها إميلي إم. بندر وزملاؤها في ورقة بحثية عام 2021، وتصور هذه الاستعارة النماذج اللغوية الكبيرة (LLMs) كأنظمة تحاكي النصوص إحصائياً دون فهم حقيقي. يحمل هذا المصطلح دلالة سلبية.

 الأصل والتعريف 
استُخدم المصطلح لأول مرة في ورقة بحثية بعنوان "حول مخاطر الببغاوات العشوائية: هل يمكن للنماذج اللغوية أن تكون كبيرة جداً؟ 🦜" (On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?) بقلم بندر، وتيمنيت جيبرو، وأنجيلينا ماكميلان-ميجور، ومارغريت ميتشل (التي استخدمت الاسم المستعار "شمارغريت شميتشل"). جادل المؤلفون بأن النماذج اللغوية الكبيرة (LLMs) تشكل مخاطر مثل التكاليف البيئية والمالية، والغموض الذي يؤدي إلى تحيزات خطيرة غير معروفة، وإمكانية الخداع، وأنها لا تستطيع فهم المفاهيم الكامنة وراء ما تتعلمه.

كلمة "Stochastic" (عشوائي/تصادفي)المشتقة من اليونانية القديمة "στοχαστικός" (، وتعني "قائم على التخمين")هي مصطلح من نظرية الاحتمال يعني "محدد عشوائياً". وتشير كلمة "parrot" (ببغاء) إلى قدرة الببغاوات على الترديد دون فهم المعنى.

في ورقتهم البحثية، تذكر بندر وزملاؤها أن النماذج اللغوية الكبيرة تقوم بـ "خياطة تسلسلات من الأشكال اللغوية... التي لوحظت في بيانات التدريب الضخمة الخاصة بها، وفقاً لمعلومات احتمالية حول كيفية دمجها، ولكن دون أي إشارة إلى المعنى". ولذلك، تم وصفها بأنها مجرد "ببغاوات عشوائية". ووفقاً لمتخصصي تعلم الآلة ليندهولم، ووالستروم، وليندستن، وشون، فإن هذا التشبيه يسلط الضوء على قيدين حيويين:

النماذج اللغوية الكبيرة محدودة بالبيانات التي تدربت عليها وتقوم ببساطة بتكرار محتويات مجموعات البيانات بشكل عشوائي (تصادفي).

نظراً لأنها تقوم فقط باختلاق مخرجات بناءً على بيانات التدريب، فإن النماذج اللغوية الكبيرة لا تدرك ما إذا كانت تقول شياً غير صحيح أو غير لائق.

أشار ليندهولم وزملاؤه إلى أنه مع وجود مجموعات بيانات رديئة الجودة وقيود أخرى، قد تنتج الآلة المتعلمة نتائج "خاطئة بشكل خطير".

 إقالة جيبرو من جوجل 
طُلب من جيبرو بواسطة جوجل سحب الورقة البحثية أو إزالة أسماء موظفي جوجل منها. ووفقاً لـ جيف دين، رئيس قسم الذكاء الاصطناعي في جوجل في ذلك الوقت، فإن الورقة "لم تستوفِ معاييرنا للنشر". ورداً على ذلك، أدرجت جيبرو شروطاً يجب تلبيتها، مشيرة إلى أنه بخلاف ذلك يمكنهم "العمل على تحديد تاريخ أخير" (لإنهاء عملها). كتب دين أن أحد هذه الشروط كان أن تكشف جوجل عن مراجعي الورقة وملاحظاتهم المحددة، وهو ما رفضته جوجل. وبعد فترة وجيزة، تلقت بريداً إلكترونياً يفيد بأن جوجل "قبلت استقالتها". أثار طردها احتجاجاً من قبل موظفي جوجل، الذين اعتقدوا أن القصد كان فرض رقابة على انتقادات جيبرو.

 الاستخدام 
استخدم المشككون في الذكاء الاصطناعي هذه العبارة للإشارة إلى أن النماذج اللغوية الكبيرة تفتقر إلى فهم معنى مخرجاتها.

استخدم سام ألتمان، الرئيس التنفيذي لشركة أوبن أيه آي، المصطلح بعد وقت قصير من إصدار شات جي بي تي، عندما غرد قائلاً: "أنا ببغاء عشوائي، وكذلك أنت". تم اختيار المصطلح ليكون كلمة العام المتعلقة بالذكاء الاصطناعي لعام 2023 من قبل جمعية اللهجات الأمريكية.

 الجدل 
أصبحت بعض النماذج اللغوية الكبيرة، مثل شات جي بي تي، قادرة على التفاعل مع المستخدمين في محادثات شبيهة بالبشر بشكل مقنع. وقد عمق تطوير هذه الأنظمة الجديدة النقاش حول مدى فهم النماذج اللغوية الكبيرة أو ما إذا كانت ببساطة تقوم بـ "الترديد كالببغاء".

 التجربة الذاتية 
في عقل الإنسان، تتوافق الكلمات واللغة مع أشياء قد اختبرها. بالنسبة للنماذج اللغوية الكبيرة، قد تتوافق الكلمات فقط مع كلمات أخرى وأنماط استخدام تم تغذيتها في بيانات التدريب الخاصة بها.

وبالتالي، يستنتج مؤيدو فكرة الببغاوات العشوائية أن التصريحات حول النماذج اللغوية الكبيرة تعود إلى "الميل البشري لإضفاء المعنى على النص"، ويدعون أن هذا يحدث على الرغم من أن النماذج اللغوية الكبيرة لا تفهم اللغة فعلياً.

 مراجع 

تصنيف:بوت دردشة
تصنيف:انتقادات لجوجل
تصنيف:التعلم العميق
تصنيف:نماذج لغوية كبيرة
تصنيف:فلسفة الذكاء الاصطناعي
تصنيف:ببغاوات