التعلم الجماعي

في الإحصائيات والتعلم الآلي، يستخدم التعلم الجماعي أو أساليب الفرقة خوارزميات تعلم متعددة للحصول على أداء تنبؤي أفضل مما يمكن الحصول عليه من أي خوارزميات التعلم التأسيسية وحدها. على عكس الفرقة الإحصائية في الميكانيكا الإحصائية، والتي عادة ما تكون لا نهائية، يتكون التعلم الآلي الجماعي من مجموعة محدودة محددة من النماذج البديلة، ولكنها تسمح عادةً بوجود بنية أكثر مرونة بين تلك البدائل.

 نظرة عامة 

تبحث خوارزميات التعلم المُراقب ضمن فضاء الفرضيات، عن فرضية ملائمة يمكنها تقديم تنبؤات جيدة بخصوص مشكلة معينة. وحتى إن ضمّ هذا الفضاء فرضيات شديدة الملاءمة لمشكلة معينة، فقد يصعب جدا إيجاد فرضية جيدة منها.
تدمج التقنيات الجماعية فرضيات متعددة لتشكيل فرضية واحدة يُفترض نظريا أنها الأفضل.

يُدرِّب التعلم الجماعي خوارزميتين أو أكثر من خوارزميات تعلم الآلة على مهمة محددة، كتبويب البيانات أو التنبؤ بالانحدار. يُشار عموما إلى الخوارزميات داخل النموذج الجماعي بـ "النماذج الأساسية"، أو "المتعلمات الأساسية"، أو "المتعلمات الضعيفة" في الأدبيات العلمية.
يمكن بناء هذه النماذج الأساسية باستخدام خوارزمية نمذجة واحدة، أو عدة خوارزميات مختلفة. يكمن المبدأ في تدريب مجموعة متنوعة من النماذج الضعيفة على مهمة النمذجة ذاتها، بحيث تكون لمخرجات كل متعلم ضعيف قدرة تنبؤية ضعيفة (أي انحياز عالٍ)، وأن تختلف نتائجها وأخطاؤها عن بعضها البعض (أي تباينها عالٍ).
جوهريًا، يُدرِّب نموذج التعلم الجماعي نموذجين على الأقل يتسمان بالانحياز العالي (ضعيفين) والتباين العالي (متنوعين) ليُدمجا في نموذج أفضل أداءً. تُدمج مجموعة النماذج الضعيفة (التي لا تُنتج نتائج تنبؤية مُرضية فرديًا) أو يُحسب متوسطها لإنتاج نموذج واحد، عالي الأداء، ودقيق، وذو تباين منخفض ليلائم المهمة المطلوبة.

يشير التعلم الجماعي عادةً إلى تقنيات التكييس ()، أو التعزيز، أو التكديس أي الدمج لإحداث تباين عالٍ بين النماذج الأساسية.
يخلق التكييس التنوع عبر توليد عينات عشوائية من بيانات التدريب، ثم تدريب النموذج الأساسي نفسه على كل عينة منها. ويُعرف هذا أيضا بالمجموعات الجماعية المتوازية المتجانسة.
يتبع التعزيز عملية تكرارية عبر تدريب كل نموذج أساسي بشكل تتابعي على الأخطاء المُثقَّلة للنموذج الذي سبقه، مما يُنتج نموذجا تجميعيا (إضافيا) لتقليل أخطاء النموذج النهائي ويعرف هذا أيضا بالتعلم الجماعي التتابعي.
يتكون التكديس أو الدمج من نماذج أساسية مختلفة، يدرب كل منها بشكل مستقل (أي متنوعة وذات تباين عال) لتُدمج في النموذج الجماعي مما يُنتج مجموعة جماعية متوازية غير متجانسة.
تشمل التطبيقات الشائعة للتعلم الجماعي الغابات العشوائية (وهي امتداد للتكييس)، ونماذج الأشجار المُعززة، ونماذج أشجار 
. وعادة ما تكون النماذج المستخدمة في التكديس مُصممة لمهام محددة جدا، مثل دمج تقنيات "العنقَدة" مع تقنيات أخرى مَعْلَمية و (أو) لا معلمية.

يتطلب تقييم تنبؤ نموذج جماعي عادة قدرا حوسبيًا أكبر من تقييم تنبؤ نموذج فردي. بمعنى ما، يمكن النظر إلى التعلم الجماعي كطريقة للتعويض عن خوارزميات التعلم الضعيفة عبر أداء الكثير من الحوسبة الإضافية.
من ناحية أخرى، يتمثل البديل في إجراء قدر أكبر بكثير من التعلم باستخدام نموذج واحد غير جماعي. قد تكون التقنية الجماعية أكفأ في تحسين الدقة الإجمالية مقابل الزيادة نفسها في الموارد الحوسبية أو التخزينية أو الاتصالية، وذلك عبر استخدام تلك الزيادة على طريقتين أو أكثر، مقارنة بما كان سيتحقق من تحسين عبر زيادة استخدام الموارد لطريقة واحدة.
تُستخدم الخوارزميات السريعة مثل أشجار القرار، بشكل شائع في الطرائق الجماعية (مثل الغابات العشوائية)، رغم أن الخوارزميات الأبطأ يمكنها الاستفادة من التقنيات الجماعية أيضا.

قياسا على ذلك، استخدمت التقنيات الجماعية أيضا في سيناريوهات التعلم الغير مراقب، على سبيل المثال في

أو في اكتشاف الشذوذ.

 نظرية التعلم الجماعي 

تجريبيا، تميل التقنيات الجماعية إلى إعطاء نتائج أفضل عندما يكون هناك تنوع كبير بين النماذج.Kuncheva, L. and Whitaker, C., Measures of diversity in classifier ensembles, Machine Learning, 51, pp. 181-207, 2003 Sollich, P. and Krogh, A., Learning with ensembles: How overfitting can be useful, Advances in Neural Information Processing Systems, volume 8, pp. 190–196, 1996.  لذلك، تسعى العديد من الطرائق الجماعية إلى تعزيز التنوع بين النماذج التي تدمجها.Brown, G. and Wyatt, J. and Harris, R. and Yao, X., Diversity creation methods: a survey and categorisation., Information Fusion, 6(1), pp.5-20, 2005.
ورغم أن الأمر قد يبدو غير بديهي، إلا أن الخوارزميات الأكثر عشوائية (مثل أشجار القرار العشوائية) يمكن أن تُستخدم لإنتاج نموذج جماعي أقوى من الخوارزميات المدروسة جدًا (مثل أشجار القرار خافضة الاعتلاج).Ho, T., Random Decision Forests, Proceedings of the Third International Conference on Document Analysis and Recognition, pp. 278–282, 1995.
بيد أنه قد ثَبُت أن استخدام مجموعة متنوعة من خوارزميات التعلم القوية هو أكثر فعالية من استخدام تقنيات تحاول إضعاف النماذج بغرض تعزيز التنوع. من الممكن زيادة التنوع في مرحلة تدريب النموذج باستخدام الارتباط لمهام الانحدار  أو باستخدام مقاييس المعلومات مثل "الاعتلاج المتقاطع" لمهام التصنيف.

تصغير|مركز|400px|عادة يتفوق المصنف الجماعي على النماذج الأساسية بتحقيقه معدل خطأ تصنيف أدنى.

من الناحية النظرية، يمكن تبرير أهمية مفهوم التنوع، إذ إن الحد الأدنى لمعدل الخطأ في أي نظام جماعي يمكن تحليله إلى مكونات مثل الدقة، والتنوع، وعامل آخر.Terufumi Morishita et al, Rethinking Fano’s Inequality in Ensemble Learning, International Conference on Machine Learning, 2022 

 الإطار الهندسي 

يمكن شرح التعلم الجماعي، بما في ذلك مهام الانحدار والتصنيف، باستخدام إطار هندسي.Wu, S., Li, J., & Ding, W. (2023) A geometric framework for multiclass ensemble classifiers, Machine Learning, 112(12), pp. 4929-4958.  ضمن هذا الإطار، يمكن النظر إلى مخرجات كل مصنف فردي أو متنبئ انحدار فردي لمجموعة البيانات بأكملها كنقطة في فضاء متعدد الأبعاد. إضافة إلى ذلك، تُمثَّل النتيجة المستهدفة أيضًا كنقطة في هذا الفضاء، يُشار إليها بـ "النقطة المثالية".

تستخدم المسافة الإقليدية كمقياس لقياس كل من أداء مصنف أو متنبئ انحدار فردي (بحساب المسافة بين نقطته والنقطة المثالية) ولقياس الاختلاف بين مصنفين أو متنبئي انحدار (المسافة بين نقطتيهما). هذا المنظور يحوِّل التعلم الجماعي إلى مسألة حتمية (ذات حلول محددة).

على سبيل المثال، ضمن هذا الإطار الهندسي، يمكن إثبات أن حساب متوسط مخرجات (درجات) جميع المصنفات أو المتنبئات الأساسية يمكن أن يؤدي إلى نتائج مساوية أو أفضل من متوسط (أداء) جميع النماذج الفردية. ويمكن أيضًا إثبات أنه في حال استخدام آلية التثقيل المثلى (بإعطاء أوزان مثالية لكل نموذج)، فإن نهج المتوسط المُثقَّل يمكنه التفوق على أداء أي من المصنفات أو المتنبئات الفردية المكوِّنة للنموذج الجماعي، أو أن يوازي أداء أفضلها على الأقل.

 المراجع 

تصنيف:تعلم الآلة
تصنيف:ذكاء اصطناعي