تحديد عدد المجموعات في مجموعة البيانات

إن تحديد عدد المجموعات في مجموعة بيانات، وهي الكمية التي غالبًا ما يتم تسميتها بـ ن أو k كما في الخوارزمية التصنيفية، هي مشكلة متكررة في التحليل العنقودي، وهي قضية منفصلة عن عملية حل مشكلة التجميع الفعلية.

بالنسبة لفئة معينة من خوارزميات التجميع (على وجه الخصوص خوارزميات التجميع بالمتوسط وبالمنتصف وخوارزمية التوقع والتعظيم)، هناك معلمة يشار إليها عادةً باسم k والتي تحدد عدد المجموعات المراد اكتشافها. لا تتطلب الخوارزميات الأخرى مثل خوارزمية DBSCAN وOPTICS تحديد هذه المعلمة؛ حيث يتجنب التجميع الهرمي المشكلة تمامًا.

غالبًا ما يكون الاختيار الصحيح لـ ن غامضًا، حيث تعتمد التفسيرات على شكل ومقياس توزيع النقاط في مجموعة البيانات ودقة التجميع المطلوبة للمستخدم. بالإضافة إلى ذلك، فإن زيادة ن بدون حد سيقلل دائمًا من مقدار الخطأ في التجميع الناتج، إلى الحالة القصوى المتمثلة في الخطأ صفر إذا تم اعتبار كل نقطة بيانات عبارة عن مجموعة خاصة بها (أي عندما يكون ن مساويًا لعدد نقاط البيانات). وبالتالي، بديهيًا، فإن الاختيار الأمثل لـ ن سيحقق التوازن بين الحد الأقصى لضغط البيانات باستخدام مجموعة واحدة، والحد الأقصى للدقة عن طريق تعيين كل نقطة بيانات إلى مجموعتها الخاصة. إذا لم تكن القيمة المناسبة لـ ن واضحة من المعرفة المسبقة لخصائص مجموعة البيانات، فيجب اختيارها بطريقة ما. هناك عدة فئات من الأساليب لاتخاذ هذا القرار.

 طريقة الكوع 

يسار|تصغير|300x300بك| التباين الموضح. يتم الإشارة إلى "الكوع" بواسطة الدائرة الحمراء. لذلك ينبغي أن يكون عدد المجموعات المختارة 4.
تنظر طريقة الكوع إلى نسبة التباين الموضح كدالة لعدد المجموعات: يجب اختيار عدد من المجموعات بحيث لا يؤدي إضافة مجموعة أخرى إلى إعطاء نمذجة أفضل للبيانات. بتعبير أدق، إذا رسمنا النسبة المئوية للتباين الذي تفسره المجموعات مقابل عدد المجموعات، فإن المجموعات الأولى ستضيف الكثير من المعلومات (تشرح الكثير من التباين)، ولكن في مرحلة ما سوف ينخفض المكسب الهامشي، مما يعطي زاوية في الرسم البياني. يتم اختيار عدد المجموعات في هذه المرحلة، ومن هنا يأتي "معيار الكوع". في معظم مجموعات البيانات، يكون هذا "المرفق" غامضًا، مما يجعل هذه الطريقة ذاتية وغير موثوقة. نظرًا لأن مقياس المحاور تعسفي، فإن مفهوم الزاوية غير محدد جيدًا، وحتى في البيانات العشوائية المنتظمة، ينتج المنحنى "مرفقًا"، مما يجعل الطريقة غير موثوقة إلى حد ما.  نسبة التباين الموضحة هي نسبة التباين بين المجموعات إلى التباين الإجمالي، والمعروفة أيضًا باسم اختبار إف. يؤدي اختلاف طفيف في هذه الطريقة إلى رسم انحناء التباين داخل المجموعة.

يمكن إرجاع هذه الطريقة إلى تكهنات روبرت إل ثورندايك في عام 1953.  رغم أن فكرة طريقة الكوع تبدو بسيطة ومباشرة، إلا أن الطرق الأخرى (كما هو مفصل أدناه) تعطي نتائج أفضل.

 التجميع باستخدام طريقة متوسط X 
في الإحصاء وتعدين البيانات، يعتبر التجميع باستخدام متوسط X أحد أشكال التجميع باستخدام المتوسط الذي يعمل على تحسين تعيينات المجموعة من خلال محاولة التقسيم بشكل متكرر، والاحتفاظ بأفضل التقسيمات الناتجة، حتى يتم الوصول إلى معيار مثل معيار معلومات أكايكي (AIC) أو معيار المعلومات البايزي (BIC). 

 نهج معيار المعلومات 
هناك مجموعة أخرى من الأساليب لتحديد عدد المجموعات وهي معايير المعلومات، مثل معيار معلومات أكايكي (AIC)، أو معيار المعلومات البايزي (BIC)، أو معيار معلومات الانحراف (DIC) — إذا كان من الممكن إنشاء دالة احتمالية لنموذج التجميع. على سبيل المثال: نموذج المتوسط هو "تقريبًا" نموذج خليط غاوسي ويمكن للمرء أن يبني احتمالية لنموذج الخليط الغوسي وبالتالي تحديد قيم معيار المعلومات أيضًا.  see especially Figure 14 and appendix.

 المنهج المعلوماتي النظري 
تم تطبيق نظرية تشوه المعدل على اختيار K والتي تسمى طريقة "القفزة"، والتي تحدد عدد المجموعات التي تزيد من الكفاءة مع تقليل الخطأ وفقًا لمعايير نظرية المعلومات.  تتمثل استراتيجية الخوارزمية في إنشاء منحنى تشويه لبيانات الإدخال عن طريق تشغيل خوارزمية التجميع القياسية مثل الخوارزمية التصنيفية لجميع قيم k بين 1 وn، وحساب التشويه (الموصوف أدناه) للتجميع الناتج. ويتم بعد ذلك تحويل منحنى التشوه بقوة سلبية يتم اختيارها بناءً على أبعاد البيانات. ثم تشير القفزات في القيم الناتجة إلى خيارات معقولة لـ k، حيث تمثل القفزة الأكبر الخيار الأفضل.

يتم تعريف تشوه تجميع بعض بيانات الإدخال رسميًا على النحو التالي: دع مجموعة البيانات يتم نمذجتها كمتغير عشوائي X ذو p بعد، يتكون من توزيع خليط من مكونات G مع تغاير مشترك،  . إذا كانت  مجموعة من مراكز المجموعة K، مع  أقرب مركز لعينة معينة من X، فإن الحد الأدنى للتشوه المتوسط لكل بعد عند ملاءمة مراكز K للبيانات هو:



وهذا أيضًا هو متوسط مسافة ماهالانوبيس لكل بُعد بين X وأقرب مركز مجموعة  . نظرًا لأن التقليل إلى أدنى حد على جميع مجموعات مراكز المجموعة الممكنة معقد للغاية، يتم حساب التشوه عمليًا عن طريق إنشاء مجموعة من مراكز المجموعة باستخدام خوارزمية تجميع قياسية وحساب التشوه باستخدام النتيجة.

اختيار قوة التحويل  يتم تحفيزه من خلال التحليل المقارب باستخدام نتائج من نظرية تشوه المعدل. دع البيانات X لها توزيع غاوسي واحد تعسفي ذو p بعج، ودع البيانات الثابتة ، لبعض  أكبر من الصفر. ثم يكون تشوه مجموعة من K مجموعة في الحد عندما تتجه p إلى ما لا نهاية هو . يمكن أن نرى أنه بشكل مقارب، تشويه التجميع إلى القوة  يتناسب مع ، والذي بحكم التعريف يساوي تقريبًا عدد المجموعات K. بعبارة أخرى، بالنسبة لتوزيع غاوسي واحد، فإن زيادة K بما يتجاوز العدد الحقيقي للمجموعات، والذي يجب أن يكون واحدًا، يسبب نموًا خطيًا في التشويه. يعد هذا السلوك مهمًا في الحالة العامة لمزيج من مكونات التوزيع المتعددة.

ليكن X مزيجًا من توزيعات غاوسية ذات p بعد ذات تباين مشترك. ثم بالنسبة لأي قيمة ثابتة K أقل من G، فإن تشوه التجميع عندما يتجه p إلى ما لا نهاية يكون لانهائيًا. بديهيًا، هذا يعني أن التجميع الذي يحتوي على عدد أقل من العدد الصحيح من التجمعات غير قادر على وصف البيانات عالية الأبعاد بشكل مقارب، مما يتسبب في زيادة التشوه دون حدود. إذا، كما هو موضح أعلاه، تم جعل K دالة متزايدة لـ p ، أي، ، يتم تحقيق نفس النتيجة المذكورة أعلاه، مع قيمة التشويه في الحد مع انتقال p إلى ما لا نهاية مساوية لـ . وعليه، هناك نفس العلاقة التناسبية بين التشوه المحول وعدد المجموعات، K.

من خلال جمع النتائج أعلاه معًا، يمكننا أن نرى أنه بالنسبة للقيم المرتفعة بدرجة كافية لـ p، فإن التشوه المحول  تكون تقريبًا صفرًا بالنسبة لـ K < G، ثم تقفز فجأة وتبدأ في الزيادة خطيًا بالنسبة لـ K ≥ G. تستخدم خوارزمية القفز لاختيار K هذه السلوكيات لتحديد القيمة الأكثر احتمالية للعدد الحقيقي للمجموعات.

وعلى الرغم من أن الدعم الرياضي للطريقة يتم تقديمه من حيث النتائج المقاربة، فقد تم التحقق تجريبياً من أن الخوارزمية تعمل بشكل جيد في مجموعة متنوعة من مجموعات البيانات ذات الأبعاد المعقولة. بالإضافة إلى طريقة القفزة الموضعية الموضحة أعلاه، توجد خوارزمية ثانية لاختيار K باستخدام نفس قيم التشوه المحولة والمعروفة باسم طريقة الخط المكسور. تحدد طريقة الخط المكسور نقطة القفزة في رسم التشويه المحول عن طريق إجراء ملاءمة خطية بسيطة لخطأ المربعات الصغرى لقطعتي خط، والتي من الناحية النظرية ستقع على طول المحور السيني لـ K < G، وعلى طول الطور المتزايد خطيًا لمخطط التشويه المحول لـ K ≥ G. تعتبر طريقة الخط المكسور أكثر قوة من طريقة القفزة في أن قرارها عالمي وليس محليًا، لكنها تعتمد أيضًا على افتراض مكونات الخليط الغاوسي، في حين أن طريقة القفزة غير معيارية تمامًا وقد ثبت أنها قابلة للتطبيق لتوزيعات الخليط العامة.

 طريقة الصور الظلية 

ويشكل متوسط الصورة الظلية للبيانات معيارًا مفيدًا آخر لتقييم العدد الطبيعي للمجموعات. تُعد الصورة الظلية لمثيل البيانات مقياسًا لمدى قرب مطابقتها للبيانات داخل مجموعتها ومدى ضعف مطابقتها لبيانات المجموعة المجاورة، أي المجموعة التي تكون المسافة المتوسطة بينها وبين البيانات هي الأدنى.  تشير الصورة الظلية القريبة من 1 إلى أن البيانات موجودة في مجموعة مناسبة، في حين أن الصورة الظلية القريبة من 1- تشير إلى أن البيانات موجودة في المجموعة الخاطئة. تعتبر تقنيات التحسين مثل الخوارزميات الوراثية مفيدة في تحديد عدد المجموعات التي تؤدي إلى أكبر صورة ظلية.  من الممكن أيضًا إعادة قياس البيانات بطريقة تجعل من المرجح أن يتم تعظيم الصورة الظلية عند العدد الصحيح من المجموعات. 

 التحقق المتقاطع 
يمكنك أيضًا استخدام عملية التحقق المتقاطع لتحليل عدد المجموعات. في هذه العملية، يتم تقسيم البيانات إلى v جزء. يتم بعد ذلك تخصيص كل جزء من الأجزاء بدوره كمجموعة اختبار، ويتم حساب نموذج التجميع على مجموعات التدريب v − 1 الأخرى، ويتم حساب قيمة دالة الهدف (على سبيل المثال، مجموع المسافات التربيعية إلى مراكز الثقل لمتوسطات k) المحسوبة لمجموعة الاختبار. يتم حساب قيم v هذه ومتوسطها لكل عدد بديل من المجموعات، ويتم اختيار رقم المجموعة بحيث تؤدي الزيادة الإضافية في عدد المجموعات إلى انخفاض صغير فقط في دالة الهدف.

 العثور على عدد المجموعات في قواعد البيانات النصية 
عند تجميع قواعد بيانات النصوص باستخدام معامل الغلاف في مجموعة مستندات محددة بواسطة مصفوفة المستندات حسب المصطلح D (بحجم m×n، حيث m هو عدد المستندات وn هو عدد المصطلحات)، يمكن تقدير عدد المجموعات تقريبًا بالصيغة  حيث t هو عدد العناصر غير الصفرية في D. لاحظ أنه في D يجب أن يحتوي كل صف وكل عمود على عنصر غير صفري واحد على الأقل.  especially see Section 2.7.

 تحليل مصفوفة النواة 
تعرف مصفوفة النواة بقرب معلومات الإدخال. على سبيل المثال، في دالة الأساس الشعاعي الغوسي، فإنها تحدد حاصل الضرب النقطي للمدخلات في مساحة ذات أبعاد أعلى، تسمى مساحة الميزة. يُعتقد أن البيانات تصبح أكثر قابلية للفصل خطيًا في مساحة الميزة، وبالتالي، يمكن تطبيق الخوارزميات الخطية على البيانات بنجاح أكبر.

وبالتالي، يمكن تحليل مصفوفة النواة من أجل العثور على العدد الأمثل للمجموعات.  وتستمر الطريقة من خلال تحلل القيمة الذاتية لمصفوفة النواة. وتقوم بعد ذلك بتحليل القيم الذاتية والمتجهات الذاتية للحصول على مقياس لمدى ضغط توزيع المدخلات. وأخيرًا، سترسم مخطط، حيث يشير مرفق هذا المخطط إلى العدد الأمثل للمجموعات في مجموعة البيانات. على عكس الطرق السابقة، لا تحتاج هذه التقنية إلى إجراء أي تجميع مسبق. وتقوم بالعثور مباشرة على عدد المجموعات من البيانات.

 إحصائيات الفجوة 
اقترح روبرت تيبشيراني وجونتر والثر وتريفور هاستي تقدير عدد المجموعات في مجموعة بيانات من خلال إحصائية الفجوة.  تقوم إحصاءات الفجوة، استنادًا إلى أسس نظرية، بقياس مدى المسافة بين مجموع المربعات المجمعة داخل المجموعة حول مراكز المجموعة ومجموع المربعات المتوقعة في ظل توزيع البيانات المرجعي الصفري. يتم تقدير القيمة المتوقعة من خلال محاكاة بيانات مرجعية فارغة لخصائص البيانات الأصلية، ولكنها تفتقر إلى أي مجموعات فيها. يتم بعد ذلك تقدير العدد الأمثل للمجموعات كقيمة k التي يكون فيها مجموع المربعات المرصودة أقل من المرجع الصفري.

على عكس العديد من الطرق السابقة، يمكن لإحصائيات الفجوة أن تخبرنا أنه لا توجد قيمة لـ k والتي يوجد لها تجميع جيد، ولكن تعتمد الموثوقية على مدى معقولية التوزيع الصفري المفترض (على سبيل المثال، التوزيع الموحد) على البيانات المقدمة. يميل هذا إلى العمل بشكل جيد في الإعدادات الاصطناعية، لكنه لا يستطيع التعامل مع مجموعات البيانات الصعبة، مثل السمات غير المعلوماتية، بشكل جيد لأنه يفترض أن جميع السمات مهمة بنفس القدر. 

يتم تنفيذ إحصائيات الفجوة كدالة clusGap في حزمة المجموعة  في R.

 مراجع 

 روابط خارجية 

 مخطط العنقود – مخطط تشخيص العنقود – للتشخيص البصري لاختيار عدد ( k ) من العناقيد (كود R )
 ثماني طرق لتحديد قيمة k المثلى لتحليل k -means – إجابة على stackoverflow تحتوي على كود R لعدة طرق لحساب القيمة المثلى لـ k لتحليل مجموعة k -means

تصنيف:مقالات تحوي أمثلة مكتوبة بشبه رماز
تصنيف:تحليل عنقودي
تصنيف:صفحات بترجمات غير مراجعة