PL9fwy3NUQKwYNuAEg27anya7EYamnohGd/GPEcN85s2Oo_postprocess.srt

1
00:00:01,140 --> 00:00:03,520
باسم الله و الحمد لله و الصلاة والسلام علي رسول

2
00:00:03,520 --> 00:00:08,140
الله هذا التسجيل الأخير ان شاء الله في chapter ال

3
00:00:08,140 --> 00:00:12,840
clustering عفوا قبل الأخير بيضللنا في تسجيل ان شاء

4
00:00:12,840 --> 00:00:16,540
الله هيكون عملي باعتماد ال python الصحيح فشوف في

5
00:00:16,540 --> 00:00:24,320
شغل ال python بعض الإبداعات منكم و بعضكم .. حلو

6
00:00:24,320 --> 00:00:25,480
حلو حلو طبعك ماستور

7
00:00:28,370 --> 00:00:31,030
البداية الشبتر ان ال cluster هي عبارة عن عملية

8
00:00:31,030 --> 00:00:34,230
تقسيم ال instances بناء على تشابه او similarities

9
00:00:34,230 --> 00:00:38,570
ما بينهم لمجموعات في عند partition ال cluster و ال

10
00:00:38,570 --> 00:00:41,070
partition ال cluster انه مايكونش في عنده overlap

11
00:00:41,070 --> 00:00:44,550
clusters و في عنده hierarchical cluster انه انا

12
00:00:44,550 --> 00:00:48,870
فعليا مقدر اشوف كل cluster بينتمي لأي cluster و

13
00:00:48,870 --> 00:00:51,330
طبعا هان بتحكم في عدد ال clusters اللي انا بدي

14
00:00:51,330 --> 00:00:55,310
اياها كل clusterبساطة، اليوم ان شاء الله نتكلم عن

15
00:00:55,310 --> 00:00:59,990
جزئية evaluation طبعاً لما نتكلم عن evaluation

16
00:00:59,990 --> 00:01:07,030
كتقييم ال ..

17
00:01:07,030 --> 00:01:11,390
نتكلم عن التقييم، هل التقييم وارد في ال

18
00:01:11,390 --> 00:01:16,990
clustering؟ التقييم كتقييم في ال clustering إذا ال

19
00:01:16,990 --> 00:01:21,650
data 6 بقى unlabeled ولا عمره بيكون صحلأن انا

20
00:01:21,650 --> 00:01:27,410
فعليا لازم اتدخل ل human عفوا المقصود ان التقييم

21
00:01:27,410 --> 00:01:35,220
مستحيل يكون صحيح او حاليا بدي اقول انه يكاد يكونمن

22
00:01:35,220 --> 00:01:40,060
المستحيل تطبيق التقييم إلا من خلال expert قادر

23
00:01:40,060 --> 00:01:45,460
فعليا على دراسة كل instance و فعليا أنها تنتمي ل

24
00:01:45,460 --> 00:01:49,620
cluster أو متشابه مع العناصر اللي موجودة عندها لكن

25
00:01:49,620 --> 00:01:54,920
إحنا هلأ لما نتكلم عن ال clusteringأنا لدي

26
00:01:54,920 --> 00:01:58,140
algorithm و data set و طبقت على ال data set هل في

27
00:01:58,140 --> 00:02:01,520
مجال أعمل evaluation لل algorithm أو للناتج اللي

28
00:02:01,520 --> 00:02:06,160
موجود؟ أه في مجال لكن في حالة واحدة فقط إذا انا

29
00:02:06,160 --> 00:02:10,720
اعتمدت ان في عندي labelled data set طب احنا قلنا

30
00:02:10,720 --> 00:02:15,020
من البداية ان

31
00:02:15,020 --> 00:02:17,800
ال cluster بتشتغل على ال test set يعني ال label مش

32
00:02:17,800 --> 00:02:22,580
موجود صحيح الفكرة وين ان انا بدي افصل ال data set

33
00:02:22,580 --> 00:02:31,250
تبعتيمجموعة الـ attributes لحال و ال target label

34
00:02:31,250 --> 00:02:40,670
لحالي وبعد هيك اعمل لهادي clustering بدي اعمل هنا

35
00:02:40,670 --> 00:02:44,590
clustering لل data set اللي موجودة عندي هنا وبناء

36
00:02:44,590 --> 00:02:48,270
على ال clusters انا عارف ان كل instance بتتبع اي

37
00:02:48,270 --> 00:02:54,960
label فبصير انا بقى اقارن ال labelاللي عندي مع ال

38
00:02:54,960 --> 00:02:57,100
clusters اللي هو اللي عندي هان وبناءً عن هيكت بحصل

39
00:02:57,100 --> 00:03:02,660
على تقييم وبالتالي لما احنا بنتكلم على ال ال ال ال

40
00:03:02,660 --> 00:03:03,400
ال ال ال ال ال ال ال ال ال ال ال ال ال ال ال ال ال

41
00:03:03,400 --> 00:03:04,060
ال ال ال ال ال ال ال ال ال ال ال ال ال ال ال ال ال

42
00:03:04,060 --> 00:03:05,500
ال ال ال ال ال ال ال ال ال ال ال ال ال ال ال ال ال

43
00:03:05,500 --> 00:03:06,460
ال ال ال ال ال ال ال ال ال ال ال ال ال ال ال ال ال

44
00:03:06,460 --> 00:03:07,520
ال ال ال ال ال ال ال ال ال ال ال ال ال ال ال ال ال

45
00:03:07,520 --> 00:03:07,620
ال ال ال ال

46
00:03:22,210 --> 00:03:28,550
لأن النتائج اللي موجودة عندي ماحدش بيقول عنها صح

47
00:03:28,550 --> 00:03:31,570
أو خطأ يعني انا استخدمت two different algorithms

48
00:03:31,570 --> 00:03:36,930
وقلتلهم والله جسمولي ال data set كpartitional ل

49
00:03:36,930 --> 00:03:46,770
three clusters طلعولي three clustersمش ضروري مش

50
00:03:46,770 --> 00:03:50,350
ضروري العناصر اللي في ال cluster الأول هي نفسها

51
00:03:50,350 --> 00:03:51,970
اللي في العناصر ال cluster التاني ناتج ال

52
00:03:51,970 --> 00:04:00,600
algorithm وبالتالي مقارنة ال output شبه مستحيلةإذا

53
00:04:00,600 --> 00:04:02,640
كنت أقول أن الـ Algorithm أعطاني نفس النتيجة أو

54
00:04:02,640 --> 00:04:05,880
نفس الـ الـ فايدة من التاني، فلا تتميز التاني عنه

55
00:04:05,880 --> 00:04:10,360
تمام، إلا فعليًا لو الـ Data كانت فعليًا الـ Data

56
00:04:10,360 --> 00:04:13,960
Discriminant الـ Instances ميالة لـ Different Tree

57
00:04:13,960 --> 00:04:18,180
Classes وكل واحدة، كل Instance تنتمي ل Class، يعني

58
00:04:18,180 --> 00:04:22,100
في عندي Discriminant Attribute وجادرياش توصفليهم

59
00:04:22,100 --> 00:04:25,100
أو توديليهم على الـ Certain Class أو الـ Target

60
00:04:25,100 --> 00:04:30,020
Cluster عفواً بشكل كويس، لكن لما أنا فعليًابطبق

61
00:04:30,020 --> 00:04:34,000
ممكن باعتمادي على ال training set ال training set

62
00:04:34,000 --> 00:04:39,000
إذا أنا طبقت ال cluster algorithm على ال training

63
00:04:39,000 --> 00:04:43,020
set تلاحظين معايا يا جماعة الخير؟ لما أنا بدي أعمل

64
00:04:43,020 --> 00:04:45,720
evaluation .. الآن فعليا .. فعليا ليه clustering

65
00:04:45,720 --> 00:04:49,580
unsupervised learning؟ يعني أنا بتجاهل ال label أو

66
00:04:49,580 --> 00:04:53,560
ال label مش موجود في ال data set هذه واحدة لما أنا

67
00:04:53,560 --> 00:04:59,370
بدي أعمله evaluation لل algorithm تمام؟بقدر اعمل

68
00:04:59,370 --> 00:05:03,170
evaluation في حالة واحدة فقط اذا انا قدرت اطبقه

69
00:05:03,170 --> 00:05:06,410
على training set شو training set يعني في عندي

70
00:05:06,410 --> 00:05:09,930
label طب هل الكلام هذا موجود؟ اه موجود بصير كل

71
00:05:09,930 --> 00:05:15,670
label كل class بمثابة cluster كل class بمثابة

72
00:05:15,670 --> 00:05:21,910
cluster و بروح باخف ال class و بجسم ال data set

73
00:05:21,910 --> 00:05:24,210
بدون ال cluster زي ما واجهتكوا في ال slide السابقة

74
00:05:24,210 --> 00:05:30,020
زي ما رسلناها يعني انا الآنهي ال data set تبعي

75
00:05:30,020 --> 00:05:37,920
كمان مرة فصلت ال cluster

76
00:05:37,920 --> 00:05:40,940
أو فصلت ال data set ال attribute وال label أو ال

77
00:05:40,940 --> 00:05:46,720
class جسم

78
00:05:46,720 --> 00:05:49,200
ال data set صار عندى الآن هي ال label وهي ال

79
00:05:49,200 --> 00:05:55,150
attribute الآن باجب اطبق ال clustering handطبق الـ

80
00:05:55,150 --> 00:05:57,170
Clustering على الـ Attributes اللي موجودة عندها

81
00:05:57,170 --> 00:06:02,830
على الـ Instances اللي موجودة تمام، الآن فعلياً كل

82
00:06:02,830 --> 00:06:07,870
Instance بتبقى Class وفي عندى مجموعة Instances في

83
00:06:07,870 --> 00:06:10,470
نفس ال class بين جسين أنه فعلياً ال data already

84
00:06:10,470 --> 00:06:15,590
منجسمة فإذا أنا قدرت أربط ما بين ال true cluster

85
00:06:15,590 --> 00:06:21,890
اللي هي ال label و ال predicted cluster اللي موجود

86
00:06:21,890 --> 00:06:26,610
عندهابقدر أنشئ شغل اسمها الـ Contingency Matrix

87
00:06:26,610 --> 00:06:29,930
ومن الـ Contingency Matrix ممكن أن اتكلم على شغل

88
00:06:29,930 --> 00:06:36,160
اول metric هسميها الـ Durityتعالى نتكلم عن الـ

89
00:06:36,160 --> 00:06:38,920
Contingency Matrix ايش الـ Contingency Matrix

90
00:06:38,920 --> 00:06:43,720
بتقول ان لدي ثلاثة .. طبعا لاحظوا يا جماعة الخير

91
00:06:43,720 --> 00:06:47,960
في موقزي انا بدي اختبر Clustering Algorithm في

92
00:06:47,960 --> 00:06:51,980
عندي label data set ال label data set فيها عدد

93
00:06:51,980 --> 00:06:55,800
classes معين N لما بدي استخدم ال Clustering

94
00:06:55,800 --> 00:06:59,020
Algorithm بدي اقول جسمليها لـ N من ال cluster لأن

95
00:06:59,020 --> 00:07:02,800
كل cluster بدي ميثل Classفأنا بفترض أنه عندي data

96
00:07:02,800 --> 00:07:07,680
set مكوّنة من three classes label data set مكوّنة

97
00:07:07,680 --> 00:07:13,080
من three classes بتسميهم T1 وT2 وT3 من true true

98
00:07:13,080 --> 00:07:18,520
cluster أو true segment أو true partition سميها زي

99
00:07:18,520 --> 00:07:24,380
ما بدك true label سميها زي ما بدكواوC1 وC2 وC3 هما

100
00:07:24,380 --> 00:07:28,060
الـ clusters اللي انشغلياهم من ال algorithm اللي

101
00:07:28,060 --> 00:07:31,580
موجود عندها ايش راح اجلب؟ ايش بفهم ال contingency

102
00:07:31,580 --> 00:07:41,000
matrix؟ انه في C1 C1 خمسة وعشرين element بينتمي ل

103
00:07:41,000 --> 00:07:45,020
T2 وخمسة

104
00:07:45,020 --> 00:07:50,410
element بينتمي ل T3 وخمس عناصر بينتمي ل T3يعني

105
00:07:50,410 --> 00:07:56,730
عندي 25 عنصر من T ناتج

106
00:07:56,730 --> 00:08:06,470
ال clustering C1 بيحتوي على 30 عنصر 25 منهم حقيقة

107
00:08:06,470 --> 00:08:12,550
من ال class التاني و 5 من ال class التالت و لا

108
00:08:12,550 --> 00:08:18,880
واحد من ال class الأولT2 أو cluster C2 بيحتوي على

109
00:08:18,880 --> 00:08:25,100
35 عنصر 15 من ال class الأول و 20 من ال class

110
00:08:25,100 --> 00:08:32,220
التالت cluster تلاتة بيحتوي على عشر عناصر فقط كلهم

111
00:08:32,220 --> 00:08:40,100
كلهم بيتبعوا T1 الآن هذا الكلام إذا انا افهمته

112
00:08:41,270 --> 00:08:45,670
معناته أنا مش ضروري الـ Clustering algorithm تبعي

113
00:08:45,670 --> 00:08:49,250
يكون صح مائة في المائة ممتاز طب متى بيكون صح مائة

114
00:08:49,250 --> 00:08:57,710
في المائة إذا والله أنا إجيت قولت هيك مثلًا

115
00:08:57,710 --> 00:09:00,830
حصرت على صورة واحدة من الصور التالية فانا هتكلم عن

116
00:09:00,830 --> 00:09:08,150
ال matrix لو أنا إجيت قولت هنا والله عندي

117
00:09:08,150 --> 00:09:08,990
هنا تلاتين

118
00:09:12,600 --> 00:09:24,500
وعندي هنا 20 وعندي هنا 50 وانا

119
00:09:24,500 --> 00:09:28,740
C1 C2

120
00:09:28,740 --> 00:09:39,400
وC3 والباقي أصفر طبعا هنا T1 T2 T3 وانا اتعمدت احط

121
00:09:39,400 --> 00:09:45,560
القيم نفس الكيفيةلحظوا معايا إنه فعليا كل cluster

122
00:09:45,560 --> 00:09:50,720
completely pure صافي مافيش فيه أي .. يعني كل

123
00:09:50,720 --> 00:09:53,800
cluster مثل واحدة من ال classes اللي موجودة عندى

124
00:09:53,800 --> 00:09:57,980
كل cluster مثل واحدة فقط من ال classes اللي موجودة

125
00:09:57,980 --> 00:10:01,920
عندى وهنا بتكلم إنه فعليا كل cluster نقي تماما

126
00:10:01,920 --> 00:10:06,740
بيحتوي عناصر من نفس ال class فقط عشان هي كان

127
00:10:06,740 --> 00:10:10,900
بنتكلم احنا على ال purity نقاوة أو نقاء درجة

128
00:10:10,900 --> 00:10:17,700
النقاءطيب، بما أن الحالة دي هي الـ optimal case أو

129
00:10:17,700 --> 00:10:21,640
الـ ideal case واللي أنا فعلا مش هحصل عليها، أنا

130
00:10:21,640 --> 00:10:24,400
هحصل على شغل مشابه زي هيك من خلال الـ contingency

131
00:10:24,400 --> 00:10:28,020
matrix كيف أحسب الـ purity؟ الـ purity هي تساوي

132
00:10:28,020 --> 00:10:35,180
عبارة عن مجموع ال maximum في كل صفر ال maximum عدد

133
00:10:35,180 --> 00:10:40,410
maximum للـ Ti تنتمي لCعلى الان ال maximum خمسة و

134
00:10:40,410 --> 00:10:44,750
عشرين ال maximum عشرين ال maximum عشرة يعني خمسة و

135
00:10:44,750 --> 00:10:49,430
عشرين زائد عشرين زائد عشرةعندما اتكلم عن خمسة و

136
00:10:49,430 --> 00:10:53,550
خمسين على كل الان خمسة و خمسين و في عندى اضيفهم

137
00:10:53,550 --> 00:10:58,670
هنا على خمسة و سبعين بتكلم على ال purity الان ان

138
00:10:58,670 --> 00:11:04,870
عندي هان تلاتين خمسة و تلاتين هي خمسة و ستين خمسة

139
00:11:04,870 --> 00:11:10,750
و سبعين معناته عندى انا هان خمسةاللي عندي هنا

140
00:11:10,750 --> 00:11:13,830
نتكلم .. احنا قولنا ال maximum خمسة و أربعين ..

141
00:11:13,830 --> 00:11:21,510
خمسة و خمسين .. خمسة و خمسين على خمسة و سبعين هذه

142
00:11:21,510 --> 00:11:23,970
ال purity تبع ال cluster أو تبع ال contingency

143
00:11:23,970 --> 00:11:29,990
matrix اللي موجودة عندي

144
00:11:29,990 --> 00:11:34,250
طيب .. تعالى نشوف المثال البسيط اللي عندي هاد

145
00:11:41,930 --> 00:11:45,370
أنا مش بقول، بقول إن أنا الـPurity بقدر أحسبها إذا

146
00:11:45,370 --> 00:11:50,690
كانت بتعامل مع test set بتحتوي على target class

147
00:11:50,690 --> 00:11:56,970
تخيل، عشان يدمج التعريف هذا الـdefinition هذا عشان

148
00:11:56,970 --> 00:12:00,610
يدمج ما بين الشغلتين بين إنه فعليا الـclustering

149
00:12:00,610 --> 00:12:05,230
تطبق على test set وأنا مقدرش أروح أقدر أعمل

150
00:12:05,230 --> 00:12:09,980
evaluation إلا غير لو كان ال label موجودفجالي ال

151
00:12:09,980 --> 00:12:12,960
test set بتحتوي على target التي بنجوزني training

152
00:12:12,960 --> 00:12:20,520
set و لا شو رأيكوا training

153
00:12:20,520 --> 00:12:25,220
set بيبقى الان بقول افترض ان انا في عندى test set

154
00:12:25,220 --> 00:12:29,900
مكونة من 24 element بتنتمي ل three different

155
00:12:29,900 --> 00:12:39,530
classes ال O او ال circleTriangle وSquare ومجسم

156
00:12:39,530 --> 00:12:45,490
العناصر بالتساوي 8888 بعد ما طبقت ال clustering

157
00:12:45,490 --> 00:12:50,510
تبعت ال cluster C1 فيها العناصر التالية ال cluster

158
00:12:50,510 --> 00:12:55,650
C2 و ال cluster C3 طبعا هنا في مصطلح جديد اضيفه

159
00:12:55,650 --> 00:13:01,630
نقاء كل cluster نقاء كل cluster بشكل مستقل اذا

160
00:13:01,630 --> 00:13:07,380
سألتك ال cluster الأول بمثل ايش؟معظمكم حيقولوا و

161
00:13:07,380 --> 00:13:12,880
الله هذا بيمثل المثلثات ال triangles و اللي تحت

162
00:13:12,880 --> 00:13:16,480
التاني هيمثل المربعات الحمراء و هذه هيمثل الدوائر

163
00:13:16,480 --> 00:13:19,340
الخضراء، مظبوط؟ فبالتالي أنا بقدر أحسب ال purity

164
00:13:19,340 --> 00:13:22,300
تبع كل cluster ال cluster الأول بيحتوي على 9 عناصر

165
00:13:22,300 --> 00:13:26,420
و ال maximum كانت لمين؟ للمثلثات، معناته 6 على 9

166
00:13:26,420 --> 00:13:29,880
لكن مش هي ال target تبعتي، أنا مابهمنيش ال purity

167
00:13:29,880 --> 00:13:34,820
تبع كل class أنا اللي بيهمني ال purity لكل output

168
00:13:34,820 --> 00:13:40,340
مرة واحدةللـ algorithm ال element 24 element هروح

169
00:13:40,340 --> 00:13:44,920
أدور هانالـ maximum هنا 6 الـ maximum هنا 5 الـ

170
00:13:44,920 --> 00:13:49,980
maximum هنا 5 6 زائد 5 زايد 5 على 24 16 على 24

171
00:13:49,980 --> 00:13:53,660
درجة النقاء اللي بيعطينا إياها ال cluster هذا بشكل

172
00:13:53,660 --> 00:14:00,460
عام 76.67% و هيك بتتم حسبة ال purity تبعتنا هنا

173
00:14:00,460 --> 00:14:04,220
طبعا كمان مرة برجع بقول أنا بقدر أتكلم بشكل مبدئي

174
00:14:04,220 --> 00:14:09,910
ال majority تبع كل cluster كذاغالبية تبعت كل

175
00:14:09,910 --> 00:14:13,370
cluster كده لكن ال purity تبعتها هتكون هذه مش

176
00:14:13,370 --> 00:14:17,330
واضحة فعليا لو قلع عندي cluster مادة نسوشي و

177
00:14:17,330 --> 00:14:22,150
بينتمي مثلا فقط ل two clusters ل two classes يعني

178
00:14:22,150 --> 00:14:25,770
من نوعين مختلفين هقول ال purity لمين فبتصير ال

179
00:14:25,770 --> 00:14:29,990
purity هذه غير واضحة أو بتصير مفهومها غير دقيق أنا

180
00:14:29,990 --> 00:14:34,770
اللي بهمني ال purity تبعت ال cluster بشكل عامطبعاً

181
00:14:34,770 --> 00:14:38,790
أنا فيه متريكز تانية ممكن تستخدم نفس المبدأ الـ

182
00:14:38,790 --> 00:14:41,230
Ground Truth إن أنا فعلياً لازم يكون فيه training

183
00:14:41,230 --> 00:14:44,710
data set وهذا مفهوم Ground Truth يعني الحقيقة

184
00:14:44,710 --> 00:14:47,690
الأمر الواقع، إيش الأمر الواقع؟ الأمر الواقع ال

185
00:14:47,690 --> 00:14:51,510
class اللي موجود عندها، اللي هي الأساس، تمام؟ وهذا

186
00:14:51,510 --> 00:14:57,250
فعلياً أنا لما بطبق ال data setأو Clustering على

187
00:14:57,250 --> 00:14:59,690
الـ Training Set اللي موجودة هنا في عندي الـ

188
00:14:59,690 --> 00:15:04,710
Adjusted Random Index وفي عندي Normalized Mutual

189
00:15:04,710 --> 00:15:09,450
Information وهذه بتديني قيم من صفر لواحد وكل ما

190
00:15:09,450 --> 00:15:15,390
كانت القيمةأقرب للواحد معينته الـ purity تبعتي أو

191
00:15:15,390 --> 00:15:19,830
الـ scale تبعي ال algorithm تبعتي أفضل الصحيح أنا

192
00:15:19,830 --> 00:15:25,010
مش هاطلب منكوا العمليات الحسابية اللي موجودة عند

193
00:15:25,010 --> 00:15:28,810
هان نفس الكلام هي في عند contingency matrix عند ال

194
00:15:28,810 --> 00:15:30,890
actual class

195
00:15:32,410 --> 00:15:38,490
عن طريق الـ Predicted Cluster في نفس الحسبة لكن

196
00:15:38,490 --> 00:15:43,770
هنا بتكلم عن جداش الـ elements من كل عنصر تماما

197
00:15:43,770 --> 00:15:47,710
الحسبة مش مطلوبة يا جماعة الخير لكن هوريكم إياها

198
00:15:47,710 --> 00:15:51,830
إن شاء الله في العمل وبهيك نهينا شبترنا يعني أنا

199
00:15:51,830 --> 00:15:55,630
الآن لما أتكلم على ال evaluation ممكن أتكلم على

200
00:15:55,630 --> 00:15:59,590
three different metrics3 مترات مختلفة لـ Purity

201
00:15:59,590 --> 00:16:03,710
وهي مطموعة منكوا حسابيتها لأنها سهلة ال maximum ال

202
00:16:03,710 --> 00:16:06,390
summation للماكسيممم في كل cluster على عدد ال

203
00:16:06,390 --> 00:16:09,130
elements كلها في ال data set وهي بتمثل ال purity

204
00:16:09,130 --> 00:16:14,890
في عندي مجرد مصطلحين أخرين أخرين بدي أسمعهم بدي

205
00:16:14,890 --> 00:16:19,810
أحرفهم اللي هو adjusted rank index وnormalize

206
00:16:19,810 --> 00:16:25,010
mutual information هي عبارة عن rank بحسب ال

207
00:16:25,010 --> 00:16:30,060
similarity between any two clustersحسبة مش مطلوبة

208
00:16:30,060 --> 00:16:33,520
لكن فعلياً هي عبارة عن evaluation metric انا ممكن

209
00:16:33,520 --> 00:16:36,580
او جد استخدمها مع ال clustering اللي يعطيكوا

210
00:16:36,580 --> 00:16:39,320
العافية و بتمنالكوا التوفيق السلام عليكم ورحمة

211
00:16:39,320 --> 00:16:39,440
الله