1
00:00:05,080 --> 00:00:07,260
بسم الله والحمد لله والصلاة والسلام على رسول الله

2
00:00:07,260 --> 00:00:10,540
اليوم إن شاء الله تعالى هنكمل في موضوع الـ data

3
00:00:10,540 --> 00:00:13,800
cleaning كنا المحاضرة الماضية  اللي اشتغلنا فيه

4
00:00:13,800 --> 00:00:19,820
موضوع الـ missing data واليوم إن شاء الله تعالى

5
00:00:19,820 --> 00:00:25,720
هنشتغل في موضوع الـ noisy data الآن في الـ noisy

6
00:00:25,720 --> 00:00:29,060
data قلنا إحنا الـ noise data مفهومها إن أنا في

7
00:00:29,060 --> 00:00:33,890
عندي خطأ لسبب error معين، الـ error ده ممكن يكون

8
00:00:33,890 --> 00:00:37,950
الناتج عنه من human entry أو فيه fault في الـ

9
00:00:37,950 --> 00:00:41,190
instrument اللي أنا جمعت من خلالها الـ data، وقلنا

10
00:00:41,190 --> 00:00:44,430
من أشهر الأمثلة اللي أنا بتكلم عليها على الـ noise

11
00:00:44,430 --> 00:00:50,130
data، الراتب يكون بالسالب بغض النظر عن كانت إيش

12
00:00:50,130 --> 00:00:53,890
الأخطاء، إيش الشغلات اللي أنا فعلياً محتاجها عشان

13
00:00:55,040 --> 00:00:59,320
أعرض أو أتعامل مع الـ data set اللي موجودة عندنا

14
00:00:59,320 --> 00:01:01,900
كيف بدي أعمل لها handling؟ من أشهر الطرق اللي

15
00:01:01,900 --> 00:01:05,680
موجودة عندنا موضوع الـ binning، وما المقصود في الـ

16
00:01:05,680 --> 00:01:10,520
binning؟ إنه أنا فعلياً بدي أروح أجسم الـ data set

17
00:01:10,520 --> 00:01:17,850
تبعي لمجموعات، وكل مجموعة هتمثل، سيبني يا عمر، كل

18
00:01:17,850 --> 00:01:21,870
مجموعة هتتمثل بقيمة معينة، القيمة دي ممكن تكون الـ

19
00:01:21,870 --> 00:01:25,050
mean، ممكن تكون الـ median، أو ممكن تكون بقيمتين عشان

20
00:01:25,050 --> 00:01:28,150
أمثل المجموعة لو اعتمدت على الـ boundaries، لكن في

21
00:01:28,150 --> 00:01:32,630
شغل مهم جداً مع الـ binning، اللي هي الموضوع إنه أنا

22
00:01:32,630 --> 00:01:35,810
فعلياً الـ partition تبع الـ bin، الـ partition تبعي

23
00:01:35,810 --> 00:01:39,770
هاي أو الـ bin، قديش حجمها بده يكون؟ هل هتكلم على

24
00:01:39,770 --> 00:01:44,980
equal frequency، يعني فعلياً كل الـ bins هيكونوا نفس

25
00:01:44,980 --> 00:01:50,480
العدد، ولا هتكلم على الـ equal depth؟  باجي الـ equal

26
00:01:50,480 --> 00:01:54,120
depth، أنا باجي فكرتها إنه أنا أجسم المجموعات تبع

27
00:01:54,120 --> 00:01:57,800
الـ intervals، أجي أقول من عشرة مثلاً، من واحد لعشرة

28
00:01:57,800 --> 00:02:02,860
الـ interval الأولى، من عشرة، عفواً من 11 لعشرين، الـ

29
00:02:02,860 --> 00:02:06,260
interval الثانية، من واحد وعشرين لثلاثين، الـ

30
00:02:06,260 --> 00:02:10,360
interval الثالثة، بغض النظر عن الأعداد اللي بدها

31
00:02:10,360 --> 00:02:14,160
تكون في كل interval، هذه بنسميها إيش؟ equal

32
00:02:14,160 --> 00:02:18,060
depth، بينها وبين الـ equal frequency، إن كل partition

33
00:02:18,060 --> 00:02:23,760
في نفس العدد من الـ elements، لكن عشان فعلياً أطبق

34
00:02:23,760 --> 00:02:29,740
أنا الـ binning، لازم في البداية أعمل sort للـ data

35
00:02:29,740 --> 00:02:36,350
لو ما عملتش sort، كل شغلك غلط على الفاضي، لكن في موضوع

36
00:02:36,350 --> 00:02:40,370
الـ equal depth، ممكن أنا اشتغل إذا أنا فاهم الـ

37
00:02:40,370 --> 00:02:44,830
minimum والـ maximum تبعي قديش، بقدر أعمل استخدام

38
00:02:44,830 --> 00:02:48,210
و عارف إيش الـ range اللي ممكن تخدمني الـ intervals

39
00:02:48,210 --> 00:02:50,430
ممكن اشتغل، لأنه في الآخر بدي أصبح الـ

40
00:02:50,430 --> 00:02:53,410
representation لكل رقم بالـ interval اللي موجودة

41
00:02:53,410 --> 00:02:57,890
عندها، تعالوا نشوف مع بعض الـ binning، الآن العملية

42
00:02:57,890 --> 00:02:59,370
الثانية اللي هتكلم عليها، الـ regression والـ

43
00:02:59,370 --> 00:03:02,030
clustering، بعدين كنا إحنا بدنا مع الـ binning والـ

44
00:03:02,030 --> 00:03:05,570
الرقم واحد، كنا بدنا نعمل sort، وبالمثال هذا هشتغل

45
00:03:05,570 --> 00:03:09,510
على equal frequency، equal frequency قال لي أنا الآن

46
00:03:09,510 --> 00:03:10,990
بدي اشتغل على three bins

47
00:03:19,150 --> 00:03:22,830
الآن يا جماعة الخير، لو كان في عندي plus أو minus

48
00:03:22,830 --> 00:03:26,890
one في الـ interval، يعني لو كانت الـ interval تبعي

49
00:03:26,890 --> 00:03:34,150
هذه 13، رقم 27، مش big deal أو مش مشكلة، إن الرقم

50
00:03:34,150 --> 00:03:38,300
الأخير هذا ينضاف على الـ bin الأخيرة، طيب لو كان في

51
00:03:38,300 --> 00:03:43,000
عندي ثلاث أرقام، مخصصة، بن مخصصة، رقم واحد ما عندي مشكلة

52
00:03:43,000 --> 00:03:47,360
تكون الـ bin الأخيرة بأقل من digit، خصوصاً لما إحنا

53
00:03:47,360 --> 00:03:50,720
بنتكلم، أنا بدي أعمل handling لـ attribute، الـ

54
00:03:50,720 --> 00:03:53,740
attribute مش اثنا عشر value، اللي فيه ثلاثة عشر، ممكن

55
00:03:53,740 --> 00:03:57,100
يكون فيه ثلاثة عشر ألف value، فلما فعلياً أجي أقول

56
00:03:57,100 --> 00:04:01,980
والله بدي خصّه عندي مئة قيمة من الألف، مش قضية، لسه ما

57
00:04:01,980 --> 00:04:06,200
زال عندي فيه ٩٠٠ قيمة موجودات، وبأثرهم بشكل كويس، فالخطوة رقم واحد بعد ما أنا أعمل

58
00:04:06,200 --> 00:04:10,160
sort، أجسم المجموعات، عملت sort، بدي equal frequency

59
00:04:10,160 --> 00:04:15,140
أربعة، هاي واحدة، اثنين، ثلاثة، الخطوة رقم واحد sort

60
00:04:15,140 --> 00:04:23,160
الخطوة رقم واحد sort، الخطوة رقم اثنين تجسيمهم أو الـ partitioning

61
00:04:23,160 --> 00:04:25,860
الخطوة رقم اثنين، تجسيمهم أو الـ partitioning

62
00:04:25,860 --> 00:04:32,120
تبعتهم لمجموعات، الآن بعد هيك، القيام هذه مين فيها

63
00:04:32,120 --> 00:04:36,700
الـ noise؟ أنا فعلياً مش عارف هل هي الأربعة هي الـ

64
00:04:36,700 --> 00:04:39,680
noise، ولا الأربعة والثلاثين هي الـ noise، أنا فعلياً

65
00:04:39,680 --> 00:04:43,580
مش عارفها، لكن هذه الأربعة أو الأربعة والثلاثين، أنا

66
00:04:43,580 --> 00:04:49,120
فعلياً هخلص منها من خلال استبدالها بإيش؟ مع كل bin

67
00:04:49,120 --> 00:04:53,360
الآن ممكن أستبدلها بالقيمة الـ mean أو الـ median

68
00:04:53,360 --> 00:04:58,920
أو الـ value .. الـ .. عفواً القيم الـ boundaries، لو

69
00:04:58,920 --> 00:05:03,160
أنا بدأت أعتمد على الـ mean، هضطر أجمع ثمانية زائد

70
00:05:03,160 --> 00:05:06,140
أربعة .. أربعة زائد ثمانية زائد تسعة زائد خمسة عشر

71
00:05:06,140 --> 00:05:10,640
على أربعة، وأروح أستبدلهم، طلعت تسعة، بالتالي المجموعة

72
00:05:10,640 --> 00:05:15,640
الأولى كل element فيها بده يصير تسعة، كل element

73
00:05:15,640 --> 00:05:18,900
فيها بده يصير تسعة، المجموعة الثانية، المتوسطة

74
00:05:18,900 --> 00:05:22,670
الحسابية تبعها كانت ثلاثة وعشرين، ومن ثم الـ .. و

75
00:05:22,670 --> 00:05:26,050
هتكون ثلاثة وعشرون، والاخيرة تسعة وعشرون وهكذا

76
00:05:26,050 --> 00:05:31,470
لو أنا بدي اشتغل على الـ boundaries، مفهوم الـ

77
00:05:31,470 --> 00:05:36,270
boundaries، هيهم الأربعة والخمسة عشر، هدول للـ bin

78
00:05:36,270 --> 00:05:41,130
الأولى أو للـ partition الأولى، الآن الأربعة والخمسة عشر

79
00:05:41,130 --> 00:05:44,550
هدول هيكونوا ثابتات، لاحظ في الـ mean والـ median أنا

80
00:05:44,550 --> 00:05:48,010
كل الـ partition، الـ values تبع الـ partition

81
00:05:48,010 --> 00:05:51,970
بستبدلها بقيمة واحدة، مظبوط؟ اللي كانت بالـ mean أو

82
00:05:51,970 --> 00:05:56,190
الـ median، التسعة استبدلت كل القيم، لكن مع الـ part

83
00:05:56,190 --> 00:05:59,570
.. مع الـ boundaries point، بصير .. بتكلم على الـ

84
00:05:59,570 --> 00:06:04,830
partition الواحد في قيمتين، الـ minimum والـ maximum

85
00:06:04,830 --> 00:06:10,090
الآن باجي بدور على القيم اللي في النص، ثمانية أقرب

86
00:06:10,090 --> 00:06:14,240
لأي boundary، وبعملها replacement للـ boundary الأقرب

87
00:06:14,240 --> 00:06:21,660
٨ أقرب للـ ٤ أكيد، ومن ثم replace  ٩ للـ ٤، لأن الفرق

88
00:06:21,660 --> 00:06:26,380
بينها وبين ٤ و بين ١٥ و بين ٦، فهي أقرب للـ ٤ وبالتالي

89
00:06:26,380 --> 00:06:31,380
بعملها replacement بالـ ٤، الآن نفس الـ ٢١، و٢١ و٢٤

90
00:06:31,380 --> 00:06:36,120
يصير ٢٥، هنا أقرب وهكذا، تمام؟ هذا مفهوم الـ

91
00:06:36,120 --> 00:06:40,200
boundaries، لكن تعالوا نشوف مثال، نبدأ فيه من البداية

92
00:06:40,200 --> 00:06:44,240
خالص، هنشتغل فيه كالتالي، حاجة أقول أنا في عندي مثلاً

93
00:06:44,240 --> 00:06:58,400
القيم بسيطة: سبعة، ثلاثة، ثمانية، سالب واحد، اثنين، خمسة،

94
00:06:58,400 --> 00:07:09,880
عشرة، تسعة، ستة، أربعة، اثنا عشر، وهي كمان مرة ثلاثة، مش

95
00:07:09,880 --> 00:07:14,420
هتفرق معايا الآن

96
00:07:14,420 --> 00:07:19,160
أنا بدي اشتغل أو بدي أعمل partition أو بدي أستخدم

97
00:07:19,160 --> 00:07:23,460
two partitions، الخطوة

98
00:07:23,460 --> 00:07:26,200
رقم واحد، طبعاً كمان مرة بيتكلم عن الـ equal

99
00:07:26,200 --> 00:07:31,700
frequency، equal frequency، هشتغل الآن، أول خطوة رقم

100
00:07:31,700 --> 00:07:44,830
واحد sort، هي سالب واحد، اثنين، ثلاثة، كمان ثلاثة عندي

101
00:07:44,830 --> 00:07:57,970
أربعة، خمسة، ستة، سبعة، ثمانية، تسعة، عشرة، هيك الـ

102
00:07:57,970 --> 00:08:01,990
data صارت sorted، أنا بتكلم على equal frequency

103
00:08:01,990 --> 00:08:04,210
equal frequency على two partitions، يعني أنا بدي

104
00:08:04,210 --> 00:08:12,630
أعدّهم من النص، ١، ٢، ٣، ٤، ٥، ٦، ٧، ٨، ٩، ١٠، ١١، ١٢، ٦ ما في

105
00:08:12,630 --> 00:08:17,290
عندي مشكلة، ١، ٢، ٣، ٤، ٥، ٦ هي الـ partition أو الـ bin

106
00:08:17,290 --> 00:08:25,930
الأولى، وهي الـ bin الثانية، الآن بالـ mean، لو أنا بدي

107
00:08:25,930 --> 00:08:30,610
أشتغل بالـ mean، بدي .. ما في عندي مشكلة، بدي أجمع، بدي

108
00:08:30,610 --> 00:08:34,850
أجمع العناصر وأجسمهم على عددهم، على ٦، مظبوط؟ بقى

109
00:08:34,850 --> 00:08:38,930
بالـ median، القيمة اللي بتيجي في النص، بما أن

110
00:08:38,930 --> 00:08:42,570
الأعداد اللي عندي هنا، أعداد، عدد العناصر أو عدد

111
00:08:42,570 --> 00:08:46,770
الـ bin زوجي، ما في قيمة في النص، فهجيب الـ average

112
00:08:46,770 --> 00:08:51,410
تبع القيمتين اللي في النص، ثلاثة وثلاثة، بقى أنا

113
00:08:51,410 --> 00:08:55,490
هتكلم بالـ median، ثلاثة

114
00:08:55,490 --> 00:09:00,830
وثلاثة، ستة على اثنين، ثلاثة، معناته الآن كل الـ bin

115
00:09:00,830 --> 00:09:05,450
هذه، بدون يعملها replacement بمين؟ بثلاثة ..

116
00:09:05,450 --> 00:09:07,710
ثلاثة .. ثلاثة .. ثلاثة .. ثلاثة .. ثلاثة .. ثلاثة

117
00:09:07,710 --> 00:09:07,950
.. ثلاثة .. ثلاثة .. ثلاثة .. ثلاثة .. ثلاثة ..

118
00:09:07,950 --> 00:09:08,030
ثلاثة .. ثلاثة .. ثلاثة .. ثلاثة .. ثلاثة ..

119
00:09:08,030 --> 00:09:08,990
ثلاثة .. ثلاثة .. ثلاثة .. ثلاثة .. ثلاثة ..

120
00:09:08,990 --> 00:09:10,670
ثلاثة .. ثلاثة .. ثلاثة .. ثلاثة .. ثلاثة ..

121
00:09:10,670 --> 00:09:11,390
ثلاثة .. ثلاثة .. ثلاثة .. ثلاثة .. ثلاثة ..

122
00:09:11,390 --> 00:09:19,130
ثلاثة .. ثلاثة .. ثلاثة .. ثلاثة ..

123
00:09:19,130 --> 00:09:25,690
ثلاثة .. ثلاثة .. تل

124
00:09:26,510 --> 00:09:30,190
أقول لك شغلة، حتى لو كانت، لو كانت الـ value تبعي

125
00:09:30,190 --> 00:09:36,070
هذه مش اثنا عشر، بدي أخليها واحد وعشرين عشان يكون في

126
00:09:36,070 --> 00:09:42,950
عندي outlier حقيقي وأنا بدي إيش أخلص منه، الآن

127
00:09:42,950 --> 00:09:46,790
مين عند الـ error أو الـ error واضح وين يا شباب؟ واضح

128
00:09:46,790 --> 00:09:51,710
عندي في السالب، لأن القيم كلهم موجبة، كل القيم موجبة

129
00:09:51,710 --> 00:09:56,070
باستثناء السالب واحد، وكلها قريبة من العشرة

130
00:09:56,070 --> 00:10:01,770
باستثناء الـ ٢١، هاي ليش أنا جيبت المثال ده بالتحديد؟

131
00:10:01,770 --> 00:10:05,190
عشان أقول لك انتبه، مش كل الخيارات ممكن تكون مناسبة

132
00:10:05,190 --> 00:10:10,310
لك، الآن بالـ mean والـ median أنا خلصت وانحلت تمام

133
00:10:10,310 --> 00:10:14,070
و راحت الـ error زالت، لكن لو أنا بدأت أشتغل بالـ

134
00:10:14,070 --> 00:10:17,190
boundary point، بدأت أشتغل على الـ boundaries

135
00:10:26,090 --> 00:10:29,110
حيظلوا موجودات في وجهي، حيظلوا موجودات في الـ data

136
00:10:29,110 --> 00:10:33,450
set، على الرغم إن هما الـ outliers اللي أنا كنت عمال

137
00:10:33,450 --> 00:10:37,250
بحاول أخلص منه، أو بين جثتين الـ noise data اللي كنت

138
00:10:37,250 --> 00:10:42,510
بحاول أخلص منها، مظبوط؟ فأنت بدك تنتبه، تنتبه إنه

139
00:10:42,510 --> 00:10:47,130
أنا مش كل واحدة بتنفع معايا، الآن اللي حيصير كالتالي:

140
00:10:47,130 --> 00:10:52,230
سالب واحد، سالب اثنين، أقرب لسالب واحد ولا للخمسة؟ لأ

141
00:10:52,230 --> 00:10:56,470
سالب واحد، معناته هي سالب واحد، سالب واحد، الثلاثة

142
00:10:56,470 --> 00:11:03,870
لسالب واحد ولا خمسة؟ لأ، خمسة، خمسة، خمسة، خمسة، هنا ستة

143
00:11:03,870 --> 00:11:12,450
هنا ستة، ستة، ستة، ستة، ستة، ستة، واحد وعشرين، لاحظ الـ

144
00:11:12,450 --> 00:11:14,910
outlier، بدل ما أخلص منها أو الـ noise ده بدل ما

145
00:11:14,910 --> 00:11:19,960
أخلص منها، عززتها كمان واحدة، فأنت بقت تنتبه مش دائماً

146
00:11:19,960 --> 00:11:25,020
الخيارات هذه بتكونش perfect بالنسبة لي، فأنت بتشوف

147
00:11:25,020 --> 00:11:29,380
الخيار الأمثل في التعامل، تمام؟ وبالتالي خلصنا من

148
00:11:29,380 --> 00:11:32,480
موضوع الـ binning، طبعاً الـ binning زي ما أنت شايف

149
00:11:32,480 --> 00:11:36,360
موضوع بسيط، سهل، ممكن أنا أسيطر عليه بشوية انتباه

150
00:11:36,360 --> 00:11:41,480
وتركيز في التعامل، الطريقة الثانية إن أخلص من الـ

151
00:11:41,480 --> 00:11:45,040
noise data، إن أنا أعمل regression، شو يعني

152
00:11:45,040 --> 00:11:50,520
regression؟ هي عبارة عن الـ predictive task، مظبوط؟

153
00:11:50,520 --> 00:11:55,340
بحيث إن أصل على formula أو model يقدر يتنبأ بالقيم

154
00:11:55,340 --> 00:11:59,720
زي ما بقول محمد، by value، الآن لو أنا أجيت وقلت لك

155
00:11:59,720 --> 00:12:05,860
النقاط هذه المرسومة قدامي، هي بتمثل الـ data set

156
00:12:05,860 --> 00:12:11,260
تبعي، لاحظ النقاط كلها جاية تمام حوالين الخط هذا

157
00:12:11,260 --> 00:12:19,800
باستثناء النقطة اللي جاية هنا، بصراحة؟ ليش جاية هنا؟ لأن

158
00:12:19,800 --> 00:12:23,520
فيها noise، القيمة تبعها فيها outlier أو فيها

159
00:12:23,520 --> 00:12:28,520
noise معينة خلتها بعيدة، واحدة من الطرق تبع الـ

160
00:12:28,520 --> 00:12:32,140
noise handling أو noise data handling، إن أنا أعمل

161
00:12:32,140 --> 00:12:35,000
estimation أو أعمل prediction للـ regression

162
00:12:35,000 --> 00:12:41,300
function أو الـ line model تبعي، الـ line function

163
00:12:41,300 --> 00:12:45,200
تبعي، بحيث إن أنا أرسم الخط المستقيم اللي بيمثل كل

164
00:12:45,200 --> 00:12:51,010
الـ data، أرسم خط مستقيم يمثل كل الـ data، والخط

165
00:12:51,010 --> 00:12:56,230
المستقيم هذا له معادلة، الآن بناءً على قيمة X اللي

166
00:12:56,230 --> 00:13:01,190
عندي هنا اللي هي ثابتة، بقدر أعمل estimation لمين؟

167
00:13:01,190 --> 00:13:06,250
لقيمة Y الصحيحة، هل هذا أنا بدي أطبقه على كل الـ

168
00:13:06,250 --> 00:13:16,160
data؟ لأ، فقط على الـ noise data، noisy point، وبالتالي

169
00:13:16,160 --> 00:13:20,580
هذه القيمة هتطلع وين؟ معايا على الخط، وبالتالي

170
00:13:20,580 --> 00:13:27,120
هتاخد Y جديدة، الفكرة إن الوصول للـ regression model

171
00:13:27,120 --> 00:13:36,520
هذا

223
00:17:21,400 --> 00:17:26,250
الحامل للذكور هل هذا وارد؟ في عمر واحد عاجل بيفكر

224
00:17:26,250 --> 00:17:30,070
يبني rule زي هيك عشان يدور لأنه الأصل لأ، لكن في

225
00:17:30,070 --> 00:17:34,270
لحظة من اللحظات ممكن أنا أضطر أكتب rule عشان يحل

226
00:17:34,270 --> 00:17:37,750
أو يدور لي على الحالات اللي زي هذه، بس فعلياً مش

227
00:17:37,750 --> 00:17:42,370
هتلاقيه بسهولة، أنت بتعمل development الشغل ال

228
00:17:42,370 --> 00:17:47,490
manual أحسن لأن هذه الـ cases قليلة جداً، تمام؟

229
00:17:47,490 --> 00:17:52,880
وغالباً هتختلف من حالة لحالة، لكن احنا بنقول لو فرضا

230
00:17:52,880 --> 00:17:57,200
أن الحالة هذه ممكن تتكرر، إيش بروح بساوي؟ ممكن

231
00:17:57,200 --> 00:18:00,440
أبني لها system بسيط يعمل الـ check تماماً زي اللي

232
00:18:00,440 --> 00:18:05,240
بتكلم عن الـ spelling check programs، الآن الخطأ

233
00:18:05,240 --> 00:18:08,720
الإملائي أثناء الكتابة، إيش هو؟ مش هو عبارة عن برنامج

234
00:18:08,720 --> 00:18:13,780
عنده موجود الكلمات بين جثين الـ rules، وبروح بصير

235
00:18:13,780 --> 00:18:18,760
يقارنها، بعضهم راح يقول لك في عندك grammar check، بدي

236
00:18:18,760 --> 00:18:21,720
أعرف قوانين الكتابة وصياغة اللغة، وهنا نفس الكلام

237
00:18:21,720 --> 00:18:28,320
بدي أصير أنا أكون عارف وين الـ inconsistency بتصير

238
00:18:28,320 --> 00:18:30,600
بين الـ attributes، وأصير أحطها في rules عشان يعملها

239
00:18:30,600 --> 00:18:34,740
detection، لكن هذا الكلام صعب وصعب جداً، احنا بدنا

240
00:18:34,740 --> 00:18:38,460
نعمل focus على الشغل، لكن ممكن المعنى والهدا مهم

241
00:18:38,460 --> 00:18:43,440
جداً، عشان هيك، عشان هيك أول واحدة في معالج الـ

242
00:18:43,440 --> 00:18:49,580
inconsistent data، الـ common sense، تستخدم المنطق

243
00:18:49,580 --> 00:18:53,980
السليم تبعك في التفكير، مش بس الإحساس، أقول اه والله

244
00:18:53,980 --> 00:18:58,660
okay، male و pregnant، أنا حاسس أنه مش صحيح المعلومة

245
00:18:58,660 --> 00:19:02,720
لأ، الـ common sense، مقصودها أن البديهيات بالنسبة

246
00:19:02,720 --> 00:19:06,780
اليك، خلاص في مشكلة هنا، male مستحيل يكون pregnant

247
00:19:06,780 --> 00:19:11,440
أو يكون الـ gender عندي مدخل خطأ وهو female صحيح

248
00:19:11,440 --> 00:19:15,500
ولا لأ؟ وبالتالي هذه الحالتين موجودات، لكن لو

249
00:19:15,500 --> 00:19:23,560
طلعت في السجل كله، ياتهدخل مدرسة للذكور ومحطوط بعد

250
00:19:23,560 --> 00:19:30,920
فترة pregnant، لأ مستحيل، فكلمة pregnant هي الخطأ

251
00:19:30,920 --> 00:19:35,120
وبالتالي بدنا نشيلها من العناصر الموجودة، الفكرة

252
00:19:35,120 --> 00:19:38,020
كمان مرة يا جماعة الخير، الـ common sense لازم تكون

253
00:19:38,020 --> 00:19:41,880
حاضرة، احنا عندنا مشاكل كبيرة مع الأنظمة كعرب، لما

254
00:19:41,880 --> 00:19:42,840
أتكلم بالـ hands up

255
00:19:45,990 --> 00:19:51,190
حمزة مكسورة، حمزة مفتوحة، حمزة مضمومة، والإنجليز

256
00:19:51,190 --> 00:19:54,710
كذلك عندهم نفس المشاكل، الأجانب في عند الـ Dennis

257
00:19:54,710 --> 00:20:00,050
وDennis، وهاي قرأها عن هاي، واحد يقول الـ Man names

258
00:20:00,050 --> 00:20:02,690
أساساً ما بديش هي في الـ mining task، بقول لك كلامك صح

259
00:20:02,690 --> 00:20:06,390
بس هذا الكلام وارد عشان تقدر توافق، على سبيل المثال

260
00:20:06,390 --> 00:20:10,210
في الـ integration، لما نيجي كمان شوية بدي أجمع two

261
00:20:10,210 --> 00:20:13,470
datasets مع بعضهم، لجيت رقم واحد، اثنين، ثلاثة،

262
00:20:13,470 --> 00:20:18,130
أربعة، واسمه Dennis، الاسم الأول ورقمه في الـ Data 6

263
00:20:18,130 --> 00:20:22,550
اللي جاي من وزارة الصحة 1234، والاسم مكتوب Dennis

264
00:20:22,550 --> 00:20:25,250
بالـ Spelling، التاني هقول لأ لأ، هدول الـ Two

265
00:20:25,250 --> 00:20:30,110
Records مش نفسهم، لأ هما نفسهم ومافيش بينهم تعارض

266
00:20:30,110 --> 00:20:35,610
لأ، ما هو في شغلات بتأكد أن ممكن الـ Data تكون هذه

267
00:20:35,610 --> 00:20:42,110
غلط، صح؟ يعني الآن لجيت Two Records نفس الـ ID

268
00:20:42,110 --> 00:20:44,890
1234، وواحد خليل واثنين حسن

269
00:20:47,870 --> 00:20:52,910
لأ، في غلط، لكن لما ألاقي هذا Dennis وDennis ما فيه

270
00:20:52,910 --> 00:20:56,310
غلط، صح؟ فيه difference في الـ value تبع الـ name

271
00:20:56,310 --> 00:21:01,770
هنا، لكنه فعلاً ضمن الـ common sense، هذا نفس الاسم،

272
00:21:01,770 --> 00:21:08,430
إيش يا محمد؟ تمام؟ طبعاً،

273
00:21:08,430 --> 00:21:11,010
بكتب، أدور على الـ inappropriate values، القيم الغير

274
00:21:11,010 --> 00:21:16,010
منطقية أو الغير متاحة،

275
00:21:16,010 --> 00:21:16,290
طيب

276
00:21:20,090 --> 00:21:24,030
كيفك تصلحها؟ كيفك تصلح الـ inconsistent data؟

277
00:21:24,030 --> 00:21:30,910
Manual، بعد ما أحددها، بدي أحددها وأصلحها، إيش؟

278
00:21:30,910 --> 00:21:34,190
Manual، يعني لازم أرجع للـ documents وأقارن الـ

279
00:21:34,190 --> 00:21:38,090
data اللي موجودة عندها، تخيل، بقول لك أنت لو روحت على

280
00:21:38,090 --> 00:21:44,970
زبائن بنك معين، ولجيت 5% منهم كلهم مولودين في 11/2

281
00:21:48,490 --> 00:21:51,850
صدفة حلوة؟ لأ، أنا بقول لك في خطأ و..و..خطأ أكيد

282
00:21:51,850 --> 00:21:56,090
يعني عويجي يقول لي والله الطلاب المسجلين عشرين

283
00:21:56,090 --> 00:21:58,570
فالمئة من الطلاب الموجودين بيننا الآن في المحاضرة

284
00:21:58,570 --> 00:22:01,290
في الـ data mining، من مورد الف وتسعمائة وخمسة وعشرين

285
00:22:01,290 --> 00:22:04,790
مستحيل

286
00:22:06,190 --> 00:22:10,250
كيف أتجمع كلهم؟ هل هم..الآن تقول لك والله هذا

287
00:22:10,250 --> 00:22:13,290
التاريخ..هذا التاريخ..يعني لكل واحد فيه تاريخ

288
00:22:13,290 --> 00:22:18,590
ميلاد مستقل، ولا لأ؟ تيجي تقول لي عشان صدفة غريبة، بما

289
00:22:18,590 --> 00:22:22,030
أنها غريبة، بروح أتحقق منها، طب أتحقق منها كيف؟ بدوا

290
00:22:22,030 --> 00:22:27,870
تايم الشباب؟ هاتوا هوياتكم، مش هيك اللي حيصير؟ هرجع

291
00:22:27,870 --> 00:22:31,250
للـ document الحقيقي عشان أنا أعمل الـ check على الـ

292
00:22:31,250 --> 00:22:35,570
values اللي موجودة، من الشغلات اللي بتساعدني في فهم

293
00:22:36,920 --> 00:22:40,520
الـ Consistency تبع الـ Data، وتحديد الـ

294
00:22:40,520 --> 00:22:46,440
Inconsistent Values، الـ Metadata، ليش؟

295
00:22:46,440 --> 00:22:48,820
لأن في الـ Metadata، باجي أتكلم على الـ Domain و

296
00:22:48,820 --> 00:22:51,300
الـ Range، والـ Dependency، والـ Distribution تبع

297
00:22:51,300 --> 00:22:54,180
الـ Attributes، بيجي يقول لي والله عندي الـ salary

298
00:22:54,180 --> 00:22:59,320
عبارة عن number، تتراوح الأرقام أو الـ values، الـ

299
00:22:59,320 --> 00:23:03,180
minimum salary 1500، والـ maximum salary 2700

300
00:23:06,210 --> 00:23:14,850
لجيت فيه salary مدخل 3700، inconsistent، ليش؟ لأنها

301
00:23:14,850 --> 00:23:18,810
طلعت برا..برا الـ rule اللي حدد لي الـ range

302
00:23:18,810 --> 00:23:24,710
تمام؟ وبالتالي فهم الـ metadata بيساعدني في تحديد

303
00:23:24,710 --> 00:23:31,690
الـ inconsistent data، بدي أفحص الـ field overloading

304
00:23:31,690 --> 00:23:36,380
أو الـ field overloading، شو يعني overloading؟ بالـ

305
00:23:36,380 --> 00:23:40,020
object oriented، شو يعني overloading؟ overloading

306
00:23:40,020 --> 00:23:43,460
method، أنه

307
00:23:43,460 --> 00:23:47,120
في عندي method بتحمل نفس الاسم، لكن الـ signature

308
00:23:47,120 --> 00:23:50,840
تبعها مختلفة، شو يعني الـ signature؟ إما الـ return

309
00:23:50,840 --> 00:23:55,880
value أو الـ parameter، متفقين؟ طيب يعني شو يعني

310
00:23:55,880 --> 00:23:59,840
overloading attribute؟ أنه الـ attribute هذا ظهر

311
00:23:59,840 --> 00:24:04,950
بشكل مختلف، مع أنه الـ values تبعته إيش؟ متشابهة، يعني

312
00:24:04,950 --> 00:24:10,070
لجيت أنا عندي فعلياً الـ age، لجيت الـ age ولجيت

313
00:24:10,070 --> 00:24:16,310
تاريخ الميلاد، المفروض الاثنين بيدوني نفس المعلومة

314
00:24:16,310 --> 00:24:20,730
ولا شو رأيكم؟ اه، هو أنا هكتفي بواحد يا أهي أبو

315
00:24:20,730 --> 00:24:25,430
حينها، لكن الآن عشان أنا أفحص الـ consistency، ممكن

316
00:24:25,430 --> 00:24:31,090
هذا يخدمني في الموضوع، ولا شو رأيكم؟ الـ uniqueness

317
00:24:31,090 --> 00:24:36,480
rules، كذلك أنه لما أنا بكون فاهم الـ description صح

318
00:24:36,480 --> 00:24:40,840
وبيجي بقول لي الـ attribute الفلاني، كل الـ values اللي

319
00:24:40,840 --> 00:24:46,500
فيه unique، تمام؟ كل الـ values اللي فيه unique

320
00:24:46,500 --> 00:24:52,640
ما بتتكرر، وبلاقي فيه تكرار، وهذا مؤشر أنه صار في

321
00:24:52,640 --> 00:24:56,420
عندي شغل غلط في الـ dataset، هل الروهات دي duplicated

322
00:24:56,420 --> 00:25:00,680
ولا فعلياً في عندي عناصر عاملة بتظهر في الآخر

323
00:25:00,680 --> 00:25:03,460
ممكن يكون عند بعض الـ commercial tools اللي بتعمل

324
00:25:03,460 --> 00:25:06,060
analysis للـ data، وبتجيب لي العلاقة بين الـ values

325
00:25:06,060 --> 00:25:11,800
الـ different values، لكن مجالاتها قليلة جداً زي ما

326
00:25:11,800 --> 00:25:17,180
قلنا سابقاً، يعني بكل بساطة، بكل بساطة الـ

327
00:25:17,180 --> 00:25:22,540
inconsistent data بتحتاجك أنت as a human أكثر ما

328
00:25:22,540 --> 00:25:27,940
بتحتاج machine أو program عشان يحددها ويصلحها

329
00:25:27,940 --> 00:25:37,240
تمام؟ تمام يا شباب؟ تمام، تمام، ننتقل للنقطة اللي

330
00:25:37,240 --> 00:25:41,540
بعد هيك، احنا قلنا للوصول للـ knowledge presentation

331
00:25:41,540 --> 00:25:52,190
كم خطوة بدي امشي؟ ايوه؟ سبعه: data cleaning، data

332
00:25:52,190 --> 00:25:57,270
integration، data selection، data transformation،

333
00:25:57,270 --> 00:26:00,890
data mining، الـ transformation بالمناسبة قبل الـ

334
00:26:00,890 --> 00:26:04,330
selection، مش قضية كتير، data mining، knowledge

335
00:26:04,330 --> 00:26:09,570
knowledge evaluation، أو better evaluation، و

336
00:26:09,570 --> 00:26:14,210
knowledge presentation، تمام، الآن بدنا ننتقل للـ

337
00:26:14,210 --> 00:26:19,460
task الثانية مباشرة، اللي هي الـ data integration

338
00:26:19,460 --> 00:26:24,140
يعني احنا بفهم بناءً على الخطوة هاي، إذا كان في عندي

339
00:26:24,140 --> 00:26:29,380
two different data source، data set one، و data set

340
00:26:29,380 --> 00:26:36,020
two، من different resources، الأصل..الأصل أن أعمل

341
00:26:36,020 --> 00:26:42,720
cleaning للنتين، قبل ما أعمل integration، ليش؟

342
00:26:43,160 --> 00:26:47,100
لأنه فعلياً احنا مش بحاجة الـ null، حتصير في عندي

343
00:26:47,100 --> 00:26:50,240
مشكلة، فأنا لما بدي أعمل integration بدي أكون على

344
00:26:50,240 --> 00:26:53,760
السليم، يعني في مرحلة ما بعد الـ cleaning عشان أضمن

345
00:26:53,760 --> 00:26:58,000
يصير في عندي combination صح للـ data set، الآن

346
00:26:58,000 --> 00:27:00,440
وبالتالي الـ data integration هي عبارة عن

347
00:27:00,440 --> 00:27:03,080
combination أو combines الـ data from different

348
00:27:03,080 --> 00:27:07,480
sources، زي ما قلنا سابقاً بالمثال اللي قلناه، هنكرره

349
00:27:07,480 --> 00:27:13,210
كتير، كاسمتقدير تحصيل الطالب أو مستوى تحصيل الطالب

350
00:27:13,210 --> 00:27:15,950
في المرحلة الابتدائية، بناءً على الحالة الصحية،

351
00:27:15,950 --> 00:27:18,730
صحيح؟ وكل هذه المعلومات من two different

352
00:27:18,730 --> 00:27:23,810
resources، تربية والتعليم، والصحة، وبدي أعمل

353
00:27:23,810 --> 00:27:29,330
integration ما بين العناصر اللي موجودة عندها، ليش

354
00:27:29,330 --> 00:27:35,110
أنا فعلياً بدي أعمل data integration لواحد من سببين

355
00:27:35,110 --> 00:27:47,080
الأول، أنه أنا في عندي small data set، small

356
00:27:47,080 --> 00:27:52,260
data set، لما أتكلم small data set، معناته الـ

357
00:27:52,260 --> 00:27:58,220
integration هدفه زيادة عدد الـ rows، زيادة عدد الـ

358
00:27:58,220 --> 00:28:05,820
samples، صحيح؟ الشغل

359
00:28:05,820 --> 00:28:07,940
الثاني، سبب الـ integration

360
00:28:11,780 --> 00:28:17,120
more information for

361
00:28:17,120 --> 00:28:23,700
the samples، أنا بحاجة لمعلومات

362
00:28:23,700 --> 00:28:27,040
جديدة عن الـ samples، عامل في المثال اللي بنقول

363
00:28:27,040 --> 00:28:31,180
عليه، أنا عنده معلومات خاصة بالمدرسة والتعليم، سجل

364
00:28:31,180 --> 00:28:33,920
الطالب التعليمي موجودة في وزارة، وأنا شغال في

365
00:28:33,920 --> 00:28:38,520
الوزارة، فهي موجودة عند الـ dataset، الآن المعلومات

366
00:28:38,520 --> 00:28:41,640
اللي أنا بدي إياها إضافية عشان تخدم الـ task تبعي

367
00:28:41,640 --> 00:28:45,820
موجودة في وزارة الصحة، مش هبدأ أساوي، بدي أجيبها عشان

368
00:28:45,820 --> 00:28:49,880
أضيف information لكل sample، يعني أنا بدي أضيف بين

369
00:28:49,880 --> 00:28:57,380
جثين attributes، صحيح؟

370
00:28:57,380 --> 00:29:01,940
لأن هنا مش هعمل على الـ enlargement للـ dataset، مش

371
00:29:01,940 --> 00:29:05,460
هزيد عدد الـ rows، هزيد عدد الـ attributes

372
00:29:12,330 --> 00:29:21,810
الآن لو أنا بدي أعمل dataset بسيطة، هنا الـ

373
00:29:21,810 --> 00:29:31,090
ID،

374
00:29:31,090 --> 00:29:36,110
الـ name، الـ

375
00:29:36,110 --> 00:29:39,150
age، والـ level

376
00:29:42,930 --> 00:29:50,070
والـ GPA أو الـ Average GPA، متوسط

377
00:29:50,070 --> 00:29:56,130
تحصيله، هذه المعلومات من وين؟ من المدرسة أو من

378
00:29:56,130 --> 00:30:04,130
وزارة التربية والتعليم، في وزارة الصحة ما فيش

379
00:30:04,130 --> 00:30:08,110
شيء ما فيش

380
00:30:08,110 --> 00:30:13,070
average، ما فيش level، صحيح؟ كلامك، الـ ID والـ name

381
00:30:13,070 --> 00:30:18,850
بتكلم على الـ weight، العمر،

382
00:30:18,850 --> 00:30:29,210
مثلاً هاي الـ age، date of birth، ليكن الـ weight، الـ

383
00:30:29,210 --> 00:30:36,770
height، illness، هل في أمراض ولا لأ؟ هل بتناول أدوية

384
00:30:36,770 --> 00:30:40,350
ولا لأ؟ treatment إلى آخره، المهم أنا بدي أعمل

385
00:30:40,350 --> 00:30:45,640
combination أو بدي أجمع الـ two datasets هدول عشان

386
00:30:45,640 --> 00:30:49,500
الـ task تبعي، هدفها، كمان مرة، للمرة كده أشهد الألف

387
00:30:49,500 --> 00:30:54,580
تمام؟ كمان مرة بنتكلم أنه أنا بدي أحاول أعمل

388
00:30:54,580 --> 00:31:00,560
prediction لمستوى تحصيل الطالب بناءً على سجله الصحي

389
00:31:00,560 --> 00:31:06,360
الـ combination هذا حيصير هاني علي أبو الخير، صحيح؟

390
00:31:10,100 --> 00:31:15,820
تمام، هذا الـ raw أو الـ dataset بدها تكون هنا، وكأني

391
00:31:15,820 --> 00:31:24,320
بكل بساطة بدي أعمل inner join بين two tables، فهذه

392
00:31:24,320 --> 00:31:26,880
الـ combination، كان هدفها أو هذه الـ integration

393
00:31:26,880 --> 00:31:32,420
هدفها إضافة معلومات جديدة لكل entity، لكل sample، لأن

394
00:31:32,420 --> 00:31:36,600
عشان تتحقق الـ task الموجودة، لكن لو قلنا والله أن

395
00:31:36,600 --> 00:31:42,360
الطالب هذا كان فترة الابتدائي عايش أو بدرس في

396
00:31:42,360 --> 00:31:46,520
مدرسة خاصة، أو مدرسة خاصة، والمعلومات هذه ما كانتش

397
00:31:46,520 --> 00:31:50,560
موجودة

445
00:35:34,020 --> 00:35:38,850
recordو أخلّيه عندي بأكبر قدر ممكن، بأطلّع على باقي

446
00:35:38,850 --> 00:35:45,530
مثلاً، بأطلّع على الـ age 17، 17. إذا هل في common

447
00:35:45,530 --> 00:35:49,910
attributes بين الاثنين بيأكدولي إن هذا هو نفسه هذا

448
00:35:49,910 --> 00:35:53,810
ممكن أصيب، أتجوز عن من؟ عن الاسم، لأنه فعلاً الاسم مش

449
00:35:53,810 --> 00:35:57,690
هيخدمني، بس أنا حاليًا بدي أتأكد إن هذا real entity

450
00:35:57,690 --> 00:36:01,910
موجودة عندي في الـ data set. هذه بنسمّيها الـ entity

451
00:36:01,910 --> 00:36:03,550
identification

452
00:36:05,840 --> 00:36:08,740
الـ problem، الـ value of conflict أو الـ value

453
00:36:08,740 --> 00:36:17,860
conflict، التعارض ما بين القيم، لجيته عمره هان 17، و

454
00:36:17,860 --> 00:36:27,520
هان لجيته 15. أنا في الآخر هحتفظ بـ one edge، مظبوط؟

455
00:36:27,520 --> 00:36:32,840
يعني غالباً الـ edge هان مش هجيب ليه، طب آسف مين فيهم

456
00:36:32,840 --> 00:36:36,900
الصحيح؟ الخمسة عشر ولا السبعة عشر؟ الـ date of birth

457
00:36:36,900 --> 00:36:43,760
هنا موجود، قال لي والله إنه تاريخ ميلاده هذا 2005

458
00:36:43,760 --> 00:36:48,180
وخمسة، واحنا 2020، ميلاده خمسة عشر، ميلاده

459
00:36:48,180 --> 00:36:52,240
الخطأ عندي هنا، وهذا بيطلب برضه مني manual

460
00:36:52,240 --> 00:36:56,860
correctness، عشان أعدي الـ level. ممكن يكون عندي

461
00:36:56,860 --> 00:37:01,120
indicator، طبعاً، لكن بيظل فيه احتمال إن هو فعلياً ايش

462
00:37:01,120 --> 00:37:04,600
يكون مثلاً، تأخر سنة أو رسب سنة أو ما شابه، لكن الـ

463
00:37:04,600 --> 00:37:08,140
date of birth كان بيقول لأ، يا إما هو متأكد، لأنه هو

464
00:37:08,140 --> 00:37:12,420
بيشوف فيه تقارب ما بين الـ values، الـ redundant

465
00:37:12,420 --> 00:37:21,100
teachers. أنا ما فيش عندي الـ age هنا، لكن

466
00:37:21,100 --> 00:37:26,140
عندي date of birth، تاريخ الميلاد. لما أنا أعمل

467
00:37:26,140 --> 00:37:30,140
marriage، تاريخ الميلاد هيجينيها كـ attribute، لكن

468
00:37:30,140 --> 00:37:35,220
المعلومات اللي فيها موجودة عندي سابقاً، فبرضه أنا

469
00:37:35,220 --> 00:37:38,820
بدي أنتبه لها، يعني في عندي تلت شغلات أساسية بدي

470
00:37:38,820 --> 00:37:42,320
أنتبه لها، عندي عملية الـ integration، أتأكد من الـ

471
00:37:42,320 --> 00:37:46,020
identification لكل entity، اللي فعلياً الـ entity

472
00:37:46,020 --> 00:37:51,340
تقابل الـ entity المقابلة بتاعتها بشكل صحيح، الـ

473
00:37:51,340 --> 00:37:54,300
value conflict أو الـ inconsistent اللي ممكن تصير

474
00:37:54,300 --> 00:37:56,660
عندي، زي ما صار معايا في الاسم أو صار معايا في الـ

475
00:37:56,660 --> 00:38:02,380
age، وفي الآخر في الـ redundant features أو في تكرار

476
00:38:02,380 --> 00:38:08,060
الـ attributes اللي موجودة عندي، وبرضه الشغل هيكون

477
00:38:08,060 --> 00:38:13,740
manual. ممكن أكتب code عشان يعمل integration لو أنت

478
00:38:13,740 --> 00:38:17,820
طبّقت، عملت الـ inner join بين الـ two tables هدول، ايش

479
00:38:17,820 --> 00:38:24,280
اللي بيصير؟ بياخد الـ rows بناءً على الـ ID، الـ ID

480
00:38:24,280 --> 00:38:29,920
المختلف بين الاثنين، ما بيطلعش، يعني تخيّل إن هنا واحد

481
00:38:29,920 --> 00:38:36,660
اثنين، ثلاثة، تسعة، ما فيش هنا، وهنا عندي واحد، اثنين

482
00:38:36,660 --> 00:38:42,860
ثلاثة، ثمانية، مش موجود هنا، هذا الـ row مش هيظهر، وهذا

483
00:38:42,860 --> 00:38:47,200
الـ row مش هيظهر، ولا لأ؟ ليش؟ لأن فعلياً ما فيش

484
00:38:47,200 --> 00:38:51,220
integration ما بين الـ rows اللي موجودة، لكن لاحظوا

485
00:38:51,220 --> 00:38:55,760
المشكلة دي أنا ما عانيت منها مطلقاً لما روحت جيبت

486
00:38:55,760 --> 00:39:00,260
مصدر ثاني للبيانات، وصرت أجمعها عشان أزيد مين؟ عدد

487
00:39:00,260 --> 00:39:04,000
الـ rows، لأن في الآخر أنا جيبت من المدرسة الخاصة، جيبت

488
00:39:04,000 --> 00:39:08,180
الـ name، و الـ age، و الـ level، و الـ GPA لمجموع الطلاب

489
00:39:08,180 --> 00:39:13,120
عشان أزيد، أزيد محصلة الـ rows اللي موجودة عندها

490
00:39:19,090 --> 00:39:24,050
هننتقل الآن لموضوع الـ Data Transformation، اللي هي

491
00:39:24,050 --> 00:39:30,150
الخطوة الرابعة، العد، أيوة، أهب، تفضّل، اسأل، مثلاً زي

492
00:39:30,150 --> 00:39:33,850
الـ media اللي جيت العالم الأول بسيط، هجيته فعلاً فعلاً

493
00:39:33,850 --> 00:39:37,070
هذا مثلاً، الإنسان بدري يعمل بحث زي هيك، هل فعلاً مهتم

494
00:39:37,070 --> 00:39:41,430
في الـ record زي ما هذا، ولا بس إنه اتعلّم الصحيح؟

495
00:39:41,430 --> 00:39:45,210
شوفي، أهب، كل record بتضيفه على الـ data set الأصلي

496
00:39:45,210 --> 00:39:49,450
بتضيف لك knowledge جديدة، و بقوّي الـ rule أو الـ

497
00:39:49,450 --> 00:39:52,550
predictors اللي أنت بدك تنشئه، عشان هيك فعلياً أنت

498
00:39:52,550 --> 00:39:58,150
محتاجة، كل ما كانت عدد الـ data set قليلة أو

499
00:39:58,150 --> 00:40:05,170
المعلومات اللي عندك قليلة، أنت بحاجة لأي.. أي شغل

500
00:40:05,170 --> 00:40:08,730
بتعزّز البيانات اللي موجودة عندك، حتى لو one record

501
00:40:08,730 --> 00:40:13,270
بدك تضيفه، لكن الـ data set اللي عندي حجمها 100 ألف

502
00:40:13,270 --> 00:40:17,950
record، ولا جيت عشرة records أو مئة record أو ألف

503
00:40:17,950 --> 00:40:23,870
record، في مكان ما، مش ضروري أفكر فيهم كتير، إذا أنا

504
00:40:23,870 --> 00:40:26,450
واثق في البيانات اللي عندي، لكن لو كانوا الألف

505
00:40:26,450 --> 00:40:30,110
record هدول بمثل حالة خاصة، وأنا بدي أدرجها في

506
00:40:30,110 --> 00:40:33,090
النظام تبعي، لازم أعملها integration للمئة ألف

507
00:40:33,090 --> 00:40:37,890
اللي عندي، وصيروا مئة ألف وواحد، تمام؟ أو مئة وواحد

508
00:40:37,890 --> 00:40:42,570
ألف، في موضوع الـ transfer.. في أي شباب عنده..

509
00:40:42,570 --> 00:40:48,020
شباب، في حد عنده أي سؤال ثاني؟ ننتقل لموضوع أو نكمل

510
00:40:48,020 --> 00:40:51,100
في الـ steps، وبنحاول إن شاء الله الأسبوع هذا ننهي

511
00:40:51,100 --> 00:40:53,540
الـ chapter اللي إحنا بنشتغل فيه، لأنه صار لنا قد ايش

512
00:40:53,540 --> 00:40:55,320
هذا الأسبوع الثالث، وإحنا بناخد في الـ data

513
00:40:55,320 --> 00:40:58,620
understanding و الـ preparation، فبديش ياخد حسّه

514
00:40:58,620 --> 00:41:03,540
بالملل، فبنروح باتجاه الـ mining إن شاء الله. الآن في

515
00:41:03,540 --> 00:41:07,900
الـ data transformation، المقصود فيها تحويل أو تحوير

516
00:41:07,900 --> 00:41:14,330
البيانات من form، من صورتها الحالية، اللي تظهر بصورة

517
00:41:14,330 --> 00:41:19,910
تتناسب مع الـ mining task العام اللي إحنا بنقول، بقول

518
00:41:19,910 --> 00:41:22,430
أنا في عندي تاريخ الميلاد يا جماعة الخير، date of

519
00:41:22,430 --> 00:41:22,750
birth

520
00:41:27,040 --> 00:41:30,680
القيم اللي موجودة فيه.. القيم اللي موجودة فيه

521
00:41:30,680 --> 00:41:35,760
بتقول، إذا أنا بدي أبني decision rules، هيكون عندي

522
00:41:35,760 --> 00:41:39,580
الـ values كتيرة، لأنه انولد في شهر واحد، غير إن

523
00:41:39,580 --> 00:41:42,320
انولد في شهر اثنين، في عندي ثلاثين خيار في شهر واحد

524
00:41:43,080 --> 00:41:49,060
و28 في شهر 2، و 31 في شهر 3، مظبوط؟ معناته على مدار

525
00:41:49,060 --> 00:41:53,500
السنة، يعني أنا بتكلم هيك وكأنه وكأنه عندي 365

526
00:41:53,500 --> 00:41:59,420
variable أو value بدها تدخل في الـ decision rules

527
00:41:59,420 --> 00:42:04,480
تبعي، هذا.. هذا الكلام مش منطق، بينما كل الناس اللي في

528
00:42:04,480 --> 00:42:08,680
مستوى أول مثلاً، أو في فئة الجامعة، هدول فئة واحدة

529
00:42:08,680 --> 00:42:12,260
طلاب المدارس في الثانوية فئة ثانية، اللي من الإعدادية

530
00:42:12,260 --> 00:42:16,880
ينزلوا فئة ثالثة، الخريجين فئة رابعة، فهذه الفئات

531
00:42:16,880 --> 00:42:22,740
تاريخ الميلاد هذا ما بيكفّنيش، يا راني، تاريخ الميلاد

532
00:42:22,740 --> 00:42:27,460
هذا ما بنفعنيش، فأنا محتاج أن أغيّر صورة تاريخ

533
00:42:27,460 --> 00:42:28,120
الميلاد

534
00:42:34,920 --> 00:42:42,620
إلى age، بالـ age بكون أنا عملت ايش؟ قلّلت الـ value

535
00:42:42,620 --> 00:42:46,360
اللي موجودة، قلّلت الـ value اللي موجودة عندي

536
00:42:46,360 --> 00:42:53,260
وبالتالي قلّلت الـ decision rules تبعي، لكن لاحظ إن

537
00:42:53,260 --> 00:42:56,840
تاريخ الميلاد والـ age اللي كتب معاه نفسه من الـ

538
00:42:56,840 --> 00:43:04,190
2005 وكتبت الـ age 15، ما فقدتش المعلومة تبعي، مظبوط؟

539
00:43:04,190 --> 00:43:07,090
والأفضل من هيك لو جسمنا لفئات زي ما هنشوف كمان

540
00:43:07,090 --> 00:43:13,110
شوية، فمن الـ data transformation method لـ smoothing

541
00:43:13,110 --> 00:43:19,430
method، لما عملت binning، عبارة عن smoothing method

542
00:43:19,430 --> 00:43:24,190
الـ regression smoothing method، بس هدفها الأساسي

543
00:43:24,190 --> 00:43:30,110
تخلص من الـ noise. واحد يقول ليه الـ smoothing

544
00:43:30,110 --> 00:43:33,650
حطيناها من الـ transformation؟ الـ data أخدت صور

545
00:43:33,650 --> 00:43:38,150
مختلفة، البن الأولى أخدت قيمة بدل كل القيم اللي

546
00:43:38,150 --> 00:43:42,810
كانت في البن، ايش أخدت؟ أخدت الـ median أو أخدت الـ

547
00:43:42,810 --> 00:43:47,870
mean، أربعة، فبالتالي القيم تغيّرت، كانت شكل وصارت شكل

548
00:43:47,870 --> 00:43:54,190
آخر، الـ values اللي عندي كانت 17 مليون

549
00:43:57,970 --> 00:44:01,050
الأرقام هذه كبيرة، ما بتتناسبش مع الـ computation

550
00:44:01,050 --> 00:44:06,770
تبعي، فأنا بدي أخليها 1.7، كذلك الـ 18 والـ 20 مليون

551
00:44:06,770 --> 00:44:13,410
الـ 20 صارت 2، والـ 1.5 صارت .15 وهكذا، فهذا التحوير

552
00:44:13,410 --> 00:44:18,170
الـ data كانت في صورة وصارت في صورة مختلفة

553
00:44:22,870 --> 00:44:26,570
God، كان بهدف التخلص من الـ Noise، تمام؟ لكن

554
00:44:26,570 --> 00:44:30,010
فعلياً، فعلياً الـ Data اللي صارت موجودة في الـ

555
00:44:30,010 --> 00:44:35,310
Attribute هي عبارة عن New Transformation، تحوّر للـ

556
00:44:35,310 --> 00:44:38,830
Data، جديدة، لأ؟ ضالت الـ Original Data؟ لأ،

557
00:44:38,830 --> 00:44:41,750
فعلياً صار عليها تحوّر، عشان هيك ذكرناها أول واحدة،

558
00:44:41,750 --> 00:44:46,370
لأنها مرت علينا سابقاً. الـ Aggregation، أنا فعلياً

559
00:44:46,370 --> 00:44:50,810
ممكن أروح أضيف أو أعمل شغلات، يعني الآن بروح بقولي

560
00:44:50,810 --> 00:44:56,410
والله بدنا نحسب.. نحاول نتنبأ إن الموظف الحكومي

561
00:44:56,410 --> 00:45:05,490
بعد كم سنة ممكن يشتري بيت، يا

562
00:45:05,490 --> 00:45:09,940
عم الله يرزق الجميع من فضله إن شاء الله. أنا عندي

563
00:45:09,940 --> 00:45:14,120
الراتب الشهري، لكن عادة الراتب الشهري مبلغ قليل

564
00:45:14,120 --> 00:45:17,620
ما حدش بيدور عليه في التعاملات اللي زي هذه، بروح بده

565
00:45:17,620 --> 00:45:21,620
الراتب السنوي، طب أنا ما عنديش الراتب السنوي، عندي بس

566
00:45:21,620 --> 00:45:27,000
الراتب الشهري، بأضربه بـ 12، بأضربه بـ 12، مظبوط؟ ايش

567
00:45:27,000 --> 00:45:30,800
سويت.. كل السنوات، وأنا بعملية ضرب بس، فعلياً نقلت

568
00:45:30,800 --> 00:45:36,070
الـ data من Range وحطّت لي إياها في Range مختلف، وهذه برضه

569
00:45:36,070 --> 00:45:39,210
Transformation، فنسمّيها إحنا Aggregation

570
00:45:39,210 --> 00:45:42,450
Transformation أو Aggregate Transformation

571
00:45:42,450 --> 00:45:46,530
Generalization، لما أنا بأتكلم إن الـ data الـ set

572
00:45:46,530 --> 00:45:53,330
تبعته بتتبع Hierarchy معيّنة، زي ايش؟ أنا في عندي الـ

573
00:45:53,330 --> 00:46:00,930
country، وفي عندي الـ set الـ state، وعندي

574
00:46:02,180 --> 00:46:08,860
الـ city، وعندي الـ neighborhood، الحي

575
00:46:08,860 --> 00:46:18,100
وعندي الـ street مثلاً، شو

576
00:46:18,100 --> 00:46:24,100
علّقت هدول في بعض، الشارع، عنوان، تفصيل العنوان، الشارع

577
00:46:24,100 --> 00:46:27,040
موجود في حي، والحي موجود في مدينة، والمدينة موجودة

578
00:46:27,040 --> 00:46:32,290
في ولاية، والولاية بتتبع دولة. أنا الآن العنوان اللي

579
00:46:32,290 --> 00:46:39,890
موجود عندي مكتوب لحالة مستوى الشارع، غزة

580
00:46:39,890 --> 00:46:45,010
الرمال، شارع عمرو بن عبد العزيز، هذا بس عشان يُذكر

581
00:46:45,010 --> 00:46:52,070
خلال اليومين الماضيات في الأخبار طبعاً؟ الآن، طب هل

582
00:46:52,070 --> 00:46:55,150
التفاصيل هذه بهمّني أنا؟ طب ما هي الـ redundant

583
00:46:55,150 --> 00:47:00,180
value، أو عفواً، القيم الكتيرة المختلفة هذه؟ برضه

584
00:47:00,180 --> 00:47:03,060
بتصعّب موضوع الـ decision تبعي، طب ما هي الرمال كلها

585
00:47:03,060 --> 00:47:09,420
منطقة واحدة، فأنا بدي أستغني عن الـ street، وأصير

586
00:47:09,420 --> 00:47:13,760
أتكلم على الـ neighborhood، وحتى الـ neighborhood مش

587
00:47:13,760 --> 00:47:19,660
فارق كبير، رمال وشجاعية مش فارق كتير، تمام؟ فأنا هضطر

588
00:47:21,060 --> 00:47:24,080
لاحظ إنه لما أنا بأتكلم على transformation يا جماعة

589
00:47:24,080 --> 00:47:27,020
الخير، لاحظوا يا جماعة الخير إنه لما أنا بأعمل

590
00:47:27,020 --> 00:47:33,720
transformation، بحوّل الـ value من street لـ

591
00:47:33,720 --> 00:47:38,340
neighborhood أو لـ city، فقدت معلومات؟ لأ، هي

592
00:47:38,340 --> 00:47:41,220
نفس المعلومات، نفس الـ representation، بس أنا مش

593
00:47:41,220 --> 00:47:44,200
بحاجة لـ two details، هاي، هذا برضه بنسمّيه

594
00:47:44,200 --> 00:47:48,810
transformation، الـ Normalization، الـ Normalization

595
00:47:48,810 --> 00:47:56,310
فعلياً أنا بدي أروح أعمل Scaling للـ Data، Scaling

596
00:47:56,310 --> 00:47:59,710
زي ما قلنا، 17 مليون، أو الأرقام اللي عندي كبيرة

597
00:47:59,710 --> 00:48:03,130
فبدي أروح أقلّلها، أو بدي أحطّها ضمن Range معيّن، وهنا

598
00:48:03,130 --> 00:48:07,910
بدنا عمليات حسابية، وهذه هروح لها بتفاصيل الآن. الـ

599
00:48:07,910 --> 00:48:11,330
Attribute Construction، زي ما قلت، أنا عندي تاريخ

600
00:48:11,330 --> 00:48:14,810
الميلاد، و تاريخ الميلاد ما بديش ايه؟ ما بديش إياه، بدي

601
00:48:14,810 --> 00:48:20,030
أحط الـ age، أو بدي أبني الفئة العمرية، وكل التفاصيل

602
00:48:20,030 --> 00:48:25,450
هاي كلها عبارة عن different transformation للـ data

603
00:48:25,450 --> 00:48:31,030
كمان مرة، transformation لا يعني إن أنا القيمة

604
00:48:31,030 --> 00:48:35,150
تغيّرت، جوهر الـ value موجود، لكن الصورة اللي ظهرت

605
00:48:35,150 --> 00:48:37,950
عليها مختلفة

606
00:48:38,930 --> 00:48:44,390
طيب، الآن بدنا نروح على الـ Transformation اللي له

607
00:48:44,390 --> 00:48:47,190
علاقة بالـ Normalization، لأن هنا في عندي

608
00:48:47,190 --> 00:48:50,770
Mathematical Forms لازم أفهمها كويس، وأفهم النتيجة

609
00:48:50,770 --> 00:48:53,910
من كل واحدة فيهم. كل الكلام اللي إحنا قلناه سابقاً

610
00:48:53,910 --> 00:48:57,380
جربنا الـ smoothing والـ aggregation، بسيطة، هي عبارة

611
00:48:57,380 --> 00:49:00,480
عن computation بسيطة، ممكن تصير موجودة عندي، والـ

612
00:49:00,480 --> 00:49:03,420
generalization ما فيش عليها شغل كتير زي ما إحنا

613
00:49:03,420 --> 00:49:

667
00:53:44,680 --> 00:53:48,700
الان

668
00:53:48,700 --> 00:53:52,420
كمان مرة شو رايك هاي الـ .. هاي الـ two attributes و

669
00:53:52,420 --> 00:53:57,020
بدك ترسملي إياها على two-D plane مالهاش علاقة بالـ

670
00:53:57,020 --> 00:54:02,560
mining الآن، تمام؟ شو الـ scale اللي بدك تستخدمه؟

671
00:54:02,560 --> 00:54:07,180
بدك تستخدم واحد، اثنين، ثلاثة، أربعة، خمسة، ستة؟

672
00:54:07,180 --> 00:54:15,250
ولا واحد من عشرة؟ ولا مئة؟ ممتاز إذا أنت أخدت

673
00:54:15,250 --> 00:54:18,790
المئة، إذا أخدت المئة يعني الصحيحة، التهاني من صفر

674
00:54:18,790 --> 00:54:24,550
لمئة، كل الـ values تبع الـ attribute هذا هتيجيك في

675
00:54:24,550 --> 00:54:27,950
النقطة هاي، هتيجيك وكأنه معمول في النقطة هاي مش

676
00:54:27,950 --> 00:54:32,970
هيبينه، ليش؟ لأنه الـ range تبعك اللي أنت اعتمدتها

677
00:54:32,970 --> 00:54:38,250
يا تناسب، وإذا اعتمدت واحد من عشرة بالمئة هتيجي هنا

678
00:54:40,520 --> 00:54:43,140
مصبوط؟ وبالتالي ما فيش مجال الرسم inconsistent

679
00:54:43,140 --> 00:54:49,400
حيكون، أو مش هتقدر ترسمهم من الآخر، ما فيش حل إلا أن

680
00:54:49,400 --> 00:54:54,020
بدي أعمل معيار للرسم بين الاثنين، إما بدي أنزل هذا

681
00:54:54,020 --> 00:54:57,920
لنفس الـ scale، أو بدي أرفع هذا لنفس الـ scale اللي

682
00:54:57,920 --> 00:55:05,780
موجود، وعلى الحالتين صح، مين الأسهل؟ أنزل، قول بدي

683
00:55:05,780 --> 00:55:12,420
أُجسّمه عالميًا، بيصير هذا واحد وهذا عشرة، لاحظ الـ

684
00:55:12,420 --> 00:55:20,520
range الآن بقى يختلف، صفر لواحد وواحد لعشرة، نوعًا ما

685
00:55:20,520 --> 00:55:23,840
قريب، لكن برضه ممكن أنا إيش راح أساوي؟ أحط بنفس الـ

686
00:55:23,840 --> 00:55:26,580
range، ما بدي أجسّم عالميًا، أنا أجسّم على الـ

687
00:55:33,500 --> 00:55:37,500
صار عندي إيش؟ نفس الـ scale exactly، وأنا ما فقدتش من

688
00:55:37,500 --> 00:55:42,320
قيمة البيانات ولا حاجة، هذا الكلام نفسه .. نفسه

689
00:55:42,320 --> 00:55:45,440
بهمني لما يكون الـ algorithm تبعي، الـ machine

690
00:55:45,440 --> 00:55:47,920
learning algorithm اللي بيشتغل في الـ mining task

691
00:55:47,920 --> 00:55:51,900
تكون data set أو attribute، الـ values تبعته صغيرة

692
00:55:51,900 --> 00:55:56,480
جدا، والـ attribute الثاني، الـ value تبعته كبيرة جدا

693
00:55:57,410 --> 00:56:00,830
تبقى عندي mismatch في التعامل، فأفضل حاجة إيش أسوي؟

694
00:56:00,830 --> 00:56:04,510
أن أحاول أعمل normalization لكل الـ data تكون كلها

695
00:56:04,510 --> 00:56:10,090
على range واحد، فالـ scaling هذه أو الـ normalization

696
00:56:10,090 --> 00:56:14,810
هذه مهمة جدا بالنسبة لنا، الـ

697
00:56:14,810 --> 00:56:18,390
Z-score أو الـ normalization أو الـ zero score

698
00:56:18,390 --> 00:56:22,510
normalization، أو زي ما بتسميها في Python: standard

699
00:56:22,510 --> 00:56:25,550
scalar، standard scalar

700
00:56:28,890 --> 00:56:32,550
في عندنا الـ Min-Max Normalization أو Min-Max Scalar

701
00:56:32,550 --> 00:56:37,450
وفي عندنا الـ Decimal Scalar أو Decimal Scaling أو

702
00:56:37,450 --> 00:56:43,030
Decimal Normalization، نبدأ مع الـ Zero Score أو مع

703
00:56:43,030 --> 00:56:47,070
الـ Z-min أو الـ Z-Score، كلها نفس المصطلحات أو نفس

704
00:56:47,070 --> 00:56:51,590
العنصر، Standard Scalar، بتكلم على الـ Zero-Min

705
00:56:51,590 --> 00:56:57,270
Normalization، Zero-Min Normalization، مفهومها بكل

706
00:56:57,270 --> 00:57:03,450
بساطة يا جماعة الخير، إنها احنا فعليًا بحاجة، طبعًا عشان

707
00:57:03,450 --> 00:57:05,650
في مثال أنا كتبته عند الطالبات، المحاضرة الجاية

708
00:57:05,650 --> 00:57:08,470
اللي بدي إياه نفسه، ما فيش داعي أن أختار مثال جديد

709
00:57:08,470 --> 00:57:15,470
مفهومها إنه بدي أحول الـ attribute هذا لـ attribute

710
00:57:15,470 --> 00:57:19,110
أو لـ value، أحوّل الـ data اللي فيه لـ value مختلفة

711
00:57:19,110 --> 00:57:24,590
بحيث أن المتوسط الحسابي تبع الـ new form يكون صفر

712
00:57:24,590 --> 00:57:30,160
عشان هيك اسمه Z من الـ zero، أو Z-Mean، Zero-Mean،

713
00:57:30,160 --> 00:57:34,460
Zero-Score أو Zero-Mean، مفهومها إنه بعد ما أنا

714
00:57:34,460 --> 00:57:40,100
أحوّل الـAttribute، أحوّل الـAttribute، بده يكون

715
00:57:40,100 --> 00:57:44,460
الـMean تبعه صفر، ليش هذا الكلام مهم؟ لأنه كثير من

716
00:57:44,460 --> 00:57:47,420
العمليات الحسابية المرتبطة بالـ Machine Learning

717
00:57:47,420 --> 00:57:50,700
Algorithm لها علاقة بالـMean والـStandard

718
00:57:50,700 --> 00:57:56,610
Deviation، فإذا أنا قدرت أحول الـMean لـ0، فبتصير

719
00:57:56,610 --> 00:58:03,110
العمليات الحسابية تبعيتي أسهل ما يمكن، لو أنت بقيت

720
00:58:03,110 --> 00:58:06,810
تضرب بصفر، خلاص بس الـ term اللي أنا جيت فيه، term

721
00:58:06,810 --> 00:58:10,370
صفر، خلصنا، لو بدي أجمع صفر مع أن ما فيش عندي تغيير

722
00:58:10,370 --> 00:58:14,770
وهذا هو الهدف الأساسي من الـ normalization هنا، إنه

723
00:58:14,770 --> 00:58:17,970
أنا عامةً في الـ transformation عمالي بحاول أبدأ

724
00:58:17,970 --> 00:58:22,070
أقلل من الـ cost أو الـ computational cost اللي ممكن

725
00:58:22,070 --> 00:58:27,930
تصير عندي، فالـ Zero mean أو الـ Z-score هدفها أنه

726
00:58:27,930 --> 00:58:31,890
للـ feature هذا تكون قيمة الـ mean، المتوسط الحسابي

727
00:58:31,890 --> 00:58:38,670
صفر، والـ variance أو الانحراف المعياري تبعته جدًّا قريب من واحد

728
00:58:38,670 --> 00:58:46,410
عبر المعادلة اللي موجودة عندنا هنا، طبعًا ميزة

729
00:58:46,410 --> 00:58:50,370
الـ scaling هذا إنه ما فيش minimum وما فيش maximum

730
00:58:50,370 --> 00:58:54,480
لكن بتروح تتطبق حسب القانون، القيمة الجديدة اللي هي

731
00:58:54,480 --> 00:59:00,840
الـ Z تساوي القيمة السابقة X ناقص المتوسط الحسابي

732
00:59:00,840 --> 00:59:06,660
على الانحراف المعياري تبع الـ value اللي موجودة

733
00:59:06,660 --> 00:59:12,240
عندها، عشان تظهر الصورة، الأرقام اللي عندي أنا: عشرة،

734
00:59:12,240 --> 00:59:18,000
خمسة عشر، عشرة، خمسة عشر، عشرين

735
00:59:24,250 --> 00:59:27,910
هذه الـ A original، الـ attribute O، الـ attribute

736
00:59:27,910 --> 00:59:33,030
الأصلي، الـ values اللي فيه، الـ values اللي فيه، تمام

737
00:59:33,030 --> 00:59:38,590
هايهم خمس قيم، عشان أقدر أشتغل مع هذا أو أطبق عليه

738
00:59:38,590 --> 00:59:43,910
الـ Z-score، شو بدي أساوي؟ بدي أحسب المتوسط الحسابي

739
00:59:43,910 --> 00:59:50,250
هاي، المتوسط الحسابي يساوي المجموع على العدد، عشرة،

740
00:59:50,250 --> 00:59:57,500
عشرين، وبتهيأ لي فيه كمان واحدة، هم خمس قيم، خمسة عشر

741
00:59:57,500 --> 01:00:04,980
عشرين، تمام، سبعين على خمسة، كده الشباب، سبعين على

742
01:00:04,980 --> 01:00:12,020
خمسة، يا

743
01:00:12,020 --> 01:00:17,640
عيني عليكم، عشان هيك يا حبايبنا تعمل حسابك، تعمل

744
01:00:17,640 --> 01:00:21,700
حسابك، تجيب الـ calculator تبعك، أنا بالنسبة لي

745
01:00:25,870 --> 01:00:29,150
هيها أه، مش هسمح لك تستخدم الجوال ولا في الامتحان،

746
01:00:29,150 --> 01:00:32,830
هسمح لك تستخدم الجوال، فأنت ما شاء الله يعني لسة عن

747
01:00:32,830 --> 01:00:35,470
بارح طالع من الثانوية العامة، أو إذا في عندك حدا

748
01:00:35,470 --> 01:00:41,010
فهي .. هي، فهي لك، إذا في حد أخدها من وراك تلفها

749
01:00:41,010 --> 01:00:47,710
منه، ضروري من اليوم وطالع في عندنا حساب، لأ، حساب

750
01:00:47,710 --> 01:00:51,230
عشان ما أخوف cash، لأن هاي، وما شاء الله عليك أنت في

751
01:00:51,230 --> 01:00:56,110
القسمة، الـ 70 على 5، أثبتتي بالدليل القاطع إنك

752
01:00:56,110 --> 01:01:05,030
ناجح إن شاء الله، طيب، الآن خلاص حسبت الـ mean، الآن

753
01:01:05,030 --> 01:01:08,710
إيش بقول له؟ الانحراف المعياري أو الـ sigma تساوي

754
01:01:08,710 --> 01:01:14,110
الجذر التربيعي للفروقات ما بين الـ mean على العدد

755
01:01:26,700 --> 01:01:32,460
عشرة، أربعة عشر ناقص عشرة تربيع، أربعة عشر ناقص عشرة

756
01:01:32,460 --> 01:01:36,680
تربيع، أربعة عشر ناقص عشرين تربيع، أربعة عشر

757
01:01:36,680 --> 01:01:42,880
ناقص عشرين تربيع، أربعة عشر ناقص عشرين تربيع، أربعة

758
01:01:42,880 --> 01:01:43,720
عشر ناقص عشرين تربيع، أربعة عشر ناقص عشرين تربيع

759
01:01:43,720 --> 01:01:44,240
أربعة عشر ناقص عشرين تربيع، أربعة عشر ناقص عشرين

760
01:01:44,240 --> 01:01:49,650
تربيع، أربعة عشر ناقص عشرين تربيع، أربعة عشر ناقص 16، 1

761
01:01:49,650 --> 01:02:04,310
16، 1، 36، مصبوط، أنا حسبت المربعات، الآن 16 و16، 32، و

762
01:02:04,310 --> 01:02:16,360
32 و2، 34، و36، 70، الآن الـ sigma تساوي الجذر

763
01:02:16,360 --> 01:02:22,900
التربيعي لـ 70 على 5، اللي هي جذر الـ 14، اللي هي

764
01:02:22,900 --> 01:02:29,840
تقريبًا قد ايش؟ ثلاثة

765
01:02:29,840 --> 01:02:34,060
أو كسر، صح؟

766
01:02:34,060 --> 01:02:37,400
ما هو لما أنت تكتب ثلاثة فاصلة جذر، مش عارف قد ايش، مش هتحصل

767
01:02:37,400 --> 01:02:43,020
لنتيجة ثلاثة

768
01:02:43,020 --> 01:02:50,630
فاصلة أربعة وسبعين، جذر

769
01:02:50,630 --> 01:02:57,510
الـ 14 هذا بنسميه الانحراف المعياري للـ data set

770
01:02:57,510 --> 01:03:03,290
أو للـ attribute اللي عندي، sigma، لسة احنا ما خلصناش،

771
01:03:03,290 --> 01:03:08,370
أنا كل اللي سوّيته جبت المعاملات بتاعة المعادلة هاي،

772
01:03:08,370 --> 01:03:13,740
جبت الـ mu، جبت الـ sigma، هلاّ بدي أجيب Z، زد لمين يا

773
01:03:13,740 --> 01:03:18,260
جماعة الخير؟ لكل قيمة من هدول، لكل قيمة من هدول، احنا

774
01:03:18,260 --> 01:03:27,880
خلصنا هذا، الآن بقدر أمسحه، الـ

775
01:03:27,880 --> 01:03:32,420
attribute new، قيمة

776
01:03:32,420 --> 01:03:40,550
القيمة الجديدة تساوي X ناقص ميو على ثلاثة فاصلة أربعة وسبعين، يعني

777
01:03:40,550 --> 01:03:45,910
بتكون عشرة ناقص أربعة عشر على ثلاثة فاصلة أربعة وسبعين، ولا كيف؟ بده يكون في الآخر المتوسط

778
01:03:45,910 --> 01:03:52,530
الحسابي صفر، لازم تكون قيم موجبة وقيم سالبة، لأنه في

779
01:03:52,530 --> 01:03:57,970
الآخر صفر على أي شيء، العدد مستحيل يكون صفر، فلازم

780
01:04:02,390 --> 01:04:06,530
البسط يطلع معك صفر، مجموع القيم، فبتطلع هذه سالب

781
01:04:06,530 --> 01:04:14,240
بالنسبة للأولى، أربعة على ثلاثة فاصلة أربعة وسبعين،

782
01:04:14,240 --> 01:04:17,340
سالب

783
01:04:17,340 --> 01:04:22,440
واحد فاصلة صفر سبعة، هم الـ rounding للرقمين،

784
01:04:22,440 --> 01:04:25,700
هتكون

785
01:04:25,700 --> 01:04:31,300
عندي عشرة ناقص، أو عفواً، خمسة عشر ناقص أربعة عشر على

786
01:04:31,300 --> 01:04:37,040
ثلاثة فاصلة أربعة وسبعين، اعتمد

787
01:04:37,040 --> 01:04:38,900
يا أبو حاسم، ولا في شك في الكلام

788
01:04:43,490 --> 01:04:49,430
26% غلط، لأنه بدنا نعمل rounding، عندك 6 أو 7 يا

789
01:04:49,430 --> 01:04:56,250
باشا، عشان أضمن تصفّر معايا المسألة، الآن عشرة، نفس

790
01:04:56,250 --> 01:05:00,890
القيمة اللي فوق، 1

791
01:05:00,890 --> 01:05:07,610
فاصلة 0715

792
01:05:07,610 --> 01:05:11,990
فاصلة 27، الآن

793
01:05:14,240 --> 01:05:25,220
1 فاصلة 6، أنا بتذكرها هي صحيحة، 1 فاصلة 6، تمام؟ الآن متوسط

794
01:05:25,220 --> 01:05:32,460
الحساب الجديد يساوي، أجمع

795
01:05:32,460 --> 01:05:40,840
العناصر هدول على عددهم، عددهم خمسة، سالب

796
01:05:40,840 --> 01:05:41,240
واحد

797
01:05:44,090 --> 01:05:52,350
لأن أنت ما ترَهِلش، أنت بتجمع القيمتين هدول وبالتالي

798
01:05:52,350 --> 01:05:59,410
الـ mean تبعيتي قد ايش صارت؟ صفر، لازم يطلع صفر، اللي مش

799
01:05:59,410 --> 01:06:04,250
مصدق يجمعهم يا شباب، مش مشكلة عندي، تمام، فالـ mean

800
01:06:04,250 --> 01:06:10,950
صفر، الانحراف المعياري الجديد يساوي الجذر التربيعي

801
01:06:10,950 --> 01:06:18,430
للفروقات هدول، أو للقيم هدول تربيع، الفروق مع الـ

802
01:06:18,430 --> 01:06:27,890
mean، الـ mean صفر، فتربيع القيم هذه: 1 فاصلة 07 زائد 0 فاصلة 27

803
01:06:27,890 --> 01:06:40,490
زائد 1 فاصلة 7 تربيع، زائد 0 فاصلة 27 تربيع، زائد 1 فاصلة 6 تربيع، هدول

804
01:06:40,490 --> 01:06:43,330
مجموعهم خمسة، على خمسة

805
01:06:48,310 --> 01:06:51,770
واحد، أه، لازم يطلع واحد، لو ما طلع واحد ما أنتم في

806
01:06:51,770 --> 01:06:57,470
عندكم مشكلة، لو ما طلع واحد في عندكم مشكلة في الحساب،

807
01:06:57,470 --> 01:07:02,890
ممكن الأرقام مشكلة، لا يا باشا، الأرقام إيش ما كانت

808
01:07:02,890 --> 01:07:07,950
إذا تطبّق عليها الـ Z-score لازم إنها تجي يطلع الـ

809
01:07:07,950 --> 01:07:11,030
mean صفر، والـ standard deviation واحد

810
01:07:13,890 --> 01:07:18,810
تمام؟ تمام، إيش

811
01:07:18,810 --> 01:07:27,210
استفدت؟ الآن أنا عملت scaling .. scaling لمين؟ للـ

812
01:07:27,210 --> 01:07:32,090
A الأصلية اللي موجودة عندي، بقيم جديدة، عملت

813
01:07:32,090 --> 01:07:36,970
transformation، مظبوط؟ القيمة هذه تمثل العشرة، والـ

814
01:07:36,970 --> 01:07:41,630
27 تمثل .. الـ 27 من 100 تمثل 15، يعني حطيتها في

815
01:07:41,630 --> 01:07:45,130
Range جديد، الـ Range الجديد هذا ما فقدش قيمته

816
01:07:45,130 --> 01:07:52,390
مطلقًا، لكن كان فيه لميزة، قال لي إن المتوسط الحسابي

817
01:07:52,390 --> 01:07:57,610
تبع القيم هدول صفر، والانحراف المعياري واحد، كثير من

818
01:07:57,610 --> 01:08:00,370
الـ machine learning algorithm، جامعة الخير، بتنبني

819
01:08:00,370 --> 01:08:05,390
على حسبة الـ mean والانحراف المعياري، فلما أنا بأضمن

820
01:08:05,390 --> 01:08:09,320
الـ mean صفر، معناته كثير من العمليات أو من الـ terms

821
01:08:09,320 --> 01:08:12,800
هعملها neglect، هاختصرها في الـ computation، ولا لأ؟

822
01:08:12,800 --> 01:08:16,400
لما بتكون العمليات ضرب وبحصل على واحد في الـ

823
01:08:16,400 --> 01:08:21,140
standard deviation، هذا الكلام كله بِخدمني في تسريع

824
01:08:21,140 --> 01:08:23,980
عملية الـ learning اللي هتصير عند الـ data mining أو

825
01:08:23,980 --> 01:08:27,940
في مرحلة الـ mining أو الـ data mining tasks، هالكلام

826
01:08:27,940 --> 01:08:32,920
هذا مطلوب من ناحية عملية، من ناحية عملية، الـ standard

827
01:08:32,920 --> 01:08:37,340
scalar موجودة في Python as a function، تستدعيها و

828
01:08:37,340 --> 01:08:39,800
بتقول له تديها اسم الـ attribute وبتعمل generate لـ

829
01:08:39,800 --> 01:08:48,540
attribute مباشرة، بس لازم تحفظ وتفهم إيش اللي بيصير

830
01:08:48,540 --> 01:08:52,240
لأنه بكل بساطة لاحقًا ممكن أَديك sequence من خمس

831
01:08:52,240 --> 01:08:55,960
عناصر زي هيك وأقول لك روح أنا بدي نعمل

832
01:08:55,960 --> 01:08:58,900
transformation للـ data set هذه بحيث إنك تتناسب مع

833
01:08:58,900 --> 01:09:02,500
الـ task الفلانية، بتطبيق الـ algorithm الفلاني

835
01:09:06,680 --> 01:09:11,320
أيوة، سؤال مهم، أحمد فاروق بيقول: جديش الـ scale؟ ما فيش

836
01:09:11,320 -->