abdullah's picture
Add files using upload-large-folder tool
25b5648 verified
raw
history blame
77.6 kB
1
00:00:05,080 --> 00:00:07,260
بسم الله والحمد لله والصلاة والسلام على رسول الله
2
00:00:07,260 --> 00:00:10,540
اليوم إن شاء الله تعالى هنكمل في موضوع الـ data
3
00:00:10,540 --> 00:00:13,800
cleaning كنا المحاضرة الماضية اللي اشتغلنا فيه
4
00:00:13,800 --> 00:00:19,820
موضوع الـ missing data واليوم إن شاء الله تعالى
5
00:00:19,820 --> 00:00:25,720
هنشتغل في موضوع الـ noisy data الآن في الـ noisy
6
00:00:25,720 --> 00:00:29,060
data قلنا إحنا الـ noise data مفهومها إن أنا في
7
00:00:29,060 --> 00:00:33,890
عندي خطأ لسبب error معين، الـ error ده ممكن يكون
8
00:00:33,890 --> 00:00:37,950
الناتج عنه من human entry أو فيه fault في الـ
9
00:00:37,950 --> 00:00:41,190
instrument اللي أنا جمعت من خلالها الـ data، وقلنا
10
00:00:41,190 --> 00:00:44,430
من أشهر الأمثلة اللي أنا بتكلم عليها على الـ noise
11
00:00:44,430 --> 00:00:50,130
data، الراتب يكون بالسالب بغض النظر عن كانت إيش
12
00:00:50,130 --> 00:00:53,890
الأخطاء، إيش الشغلات اللي أنا فعلياً محتاجها عشان
13
00:00:55,040 --> 00:00:59,320
أعرض أو أتعامل مع الـ data set اللي موجودة عندنا
14
00:00:59,320 --> 00:01:01,900
كيف بدي أعمل لها handling؟ من أشهر الطرق اللي
15
00:01:01,900 --> 00:01:05,680
موجودة عندنا موضوع الـ binning، وما المقصود في الـ
16
00:01:05,680 --> 00:01:10,520
binning؟ إنه أنا فعلياً بدي أروح أجسم الـ data set
17
00:01:10,520 --> 00:01:17,850
تبعي لمجموعات، وكل مجموعة هتمثل، سيبني يا عمر، كل
18
00:01:17,850 --> 00:01:21,870
مجموعة هتتمثل بقيمة معينة، القيمة دي ممكن تكون الـ
19
00:01:21,870 --> 00:01:25,050
mean، ممكن تكون الـ median، أو ممكن تكون بقيمتين عشان
20
00:01:25,050 --> 00:01:28,150
أمثل المجموعة لو اعتمدت على الـ boundaries، لكن في
21
00:01:28,150 --> 00:01:32,630
شغل مهم جداً مع الـ binning، اللي هي الموضوع إنه أنا
22
00:01:32,630 --> 00:01:35,810
فعلياً الـ partition تبع الـ bin، الـ partition تبعي
23
00:01:35,810 --> 00:01:39,770
هاي أو الـ bin، قديش حجمها بده يكون؟ هل هتكلم على
24
00:01:39,770 --> 00:01:44,980
equal frequency، يعني فعلياً كل الـ bins هيكونوا نفس
25
00:01:44,980 --> 00:01:50,480
العدد، ولا هتكلم على الـ equal depth؟ باجي الـ equal
26
00:01:50,480 --> 00:01:54,120
depth، أنا باجي فكرتها إنه أنا أجسم المجموعات تبع
27
00:01:54,120 --> 00:01:57,800
الـ intervals، أجي أقول من عشرة مثلاً، من واحد لعشرة
28
00:01:57,800 --> 00:02:02,860
الـ interval الأولى، من عشرة، عفواً من 11 لعشرين، الـ
29
00:02:02,860 --> 00:02:06,260
interval الثانية، من واحد وعشرين لثلاثين، الـ
30
00:02:06,260 --> 00:02:10,360
interval الثالثة، بغض النظر عن الأعداد اللي بدها
31
00:02:10,360 --> 00:02:14,160
تكون في كل interval، هذه بنسميها إيش؟ equal
32
00:02:14,160 --> 00:02:18,060
depth، بينها وبين الـ equal frequency، إن كل partition
33
00:02:18,060 --> 00:02:23,760
في نفس العدد من الـ elements، لكن عشان فعلياً أطبق
34
00:02:23,760 --> 00:02:29,740
أنا الـ binning، لازم في البداية أعمل sort للـ data
35
00:02:29,740 --> 00:02:36,350
لو ما عملتش sort، كل شغلك غلط على الفاضي، لكن في موضوع
36
00:02:36,350 --> 00:02:40,370
الـ equal depth، ممكن أنا اشتغل إذا أنا فاهم الـ
37
00:02:40,370 --> 00:02:44,830
minimum والـ maximum تبعي قديش، بقدر أعمل استخدام
38
00:02:44,830 --> 00:02:48,210
و عارف إيش الـ range اللي ممكن تخدمني الـ intervals
39
00:02:48,210 --> 00:02:50,430
ممكن اشتغل، لأنه في الآخر بدي أصبح الـ
40
00:02:50,430 --> 00:02:53,410
representation لكل رقم بالـ interval اللي موجودة
41
00:02:53,410 --> 00:02:57,890
عندها، تعالوا نشوف مع بعض الـ binning، الآن العملية
42
00:02:57,890 --> 00:02:59,370
الثانية اللي هتكلم عليها، الـ regression والـ
43
00:02:59,370 --> 00:03:02,030
clustering، بعدين كنا إحنا بدنا مع الـ binning والـ
44
00:03:02,030 --> 00:03:05,570
الرقم واحد، كنا بدنا نعمل sort، وبالمثال هذا هشتغل
45
00:03:05,570 --> 00:03:09,510
على equal frequency، equal frequency قال لي أنا الآن
46
00:03:09,510 --> 00:03:10,990
بدي اشتغل على three bins
47
00:03:19,150 --> 00:03:22,830
الآن يا جماعة الخير، لو كان في عندي plus أو minus
48
00:03:22,830 --> 00:03:26,890
one في الـ interval، يعني لو كانت الـ interval تبعي
49
00:03:26,890 --> 00:03:34,150
هذه 13، رقم 27، مش big deal أو مش مشكلة، إن الرقم
50
00:03:34,150 --> 00:03:38,300
الأخير هذا ينضاف على الـ bin الأخيرة، طيب لو كان في
51
00:03:38,300 --> 00:03:43,000
عندي ثلاث أرقام، مخصصة، بن مخصصة، رقم واحد ما عندي مشكلة
52
00:03:43,000 --> 00:03:47,360
تكون الـ bin الأخيرة بأقل من digit، خصوصاً لما إحنا
53
00:03:47,360 --> 00:03:50,720
بنتكلم، أنا بدي أعمل handling لـ attribute، الـ
54
00:03:50,720 --> 00:03:53,740
attribute مش اثنا عشر value، اللي فيه ثلاثة عشر، ممكن
55
00:03:53,740 --> 00:03:57,100
يكون فيه ثلاثة عشر ألف value، فلما فعلياً أجي أقول
56
00:03:57,100 --> 00:04:01,980
والله بدي خصّه عندي مئة قيمة من الألف، مش قضية، لسه ما
57
00:04:01,980 --> 00:04:06,200
زال عندي فيه ٩٠٠ قيمة موجودات، وبأثرهم بشكل كويس، فالخطوة رقم واحد بعد ما أنا أعمل
58
00:04:06,200 --> 00:04:10,160
sort، أجسم المجموعات، عملت sort، بدي equal frequency
59
00:04:10,160 --> 00:04:15,140
أربعة، هاي واحدة، اثنين، ثلاثة، الخطوة رقم واحد sort
60
00:04:15,140 --> 00:04:23,160
الخطوة رقم واحد sort، الخطوة رقم اثنين تجسيمهم أو الـ partitioning
61
00:04:23,160 --> 00:04:25,860
الخطوة رقم اثنين، تجسيمهم أو الـ partitioning
62
00:04:25,860 --> 00:04:32,120
تبعتهم لمجموعات، الآن بعد هيك، القيام هذه مين فيها
63
00:04:32,120 --> 00:04:36,700
الـ noise؟ أنا فعلياً مش عارف هل هي الأربعة هي الـ
64
00:04:36,700 --> 00:04:39,680
noise، ولا الأربعة والثلاثين هي الـ noise، أنا فعلياً
65
00:04:39,680 --> 00:04:43,580
مش عارفها، لكن هذه الأربعة أو الأربعة والثلاثين، أنا
66
00:04:43,580 --> 00:04:49,120
فعلياً هخلص منها من خلال استبدالها بإيش؟ مع كل bin
67
00:04:49,120 --> 00:04:53,360
الآن ممكن أستبدلها بالقيمة الـ mean أو الـ median
68
00:04:53,360 --> 00:04:58,920
أو الـ value .. الـ .. عفواً القيم الـ boundaries، لو
69
00:04:58,920 --> 00:05:03,160
أنا بدأت أعتمد على الـ mean، هضطر أجمع ثمانية زائد
70
00:05:03,160 --> 00:05:06,140
أربعة .. أربعة زائد ثمانية زائد تسعة زائد خمسة عشر
71
00:05:06,140 --> 00:05:10,640
على أربعة، وأروح أستبدلهم، طلعت تسعة، بالتالي المجموعة
72
00:05:10,640 --> 00:05:15,640
الأولى كل element فيها بده يصير تسعة، كل element
73
00:05:15,640 --> 00:05:18,900
فيها بده يصير تسعة، المجموعة الثانية، المتوسطة
74
00:05:18,900 --> 00:05:22,670
الحسابية تبعها كانت ثلاثة وعشرين، ومن ثم الـ .. و
75
00:05:22,670 --> 00:05:26,050
هتكون ثلاثة وعشرون، والاخيرة تسعة وعشرون وهكذا
76
00:05:26,050 --> 00:05:31,470
لو أنا بدي اشتغل على الـ boundaries، مفهوم الـ
77
00:05:31,470 --> 00:05:36,270
boundaries، هيهم الأربعة والخمسة عشر، هدول للـ bin
78
00:05:36,270 --> 00:05:41,130
الأولى أو للـ partition الأولى، الآن الأربعة والخمسة عشر
79
00:05:41,130 --> 00:05:44,550
هدول هيكونوا ثابتات، لاحظ في الـ mean والـ median أنا
80
00:05:44,550 --> 00:05:48,010
كل الـ partition، الـ values تبع الـ partition
81
00:05:48,010 --> 00:05:51,970
بستبدلها بقيمة واحدة، مظبوط؟ اللي كانت بالـ mean أو
82
00:05:51,970 --> 00:05:56,190
الـ median، التسعة استبدلت كل القيم، لكن مع الـ part
83
00:05:56,190 --> 00:05:59,570
.. مع الـ boundaries point، بصير .. بتكلم على الـ
84
00:05:59,570 --> 00:06:04,830
partition الواحد في قيمتين، الـ minimum والـ maximum
85
00:06:04,830 --> 00:06:10,090
الآن باجي بدور على القيم اللي في النص، ثمانية أقرب
86
00:06:10,090 --> 00:06:14,240
لأي boundary، وبعملها replacement للـ boundary الأقرب
87
00:06:14,240 --> 00:06:21,660
٨ أقرب للـ ٤ أكيد، ومن ثم replace ٩ للـ ٤، لأن الفرق
88
00:06:21,660 --> 00:06:26,380
بينها وبين ٤ و بين ١٥ و بين ٦، فهي أقرب للـ ٤ وبالتالي
89
00:06:26,380 --> 00:06:31,380
بعملها replacement بالـ ٤، الآن نفس الـ ٢١، و٢١ و٢٤
90
00:06:31,380 --> 00:06:36,120
يصير ٢٥، هنا أقرب وهكذا، تمام؟ هذا مفهوم الـ
91
00:06:36,120 --> 00:06:40,200
boundaries، لكن تعالوا نشوف مثال، نبدأ فيه من البداية
92
00:06:40,200 --> 00:06:44,240
خالص، هنشتغل فيه كالتالي، حاجة أقول أنا في عندي مثلاً
93
00:06:44,240 --> 00:06:58,400
القيم بسيطة: سبعة، ثلاثة، ثمانية، سالب واحد، اثنين، خمسة،
94
00:06:58,400 --> 00:07:09,880
عشرة، تسعة، ستة، أربعة، اثنا عشر، وهي كمان مرة ثلاثة، مش
95
00:07:09,880 --> 00:07:14,420
هتفرق معايا الآن
96
00:07:14,420 --> 00:07:19,160
أنا بدي اشتغل أو بدي أعمل partition أو بدي أستخدم
97
00:07:19,160 --> 00:07:23,460
two partitions، الخطوة
98
00:07:23,460 --> 00:07:26,200
رقم واحد، طبعاً كمان مرة بيتكلم عن الـ equal
99
00:07:26,200 --> 00:07:31,700
frequency، equal frequency، هشتغل الآن، أول خطوة رقم
100
00:07:31,700 --> 00:07:44,830
واحد sort، هي سالب واحد، اثنين، ثلاثة، كمان ثلاثة عندي
101
00:07:44,830 --> 00:07:57,970
أربعة، خمسة، ستة، سبعة، ثمانية، تسعة، عشرة، هيك الـ
102
00:07:57,970 --> 00:08:01,990
data صارت sorted، أنا بتكلم على equal frequency
103
00:08:01,990 --> 00:08:04,210
equal frequency على two partitions، يعني أنا بدي
104
00:08:04,210 --> 00:08:12,630
أعدّهم من النص، ١، ٢، ٣، ٤، ٥، ٦، ٧، ٨، ٩، ١٠، ١١، ١٢، ٦ ما في
105
00:08:12,630 --> 00:08:17,290
عندي مشكلة، ١، ٢، ٣، ٤، ٥، ٦ هي الـ partition أو الـ bin
106
00:08:17,290 --> 00:08:25,930
الأولى، وهي الـ bin الثانية، الآن بالـ mean، لو أنا بدي
107
00:08:25,930 --> 00:08:30,610
أشتغل بالـ mean، بدي .. ما في عندي مشكلة، بدي أجمع، بدي
108
00:08:30,610 --> 00:08:34,850
أجمع العناصر وأجسمهم على عددهم، على ٦، مظبوط؟ بقى
109
00:08:34,850 --> 00:08:38,930
بالـ median، القيمة اللي بتيجي في النص، بما أن
110
00:08:38,930 --> 00:08:42,570
الأعداد اللي عندي هنا، أعداد، عدد العناصر أو عدد
111
00:08:42,570 --> 00:08:46,770
الـ bin زوجي، ما في قيمة في النص، فهجيب الـ average
112
00:08:46,770 --> 00:08:51,410
تبع القيمتين اللي في النص، ثلاثة وثلاثة، بقى أنا
113
00:08:51,410 --> 00:08:55,490
هتكلم بالـ median، ثلاثة
114
00:08:55,490 --> 00:09:00,830
وثلاثة، ستة على اثنين، ثلاثة، معناته الآن كل الـ bin
115
00:09:00,830 --> 00:09:05,450
هذه، بدون يعملها replacement بمين؟ بثلاثة ..
116
00:09:05,450 --> 00:09:07,710
ثلاثة .. ثلاثة .. ثلاثة .. ثلاثة .. ثلاثة .. ثلاثة
117
00:09:07,710 --> 00:09:07,950
.. ثلاثة .. ثلاثة .. ثلاثة .. ثلاثة .. ثلاثة ..
118
00:09:07,950 --> 00:09:08,030
ثلاثة .. ثلاثة .. ثلاثة .. ثلاثة .. ثلاثة ..
119
00:09:08,030 --> 00:09:08,990
ثلاثة .. ثلاثة .. ثلاثة .. ثلاثة .. ثلاثة ..
120
00:09:08,990 --> 00:09:10,670
ثلاثة .. ثلاثة .. ثلاثة .. ثلاثة .. ثلاثة ..
121
00:09:10,670 --> 00:09:11,390
ثلاثة .. ثلاثة .. ثلاثة .. ثلاثة .. ثلاثة ..
122
00:09:11,390 --> 00:09:19,130
ثلاثة .. ثلاثة .. ثلاثة .. ثلاثة ..
123
00:09:19,130 --> 00:09:25,690
ثلاثة .. ثلاثة .. تل
124
00:09:26,510 --> 00:09:30,190
أقول لك شغلة، حتى لو كانت، لو كانت الـ value تبعي
125
00:09:30,190 --> 00:09:36,070
هذه مش اثنا عشر، بدي أخليها واحد وعشرين عشان يكون في
126
00:09:36,070 --> 00:09:42,950
عندي outlier حقيقي وأنا بدي إيش أخلص منه، الآن
127
00:09:42,950 --> 00:09:46,790
مين عند الـ error أو الـ error واضح وين يا شباب؟ واضح
128
00:09:46,790 --> 00:09:51,710
عندي في السالب، لأن القيم كلهم موجبة، كل القيم موجبة
129
00:09:51,710 --> 00:09:56,070
باستثناء السالب واحد، وكلها قريبة من العشرة
130
00:09:56,070 --> 00:10:01,770
باستثناء الـ ٢١، هاي ليش أنا جيبت المثال ده بالتحديد؟
131
00:10:01,770 --> 00:10:05,190
عشان أقول لك انتبه، مش كل الخيارات ممكن تكون مناسبة
132
00:10:05,190 --> 00:10:10,310
لك، الآن بالـ mean والـ median أنا خلصت وانحلت تمام
133
00:10:10,310 --> 00:10:14,070
و راحت الـ error زالت، لكن لو أنا بدأت أشتغل بالـ
134
00:10:14,070 --> 00:10:17,190
boundary point، بدأت أشتغل على الـ boundaries
135
00:10:26,090 --> 00:10:29,110
حيظلوا موجودات في وجهي، حيظلوا موجودات في الـ data
136
00:10:29,110 --> 00:10:33,450
set، على الرغم إن هما الـ outliers اللي أنا كنت عمال
137
00:10:33,450 --> 00:10:37,250
بحاول أخلص منه، أو بين جثتين الـ noise data اللي كنت
138
00:10:37,250 --> 00:10:42,510
بحاول أخلص منها، مظبوط؟ فأنت بدك تنتبه، تنتبه إنه
139
00:10:42,510 --> 00:10:47,130
أنا مش كل واحدة بتنفع معايا، الآن اللي حيصير كالتالي:
140
00:10:47,130 --> 00:10:52,230
سالب واحد، سالب اثنين، أقرب لسالب واحد ولا للخمسة؟ لأ
141
00:10:52,230 --> 00:10:56,470
سالب واحد، معناته هي سالب واحد، سالب واحد، الثلاثة
142
00:10:56,470 --> 00:11:03,870
لسالب واحد ولا خمسة؟ لأ، خمسة، خمسة، خمسة، خمسة، هنا ستة
143
00:11:03,870 --> 00:11:12,450
هنا ستة، ستة، ستة، ستة، ستة، ستة، واحد وعشرين، لاحظ الـ
144
00:11:12,450 --> 00:11:14,910
outlier، بدل ما أخلص منها أو الـ noise ده بدل ما
145
00:11:14,910 --> 00:11:19,960
أخلص منها، عززتها كمان واحدة، فأنت بقت تنتبه مش دائماً
146
00:11:19,960 --> 00:11:25,020
الخيارات هذه بتكونش perfect بالنسبة لي، فأنت بتشوف
147
00:11:25,020 --> 00:11:29,380
الخيار الأمثل في التعامل، تمام؟ وبالتالي خلصنا من
148
00:11:29,380 --> 00:11:32,480
موضوع الـ binning، طبعاً الـ binning زي ما أنت شايف
149
00:11:32,480 --> 00:11:36,360
موضوع بسيط، سهل، ممكن أنا أسيطر عليه بشوية انتباه
150
00:11:36,360 --> 00:11:41,480
وتركيز في التعامل، الطريقة الثانية إن أخلص من الـ
151
00:11:41,480 --> 00:11:45,040
noise data، إن أنا أعمل regression، شو يعني
152
00:11:45,040 --> 00:11:50,520
regression؟ هي عبارة عن الـ predictive task، مظبوط؟
153
00:11:50,520 --> 00:11:55,340
بحيث إن أصل على formula أو model يقدر يتنبأ بالقيم
154
00:11:55,340 --> 00:11:59,720
زي ما بقول محمد، by value، الآن لو أنا أجيت وقلت لك
155
00:11:59,720 --> 00:12:05,860
النقاط هذه المرسومة قدامي، هي بتمثل الـ data set
156
00:12:05,860 --> 00:12:11,260
تبعي، لاحظ النقاط كلها جاية تمام حوالين الخط هذا
157
00:12:11,260 --> 00:12:19,800
باستثناء النقطة اللي جاية هنا، بصراحة؟ ليش جاية هنا؟ لأن
158
00:12:19,800 --> 00:12:23,520
فيها noise، القيمة تبعها فيها outlier أو فيها
159
00:12:23,520 --> 00:12:28,520
noise معينة خلتها بعيدة، واحدة من الطرق تبع الـ
160
00:12:28,520 --> 00:12:32,140
noise handling أو noise data handling، إن أنا أعمل
161
00:12:32,140 --> 00:12:35,000
estimation أو أعمل prediction للـ regression
162
00:12:35,000 --> 00:12:41,300
function أو الـ line model تبعي، الـ line function
163
00:12:41,300 --> 00:12:45,200
تبعي، بحيث إن أنا أرسم الخط المستقيم اللي بيمثل كل
164
00:12:45,200 --> 00:12:51,010
الـ data، أرسم خط مستقيم يمثل كل الـ data، والخط
165
00:12:51,010 --> 00:12:56,230
المستقيم هذا له معادلة، الآن بناءً على قيمة X اللي
166
00:12:56,230 --> 00:13:01,190
عندي هنا اللي هي ثابتة، بقدر أعمل estimation لمين؟
167
00:13:01,190 --> 00:13:06,250
لقيمة Y الصحيحة، هل هذا أنا بدي أطبقه على كل الـ
168
00:13:06,250 --> 00:13:16,160
data؟ لأ، فقط على الـ noise data، noisy point، وبالتالي
169
00:13:16,160 --> 00:13:20,580
هذه القيمة هتطلع وين؟ معايا على الخط، وبالتالي
170
00:13:20,580 --> 00:13:27,120
هتاخد Y جديدة، الفكرة إن الوصول للـ regression model
171
00:13:27,120 --> 00:13:36,520
هذا
223
00:17:21,400 --> 00:17:26,250
الحامل للذكور هل هذا وارد؟ في عمر واحد عاجل بيفكر
224
00:17:26,250 --> 00:17:30,070
يبني rule زي هيك عشان يدور لأنه الأصل لأ، لكن في
225
00:17:30,070 --> 00:17:34,270
لحظة من اللحظات ممكن أنا أضطر أكتب rule عشان يحل
226
00:17:34,270 --> 00:17:37,750
أو يدور لي على الحالات اللي زي هذه، بس فعلياً مش
227
00:17:37,750 --> 00:17:42,370
هتلاقيه بسهولة، أنت بتعمل development الشغل ال
228
00:17:42,370 --> 00:17:47,490
manual أحسن لأن هذه الـ cases قليلة جداً، تمام؟
229
00:17:47,490 --> 00:17:52,880
وغالباً هتختلف من حالة لحالة، لكن احنا بنقول لو فرضا
230
00:17:52,880 --> 00:17:57,200
أن الحالة هذه ممكن تتكرر، إيش بروح بساوي؟ ممكن
231
00:17:57,200 --> 00:18:00,440
أبني لها system بسيط يعمل الـ check تماماً زي اللي
232
00:18:00,440 --> 00:18:05,240
بتكلم عن الـ spelling check programs، الآن الخطأ
233
00:18:05,240 --> 00:18:08,720
الإملائي أثناء الكتابة، إيش هو؟ مش هو عبارة عن برنامج
234
00:18:08,720 --> 00:18:13,780
عنده موجود الكلمات بين جثين الـ rules، وبروح بصير
235
00:18:13,780 --> 00:18:18,760
يقارنها، بعضهم راح يقول لك في عندك grammar check، بدي
236
00:18:18,760 --> 00:18:21,720
أعرف قوانين الكتابة وصياغة اللغة، وهنا نفس الكلام
237
00:18:21,720 --> 00:18:28,320
بدي أصير أنا أكون عارف وين الـ inconsistency بتصير
238
00:18:28,320 --> 00:18:30,600
بين الـ attributes، وأصير أحطها في rules عشان يعملها
239
00:18:30,600 --> 00:18:34,740
detection، لكن هذا الكلام صعب وصعب جداً، احنا بدنا
240
00:18:34,740 --> 00:18:38,460
نعمل focus على الشغل، لكن ممكن المعنى والهدا مهم
241
00:18:38,460 --> 00:18:43,440
جداً، عشان هيك، عشان هيك أول واحدة في معالج الـ
242
00:18:43,440 --> 00:18:49,580
inconsistent data، الـ common sense، تستخدم المنطق
243
00:18:49,580 --> 00:18:53,980
السليم تبعك في التفكير، مش بس الإحساس، أقول اه والله
244
00:18:53,980 --> 00:18:58,660
okay، male و pregnant، أنا حاسس أنه مش صحيح المعلومة
245
00:18:58,660 --> 00:19:02,720
لأ، الـ common sense، مقصودها أن البديهيات بالنسبة
246
00:19:02,720 --> 00:19:06,780
اليك، خلاص في مشكلة هنا، male مستحيل يكون pregnant
247
00:19:06,780 --> 00:19:11,440
أو يكون الـ gender عندي مدخل خطأ وهو female صحيح
248
00:19:11,440 --> 00:19:15,500
ولا لأ؟ وبالتالي هذه الحالتين موجودات، لكن لو
249
00:19:15,500 --> 00:19:23,560
طلعت في السجل كله، ياتهدخل مدرسة للذكور ومحطوط بعد
250
00:19:23,560 --> 00:19:30,920
فترة pregnant، لأ مستحيل، فكلمة pregnant هي الخطأ
251
00:19:30,920 --> 00:19:35,120
وبالتالي بدنا نشيلها من العناصر الموجودة، الفكرة
252
00:19:35,120 --> 00:19:38,020
كمان مرة يا جماعة الخير، الـ common sense لازم تكون
253
00:19:38,020 --> 00:19:41,880
حاضرة، احنا عندنا مشاكل كبيرة مع الأنظمة كعرب، لما
254
00:19:41,880 --> 00:19:42,840
أتكلم بالـ hands up
255
00:19:45,990 --> 00:19:51,190
حمزة مكسورة، حمزة مفتوحة، حمزة مضمومة، والإنجليز
256
00:19:51,190 --> 00:19:54,710
كذلك عندهم نفس المشاكل، الأجانب في عند الـ Dennis
257
00:19:54,710 --> 00:20:00,050
وDennis، وهاي قرأها عن هاي، واحد يقول الـ Man names
258
00:20:00,050 --> 00:20:02,690
أساساً ما بديش هي في الـ mining task، بقول لك كلامك صح
259
00:20:02,690 --> 00:20:06,390
بس هذا الكلام وارد عشان تقدر توافق، على سبيل المثال
260
00:20:06,390 --> 00:20:10,210
في الـ integration، لما نيجي كمان شوية بدي أجمع two
261
00:20:10,210 --> 00:20:13,470
datasets مع بعضهم، لجيت رقم واحد، اثنين، ثلاثة،
262
00:20:13,470 --> 00:20:18,130
أربعة، واسمه Dennis، الاسم الأول ورقمه في الـ Data 6
263
00:20:18,130 --> 00:20:22,550
اللي جاي من وزارة الصحة 1234، والاسم مكتوب Dennis
264
00:20:22,550 --> 00:20:25,250
بالـ Spelling، التاني هقول لأ لأ، هدول الـ Two
265
00:20:25,250 --> 00:20:30,110
Records مش نفسهم، لأ هما نفسهم ومافيش بينهم تعارض
266
00:20:30,110 --> 00:20:35,610
لأ، ما هو في شغلات بتأكد أن ممكن الـ Data تكون هذه
267
00:20:35,610 --> 00:20:42,110
غلط، صح؟ يعني الآن لجيت Two Records نفس الـ ID
268
00:20:42,110 --> 00:20:44,890
1234، وواحد خليل واثنين حسن
269
00:20:47,870 --> 00:20:52,910
لأ، في غلط، لكن لما ألاقي هذا Dennis وDennis ما فيه
270
00:20:52,910 --> 00:20:56,310
غلط، صح؟ فيه difference في الـ value تبع الـ name
271
00:20:56,310 --> 00:21:01,770
هنا، لكنه فعلاً ضمن الـ common sense، هذا نفس الاسم،
272
00:21:01,770 --> 00:21:08,430
إيش يا محمد؟ تمام؟ طبعاً،
273
00:21:08,430 --> 00:21:11,010
بكتب، أدور على الـ inappropriate values، القيم الغير
274
00:21:11,010 --> 00:21:16,010
منطقية أو الغير متاحة،
275
00:21:16,010 --> 00:21:16,290
طيب
276
00:21:20,090 --> 00:21:24,030
كيفك تصلحها؟ كيفك تصلح الـ inconsistent data؟
277
00:21:24,030 --> 00:21:30,910
Manual، بعد ما أحددها، بدي أحددها وأصلحها، إيش؟
278
00:21:30,910 --> 00:21:34,190
Manual، يعني لازم أرجع للـ documents وأقارن الـ
279
00:21:34,190 --> 00:21:38,090
data اللي موجودة عندها، تخيل، بقول لك أنت لو روحت على
280
00:21:38,090 --> 00:21:44,970
زبائن بنك معين، ولجيت 5% منهم كلهم مولودين في 11/2
281
00:21:48,490 --> 00:21:51,850
صدفة حلوة؟ لأ، أنا بقول لك في خطأ و..و..خطأ أكيد
282
00:21:51,850 --> 00:21:56,090
يعني عويجي يقول لي والله الطلاب المسجلين عشرين
283
00:21:56,090 --> 00:21:58,570
فالمئة من الطلاب الموجودين بيننا الآن في المحاضرة
284
00:21:58,570 --> 00:22:01,290
في الـ data mining، من مورد الف وتسعمائة وخمسة وعشرين
285
00:22:01,290 --> 00:22:04,790
مستحيل
286
00:22:06,190 --> 00:22:10,250
كيف أتجمع كلهم؟ هل هم..الآن تقول لك والله هذا
287
00:22:10,250 --> 00:22:13,290
التاريخ..هذا التاريخ..يعني لكل واحد فيه تاريخ
288
00:22:13,290 --> 00:22:18,590
ميلاد مستقل، ولا لأ؟ تيجي تقول لي عشان صدفة غريبة، بما
289
00:22:18,590 --> 00:22:22,030
أنها غريبة، بروح أتحقق منها، طب أتحقق منها كيف؟ بدوا
290
00:22:22,030 --> 00:22:27,870
تايم الشباب؟ هاتوا هوياتكم، مش هيك اللي حيصير؟ هرجع
291
00:22:27,870 --> 00:22:31,250
للـ document الحقيقي عشان أنا أعمل الـ check على الـ
292
00:22:31,250 --> 00:22:35,570
values اللي موجودة، من الشغلات اللي بتساعدني في فهم
293
00:22:36,920 --> 00:22:40,520
الـ Consistency تبع الـ Data، وتحديد الـ
294
00:22:40,520 --> 00:22:46,440
Inconsistent Values، الـ Metadata، ليش؟
295
00:22:46,440 --> 00:22:48,820
لأن في الـ Metadata، باجي أتكلم على الـ Domain و
296
00:22:48,820 --> 00:22:51,300
الـ Range، والـ Dependency، والـ Distribution تبع
297
00:22:51,300 --> 00:22:54,180
الـ Attributes، بيجي يقول لي والله عندي الـ salary
298
00:22:54,180 --> 00:22:59,320
عبارة عن number، تتراوح الأرقام أو الـ values، الـ
299
00:22:59,320 --> 00:23:03,180
minimum salary 1500، والـ maximum salary 2700
300
00:23:06,210 --> 00:23:14,850
لجيت فيه salary مدخل 3700، inconsistent، ليش؟ لأنها
301
00:23:14,850 --> 00:23:18,810
طلعت برا..برا الـ rule اللي حدد لي الـ range
302
00:23:18,810 --> 00:23:24,710
تمام؟ وبالتالي فهم الـ metadata بيساعدني في تحديد
303
00:23:24,710 --> 00:23:31,690
الـ inconsistent data، بدي أفحص الـ field overloading
304
00:23:31,690 --> 00:23:36,380
أو الـ field overloading، شو يعني overloading؟ بالـ
305
00:23:36,380 --> 00:23:40,020
object oriented، شو يعني overloading؟ overloading
306
00:23:40,020 --> 00:23:43,460
method، أنه
307
00:23:43,460 --> 00:23:47,120
في عندي method بتحمل نفس الاسم، لكن الـ signature
308
00:23:47,120 --> 00:23:50,840
تبعها مختلفة، شو يعني الـ signature؟ إما الـ return
309
00:23:50,840 --> 00:23:55,880
value أو الـ parameter، متفقين؟ طيب يعني شو يعني
310
00:23:55,880 --> 00:23:59,840
overloading attribute؟ أنه الـ attribute هذا ظهر
311
00:23:59,840 --> 00:24:04,950
بشكل مختلف، مع أنه الـ values تبعته إيش؟ متشابهة، يعني
312
00:24:04,950 --> 00:24:10,070
لجيت أنا عندي فعلياً الـ age، لجيت الـ age ولجيت
313
00:24:10,070 --> 00:24:16,310
تاريخ الميلاد، المفروض الاثنين بيدوني نفس المعلومة
314
00:24:16,310 --> 00:24:20,730
ولا شو رأيكم؟ اه، هو أنا هكتفي بواحد يا أهي أبو
315
00:24:20,730 --> 00:24:25,430
حينها، لكن الآن عشان أنا أفحص الـ consistency، ممكن
316
00:24:25,430 --> 00:24:31,090
هذا يخدمني في الموضوع، ولا شو رأيكم؟ الـ uniqueness
317
00:24:31,090 --> 00:24:36,480
rules، كذلك أنه لما أنا بكون فاهم الـ description صح
318
00:24:36,480 --> 00:24:40,840
وبيجي بقول لي الـ attribute الفلاني، كل الـ values اللي
319
00:24:40,840 --> 00:24:46,500
فيه unique، تمام؟ كل الـ values اللي فيه unique
320
00:24:46,500 --> 00:24:52,640
ما بتتكرر، وبلاقي فيه تكرار، وهذا مؤشر أنه صار في
321
00:24:52,640 --> 00:24:56,420
عندي شغل غلط في الـ dataset، هل الروهات دي duplicated
322
00:24:56,420 --> 00:25:00,680
ولا فعلياً في عندي عناصر عاملة بتظهر في الآخر
323
00:25:00,680 --> 00:25:03,460
ممكن يكون عند بعض الـ commercial tools اللي بتعمل
324
00:25:03,460 --> 00:25:06,060
analysis للـ data، وبتجيب لي العلاقة بين الـ values
325
00:25:06,060 --> 00:25:11,800
الـ different values، لكن مجالاتها قليلة جداً زي ما
326
00:25:11,800 --> 00:25:17,180
قلنا سابقاً، يعني بكل بساطة، بكل بساطة الـ
327
00:25:17,180 --> 00:25:22,540
inconsistent data بتحتاجك أنت as a human أكثر ما
328
00:25:22,540 --> 00:25:27,940
بتحتاج machine أو program عشان يحددها ويصلحها
329
00:25:27,940 --> 00:25:37,240
تمام؟ تمام يا شباب؟ تمام، تمام، ننتقل للنقطة اللي
330
00:25:37,240 --> 00:25:41,540
بعد هيك، احنا قلنا للوصول للـ knowledge presentation
331
00:25:41,540 --> 00:25:52,190
كم خطوة بدي امشي؟ ايوه؟ سبعه: data cleaning، data
332
00:25:52,190 --> 00:25:57,270
integration، data selection، data transformation،
333
00:25:57,270 --> 00:26:00,890
data mining، الـ transformation بالمناسبة قبل الـ
334
00:26:00,890 --> 00:26:04,330
selection، مش قضية كتير، data mining، knowledge
335
00:26:04,330 --> 00:26:09,570
knowledge evaluation، أو better evaluation، و
336
00:26:09,570 --> 00:26:14,210
knowledge presentation، تمام، الآن بدنا ننتقل للـ
337
00:26:14,210 --> 00:26:19,460
task الثانية مباشرة، اللي هي الـ data integration
338
00:26:19,460 --> 00:26:24,140
يعني احنا بفهم بناءً على الخطوة هاي، إذا كان في عندي
339
00:26:24,140 --> 00:26:29,380
two different data source، data set one، و data set
340
00:26:29,380 --> 00:26:36,020
two، من different resources، الأصل..الأصل أن أعمل
341
00:26:36,020 --> 00:26:42,720
cleaning للنتين، قبل ما أعمل integration، ليش؟
342
00:26:43,160 --> 00:26:47,100
لأنه فعلياً احنا مش بحاجة الـ null، حتصير في عندي
343
00:26:47,100 --> 00:26:50,240
مشكلة، فأنا لما بدي أعمل integration بدي أكون على
344
00:26:50,240 --> 00:26:53,760
السليم، يعني في مرحلة ما بعد الـ cleaning عشان أضمن
345
00:26:53,760 --> 00:26:58,000
يصير في عندي combination صح للـ data set، الآن
346
00:26:58,000 --> 00:27:00,440
وبالتالي الـ data integration هي عبارة عن
347
00:27:00,440 --> 00:27:03,080
combination أو combines الـ data from different
348
00:27:03,080 --> 00:27:07,480
sources، زي ما قلنا سابقاً بالمثال اللي قلناه، هنكرره
349
00:27:07,480 --> 00:27:13,210
كتير، كاسمتقدير تحصيل الطالب أو مستوى تحصيل الطالب
350
00:27:13,210 --> 00:27:15,950
في المرحلة الابتدائية، بناءً على الحالة الصحية،
351
00:27:15,950 --> 00:27:18,730
صحيح؟ وكل هذه المعلومات من two different
352
00:27:18,730 --> 00:27:23,810
resources، تربية والتعليم، والصحة، وبدي أعمل
353
00:27:23,810 --> 00:27:29,330
integration ما بين العناصر اللي موجودة عندها، ليش
354
00:27:29,330 --> 00:27:35,110
أنا فعلياً بدي أعمل data integration لواحد من سببين
355
00:27:35,110 --> 00:27:47,080
الأول، أنه أنا في عندي small data set، small
356
00:27:47,080 --> 00:27:52,260
data set، لما أتكلم small data set، معناته الـ
357
00:27:52,260 --> 00:27:58,220
integration هدفه زيادة عدد الـ rows، زيادة عدد الـ
358
00:27:58,220 --> 00:28:05,820
samples، صحيح؟ الشغل
359
00:28:05,820 --> 00:28:07,940
الثاني، سبب الـ integration
360
00:28:11,780 --> 00:28:17,120
more information for
361
00:28:17,120 --> 00:28:23,700
the samples، أنا بحاجة لمعلومات
362
00:28:23,700 --> 00:28:27,040
جديدة عن الـ samples، عامل في المثال اللي بنقول
363
00:28:27,040 --> 00:28:31,180
عليه، أنا عنده معلومات خاصة بالمدرسة والتعليم، سجل
364
00:28:31,180 --> 00:28:33,920
الطالب التعليمي موجودة في وزارة، وأنا شغال في
365
00:28:33,920 --> 00:28:38,520
الوزارة، فهي موجودة عند الـ dataset، الآن المعلومات
366
00:28:38,520 --> 00:28:41,640
اللي أنا بدي إياها إضافية عشان تخدم الـ task تبعي
367
00:28:41,640 --> 00:28:45,820
موجودة في وزارة الصحة، مش هبدأ أساوي، بدي أجيبها عشان
368
00:28:45,820 --> 00:28:49,880
أضيف information لكل sample، يعني أنا بدي أضيف بين
369
00:28:49,880 --> 00:28:57,380
جثين attributes، صحيح؟
370
00:28:57,380 --> 00:29:01,940
لأن هنا مش هعمل على الـ enlargement للـ dataset، مش
371
00:29:01,940 --> 00:29:05,460
هزيد عدد الـ rows، هزيد عدد الـ attributes
372
00:29:12,330 --> 00:29:21,810
الآن لو أنا بدي أعمل dataset بسيطة، هنا الـ
373
00:29:21,810 --> 00:29:31,090
ID،
374
00:29:31,090 --> 00:29:36,110
الـ name، الـ
375
00:29:36,110 --> 00:29:39,150
age، والـ level
376
00:29:42,930 --> 00:29:50,070
والـ GPA أو الـ Average GPA، متوسط
377
00:29:50,070 --> 00:29:56,130
تحصيله، هذه المعلومات من وين؟ من المدرسة أو من
378
00:29:56,130 --> 00:30:04,130
وزارة التربية والتعليم، في وزارة الصحة ما فيش
379
00:30:04,130 --> 00:30:08,110
شيء ما فيش
380
00:30:08,110 --> 00:30:13,070
average، ما فيش level، صحيح؟ كلامك، الـ ID والـ name
381
00:30:13,070 --> 00:30:18,850
بتكلم على الـ weight، العمر،
382
00:30:18,850 --> 00:30:29,210
مثلاً هاي الـ age، date of birth، ليكن الـ weight، الـ
383
00:30:29,210 --> 00:30:36,770
height، illness، هل في أمراض ولا لأ؟ هل بتناول أدوية
384
00:30:36,770 --> 00:30:40,350
ولا لأ؟ treatment إلى آخره، المهم أنا بدي أعمل
385
00:30:40,350 --> 00:30:45,640
combination أو بدي أجمع الـ two datasets هدول عشان
386
00:30:45,640 --> 00:30:49,500
الـ task تبعي، هدفها، كمان مرة، للمرة كده أشهد الألف
387
00:30:49,500 --> 00:30:54,580
تمام؟ كمان مرة بنتكلم أنه أنا بدي أحاول أعمل
388
00:30:54,580 --> 00:31:00,560
prediction لمستوى تحصيل الطالب بناءً على سجله الصحي
389
00:31:00,560 --> 00:31:06,360
الـ combination هذا حيصير هاني علي أبو الخير، صحيح؟
390
00:31:10,100 --> 00:31:15,820
تمام، هذا الـ raw أو الـ dataset بدها تكون هنا، وكأني
391
00:31:15,820 --> 00:31:24,320
بكل بساطة بدي أعمل inner join بين two tables، فهذه
392
00:31:24,320 --> 00:31:26,880
الـ combination، كان هدفها أو هذه الـ integration
393
00:31:26,880 --> 00:31:32,420
هدفها إضافة معلومات جديدة لكل entity، لكل sample، لأن
394
00:31:32,420 --> 00:31:36,600
عشان تتحقق الـ task الموجودة، لكن لو قلنا والله أن
395
00:31:36,600 --> 00:31:42,360
الطالب هذا كان فترة الابتدائي عايش أو بدرس في
396
00:31:42,360 --> 00:31:46,520
مدرسة خاصة، أو مدرسة خاصة، والمعلومات هذه ما كانتش
397
00:31:46,520 --> 00:31:50,560
موجودة
445
00:35:34,020 --> 00:35:38,850
recordو أخلّيه عندي بأكبر قدر ممكن، بأطلّع على باقي
446
00:35:38,850 --> 00:35:45,530
مثلاً، بأطلّع على الـ age 17، 17. إذا هل في common
447
00:35:45,530 --> 00:35:49,910
attributes بين الاثنين بيأكدولي إن هذا هو نفسه هذا
448
00:35:49,910 --> 00:35:53,810
ممكن أصيب، أتجوز عن من؟ عن الاسم، لأنه فعلاً الاسم مش
449
00:35:53,810 --> 00:35:57,690
هيخدمني، بس أنا حاليًا بدي أتأكد إن هذا real entity
450
00:35:57,690 --> 00:36:01,910
موجودة عندي في الـ data set. هذه بنسمّيها الـ entity
451
00:36:01,910 --> 00:36:03,550
identification
452
00:36:05,840 --> 00:36:08,740
الـ problem، الـ value of conflict أو الـ value
453
00:36:08,740 --> 00:36:17,860
conflict، التعارض ما بين القيم، لجيته عمره هان 17، و
454
00:36:17,860 --> 00:36:27,520
هان لجيته 15. أنا في الآخر هحتفظ بـ one edge، مظبوط؟
455
00:36:27,520 --> 00:36:32,840
يعني غالباً الـ edge هان مش هجيب ليه، طب آسف مين فيهم
456
00:36:32,840 --> 00:36:36,900
الصحيح؟ الخمسة عشر ولا السبعة عشر؟ الـ date of birth
457
00:36:36,900 --> 00:36:43,760
هنا موجود، قال لي والله إنه تاريخ ميلاده هذا 2005
458
00:36:43,760 --> 00:36:48,180
وخمسة، واحنا 2020، ميلاده خمسة عشر، ميلاده
459
00:36:48,180 --> 00:36:52,240
الخطأ عندي هنا، وهذا بيطلب برضه مني manual
460
00:36:52,240 --> 00:36:56,860
correctness، عشان أعدي الـ level. ممكن يكون عندي
461
00:36:56,860 --> 00:37:01,120
indicator، طبعاً، لكن بيظل فيه احتمال إن هو فعلياً ايش
462
00:37:01,120 --> 00:37:04,600
يكون مثلاً، تأخر سنة أو رسب سنة أو ما شابه، لكن الـ
463
00:37:04,600 --> 00:37:08,140
date of birth كان بيقول لأ، يا إما هو متأكد، لأنه هو
464
00:37:08,140 --> 00:37:12,420
بيشوف فيه تقارب ما بين الـ values، الـ redundant
465
00:37:12,420 --> 00:37:21,100
teachers. أنا ما فيش عندي الـ age هنا، لكن
466
00:37:21,100 --> 00:37:26,140
عندي date of birth، تاريخ الميلاد. لما أنا أعمل
467
00:37:26,140 --> 00:37:30,140
marriage، تاريخ الميلاد هيجينيها كـ attribute، لكن
468
00:37:30,140 --> 00:37:35,220
المعلومات اللي فيها موجودة عندي سابقاً، فبرضه أنا
469
00:37:35,220 --> 00:37:38,820
بدي أنتبه لها، يعني في عندي تلت شغلات أساسية بدي
470
00:37:38,820 --> 00:37:42,320
أنتبه لها، عندي عملية الـ integration، أتأكد من الـ
471
00:37:42,320 --> 00:37:46,020
identification لكل entity، اللي فعلياً الـ entity
472
00:37:46,020 --> 00:37:51,340
تقابل الـ entity المقابلة بتاعتها بشكل صحيح، الـ
473
00:37:51,340 --> 00:37:54,300
value conflict أو الـ inconsistent اللي ممكن تصير
474
00:37:54,300 --> 00:37:56,660
عندي، زي ما صار معايا في الاسم أو صار معايا في الـ
475
00:37:56,660 --> 00:38:02,380
age، وفي الآخر في الـ redundant features أو في تكرار
476
00:38:02,380 --> 00:38:08,060
الـ attributes اللي موجودة عندي، وبرضه الشغل هيكون
477
00:38:08,060 --> 00:38:13,740
manual. ممكن أكتب code عشان يعمل integration لو أنت
478
00:38:13,740 --> 00:38:17,820
طبّقت، عملت الـ inner join بين الـ two tables هدول، ايش
479
00:38:17,820 --> 00:38:24,280
اللي بيصير؟ بياخد الـ rows بناءً على الـ ID، الـ ID
480
00:38:24,280 --> 00:38:29,920
المختلف بين الاثنين، ما بيطلعش، يعني تخيّل إن هنا واحد
481
00:38:29,920 --> 00:38:36,660
اثنين، ثلاثة، تسعة، ما فيش هنا، وهنا عندي واحد، اثنين
482
00:38:36,660 --> 00:38:42,860
ثلاثة، ثمانية، مش موجود هنا، هذا الـ row مش هيظهر، وهذا
483
00:38:42,860 --> 00:38:47,200
الـ row مش هيظهر، ولا لأ؟ ليش؟ لأن فعلياً ما فيش
484
00:38:47,200 --> 00:38:51,220
integration ما بين الـ rows اللي موجودة، لكن لاحظوا
485
00:38:51,220 --> 00:38:55,760
المشكلة دي أنا ما عانيت منها مطلقاً لما روحت جيبت
486
00:38:55,760 --> 00:39:00,260
مصدر ثاني للبيانات، وصرت أجمعها عشان أزيد مين؟ عدد
487
00:39:00,260 --> 00:39:04,000
الـ rows، لأن في الآخر أنا جيبت من المدرسة الخاصة، جيبت
488
00:39:04,000 --> 00:39:08,180
الـ name، و الـ age، و الـ level، و الـ GPA لمجموع الطلاب
489
00:39:08,180 --> 00:39:13,120
عشان أزيد، أزيد محصلة الـ rows اللي موجودة عندها
490
00:39:19,090 --> 00:39:24,050
هننتقل الآن لموضوع الـ Data Transformation، اللي هي
491
00:39:24,050 --> 00:39:30,150
الخطوة الرابعة، العد، أيوة، أهب، تفضّل، اسأل، مثلاً زي
492
00:39:30,150 --> 00:39:33,850
الـ media اللي جيت العالم الأول بسيط، هجيته فعلاً فعلاً
493
00:39:33,850 --> 00:39:37,070
هذا مثلاً، الإنسان بدري يعمل بحث زي هيك، هل فعلاً مهتم
494
00:39:37,070 --> 00:39:41,430
في الـ record زي ما هذا، ولا بس إنه اتعلّم الصحيح؟
495
00:39:41,430 --> 00:39:45,210
شوفي، أهب، كل record بتضيفه على الـ data set الأصلي
496
00:39:45,210 --> 00:39:49,450
بتضيف لك knowledge جديدة، و بقوّي الـ rule أو الـ
497
00:39:49,450 --> 00:39:52,550
predictors اللي أنت بدك تنشئه، عشان هيك فعلياً أنت
498
00:39:52,550 --> 00:39:58,150
محتاجة، كل ما كانت عدد الـ data set قليلة أو
499
00:39:58,150 --> 00:40:05,170
المعلومات اللي عندك قليلة، أنت بحاجة لأي.. أي شغل
500
00:40:05,170 --> 00:40:08,730
بتعزّز البيانات اللي موجودة عندك، حتى لو one record
501
00:40:08,730 --> 00:40:13,270
بدك تضيفه، لكن الـ data set اللي عندي حجمها 100 ألف
502
00:40:13,270 --> 00:40:17,950
record، ولا جيت عشرة records أو مئة record أو ألف
503
00:40:17,950 --> 00:40:23,870
record، في مكان ما، مش ضروري أفكر فيهم كتير، إذا أنا
504
00:40:23,870 --> 00:40:26,450
واثق في البيانات اللي عندي، لكن لو كانوا الألف
505
00:40:26,450 --> 00:40:30,110
record هدول بمثل حالة خاصة، وأنا بدي أدرجها في
506
00:40:30,110 --> 00:40:33,090
النظام تبعي، لازم أعملها integration للمئة ألف
507
00:40:33,090 --> 00:40:37,890
اللي عندي، وصيروا مئة ألف وواحد، تمام؟ أو مئة وواحد
508
00:40:37,890 --> 00:40:42,570
ألف، في موضوع الـ transfer.. في أي شباب عنده..
509
00:40:42,570 --> 00:40:48,020
شباب، في حد عنده أي سؤال ثاني؟ ننتقل لموضوع أو نكمل
510
00:40:48,020 --> 00:40:51,100
في الـ steps، وبنحاول إن شاء الله الأسبوع هذا ننهي
511
00:40:51,100 --> 00:40:53,540
الـ chapter اللي إحنا بنشتغل فيه، لأنه صار لنا قد ايش
512
00:40:53,540 --> 00:40:55,320
هذا الأسبوع الثالث، وإحنا بناخد في الـ data
513
00:40:55,320 --> 00:40:58,620
understanding و الـ preparation، فبديش ياخد حسّه
514
00:40:58,620 --> 00:41:03,540
بالملل، فبنروح باتجاه الـ mining إن شاء الله. الآن في
515
00:41:03,540 --> 00:41:07,900
الـ data transformation، المقصود فيها تحويل أو تحوير
516
00:41:07,900 --> 00:41:14,330
البيانات من form، من صورتها الحالية، اللي تظهر بصورة
517
00:41:14,330 --> 00:41:19,910
تتناسب مع الـ mining task العام اللي إحنا بنقول، بقول
518
00:41:19,910 --> 00:41:22,430
أنا في عندي تاريخ الميلاد يا جماعة الخير، date of
519
00:41:22,430 --> 00:41:22,750
birth
520
00:41:27,040 --> 00:41:30,680
القيم اللي موجودة فيه.. القيم اللي موجودة فيه
521
00:41:30,680 --> 00:41:35,760
بتقول، إذا أنا بدي أبني decision rules، هيكون عندي
522
00:41:35,760 --> 00:41:39,580
الـ values كتيرة، لأنه انولد في شهر واحد، غير إن
523
00:41:39,580 --> 00:41:42,320
انولد في شهر اثنين، في عندي ثلاثين خيار في شهر واحد
524
00:41:43,080 --> 00:41:49,060
و28 في شهر 2، و 31 في شهر 3، مظبوط؟ معناته على مدار
525
00:41:49,060 --> 00:41:53,500
السنة، يعني أنا بتكلم هيك وكأنه وكأنه عندي 365
526
00:41:53,500 --> 00:41:59,420
variable أو value بدها تدخل في الـ decision rules
527
00:41:59,420 --> 00:42:04,480
تبعي، هذا.. هذا الكلام مش منطق، بينما كل الناس اللي في
528
00:42:04,480 --> 00:42:08,680
مستوى أول مثلاً، أو في فئة الجامعة، هدول فئة واحدة
529
00:42:08,680 --> 00:42:12,260
طلاب المدارس في الثانوية فئة ثانية، اللي من الإعدادية
530
00:42:12,260 --> 00:42:16,880
ينزلوا فئة ثالثة، الخريجين فئة رابعة، فهذه الفئات
531
00:42:16,880 --> 00:42:22,740
تاريخ الميلاد هذا ما بيكفّنيش، يا راني، تاريخ الميلاد
532
00:42:22,740 --> 00:42:27,460
هذا ما بنفعنيش، فأنا محتاج أن أغيّر صورة تاريخ
533
00:42:27,460 --> 00:42:28,120
الميلاد
534
00:42:34,920 --> 00:42:42,620
إلى age، بالـ age بكون أنا عملت ايش؟ قلّلت الـ value
535
00:42:42,620 --> 00:42:46,360
اللي موجودة، قلّلت الـ value اللي موجودة عندي
536
00:42:46,360 --> 00:42:53,260
وبالتالي قلّلت الـ decision rules تبعي، لكن لاحظ إن
537
00:42:53,260 --> 00:42:56,840
تاريخ الميلاد والـ age اللي كتب معاه نفسه من الـ
538
00:42:56,840 --> 00:43:04,190
2005 وكتبت الـ age 15، ما فقدتش المعلومة تبعي، مظبوط؟
539
00:43:04,190 --> 00:43:07,090
والأفضل من هيك لو جسمنا لفئات زي ما هنشوف كمان
540
00:43:07,090 --> 00:43:13,110
شوية، فمن الـ data transformation method لـ smoothing
541
00:43:13,110 --> 00:43:19,430
method، لما عملت binning، عبارة عن smoothing method
542
00:43:19,430 --> 00:43:24,190
الـ regression smoothing method، بس هدفها الأساسي
543
00:43:24,190 --> 00:43:30,110
تخلص من الـ noise. واحد يقول ليه الـ smoothing
544
00:43:30,110 --> 00:43:33,650
حطيناها من الـ transformation؟ الـ data أخدت صور
545
00:43:33,650 --> 00:43:38,150
مختلفة، البن الأولى أخدت قيمة بدل كل القيم اللي
546
00:43:38,150 --> 00:43:42,810
كانت في البن، ايش أخدت؟ أخدت الـ median أو أخدت الـ
547
00:43:42,810 --> 00:43:47,870
mean، أربعة، فبالتالي القيم تغيّرت، كانت شكل وصارت شكل
548
00:43:47,870 --> 00:43:54,190
آخر، الـ values اللي عندي كانت 17 مليون
549
00:43:57,970 --> 00:44:01,050
الأرقام هذه كبيرة، ما بتتناسبش مع الـ computation
550
00:44:01,050 --> 00:44:06,770
تبعي، فأنا بدي أخليها 1.7، كذلك الـ 18 والـ 20 مليون
551
00:44:06,770 --> 00:44:13,410
الـ 20 صارت 2، والـ 1.5 صارت .15 وهكذا، فهذا التحوير
552
00:44:13,410 --> 00:44:18,170
الـ data كانت في صورة وصارت في صورة مختلفة
553
00:44:22,870 --> 00:44:26,570
God، كان بهدف التخلص من الـ Noise، تمام؟ لكن
554
00:44:26,570 --> 00:44:30,010
فعلياً، فعلياً الـ Data اللي صارت موجودة في الـ
555
00:44:30,010 --> 00:44:35,310
Attribute هي عبارة عن New Transformation، تحوّر للـ
556
00:44:35,310 --> 00:44:38,830
Data، جديدة، لأ؟ ضالت الـ Original Data؟ لأ،
557
00:44:38,830 --> 00:44:41,750
فعلياً صار عليها تحوّر، عشان هيك ذكرناها أول واحدة،
558
00:44:41,750 --> 00:44:46,370
لأنها مرت علينا سابقاً. الـ Aggregation، أنا فعلياً
559
00:44:46,370 --> 00:44:50,810
ممكن أروح أضيف أو أعمل شغلات، يعني الآن بروح بقولي
560
00:44:50,810 --> 00:44:56,410
والله بدنا نحسب.. نحاول نتنبأ إن الموظف الحكومي
561
00:44:56,410 --> 00:45:05,490
بعد كم سنة ممكن يشتري بيت، يا
562
00:45:05,490 --> 00:45:09,940
عم الله يرزق الجميع من فضله إن شاء الله. أنا عندي
563
00:45:09,940 --> 00:45:14,120
الراتب الشهري، لكن عادة الراتب الشهري مبلغ قليل
564
00:45:14,120 --> 00:45:17,620
ما حدش بيدور عليه في التعاملات اللي زي هذه، بروح بده
565
00:45:17,620 --> 00:45:21,620
الراتب السنوي، طب أنا ما عنديش الراتب السنوي، عندي بس
566
00:45:21,620 --> 00:45:27,000
الراتب الشهري، بأضربه بـ 12، بأضربه بـ 12، مظبوط؟ ايش
567
00:45:27,000 --> 00:45:30,800
سويت.. كل السنوات، وأنا بعملية ضرب بس، فعلياً نقلت
568
00:45:30,800 --> 00:45:36,070
الـ data من Range وحطّت لي إياها في Range مختلف، وهذه برضه
569
00:45:36,070 --> 00:45:39,210
Transformation، فنسمّيها إحنا Aggregation
570
00:45:39,210 --> 00:45:42,450
Transformation أو Aggregate Transformation
571
00:45:42,450 --> 00:45:46,530
Generalization، لما أنا بأتكلم إن الـ data الـ set
572
00:45:46,530 --> 00:45:53,330
تبعته بتتبع Hierarchy معيّنة، زي ايش؟ أنا في عندي الـ
573
00:45:53,330 --> 00:46:00,930
country، وفي عندي الـ set الـ state، وعندي
574
00:46:02,180 --> 00:46:08,860
الـ city، وعندي الـ neighborhood، الحي
575
00:46:08,860 --> 00:46:18,100
وعندي الـ street مثلاً، شو
576
00:46:18,100 --> 00:46:24,100
علّقت هدول في بعض، الشارع، عنوان، تفصيل العنوان، الشارع
577
00:46:24,100 --> 00:46:27,040
موجود في حي، والحي موجود في مدينة، والمدينة موجودة
578
00:46:27,040 --> 00:46:32,290
في ولاية، والولاية بتتبع دولة. أنا الآن العنوان اللي
579
00:46:32,290 --> 00:46:39,890
موجود عندي مكتوب لحالة مستوى الشارع، غزة
580
00:46:39,890 --> 00:46:45,010
الرمال، شارع عمرو بن عبد العزيز، هذا بس عشان يُذكر
581
00:46:45,010 --> 00:46:52,070
خلال اليومين الماضيات في الأخبار طبعاً؟ الآن، طب هل
582
00:46:52,070 --> 00:46:55,150
التفاصيل هذه بهمّني أنا؟ طب ما هي الـ redundant
583
00:46:55,150 --> 00:47:00,180
value، أو عفواً، القيم الكتيرة المختلفة هذه؟ برضه
584
00:47:00,180 --> 00:47:03,060
بتصعّب موضوع الـ decision تبعي، طب ما هي الرمال كلها
585
00:47:03,060 --> 00:47:09,420
منطقة واحدة، فأنا بدي أستغني عن الـ street، وأصير
586
00:47:09,420 --> 00:47:13,760
أتكلم على الـ neighborhood، وحتى الـ neighborhood مش
587
00:47:13,760 --> 00:47:19,660
فارق كبير، رمال وشجاعية مش فارق كتير، تمام؟ فأنا هضطر
588
00:47:21,060 --> 00:47:24,080
لاحظ إنه لما أنا بأتكلم على transformation يا جماعة
589
00:47:24,080 --> 00:47:27,020
الخير، لاحظوا يا جماعة الخير إنه لما أنا بأعمل
590
00:47:27,020 --> 00:47:33,720
transformation، بحوّل الـ value من street لـ
591
00:47:33,720 --> 00:47:38,340
neighborhood أو لـ city، فقدت معلومات؟ لأ، هي
592
00:47:38,340 --> 00:47:41,220
نفس المعلومات، نفس الـ representation، بس أنا مش
593
00:47:41,220 --> 00:47:44,200
بحاجة لـ two details، هاي، هذا برضه بنسمّيه
594
00:47:44,200 --> 00:47:48,810
transformation، الـ Normalization، الـ Normalization
595
00:47:48,810 --> 00:47:56,310
فعلياً أنا بدي أروح أعمل Scaling للـ Data، Scaling
596
00:47:56,310 --> 00:47:59,710
زي ما قلنا، 17 مليون، أو الأرقام اللي عندي كبيرة
597
00:47:59,710 --> 00:48:03,130
فبدي أروح أقلّلها، أو بدي أحطّها ضمن Range معيّن، وهنا
598
00:48:03,130 --> 00:48:07,910
بدنا عمليات حسابية، وهذه هروح لها بتفاصيل الآن. الـ
599
00:48:07,910 --> 00:48:11,330
Attribute Construction، زي ما قلت، أنا عندي تاريخ
600
00:48:11,330 --> 00:48:14,810
الميلاد، و تاريخ الميلاد ما بديش ايه؟ ما بديش إياه، بدي
601
00:48:14,810 --> 00:48:20,030
أحط الـ age، أو بدي أبني الفئة العمرية، وكل التفاصيل
602
00:48:20,030 --> 00:48:25,450
هاي كلها عبارة عن different transformation للـ data
603
00:48:25,450 --> 00:48:31,030
كمان مرة، transformation لا يعني إن أنا القيمة
604
00:48:31,030 --> 00:48:35,150
تغيّرت، جوهر الـ value موجود، لكن الصورة اللي ظهرت
605
00:48:35,150 --> 00:48:37,950
عليها مختلفة
606
00:48:38,930 --> 00:48:44,390
طيب، الآن بدنا نروح على الـ Transformation اللي له
607
00:48:44,390 --> 00:48:47,190
علاقة بالـ Normalization، لأن هنا في عندي
608
00:48:47,190 --> 00:48:50,770
Mathematical Forms لازم أفهمها كويس، وأفهم النتيجة
609
00:48:50,770 --> 00:48:53,910
من كل واحدة فيهم. كل الكلام اللي إحنا قلناه سابقاً
610
00:48:53,910 --> 00:48:57,380
جربنا الـ smoothing والـ aggregation، بسيطة، هي عبارة
611
00:48:57,380 --> 00:49:00,480
عن computation بسيطة، ممكن تصير موجودة عندي، والـ
612
00:49:00,480 --> 00:49:03,420
generalization ما فيش عليها شغل كتير زي ما إحنا
613
00:49:03,420 --> 00:49:
667
00:53:44,680 --> 00:53:48,700
الان
668
00:53:48,700 --> 00:53:52,420
كمان مرة شو رايك هاي الـ .. هاي الـ two attributes و
669
00:53:52,420 --> 00:53:57,020
بدك ترسملي إياها على two-D plane مالهاش علاقة بالـ
670
00:53:57,020 --> 00:54:02,560
mining الآن، تمام؟ شو الـ scale اللي بدك تستخدمه؟
671
00:54:02,560 --> 00:54:07,180
بدك تستخدم واحد، اثنين، ثلاثة، أربعة، خمسة، ستة؟
672
00:54:07,180 --> 00:54:15,250
ولا واحد من عشرة؟ ولا مئة؟ ممتاز إذا أنت أخدت
673
00:54:15,250 --> 00:54:18,790
المئة، إذا أخدت المئة يعني الصحيحة، التهاني من صفر
674
00:54:18,790 --> 00:54:24,550
لمئة، كل الـ values تبع الـ attribute هذا هتيجيك في
675
00:54:24,550 --> 00:54:27,950
النقطة هاي، هتيجيك وكأنه معمول في النقطة هاي مش
676
00:54:27,950 --> 00:54:32,970
هيبينه، ليش؟ لأنه الـ range تبعك اللي أنت اعتمدتها
677
00:54:32,970 --> 00:54:38,250
يا تناسب، وإذا اعتمدت واحد من عشرة بالمئة هتيجي هنا
678
00:54:40,520 --> 00:54:43,140
مصبوط؟ وبالتالي ما فيش مجال الرسم inconsistent
679
00:54:43,140 --> 00:54:49,400
حيكون، أو مش هتقدر ترسمهم من الآخر، ما فيش حل إلا أن
680
00:54:49,400 --> 00:54:54,020
بدي أعمل معيار للرسم بين الاثنين، إما بدي أنزل هذا
681
00:54:54,020 --> 00:54:57,920
لنفس الـ scale، أو بدي أرفع هذا لنفس الـ scale اللي
682
00:54:57,920 --> 00:55:05,780
موجود، وعلى الحالتين صح، مين الأسهل؟ أنزل، قول بدي
683
00:55:05,780 --> 00:55:12,420
أُجسّمه عالميًا، بيصير هذا واحد وهذا عشرة، لاحظ الـ
684
00:55:12,420 --> 00:55:20,520
range الآن بقى يختلف، صفر لواحد وواحد لعشرة، نوعًا ما
685
00:55:20,520 --> 00:55:23,840
قريب، لكن برضه ممكن أنا إيش راح أساوي؟ أحط بنفس الـ
686
00:55:23,840 --> 00:55:26,580
range، ما بدي أجسّم عالميًا، أنا أجسّم على الـ
687
00:55:33,500 --> 00:55:37,500
صار عندي إيش؟ نفس الـ scale exactly، وأنا ما فقدتش من
688
00:55:37,500 --> 00:55:42,320
قيمة البيانات ولا حاجة، هذا الكلام نفسه .. نفسه
689
00:55:42,320 --> 00:55:45,440
بهمني لما يكون الـ algorithm تبعي، الـ machine
690
00:55:45,440 --> 00:55:47,920
learning algorithm اللي بيشتغل في الـ mining task
691
00:55:47,920 --> 00:55:51,900
تكون data set أو attribute، الـ values تبعته صغيرة
692
00:55:51,900 --> 00:55:56,480
جدا، والـ attribute الثاني، الـ value تبعته كبيرة جدا
693
00:55:57,410 --> 00:56:00,830
تبقى عندي mismatch في التعامل، فأفضل حاجة إيش أسوي؟
694
00:56:00,830 --> 00:56:04,510
أن أحاول أعمل normalization لكل الـ data تكون كلها
695
00:56:04,510 --> 00:56:10,090
على range واحد، فالـ scaling هذه أو الـ normalization
696
00:56:10,090 --> 00:56:14,810
هذه مهمة جدا بالنسبة لنا، الـ
697
00:56:14,810 --> 00:56:18,390
Z-score أو الـ normalization أو الـ zero score
698
00:56:18,390 --> 00:56:22,510
normalization، أو زي ما بتسميها في Python: standard
699
00:56:22,510 --> 00:56:25,550
scalar، standard scalar
700
00:56:28,890 --> 00:56:32,550
في عندنا الـ Min-Max Normalization أو Min-Max Scalar
701
00:56:32,550 --> 00:56:37,450
وفي عندنا الـ Decimal Scalar أو Decimal Scaling أو
702
00:56:37,450 --> 00:56:43,030
Decimal Normalization، نبدأ مع الـ Zero Score أو مع
703
00:56:43,030 --> 00:56:47,070
الـ Z-min أو الـ Z-Score، كلها نفس المصطلحات أو نفس
704
00:56:47,070 --> 00:56:51,590
العنصر، Standard Scalar، بتكلم على الـ Zero-Min
705
00:56:51,590 --> 00:56:57,270
Normalization، Zero-Min Normalization، مفهومها بكل
706
00:56:57,270 --> 00:57:03,450
بساطة يا جماعة الخير، إنها احنا فعليًا بحاجة، طبعًا عشان
707
00:57:03,450 --> 00:57:05,650
في مثال أنا كتبته عند الطالبات، المحاضرة الجاية
708
00:57:05,650 --> 00:57:08,470
اللي بدي إياه نفسه، ما فيش داعي أن أختار مثال جديد
709
00:57:08,470 --> 00:57:15,470
مفهومها إنه بدي أحول الـ attribute هذا لـ attribute
710
00:57:15,470 --> 00:57:19,110
أو لـ value، أحوّل الـ data اللي فيه لـ value مختلفة
711
00:57:19,110 --> 00:57:24,590
بحيث أن المتوسط الحسابي تبع الـ new form يكون صفر
712
00:57:24,590 --> 00:57:30,160
عشان هيك اسمه Z من الـ zero، أو Z-Mean، Zero-Mean،
713
00:57:30,160 --> 00:57:34,460
Zero-Score أو Zero-Mean، مفهومها إنه بعد ما أنا
714
00:57:34,460 --> 00:57:40,100
أحوّل الـAttribute، أحوّل الـAttribute، بده يكون
715
00:57:40,100 --> 00:57:44,460
الـMean تبعه صفر، ليش هذا الكلام مهم؟ لأنه كثير من
716
00:57:44,460 --> 00:57:47,420
العمليات الحسابية المرتبطة بالـ Machine Learning
717
00:57:47,420 --> 00:57:50,700
Algorithm لها علاقة بالـMean والـStandard
718
00:57:50,700 --> 00:57:56,610
Deviation، فإذا أنا قدرت أحول الـMean لـ0، فبتصير
719
00:57:56,610 --> 00:58:03,110
العمليات الحسابية تبعيتي أسهل ما يمكن، لو أنت بقيت
720
00:58:03,110 --> 00:58:06,810
تضرب بصفر، خلاص بس الـ term اللي أنا جيت فيه، term
721
00:58:06,810 --> 00:58:10,370
صفر، خلصنا، لو بدي أجمع صفر مع أن ما فيش عندي تغيير
722
00:58:10,370 --> 00:58:14,770
وهذا هو الهدف الأساسي من الـ normalization هنا، إنه
723
00:58:14,770 --> 00:58:17,970
أنا عامةً في الـ transformation عمالي بحاول أبدأ
724
00:58:17,970 --> 00:58:22,070
أقلل من الـ cost أو الـ computational cost اللي ممكن
725
00:58:22,070 --> 00:58:27,930
تصير عندي، فالـ Zero mean أو الـ Z-score هدفها أنه
726
00:58:27,930 --> 00:58:31,890
للـ feature هذا تكون قيمة الـ mean، المتوسط الحسابي
727
00:58:31,890 --> 00:58:38,670
صفر، والـ variance أو الانحراف المعياري تبعته جدًّا قريب من واحد
728
00:58:38,670 --> 00:58:46,410
عبر المعادلة اللي موجودة عندنا هنا، طبعًا ميزة
729
00:58:46,410 --> 00:58:50,370
الـ scaling هذا إنه ما فيش minimum وما فيش maximum
730
00:58:50,370 --> 00:58:54,480
لكن بتروح تتطبق حسب القانون، القيمة الجديدة اللي هي
731
00:58:54,480 --> 00:59:00,840
الـ Z تساوي القيمة السابقة X ناقص المتوسط الحسابي
732
00:59:00,840 --> 00:59:06,660
على الانحراف المعياري تبع الـ value اللي موجودة
733
00:59:06,660 --> 00:59:12,240
عندها، عشان تظهر الصورة، الأرقام اللي عندي أنا: عشرة،
734
00:59:12,240 --> 00:59:18,000
خمسة عشر، عشرة، خمسة عشر، عشرين
735
00:59:24,250 --> 00:59:27,910
هذه الـ A original، الـ attribute O، الـ attribute
736
00:59:27,910 --> 00:59:33,030
الأصلي، الـ values اللي فيه، الـ values اللي فيه، تمام
737
00:59:33,030 --> 00:59:38,590
هايهم خمس قيم، عشان أقدر أشتغل مع هذا أو أطبق عليه
738
00:59:38,590 --> 00:59:43,910
الـ Z-score، شو بدي أساوي؟ بدي أحسب المتوسط الحسابي
739
00:59:43,910 --> 00:59:50,250
هاي، المتوسط الحسابي يساوي المجموع على العدد، عشرة،
740
00:59:50,250 --> 00:59:57,500
عشرين، وبتهيأ لي فيه كمان واحدة، هم خمس قيم، خمسة عشر
741
00:59:57,500 --> 01:00:04,980
عشرين، تمام، سبعين على خمسة، كده الشباب، سبعين على
742
01:00:04,980 --> 01:00:12,020
خمسة، يا
743
01:00:12,020 --> 01:00:17,640
عيني عليكم، عشان هيك يا حبايبنا تعمل حسابك، تعمل
744
01:00:17,640 --> 01:00:21,700
حسابك، تجيب الـ calculator تبعك، أنا بالنسبة لي
745
01:00:25,870 --> 01:00:29,150
هيها أه، مش هسمح لك تستخدم الجوال ولا في الامتحان،
746
01:00:29,150 --> 01:00:32,830
هسمح لك تستخدم الجوال، فأنت ما شاء الله يعني لسة عن
747
01:00:32,830 --> 01:00:35,470
بارح طالع من الثانوية العامة، أو إذا في عندك حدا
748
01:00:35,470 --> 01:00:41,010
فهي .. هي، فهي لك، إذا في حد أخدها من وراك تلفها
749
01:00:41,010 --> 01:00:47,710
منه، ضروري من اليوم وطالع في عندنا حساب، لأ، حساب
750
01:00:47,710 --> 01:00:51,230
عشان ما أخوف cash، لأن هاي، وما شاء الله عليك أنت في
751
01:00:51,230 --> 01:00:56,110
القسمة، الـ 70 على 5، أثبتتي بالدليل القاطع إنك
752
01:00:56,110 --> 01:01:05,030
ناجح إن شاء الله، طيب، الآن خلاص حسبت الـ mean، الآن
753
01:01:05,030 --> 01:01:08,710
إيش بقول له؟ الانحراف المعياري أو الـ sigma تساوي
754
01:01:08,710 --> 01:01:14,110
الجذر التربيعي للفروقات ما بين الـ mean على العدد
755
01:01:26,700 --> 01:01:32,460
عشرة، أربعة عشر ناقص عشرة تربيع، أربعة عشر ناقص عشرة
756
01:01:32,460 --> 01:01:36,680
تربيع، أربعة عشر ناقص عشرين تربيع، أربعة عشر
757
01:01:36,680 --> 01:01:42,880
ناقص عشرين تربيع، أربعة عشر ناقص عشرين تربيع، أربعة
758
01:01:42,880 --> 01:01:43,720
عشر ناقص عشرين تربيع، أربعة عشر ناقص عشرين تربيع
759
01:01:43,720 --> 01:01:44,240
أربعة عشر ناقص عشرين تربيع، أربعة عشر ناقص عشرين
760
01:01:44,240 --> 01:01:49,650
تربيع، أربعة عشر ناقص عشرين تربيع، أربعة عشر ناقص 16، 1
761
01:01:49,650 --> 01:02:04,310
16، 1، 36، مصبوط، أنا حسبت المربعات، الآن 16 و16، 32، و
762
01:02:04,310 --> 01:02:16,360
32 و2، 34، و36، 70، الآن الـ sigma تساوي الجذر
763
01:02:16,360 --> 01:02:22,900
التربيعي لـ 70 على 5، اللي هي جذر الـ 14، اللي هي
764
01:02:22,900 --> 01:02:29,840
تقريبًا قد ايش؟ ثلاثة
765
01:02:29,840 --> 01:02:34,060
أو كسر، صح؟
766
01:02:34,060 --> 01:02:37,400
ما هو لما أنت تكتب ثلاثة فاصلة جذر، مش عارف قد ايش، مش هتحصل
767
01:02:37,400 --> 01:02:43,020
لنتيجة ثلاثة
768
01:02:43,020 --> 01:02:50,630
فاصلة أربعة وسبعين، جذر
769
01:02:50,630 --> 01:02:57,510
الـ 14 هذا بنسميه الانحراف المعياري للـ data set
770
01:02:57,510 --> 01:03:03,290
أو للـ attribute اللي عندي، sigma، لسة احنا ما خلصناش،
771
01:03:03,290 --> 01:03:08,370
أنا كل اللي سوّيته جبت المعاملات بتاعة المعادلة هاي،
772
01:03:08,370 --> 01:03:13,740
جبت الـ mu، جبت الـ sigma، هلاّ بدي أجيب Z، زد لمين يا
773
01:03:13,740 --> 01:03:18,260
جماعة الخير؟ لكل قيمة من هدول، لكل قيمة من هدول، احنا
774
01:03:18,260 --> 01:03:27,880
خلصنا هذا، الآن بقدر أمسحه، الـ
775
01:03:27,880 --> 01:03:32,420
attribute new، قيمة
776
01:03:32,420 --> 01:03:40,550
القيمة الجديدة تساوي X ناقص ميو على ثلاثة فاصلة أربعة وسبعين، يعني
777
01:03:40,550 --> 01:03:45,910
بتكون عشرة ناقص أربعة عشر على ثلاثة فاصلة أربعة وسبعين، ولا كيف؟ بده يكون في الآخر المتوسط
778
01:03:45,910 --> 01:03:52,530
الحسابي صفر، لازم تكون قيم موجبة وقيم سالبة، لأنه في
779
01:03:52,530 --> 01:03:57,970
الآخر صفر على أي شيء، العدد مستحيل يكون صفر، فلازم
780
01:04:02,390 --> 01:04:06,530
البسط يطلع معك صفر، مجموع القيم، فبتطلع هذه سالب
781
01:04:06,530 --> 01:04:14,240
بالنسبة للأولى، أربعة على ثلاثة فاصلة أربعة وسبعين،
782
01:04:14,240 --> 01:04:17,340
سالب
783
01:04:17,340 --> 01:04:22,440
واحد فاصلة صفر سبعة، هم الـ rounding للرقمين،
784
01:04:22,440 --> 01:04:25,700
هتكون
785
01:04:25,700 --> 01:04:31,300
عندي عشرة ناقص، أو عفواً، خمسة عشر ناقص أربعة عشر على
786
01:04:31,300 --> 01:04:37,040
ثلاثة فاصلة أربعة وسبعين، اعتمد
787
01:04:37,040 --> 01:04:38,900
يا أبو حاسم، ولا في شك في الكلام
788
01:04:43,490 --> 01:04:49,430
26% غلط، لأنه بدنا نعمل rounding، عندك 6 أو 7 يا
789
01:04:49,430 --> 01:04:56,250
باشا، عشان أضمن تصفّر معايا المسألة، الآن عشرة، نفس
790
01:04:56,250 --> 01:05:00,890
القيمة اللي فوق، 1
791
01:05:00,890 --> 01:05:07,610
فاصلة 0715
792
01:05:07,610 --> 01:05:11,990
فاصلة 27، الآن
793
01:05:14,240 --> 01:05:25,220
1 فاصلة 6، أنا بتذكرها هي صحيحة، 1 فاصلة 6، تمام؟ الآن متوسط
794
01:05:25,220 --> 01:05:32,460
الحساب الجديد يساوي، أجمع
795
01:05:32,460 --> 01:05:40,840
العناصر هدول على عددهم، عددهم خمسة، سالب
796
01:05:40,840 --> 01:05:41,240
واحد
797
01:05:44,090 --> 01:05:52,350
لأن أنت ما ترَهِلش، أنت بتجمع القيمتين هدول وبالتالي
798
01:05:52,350 --> 01:05:59,410
الـ mean تبعيتي قد ايش صارت؟ صفر، لازم يطلع صفر، اللي مش
799
01:05:59,410 --> 01:06:04,250
مصدق يجمعهم يا شباب، مش مشكلة عندي، تمام، فالـ mean
800
01:06:04,250 --> 01:06:10,950
صفر، الانحراف المعياري الجديد يساوي الجذر التربيعي
801
01:06:10,950 --> 01:06:18,430
للفروقات هدول، أو للقيم هدول تربيع، الفروق مع الـ
802
01:06:18,430 --> 01:06:27,890
mean، الـ mean صفر، فتربيع القيم هذه: 1 فاصلة 07 زائد 0 فاصلة 27
803
01:06:27,890 --> 01:06:40,490
زائد 1 فاصلة 7 تربيع، زائد 0 فاصلة 27 تربيع، زائد 1 فاصلة 6 تربيع، هدول
804
01:06:40,490 --> 01:06:43,330
مجموعهم خمسة، على خمسة
805
01:06:48,310 --> 01:06:51,770
واحد، أه، لازم يطلع واحد، لو ما طلع واحد ما أنتم في
806
01:06:51,770 --> 01:06:57,470
عندكم مشكلة، لو ما طلع واحد في عندكم مشكلة في الحساب،
807
01:06:57,470 --> 01:07:02,890
ممكن الأرقام مشكلة، لا يا باشا، الأرقام إيش ما كانت
808
01:07:02,890 --> 01:07:07,950
إذا تطبّق عليها الـ Z-score لازم إنها تجي يطلع الـ
809
01:07:07,950 --> 01:07:11,030
mean صفر، والـ standard deviation واحد
810
01:07:13,890 --> 01:07:18,810
تمام؟ تمام، إيش
811
01:07:18,810 --> 01:07:27,210
استفدت؟ الآن أنا عملت scaling .. scaling لمين؟ للـ
812
01:07:27,210 --> 01:07:32,090
A الأصلية اللي موجودة عندي، بقيم جديدة، عملت
813
01:07:32,090 --> 01:07:36,970
transformation، مظبوط؟ القيمة هذه تمثل العشرة، والـ
814
01:07:36,970 --> 01:07:41,630
27 تمثل .. الـ 27 من 100 تمثل 15، يعني حطيتها في
815
01:07:41,630 --> 01:07:45,130
Range جديد، الـ Range الجديد هذا ما فقدش قيمته
816
01:07:45,130 --> 01:07:52,390
مطلقًا، لكن كان فيه لميزة، قال لي إن المتوسط الحسابي
817
01:07:52,390 --> 01:07:57,610
تبع القيم هدول صفر، والانحراف المعياري واحد، كثير من
818
01:07:57,610 --> 01:08:00,370
الـ machine learning algorithm، جامعة الخير، بتنبني
819
01:08:00,370 --> 01:08:05,390
على حسبة الـ mean والانحراف المعياري، فلما أنا بأضمن
820
01:08:05,390 --> 01:08:09,320
الـ mean صفر، معناته كثير من العمليات أو من الـ terms
821
01:08:09,320 --> 01:08:12,800
هعملها neglect، هاختصرها في الـ computation، ولا لأ؟
822
01:08:12,800 --> 01:08:16,400
لما بتكون العمليات ضرب وبحصل على واحد في الـ
823
01:08:16,400 --> 01:08:21,140
standard deviation، هذا الكلام كله بِخدمني في تسريع
824
01:08:21,140 --> 01:08:23,980
عملية الـ learning اللي هتصير عند الـ data mining أو
825
01:08:23,980 --> 01:08:27,940
في مرحلة الـ mining أو الـ data mining tasks، هالكلام
826
01:08:27,940 --> 01:08:32,920
هذا مطلوب من ناحية عملية، من ناحية عملية، الـ standard
827
01:08:32,920 --> 01:08:37,340
scalar موجودة في Python as a function، تستدعيها و
828
01:08:37,340 --> 01:08:39,800
بتقول له تديها اسم الـ attribute وبتعمل generate لـ
829
01:08:39,800 --> 01:08:48,540
attribute مباشرة، بس لازم تحفظ وتفهم إيش اللي بيصير
830
01:08:48,540 --> 01:08:52,240
لأنه بكل بساطة لاحقًا ممكن أَديك sequence من خمس
831
01:08:52,240 --> 01:08:55,960
عناصر زي هيك وأقول لك روح أنا بدي نعمل
832
01:08:55,960 --> 01:08:58,900
transformation للـ data set هذه بحيث إنك تتناسب مع
833
01:08:58,900 --> 01:09:02,500
الـ task الفلانية، بتطبيق الـ algorithm الفلاني
835
01:09:06,680 --> 01:09:11,320
أيوة، سؤال مهم، أحمد فاروق بيقول: جديش الـ scale؟ ما فيش
836
01:09:11,320 -->