segment_id start_time end_time set text 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00000 4976 5886 train Sem sagt 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00001 6946 10438 train eru inni á Canvas, tvö notebook. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00002 12463 15554 train Ég ætla að fara bara í gegnum annað ég hvet ykkur til að kíkja á hitt. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00003 16405 18269 train Það er svona annar fókus í því 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00004 18816 23286 train en, en, hérna, hérna er þetta sem við erum búin að vera að tala um í dag, 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00005 24372 32232 eval sem sagt um það hvernig maður getur möndlað gögnin með melt og pívot til þess að, sem sagt þau, þannig að taflan lúkki rétt 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00006 32874 42627 train og svo hins vegar ýmiss konar, hérna, skipanir til þess að díla við missing values og útlaga og, og slíkt. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00007 43466 46889 train Þannig að ef við bara byrjum hérna að keyra, sem sagt 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00008 46988 50770 train þetta sem við þurfum og þið sjáið við erum með allt þetta sama og venjulega, 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00009 52335 61882 train pandas og numpy. Við erum með eitthvað sem heitir datetime sem við notum til að díla við, hérna, díla við dagsetningar og svo náttúrulega plottið. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00010 62720 67700 train Og þessi gögn finnið þið líka inni á Canvas í zip skrá. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00011 68564 73763 train Þannig að byrjum á að lesa inn, hérna, þessi gögn frá Pew Research Center, 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00012 74040 76685 dev um sem sagt innkomu og trúarbrögð. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00013 77988 79938 dev Sjáum það þetta sem við sáum áðan 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00014 80917 82908 train í, hérna, í glærunum 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00015 83130 84240 train þarna erum við sem sagt með 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00016 86321 89351 train fjölda eftir trúarbrögðum 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00017 90101 91898 train miðað við tekjur. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00018 91944 97359 train Þannig að við erum með, dálkarnir tákna mismunandi tekjumörk. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00019 98304 99713 train Svo sjáum við fjöldann 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00020 100625 109705 eval sem tilheyrir hverju trúarbragði og eins og við sáum áðan þá er þetta dæmi um það að við erum með einhverjar upplýsingar í dálkaheitunum, 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00021 110845 113474 train sem sagt tekjutölurnar hérna. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00022 114304 117334 train Og þetta eru upplýsingar sem við mundum vilja nota, 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00023 118384 120802 train hafa meira [UNK]. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00024 120845 122795 train Við viljum geta notað þessar upplýsingar á einhvern hátt. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00025 123415 129091 eval Þannig að til þess að geta, að gera það þá, hérna, viljum við breyta töflunni með því að nota þetta melt fall. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00026 131811 137481 train Hérna, það sem, eins og við nefndum áðan að við tökum töfluna okkar, 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00027 138240 142379 train við viljum halda eftir þessum religion dálki. Hann á að halda sér, 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00028 143360 148310 train en við ætlum að gera eitthvað við alla hina, sem sagt fyllimengið af dálkum 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00029 149120 153577 eval og við viljum að það, sem sagt, varpist 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00030 154400 159320 train já, og, og, hérna, og nýi dálkurinn á að heita 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00031 160308 167693 eval income eða tekjur og svo kemur nýr dálkur þar sem að þar sem að gildin í töflunni koma og hann á að heita sem sagt frequency. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00032 167866 172085 train Og hérna og svo er hann bara eitthvað að sort-a þetta eftir trúarbrögðum. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00033 172840 179986 eval Þannig að ef við keyrum það þá sjáið þið að hún lítur svona út þegar við erum búin að umturna þessu. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00034 181305 187759 train Hérna, það er voðalega gott bara að stara á þetta. Þetta alveg svoldið svona 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00035 188305 194871 train smá hérna flókið stundum að, þú veist, fatta nokkuð hvað er að gerast en hérna, sem sagt 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00036 194944 200853 train ég fann ágætis útskýringu hérna ég skal setja þá linkinn inn á þetta, á sem sagt Canvas líka, 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00037 201404 206101 train það sem er verið að tala um muninn á pivot og melt og hvernig það virkar. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00038 207598 210544 train En basically það sem við erum að gera við erum að taka þessa, hérna, 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00039 210701 216785 dev dálkana og aðeins bara umturna þeim þannig að við förum úr þessu format-i og í þetta langa format í þessu tilfelli. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00040 218094 221753 train Og hérna erum við með lögin, vinsældalistann. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00041 223110 227580 train Ef við lesum það inn þá lítur þetta svona út og þið sjáið þetta er svona 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00042 228102 239135 train alveg svolítið skrýtið af því að við erum með hérna hvenær það kom inn á listann og hvenær það var hæst á listanum og svo erum með hérna sjáið þið dálkaheitin hérna: 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00043 239384 242747 train x first week, x second week 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00044 242995 249142 train svo erum við bara með fullt af einhverjum NaN þannig að þetta eru svona eitthvað, eitthvað svona ekki ideal. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00045 249880 253338 train Þannig að hérna aftur ætlum við að nota melt. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00046 254679 257048 train Og við byrjum á að ákveða 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00047 258160 259600 train hvaða breytur 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00048 260480 279800 train melt fallið á að, sem sagt halda og við viljum halda þessum dálkum hérna, year, artist, inverted, bla bla bla, track time, genre, date entered og date peaked. Þeir allir eigi að halda sér kjurir en restin á að varpast svona á að melt-ast. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00049 280600 284499 train Og, og, hérna, þannig að ef við bara keyrum þetta, 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00050 285689 287585 train já, og svo bætir hann líka við hérna, 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00051 287873 292483 train nei, fyrirgefðu hann, sem sagt bara melt-ar þetta. Hann heldur þessum dálkum sem eru nefndir hérna í þessu id-vars 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00052 292698 297088 train og svo melt-ar hann og þá lítur hún svona út þannig að þið sjáið 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00053 297642 306263 train að þessir dálkar sem við vildum halda þeir eru hérna allir nema allt sem var í restinni sem að var, sem sagt héðan, 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00054 306634 307701 train allt sem er hér 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00055 308338 310918 train er bara núna orðið að tveimur dálkum, 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00056 311415 313637 train það er að segja annar dálkurinn heitir week. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00057 314624 320126 train Þetta hérna: first week, second week, sem við sáum, sem við sáum og seinasti dálkurinn hann heitir rank 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00058 320768 323408 train þar sem að tölurnar í þessum dálkum eru núna komnar. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00059 324938 328673 train Og svo getum náttlega tekið þetta og tekið aðeins til í þessu 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00060 328951 331322 train af því þið sjáið að, sem sagt 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00061 331550 337034 train gildin hérna í þessum week dálki er náttúrlega svolítið ljót, við getum ekki, hérna, 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00062 337173 338853 train gert neitt við þetta svona þetta er svolítið skrítið. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00063 339209 342839 train Þannig að það sem við gerum til dæmis er að nota svona regular expression, 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00064 342941 345150 train til þess að taka út bara töluna 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00065 346381 349441 train og svo erum við aðeins að manipulate-a líka dagsetninguna. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00066 350336 357205 train Búa til hérna nýjan dálk sem heitir date og aðeins að möndla hann þannig að við fáum út eitthvað sem lítur svona út. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00067 357584 363909 train Já, ég veit ekki af hverju þetta er svona skrítið hér þetta á ekki að vera svona. Þetta ætti raunverulega bara að enda hér. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00068 365021 366021 train Skrítið jæja. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00069 366749 372788 eval Að þá sem sagt sjáið þið líka hérna í week er bara talan það er ekkert, hérna, þú veist, allt þetta crap 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00070 373200 374411 train Það er bara talan sjálf. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00071 375784 376264 dev Ókei. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00072 377726 380245 dev Já, og svo ætlum við að skipta þessu líka í tvær töflur. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00073 381056 385495 train Aðra sem er bara með lögunum og hin sem er síðan bara með í hvaða sæti þau voru. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00074 386371 389185 train Þannig að við getum hérna í fyrsta lagi búið til 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00075 389781 392775 train töfluna með bara með lögunum. Hún mundi líta svona út. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00076 393097 395348 train Þannig að við veljum bara dálkanna sem við viljum. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00077 396567 400742 train Við droppum duplicates af því þið sjáið náttúrulega hér 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00078 400753 403959 train að sama lagið er að koma rosalega oft fyrir. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00079 405314 409034 train Við bara pössum það að hvert entry kemur bara fyrir einu sinni 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00080 409732 413584 train og, og hérna búum til sem sagt hérna id dálk og eitthvað 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00081 413950 422084 train og þá mundi hin taflan sem er með, hérna, því sæti sem lögin eru í, líta svona út þar sem við veljum þá árið 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00082 424962 431523 dev og, já, artist-ann, lagið, tímann og genre-an og svo, hérna, 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00083 432186 433242 train breytum við þessu hérna. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00084 433985 453695 train Ókei, og svo erum við með berkladæmið okkar sem við sáum líka í glærunum þar sem við vorum með fjölda berklasjúklinga í mismunandi löndum mismunandi árum eftir kyni og aldri og þið munið að hérna erum við líka mjög [HIK:flók] flókna samsetningu af kyni og aldri 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00085 453920 455485 train í dálka heitunum 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00086 457402 461722 train og aftur notuð við melt þannig að melt er svona frekar mikið galdra fall hér, 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00087 462741 469942 train að við viljum halda eftir country og year en við viljum breyta öllu hinu, við viljum við viljum varpa því öllu 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00088 471572 474692 eval og við viljum að, sem sagt þessir gaurar 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00089 475171 480574 train þeir heiti cases og gildin heiti sex and age. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00090 480777 484595 train Þannig að við byrjum á að breyta þessu, 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00091 485275 490324 eval nei, fyrirgefðu nú erum við búin að [HIK:skip], nei, við voru búin að víxla þessu. Þetta var alltaf víxlað áðan, sem sagt 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00092 490496 496316 eval þá heita, hérna, dálkarnir eiga að heita sex and age og cases á að heita, gildin eiga að heita cases. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00093 496775 509928 train Takið eftir því, value-name og var-name. Og þá lítur þetta svona út nema ennþá er náttúrulega þetta hérna, þessi dálkur sex and age svolítið ómeðfærilegur þannig að við notum 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00094 510848 520746 train regular expressions, sjáið þið hérna, hérna, extract-a eitthvað út úr honum til þess að breyta þessum hérna dálki í einn dálk sem er bara með kyni 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00095 521357 523669 train og dálk sem er með sem sagt aldrinum. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00096 524243 525632 train Þannig að við keyrum þetta. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00097 528197 534458 train Nei, ekki þetta. Ég ætla að byrja upp á nýtt. Sorry. Svona, og svona. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00098 534593 536359 train Þennan ætla ég að keyra. Ókei. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00099 536468 537566 train Þá sjáið þið hérna 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00100 537834 541556 dev að við erum með kynið. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00101 541967 554218 train Við erum með lægri mörkin á aldrinum, efri mörkin á aldrinum og, sem sagt aldurs, raunverulega, bilið þannig að þessir age-lower og age-upper er sem sagt 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00102 554358 556338 eval þeir saman búa til þennan age hérna. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00103 558204 559614 dev Þannig að þið sjáið sem sagt að 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00104 563393 564644 train þessi hérna 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00105 564989 566453 train temp data frame 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00106 567413 573006 train er bara sex and age dálkurinn 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00107 574336 576345 train úr þessum hann er bara þessi hérna dálkur, 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00108 577504 580641 eval svo extröktum við sem sagt þetta sem streng 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00109 582193 588133 train og, og hlutina úr honum og búum til þá, sem sagt nýja, þrjá nýja dálka sem líta svona út. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00110 588544 592197 train Og svo getum við bætt honum aftur við upprunalegu töflunna 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00111 593024 602714 train svona. Þannig að við erum aftur komin með sem sagt landið árið fjöldann og svo, sem sagt kyn og aldur. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00112 603234 607683 train Þannig, núna lítur þetta út á svona einhverju formi sem er svolítið þægilegra. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00113 609164 616304 eval Ókei, og svo erum við með veðrið munið þið þessa hérna ljótu töflu sem var bara full af einhverju tómu og við vildum breyta henni 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00114 616767 634864 train og þið munið líka hérna þá vorum við, sem sagt árið og svo voru með mánuðinn og svo vorum dagana hérna í dálka heitunum sem er náttúrulega hálfkjánalegt en þetta getur náttúrulega bara verið að þessir sem eru að eru að safna þessum gögnum að fyrir hann er best að hafa þetta svona og þess vegna vinnur hann þetta svona. En en fyrir okkur sem viljum svo vinna eitthvað upp úr þessu 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00115 635648 641015 train þá er þetta alveg vonlaust þannig að við, við förum í það að, að, hérna, umturna þessu. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00116 641778 643248 train Aftur notum við melt 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00117 644734 648843 train og við viljum að halda id, year, month og element 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00118 650388 651677 train en við viljum 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00119 653824 655294 train varpa, hérna, þessum. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00120 656640 657479 train Varpa restinni 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00121 658432 659960 eval og það á að heita day raw. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00122 660521 665055 train Þannig að day raw, sjáið þið hérna, er þessi 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00123 665304 666024 train nöfn hérna 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00124 667240 669759 train og við erum ekki með neitt value name, 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00125 672550 678880 train sem þýðir það að við bara fáum default gildi hérna sem er bara value þannig að value name er bara value það er sem sagt í default-ið 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00126 680402 682442 dev og svo viljum við 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00127 684353 690534 train út úr þessu hérna extract-a bara einn inn af því það er dagurinn, við erum ekki, þetta d skiptir engu máli 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00128 690871 693131 dev það er hvort eð er alltaf það sama þannig að við getum alveg eins hent því í burtu. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00129 693888 698958 train Þannig að við notum regular expression til að henda d-inu í burtu 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00130 700474 703253 train og við látum, hérna, 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00131 703298 705568 dev breytum þessu í, í þetta. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00132 706479 712096 train Sem sagt að id-ið er bara, sem sagt þessi. Þetta er alltaf það sama. Þetta var sem sagt mælitæki sem þeir notuðu eða eitthvað. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00133 712535 714601 train Og svo það sem við erum að gera hér 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00134 715691 716801 train er að 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00135 717740 724568 train nota svona lambda expression til þess að breyta þessum strengjum, þetta eru strengir í 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00136 726346 726855 train í numeric, 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00137 727375 730813 train sem sagt pd to-numeric þannig að þetta er allt saman, allt saman 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00138 730831 732690 train strengir og við viljum þetta séu tölur. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00139 733062 734550 dev Þannig að ef við skoðum þetta núna 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00140 734973 739710 train þá sjáið þið hérna að við erum komin með, þetta er núna sem sagt, 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00141 741218 747059 train já, breytist ekkert, ekkert hér en við sjáum að, hérna, day er bara einn 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00142 747835 750082 train í staðin fyrir að vera D einn þá er það bara einn 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00143 750464 752234 train og svo sjáum við, 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00144 753221 755494 train já, þetta er svo bara tölur hérna. Við sjáum það hér. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00145 756480 774928 train En svo að gera hér er að taka þessa þrjá dálka year, month og day og búa til date. Við viljum að sé bara date, sem sagt að data type-ið sé date þannig við getum reiknað með þeim eins og þeir séu dagar, en þá getur maður sagt: þú ert ein dagsetning, mínus öðrum dagsetning og fengið út fjöldann á dögum milli 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00146 775936 777496 train hentugt að vera með þetta sem date. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00147 778008 785088 train Þannig að við skrifum hérna lítið fall sem að, hérna, breytir þessum tveimur dálkum í einn dálk sem heitir dagsetning 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00148 786432 788801 dev og þá fáum við út eitthvað sem lítur svona út. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00149 789722 798485 train Þannig að við erum með, hérna, mælitækið, við erum með max, hibben minn, hitann og gildi sem að mældist á þessum degi. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00150 800903 804234 train Og svo þegar við erum búin að þessu þá viljum við unmelt-a þetta. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00151 804645 814779 train Og andstaðan við melt heitir pivot. Í melt þá erum við að breyta töflum og gera þær langar og þegar við erum að pivot-a erum við að gera þær breiðar. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00152 815272 818683 train Þannig að það virkar svipað, eða, þú veist, bara andstætt. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00153 820088 824347 train Í þessu tilfelli þá viljum við halda eftir æti í beit 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00154 825554 832064 eval og það er þetta sem við viljum, það sem við viljum breiða úr. Þannig að við breiðum úr þessu. Þá sjáum við hérna 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00155 832673 843673 train að við fáum út, sem sagt að töfluna sem lítur svona út. Við erum með mælitæki um dagsetninguna og erum með tvo dálka hérna, t Max og t min þannig að í staðinn fyrir að vera með, 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00156 844258 847791 train hérna, tvö mismunandi gildi alltaf hér í element, 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00157 848768 851378 train þá breytast þeir í tvo nýja dálka. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00158 852584 861098 train Þannig að eins og ég segi þetta pivot er svona andstæð aðgerð við melt. Það gerir töflurnar breiðar á meðan melt gerir töflurnar langar. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00159 862937 869958 dev Ókei og svo vorum við með baby names in illinois, þið munið eftir því. Það voru sem sagt tvær mismunandi töflur í tveimur mismunandi skrám 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00160 870352 872021 train og við viljum sameina þær. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00161 874602 882066 train Skrifum hérna smá lítið fall sem að, hérna, extract-ar árið úr, úr, úr, hérna, skráarheitinu. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00162 882180 883762 eval Þannig að þið sjáið hérna að við erum með 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00163 885547 904958 dev búum til þennan hérna þessa hérna breytu sem heitir all files sem er með path-inn á skránni og svo getur skráin heitið mismunandi sjáið hérna erum við með svona expression þar sem við getum sett inn mismunandi gildi fyrir skráarheitið og svo bara lúppum við yfir alla fælana í þessari hérna möppu 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00164 905938 910766 train og finnum allar, alla fæla sem hafa þetta format 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00165 911924 912793 train sem heita eitthvað, 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00166 912853 920592 train sem sagt eru á þessu format-i og í okkar möppu erum við með, sem sagt tvær skrár, annars vegar tvö þúsund og fjórtán og hins vegar tvö þúsund og fimmtán 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00167 922011 925131 train og þannig að þessi for loop-a finnur báðar þær skrár 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00168 925952 927452 eval og les þær inn og sameinar þær, 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00169 928422 933744 train sem sagt hérna, concat og, og, hérna, sem sagt, og þetta þá mundi vera 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00170 934211 935585 train byrjunin á þeirri skrá. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00171 936448 946978 train Þetta er mjög sniðugt hérna að nota þetta hérna, sem sagt eitthvað svona regular expression og svo loop-a yfir allar skrár í möppunni, ef þú ert með margar skrár sem eru mjög svipaðar, sem 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00172 947552 948769 train sem er mjög oft 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00173 950412 953471 train það sem við erum að díla við, þá er þetta mjög góð lausn til þess. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00174 955478 961452 dev Ókei, eru einhverjar spurningar um melt og pivot og svona breiðar og, og, hérna, mjóar töflur? 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00175 963712 966860 train Eins og ég segi þá er bara gott að aðeins stara á þetta til þess að átta sig á því hvernig þetta virkar. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00176 968648 973840 train En annars þá eru nokkur orð um data preprocessing 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00177 975674 981076 train Ég ætla að nota hérna, sem sagt þetta wheat prices sem við vorum með á seinasta föstudag 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00178 982832 991477 eval og, og hérna og byrjum bara á því að lesa þau inn og við sjáum það að við erum með, sem sagt tuttugu og tvö þúsund, átta hundruð níutíu og níu 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00179 991851 994266 train observation-ir og átta 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00180 995552 996122 train breytur. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00181 996992 999926 train Svo getum við tékkað hvort það sé einhver, hérna, 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00182 1000156 1004594 dev sem sagt einhver missing value hvort það vanti einhverstaðar eitthvað og þetta er einfaldasta kall til þess. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00183 1004857 1009880 train En þið sjáið það að [UNK] ef við lesum það inn þá bara fáum við út töfluna með logical gildum, 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00184 1010447 1020836 eval fullt af false, false, false, svo eru hérna einhver nokkur, nokkur sem eru true þannig að við getum verið viss um það að hérna eru einhver missing en þetta er náttúrulega ekkert voðalega 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00185 1022238 1029737 train góð aðferð þannig að við getum beitt öðrum aðferðum. Þið sjáið til dæmis hérna. Ef við erum með þetta is null aftur á hérna data frame-inu okkar 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00186 1030251 1039115 train svo við gerum punktur values punktur ravel punktur sum þá fáum við einfaldlega út fjöldann af missing gildum í þessari töflu. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00187 1040180 1048460 train Ef við sleppum þessu values ravel og gerum bara punktur sum þá gætum við séð eftir dálkum hvað eru mörg missing gildi. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00188 1049561 1056176 dev Þannig að við sjáum hérna núna mjög skýrt og greinilega að í dálkinum low q eru tíu þúsund fimmtíu og fimm, 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00189 1056768 1057967 train tíu þúsund fimm hundruð fimmtíu og sjö missing gildi. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00190 1061164 1069092 train Ókei, og svo getum við, ef við viljum bara, sem sagt fjarlægt þessi missing gildi úr töflunni okkar 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00191 1069936 1072665 eval og þá getum við notað þetta fall sem heitir drop NA 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00192 1073920 1075869 train þar sem að axis stendur fyrir 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00193 1076736 1083485 train hvort við eigum að gera eftir röðum eða dálkum þannig að axis jafnt og núll eru raðir axis jafnt einn eru dálkar. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00194 1084227 1087835 train Og svo erum þetta how sem getur annað hvort verið any eða all 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00195 1088875 1091860 train og sem sagt ef við erum með all hérna 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00196 1092736 1103176 eval þá þýðir það raunverulega að við droppum röðinni í þessu tilfelli ef að það vantar alla, ef öll röðin er með NA þá hendum við henni í burtu. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00197 1103849 1115527 train En við vitum það að það er bara NA hjá okkur í low q þannig að það er hvergi það ástand að öll röðin er NA það er bara getur bara verið í þessum hérna dálki. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00198 1115835 1118815 train Þannig að við setjum inn any í staðinn fyrir all 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00199 1119616 1123308 train það þýðir bara að eitthvert af gildunum þarf að vera NA og 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00200 1123358 1125236 train þá hendum við út allri röðinni. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00201 1126016 1129393 train Eins ef við mundum setja hérna inn einn í staðin fyrir núll. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00202 1129868 1136828 train Þá erum við að segja honum að þú átt að henda út öllum dálkum þar sem er eitthvað missing value. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00203 1138814 1142232 train En ég ætla að gera þetta svona af því að ég vil ekki henda út dálkinum, 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00204 1143786 1151664 train og eins og ég segi það er bara eitthvað sem maður verður að ákveða í hvert skipti hvað maður ætlar að gera. Ákvörðun sem maður tekur, byggir bara á gagnasafninu og hvernig við ætlum að nota það. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00205 1151937 1153360 eval En hérna ætla ég að gera þetta svona. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00206 1154480 1155897 train Ókei, og þá sjáið þið 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00207 1156767 1157568 train að 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00208 1158969 1169074 train þegar við erum búin að henda þeim öllum í burtu þá erum við með tólf þúsund raðir eftir en við vorum með tuttugu og tvö þúsund raðir, við erum búin að henda burtu 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00209 1169426 1171937 train þessum hérna tíu þúsund röðum. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00210 1173946 1181870 dev Ókei, en við getum líka impute-að við getum bætt inn, sem sagt þessum missing gildum í staðinn fyrir að henda þeim í burtu, 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00211 1183222 1189537 train og þá höfum við fallið sem heitir fill na sem tekur hérna argument 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00212 1190730 1198641 train hvað við viljum fylla inn þannig að hérna, ef við viljum fylla inn núll í staðinn fyrir það sem vantar, þá myndum við setja hérna núll. Við getum sett inn 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00213 1199878 1200448 train til dæmis 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00214 1201280 1202209 dev eitthvað annað líka, 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00215 1203732 1208892 train til dæmis mean eða median eða hvað sem er þannig að við getum sett inn núll til dæmis. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00216 1211416 1215136 dev Svona, þá sjáið þið það er ekkert missing lengur. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00217 1216720 1219689 train En ef við reiknum út meðaltalið á öllum dálkunum. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00218 1222249 1225871 train Nei, þetta er ekki það sem ég vildi gera. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00219 1231056 1232256 train Já, djók. Sem sagt hérna, 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00220 1233099 1237434 train í staðin fyrir að setja inn núll þá er ég að setja inn meðaltalið þannig að þið sjáið að 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00221 1238289 1240553 train ef við gerum þetta svona, við erum með sem sagt, 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00222 1241732 1242703 train þennann dálk. Við viljum 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00223 1243142 1249310 dev fylla na með meðaltalinu af þessum dálk og þá lítur þetta svona út. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00224 1250558 1257157 train Þá sjáið þið að hérna alls staðar er sama gildi. Þessi gildi voru öll NA og þau fá öll sama gildið sem er meðaltalið af öllum hinum. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00225 1257878 1260031 train Ókei, outliers, útlagar. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00226 1260360 1266088 dev þá erum við með gagnasafn sem er innbyggt í scikit learn pakkann í Python. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00227 1266782 1273947 train Þannig að við erum með, hérna, import-um úr scikit learn eða sk learn datasets. Þetta hérna sem heitir Boston 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00228 1274728 1276498 train og ef við kíkjum á það 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00229 1277161 1279844 eval þá erum við með fimm hundruð og sex línur 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00230 1279885 1280876 train og þrettán dálka 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00231 1283742 1286959 eval og ef við ætlum aðeins að skoða það, þetta er sem sagt 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00232 1287033 1292657 train það gagnasafn sem sýnir íbúðaverð í Boston. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00233 1293862 1298384 train Getið fundið upplýsingar um það á, hérna, á netinu. Kannski skiptir ekki öllu máli 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00234 1298421 1305624 train hvað það nákvæmlega segir okkur en við erum með hérna mismunandi breytur og hér ætlum við að leita að útlögum. Við byrjum á því að leita að 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00235 1306731 1310908 dev univariate-útlögum með því að nota boxplot. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00236 1310942 1312913 train Þannig að þið sjáið hérna að við erum að nota seaborn 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00237 1313123 1318103 train og svo leitum við að, búum við til boxplot-ið úr, hérna, einni breytu það eru dis breytu, 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00238 1319339 1320539 train þá lítur boxplot-ið svona út, 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00239 1321340 1324247 train akkúrat það sama og var á glærunum, hérna, 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00240 1324392 1334454 train og þið sjáið hérna, þessir þrír punktar þarna út fyrir. Þeir eru hugsanlega útlagar því þeir eru fyrir utan þetta strik sem að eru mörkin á þessu, hérna, 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00241 1334825 1335364 train sem sagt 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00242 1337012 1340654 train q þrír sinnum, hérna, eitt og hálft iqr. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00243 1342828 1344381 train Þannig að þeir eru útlagar. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00244 1346691 1366898 train Við getum séð það mjög skýrt hér og svo hins vegar, ef við viljum leita að multi variate útlögum þá tökum við einhverjar tvær breytur og viljum skoða hvort það séu útlagar, sem sagt á milli tveggja breyta og þá til dæmis hérna, þá notum við bara scatterplot og veljum tvær breytur, annars vegar indus og hins vegar tax 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00245 1368552 1370322 train og fáum út þessa mynd hér 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00246 1370642 1373809 train og, og hérna, hérna, sem sagt, 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00247 1374618 1381988 dev já, gæti maður ímyndað sér að það til dæmis þessi hér er útlagi eða þessi þarna uppi. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00248 1382132 1386168 eval Hann, hann er langt frá bæði hérna 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00249 1386422 1387919 train í þessu proportion 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00250 1388032 1390413 eval og líka þessu value-i. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00251 1390539 1394187 train Þessi efsti mundi líklega vera útlagi og þessi líklega líka. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00252 1394840 1398102 train Það þarf bara svona meta það aðeins bara í hvert sinn. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00253 1401223 1404701 train Ókei og svo getum við fundið útlaga með z-score-um. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00254 1405621 1410910 train Þá bara reiknum við z-score-in þannig að ég ætla núna að að import-a þessu sem heitir stats 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00255 1412434 1417353 train og reikna z-score fyrir allar tölur, 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00256 1417597 1420190 train eða sem sagt öll, allar mælingarnar í þessari töflu. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00257 1421187 1423305 eval þannig að við fáum út töflu af z-score-um 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00258 1424768 1433317 train og svo munið þið að threshold-ið okkar var þrír, allt sem er með z-score yfir þremur eða undir mínus þremur er útlagi. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00259 1433862 1439463 eval Já, takið eftir, við erum með hérna np punktur abs þannig að þetta er, sem sagt, hérna 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00260 1440262 1452041 dev jákvæða gildið. Hvað heitir það? Abs, absolute value? Hvað heitir það? Tölugildi, er það ekki? Já. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00261 1452593 1453163 eval Tölugildið. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00262 1453584 1459324 eval Og, og, hérna, sem sagt allt sem er absolute value stærra en þrír er útlagi þannig við getum, hérna, 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00263 1460404 1461604 train þetta segir okkur, 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00264 1462710 1472640 train annars vegar raðirnar og hins vegar dálkana þar sem gildin eru stærri en þrír. Þannig að hérna í röð fimmtíu og fimm 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00265 1473664 1474324 dev eru 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00266 1477084 1488334 train þessi með útlaga þannig að við leitum af til dæmis hérna í röð fimmtíu og fimm, dálkur eitt þá sjáið þið það að þar erum við með z-gildi sem er stærri en þrír, þannig að það er útlagi þar 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00267 1489819 1491230 dev og svo getum við hreinlega bara 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00268 1492358 1498795 train condition-að á þetta og sagt að við viljum bara halda því eftir sem er með z-gildi minna en þrír. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00269 1500190 1509160 eval Gerum það svona og þá sjáið þið að við erum eftir með töflu sem er með fjögur hundruð og fimmtán röðum og þrettán dálkum. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00270 1509456 1514974 train Þannig að í upphafi ef þið munið þá vorum við með fimm hundruð og sex raðir og þrettán dálka. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00271 1515324 1521664 train En núna erum við búin að fjarlægja allar raðir þar sem voru útlagar 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00272 1523602 1527852 train og svo getum við gert það sama með interquartile range-inu. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00273 1527938 1533562 eval Þá byrjum við á því að reikna q einn, q þrjá og interquartile range þannig að við getum séð 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00274 1534930 1538349 dev fyrir alla dálkanna hvað interquartile range-ið er 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00275 1539560 1543668 dev og svo getum við tékkað í töflunni okkar 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00276 1544576 1564736 dev hvaða gildi eru með [HIK:inter] eða eru sem sagt útlagar samkvæmt okkar skilgreiningu á útlögum, að vera ákveðið langt fyrir neðan q einn, og ákveðið langt fyrir ofan q einn og svo þegar við erum búin að tékka á þessu þá bara getum við hreinlega hent þeim í burtu og þið sjáið núna að við erum með svolítið minna 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00277 1565205 1570276 train eftir heldur en áðan við erum með tvö hundruð sjötíu og fjórar raðir í staðinn fyrir fjögur hundruð og fimmtán 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00278 1572430 1575009 train og svo að lokum: staðla gögn. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00279 1576866 1589856 eval Ef við kíkjum á þennan dálk sem heitir crim í þessum Boston-gögnum og reiknum meðaltalið og staðalfrávikið þá sjáum við það að meðaltalið er einn komma núll tveir níu og staðalfrávikið er einn komma níu fimm. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00280 1591016 1612090 train Ókei, svo getum við notað þennan min max scaler og við gerum það hérna og reiknum svo aftur meðaltalið og aftur staðalfrávikið. Þá sjáið þið að, hérna, meðaltalið er, er núll komma ellefu og staðalfrávikið er núll komma tuttugu og tveir. Og kannski áhugavert líka að tékka hvað er min og hvað er max. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00281 1612943 1615140 train Þannig að ef við segjum, hérna, sem sagt, 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00282 1617382 1620284 train bætum hérna einu við segjum hérna minimum, 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00283 1622852 1625203 dev minimum, 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00284 1626221 1630357 train og gerum hérna, úps, min 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00285 1631007 1635553 train þá sjáum við að minnsta gildið er núll, alveg eins og við vildum. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00286 1636352 1637522 train Og eins 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00287 1639291 1645768 train af því við erum að nota þarna min max scaler þá verður allt á bilinu núll og upp í einn þannig að ef við bætum, hérna, 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00288 1646243 1651928 eval kíkjum hvað max er, maximum, 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00289 1652548 1654296 eval sjáið að max er minna en einn. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00290 1654541 1664835 train Þannig að við erum búin að taka, sem sagt allt þetta range sem var í þessu crim hérna, við getum meira að segja tékkað líka hvað það var bara svona uppá djókið, 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00291 1665188 1666687 train sem sagt við vorum með 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00292 1668344 1674276 train minimum áður en við skölum þetta 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00293 1677931 1680069 train þá er þetta minnsta gildið 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00294 1682818 1683598 eval og 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00295 1684868 1687083 train stærsta gildið var, 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00296 1693131 1695600 train maximum, 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00297 1696607 1706988 train átta komma sjötíu og einn. En svo skulum við með þessu min max scaler og fáum út að minnsta gildið er núll, og stærsta gildið er einn og það er bara útaf þessu falli sem við notuðum 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00298 1708827 1714526 train og að lokum að staðla gögnin, sem sagt nota, 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00299 1714863 1717803 train breyta þeim í c gildin eða z gildin, basically. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00300 1719326 1722023 train þá hérna lítur þetta svona út. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00301 1725735 1727699 train Þetta var eitthvað skrítið. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00302 1731855 1733116 dev Þetta er ekki rétt. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00303 1738852 1742113 train Hvað veit ekki gerðist hér? 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00304 1757525 1764114 eval Já, þannig að basically þið sjáið það að meðaltalið eftir að við sem sagt 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00305 1765140 1769778 train stöðluðum það er mjög lítið, eiginlega núll. Það á að vera akkúrat núll 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00306 1770624 1772151 train en bara út af sem sagt 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00307 1773090 1776192 eval það verður aldrei alveg akkúrat, akkúrat núll það verður samt eiginlega núll 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00308 1776337 1779935 train og staðalfrávikið er, sem sagt eiginlega einn 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00309 1780547 1782546 train þannig að þarna erum við búin að, sem sagt 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00310 1784266 1791683 train breyta öllum gildunum í z-gildin sín og þá er meðaltalið núll og staðalfrávikið er einn. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00311 1793784 1801746 train Já, þetta var endirinn á þessu. Ég hvet ykkur til að kíkja á hitt notebook-ið þar sem við erum að vinna með, hérna, 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00312 1802177 1805227 train aftur þetta reshaping og tidying 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00313 1805292 1811410 train og, hérna, meðal annars gögn frá n b a og alls konar sniðugt þannig að kíkið á það. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00314 1813603 1820054 train Ég ætla að minna á sem sagt að minna ykkur á að kíkja á hópanna á canvas til að þið vitið í hvaða hópi þið eruð minna ykkur 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00315 1820358 1824381 train Minni ykkur á að senda inn, hérna, 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00316 1824860 1827590 train topic og hópa fyrir lokaverkefnið 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00317 1829410 1836123 train og svo var smá breyting á dagskránni þannig að á mánudaginn munum við tala um, hérna, model evaluation. 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00318 1836490 1839446 train Á föstudaginn næsta er enginn tími, það er UTmessa 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00319 1840256 1842504 train og svo á mánudaginn eftir það þá er 8a0615cb-cb7d-4f4d-8b35-beecb21dc4af_00320 1844028 1846585 train gestafyrirlestur. Ókei.