segment_id	start_time	end_time	set	text
5349c21d-bb9b-4ede-b375-b11618b8daff_00000	560	27525	train	Heyriði, í dag þá hérna, erum við með tvær notebook-ir, annars vegar sem sagt um svona samplings strategies, sem sagt hvernig, um þetta hérna, split sample method og hins vegar cross validation, og svo er hin notebook-in hún hérna, er um þessar, þessi sem sagt mál og hvernig maður á að sem sagt, koma á, á jafnvægi í gagnasafninu.
5349c21d-bb9b-4ede-b375-b11618b8daff_00001	28835	57643	train	Og í þeirri fyrstu þá hérna, sem sagt, erum við að nota gagnasafn af hérna, Kaggle um, um svona, hérna, telco churn eða sem sagt brotthvarf úr, úr símafyrirtækjum. Þetta er bara eitthvað sem ég valdi af, af handahófi og, sem sagt fyrstu, hérna, línurnar snúast bara um það að, sem sagt undirbúa þetta gagnasafn.
5349c21d-bb9b-4ede-b375-b11618b8daff_00002	58064	72914	train	Það lítur svona út, við erum með þarna nokkrar breytur og hérna, customer ID og svo alls konar upplýsingar um hvern viðskiptavin og svo það hvort að þeir sem sagt hættu hjá fyrirtækinu eða ekki.
5349c21d-bb9b-4ede-b375-b11618b8daff_00003	73605	85652	train	Og maður getur notað þetta gagnasafn til þess að spá fyrir um það hvers vegna eða hvaða viðskiptavinir eru líklegir til þess að, sem sagt yfirgefa fyrirtækið.
5349c21d-bb9b-4ede-b375-b11618b8daff_00004	85682	98433	eval	Kannski fá þeir betra tilboð annars staðar eða þeir eru bara ósáttir með þjónustuna og ákveða þess vegna að fara í annað fyrirtæki eða kannski er, þú veist, allir vinir þeirra hjá hinu fyrirtækinu og þá ákveða þeir að hætta.
5349c21d-bb9b-4ede-b375-b11618b8daff_00005	99418	106980	dev	En maður sér svona ýmislegar, ýmsar upplýsingar um hérna, þá þjónustu sem þeir eru að nota sér og ýmislegt.
5349c21d-bb9b-4ede-b375-b11618b8daff_00006	108415	130093	train	Og þetta er hérna, mjög gjarnan gert hjá fyrirtækjum að spá fyrir um það hvaða viðskiptavinir eru líklegir til þess að hætta og þegar að fyrirtækið veit það að já, hann hérna þessi, hann er, er í hættu á því að, sem sagt, að fara að hætta hjá okkur, þá kannski geta þeir gefið honum, gefið honum eitthvað tilboð og sagt hérna, þú veist, þú færð ókeypis mánuð eða eitthvað.
5349c21d-bb9b-4ede-b375-b11618b8daff_00007	131139	137340	dev	Og það sem þetta snýst um í þessum, þessum marketing bransa er að reyna að halda í þessa viðskiptavini sem eru að fara að hætta.
5349c21d-bb9b-4ede-b375-b11618b8daff_00008	137659	141933	train	Að hérna, gera þeim tilboð sem þeir geta ekki hafnað.
5349c21d-bb9b-4ede-b375-b11618b8daff_00009	144325	165531	dev	En allavegana, þá erum við með þetta gagnasafn hér og svo hérna, er bara svona alls konar preprocessing, við erum að breyta þessum dálkum í hérna svona dummy-breytur til þess að nota í classifier-num okkar og eyða út hérna, N/As og alls konar.
5349c21d-bb9b-4ede-b375-b11618b8daff_00010	165561	180062	train	Og svo hérna, þetta er mjög algengt að maður skipti gagnasafninu í y og X þar sem að ypsilonið er raunverulega target-breytan okkar og X-ið er allt nema target-breytan.
5349c21d-bb9b-4ede-b375-b11618b8daff_00011	180762	188882	eval	Af því að í Python, þegar maður er að nota þessa, hérna, machine learning algóriþma, þá vilja þeir oft fá gögnin á þessu formatti.
5349c21d-bb9b-4ede-b375-b11618b8daff_00012	189021	195241	train	Á annars vegar X sem eru allar breyturnar nema target-ið og ypsilon, sem er þá target-ið.
5349c21d-bb9b-4ede-b375-b11618b8daff_00013	196096	197444	train	Það er búið að gera það hér líka.
5349c21d-bb9b-4ede-b375-b11618b8daff_00014	200712	211812	train	Og svo þegar við erum komin með hérna, já, þið sjáið sem sagt hérna að, að, hérna X-ið okkar, það er sem sagt allar breyturnar, það eru sjö þúsund línur og fjörutíu breytur.
5349c21d-bb9b-4ede-b375-b11618b8daff_00015	212936	222485	train	Og svo er target-ið, ypsilonið, það eru jafnmargar línur, auðvitað, af því þetta eru allar mælingarnar okkar, en bara einn dálkur, af því að þetta er bara target, þetta er bara núll eða einn.
5349c21d-bb9b-4ede-b375-b11618b8daff_00016	222485	226694	train	Þar sem að einn stendur fyrir churn og núll stendur fyrir not churn.
5349c21d-bb9b-4ede-b375-b11618b8daff_00017	229474	243258	train	Og svo já, við erum með sem sagt sjö þúsund línur í þessu gagnasafni sem þýðir það að við gætum vel gert cross validation, af því það er það lítið, það er alveg góður hérna, möguleiki fyrir því.
5349c21d-bb9b-4ede-b375-b11618b8daff_00018	244096	258105	train	En ég ætla að sýna ykkur sem sagt, hvernig maður getur splittað, og við erum með hérna fyrst bara venjulegt split og þá getur maður notað hérna úr scikit learn model selection sem heitir train test split.
5349c21d-bb9b-4ede-b375-b11618b8daff_00019	259072	271310	train	Og maður setur það upp svona, þið sjáið það er hérna, hérna er sem sagt kallið train test split á X-ið, sem að er allar breyturnar, á ypsilonið sem er target-ið.
5349c21d-bb9b-4ede-b375-b11618b8daff_00020	272189	283761	train	Og svo segjum við hversu stórt við viljum að test-safnið sé, þannig að hérna, af því það er sem sagt tuttugu prósent þá þýðir það að train, train-settið myndi vera áttatíu prósent.
5349c21d-bb9b-4ede-b375-b11618b8daff_00021	284394	291091	train	Og hérna getur maður sett, þú veist, hvað sem er, þrjátíu eða, eða fjörutíu eða hvað sem er, bara eftir því hvernig maður vill splitta.
5349c21d-bb9b-4ede-b375-b11618b8daff_00022	292720	296850	dev	Og það er engin, engin, hérna, föst regla um það nákvæmlega hversu stórt það á að vera.
5349c21d-bb9b-4ede-b375-b11618b8daff_00023	296850	299050	train	Það er bara svona um það bil eitthvað.
5349c21d-bb9b-4ede-b375-b11618b8daff_00024	299100	314668	train	Og svo náttúrulega random state til þess að geta, sem sagt, búið til sömu, sama splittið aftur, að þetta er bara random og ef maður gefur upp hérna random state þá getur maður verið fullviss um það að geta búið til sama splittið aftur, sem getur verið mikilvægt ef maður er að endurtaka mikið tilraunir.
5349c21d-bb9b-4ede-b375-b11618b8daff_00025	315850	345922	train	En ef við keyrum þetta þá sjáið þið það að við fáum hérna, já fyrirgefið, ég ætla að bæta líka við að, að sem sagt við assign-um þetta á sem sagt þessa fjóra gaura hér, að hérna, við búum til, raunverulega, fjögur gagnasöfn, þar sem við erum með X train og X test, sem eru, hérna, línurnar fyrir allar breyturnar, annars vegar fyrir þjálfunarsettið og hins vegar fyrir test-settið.
5349c21d-bb9b-4ede-b375-b11618b8daff_00026	345992	351372	train	Og svo erum við með eins fyrir ypsilonið okkar fyrir target-ið, við erum með train og test.
5349c21d-bb9b-4ede-b375-b11618b8daff_00027	352624	357333	train	Og þá sem sagt erum við búin að búa til þessa fjóra hluta úr þessum tveimur sem við vorum með.
5349c21d-bb9b-4ede-b375-b11618b8daff_00028	358190	364365	dev	Og svo ef við tjá, sjáum hvað þetta er stórt, þá sjáið þið það að þjálfunarsafnið okkar, þetta á að vera test hérna.
5349c21d-bb9b-4ede-b375-b11618b8daff_00029	369153	380084	train	Já, að sem sagt þjálfunarsafnið okkar er hérna, sem sagt, fimm þúsund línur og test-settið okkar er, er hérna, fjórtán hundruð línur.
5349c21d-bb9b-4ede-b375-b11618b8daff_00030	380862	383023	train	Þannig að við erum búin að skipta þessu í þessa tvo hluta.
5349c21d-bb9b-4ede-b375-b11618b8daff_00031	383062	402648	train	Og þá getum við tekið eitthvað módel, eins og til dæmis decision trees eða support vector machines, og þjálfað á sem sagt x train og y train, og svo myndum við beita því á X test og y test til þess að spá fyrir og meta hversu gott módelið er.
5349c21d-bb9b-4ede-b375-b11618b8daff_00032	405182	408497	train	En ég ætla ekki að gera það hér því það er eitthvað sem þið ætlið að gera í ykkar fyrirlestrum.
5349c21d-bb9b-4ede-b375-b11618b8daff_00033	408728	417017	train	En þetta er svona, þetta er hvernig, þið sjáið hérna hvernig þið getið undirbúið það áður en þið ætlið að byrja að, að hérna, nota þessa algóriþma.
5349c21d-bb9b-4ede-b375-b11618b8daff_00034	417557	420267	eval	Þetta var sem sagt bara svona split method.
5349c21d-bb9b-4ede-b375-b11618b8daff_00035	420427	428242	train	Svo erum við með cross validation, og þá notum við úr sama pakkanum hérna, import-um það sem heitir k-fold.
5349c21d-bb9b-4ede-b375-b11618b8daff_00036	429754	436064	dev	Og þá þurfum við að búa til svona k-fold object, þar sem við segjum hversu mörg split við viljum, við viljum tíu split.
5349c21d-bb9b-4ede-b375-b11618b8daff_00037	436064	443451	train	Og svo tökum við þetta object og beitum því á, hérna, gagnasafnið okkar.
5349c21d-bb9b-4ede-b375-b11618b8daff_00038	445245	451257	train	Og við gerum það hér, sjáið þið, bara við X-ið, það er svo bara, bætir maður y-inu við á eftir.
5349c21d-bb9b-4ede-b375-b11618b8daff_00039	453901	466444	train	En, sem sagt þetta segir bara hversu mörg split við erum með og svo getum við séð hérna bara með því að ítra yfir öll split-in, en þetta, það sem þetta hérna gerir er bara að búa til split-in.
5349c21d-bb9b-4ede-b375-b11618b8daff_00040	467223	477600	train	Raunverulega það sem það gerir er að það tekur hérna, observation-irnar, við erum kannski með, við erum með svona margar observation-ir.
5349c21d-bb9b-4ede-b375-b11618b8daff_00041	479312	494872	train	Segjum að við værum með twofold, er að það sem að þetta fall gerir er bara að segja: ókei, þú ert í fold-i eitt, þú ert í fold-i eitt, þú ert í fold-i eitt og svo framvegis, þú ert í fold-i eitt.
5349c21d-bb9b-4ede-b375-b11618b8daff_00042	494911	499966	train	Og þá eru hinir í fold tvö, fold tvö.
5349c21d-bb9b-4ede-b375-b11618b8daff_00043	500526	506136	train	Þannig að þetta bara býr til þessa skiptingu, það bara skiptir þeim í tíu, í tíu hluta.
5349c21d-bb9b-4ede-b375-b11618b8daff_00044	507942	514638	train	En svo getum við skoðað hversu stór, svo getum við skoðað þessa, hérna, þessi folds, þessa parta sem við bjuggum til.
5349c21d-bb9b-4ede-b375-b11618b8daff_00045	516547	527754	train	Þannig að þið sjáið hérna, til dæmis, að þetta eru þessir tíu partar sem voru búnir til og þeir eru eiginlega allir jafnstórir, ekki nákvæmlega, af því að hérna, kannski gengur ekki alveg upp þessi deiling.
5349c21d-bb9b-4ede-b375-b11618b8daff_00046	528014	551169	train	En þið sjáið það að núna, ef við ætluðum að, hérna, þjálfa módel á þessu, þá myndum við þjálfa tíu módel, eitt módel af hverju train-setti, og svo beita hverju módeli á hvert test-sett þannig að við fengjum út tíu performance indicator-a.
5349c21d-bb9b-4ede-b375-b11618b8daff_00047	551309	565163	train	Og við getum þá, þannig ef við myndum til dæmis mæla accuracy-ið á hverju einasta test-setti þá fengjum við út tíu accuracy-gildi og þá getum við tekið meðaltalið og sagt að meðal accuracy-ið er x.
5349c21d-bb9b-4ede-b375-b11618b8daff_00048	565163	578235	train	Og svo á sama hátt þá getum við gert svona leave one out cross validation, það sem, þið munið, við tökum alltaf bara eina breytu út í einu og þá notum við þetta hérna leave one out úr sama pakkanum.
5349c21d-bb9b-4ede-b375-b11618b8daff_00049	579461	589097	train	Og á sama hátt þá getum við séð hérna að train-settið okkar er alltaf jafnstórt, það alltaf allir nema einn.
5349c21d-bb9b-4ede-b375-b11618b8daff_00050	589813	593811	eval	Og það er einn, ein mæling í test-settinu í hvert skipti.
5349c21d-bb9b-4ede-b375-b11618b8daff_00051	595841	598961	train	Eru einhverjar spurningar um svona splitting strategies?
5349c21d-bb9b-4ede-b375-b11618b8daff_00052	600293	602201	eval	Nei, ókei.
5349c21d-bb9b-4ede-b375-b11618b8daff_00053	606486	613511	train	Já, og sem sagt, bara það hvaða aðferð þið veljið í hvert skipti, bara fer eftir gagnasafninu og hvað þið ætlið að gera við það.
5349c21d-bb9b-4ede-b375-b11618b8daff_00054	614870	619192	train	En ég myndi alveg mæla með því að gera, reyna alltaf að gera cross validation.
5349c21d-bb9b-4ede-b375-b11618b8daff_00055	620032	630442	train	Sérstaklega ef maður þarf að tjúna parametra þá er mjög mikilvægt að gera cross validation, þó það sé bara á hluta af gagnasafninu þá er það svona venjan að gera það með, með þessu.
5349c21d-bb9b-4ede-b375-b11618b8daff_00056	631966	641346	train	En allavegana. Varðandi sem sagt, performance-málin, þá erum við með annað notebook hérna.
5349c21d-bb9b-4ede-b375-b11618b8daff_00057	644884	661456	train	Og það sem ég er búin að gera hér er að ég tók, hérna, þetta churn-safn hérna, sem ég var að vinna með í byrjun, og ég bjó til basic classification módel og ég spáði fyrir um, sem sagt, churn og ekki churn hjá þessum viðskiptavinum.
5349c21d-bb9b-4ede-b375-b11618b8daff_00058	662138	666488	train	Og ég seifaði það hérna í tveimur hérna csv-fælum.
5349c21d-bb9b-4ede-b375-b11618b8daff_00059	667217	676780	train	Annars vegar, sem sagt við erum með test-sett, þar sem við erum með hérna, sönnu gildin og svo erum við með gildin sem við spáðum fyrir um.
5349c21d-bb9b-4ede-b375-b11618b8daff_00060	677325	697053	train	Þannig að ef ég keyri inn báða þessa hérna þá sjáið þið það að þessi true target breyta hérna, hún er, segir til um það hvaða klassa, segir til um það hvaða viðskiptavinir voru churners og hvaða viðskiptavinir voru ekki churners í test-settinu mínu.
5349c21d-bb9b-4ede-b375-b11618b8daff_00061	698042	707693	train	Og svo hins vegar erum við með þetta hérna churn prob, sem að eru líkurnar á því að hver viðskiptavinur sé, sem sagt, churner, er að fara að hætta.
5349c21d-bb9b-4ede-b375-b11618b8daff_00062	708284	715505	train	Og þetta er sem sagt það sem ég fékk út úr módelinu sem ég bjó til, þannig að hér erum við með svona predicted probability á því að vera churner.
5349c21d-bb9b-4ede-b375-b11618b8daff_00063	716744	726441	train	Og það sem við viljum gera núna er að bera saman sem sagt hið sanna target, það sem við vitum hvað er, við það sem við spáðum fyrir um.
5349c21d-bb9b-4ede-b375-b11618b8daff_00064	728203	758375	train	Og ef við notum cut off sem er hálfur til þess að meta hver sem sagt, hinn spáði, hérna, hvert spáða gildið er, hvort það sé churn eða ekki churn, þá búum hérna til breytu sem heitir predicted target, bara með því að condition-a á þetta probability, og þá sjáum við að módelið okkar spáir fyrir um það að þúsund áttatíu og einn viðskiptavinur sé ekki að fara að hætta en að þrjú hundruð tuttugu og átta eru að fara að hætta.
5349c21d-bb9b-4ede-b375-b11618b8daff_00065	758414	763455	eval	Og ef við bara berum þetta saman við, hérna, það sem við vitum að er satt, þá stemmir þetta ekki.
5349c21d-bb9b-4ede-b375-b11618b8daff_00066	763815	765835	train	Þannig að módelið okkar er greinilega ekki fullkomið.
5349c21d-bb9b-4ede-b375-b11618b8daff_00067	766294	770379	train	Það nær ekki að spá fyrir um hvern einasta viðskiptavin sem er að fara að hætta.
5349c21d-bb9b-4ede-b375-b11618b8daff_00068	771200	773570	train	En það er alveg viðbúið, það ekkert allt fullkomið.
5349c21d-bb9b-4ede-b375-b11618b8daff_00069	774292	791596	train	En hérna eru þessar, þessi mál sem við ætlum að nota, þannig að þið sjáið það að við erum með hérna A U C score, við erum með ROC curve, við erum með confusion matrix, accuracy recall, precision og F-einn score, eins og við ræddum um áðan.
5349c21d-bb9b-4ede-b375-b11618b8daff_00070	793136	798807	train	Þannig að við getum bara import-að þessu úr þessu sem heitir scikit learn metrics, þau eru öll þar.
5349c21d-bb9b-4ede-b375-b11618b8daff_00071	799855	806287	train	Og svo getum við fundið hvað confusion matrix-ið er fyrir okkar spá.
5349c21d-bb9b-4ede-b375-b11618b8daff_00072	806456	811701	dev	Þannig að við tökum þá þetta predicted target og true target.
5349c21d-bb9b-4ede-b375-b11618b8daff_00073	812573	814313	train	Þannig að actual class og predicted class.
5349c21d-bb9b-4ede-b375-b11618b8daff_00074	815344	820573	train	Og þá getum við séð að svona lítur confusion matrix-ið okkar út í þessu tilfelli.
5349c21d-bb9b-4ede-b375-b11618b8daff_00075	821706	838677	train	Og það er sett upp nákvæmlega eins og áðan, við erum með hérna, sem sagt, níu hundruð og sjö sem eru, ekk, sem sagt, ekk, sem sagt, eru ekki churners og módelið spáir sem ekki churners, og svo á sama hátt eru tvö hundruð og fjórir churnes sem módelið spáir sem churners.
5349c21d-bb9b-4ede-b375-b11618b8daff_00076	838677	840748	train	Þannig að þetta bara lítur nákvæmlega eins út og áður.
5349c21d-bb9b-4ede-b375-b11618b8daff_00077	841434	857748	dev	Og þá getum við reiknað út accuracy-ið, eins og við gerðum líka áðan, bara með því að telja hversu oft módelið hafði rétt fyrir sér og deila með heildarfjölda mælinga í test-settinu okkar, og fáum út hérna núll komma átta níu sjö.
5349c21d-bb9b-4ede-b375-b11618b8daff_00078	858239	869717	train	Eða við getum notað fallið sem er til í scikit learn, þetta hérna accuracy score, og fáum út sama, sama gildið.
5349c21d-bb9b-4ede-b375-b11618b8daff_00079	869798	877491	eval	Og svo aðrar, hérna, önnur mál, við erum með recall, við erum með precision og við erum með f-einn score.
5349c21d-bb9b-4ede-b375-b11618b8daff_00080	877652	888583	train	Bara reiknum þetta svona einfaldlega með því að nota innbyggðu föllin á annars vegar hið sanna gildi og gildið sem var spáð.
5349c21d-bb9b-4ede-b375-b11618b8daff_00081	891067	893903	train	Og þetta er sem sagt miðað við cut off núll komma fimm.
5349c21d-bb9b-4ede-b375-b11618b8daff_00082	894556	901557	train	En svo getum við líka reiknað sem sagt AUC-ið, sem munið þið var, hérna, flatarmálið undir kúrfunni.
5349c21d-bb9b-4ede-b375-b11618b8daff_00083	902759	909475	train	Og það er núll komma átta fimm níu, og svo að lokum getum við plottað upp, hérna, kúrfuna okkar.
5349c21d-bb9b-4ede-b375-b11618b8daff_00084	909475	916048	dev	Þannig að flatarmálið undir þessari gulu línu hérna er núll komma átta fimm níu.
5349c21d-bb9b-4ede-b375-b11618b8daff_00085	916499	919812	train	Og því hærra sem A U C-ið er, því betra er módelið.
5349c21d-bb9b-4ede-b375-b11618b8daff_00086	921933	922443	train	Ókei.
5349c21d-bb9b-4ede-b375-b11618b8daff_00087	926429	940471	train	Og sem sagt, já, hérna, minna á það líka að sem sagt, A U C-ið, það er cut off independent, þannig að það er á suman hátt betra heldur en að mæla accuracy eins og við sáum áðan með ójafna gagnasafnið sem við vorum með.
5349c21d-bb9b-4ede-b375-b11618b8daff_00088	942221	950169	eval	Ókei, nú ætla ég að tala um sem sagt þessi, þessar aðferðir til þess að jafna, eða koma á jafnvægi í gagnasafninu okkar.
5349c21d-bb9b-4ede-b375-b11618b8daff_00089	951938	957849	dev	Og við byrjum á því hérna, að bara búa til eitthvað random gagnasafn.
5349c21d-bb9b-4ede-b375-b11618b8daff_00090	957948	972571	train	Það er hérna í scikit learn, þar er maður með sem sagt library þar sem að heitir bara, hérna, dataset, þar sem maður getur bara generate-að randomly gagnasöfn með ákveðna eiginleika.
5349c21d-bb9b-4ede-b375-b11618b8daff_00091	972941	977730	dev	Eins og hérna, þetta er gagnasafn sem maður getur notað í svona classification-algóriþmum.
5349c21d-bb9b-4ede-b375-b11618b8daff_00092	977811	991322	train	Og þá einfaldlega segir maður hvað eiga að vera margar, hérna, mælingar, hversu margar, hérna, breytur, hversu margir klassar, þannig að við erum hérna með fimm þúsund mælingar, þrjár breytur og tvo klassa.
5349c21d-bb9b-4ede-b375-b11618b8daff_00093	991350	1000913	train	Þannig að þetta myndi vera binary classification, og svo getum við meira að segja sagt líka hversu stórt hlutfall af báðum, hérna, klössunum mega vera.
5349c21d-bb9b-4ede-b375-b11618b8daff_00094	1001216	1014020	train	Þannig að þetta n classes vísar til þá target-sins okkar, og við viljum að þrjú prósent sé, hérna, af öðrum klassanum og níutíu og sjö prósent af hinum klassanum.
5349c21d-bb9b-4ede-b375-b11618b8daff_00095	1015095	1029130	dev	Þannig að það sem við fáum út úr þessu er gagnasafn sem er mjög óbalansað, það er mikið ójafnvægi þarna, af því að, eins og við sögðum þeim, þá vildum við að það væru þrjú prósent í öðrum og níutíu og sjö prósent í hinum.
5349c21d-bb9b-4ede-b375-b11618b8daff_00096	1029135	1033000	train	Þannig að þetta er vel undir þessu tíu prósent viðmiði sem að við töluðum um.
5349c21d-bb9b-4ede-b375-b11618b8daff_00097	1034781	1039791	eval	Ókei, og svo er hérna, ætla ég að fara í nokkrar aðferðir til þess að balance-a.
5349c21d-bb9b-4ede-b375-b11618b8daff_00098	1039913	1068763	train	Við erum með random oversampling og random undersampling og svo líka smote, þannig að ef við sjáum hérna, og við getum import-að úr þessu, hérna, imb learn pakka, það sem heitir bara random oversampler, og svo getum við samplað, sem að við sjáum, setjum inn hérna í random, sem sagt búum til svona object sem heitir random oversampler, og við viljum nota þetta hérna strategy.
5349c21d-bb9b-4ede-b375-b11618b8daff_00099	1068824	1077448	train	Maður getur valið hvaða strategy maður vill. Minority þýðir að það á að sampla minority-klassann þangað til það er komið jafnvægi.
5349c21d-bb9b-4ede-b375-b11618b8daff_00100	1078749	1093693	train	Og af því þetta var oversample, þetta þýðir það að við erum að búa til, við erum að tvöfalda línur af, sem sagt, af mælingunum sem að tilheyra minority-klassanum, þangað til að, hérna, þetta er orðin balance-að.
5349c21d-bb9b-4ede-b375-b11618b8daff_00101	1093693	1103181	train	Þannig að við erum raunverulega búin að vera að duplicate-a þessar hundrað áttatíu og eina mælingu þar til þær eru átta þúsund talsins.
5349c21d-bb9b-4ede-b375-b11618b8daff_00102	1103181	1108031	train	Þannig að hver kemur fyrir, hversu oft?
5349c21d-bb9b-4ede-b375-b11618b8daff_00103	1110013	1113426	train	Alveg þrjátíu sinnum eða eitthvað, er það ekki?
5349c21d-bb9b-4ede-b375-b11618b8daff_00104	1114156	1119135	train	Fjögur þúsund og átta hundruð deilt með hundrað og áttatíu og einum, svo oft kemur hver þessara mælinga fyrir.
5349c21d-bb9b-4ede-b375-b11618b8daff_00105	1120563	1127508	train	En allavegana, þannig að þetta myndi kannski ekkert vera mjög gott gagnasafn til að vinna með, af því það er, þær eru svo ótrúlega, það myndi vera svo ótrúlega bjagað.
5349c21d-bb9b-4ede-b375-b11618b8daff_00106	1128867	1140327	eval	En við getum sem sagt notað annað sampling strategy, sagt bara núll komma tveir, og það þá þýðir að hlutfallið á milli eins og núll á að vera núll komma tveir.
5349c21d-bb9b-4ede-b375-b11618b8daff_00107	1140587	1149772	eval	Þannig að þið sjáið, hérna, hérna myndum við vera með aðeins, hérna, allavega ekki jafn jafnt, en samt alveg nógu jafnt.
5349c21d-bb9b-4ede-b375-b11618b8daff_00108	1151314	1186086	train	Og svo, hérna, á sama hátt, undersampling, við erum bara með random undersampler, og þá sem sagt munið þið ef við erum undersample-a þá erum við að henda í burt mælingum sem eru í majority-klassanum þannig að við erum að fækka, við erum að minnka gagnasafnið, fá út jafnvægi, og svo á sama hátt, ef við setjum sampling strategy saman við, jafnt og einhver tala, þá fáum við, sem sagt, þetta hérna hlutfall á milli, milli þessara tveggja hópa.
5349c21d-bb9b-4ede-b375-b11618b8daff_00109	1187319	1189921	train	Og svo, að lokum, smote.
5349c21d-bb9b-4ede-b375-b11618b8daff_00110	1191653	1214201	train	Það sem við erum búin að segja, við viljum bara hafa, þetta er bara, sem sagt, out of the box smote, nei, heyrðu við erum hérna, bara sem sagt out of the box, og þá verður þetta alveg jafnt, sjáið þið, fifty fifty, en við getum líka sagt, hérna, við viljum ekki endilega fifty fifty, það má alveg vera bara tuttugu prósent, og þá segjum við bara hérna, að við viljum tuttugu prósent.
5349c21d-bb9b-4ede-b375-b11618b8daff_00111	1215577	1221756	train	Þannig að þetta virkar allt svona á mjög svipaðan hátt en gagnasafnið sem verður til í hvert sinn er mismunandi.
5349c21d-bb9b-4ede-b375-b11618b8daff_00112	1223255	1228144	train	Þannig að ein seinasta æfing sem ég ætla að fara í gegnum er, hérna, að sameina þetta tvennt.
5349c21d-bb9b-4ede-b375-b11618b8daff_00113	1228571	1249922	train	Við ætlum að, sem sagt, að taka gagnasafn sem við vitum að er ekki í jafnvægi, og við ætlum að búa til módel og spá fyrir um eitthvað, mæla hversu gott módelið okkar er, og svo ætlum við að balance-a gagnasafnið, og aftur að spá fyrir og sjá hvort að spáin okkar breytist.
5349c21d-bb9b-4ede-b375-b11618b8daff_00114	1251183	1254394	train	Þannig að ég ætla að nota hérna random forests.
5349c21d-bb9b-4ede-b375-b11618b8daff_00115	1255807	1263547	train	Þið getið notað hvað sem er, þetta snýst náttúrulega ekkert um hvaða algóriþma við erum að nota, ég bara tók einhvern, og þennan af því að hann er uppáhaldið mitt.
5349c21d-bb9b-4ede-b375-b11618b8daff_00116	1264106	1265372	train	En allavegana.
5349c21d-bb9b-4ede-b375-b11618b8daff_00117	1266508	1271595	train	Og svo ætla ég að taka hérna gagnasafn sem að er í þessu imb learn library-i.
5349c21d-bb9b-4ede-b375-b11618b8daff_00118	1271914	1284394	train	Í imb learn er fullt af gagnasöfnum sem eru með miklum imbalance, sem fólk er að nota þegar það er að þróa nýjar aðferðir til þess að balance-a gagnasafn.
5349c21d-bb9b-4ede-b375-b11618b8daff_00119	1284506	1298170	train	Þannig að þetta er svona bara svona standard safn af gögnum sem allir hafa aðgang að, þannig að ef allir eru, ef einhverjir eru að þróa nýja aðferð þá geta allir prófað þessa aðferð á þessum gagnasöfnum, til þess að sjá hvort að þetta sé, hérna, að virka.
5349c21d-bb9b-4ede-b375-b11618b8daff_00120	1298507	1306382	dev	Þetta er svona gott fyrir validation í, í svona þessum vísindaheimi, og þegar að fólk er að reyna að búa til betri aðferðir.
5349c21d-bb9b-4ede-b375-b11618b8daff_00121	1307148	1311599	train	En allavegana, ég er að nota gagnasafn sem heitir hérna car eval fjögur.
5349c21d-bb9b-4ede-b375-b11618b8daff_00122	1312157	1335840	train	Og ég bara les það inn, og sjáið þið hérna, ég er með aftur með þetta X, sem eru allar breyturnar, og ég er með y, sem að er target-ið, og svo, hérna, sjáið þið að í þessu tilfelli þá erum við með sextán hundruð sextíu og þrjá sem að eru af klassanum núll og sextíu og fimm sem eru af klassanum einum, þannig að þetta er mjög mikið ójafnvægi í þessi gagnasafni.
5349c21d-bb9b-4ede-b375-b11618b8daff_00123	1337306	1351790	train	Ókei, og svo ætla ég að taka þetta hérna gagnasafn, þetta X og y, og skipta því í tvennt, ég ætla að búa til, sem sagt, þetta er svona, hérna, þessi splitting method sem við töluðum um, ég er að búa til train- og test-gagnasafn.
5349c21d-bb9b-4ede-b375-b11618b8daff_00124	1354194	1360355	train	Þar sem ég er að nota stratified sampling til að vera viss um það að það er sama hlutfall af báðum í báðum gagnasöfnunum.
5349c21d-bb9b-4ede-b375-b11618b8daff_00125	1360654	1372858	train	Þannig að við sjáum að í train-settinu okkar erum við með fjörutíu og níu af klassa einum og tólf hundruð fjörutíu og sjö af klassa núll.
5349c21d-bb9b-4ede-b375-b11618b8daff_00126	1373579	1378319	train	Og, þannig að restin myndi vera í, í test-settinu okkar.
5349c21d-bb9b-4ede-b375-b11618b8daff_00127	1379096	1380830	dev	Já, sem er þá hér.
5349c21d-bb9b-4ede-b375-b11618b8daff_00128	1381269	1388195	train	Þannig að við erum með fjögur hundruð og sextán núll og sextán einn, þannig að það eru bara mjög fáir hérna sem eru í einum.
5349c21d-bb9b-4ede-b375-b11618b8daff_00129	1389994	1395234	train	Ókei, og svo bara bjó ég til hérna svona smá fall sem, sem mælir mismunandi performance.
5349c21d-bb9b-4ede-b375-b11618b8daff_00130	1395684	1399144	eval	Við erum með accuracy, við erum með recall, precision og A U C.
5349c21d-bb9b-4ede-b375-b11618b8daff_00131	1399955	1403288	eval	Og þetta var bara svona til þess að þurfa ekki að endurtaka mig oft.
5349c21d-bb9b-4ede-b375-b11618b8daff_00132	1405056	1408732	train	Ókei, og svo kemur hérna aðalskrefið.
5349c21d-bb9b-4ede-b375-b11618b8daff_00133	1409313	1424853	train	Við búum til random forest classifier, sem heitir bara s, CLF, og svo tökum við þennan classifier og beitum honum á train-gögnin okkar, á X train og y train.
5349c21d-bb9b-4ede-b375-b11618b8daff_00134	1424952	1428755	train	Og svo mælum við performance-inn á test-settinu.
5349c21d-bb9b-4ede-b375-b11618b8daff_00135	1429605	1438349	dev	Þannig að við keyrum, það kemur meira að segja error, af því það er allt bara núll, en þið sjáið það að accuracy-ið er bara nokkuð gott, níutíu og sex prósent.
5349c21d-bb9b-4ede-b375-b11618b8daff_00136	1438984	1443728	train	En recall-ið okkar, það er núll og precision-ið er núll.
5349c21d-bb9b-4ede-b375-b11618b8daff_00137	1444396	1449566	train	Sem sagt, við náum ekki að finna neinn sem er í þessum minority-klassa.
5349c21d-bb9b-4ede-b375-b11618b8daff_00138	1450082	1455769	train	Enginn sem er true positive finnst, true positive er núll.
5349c21d-bb9b-4ede-b375-b11618b8daff_00139	1456383	1464684	dev	Sem þýðir það, að þetta er ekkert voðalega gott módel, af því að það finnur ekki, hérna, þennan minority-klassa.
5349c21d-bb9b-4ede-b375-b11618b8daff_00140	1465555	1469775	train	Þannig að í þessu tilfelli þá mundi allt spam-ið fara beint inn í inbox-ið ykkar, er það ekki?
5349c21d-bb9b-4ede-b375-b11618b8daff_00141	1470734	1471634	dev	Það finnst ekki.
5349c21d-bb9b-4ede-b375-b11618b8daff_00142	1471934	1472702	dev	Ókei.
5349c21d-bb9b-4ede-b375-b11618b8daff_00143	1473407	1498998	eval	En ef við tökum okkur til og prófum að oversample-a training-settið okkar, við hérna notum random oversampler, og nota bene, ef við gerum þetta við þjálfunargögnin okkar, ekki allt X-ið, bara við þjálfunargögnin okkar, af því við viljum að test-settið haldi sér eins og það er, við viljum bara gera það við þjálfunargögnin.
5349c21d-bb9b-4ede-b375-b11618b8daff_00144	1500286	1513154	train	En við gerum þetta við þau, við oversample-um, munið þið að við, við bætum við, við duplicate-um, hérna, mælingarnar í training-settinu okkar, þannig að við gerum það.
5349c21d-bb9b-4ede-b375-b11618b8daff_00145	1514883	1526502	train	Þá sjáið þið að við erum með hérna tólf hundruð fjörutíu og sjö eins og áður af klassanum núll, en það eru komnir fjögur hundruð níutíu og átta af klassanum einn.
5349c21d-bb9b-4ede-b375-b11618b8daff_00146	1527276	1534948	train	Þannig að við erum raunverulega búin að tífalda hverja einustu, hverja einustu minority-klassa mælingu.
5349c21d-bb9b-4ede-b375-b11618b8daff_00147	1539127	1561390	train	Og svo ef við gerum það sama aftur, búum aftur til random forest með, núna, sem sagt oversample-aða X-inu og y-inu, og mælum aftur á test-settunum okkar, performance-inn, þá sjáið þið það, ókei, við erum komin með betra accuracy og við erum komin með mjög gott recall og mjög gott precision.
5349c21d-bb9b-4ede-b375-b11618b8daff_00148	1561390	1568730	train	Við erum virkilega að ná öllum minority-klassa, hérna, gildunum okkar.
5349c21d-bb9b-4ede-b375-b11618b8daff_00149	1568770	1572280	train	Og A U C-ið, já, er líka aðeins búið að hækka.
5349c21d-bb9b-4ede-b375-b11618b8daff_00150	1574592	1579862	train	Þannig að þetta er, þetta er það sem að þessir, þessar balancing-aðferðir gera.
5349c21d-bb9b-4ede-b375-b11618b8daff_00151	1579892	1588031	eval	Þær gera okkur kleift að finna minority-mælingar í gagnasafninu okkar, og að læra þeirra mynstur líka.
5349c21d-bb9b-4ede-b375-b11618b8daff_00152	1590577	1591357	train	Já, og það er allt og sumt.
5349c21d-bb9b-4ede-b375-b11618b8daff_00153	1591357	1593125	train	Eru einhverjar spurningar varðandi þetta?
5349c21d-bb9b-4ede-b375-b11618b8daff_00154	1595127	1596269	train	Hafið þið gert svona einhvern tímann áður?
5349c21d-bb9b-4ede-b375-b11618b8daff_00155	1597621	1598300	train	Er þetta allt saman nýtt?
5349c21d-bb9b-4ede-b375-b11618b8daff_00156	1598300	1599238	train	Ókei.
5349c21d-bb9b-4ede-b375-b11618b8daff_00157	1599958	1611439	train	Sem sagt, þegar þið byrjið að gera þetta í Python, þá eru alls konar svona aðferðir til þess að gera þetta allt saman í einu pipeline-i, maður er ekkert að gera þetta svona mikið step by step, þetta er meira bara svona, hérna, pipeline-að.
5349c21d-bb9b-4ede-b375-b11618b8daff_00158	1611567	1618276	train	En ég vildi bara sýna, sýna ykkur nákvæmlega hvað, hver áhrifin af, af hverju og einu er.
5349c21d-bb9b-4ede-b375-b11618b8daff_00159	1621112	1624259	train	Já, og kannski eitt að lokum, það er hérna kennslukönnun.
5349c21d-bb9b-4ede-b375-b11618b8daff_00160	1624491	1626460	train	Það væri voðalega gott ef þið mynduð svara henni.
5349c21d-bb9b-4ede-b375-b11618b8daff_00161	1626871	1628531	dev	Fenguð örugglega email um það fyrir helgi er það ekki?
5349c21d-bb9b-4ede-b375-b11618b8daff_00162	1630510	1632161	dev	Endilega svara kennslukönnuninni.
5349c21d-bb9b-4ede-b375-b11618b8daff_00163	1632161	1633631	train	Það er mjög gott fyrir okkur.
5349c21d-bb9b-4ede-b375-b11618b8daff_00164	1633631	1639986	train	Af því þá getum við bætt okkur, kennt ykkur betur, þannig að endilega svarið þið henni.
5349c21d-bb9b-4ede-b375-b11618b8daff_00165	1640832	1647191	train	Hérna, já, eru einhverjar spurningar varðandi model evaluation?
5349c21d-bb9b-4ede-b375-b11618b8daff_00166	1649960	1650940	train	Nei, ókei.
5349c21d-bb9b-4ede-b375-b11618b8daff_00167	1651380	1655316	train	Hérna, þá bara segi ég takk í dag og sjáumst næsta mánudag.
5349c21d-bb9b-4ede-b375-b11618b8daff_00168	1655576	1657365	train	Enginn tími á föstudaginn, munið þið.
5349c21d-bb9b-4ede-b375-b11618b8daff_00169	1657816	1659351	train	Enginn tími á föstudaginn.
5349c21d-bb9b-4ede-b375-b11618b8daff_00170	1662336	1663530	train	Já, bíddu, ég ætla að stoppa.