segment_id	start_time	end_time	set	text
ed2e2505-d98d-4c36-b821-f6010bdfec03_00000	0	1286	eval	Ókei,
ed2e2505-d98d-4c36-b821-f6010bdfec03_00001	2212	3600	train	þá getum við byrjað.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00002	5634	9674	train	Sem sagt hérna við ætlum í dag að tala um það hvernig maður
ed2e2505-d98d-4c36-b821-f6010bdfec03_00003	11248	19018	train	metur hversu góð sem sagt módelin manns eru þar sem að machine learning model sem maður er að búa til,
ed2e2505-d98d-4c36-b821-f6010bdfec03_00004	20096	31386	train	hérna, skiptir náttúrulega miklu máli að vita, þú veist, hvort þeir séu að gera það sem maður vill að þau geri og það gerir maður með því að sem sagt mæla performance-inn hjá þeim, í þeim.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00005	36397	40598	eval	Og hérna þetta er svona það sem við ætlum að tala um í dag, þetta
ed2e2505-d98d-4c36-b821-f6010bdfec03_00006	40791	46061	eval	þessir fjórir punktar, af hverju viljum við mæla performance-inn? Af hverju viljum evaluate-a módelin?
ed2e2505-d98d-4c36-b821-f6010bdfec03_00007	46976	49736	dev	Og svo ætlum við að fara í sem sagt svona aðferðir
ed2e2505-d98d-4c36-b821-f6010bdfec03_00008	50987	61047	train	sem maður notar til þess að mæla þau sem sagt svona sampling aðferðir, hvernig maður getur sem sagt splittað gagnasafninu sínu til þess að mæla hversu vel þau eru að spá
ed2e2505-d98d-4c36-b821-f6010bdfec03_00009	61739	70961	train	og svo ætlum við að tala um það, hérna, hvernig við mælum sem sagt einhvers konar mál eða measures sem getur notað til að mæla performance-inn.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00010	71205	77990	train	Og svo ætla ég að tala aðeins líka um hérna gagnasöfn sem eru ekki balönsuð
ed2e2505-d98d-4c36-b821-f6010bdfec03_00011	78030	80782	train	sem sagt ekki í jafnvægi þar sem er mikill munur
ed2e2505-d98d-4c36-b821-f6010bdfec03_00012	81322	87840	train	á hérna, fjölda, fjöldans sem sagt í, í target breytunni okkar
ed2e2505-d98d-4c36-b821-f6010bdfec03_00013	87857	90482	train	sem sagt þegar maður er að reyna að spá einhverri target breytu.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00014	91782	100122	train	Og það kemur stundum fyrir eins til dæmis þegar þú ert með fraud, að það er mjög mikill imbalance í þessum, þessari fraud breytu
ed2e2505-d98d-4c36-b821-f6010bdfec03_00015	100377	103983	train	af því það eru svo rosalega fá fraud miðað við ekki fraud.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00016	104291	113595	train	Og þá skiptir miklu máli að sem sagt að búa til jafnvægi í gagnasafninu áður en maður byrjar að spá fyrir um eitthvað.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00017	114870	122338	dev	En ókei, af hverju ætlum við að hérna sem sagt mæla módelin okkar? Af hverju ætlum við að gera það?
ed2e2505-d98d-4c36-b821-f6010bdfec03_00018	122438	128911	train	Við náttúrulega þurfum að vita hvort að hérna þau séu að gera það sem við viljum þau geri. Af því við erum með einhver gögn
ed2e2505-d98d-4c36-b821-f6010bdfec03_00019	129155	132635	dev	og það fer inn í einhvern machine learning algoritma hérna og það kemur eitthvað út,
ed2e2505-d98d-4c36-b821-f6010bdfec03_00020	132971	135521	dev	en vitum ekkert hérna
ed2e2505-d98d-4c36-b821-f6010bdfec03_00021	135552	154061	train	hvort að þetta sem kemur út sé raunverulega það sem við viljum. Kannski er módelið bara að spá því að allir séu fraud eða allir séu ekki fraud. Og þá náttúrulega er það kannski ekki mjög gott módel ef að módelið nær ekki að finna einstaklingana sem eru fraud eða observation-irnar sem eru fraud. Og þ
ed2e2505-d98d-4c36-b821-f6010bdfec03_00022	155962	156921	train	Og þess vegna viljum við
ed2e2505-d98d-4c36-b821-f6010bdfec03_00023	157274	161919	train	sem sagt já eins og ég segi komast að því hvort að hvort að þetta sé að gera það sem við erum að gera. Til dæmis
ed2e2505-d98d-4c36-b821-f6010bdfec03_00024	161952	162880	eval	í þessu tilfelli hér
ed2e2505-d98d-4c36-b821-f6010bdfec03_00025	163018	167326	train	þar sem við erum með hérna eitthvað módel sem er að taka email
ed2e2505-d98d-4c36-b821-f6010bdfec03_00026	168378	175848	dev	og er að spá fyrir um það hvort email-in sem við erum að fá í inbox-ið okkar séu hérna bara venjuleg email eða hvort þau séu spam.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00027	176489	182309	train	Og þá mundi þessi classifier hérna vera kannski að að skoða þú veist hvað hérna
ed2e2505-d98d-4c36-b821-f6010bdfec03_00028	182349	191404	train	title-ið af, á emailinu er eða eða sem sagt emailið er svona ekki þeim sem eru að senda og þetta eru svona indicator-ar um það hvort að emailið sé spam eða ekki.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00029	192689	210766	train	Og, við náttúrulega viljum að þetta módel hér þessi classifier hérna sé að spá rétt. Við viljum ekkert fá spam í inboxið okkar við viljum að allt spam-ið fari í spam folder-inn og við viljum líka öll venjuleg email-in sem eru ekki spam, fari í inboxi-ið okkar
ed2e2505-d98d-4c36-b821-f6010bdfec03_00030	212535	217666	train	og hérna þannig að þið hafið verið að train-a þennan classifier hér.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00031	218496	219366	train	Þá viljum við
ed2e2505-d98d-4c36-b821-f6010bdfec03_00032	220548	226310	train	train-a hann þannig, að þjálfa hann þannig að hann classify-i rétt
ed2e2505-d98d-4c36-b821-f6010bdfec03_00033	226816	230956	train	venjulegu email-in og spam email-in
ed2e2505-d98d-4c36-b821-f6010bdfec03_00034	231270	243729	train	og við náttúrlega gert það með því að telja hversu mörg spam email lenda í inbox-inu og hversu mörg venjuleg email lenda í spam folder-inum. Það mundi vera mjög, hérna,
ed2e2505-d98d-4c36-b821-f6010bdfec03_00035	244208	253611	train	já, basic aðferð til að meta það hvort þessi classifier hérna sé að standa sig eða ekki, hvort við þurfum kannski að bæta hann eða ekki.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00036	256635	260926	train	Og sem sagt þegar við erum að meta þessi módel okkar
ed2e2505-d98d-4c36-b821-f6010bdfec03_00037	262120	275738	train	þá gerir það okkur kleift að bera saman mismunandi módel, til dæmis til þess að velja hvaða machine learning aðferð við viljum nota af því að sem sagt mismunandi aðferðir virka vel fyrir mismunandi [HIK:tilf] tilvik.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00038	276570	296921	train	Við getum líka reynt að sem sagt gera þetta til þess að bæta módelið sem við erum með það er hægt að bæta módelið á ýmsan hátt, til dæmis með því að eins og ég er rebalance data gagnasafnið að bæta við breytum og svo framvegis og þá getum við byrjað með eitthvert eitt módel og svo reynt að bæta það með því að mæla hversu mikil aukningin er í
ed2e2505-d98d-4c36-b821-f6010bdfec03_00039	296990	306439	train	í hérna þessum performance og svo að lokum til þess að forðast það að overfitt-a gögnin okkar, overfitting er mjög algengt vandamál
ed2e2505-d98d-4c36-b821-f6010bdfec03_00040	307718	319655	train	í þessu í machine learning af því að í staðinn fyrir að módelið læri einhver mynstur í gögnunum þá bara lærir það gögnin sjálf sem það er að nota sem input
ed2e2505-d98d-4c36-b821-f6010bdfec03_00041	319965	331515	train	þannig að það veldur því að þegar maður gefur þú sem sagt ert að þjálfa módel á gagnasafni og módelið það bara lærir gögnin þannig að ef þú gefur þeim eitthvað nýtt gagnasafn
ed2e2505-d98d-4c36-b821-f6010bdfec03_00042	332007	336083	train	þá getur það ekki fundið neitt í þessu nýja gagnasafni af því að það er búið að overfitt-a
ed2e2505-d98d-4c36-b821-f6010bdfec03_00043	337774	338733	train	eins og þið sjáið hér.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00044	339087	343163	dev	Þetta mundi vera dæmi fyrir classification
ed2e2505-d98d-4c36-b821-f6010bdfec03_00045	343949	349919	dev	módel og í þessu gagnasafni þá eru allir annaðhvort svona grænt x eða gulur hringur
ed2e2505-d98d-4c36-b821-f6010bdfec03_00046	350868	351467	train	og
ed2e2505-d98d-4c36-b821-f6010bdfec03_00047	354418	359369	train	markmiðið okkar hér er að búa til einhvers konar skil á milli þessara tveggja flokka.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00048	359688	364795	train	Og þið sjáið hérna á fyrstu myndinni þar sem við erum með underfitting þar sem við erum bara með beina línu á milli þeirra.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00049	365696	372220	train	Þar eru rosalega margir gulir punktar á græna svæðinu og, hérna, græn x á gula svæðinu.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00050	372529	376726	eval	Þannig að þessi hérna classifier mundi ekkert vera neitt voðalega góður af því að það eru svo margir
ed2e2505-d98d-4c36-b821-f6010bdfec03_00051	377261	379578	train	ranginr sem hann er að spá
ed2e2505-d98d-4c36-b821-f6010bdfec03_00052	380331	389662	train	svo í miðjunni þar sem við erum með eitthvað sem heitir að appropriate-fitting þar erum við með grade, sem sagt þá erum við með þessi mörk sem eru búin að aðlaga sig aðeins betur að gagnasafninu.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00053	390656	396595	eval	En samt sem áður eru enn þá nokkrir grænir þarna hinum megin, sem er alveg eðlilegt. Þú færð aldrei fullkomna
ed2e2505-d98d-4c36-b821-f6010bdfec03_00054	398080	403359	train	klössun á gagnasafni en svo ertu með hérna hinum megin þar sem þú ert over-fitta gögnin þín
ed2e2505-d98d-4c36-b821-f6010bdfec03_00055	403778	407853	train	þar erum við búin að búa til boundary sem er rosalega hérna flókið
ed2e2505-d98d-4c36-b821-f6010bdfec03_00056	409574	414943	train	og og svo flókið að þegar þú ætlaðir að byrja henda inn nýjum punktum
ed2e2505-d98d-4c36-b821-f6010bdfec03_00057	416232	420764	train	ef þú kæmir méð nýjan punkt sem væri kannski, hérna, gulur,
ed2e2505-d98d-4c36-b821-f6010bdfec03_00058	421359	426727	eval	þá er ekkert víst að hann mundi endilega lenda þarna inn í gula svæðinu á þessum, þessari mynd.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00059	427264	431734	train	Þannig að við erum búin að búa til sem sagt mörk á milli sem eru bara hreinlega of flókin
ed2e2505-d98d-4c36-b821-f6010bdfec03_00060	432760	438550	train	meðan hérna megin eru mörkin of einföld og við viljum fá einhvern svona gullinn meðalveg
ed2e2505-d98d-4c36-b821-f6010bdfec03_00061	439424	442363	eval	til þess að hafa svona appropriate-fitting eins og það heitir hér.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00062	444883	455354	dev	ér er annað dæmi fyrir sem sagt ef maður er með hérna regression ef þú ert að búa til módel fyrir regression sem þú vilt að falli að einhverjum svona samfelldum gögnum
ed2e2505-d98d-4c36-b821-f6010bdfec03_00063	456582	466838	eval	sem eru punktarnir hérna á línunni þá mundi skálínan hérna í underfitted rammanum er dæmi um það, þú ert með módel sem er hérna
ed2e2505-d98d-4c36-b821-f6010bdfec03_00064	466937	472827	train	bara alls ekkert að spá neitt voðalega vel fyrir, það er ekkert að laða sig neitt voðalega vel að gögnunum hér.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00065	472980	476763	train	Af því að þið sjáið að línan hún er langt frá því að fylgja þessum punktum og
ed2e2505-d98d-4c36-b821-f6010bdfec03_00066	477568	487646	train	svo í miðjunni þar sem við erum með gott fit, þá sjáið þið að hún svona fylgir nokkurn veginn. Ókei, punktarnir eru allir svolítið frá þessari línu
ed2e2505-d98d-4c36-b821-f6010bdfec03_00067	488142	491485	dev	en, en samt sérhver punktur er ekkert mjög langt frá.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00068	492242	495837	train	Þannig að error-in hérna myndu ekkert vera neitt voðalega mikill,
ed2e2505-d98d-4c36-b821-f6010bdfec03_00069	496128	496908	train	meðan að
ed2e2505-d98d-4c36-b821-f6010bdfec03_00070	497176	503267	train	hérna lengst til hægri þar sem við erum að overfit-a gögnin, við erum að láta línuna fara á milli punktana alveg
ed2e2505-d98d-4c36-b821-f6010bdfec03_00071	503424	505895	train	þar erum við búin að hérna
ed2e2505-d98d-4c36-b821-f6010bdfec03_00072	506586	507825	train	overfit-a
ed2e2505-d98d-4c36-b821-f6010bdfec03_00073	508422	509495	train	af því að,
ed2e2505-d98d-4c36-b821-f6010bdfec03_00074	509944	516092	train	af því að þetta módel er of of specific það er of hérna miklir detail-ar í því.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00075	516207	520561	train	Þannig að aftur þá viljum við fylgja hérna einhverjum gullnum meðalvegi.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00076	525362	531691	train	Og þegar við erum að tala um þetta performance þá erum við að reyna að meta hversu hérna
ed2e2505-d98d-4c36-b821-f6010bdfec03_00077	532818	539136	dev	módelið sem við búum til, módelið sem við þjálfum úr gögnum, hversu gott er það í því
ed2e2505-d98d-4c36-b821-f6010bdfec03_00078	539202	543535	train	að spá fyrir þegar það er með ný gögn.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00079	543885	552598	train	Af því að maður er alltaf að þjálfa sem sagt módelið á einu gagnasafni og svo viljum við beita því á nýtt gagnasafn
ed2e2505-d98d-4c36-b821-f6010bdfec03_00080	552672	565201	eval	og sjá hversu vel það stendur sig á nýju gagnasafni og það er það sem við köllum performance. Hversu vel stendur módelið sig þegar þú gefur því observation-ir sem það hefur ekki séð áður.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00081	566990	577609	train	Og, það sem við þurfum að gera til þess að mæla þetta er í fyrsta lagi að, sem sagt skipta gagnasafninu upp í, upp í einhverja hluta og það eru nokkrar aðferðir til þess sem ég ætla að fara í núna á eftir.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00082	579198	585961	train	En hérna eru taldir upp nokkrir, það er bara skipta því í tvennt og svo er hægt að skipta því í marga hluta og gera svona cross-validation
ed2e2505-d98d-4c36-b821-f6010bdfec03_00083	586886	598555	train	og svo að lokum þá viljum við líka ákveða hvaða, hvernig við viljum mæla skekkjuna eða hversu oft módelið sem sagt hefur rétt fyrir sér.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00084	598693	601980	train	Og þá erum við með mismunandi svona performance measure
ed2e2505-d98d-4c36-b821-f6010bdfec03_00085	603148	608326	train	sem ég mun fara líka í núna á eftir. En ef við tölum eðeins meira um overfitting
ed2e2505-d98d-4c36-b821-f6010bdfec03_00086	608392	613044	train	þá hérna finnst mér þetta svoldið góð mynd hérna. Kannski hafið þið séð hana.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00087	613410	618674	train	Hefur einhver séð svona mynd svipaða? Þið sjáið það að við erum með, hérna,
ed2e2505-d98d-4c36-b821-f6010bdfec03_00088	618916	620189	train	eitthvað módel
ed2e2505-d98d-4c36-b821-f6010bdfec03_00089	620672	624913	train	og módelið það getur verið mjög einfalt eða það getur verið mjög flókið
ed2e2505-d98d-4c36-b821-f6010bdfec03_00090	626166	627919	train	og eftir því sem það er hérna
ed2e2505-d98d-4c36-b821-f6010bdfec03_00091	627968	635950	train	flóknara módelið og munið við erum að byrja að vera með eitthvað training gagnasafn. Við erum með eitthvað gagnasafn sem við erum að þjálfa módelið á.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00092	636176	648401	train	Og við byrjum með mjög einfalt módel og þá verður sem sagt error-in mjög hár en eftir því sem módelið okkar verður flóknara og lærir betur mynstrin í gagnasafninu,
ed2e2505-d98d-4c36-b821-f6010bdfec03_00093	648572	652914	eval	þá minnkar error-in í þessu þjálfunarsafni
ed2e2505-d98d-4c36-b821-f6010bdfec03_00094	654208	661654	dev	en svo, ef við tökum þetta módel sem við erum að búa til með því að við erum að þjálfa á
ed2e2505-d98d-4c36-b821-f6010bdfec03_00095	661765	663412	train	sem sagt þjálfunar gagnasafninu
ed2e2505-d98d-4c36-b821-f6010bdfec03_00096	664432	667763	train	og beitum því á eitthvað svona test gagnasafn
ed2e2505-d98d-4c36-b821-f6010bdfec03_00097	668082	679499	train	þá gerist þetta líka að fyrst eftir því sem að hérna módelið verður flóknara þá minnkar error-in í þessu test gagnasafni en svo á einhverjum tímapunkti
ed2e2505-d98d-4c36-b821-f6010bdfec03_00098	679728	686350	eval	þá verður byrjar sem sagt error-inn aftur að hækka í test safninu vegna þess að
ed2e2505-d98d-4c36-b821-f6010bdfec03_00099	687893	691362	train	í test safninu eru hérna
ed2e2505-d98d-4c36-b821-f6010bdfec03_00100	691725	692573	eval	punktar eða
ed2e2505-d98d-4c36-b821-f6010bdfec03_00101	692574	698919	train	observation-ir með einhverja eiginleika sem eru ekki fyrir hendi í þjálfunarsafninu.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00102	699569	705090	eval	Og þess vegna getur módelið ekki hérna spáð þeim rétt af því að
ed2e2505-d98d-4c36-b821-f6010bdfec03_00103	705672	708710	eval	af því að þeir eru ekki til staðar í þjálfunarsafninu.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00104	709425	714881	train	zf því að módelið okkar er búið að læra það hvernig punktarnir í þjálfunarsafninu líta út
ed2e2505-d98d-4c36-b821-f6010bdfec03_00105	714906	717596	train	og vita ekkert hvað þeir eiga gera við punkta sem þeir hafa aldrei séð áður
ed2e2505-d98d-4c36-b821-f6010bdfec03_00106	719252	719942	train	og eins
ed2e2505-d98d-4c36-b821-f6010bdfec03_00107	720768	725253	train	tengist þetta líka hvernig gagnasafnið stækkar.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00108	725392	729382	train	Ef við erum með lítið gagnasafn þá erum við oft með hérna
ed2e2505-d98d-4c36-b821-f6010bdfec03_00109	731316	739933	train	þá sem sagt er þjálfunarskekkjan, hún eykst svona þangað til að hún nær einhverju jafnvægi eftir því sem gagnasafnið stækkar
ed2e2505-d98d-4c36-b821-f6010bdfec03_00110	742160	746331	train	en fyrir test safnið þá minnkar
ed2e2505-d98d-4c36-b821-f6010bdfec03_00111	746816	749776	train	skekkjan eftir því sem að gagnasafnið stækkar
ed2e2505-d98d-4c36-b821-f6010bdfec03_00112	750336	752224	train	og hérna og hérna í upphafi
ed2e2505-d98d-4c36-b821-f6010bdfec03_00113	752461	762828	train	þegar við erum með lítið gagnasafn þá erum við oft með mikið overfitting í gangi af því að það er svo mikill munur á þjálfunar og test
ed2e2505-d98d-4c36-b821-f6010bdfec03_00114	764366	765206	train	gagnasöfnunum.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00115	769531	776619	train	Við vorum búin að fara í þessa mynd um daginn um sem sagt þessa hluti af machine learning sem við ætlum að tala um hér í þessu námskeiði,
ed2e2505-d98d-4c36-b821-f6010bdfec03_00116	777983	782588	train	við ætluðum aðallega að fókusa á munið þið supervised learning og unsupervised learning
ed2e2505-d98d-4c36-b821-f6010bdfec03_00117	783703	787262	train	og í dag þá ætla ég sem sagt að hérna,
ed2e2505-d98d-4c36-b821-f6010bdfec03_00118	787303	798160	train	já, fókusa á þá hluta nema hvað að unsupervised learning það er hluti af hérna einni nemendakynningu sem verður annan mars,
ed2e2505-d98d-4c36-b821-f6010bdfec03_00119	798195	802192	train	þannig að ég ætla bara að leyfa þeim hópi sem eru að tala þar að kynna fyrir okkur
ed2e2505-d98d-4c36-b821-f6010bdfec03_00120	802700	804459	train	hvernig maður metur
ed2e2505-d98d-4c36-b821-f6010bdfec03_00121	806711	812606	train	mælir sem sagt performance unsupervised módela af því að það er hluti af þessu K-means og svona
ed2e2505-d98d-4c36-b821-f6010bdfec03_00122	812631	818711	train	hvernig maður metur það hversu góðir cluster-arnir manns eru. Þannig að ég ætla ekki að neitt spoil-a neitt það neitt hér.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00123	818964	822082	train	Og þið bara bíðið spenntir eftir þeim fyrirlestri
ed2e2505-d98d-4c36-b821-f6010bdfec03_00124	823044	825430	train	en ég ætla hins vegar að tala um supervised learning
ed2e2505-d98d-4c36-b821-f6010bdfec03_00125	825459	829606	train	af því að það er töluvert algengara heldur en unsupervised learning
ed2e2505-d98d-4c36-b821-f6010bdfec03_00126	830154	841942	train	og kannski svona meira intuitive líka og þar að auki ætlið þið sem sagt að kynna marga mismunandi algóritma fyrir unsupervised learning
ed2e2505-d98d-4c36-b821-f6010bdfec03_00127	842041	849805	train	þannig að það er kannski bara ágætt að við núna í dag tölum um það hvernig maður metur það hversu góðir svoleiðis algóritmar eru.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00128	850752	858040	train	En í supervised learning þá það sem við viljum gera, er að læra þessar reglur á milli
ed2e2505-d98d-4c36-b821-f6010bdfec03_00129	859029	862920	train	input-sins og output-sins. Output-ið það sem kallast target
ed2e2505-d98d-4c36-b821-f6010bdfec03_00130	864336	868947	eval	það er sem sagt einhvers konar einhver hegðun, það getur verið
ed2e2505-d98d-4c36-b821-f6010bdfec03_00131	869256	873658	train	já, annað hvort classification þar sem við erum að með hérna
ed2e2505-d98d-4c36-b821-f6010bdfec03_00132	875229	877450	eval	strjált target þar sem að getur verið
ed2e2505-d98d-4c36-b821-f6010bdfec03_00133	878005	886556	train	við erum með endanlegt sett af einhverjum svona kategoríum sem getur verið þá fraud eða spam email eða litur eða kyn
ed2e2505-d98d-4c36-b821-f6010bdfec03_00134	887424	888548	train	og svo framvegis.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00135	888918	891284	train	Og hins vegar þá erum við með regression
ed2e2505-d98d-4c36-b821-f6010bdfec03_00136	892702	897746	train	aðferðir þar sem að target breytan er samfelld, eins og til dæmis
ed2e2505-d98d-4c36-b821-f6010bdfec03_00137	898561	902257	train	innkoma eða aldur eða einkunn og svo framvegis.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00138	904908	915059	train	Og markmiðið í þessu er að læra sem sagt einhvers konar reglur á milli input breytanna sem getur verið alls konar getur verið hérna
ed2e2505-d98d-4c36-b821-f6010bdfec03_00139	915296	929200	train	aldur, hæð, þyngd, innkoma hvað sem er og við viljum nota þessar input breytur til að spá fyrir um target-ið þar sem target-ið mundi þá vera fraud eða eða eitthvað annað
ed2e2505-d98d-4c36-b821-f6010bdfec03_00140	929782	933806	train	eða í tilfellinu þar sem við vorum með email-in og við viljum nota hérna
ed2e2505-d98d-4c36-b821-f6010bdfec03_00141	933930	947353	train	subject line-ið við viljum nota hérna email adressuna til þess að spá fyrir um það hvort að emailið sé venjulegt eða spam email. Það mundi vera classification supervised learning
ed2e2505-d98d-4c36-b821-f6010bdfec03_00142	948608	951336	train	sem sagt application.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00143	951956	953610	eval	Og, og, hérna,
ed2e2505-d98d-4c36-b821-f6010bdfec03_00144	954245	960854	train	og í þessu tilfelli þá notum við sem sagt eitthvað svona þjálfunar gagnasafn til þess að þjálfa módelið
ed2e2505-d98d-4c36-b821-f6010bdfec03_00145	961460	965877	dev	og svo tökum við módelið sem við erum búin að þjálfa, og [HIK:bæt] sem sagt
ed2e2505-d98d-4c36-b821-f6010bdfec03_00146	965900	968957	train	beitum því á gögn sem við höfum ekki séð áður
ed2e2505-d98d-4c36-b821-f6010bdfec03_00147	969079	972663	train	og mælum hversu vel það er perform-ar
ed2e2505-d98d-4c36-b821-f6010bdfec03_00148	974790	981881	train	og hérna og aftur til þess að hamra á því að ef við ofþjálfum módelið þá munum við vera með overfitting
ed2e2505-d98d-4c36-b821-f6010bdfec03_00149	982624	991138	train	og sem þýðir það að módelið mun ekki höndla það vel að sjá að sem sagt spá fyrir um target á gögnum sem það hefur ekki séð áður.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00150	992311	995288	eval	Og kannski svona smá myndrænt. Hérna,
ed2e2505-d98d-4c36-b821-f6010bdfec03_00151	995587	1002418	train	við erum með sem sagt þetta mundi vera classification við erum með eitthvað training data af eplum og og möffins
ed2e2505-d98d-4c36-b821-f6010bdfec03_00152	1002643	1011874	eval	og við notum það sem input í eitthvað svona machine learning model sem eru að læra mynstur
ed2e2505-d98d-4c36-b821-f6010bdfec03_00153	1011888	1014826	train	og er við þjálfum eitthvað módel þarna í miðjunni.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00154	1014974	1016972	train	Og svo tökum við hérna
ed2e2505-d98d-4c36-b821-f6010bdfec03_00155	1017088	1018749	train	eina observation,
ed2e2505-d98d-4c36-b821-f6010bdfec03_00156	1018888	1027236	train	hérna, sem er sem sagt sem módelið hefur ekki séð áður og módelið veit ekki hvort þetta sé möffins eða epli,
ed2e2505-d98d-4c36-b821-f6010bdfec03_00157	1027410	1033058	eval	og við setjum það inn í módelið okkar og fáum út að þetta sé möffins.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00158	1033585	1039570	train	Þannig að svona mundi þetta virka, gróft á litið.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00159	1043323	1050802	train	Og svo með sem sagt classification supervised learning þá er binary classification langalgengast,
ed2e2505-d98d-4c36-b821-f6010bdfec03_00160	1050979	1056388	train	þar sem að, hérna, markmiðið er að skilja á milli tveggja flokka
ed2e2505-d98d-4c36-b821-f6010bdfec03_00161	1056896	1057736	train	eins og til dæmis
ed2e2505-d98d-4c36-b821-f6010bdfec03_00162	1058688	1064977	train	fraud eða ekki fraud, fall eða eða ekki fall, spam eða ekki spam
ed2e2505-d98d-4c36-b821-f6010bdfec03_00163	1066368	1071378	train	og þá er markmiðið líka oft sem sagt að finna þennan þennan flokk sem er,
ed2e2505-d98d-4c36-b821-f6010bdfec03_00164	1073164	1083941	train	já, maður lítur á hann sem svona undesirable eða eða jafnvel desirable. En eins og til dæmis hér þá mundirðu vilja finna þá sem eru fraud. Þú mundir vilja finna það sem er spam.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00165	1085436	1088346	train	Það fer náttúrulega eftir því hvernig þú lítur á það, en, en það er oft litið á það þannig.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00166	1090313	1097603	train	Svo til dæmis kannski hérna með með það að finna hverjir eru að ná kúrsinum og hverjir eru ekki að ná kúrsinum.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00167	1098420	1107011	train	Hvað, hvað veldur því að nemendur falla til dæmis. Hvaða breytur eru, hafa mikið spágildi fyrir það að falla?
ed2e2505-d98d-4c36-b821-f6010bdfec03_00168	1107975	1112024	train	Þetta er svona, hérna, dæmi um þetta binary classification
ed2e2505-d98d-4c36-b821-f6010bdfec03_00169	1112859	1118619	train	og þegar við erum að þjálfa módel til þess að spá fyrir um þetta
ed2e2505-d98d-4c36-b821-f6010bdfec03_00170	1119488	1120087	eval	þá
ed2e2505-d98d-4c36-b821-f6010bdfec03_00171	1120627	1123903	train	er output-ið úr módelinu, annað hvort
ed2e2505-d98d-4c36-b821-f6010bdfec03_00172	1125818	1137367	train	sem sagt kategorían sem að observation-ið er sem sagt er hluti af annað hvort núll eða einn þar sem að kannski núll mundi standa fyrir venjulegt email og eitt mundi standa fyrir spam
ed2e2505-d98d-4c36-b821-f6010bdfec03_00173	1139895	1143525	train	eða núll mundi standa fyrir ekki fraud og einn mundi standa fyrir fraud.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00174	1143981	1156118	eval	Þá mundi þetta módel spá fyrir um það hvort það sé fraud, einn, eða ekki fraud, núll, og hinn bóginn þá getur útkoman úr módelinu verið líkurnar á því að,
ed2e2505-d98d-4c36-b821-f6010bdfec03_00175	1157108	1159348	train	þú veist, að, að, hérna,
ed2e2505-d98d-4c36-b821-f6010bdfec03_00176	1160401	1174488	train	observation-in tilheyri öðrum hvorum þessum klössum. Þannig að í tilfellinu hérna með fraud þá mundi það vera líkurnar á því að þessi einstaklingur sé fraud eða að líkurnar á því að þetta email sé spam.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00177	1175601	1179441	train	Þannig að þetta er svona tvenns konar output sem maður getur fengið út úr módelinu
ed2e2505-d98d-4c36-b821-f6010bdfec03_00178	1179982	1194138	train	og þegar við verðum að gera þetta í Python þá einfaldlega sem sagt segir maður hérna python hvort maður vilji fá sem sagt kategoríuna sjálfa eða hvort maður vilji fá líkurnar á því að vera sem sagt kategorían.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00179	1197915	1204438	train	Og svo um það hvernig maður sem sagt skiptir upp gögnunum til þess að búa til þetta þjálfunar og þetta test set
ed2e2505-d98d-4c36-b821-f6010bdfec03_00180	1205163	1207536	dev	eins og við búin að nefna er þetta notað til þess
ed2e2505-d98d-4c36-b821-f6010bdfec03_00181	1207717	1212503	train	að komast hjá því að vera að overfit-a gögnin sín og til þess að mæla hversu góð módelin eru
ed2e2505-d98d-4c36-b821-f6010bdfec03_00182	1213105	1216673	eval	og ég ætla að tala um hérna sem sagt þrjár algengar aðferðir,
ed2e2505-d98d-4c36-b821-f6010bdfec03_00183	1217429	1223785	eval	fyrsta lagi erum við með split sample method og svo erum við með cross validation og svo leave one out cross validation.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00184	1224960	1234731	train	Það sem að í fyrsta lagi split sample er einfaldlega þannig að við tökum gagnasafnið okkar sem við erum að vinna með, við bara skiptum því í tvennt í tvo hluta
ed2e2505-d98d-4c36-b821-f6010bdfec03_00185	1236182	1241925	train	og sem sagt, og það heitir annar hlutinn heitir training set, eða þjálfunarsett,
ed2e2505-d98d-4c36-b821-f6010bdfec03_00186	1242049	1251565	dev	og hinn hlutinn heitir test set og eins og nöfnin benda til þá munum við nota þjálfunar settið til þess að þjálfa módelið okkar á og svo notum við test set-ið
ed2e2505-d98d-4c36-b821-f6010bdfec03_00187	1251761	1253890	train	til þess að mæla hversu gott módelið er
ed2e2505-d98d-4c36-b821-f6010bdfec03_00188	1255656	1263636	eval	og þegar við erum að þjálfa módelið þá gefum við því gögnin með target-inu þannig að módelið þarf að vita,
ed2e2505-d98d-4c36-b821-f6010bdfec03_00189	1264198	1268300	dev	hérna, hvað, hvað target-ið er fyrir hverja einustu hérna mælingu
ed2e2505-d98d-4c36-b821-f6010bdfec03_00190	1268864	1273020	train	það þarf að vita hvort að email-in séu spam eða eða ekki spam
ed2e2505-d98d-4c36-b821-f6010bdfec03_00191	1274038	1279633	eval	og svo þjálfum við módelið og módelið lærir mynstur á milli breytanna í tengslum við target-ið
ed2e2505-d98d-4c36-b821-f6010bdfec03_00192	1280256	1285381	train	og svo tökum við hérna sem sagt test gagnasafnið okkar
ed2e2505-d98d-4c36-b821-f6010bdfec03_00193	1285739	1289206	train	og við fjarlægjum, hérna, target-ið
ed2e2505-d98d-4c36-b821-f6010bdfec03_00194	1289613	1299975	train	og við setjum gagnasafnið inn í módelið og módelið spáir fyrir um það hvort hvað sem sagt hvaða flokki hver mæling tilheyrir, hvort sé spam eða ekki
ed2e2505-d98d-4c36-b821-f6010bdfec03_00195	1300608	1305124	train	og svo berum við saman við þessi raunverulegu gildi sem við héldum í burtu
ed2e2505-d98d-4c36-b821-f6010bdfec03_00196	1307334	1313435	train	og og hérna og þegar verið að splitta þessu svona þá er oft hérna sem sagt er
ed2e2505-d98d-4c36-b821-f6010bdfec03_00197	1313460	1330063	dev	yfirleitt training safnið haft stærra, annaðhvort sextíu, sjötíu eða áttatíu prósent af heildarsafninu og þá er test safnið sem sagt restin, þannig þú skiptir safninu í sextíu, fjörutíu prósent, sjötíu þrjátíu prósent eða áttatíu tuttugu prósent
ed2e2505-d98d-4c36-b821-f6010bdfec03_00198	1330250	1335541	train	þetta er náttúrulega ekkert heilagt þú getur alveg gert sjötíu og fimm, tuttugu og fimm bara eins og hentar í hvert skipti
ed2e2505-d98d-4c36-b821-f6010bdfec03_00199	1336198	1337818	train	og og hérna
ed2e2505-d98d-4c36-b821-f6010bdfec03_00200	1339104	1343013	train	og þetta eru oft bara svona random þá skipt bara randomly
ed2e2505-d98d-4c36-b821-f6010bdfec03_00201	1343646	1348025	train	nema hérna það sem er stundum er gert líka að það er notað svona stratification
ed2e2505-d98d-4c36-b821-f6010bdfec03_00202	1349376	1357494	train	og þér er bara verið að passa upp á það að það sé sama dreifing á báðum hérna klössunum í sem sagt training og test
ed2e2505-d98d-4c36-b821-f6010bdfec03_00203	1357813	1363525	train	söfnunum. Þannig að ef við skoðum þetta á gífurlega fallegri mynd,
ed2e2505-d98d-4c36-b821-f6010bdfec03_00204	1363998	1365998	train	þá erum við með hérna gögnin okkar
ed2e2505-d98d-4c36-b821-f6010bdfec03_00205	1366185	1368079	train	og við skiptum því í tvennt. Við erum með train
ed2e2505-d98d-4c36-b821-f6010bdfec03_00206	1368101	1379202	train	og test og við tökum train gögnin okkar til að byggja módelið. Svo tökum við módelið og beitum því á testið. Og þá fáum við hérna út
ed2e2505-d98d-4c36-b821-f6010bdfec03_00207	1379596	1380868	train	einhvers konar score
ed2e2505-d98d-4c36-b821-f6010bdfec03_00208	1381429	1385910	train	sem er þá líkurnar á því að að hérna
ed2e2505-d98d-4c36-b821-f6010bdfec03_00209	1386018	1397042	train	í þessu tilfelli að vera sem sagt þetta einn sem stendur fyrir good og núll stundum fyrir bad. Þetta mundi vera hérna gögn úr til dæmis svona credit scoring
ed2e2505-d98d-4c36-b821-f6010bdfec03_00210	1397118	1399462	train	þegar er verið að spá fyrir um hérna
ed2e2505-d98d-4c36-b821-f6010bdfec03_00211	1400144	1401492	train	greiðslugetu.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00212	1403869	1409631	dev	Þá erum við með hérna fimm einstaklinga og þeir eru með einhverja innkomu og sumir þeirra hafa sem sagt
ed2e2505-d98d-4c36-b821-f6010bdfec03_00213	1410867	1417149	train	ekki borgað aftur hérna lánin sín á meðan aðrir gerðu það þannig að þessir góðu þeir borguðu til baka meðan þessir,
ed2e2505-d98d-4c36-b821-f6010bdfec03_00214	1417162	1420206	train	þessir vondu þeir default-uðu af lánunum sínum
ed2e2505-d98d-4c36-b821-f6010bdfec03_00215	1421211	1424482	train	og hérna og svo beitum við þessu á sem sagt nýja gagnasafnið.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00216	1424821	1431467	dev	Og við sjáum til dæmis það að Emma hérna, hún fær score-ið núll komma fjörutíu og fjórir þannig að hún er
ed2e2505-d98d-4c36-b821-f6010bdfec03_00217	1432068	1436227	train	sem sagt fjörutíu og fjögur prósent líkur á því að hún sé góð
ed2e2505-d98d-4c36-b821-f6010bdfec03_00218	1436737	1449177	train	og Will hérna tvö hann fær score núll komma sjötíu og sex og það er aftur sjötíu og sex prósent líkur á því að hann sé góður af því að þetta er miðað við það að einn standi fyrir gott og núll standi fyrir vont.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00219	1454062	1459186	train	Og já, hérna eitt í viðbót að þetta er oft notað þegar maður er með sem sagt stór gagnasöfn.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00220	1459732	1462526	dev	Ég vil ekkert gefa neinar concrete tölur
ed2e2505-d98d-4c36-b821-f6010bdfec03_00221	1462586	1467305	train	af því að það náttúrulega breytist mjög fljótt hvað telst stórt og hvað telst ekki stórt.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00222	1467412	1471701	train	En ef þið eruð með þú veist hundrað þúsund observation-ir og yfir
ed2e2505-d98d-4c36-b821-f6010bdfec03_00223	1471941	1475065	train	þá mundi þetta vera vera góð aðferð.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00224	1477015	1483040	train	Og svo erum við með það sem heitir cross validation eða n-fold cross validation
ed2e2505-d98d-4c36-b821-f6010bdfec03_00225	1483082	1486941	train	það er eitthvað sem er notað á gagnasöfn sem eru þá aðeins minni,
ed2e2505-d98d-4c36-b821-f6010bdfec03_00226	1487759	1493007	train	við getum sagt minni en hundrað þúsund, það bara fer eftir því hvað þú ert með mikla, hérna, computing power.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00227	1493139	1501296	dev	En þetta sem sagt felst í því að maður skiptir gagnasafninu í n hluta og oft er miðað við tíu hluta
ed2e2505-d98d-4c36-b821-f6010bdfec03_00228	1501363	1510313	train	en það má alveg vera hvaða önnur tala sem er og og þá er sem sagt það sem við gerum er að við ætlum að þjálfa módelið á
ed2e2505-d98d-4c36-b821-f6010bdfec03_00229	1510338	1516288	train	öllum þessum hlutum nema einum og svo testum við á þessum eina sem við skildum eftir.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00230	1516398	1520606	train	etta endurtökum við fyrir sem sagt allar mögulegar skiptingar
ed2e2505-d98d-4c36-b821-f6010bdfec03_00231	1521648	1522577	train	eins og þið sjáið hér
ed2e2505-d98d-4c36-b821-f6010bdfec03_00232	1522940	1524678	dev	ef við erum með gagnasafnið okkar,
ed2e2505-d98d-4c36-b821-f6010bdfec03_00233	1525504	1530421	train	við skiptum því hérna í einn tvo, þrjá, fjóra, fimm, sex, sjö, já tíu hluta.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00234	1531063	1536532	dev	Núna í fyrstu ítrun þá erum við að train-a hérna á fyrstu níu og testum á þessum tíunda
ed2e2505-d98d-4c36-b821-f6010bdfec03_00235	1536735	1541974	train	í annarri ítrun þá train-um við á hérna fyrstu átta og þessum tíunda
ed2e2505-d98d-4c36-b821-f6010bdfec03_00236	1542387	1557207	train	og hérna testum á þessum þarna númer níu. Þetta endurtökum við þangað til við höfum sem sagt farið yfir allt gagnasafnið þannig að allir þessir partar öll þessi fold hafa einu sinni verið sem sagt notuð
ed2e2505-d98d-4c36-b821-f6010bdfec03_00237	1557208	1565077	eval	til þess, til þess að testa. Og þá út úr hverju svona hverri ítrun fáum við einhvers konar hérna
ed2e2505-d98d-4c36-b821-f6010bdfec03_00238	1565440	1573239	train	performance mælingu eða error af því hversu gott módelið er og þá er sem sagt heildar
ed2e2505-d98d-4c36-b821-f6010bdfec03_00239	1576388	1584923	train	mælingin á performance-inu bara meðaltalið yfir öll, yfir öll þessi, öll þessi, hérna,
ed2e2505-d98d-4c36-b821-f6010bdfec03_00240	1585752	1589232	train	allar þessar ítranir. Þannig að þið sjáið það að
ed2e2505-d98d-4c36-b821-f6010bdfec03_00241	1590269	1593499	train	mælingarnar allar observation-irnar
ed2e2505-d98d-4c36-b821-f6010bdfec03_00242	1594386	1598570	train	þær eru einhvern tímann í test hlutanum,
ed2e2505-d98d-4c36-b821-f6010bdfec03_00243	1598666	1601499	train	þannig þær, þær eru allar notaðar til að test-a á
ed2e2505-d98d-4c36-b821-f6010bdfec03_00244	1602288	1604023	train	og svo allar eru notaðar til þess að þjálfa á.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00245	1607144	1624931	train	Og eins og ég segi þá er þetta sem sagt yfirleitt gert með tíu, en það má líka alveg vera fimm eða tuttugu. Og ástæðan fyrir því að þetta virkar betur á minni gagnasöfn er einfaldlega sú að hérna maður er náttlega að þjálfa tíu módel, maður er að þjálfa módel tíu sinnum þess vegna tekur það lengri tíma.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00246	1624964	1626752	train	þannig að ef maður er með mjög stórt gagnasafn
ed2e2505-d98d-4c36-b821-f6010bdfec03_00247	1627173	1639055	train	þá er þetta ekkert voðalega hérna þá getur þetta tekið mjög langan tíma þó að þetta sé náttúrlega miklu meira robust heldur en þetta split sample sem við notuðum sem sagt áðan.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00248	1640252	1644933	dev	Og auk þess af því að við fáum svona meðaltal yfir performance-inn
ed2e2505-d98d-4c36-b821-f6010bdfec03_00249	1645336	1650594	train	þá getum við reiknað út staðalfrávik og jafnvel hérna öryggisbil og svo framvegis.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00250	1651237	1654642	train	Þannig að við fáum svona betra mat á því hversu gott módelið er
ed2e2505-d98d-4c36-b821-f6010bdfec03_00251	1656274	1662408	train	og svo ef við tökum þetta svona to the extreme þá fáum við það sem heitir leave one out cross validation
ed2e2505-d98d-4c36-b821-f6010bdfec03_00252	1662848	1666508	train	þar sem að n er jafnt
ed2e2505-d98d-4c36-b821-f6010bdfec03_00253	1667328	1673148	train	fjölda mælinga í gagnasafninu þannig að við erum alltaf að þjálfa á öllum observation-unum nema einni
ed2e2505-d98d-4c36-b821-f6010bdfec03_00254	1673532	1684532	train	og svo spáum við, notum módelið sem við þjálfuðum til þess að spá fyrir um klassana á þessu þessari einu sem við skyldum eftir og þetta endurtökum við fyrir allar observation-irnar í gagnasafninu
ed2e2505-d98d-4c36-b821-f6010bdfec03_00255	1684864	1691370	train	þannig að þið sjáið það að þetta tekur lengri tíma heldur en venjuleg cross validation ef þú ert að búa til
ed2e2505-d98d-4c36-b821-f6010bdfec03_00256	1691388	1696472	train	jafn mörg módel eins og observation-irnar í gagnasafninu eru
ed2e2505-d98d-4c36-b821-f6010bdfec03_00257	1698254	1703670	train	þannig að þetta er enn þá tímafrekara en þetta er raunverulega samt besta aðferðin
ed2e2505-d98d-4c36-b821-f6010bdfec03_00258	1704491	1706056	train	en, en, hérna,
ed2e2505-d98d-4c36-b821-f6010bdfec03_00259	1707118	1711688	train	en mjög sjaldan notað í praxís af því að þetta bara tekur ógeðslega langan tíma
ed2e2505-d98d-4c36-b821-f6010bdfec03_00260	1712248	1715290	dev	en, en hérna ég myndi segja að sem sagt,
ed2e2505-d98d-4c36-b821-f6010bdfec03_00261	1715425	1721494	train	já, ten fold cross validation er bara svona gott go to ef maður er að þjálfa einhver módel.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00262	1723859	1728721	train	Ókei, og hvernig ætlum við svo að mæla það hversu góð módelin okkar eru?
ed2e2505-d98d-4c36-b821-f6010bdfec03_00263	1731909	1735106	eval	Ég ætla að fara aðeins í það hvernig sem sagt spárnar verða til
ed2e2505-d98d-4c36-b821-f6010bdfec03_00264	1736146	1743624	train	að við einsog við erum búin að tala um í binary classification þar sem við erum með tvo flokka í ferlinu okkar
ed2e2505-d98d-4c36-b821-f6010bdfec03_00265	1746055	1747136	train	sem sagt fókusa á það
ed2e2505-d98d-4c36-b821-f6010bdfec03_00266	1747873	1749896	train	að þá sem sagt erum við að þjálfa módelið okkar
ed2e2505-d98d-4c36-b821-f6010bdfec03_00267	1750656	1753555	train	og við notum hérna þjálfunarsafnið okkar
ed2e2505-d98d-4c36-b821-f6010bdfec03_00268	1753938	1757102	train	með targe-inusem við þekkjum
ed2e2505-d98d-4c36-b821-f6010bdfec03_00269	1757172	1762676	train	til þess að þjálfa svona supervised classification model, þannig að gögnin
ed2e2505-d98d-4c36-b821-f6010bdfec03_00270	1762701	1771635	eval	fara hérna í módelið og við erum að þjálfa módelið og þegar við erum búin að þjálfa módelið þá tökum við test gögnin okkar,
ed2e2505-d98d-4c36-b821-f6010bdfec03_00271	1772924	1785329	train	sem sagt allar breyturnar setjum inn í módelið og við fáum út einhvers konar líkur á því að mælingarnar tilheyri öðrum hvorum flokknum.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00272	1785924	1799660	eval	þannig að fyrsta þarna eru fjörutíu og fjögur komma tvö prósent líkur á því að þessi tilheyrir flokki eitt. Og þá mundi flokkur eitt vera til dæmis spam eða að vera góður viðskiptavinur og svo framvegis.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00273	1800296	1808313	train	Ókei, og svo ætlum við að bera þessa spá sem við fengum út þennan dálk hérna. Bera þetta saman við
ed2e2505-d98d-4c36-b821-f6010bdfec03_00274	1809412	1817718	train	target-ið sem er vitað, sem við vissum fyrir fram. Og þá sjáum við það til dæmis hérna að hérna tíunda röðin,
ed2e2505-d98d-4c36-b821-f6010bdfec03_00275	1817792	1827048	train	hann er hérna venjulegur tölvupóstur, hann er með núll, og líkurnar á því að hann sé einn er hérna núll komma tveir einn þrír.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00276	1828668	1836561	train	Ókei, og svo til þess að vita það hvort að við séum að spá rétt eða ekki þá þarf maður að ákvarða eitthvað svona cut-off gildi,
ed2e2505-d98d-4c36-b821-f6010bdfec03_00277	1836916	1845271	train	þar sem við segjum, ókei, allir sem eru með spágildi fyrir ofan þetta cut-off þeir eru einn og allir hinir eru núll.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00278	1845313	1852982	dev	Þannig að ef við berum saman þennan hérna dálk og þennan hérna dálk þá sjáum við það að fyrsta mælingin er núll af því að hún er minna en hálfur
ed2e2505-d98d-4c36-b821-f6010bdfec03_00279	1853114	1867189	train	á meðan að mæling fjögur er einn af því hún er stærri en hálfur og svo getum við bara borið saman þessa tvo dálka, real target og predicted target, og bara séð hversu oft höfum við rétt fyrir okkur.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00280	1867238	1875825	train	Þannig að fyrir fyrstu mælingunna, þar er raunverulega target-ið einn en við spáðum að það væri núll þannig að við höfðum rangt fyrir okkur,
ed2e2505-d98d-4c36-b821-f6010bdfec03_00281	1875924	1887346	train	önnur mælingin þá er raunverulega target-ið núll og við spáðum að væri núll þannig að við höfðum rétt fyrir okkur. Við getum bara hreinlega talið hversu oft höfðum við rétt fyrir okkur og ef við gerum það þá sjáum við það
ed2e2505-d98d-4c36-b821-f6010bdfec03_00282	1887364	1901199	train	að það var átta sinnum af tíu í heildina þannig að accuracy-ið hérna sem er fyrsta sem sagt svona performance measure-ið það er áttatíu prósent, af því áttatíu skiptum höfðum við rétt fyrir okkur.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00283	1902214	1905742	train	Þið sjáið það að ef við myndum breyta cut-off-inu
ed2e2505-d98d-4c36-b821-f6010bdfec03_00284	1906748	1914157	dev	í staðinn fyrir að vera með núll komma fimm þá er það núll komma sjö. Þá breytist spáða target-ið þá breytist spágildið
ed2e2505-d98d-4c36-b821-f6010bdfec03_00285	1915768	1925929	train	sem veldur því að til dæmis, úps. Nei, það er hérna, sex er, sex breyttist,
ed2e2505-d98d-4c36-b821-f6010bdfec03_00286	1926128	1927574	train	það fór úr einum í það að vera núll.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00287	1928068	1936188	train	Þannig að í þessu tilfelli þá eru höfum við rétt fyrir okkur bara sjö skipti af tíu, þannig að accuracy-ið er sjötíu prósent.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00288	1937630	1945374	train	Og þarna sjáið þið hvernig að sem sagt þetta spágildi er háð þessu cut-off-i sem að við ákvörðum.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00289	1950052	1960964	train	Þetta heitir confusion matrix og þetta sem sagt hérna er notað til þess að lista, hversu oft við höfðum rétt fyrir okkur og hversu oft við höfðum rangt fyrir okkur
ed2e2505-d98d-4c36-b821-f6010bdfec03_00290	1961625	1969382	train	og ef þið horfið á þetta þá sjáið þið að þetta er mjög líkt töflu sem við sáum þarna um daginn þegar við vorum hypothesis testing, er það ekki?
ed2e2505-d98d-4c36-b821-f6010bdfec03_00291	1969422	1973530	train	Af því að við erum að spá fyrir um eitthvað og stundum höfum við rétt fyrir okkur og stundum ekki,
ed2e2505-d98d-4c36-b821-f6010bdfec03_00292	1974910	1979379	eval	hérna megin erum við með það sem við sem sagt spáðum, predicted class,
ed2e2505-d98d-4c36-b821-f6010bdfec03_00293	1979664	1984856	train	og þarna uppi erum við með sem sagt það sem er raunverulegt, það sem er rétt, actual class
ed2e2505-d98d-4c36-b821-f6010bdfec03_00294	1986002	1991852	eval	og við sjáum það að hérna þegar eitthvað er af class-anum eitt
ed2e2505-d98d-4c36-b821-f6010bdfec03_00295	1992996	1997315	train	sem sagt actual class-ar eitt og við spáðum fyrir að það væri eitt þá erum við með true positive
ed2e2505-d98d-4c36-b821-f6010bdfec03_00296	1998720	2004996	train	og eins ef það var núll og við spáðum núll þá erum við með true negative
ed2e2505-d98d-4c36-b821-f6010bdfec03_00297	2005210	2021246	train	ef það var einn og við spáðum fyrir núll þá er það false negative og ef það var núll og við spáðum fyrir um einn þá er það false positive. Og þessi gildi getum við notað til þess að meta sem sagt hversu gott módelið okkar er
ed2e2505-d98d-4c36-b821-f6010bdfec03_00298	2026516	2027956	train	með því að nota
ed2e2505-d98d-4c36-b821-f6010bdfec03_00299	2028614	2038254	eval	ýmsar sem sagt svona measures og þetta er sem sagt listi af performance measures
ed2e2505-d98d-4c36-b821-f6010bdfec03_00300	2038388	2043789	train	sem er hægt að leiða út frá þessu confusion matrix-i sem við vorum með þarna seinstu glæru
ed2e2505-d98d-4c36-b821-f6010bdfec03_00301	2043953	2051014	train	og við erum strax nú þegar búin að prófa að reikna accuracy segjum bara hversu oft við höfum rétt fyrir okkur
ed2e2505-d98d-4c36-b821-f6010bdfec03_00302	2051654	2060518	train	miðað við stærð gagnasafnsins það er sem sagt true positive plús true negative deilt með bara heildarfjölda af af hérna mælingum
ed2e2505-d98d-4c36-b821-f6010bdfec03_00303	2061157	2068610	train	og svo á móti þá er error rate það er bara andstæðan við accuracy hversu oft höfðum við rangt fyrir okkur.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00304	2071559	2074214	train	Það var sem sagt false positive og false negative.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00305	2075638	2080367	dev	Og svo erum við með sem sagt eitt sem heitir recall sem að hérna
ed2e2505-d98d-4c36-b821-f6010bdfec03_00306	2080454	2085878	train	mælir það hversu oft við höfum rétt fyrir okkur innan
ed2e2505-d98d-4c36-b821-f6010bdfec03_00307	2085953	2087572	train	sem sagt
ed2e2505-d98d-4c36-b821-f6010bdfec03_00308	2089190	2089879	train	innan
ed2e2505-d98d-4c36-b821-f6010bdfec03_00309	2090896	2093251	dev	raunverulegra sannra gilda
ed2e2505-d98d-4c36-b821-f6010bdfec03_00310	2094447	2097932	train	og á móti þá erum við með specificity sem að gerir andstæðuna
ed2e2505-d98d-4c36-b821-f6010bdfec03_00311	2098688	2102759	train	og svo er f einn score sem er mjög oft notað líka. Það er svona,
ed2e2505-d98d-4c36-b821-f6010bdfec03_00312	2102800	2112401	dev	hérna, það sem heitir harmonic mean af precision og recall, og þá sem sagt það er sem sagt tala á milli núll og eins sem að sem sagt segir manni hversu gott módelið er
ed2e2505-d98d-4c36-b821-f6010bdfec03_00313	2113310	2117185	train	út frá þessum tveimur sem sagt
ed2e2505-d98d-4c36-b821-f6010bdfec03_00314	2118940	2120802	train	hinum mælingum.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00315	2121290	2124530	dev	En takið eftir því að sem sagt allar þessar
ed2e2505-d98d-4c36-b821-f6010bdfec03_00316	2126034	2129873	dev	öll þessi gildi, þau eru háð cut-off-inu sem ákvörðuðum
ed2e2505-d98d-4c36-b821-f6010bdfec03_00317	2131006	2132798	train	og hérna.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00318	2133611	2135590	train	ar af leiðandi eru þau kannski svolítið takmörkuð
ed2e2505-d98d-4c36-b821-f6010bdfec03_00319	2136966	2140402	train	en ég ætla að útskýra aðeins betur hérna precision og recall
ed2e2505-d98d-4c36-b821-f6010bdfec03_00320	2140410	2145506	train	af því þeir skipta svolítið miklu máli þegar maður er að reyna að finna einhverja ákveðna hegðun í gagnasafninu sínu
ed2e2505-d98d-4c36-b821-f6010bdfec03_00321	2146737	2150938	eval	þannig að hérna á myndinni hér erum við með sem sagt allar mælingarnar okkar,
ed2e2505-d98d-4c36-b821-f6010bdfec03_00322	2152138	2153818	train	og, það sem er inni í hringnum,
ed2e2505-d98d-4c36-b821-f6010bdfec03_00323	2154318	2159781	train	er það sem að módelið okkar spáði sem hérna einn til dæmis
ed2e2505-d98d-4c36-b821-f6010bdfec03_00324	2159824	2161563	train	allt sem módelið spáði sem spam
ed2e2505-d98d-4c36-b821-f6010bdfec03_00325	2163968	2169895	train	og þannig að þið sjáið það að hérna græni hlutinn inni í hringnum það eru sem sagt true positives
ed2e2505-d98d-4c36-b821-f6010bdfec03_00326	2169915	2175078	train	sem sagt allir sem voru spam og voru spáðir sem spam meðan að
ed2e2505-d98d-4c36-b821-f6010bdfec03_00327	2175110	2180990	train	rauði hlutinn eru allir sem að voru spam en módelið spáði sem ekki spam. Og þ
ed2e2505-d98d-4c36-b821-f6010bdfec03_00328	2183214	2189448	train	Og þá er precision módelsins nákvæmnin í módelinu er hlutfallið þarna á milli.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00329	2190456	2194055	train	Hversu oft vorum við með sem sagt
ed2e2505-d98d-4c36-b821-f6010bdfec03_00330	2196236	2203155	train	hversu oft spáði módelið að það væri spam og það var spam deilt
ed2e2505-d98d-4c36-b821-f6010bdfec03_00331	2203214	2207893	train	með hversu oft módelið spáði að það væri spam sem sagt hversu, mörg hit af spömum.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00332	2208199	2213173	train	Já, ok. mörg hversu oft innan, sem sagt þessum
ed2e2505-d98d-4c36-b821-f6010bdfec03_00333	2213190	2218442	train	svæði þar sem hann spáði því að það væri spam var það raunverulega spam, og það heitir sem sagt precision.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00334	2218704	2220444	train	Og svo erum við með hérna, já, eins og
ed2e2505-d98d-4c36-b821-f6010bdfec03_00335	2221440	2224543	train	stendur þarna how many selected items are relevant
ed2e2505-d98d-4c36-b821-f6010bdfec03_00336	2224736	2229409	train	af því að módelið sem velur hluta af mælingunum okkar
ed2e2505-d98d-4c36-b821-f6010bdfec03_00337	2229524	2235769	train	og hversu mörg af þessum sem að módelið mældi voru sönn og rétt. Og svo
ed2e2505-d98d-4c36-b821-f6010bdfec03_00338	2236574	2238133	train	á hinn bóginn þá erum við með recall
ed2e2505-d98d-4c36-b821-f6010bdfec03_00339	2238612	2244526	eval	þar sem við erum að velta fyrir okkur hversu hérna mörg af þessum relevant item-um voru valin
ed2e2505-d98d-4c36-b821-f6010bdfec03_00340	2244855	2248465	train	hversu mörg af spömunum okkar
ed2e2505-d98d-4c36-b821-f6010bdfec03_00341	2248878	2251901	train	voru hérna spáð sem spam.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00342	2257895	2262798	eval	Já, og hérna er bara mjög einfalt dæmi um það hvernig maður getur reiknað mismunandi
ed2e2505-d98d-4c36-b821-f6010bdfec03_00343	2264731	2270120	train	performance-a. Við erum með hérna accuracy við erum með error, sensitivity og specificity
ed2e2505-d98d-4c36-b821-f6010bdfec03_00344	2270720	2273539	train	og svo eins og ég er búinn að nefna
ed2e2505-d98d-4c36-b821-f6010bdfec03_00345	2274432	2279563	train	þá eru öll þessi sem eru tengd þessu confusion matrix-i þau eru háð cut-off-inu
ed2e2505-d98d-4c36-b821-f6010bdfec03_00346	2279581	2289300	train	þannig að ef maður breytir cut-off-inu þá breytist líka performance-inn. Og þar af leiðandi er mjög gott að vera með einhverja mælingu sem, eitthvað mál
ed2e2505-d98d-4c36-b821-f6010bdfec03_00347	2289646	2295015	train	sem er ekki háð þessu cut-off-i og það er til dæmis hérna A U C
ed2e2505-d98d-4c36-b821-f6010bdfec03_00348	2295127	2298350	train	eða area under the receiver operating characteristic curve
ed2e2505-d98d-4c36-b821-f6010bdfec03_00349	2299776	2303078	train	sem að er svona hérna, þetta er svona kúrfa þetta ROC er
ed2e2505-d98d-4c36-b821-f6010bdfec03_00350	2303187	2306457	train	svona kúrfa sem að við getum plottað út frá gögnunum okkar.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00351	2308227	2310808	train	Þar sem við erum raunverulega að taka cut-off-ið
ed2e2505-d98d-4c36-b821-f6010bdfec03_00352	2311552	2322100	train	og við erum að breyta því, láta það breytist frá því að vera núll og uppí einn og fyrir hvert gildi af cut-off-inu þá reiknum við annars vegar recall og hins vegar specificity
ed2e2505-d98d-4c36-b821-f6010bdfec03_00353	2322816	2324119	eval	og plottum það svona upp.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00354	2325502	2330361	dev	Þannig að fyrir hvert gildi af cut-off-inu reiknum við þessar tvær stærðir
ed2e2505-d98d-4c36-b821-f6010bdfec03_00355	2330797	2334224	train	og plottum það svona upp og þá fáum við þessa kúrfu.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00356	2335087	2340643	train	Og þessi kúrfa segir okkur til um það hversu gott módelið okkar er óháð cut-off-i
ed2e2505-d98d-4c36-b821-f6010bdfec03_00357	2341038	2348156	train	og þannig að þessi bláa lína bara sem sagt hérna á milli núll komma eins og eins komma eins þetta er hérna
ed2e2505-d98d-4c36-b821-f6010bdfec03_00358	2348198	2351034	train	þetta mundi þá vera random módel, þannig að við erum með
ed2e2505-d98d-4c36-b821-f6010bdfec03_00359	2351059	2354769	dev	módel sem að spáir bara randomly, hvort að emailið sé spam eða ekki spam.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00360	2355853	2357953	train	Þetta mundi vera ROC kúrfan fyrir það
ed2e2505-d98d-4c36-b821-f6010bdfec03_00361	2360253	2364573	dev	þannig að það mundi allt sem er fyrir neðan þessa línu er mjög slæmt
ed2e2505-d98d-4c36-b821-f6010bdfec03_00362	2364618	2367232	eval	þá erum við að spá verr fyrir heldur en random model.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00363	2368518	2373048	train	við erum alltaf að reyna að gera þessa kúrfu eins hátt upp og við getum.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00364	2373607	2382730	train	Þegar við erum að byggja módelin okkar, þá viljum við alltaf þessi kúrfa sé sem sagt fyrir ofan alla skálínuna og eins hátt upp og við hérna mögulega getum
ed2e2505-d98d-4c36-b821-f6010bdfec03_00365	2383488	2392412	train	og þá er sem sagt kemur að góðum notum það sem heitir A U C þar sem við reiknum einfaldlega flatarmálið undir þessari kúrfu, það er sem sagt area under the curve.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00366	2393088	2396357	train	Og það er tala sem er á bilinu núll til einn
ed2e2505-d98d-4c36-b821-f6010bdfec03_00367	2397184	2400814	train	þar sem einn er sem sagt fullkomið módel
ed2e2505-d98d-4c36-b821-f6010bdfec03_00368	2401664	2405564	train	og núll mundi vera módel sem spáir alltaf rangt. En hálfur þið sjáið það að
ed2e2505-d98d-4c36-b821-f6010bdfec03_00369	2407040	2413310	train	flatarmálið undir hérna bláu línunni er er hálfur þannig að hérna
ed2e2505-d98d-4c36-b821-f6010bdfec03_00370	2413844	2430444	train	málið fyrir fyrir hérna random módel er hálfur og við erum þá alltaf að reyna að búa til módel sem er betra heldur en hálfur og helst sem næst einum og þá getum við borið saman sem sagt módelin okkar með því að bera saman hérna þessi A U C gildi
ed2e2505-d98d-4c36-b821-f6010bdfec03_00371	2431476	2433925	train	og því hærra sem A U C ið er því betra.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00372	2436357	2442428	train	Þannig að þið sjáið þetta aftur hérna við erum með sem sagt flatarmálið undir þessum ferli það er A U C ið
ed2e2505-d98d-4c36-b821-f6010bdfec03_00373	2442831	2447178	train	og við viljum að sé stærra til þess að hafa betra módel. Nákvæmara módel.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00374	2448000	2455208	dev	Og þá gefur þessi tala svona hérna svona mat á því hversu, já,
ed2e2505-d98d-4c36-b821-f6010bdfec03_00375	2455233	2458726	train	hversu gott módelið er og, og, hérna,
ed2e2505-d98d-4c36-b821-f6010bdfec03_00376	2459613	2462157	eval	Já, ég var búinn að segja þetta allt saman held ég.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00377	2464064	2478483	train	Ókei og svo í, í A U C inu þá erum við að bera saman recall og sensitivity en svo ef við berum saman recall og precision þá fáum við það sem heitir precision recall curve sem er
ed2e2505-d98d-4c36-b821-f6010bdfec03_00378	2479079	2485189	train	líka mjög góður stiki til þess að mæla svona sem sagt módelin okkar hversu góð þau eru.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00379	2486720	2501690	eval	Þar sem við erum aftur á sama hátt að breyta cut-off gildinu frá núlli og upp í einn og reikna fyrir hvert cut-off bæði recall og precision. Svo getum við plottað þessa kúrfu sem er þá þessi gula línan hér,
ed2e2505-d98d-4c36-b821-f6010bdfec03_00380	2502955	2503621	train	og,
ed2e2505-d98d-4c36-b821-f6010bdfec03_00381	2503670	2508415	train	og, hérna, svo getum við sem sagt fundið hvað flatarmálið er undir þessum ferli
ed2e2505-d98d-4c36-b821-f6010bdfec03_00382	2509312	2517014	train	og þá fáum við sem sagt mat á því hversu gott módelið er og við getum notað þetta gildi til þess að bera saman mismunandi
ed2e2505-d98d-4c36-b821-f6010bdfec03_00383	2517039	2519782	train	módel og aftur þá er sem sagt
ed2e2505-d98d-4c36-b821-f6010bdfec03_00384	2519807	2523369	train	því hærra sem þetta hérna
ed2e2505-d98d-4c36-b821-f6010bdfec03_00385	2523675	2528505	train	flatarmál undir ferlinum er því því betra er módelið því nákvæmari er módelið. Þið sjáið það
ed2e2505-d98d-4c36-b821-f6010bdfec03_00386	2528784	2539690	train	að ef hérna að við viljum sem sagt hafa bæði hátt precision og hátt recall
ed2e2505-d98d-4c36-b821-f6010bdfec03_00387	2541056	2546238	dev	og eftir því sem bæði eru hærri þá náttúrulega verður kúrfan lengra upp þarna í hægra horninu
ed2e2505-d98d-4c36-b821-f6010bdfec03_00388	2546246	2547640	train	og þá verður flatarmálið stærra.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00389	2550522	2559768	train	Þannig að það er mjög gott að kunna góð skil á þessu. Þetta er mjög mikilvægt mál fyrir svona binary classification methods
ed2e2505-d98d-4c36-b821-f6010bdfec03_00390	2560110	2562539	train	þetta er mjög mjög mikið notað, þetta A U C
ed2e2505-d98d-4c36-b821-f6010bdfec03_00391	2563410	2565615	eval	og svo eins, hérna,
ed2e2505-d98d-4c36-b821-f6010bdfec03_00392	2565975	2568855	train	þetta precision recall curve þetta er líka mjög mikilvægt
ed2e2505-d98d-4c36-b821-f6010bdfec03_00393	2569152	2572360	train	og sérstaklega ef maður er að vinna með gagnasöfn þar sem er
ed2e2505-d98d-4c36-b821-f6010bdfec03_00394	2574062	2578081	train	hérna mikill unbalance á milli hérna
ed2e2505-d98d-4c36-b821-f6010bdfec03_00395	2580406	2587416	train	Og svo er náttlega til alveg mígrúta af fleiri málum til þess að mæla hérna hversu góð módelin eru
ed2e2505-d98d-4c36-b821-f6010bdfec03_00396	2587455	2589584	train	þetta er það sem að Python býður upp á.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00397	2590095	2596284	eval	Þið sjáið það að við erum búin að tala um hérna ROC curve og við erum búin að tala um recall og precision
ed2e2505-d98d-4c36-b821-f6010bdfec03_00398	2597933	2605420	train	og svo eru fleiri það eru þarna log loss, það er jaccard, það er hamming, það er hérna cohen kappa
ed2e2505-d98d-4c36-b821-f6010bdfec03_00399	2605426	2618336	train	alls konar og yfirleitt er þetta bara alls konar mælikvarðar á sem sagt þessu confusion matrix sem maður er að taka saman tölurnar á mismunandi hátt til þess að spá fyrir um einhverja ákveðna eiginleika
ed2e2505-d98d-4c36-b821-f6010bdfec03_00400	2619136	2619825	train	módelsins.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00401	2621302	2623550	train	Og það kannski bara fer eftir því svolítið hvað maður er
ed2e2505-d98d-4c36-b821-f6010bdfec03_00402	2624512	2626222	eval	hvað það er sem maður vill finna
ed2e2505-d98d-4c36-b821-f6010bdfec03_00403	2626435	2633314	dev	en það sem er langmest notað er náttúrlega accuracy af því það er bara hversu oft spáir þú rétt
ed2e2505-d98d-4c36-b821-f6010bdfec03_00404	2634112	2639979	train	og svo eins recall og precision eru mjög mikilvæg og A U C er hérna
ed2e2505-d98d-4c36-b821-f6010bdfec03_00405	2640681	2641491	train	er mjög mikilvægt.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00406	2642881	2647441	train	Og svo ef við erum með sem sagt í regresion módel þar sem við erum að spá fyrir um eitthvað sem er samfellt
ed2e2505-d98d-4c36-b821-f6010bdfec03_00407	2647919	2652467	train	þá erum við líka með lista af alls konar málum sem við getum notað
ed2e2505-d98d-4c36-b821-f6010bdfec03_00408	2653312	2662221	train	þegar við erum með regresion módel, þá erum við ekki bara að spá fyrir um það hvort einhver sé hluti af einhverjum hóp eða ekki, heldur er spágildið okkar bara einhver tala
ed2e2505-d98d-4c36-b821-f6010bdfec03_00409	2663040	2669175	train	og þá er tilgangur sem sagt að maður ber saman þessa tölu við sanna gildið og maður tekur sem sagt
ed2e2505-d98d-4c36-b821-f6010bdfec03_00410	2669184	2677690	train	mismuninn á milli þeirra til þess að einhvern error út og svo erum við með mismunandi týpur af þessum error-um við erum með hérna sem sagt
ed2e2505-d98d-4c36-b821-f6010bdfec03_00411	2677714	2683911	dev	min squared error þar sem maður er búinn að setja þau öll í annað veldi. Maður er með absolute error þar sem maður tekur tölugildið og svo framvegis.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00412	2684890	2690140	train	Þannig maður er alltaf bara svona mæla í heildina hversu langt spágildið er frá raunverulega gildinu.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00413	2692938	2694733	train	Ókei, svo um
ed2e2505-d98d-4c36-b821-f6010bdfec03_00414	2695808	2699478	train	gagnasöfn sem eru ekki í jafnvægi unbalanced data.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00415	2701538	2707494	train	Ókei, gerum ráð fyrir því að við séum að þjálfa módel sem hérna
ed2e2505-d98d-4c36-b821-f6010bdfec03_00416	2708873	2718803	eval	er þannig þegar við erum búin að þjálfa það að það spáir því að allir séu í sama hérna flokknum það spáir því að öll email-in séu venjuleg email
ed2e2505-d98d-4c36-b821-f6010bdfec03_00417	2720695	2723824	dev	og hérna við sem sagt apply-um sem sagt
ed2e2505-d98d-4c36-b821-f6010bdfec03_00418	2723840	2728130	train	beitum þessu módeli á test sett þar sem eru hundrað mælingar
ed2e2505-d98d-4c36-b821-f6010bdfec03_00419	2729680	2747950	train	og hérna við vitum það að níutíu og níu af þessum mælingum eru í class, klassa núll og ein er í klassa eitt þannig að við getum ímyndað okkur það að þetta er safn af email-um og við vitum það að níutíu og níu þeirra eru hérna venjuleg, en það er eitt email sem er spam.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00420	2748543	2750023	train	Hvað hérna, hvert
ed2e2505-d98d-4c36-b821-f6010bdfec03_00421	2750043	2752577	train	er accuracy-ið í þessum módelum, ef við ætlum að mæla
ed2e2505-d98d-4c36-b821-f6010bdfec03_00422	2752585	2757744	train	accuracy-ið. Við erum með hundrað mælingar
ed2e2505-d98d-4c36-b821-f6010bdfec03_00423	2761327	2765527	train	og módelið spáir því að allir séu núll.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00424	2769084	2776259	dev	Níutíu og níu. Nákvæmlega þannig að ef við setjum þetta upp í confusion matrix-ið okkar, þá erum við með hérna
ed2e2505-d98d-4c36-b821-f6010bdfec03_00425	2776374	2779342	train	hinn sanna klasa og spáðan klasa
ed2e2505-d98d-4c36-b821-f6010bdfec03_00426	2780288	2787440	train	og sem sagt sannur klassi er hérna það eru níutíu og níu sem eru hérna
ed2e2505-d98d-4c36-b821-f6010bdfec03_00427	2787568	2794442	train	núll og einn sem er eitt nema það að allir eru spáðir í núll. Þannig að svona lítur confusion fylkið okkar út
ed2e2505-d98d-4c36-b821-f6010bdfec03_00428	2796660	2800263	train	og við getum reiknað út accuracy-ið sem er þá bara
ed2e2505-d98d-4c36-b821-f6010bdfec03_00429	2800640	2811344	train	gildin á hornalínunni níutíu og níu plús núll og svo deilt með heildarfjölda þannig að við erum með accuracy sem er níutíu og níu sem er bara rosalega hátt af því accuracy er á bilinu núll og uppí einn.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00430	2812016	2814678	train	Ef accuracy-ið er einn þá erum við með fullkomið módel.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00431	2815290	2821761	train	Þannig að jafnvel þó að þetta módel sem við þjálfuðum hérna finni ekki þessa einu observation
ed2e2505-d98d-4c36-b821-f6010bdfec03_00432	2822272	2823292	train	sem er spam
ed2e2505-d98d-4c36-b821-f6010bdfec03_00433	2825332	2830192	train	þá erum við með ógeðslega hátt accuracy, bara, þú veist, maður lítur á þetta bara eitthvað: Vá heyrðu, þetta er gott módel.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00434	2830670	2832626	train	En módelið það finnur ekki neitt.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00435	2833985	2840346	dev	Og það er vegna þess að það hefur verið þjálfað á gagnasafni sem að er sem sagt imbalanced
ed2e2505-d98d-4c36-b821-f6010bdfec03_00436	2841699	2846550	train	og þess vegna er það getur það ekki fundið hérna,
ed2e2505-d98d-4c36-b821-f6010bdfec03_00437	2846740	2849620	train	getur það ekki classify-að mælingarnar í gagnasafninu okkar.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00438	2853560	2861027	train	Af því að við erum með of mikið af hérna mælingum sem eru í þessum majority klassa og þær bara dominate-a
ed2e2505-d98d-4c36-b821-f6010bdfec03_00439	2861067	2863863	dev	þegar það er verið að þjálfa módelið þá bara dominate-a þær
ed2e2505-d98d-4c36-b821-f6010bdfec03_00440	2863887	2873064	train	yfir þessum hinum sem eru í minority klassanum og þess vegna lærir módelið ekki mynstrin fyrir minority klassan.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00441	2876106	2880125	train	Og þetta er sem sagt dæmi um gagnasafn sem er hérna unbalanced
ed2e2505-d98d-4c36-b821-f6010bdfec03_00442	2881536	2900765	train	og við þurfum þá að grípa til einhverja aðgerða til þess að laga þetta svo að við getum fundið af því auðvitað viljum við finna þessar mælingar sem eru öðruvísi. Ef þetta er til dæmis þessi spam filter sem við töluðum um áðan þá viljum við að sjálfsögðu geta fundið spam email-in svo þau fari í spam möppuna en ekki bara inbox-ið okkar.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00443	2904434	2912302	train	Já, þannig að class imbalance balance er þegar að er einn af klössunum í target breytunni okkar eru sem sagt underrepresented það er
ed2e2505-d98d-4c36-b821-f6010bdfec03_00444	2912314	2913785	train	ekki nógu mikið af þeim
ed2e2505-d98d-4c36-b821-f6010bdfec03_00445	2914452	2924299	train	og í sumum tilfellum er þetta mjög alvarlegt vandamál eins til dæmis þegar maður að spá fyrir um fraud af því að fraud er svo rosalega algengt. Þá er maður með þúst núll komma eitt prósent af
ed2e2505-d98d-4c36-b821-f6010bdfec03_00446	2924324	2926718	train	öllum í target breytunni eru núll komma eða, þú veist,
ed2e2505-d98d-4c36-b821-f6010bdfec03_00447	2927078	2931053	eval	já, ein af þúsund er fraud og þá er mjög erfitt að finna þær.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00448	2932214	2936353	train	Og þegar þessi imbalance er sem sagt minni heldur en tíu prósent,
ed2e2505-d98d-4c36-b821-f6010bdfec03_00449	2936790	2943031	train	þannig að ef að sem sagt, ef við erum með, að hérna class
ed2e2505-d98d-4c36-b821-f6010bdfec03_00450	2943037	2948187	train	eitt, class núll, fyrirgefið þið er níutíu prósent, og class
ed2e2505-d98d-4c36-b821-f6010bdfec03_00451	2948198	2952668	dev	eitt er tíu prósent,
ed2e2505-d98d-4c36-b821-f6010bdfec03_00452	2954492	2964836	train	þá ættum við að grípa til aðgerða og reyna að koma á jafnvægi í gagnasafninu okkar. Þannig að ef það er þetta eða minna sem sagt class eitt
ed2e2505-d98d-4c36-b821-f6010bdfec03_00453	2964846	2968073	eval	er hefur minna vægi heldur en tíu prósent þá ættum við að grípa
ed2e2505-d98d-4c36-b821-f6010bdfec03_00454	2968085	2978254	train	til aðgerða og það eru sem betur fer til aðferðir til þess að hérna laga þetta, það er einfaldlega að, já, búa til jafnvægi í gagnasafninu.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00455	2979820	2984379	train	Og fyrsta svona naive aðferðin er að taka hérna gagnasafnið okkar.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00456	2985278	2991713	eval	Þið sjáið það að við erum með fjórar, fjórir sinnum einn af þessum fjórtán mælingum hérna
ed2e2505-d98d-4c36-b821-f6010bdfec03_00457	2992712	2997138	dev	og við ætlum að koma þessu gagnasafni á jafnvægi með því að nota þetta sem heitir under sampling
ed2e2505-d98d-4c36-b821-f6010bdfec03_00458	2997329	3009549	train	þá bara einfaldlega fjarlægjum við af handahófi, mælingar sem eru í klassanum núll áður en við þjálfum módelið þannig að það mundi vera svona til dæmis
ed2e2505-d98d-4c36-b821-f6010bdfec03_00459	3010149	3019920	train	bara ákveðum það að fjarlægja nokkrar mælingar. Og þá erum við komin með minority klassa í fjörutíu prósent sem er meira jafnvægi heldur en við vorum með áður,
ed2e2505-d98d-4c36-b821-f6010bdfec03_00460	3020363	3025175	train	og nota bene að hérna markmiðið er ekki endilega koma á fullkomnu jafnvægi,
ed2e2505-d98d-4c36-b821-f6010bdfec03_00461	3025661	3033364	train	það er nóg að það sé þið vitið þrjátíu prósent eða fjörutíu prósent. Það þarf ekki að vera fifty fifty.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00462	3034332	3046692	train	Þegar maður talar um að balance-a gagnasafn þá er það ekki að koma því fullkomið jafnvægi, bara að auka minority klassan þannig að algóritmarnir geti fundið, sem sagt lært mynstrin.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00463	3047347	3051720	eval	Af því ef við balance-um það alveg þið sjáið það ef maður fer úr, þú veist, eitt prósent
ed2e2505-d98d-4c36-b821-f6010bdfec03_00464	3052821	3054321	train	við erum með eitt prósent og níutíu og níu prósent,
ed2e2505-d98d-4c36-b821-f6010bdfec03_00465	3054827	3056372	eval	ef maður fer úr því
ed2e2505-d98d-4c36-b821-f6010bdfec03_00466	3057152	3061022	train	í fifty fifty þá þyrfti því maður hérna,
ed2e2505-d98d-4c36-b821-f6010bdfec03_00467	3062353	3071708	train	ef maður notar þessa aðferð að fjarlægja rosalega mikið af línum og þá ertu of mikið distort-a gagnasafnið sem að bara veldur skekkju líka.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00468	3072166	3074252	train	Þannig að maður þarf að gera þetta svolítið varlega,
ed2e2505-d98d-4c36-b821-f6010bdfec03_00469	3075282	3076091	train	prófa sig áfram
ed2e2505-d98d-4c36-b821-f6010bdfec03_00470	3076868	3080831	train	og og hérna og bara finna svona einhvern hérna gullinn gullinn meðalveg.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00471	3082327	3098977	train	En maður getur fjarlægt línur, maður getur bætt við línum til dæmis með því að nota það sem heitir random over sampling þar sem maður tekur hérna þessar mælingar þar sem að klassinn er, hérna, einn og bara tvöfaldar þær bara duplicate-ar þær hérna þær línur,
ed2e2505-d98d-4c36-b821-f6010bdfec03_00472	3100162	3105513	dev	þannig að hérna ef við mundum duplicate-a nokkrar af þessum hérna línum sem að eru í með target-ið einn, þá
ed2e2505-d98d-4c36-b821-f6010bdfec03_00473	3107124	3111713	train	þá mundi það líta svona út. Og þá erum við með hérna kominn með aðeins betra,
ed2e2505-d98d-4c36-b821-f6010bdfec03_00474	3112134	3115164	dev	hérna, vægi fyrir minority klassann.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00475	3117024	3120023	train	En þetta getur líka valdið vandamálum af því að hérna
ed2e2505-d98d-4c36-b821-f6010bdfec03_00476	3120768	3123288	train	að maður er bara að tvöfalda einhverjar mælingar,
ed2e2505-d98d-4c36-b821-f6010bdfec03_00477	3124042	3133160	train	og þá býr maður líka til bias því þær náttúrulega þessar mælingar sem eru með target-ið einn þær eru eitthvað svo mikið eins
ed2e2505-d98d-4c36-b821-f6010bdfec03_00478	3133176	3136920	train	og þá náttúrulega gerist ekkert í raunveruleikanum að að þær mundu vera nákvæmlega eins
ed2e2505-d98d-4c36-b821-f6010bdfec03_00479	3136962	3140633	train	þannig að það er svolítið [HIK:óraun] óraunhæft að bara duplicate-a.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00480	3142967	3144648	train	Þannig að það er búið að þróa
ed2e2505-d98d-4c36-b821-f6010bdfec03_00481	3145984	3158251	train	meiri sophisticated aðferðir til þess að duplicate-a sem sagt observation-ir til dæmis með þessari aðferð sem heitir SMOTE eða synthetic minority over-sampling technique
ed2e2505-d98d-4c36-b821-f6010bdfec03_00482	3158932	3160521	train	sem að er sýnd hér,
ed2e2505-d98d-4c36-b821-f6010bdfec03_00483	3161472	3167051	train	það sem við erum með hérna þessa grænu sem eru af majority klassanum og förum með þessa rauða sem eru minority class
ed2e2505-d98d-4c36-b821-f6010bdfec03_00484	3168592	3178353	train	og hérna já, þetta svona sýnir aðeins hvernig það virkar að maður sem sagt tengir saman þessar mælingar sem eru í minority klasanum,
ed2e2505-d98d-4c36-b821-f6010bdfec03_00485	3178640	3182059	train	og svo býr maður til nýjar hérna
ed2e2505-d98d-4c36-b821-f6010bdfec03_00486	3182084	3182650	dev	mælingar
ed2e2505-d98d-4c36-b821-f6010bdfec03_00487	3184172	3194225	eval	á þessum [HIK:ten] sem sagt línum sem að tengja þær Þannig að í staðinn fyrir bara að tvöfalda einhverja mælingu þá svona hérna reynir maður svona aðeins að,
ed2e2505-d98d-4c36-b821-f6010bdfec03_00488	3194752	3198023	train	að varia líka gildunum á hinum breytunum.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00489	3198913	3203714	dev	Hún er ekki bara nákvæmlega eins heldur er aðeins meira svona variation í í gildunum.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00490	3205838	3208245	eval	Og þetta er mjög hérna
ed2e2505-d98d-4c36-b821-f6010bdfec03_00491	3208508	3209737	train	mjög sem sagt
ed2e2505-d98d-4c36-b821-f6010bdfec03_00492	3210628	3216629	dev	skilvirk og góð aðferð til þess að balance-a gagnasafn.
ed2e2505-d98d-4c36-b821-f6010bdfec03_00493	3218562	3222430	train	Ókei, þá er ég búinn með glærurnar mínar. Ég ætla að fara í, í Python
ed2e2505-d98d-4c36-b821-f6010bdfec03_00494	3223386	3225537	train	eftir fimm mínútna pásu. Er það ekki?