| Ikasketa automatikoa etaDatu-meatzaritza |
| --- |
|  |
| Problemak
* Classification
* Multzokatzea
* Erregresioa
* Anomaly detection
* AutoML
* Association rules
* Reinforcement learning
* Structured prediction
* Feature engineering
* Feature learning
* Online learning
* Semi-supervised learning
* Unsupervised learning
* Learning to rank
* Grammar induction

 |
| Ikasketa gainbegiratua
* Zuhaitzak
* Ensembles
	+ Bagging
	+ Boosting
	+ Random forest
* *k*-NN
* Karratu txikienen erregresio zuzen
* Naive Bayes
* Neurona-sareak
* Erregresio logistiko
* Perceptron
* Relevance vector machine (RVM)
* (SVM)

 |
| Multzokatzea
* BIRCH
* CURE
* Hierarkikoa
* *k*-means
* Expectation–maximization (EM)

 |
| Dimensionality reduction
* Faktore-analisi
* Korrelazio kanoniko
* ICA
* LDA
* NMF
* PCA
* t-SNE

 |
| Structured prediction
* Graphical models
	+ Bayes net
	+ Conditional random field
	+ Hidden Markov

 |
| Anomaly detection
* *k*-NN
* Local outlier factor

 |
| Neurona-sare artifizial
* Autoencoder
* Ikaskuntza sakon
* DeepDream
* Multilayer perceptron
* RNN
	+ LSTM
	+ GRU)
* Restricted Boltzmann machine
* SOM
* Convolutional neural network
	+ U-Net

 |
| Reinforcement learning
* Q-learning
* SARSA
* Temporal difference (TD)

 |
| Theory
* Bias-variance dilemma
* Computational learning theory
* Empirical risk minimization
* Occam learning
* PAC learning
* Statistical learning
* VC theory

 |
| Machine-learning venues
* NIPS
* ICML
* ML
* JMLR
* ArXiv:cs.LG

 |
| Glossary of artificial intelligence
* Glossary of artificial intelligence

 |
| Related articles
* List of datasets for machine-learning research
* Outline of machine learning

 |
| * Txantiloi:Portal-inline
 |
| * i
* e
* a
 |

Datu meatzaritzan, **Naive Bayes sailkatzailea** Bayes-en teoreman eta aldagaien arteko independentziaren hipotesian oinarritzen den sailkatzaile probabilistiko bat da. Aldagaiak independente direla suposatzeak eragiten duen sinplifikazioagatik hartzen du, hain zuzen ere, *Naive* izena.

Sarrera
-------

Naive Bayes sailkatzailean suposatzen da, ezaugarriak elkarren artean independenteak direla, klase aldagaia emanda. Adibidez, fruta bat sagarra dela esan genezake gorria bada, biribila, eta gutxi gorabehera 7 cm-ko diametroa badu. Naive Bayes sailkatzailearen arabera, ezaugarri horietako bakoitzak modu independentean eragiten du sagar izateko probabilitatean. Koloreari buruzko ezaugarriak, formari buruzkoak eta diametroari buruzko informazioa ematen duten aldagaien artean Korrelaziorik ez dela existitzen suposatzen da, hortaz.

Aldagaien independentziaren hipotesiak eragiten duen sinplifikazioari esker, sailkapena egiteko behar diren parametroak estimatzeko datu kopuru txikia behar da entrenamenduan, eta hori abantaila handia da.

Kontzeptu probabilistikoa
-------------------------

Naive bayes sailkatzailea eredu probabilistiko bat da: {\displaystyle \mathbf {x} =(x\_{1},\dots ,x\_{n})} bektorearen bidez adierazitako kasu berria izanik,

{\displaystyle p(C\_{k}\vert x\_{1},\dots ,x\_{n})\,}
probabilitateak kalkulatuko ditu {\displaystyle C} klase-aldagaiaren {\displaystyle C\_{k}} balio bakoitzerako. {\displaystyle x\_{1},\dots ,x\_{n}} balioek {\displaystyle n} aldagai iragarleri edo ezaugarriri buruzko informazioa ematen dute, {\displaystyle C}ren iragarpenean aldagai horiek independenteak direla suposatuz. Ereduaren formulazio horrek duen arazoa da, aldagai iragarle kopurua handia denean edo aldagaiek har ditzaketen balio kopurua handia denean, eredua probabilitateen taula batean oinarritzea bideraezina gertatzen dela. Bideragarria izan dadin, ereduaren beste formulazio bat ematen da.

Bayesen teorema erabiliz, baldintzazko probabilitatea horrela idatz daiteke:

{\displaystyle p(C\_{k}\vert x\_{1},\dots ,x\_{n})={\frac {p(C\_{k})\ p(x\_{1},\dots ,x\_{n}\vert C\_{k})}{p(x\_{1},\dots ,x\_{n})}}.\,}
Adierazpen horretan, garrantzi handiena duen balioa zenbakitzailea da. Izan ere, izendatzaileak ez du {\displaystyle C} klase aldagaiarekiko mendekotasunik, eta beraz, konstantea da. Zenbakitzailea baterako probabilitatearen bidez adieraz daiteke:

{\displaystyle p(C\_{k},x\_{1},\dots ,x\_{n})\,}
Katearen erregela aplikatuz eta baldintzazko probabilitatearen definizioa behin eta berriz erabiliz, adierazpena honela berridatz daiteke:

{\displaystyle p(C\_{k},x\_{1},\dots ,x\_{n})\,}
{\displaystyle =p(C\_{k})\ p(x\_{1},\dots ,x\_{n}\vert C\_{k})}
{\displaystyle =p(C\_{k})\ p(x\_{1}\vert C\_{k})\ p(x\_{2},\dots ,x\_{n}\vert C\_{k},x\_{1})}
{\displaystyle =p(C\_{k})\ p(x\_{1}\vert C\_{k})\ p(x\_{2}\vert C\_{k},F\_{1})\ p(x\_{3},\dots ,x\_{n}\vert C\_{k},x\_{1},x\_{2})}
{\displaystyle =p(C\_{k})\ p(x\_{1}\vert C\_{k})\ p(x\_{2}\vert C\_{k},x\_{1})\ p(x\_{3}\vert C\_{k},x\_{1},x\_{2})\ p(x\_{4},\dots ,x\_{n}\vert C\_{k},x\_{1},x\_{2},x\_{3})}
eta horrela guztietarako. Orain, aldagaien arteko baldintzazko independentzia "naïve" edo sinplea hartuko da kontuan. Aintzat hartuko dugu aldagai iragarle guztiak independenteak direla beraien artean, ez dutela elkarrekiko eraginik, hau da, edozein {\displaystyle x\_{i}} independentea izango dela beste edozein {\displaystyle x\_{j}}-rekiko, {\displaystyle j\neq i} izanik. Beraz,

{\displaystyle p(x\_{i}\vert C\_{k},x\_{j})=p(x\_{i}\vert C\_{k})\,}
izanik, probabilitate konposatua horrela adieraz daiteke:

{\displaystyle p(C\_{k},x\_{1},\dots ,x\_{n})=p(C\_{k})\ p(x\_{1}\vert C\_{k})\ p(x\_{2}\vert C\_{k})\ p(x\_{3}\vert C\_{k})\ \cdots \,}
{\displaystyle =p(C\_{k})\prod \_{i=1}^{n}p(x\_{i}\vert C\_{k}).\,}
Hortaz, {\displaystyle C} klase aldagaiaren baldintzazko banaketa horrela adierazita geratuko da:

{\displaystyle p(C\_{k}\vert x\_{1},\dots ,x\_{n})={\frac {1}{Z}}p(C\_{k})\prod \_{i=1}^{n}p(x\_{i}\vert C\_{k})},
non {\displaystyle Z}-ren balioa aldagai iragarleen araberakoa den soilik; beraz, {\displaystyle x\_{i}} balioak ezagunak direnean {\displaystyle Z=p(\mathbf {x} )=p(x\_{1},\dots ,x\_{n})=\sum \_{k}p(C\_{k})\ p(\mathbf {x} \mid C\_{k})} konstantea da.

Eredu probabilistikotik sailkatzailea eraikitzea
------------------------------------------------

Aurreko atalean, Bayesen teorematik eta aldagai iragarleen independentziaren hipotesitik Naive Bayes eredu probabilistikoa garatu da.

Naive Bayes sailkatzailea eraikitzeko, eredu hori erabakitze-erregela batekin konbinatzen da. Normalean probabilitate handieneko hipotesia aukeratzen da, ingelesez *Maximum a posteriori estimation* edo *MAP* izenez ezagutzen dena. Horren arabera, Naive Bayes sailkatzaileak {\displaystyle {\hat {y}}=C\_{k}} klasea esleituko dio {\displaystyle C} klase-aldagaiari, non

{\displaystyle {\hat {y}}={\underset {k\in \{1,\dots ,K\}}{\operatorname {argmax} }}\ p(C\_{k})\displaystyle \prod \_{i=1}^{n}p(x\_{i}\mid C\_{k}).}

Probabilitateen estimazioen zuzenketa
-------------------------------------

{\displaystyle p(x\_{i}\mid C)} probabilitateen estimazioak entrenamendurako datu-base batean oinarrituz egiten direnean, kontatu egiten da {\displaystyle C} klasekoak diren kasuen artean zenbatetan hartzen duen aldagai iragarleak {\displaystyle x\_{i}} balioa, hau da,

{\displaystyle p(x\_{i}\vert C)={\frac {N(x\_{i},C)}{N(C)}}},
non, {\displaystyle N(x\_{i},C)} den {\displaystyle C} klaseko kasuen artean zenbatek duten dagokion aldagai iragarlean {\displaystyle x\_{i}} balioa, eta {\displaystyle N(C)} den {\displaystyle C} klasekoa den kasu kopurua.

Baina, gerta daiteke bilatutako balioa datu-basean ez aurkitzea. Hori arazo bat da, biderkatzean probabilitatearen estimazio osoa zero bihurtzen delako, hau da:

{\displaystyle \ p(C\_{k})\displaystyle \prod \_{i=1}^{n}p(x\_{i}\mid C\_{k})=0.}
Arazo hori ekiditeko, ohikoa da estimazioen zuzenketa egitea. Probabilitate teorian, probabilitateen estimazioen zuzenketak egiteko Pierre-Simon Laplace matematikariak proposatutako formula erabili ohi da. Ingelesez *Rule of succession* izenez ezagutzen da, eta diotenez, Laplacek eguzkia zeruertzetik ateratzeko zegoen probabilitatearen bila ari zenean eman zuen.

Zuzenketa aplikatuta, probabilitatearen estimazioa horrela kalkulatzen da:

{\displaystyle p(x\_{i}\vert C)={\frac {N(x\_{i},C)+1}{N(C)+m}}}
non,

{\displaystyle N(x\_{i},C)}: {\displaystyle C} klaseko kasuen artean zenbatek duten {\displaystyle x\_{i}} balioa aldagai iragarlean
{\displaystyle N(C)}: {\displaystyle C} klaseko kasu kopurua
{\displaystyle m:} aldagai iragarlearen balio kopurua

Eztabaida
---------

Nahiz eta irismen handiko sailkatzaileak askotan oso zehatzak ez izan, Naive Bayes sailkatzailea, dituen hainbat ezaugarriri esker, praktikan oso erabilgarria gertatzen da. Aldagaiak independenteak direla suposatzeari esker, probabilitateak modu independentean estima daitezke. Horrela, ezaugarri kopurua handitzearekin batera esponentzialki haziko litzatekeen datu kopuruaren beharra arintzea lortzen da.

Naive Bayes sailkatzaileak probabilitateen estimazio zehatza itzultzen ez duen arren, aplikazio askotan hori ez da beharrezkoa gertatzen. Izan ere, Naive Bayes sailkatzailearen iragarpena MAP erabakitze-erregelaren arabera egiteko, nahikoa da {\displaystyle {\hat {y}}=C\_{k}} handieneko klasea aukeratzea. Iragarpena egokia izango da eta sailkatzailea sendoa, nahiz eta probabilitatearen balio zehatza ez eman, proportzionala den balio bat baizik.

Erreferentziak
--------------

Artikulu honetako edukia wikipediako gaztelerazko es:Clasificador bayesiano ingenuo artikulutik itzuli da.

Kanpo estekak
-------------

* With Perl Document Classification Using Naive Bayes Classifier

|  |  |
| --- | --- |
| Autoritate kontrola | 
* **Wikimedia proiektuak**
* Wd Datuak: Q812530

 |

* Wd Datuak: Q812530

Ikus, gainera
-------------

Bayesen teorema
Datu-meatzaritza
Ikasketa automatiko