Bayes teoremi
**Naïve Bayes sınıflandırıcı**, örüntü tanıma problemine ilk bakışta oldukça kısıtlayıcı görülen bir önerme ile kullanılabilen olasılıksal bir yaklaşımdır. Bu önerme, örüntü tanımada kullanılacak her bir tanımlayıcı öznitelik ya da parametrenin istatistik açıdan bağımsız olması gerekliliğidir. Her ne kadar bu önerme Naive Bayes sınıflandırıcının kullanım alanını kısıtlasa da istatistik bağımsızlık koşulu esnetilerek kullanıldığında da daha karmaşık yapay sinir ağları gibi metotlarla karşılaştırabilir sonuçlar vermektedir. Bir Naive Bayes sınıflandırıcı, her özniteliğin birbirinden koşulsal bağımsız olduğu ve öğrenilmek istenen kavramın tüm bu özniteliklere koşulsal bağlı olduğu bir Bayes ağı olarak da düşünülebilir.

Naïve Bayes sınıflandırıcısı adını İngiliz matematikçi Thomas Bayes'ten (yak. 1701 - 7 Nisan 1761) almaktadır.

| Makine öğrenmesi veveri madenciliği |
| --- |
|  |
| Problemler
* Sınıflandırma
* Kümeleme
* Regresyon
* Anomali tespiti
* Association rules
* Pekiştirmeli öğrenme
* Yapılandırılmış tahmin
* Öznitelik mühendisliği
* Öznitelik öğrenmesi
* Öznitelik çıkarımı
* Online öğrenme
* Yarı-gözetimli öğrenme
* Gözetimsiz öğrenme
* Sıralama öğrenme
* Gramer Tümevarımı

 |
| Gözetimli öğrenme 
* Karar ağacı
* Birlik öğrenmesi
* *k*-YK
* Doğrusal regresyon
* Naive Bayes
* Sinir ağları
* Lojistik regresyon
* Relevance vector machine (RVM)
* Support vector machine (SVM)
* Rastgele orman

 |
| Kümeleme
* BIRCH
* Hiyerarşik
* *k*-means
* Beklenti maksimizasyon
* DBSCAN
* OPTICS
* Mean-shift

 |
| Boyut indirgeme
* Faktör analizi
* CCA
* ICA
* LDA
* NMF
* PCA
* t-SNE

 |
| Yapılandırılmış tahmin
* Grafiksel modeller (Bayes ağları, CRF, HMM)

 |
| Anomali tespiti
* *k*-NN
* Local outlier factor

 |
| Sinir ağları
* Perseptron
* Otokodlayıcı
* Derin öğrenme
* RNN
* LSTM
* Kısıtlı Boltzmann makinesi
* SOM
* Kıvrımlı sinir ağları

 |
| Pekiştirmeli öğrenme
* Q-Learning
* SARSA
* Temporal Difference (TD)

 |
| Teori
* Bias-variance ikilemi
* Hesaplamalı öğrenme teorisi
* Empirik risk minimizasyonu
* Occam learning
* PAC learning
* İstatistiki öğrenme teorisi
* VC theory

 |
| Konferanslar ve dergiler
* NIPS
* ICML
* ML
* JMLR
* ArXiv:cs.LG

 |
| * g
* t
* d
 |

Bayes teoremi
-------------

Naive Bayes sınıflandırıcısı Bayes teoreminin bağımsızlık önermesiyle basitleştirilmiş halidir. Bayes teoremi aşağıdaki denklemle ifade edilir;

{\displaystyle P(A|B)={\frac {P(B|A)\,P(A)}{P(B)}}}
P(*A*|*B*) ; B olayı gerçekleştiği durumda A olayının meydana gelme olasılığıdır (bakınız koşullu olasılık)
P(*B*|*A*) ; A olayı gerçekleştiği durumda B olayının meydana gelme olasılığıdır
P(A) ve P(B) ; A ve B olaylarının önsel olasılıklarıdır.
Burada önsel olasılık Bayes teoreminine öznellik katar. Diğer bir ifadeyle örneğin P(A) henüz elde veri toplanmadan A olayı hakkında sahip olunan bilgidir. Diğer taraftan P(*B*|*A*) ardıl olasılıktır çünkü veri toplandıktan sonra, A olayının gerçekleşmiş olduğu durumlarda B olayının gerçekleşme ihtimali hakkında bilgi verir.

Sınıflandırma problemi
----------------------

Naive Bayes Sınıflandırması Makine öğreniminde öğreticili öğrenme alt sınıfındadır. Daha açık bir ifadeyle sınıflandırılması gereken sınıflar(kümeler) ve örnek verilerin hangi sınıflara ait olduğu bellidir. E-posta kutusuna gelen e-postaların spam olarak ayrıştırılması işlemi buna örnek verilebilir. Bu örnekte spam e-posta ve spam olmayan e-posta ayrıştırılacak iki sınıfı temsil eder. Elimizdeki spam ve spam olmayan e-postalardan yaralanarak gelecekte elimize ulaşacak e-postaların spam olup olmadığına karar verecek bir Algoritma da öğreticili makine öğrenmesine örnektir.

Sınıflandırma işleminde genel olarak elde bir örüntü (pattern) vardır. Buradaki işlem de bu örüntüyü daha önceden tanımlanmış sınıflara sınıflandırmaktır. Her örüntü nicelik (feature ya da parametre) kümesi tarafından temsil edilir.

### Nicelik kümesi

Yine yukarıda bahsedilen spam e-posta örneğinden devam edilecek olunursa; Posta kutumuzda bulunan spam e-postaları spam olmayan e-postalardan ayıran parametrelerden oluşan bir küme, mesela *ikramiye*,*ödül* gibi sözcüklerden oluşan, nicelik kümesine örnektir. Matematiksel bir ifadeyle nicelik kümesi;

{\displaystyle x(i),i=1,2,...L} ,   
  
ise
{\displaystyle x=[x(1),x(2),...x(L)]^{T}} ∈ RL L-boyutlu nicelik vektörünü oluşturur.
  

x ∈ RL verildiğine göre ve *S* ayrıştırılacak sınıflar kümesiyse, Bayes teoremine göre aşagıdaki ifade yazılır.
  

{\displaystyle P(S\_{i}|x)\times p(x)=p(x|S\_{i})\times P(S\_{i})}
  

ve
  

{\displaystyle p(x)=\sum \_{i=1}^{L}p(x|S\_{i})P(S\_{i})}
* P(Si); Si'nin öncel olasılığı i = 1, 2,. . . L,
* P(Si|x); Si'nin ardıl olasılığı
* p(x); x in Olasılık yoğunluk fonksiyonu (oyf)
* p(x|Si); i =1 = 2,. . . L, x'in koşullu oyf'si

Bayes karar teoremi
-------------------

Elimizde sınıfı belli olmayan bir örüntü olsun. Bu durumda   

{\displaystyle x=[x(1),x(2),...x(L)]^{T}} ∈ RL
sınıfı belli olmayan örüntünün L-boyutlu nicelik vektörüdür. Spam e-posta örneğinden gidecek olursak spam olup olmadığını bilmediğimiz yeni bir e-posta sınıfı belli olmayan örüntüdür.  

Yine Si x'in atanacağı sınıf ise;  

Bayes karar teorisine göre x sınıf Si'ya aittir eğer

{\displaystyle P(S\_{i}|x)>P(S\_{j}|x)}, ∀j {\displaystyle \neq ,i}
diğer bir ifadeyle eğer

{\displaystyle P(x|S\_{i})P(S\_{i})>P(x|S\_{j})P(S\_{j})}, ∀j {\displaystyle \neq ,i}

Naive Bayes sınıflandırması
---------------------------

Verilen bir x'in (x = [x(1), x(2),. . . x(L)]T ∈ RL) sınıf Si'ye ait olup olmadığına karar vermek için kullanılan yukarıda formüle edilen Bayes karar teoreminde istatistik olarak bağımsızlık önermesinden yararlanılırsa bu tip sınıflandırmaya Naive bayes sınıflandırılması denir. Matematiksel bir ifadeyle

{\displaystyle P(x|S\_{i})P(S\_{i})>P(x|S\_{j})P(S\_{j})}, ∀j {\displaystyle \neq ,i}   
 ifadesindeki
{\displaystyle P(x|S\_{i})} terimi yeniden aşağıdaki gibi yazılır
{\displaystyle P(x|S\_{i})\approx \prod \_{k=1}^{L}P(x\_{k}|S\_{i})}
böylece Bayes karar teoremi aşagıdaki şekli alır. Bayes karar teorisine göre x sınıf Si'ya aittir eğer

{\displaystyle P(S\_{i})\prod \_{k=1}^{L}P(x\_{k}|S\_{i})>P(S\_{j})\prod \_{k=1}^{L}P(x\_{k}|S\_{j})}
{\displaystyle P(S\_{i})} ve {\displaystyle P(S\_{j}}) i ve j sınıflarının öncel olasılıklarıdır. Elde olan veri kümesinden değerleri kolayca hesaplanabilir.

Naive bayes sınıflandırıcının kullanım alanı her ne kadar kısıtlı gözükse de yüksek boyutlu uzayda ve yeterli sayıda veriyle x'in (nicelik kümesi) bileşenlerinin istatistik olarak bağımsız olması koşulu esnetilerek başarılı sonuçlar elde edilebilinir.

Uygulama alanları
-----------------

Naive Bayes sınıflandırıcısı genel olarak veri madenciliğinde, biyomedikal mühendisliği alanında, hastalıkların ya da anormalliklerin tıbbi tanımlanmasında (otomatik olarak mühendislik ürünü tıbbi cihazlar tarafından tanı konulması), 
elektrokardiyografi (EKG) grafiğinin sınıflandırılmasında, elektroensefalografi (EEG) grafiklerinin ayrıştırılmasında, genetik araştırmalarında, yığın mesaj tanımlanmasında, metin ayrıştırılmasında, ürün sınıflandırma ve diğer bazı alanlarda kullanılır.

Ayrıca bakınız
--------------

* Thomas Bayes
* Bayes teoremi
* Bayes ağı
* Bayesci olasılık
* Bayesci istatistik
* Yapay zeka
* Örüntü tanıma
* Makine öğrenimi
* Bayesci spam filtreleme

Kaynakça
--------

* Theodoridis, Sergios and Koutroumbas, Konstantinos. *Patern Recognition*. San Diego : Academic Press, 2006.
* Rouveirol, edited by Claire Nellec, Cine. Machine Learning: ECML-98 10th European Conference on Machine Learning Chemnitz, Germany, April 2123, 1998 Proceedings. Berlin: Springer-Verlag. ISBN 978-3-540-69781-7.
* Tom M. Mitchell. *Machine Learning*. McGraw-Hill, 1997

Notlar
------

1. ↑  Pawlak, Zdzisław. "A Rough Set View on Bayes' Theorem" (PDF) (İngilizce). 2 Nisan 2016 tarihinde kaynağından (PDF) arşivlendi. Erişim tarihi: 3 Kasım 2012.
2. ↑  "Bayes Sınıflandırıcısı" (PDF). 11 Mart 2016 tarihinde kaynağından arşivlendi (PDF). Erişim tarihi: 3 Kasım 2012.
3. ↑  Lakoumentas, John (1 Ekim 2012). "Optimizations of the naïve-Bayes classifier for the prognosis of B-Chronic Lymphocytic Leukemia incorporating flow cytometry data". *Computer Methods and Programs in Biomedicine*. **108** (1). ss. 158-167. doi:10.1016/j.cmpb.2012.02.009.
4. ↑  Wiggins, M. (31 Aralık 2007). "Evolving a Bayesian classifier for ECG-based age classification in medical applications". *Applied Soft Computing*. **8** (1). ss. 599-608. doi:10.1016/j.asoc.2007.03.009.
5. ↑  Wang, Z (2011). "An EEG workload classifier for multiple subjects". *Conference proceedings : ... Annual International Conference of the IEEE Engineering in Medicine and Biology Society. IEEE Engineering in Medicine and Biology Society. Conference*. Cilt 2011. ss. 6534-7. PMID 22255836.
6. ↑  Malovini, Alberto (1 Ocak 2012). "Hierarchical Naive Bayes for genetic association studies". *BMC Bioinformatics*. **13** (Suppl 14). ss. S6. doi:10.1186/1471-2105-13-S14-S6.
7. ↑  Almeida, Tiago A. (1 Aralık 2010). "Spam filtering: how the dimensionality reduction affects the accuracy of Naive Bayes classifiers". *Journal of Internet Services and Applications*. **1** (3). ss. 183-200. doi:10.1007/s13174-010-0014-7.
8. ↑  Sebastiani, edited by Fabrizio (2003). *Advances in Information Retrieval 25th European Conference on IR Research, ECIR 2003, Pisa, Italy, April 14-16, 2003. Proceedings*. Berlin, Heidelberg: Springer-Verlag Berlin Heidelberg. ss. 335-350. ISBN 978-3-540-36618-8. KB1 bakım: Fazladan yazı: yazar listesi (link)
9. ↑  "Naive Bayes ile ürün sınıflandırma örneği". 1 Eylül 2018 tarihinde kaynağından arşivlendi. Erişim tarihi: 2 Ekim 2020.

Dış bağlantılar
---------------

Naive Bayes örneği (python)
Naive Bayes (matlab)23 Ekim 2012 tarihinde Wayback Machine sitesinde arşivlendi.
Naive Bayes ile ürün sınıflandırma örneği (C++)1 Eylül 2018 tarihinde Wayback Machine sitesinde arşivlendi.