| Makine öğrenmesi veveri madenciliği |
| --- |
|  |
| Problemler
* Sınıflandırma
* Kümeleme
* Regresyon
* Anomali tespiti
* Association rules
* Pekiştirmeli öğrenme
* Yapılandırılmış tahmin
* Öznitelik mühendisliği
* Öznitelik öğrenmesi
* Öznitelik çıkarımı
* Online öğrenme
* Yarı-gözetimli öğrenme
* Gözetimsiz öğrenme
* Sıralama öğrenme
* Gramer Tümevarımı

 |
| Gözetimli öğrenme 
* Karar ağacı
* Birlik öğrenmesi
* *k*-YK
* Doğrusal regresyon
* Naive Bayes
* Sinir ağları
* Lojistik regresyon
* Relevance vector machine (RVM)
* Support vector machine (SVM)
* Rastgele orman

 |
| Kümeleme
* BIRCH
* Hiyerarşik
* *k*-means
* Beklenti maksimizasyon
* DBSCAN
* OPTICS
* Mean-shift

 |
| Boyut indirgeme
* Faktör analizi
* CCA
* ICA
* LDA
* NMF
* PCA
* t-SNE

 |
| Yapılandırılmış tahmin
* Grafiksel modeller (Bayes ağları, CRF, HMM)

 |
| Anomali tespiti
* *k*-NN
* Local outlier factor

 |
| Sinir ağları
* Perseptron
* Otokodlayıcı
* Derin öğrenme
* RNN
* LSTM
* Kısıtlı Boltzmann makinesi
* SOM
* Kıvrımlı sinir ağları

 |
| Pekiştirmeli öğrenme
* Q-Learning
* SARSA
* Temporal Difference (TD)

 |
| Teori
* Bias-variance ikilemi
* Hesaplamalı öğrenme teorisi
* Empirik risk minimizasyonu
* Occam learning
* PAC learning
* İstatistiki öğrenme teorisi
* VC theory

 |
| Konferanslar ve dergiler
* NIPS
* ICML
* ML
* JMLR
* ArXiv:cs.LG

 |
| * g
* t
* d
 |

**Tümevarımlı mantık programlama** (**TMP**) bilginin mantık programlama ile ifade edildiği bir makine öğrenmesi yöntemidir. Mantıksal olgulardan oluşan artalan bilgisi ve gözlemler kümesini içeren bir veritabanı verildiğinde, ILP sistemi tüm olumlu gözlemleri gerektiren ve olumsuz gözlemlerin hiçbirini gerektirmeyen bir hipotez üretir.

* Çerçeve: *olumlu gözlemler* + *olumsuz gözlemler* + *artalan bilgisi* ⇒ *hipotez*.

Tümevarımlı mantık programlama özellikle biyoenformatik ve doğal dil işleme konularında kullanışlıdır. Gordon Plotkin ve Ehud Shapiro mantık çerçevesiyle tümevarımlı makine öğreniminin ilk kuramsal temellerini oluşturmuşlardır. Shapiro bunun ilk gerçeklemesini (Model Çıkarsama sistemi) 1981'de yapmıştır: olumlu ve olumsuz gözlemlerden tümevarımlı olarak mantık programları çıkarsayan bir Prolog programı. *Tümevarımlı Mantık Programlama* terimininilk kullanımı Stephen Muggleton'ın 1991 tarihli bir bildirisinde yapılmıştır. Ayrıca her sene yapılan Inductive Logic Programming konferansının kurucusu olan Muggleton, *yüklem türetme*, *ters çözümleme*, *ve ters gerektirme* kavramlarının fikir babasıdır. Muggleton ters gerektirmeyi ilk olarak PROGOL sisteminde gerçekleştirmiştir. Buradaki "*tümevarım*" kavramı matematiksel (bir özelliğin bir kümedeki her eleman için ispatlanması gibi) olmaktan çok felsefi (gözlemlenen olguları açıklayan bir kuram ortaya koymak gibi) bir tümevarımdır.

Biçimsel tanım
--------------

Bir mantıksal kuram olarak verilen *artalan bilgisi* {\displaystyle B}, genellikle mantık programlamada kullanılan Horn cümleleri şeklindedir. Gözetimli öğrenme için kullanılan *olumlu* ve *olumsuz* örnekler {\displaystyle E^{+}} ve {\displaystyle E^{-}}, temel ifadeler olarak verilir. Aşağıdaki gereklilikleri sağlayan bir mantıksal önermeye bir *doğru hipotez* {\displaystyle h} denir. {\displaystyle {\begin{array}{llll}{\text{Zorunluluk:}}&B&\not \models &E^{+}\\{\text{Yeterlilik:}}&B\land h&\color {blue}{\models }&E^{+}\\{\text{Zayıf tutarlılık:}}&B\land h&\not \models &{\text{yanlış}}\\{\text{Güçlü tutarlılık:}}&B\land h\land E^{-}&\not \models &{\text{yanlış}}\end{array}}}
"*Zorunluluk*" hipotez h üzerinde herhangi bir kısıtlama yapmaz, ancak olumlu örnekler bir hipotez olmadan açıklanabilir olduğu sürece yeni bir hipotez oluşturulmasını engeller.
"*Yeterlilik*" oluşturulan herhangi bir {\displaystyle h} hipotezinin tüm olumlu örnekleri ({\displaystyle E^{+}}) açıklamasını gerektirir.
"*Zayıf tutarlılık*" artalan bilgisi {\displaystyle B} ile çelişen bir hipotez {\displaystyle h} oluşturulmasını yasaklar.
"*Güçlü tutarlılık*" ayrıca artalan bilgisi {\displaystyle B} ve olumsuz örnekler {\displaystyle E^{-}} ile çelişen bir hipotez {\displaystyle h} oluşturulmasını yasaklar; *Zayıf tutarlılık'ı* gerektirir; eğer hiç olumsuz örnek verilmemişse bu iki gereklilik aynıdır. Džeroski yalnızca *Yeterlilik* ("Bütünlük" olarak adlandırır) ve *Güçlü tutarlılık*'ı gerekli tutar.

Kaynakça
--------

1. ↑  Plotkin G.D. Automatic Methods of Inductive Inference, PhD thesis, University of Edinburgh, 1970.
2. ↑  Shapiro, Ehud Y. Inductive inference of theories from facts, Research Report 192, Yale University, Department of Computer Science, 1981.
3. ↑  Shapiro, Ehud Y. (1983).
4. ↑  Shapiro, Ehud Y. "The model inference system."
5. ↑  Luc De Raedt.
6. ↑  Muggleton, S.H. (1991). "Inductive logic programming". *New Generation Computing*. **8** (4). ss. 295-318. doi:10.1007/BF03037089.
7. ↑  Muggleton S.H. and Buntine W. "Machine invention of first-order predicate by inverting resolution","Proceedings of the 5th International Conference on Machine Learning, 1988.
8. ↑  Muggleton S.H. "Inverting entailment and Progol", New Generation Computing, 13:245-286, 1995.
9. ↑  Muggleton, Stephen (1999). "Inductive Logic Programming: Issues, Results and the Challenge of Learning Language in Logic". *Artificial Intelligence*. Cilt 114. ss. 283-296. doi:10.1016/s0004-3702(99)00067-3.
10. ↑  Džeroski, Sašo (1996), "Inductive Logic Programming and Knowledge Discovery in Databases", Fayyad, U.M.; Piatetsky-Shapiro, G.; Smith, P.; Uthurusamy, R. (Ed.), *Advances in Knowledge Discovery and Data Mining*, MIT Press, ss. 117-152 ; here: Sect.5.2.4