penggalian data (bahasa inggris: data mining) adalah ekstraksi pola yang menarik dari data dalam jumlah besar . suatu pola dikatakan menarik apabila pola tersebut tidak sepele, implisit, tidak diketahui sebelumnya, dan berguna.
pola yang disajikan haruslah mudah dipahami, berlaku untuk data yang akan diprediksi dengan derajat kepastian tertentu, berguna, dan baru.
penggalian data memiliki beberapa nama alternatif, meskipun definisi eksaknya berbeda, seperti kdd (knowledge discovery in database), analisis pola, arkeologi data, pemanenan informasi, dan intelegensia bisnis.
penggalian data diperlukan saat data yang tersedia terlalu banyak (misalnya data yang diperoleh dari sistem basis data perusahaan, e-commerce, data saham, dan data bioinformatika), tetapi tidak tahu pola apa yang bisa didapatkan.
proses pencarian pola
penggalian data adalah salah satu bagian dari proses pencarian pola.
berikut ini urutan proses pencarian pola:
pembersihan data: yaitu menghapus data pengganggu (noise) dan mengisi data yang hilang.
integrasi data: yaitu menggabungkan berbagai sumber data.
pemilihan data: yaitu memilih data yang relevan.
transformasi data: yaitu mentransformasi data ke dalam format untuk diproses dalam penggalian data.
penggalian data: yaitu menerapkan metode cerdas untuk ekstraksi pola.
evaluasi pola: yaitu mengenali pola-pola yang menarik saja.
penyajian pola: yaitu memvisualisasi pola ke pengguna.
perkembangan yang pesat di bidang pengumpulan data dan teknologi penyimpanan di berbagai bidang, menghasilkan basis data yang terlampau besar.
namun, data yang dikumpulkan jarang dilihat lagi, karena terlalu panjang, membosankan, dan tidak menarik.
seringkali, keputusan -yang katanya berdasarkan data- dibuat tidak lagi berdasarkan data, melainkan dari intuisi para pembuat keputusan.
sehingga, lahirlah cabang ilmu penggalian data ini.
analisis data tanpa menggunakan otomasi dari penggalian data adalah tidak memungkinkan lagi, kalau 1) data terlalu banyak, 2) dimensionalitas data terlalu besar, 3) data terlalu kompleks untuk dianalisis manual (misalnya: data time series, data spatiotemporal, data multimedia, data streams).
teknik penggalian data
pada dasarnya penggalian data dibedakan menjadi dua fungsionalitas, yaitu deskripsi dan prediksi.
berikut ini beberapa fungsionalitas penggalian data yang sering digunakan:
karakterisasi dan diskriminasi: yaitu menggeneralisasi, merangkum, dan mengkontraskan karakteristik data.
penggalian pola berulang: yaitu pencarian pola asosiasi (association rule) atau pola intra-transaksi, atau pola pembelian yang terjadi dalam satu kali transaksi.
klasifikasi: yaitu membangun suatu model yang bisa mengklasifikasikan suatu objek berdasar atribut-atributnya.
kelas target sudah tersedia dalam data sebelumnya, sehingga fokusnya adalah bagaimana mempelajari data yang ada agar klasifikator bisa mengklasifikasikan sendiri.
prediksi: yaitu memprediksi nilai yang tidak diketahui atau nilai yang hilang, menggunakan model dari klasifikasi.
penggugusan/cluster analysis: yaitu mengelompokkan sekumpulan objek data berdasarkan kemiripannya.
kelas target tidak tersedia dalam data sebelumnya, sehingga fokusnya adalah memaksimalkan kemiripan intrakelas dan meminimalkan kemiripan antarkelas.
analisis outlier: yaitu proses pengenalan data yang tidak sesuai dengan perilaku umum dari data lainnya.
contoh: mengenali noise dan pengecualian dalam data.
analisis trend dan evolusi: meliputi analisis regresi, penggalian pola sekuensial, analisis periodisitas, dan analisis berbasis kemiripan.
berikut ini adalah 10 algoritma penggalian data yang paling populer berdasarkan konferensi icdm '06, semua algoritma dinominasikan oleh para pemenang acm kdd innovation award dan ieee icdm research contributions award :
c4.5 (61 suara) quinlan, j. r. c4.5: programs for machine learning.
morgan kaufmann., 1993.
k-means (60 suara):macqueen, j. b., some methods for classification and analysis of multivariate observations, in proc. 5th berkeley symp. mathematical statistics and probability, 1967.
svm (58 suara):vapnik, v. n. 1995. the nature of statistical learning theory.
apriori (52 suara):rakesh agrawal and ramakrishnan srikant.
fast algorithms for mining association rules.
in vldb '94.
em (48 suara):mclachlan, g. and peel, d. (2000).
finite mixture models.
j. wiley, new york.
pagerank (46 suara):brin, s. and page, l. 1998.
the anatomy of a large-scale hypertextual web search engine.
in www-7, 1998.
adaboost (45 suara):freund, y. and schapire, r. e. 1997. a decision-theoretic generalization of on-line learning and an application to boosting.
sci. 55, 1 (aug. 1997), 119-139.
knn (45 suara):hastie, t. and tibshirani, r. 1996.
discriminant adaptive nearest neighbor classification.
naive bayes (34 suara):hand, d.j., yu, k., 2001.
idiot's bayes: not so stupid after all?
rev. 69, 385-398.
berikut ini adalah yang hanya masuk nominasi:
breiman, j. friedman, r. olshen, and c. stone.
classification and regression trees.
fp-tree:han, j., pei, j., and yin, y. 2000.
mining frequent patterns without candidate generation.
in sigmod '00.
hits:kleinberg, j. m. 1998.
authoritative sources in a hyperlinked environment.
birch:zhang, t., ramakrishnan, r., and livny, m. 1996.
birch: an efficient data clustering method for very large databases.
in sigmod '96.
gsp:srikant, r. and agrawal, r. 1996.
mining sequential patterns: generalizations and performance improvements.
in proceedings of the 5th international conference on extending database technology, 1996.
pei, j. han, b. mortazavi-asl, h. pinto, q. chen, u. dayal and m-c. hsu.
prefixspan: mining sequential patterns efficiently by prefix-projected pattern growth.
in icde '01.
cba:liu, b., hsu, w. and ma, y. m.
integrating classification and association rule mining.
finding reduct:zdzislaw pawlak, rough sets: theoretical aspects of reasoning about data, kluwer academic publishers, norwell, ma, 1992.
gspan:yan, x. and han, j. 2002.
gspan: graph-based substructure pattern mining.
in icdm '02.
contoh penerapan dalam kehidupan sehari-hari:
sebagai sarana statistik untuk mencatat kepadatan jumlah penelepon di jam tertentu (jam sibuk / bukan) sehingga operator dapat memberikan tarif tertentu bagi pelanggan.
hal ini termasuk ke dalam penerapan data mining pada bidang telekomunikasi
pang-ning tan, michael steinbach and vipin kumar, introduction to data mining (2005), isbn 0-321-32136-7 ( companion book site)
kurt thearling, an introduction to data mining (also available is a corresponding online tutorial)
richard o. duda, peter e. hart, david g.
stork, pattern classification, wiley interscience, isbn 0-471-05669-3, (see also powerpoint slides)
phiroz bhagat, pattern recognition in industry, elsevier, isbn 0-08-044538-1
ian witten and eibe frank, data mining: practical machine learning tools and techniques with java implementations (2000), isbn 1-55860-552-5, (see also free weka software)
yike guo and robert grossman, editors: high performance data mining: scaling algorithms, applications and systems, kluwer academic publishers, 1999.
dean w. abbott, i. philip matkovsky, and john elder iv, ph.d. an evaluation of high-end data mining tools for fraud detection published a comparative analysis of major high-end data mining software tools that was presented at the 1998 ieee international conference on systems, man, and cybernetics, san diego, ca, october 12-14, 1998.
mierswa, ingo and wurst, michael and klinkenberg, ralf and scholz, martin and euler, timm: yale: rapid prototyping for complex data mining tasks, in proceedings of the 12th acm sigkdd international conference on knowledge discovery and data mining (kdd-06), 2006.
mark f. hornick, erik marcade, sunil venkayala: "java data mining: strategy, standard, and practice: a practical guide for architecture, design, and implementation" (broch)