Parçacık sürü optimizasyonu ile yapay sinir ağlarından sınıflandırma kuralı çıkarımı
Extracting classification rules from artificial neural networks with the particle swarm optimization algorithm
Yazar: YILMAZ DELİCE
Danışman: YRD. DOÇ. DR. LALE ÖZBAKIR
Erciyes Üniversitesi / Sosyal Bilimler Enstitüsü / İşletme Bölümü / İşletme Ana Bilim Dalı
Derece: Yüksek Lisans, 2008
Konu: İşletme = Business Administration

Özet:
Büyük miktarda veri yığınlarından önemli bilgiler elde etmek olarak tanımlanan veri madenciliğinin son yıllarda en fazla ilgi çeken aşamalarından birisi sınıflandırma kuralları çıkarımıdır. Literatürde sınıflandırma kuralları çıkarımı üzerine etkin algoritmalar geliştirmek için birçok çalışma yapılmıştır. Bu çalışmalar arasında en fazla dikkati, eğitilmiş yapay sinir ağlarından (YSA) kurallar çıkaran algoritmalar çekmektedir.YSA sınıflandırmada ve tahminde yüksek doğruluk değerleri elde edebilmektedir. YSA'nın sınıflandırmadaki bu etkinliğine rağmen, sahip olduğu kara-kutu özelliği onun yaygın olarak kullanımını kısıtlamıştır. YSA'nın bu dezavantajlarının üstesinden gelmekte sınıflandırma kuralları çıkarımı etkin sonuçlar vermektedir ve YSA'dan doğru ve anlaşılır bilgiler elde edilebilmektedir.Parçacık Sürü Optimizasyonu (PSO), doğada sürüler halinde yaşayan çeşitli canlıların davranışlarından esinlenerek geliştirilmiş bir optimizasyon tekniğidir. PSO, pek çok optimizasyon problemine başarı ile uygulanmasına karşın, literatürde yapay sinir ağlarından kural çıkarımına yönelik sadece birkaç uygulama mevcuttur ve bu uygulamalar da daha çok bulanık sinir ağlarına yöneliktir.Bu çalışmada eğitilmiş YSA'dan sınıflandırma kuralları çıkarmak için İkili PSO (İPSO) algoritması geliştirilmiştir. En uygun YSA ağırlık değerlerini kullanarak parçacıkların arama uzayını etkin bir biçimde taraması sağlanmıştır.Geliştirilen algoritma ilk olarak eğitim verisini ele almakta ve bu veri kümesini ifade eden kurallar çıkarılmaktadır. Daha sonra eğitim veri kümesinden bağımsız olan test veri kümesine elde edilen kuralların uygulanmasıyla kural kümesinin doğruluk değeri belirlenmektedir.Önerilen algoritma on bir farklı referans veri kümesi üzerinde deneysel olarak değerlendirilmiş ve literatürde yer alan klasik makine öğrenme algoritmaları ile karşılaştırılmıştır. Test veri kümeleri üzerinde yapılan analizler, geliştirilen algoritmanın doğru ve etkin sınıflandırma kuralları üretebildiğini göstermektedir.Anahtar Kelimeler: Yapay Sinir Ağları, Parçacık Sürü Optimizasyonu, Veri Madenciliği, Sınıflandırma Kural Çıkarımı

Abstract:
One of the most striking stages of data mining recently, which is defined as obtaining important information from large quantities of databases, is extracting classification rules. There have been many studies in the related literature to develop effective algorithms for extracting classification rules. Among these studies, the one drawing much attention is the algorithms extracting rules from trained Artificial Neural Networks (ANN).ANN?s are able to obtain high classification and prediction accuracies. In spite of this effectiveness of ANN in classification, the black-box nature limited the extended use of it. ANN?s extracting classification rules in eliminating these disadvantages yields effective results.Particle Swarm Optimization (PSO) is an optimization technique inspired and developed by the conduct of various creatures living in flocks in nature. Although PSO is applied with success to several optimization processes, there are only a few applications in the related literature regarding extracting rules from ANN and these applications are directed more towards fuzzy-ANN.In this study, a binary PSO (BPSO) algorithm was developed in order to extract classification rules from trained ANN. Employing ANN weight values, the particles were enabled to scan the search space effectively.The developed algorithm first handles the train data and then rules are extracted expressing this data group. Consecutively, the accuracy value of the rule set is identified by applying the obtained rules to the test data set which is independent from train data set.The suggested algorithm was assessed experientially on eleven different reference data group and was compared with the classical machine learning algorithms in the current literature. The analyses on the test data groups show the fact that the developed algorithm can produce accurate and effective classification rules.Keywords: Artificial neural networks, Particle swarm optimization, Data mining, Classification rule extraction.