Makine öğrenimi tabanlı karar destek sistemlerinde algoritmik önyargı ve eşitsizlik üzerine bir araştırma: Kredi değerlendirme vaka analizi
A research on algorithmic bias and fairness in machine learning-based support decision systems: A case analysis of credit evaluation
Yazar: MERT BURAK DİNÇMAN
Danışman: DOÇ. DR. NAZIM ZİYA PERDAHÇI
Mimar Sinan Güzel Sanatlar Üniversitesi / Fen Bilimleri Enstitüsü / Enformatik Ana Bilim Dalı / Bilgisayar Ortamında Sanat ve Tasarım Bilim Dalı
Derece: Yüksek Lisans, 2023
Konu: Bilim ve Teknoloji = Science and Technology ; Yönetim Bilişim Sistemleri = Management Information Systems ; İletişim Bilimleri = Communication Sciences

Özet:
Bu çalışmada, insanların günlük yaşamlarında sıklıkla karşılaştığı yapay zekâ, makine öğrenmesi ve algoritmaların artan maruziyeti ele alınmaktadır. Bununla birlikte, bu teknolojilerin kullanımının yaygınlaşmasıyla birlikte, algoritmik önyargı ve makine öğrenmesi adaletsizliği gibi yeni kavramların ortaya çıktığına dikkat çekilmektedir. Makine öğrenmesinin kısıtlı bir alanda aldığı kararların fark yaratmasına rağmen, kapsam alanının artmasıyla birlikte algoritmaların etki alanı dar kapsamlı olmaktan çıkabildiği ve toplumsal ayrışmalara neden olabileceği ifade edilmektedir. Bu nedenle, kredi karar süreçlerinde kullanılan makine öğrenmesi algoritmalarının önyargı veya eşitsizliğe neden olup olmadığı Alman Kredi verisi üzerinde test edilmiştir. Test sonuçları istatistiksel sonuçlar ve eşitsizlik metrikleri yardımıyla yorumlanmış ve makine öğrenmesi algoritmalarının kredi süreçlerinde adaletsizliğe sebep olduğu belirlenmiştir. Algoritmik önyargıların, yapay zekanın insanlara kıyasla geniş kapsamlı öğrenme ve anlamlandırma yeteneğinin olmaması, yapay zekanın adaptasyon yeteneğinin yetersiz kalmasının yanı sıra duygusal zekâsı gibi yeteneklerinin eksikliğinden kaynaklanabileceği tartışılmıştır. Ayrıca, makine öğrenmesinin adaptasyon yeteneğinin olmaması değişimlerde yapay zekanın genel zekaya göre uyumsuz kalmasına neden olduğu vurgulanmaktadır. Bu çalışma, yönetim bilimleri açısından bir optimizasyon problemi olarak karar destek sistemi için açıklanabilir yapay zekanın önemini ve çözüm gücü de vurgulamaktadır. Algoritmik önyargı ve eşitsizlik metrikleri gibi konular, yönetim bilimleri alanında karar alıcıların yapay zekâ teknolojileri kullanımında dikkate almaları gereken önemli hususlardır. Ayrıca, yapay zekanın duygusal boyutunun eksikliği, algoritmik önyargıları ortaya çıkarabileceğinden, bu teknolojilerin geliştirilmesinde duygusal zekâ bileşenlerinin dikkate alınması önemlidir. Bu çalışma, yapay zekâ teknolojilerinin etik, hukuk ve toplumsal boyutlarına da dikkat çekerek, yapay zekâ kullanımının toplumsal yararına katkı sağlamayı amaçlamaktadır.

Abstract:
In this study, the increasing exposure to artificial intelligence, machine learning, and algorithms that individuals commonly encounter in their daily lives is addressed. However, with the proliferation of the use of these technologies, new concepts such as algorithmic bias and machine learning unfairness have emerged. While the decisions taken by machine learning in a limited area can make a difference, it is stated that with the expansion of its scope, the impact of algorithms can go beyond narrow domains and lead to societal divisions. Therefore, machine learning algorithms used in credit decision-making processes were tested for bias or inequality on German credit data. Test results were interpreted using statistical results and inequality metrics, and it was determined that machine learning algorithms cause unfairness in credit processes. It has been discussed that algorithmic biases may arise from the lack of extensive learning and interpretation abilities of artificial intelligence compared to humans, as well as insufficient adaptability and missing abilities such as emotional intelligence. In addition, it is emphasized that the lack of adaptability of machine learning causes artificial intelligence to be incompatible with general intelligence in changes. This study highlights the importance and solution power of explainable artificial intelligence for decision support systems as an optimization problem from the perspective of management sciences. Issues such as algorithmic bias and inequality metrics are important considerations for decision-makers in the use of artificial intelligence technologies in management sciences. Furthermore, since the lack of emotional dimension of artificial intelligence may lead to algorithmic biases, it is important to consider emotional intelligence components in the development of these technologies. This study aims to contribute to the societal benefit of the use of artificial intelligence by also drawing attention to its ethical, legal, and societal dimensions.