Yapay zekâ tabanlı otonom sistemlerde ayrımcılık sorunu
Discrimination in AI based autonomous systems
Yazar: BATUHAN KUKUL
Danışman: DR. ÖĞR. ÜYESİ ZEHRA BAŞER DOĞAN
Bahçeşehir Üniversitesi / Lisansüstü Eğitim Enstitüsü / Özel Hukuk Ana Bilim Dalı / Bilişim Hukuku Bilim Dalı
Derece: Yüksek Lisans, 2023
Konu: Hukuk = Law
Dizin: Ayrımcılık = Discrimination ; Makine öğrenmesi = Machine learning ; Yapay zeka = Artificial intelligence

Özet:
Yapay zekâ yaşadığımız çağın en önemli aktörlerinden biri haline gelmiştir. Otonom sistemler her gün kimin işe alınacağı, bankadan kimin ne kadar kredi alacağı, suç işleme konusunda kimin ne kadar tehlikeli olduğu ve hastaya hangi tedavi yönetimin uygulanacağı gibi hayati konularda kararlar vermektedir. Bugüne kadar yapılan çalışmalar çoğunlukla yapay zekanın bir bilince sahip olup olamayacağı, hukuki veya cezai sorumluluğunun gündeme gelip gelemeyeceği veya bir kişiliğe sahip olup olamayacağı hususları üzerinde yoğunlaşmış olsa da otonom karar veren sistemler, yarattıkları önyargı ve ayrımcılık sebebiyle hali hazırda insanların temel hak ve özgürlüklerini birçok yönden ihlal etmektedir. Yapay zekanın her geçen gün gelişen ve değişin karmaşık yapısı, otonom sistemlerin sebep olduğu ayrımcılık sorununu önlemek için geleneksel hukuki yaklaşımlar yetersiz kalmaktadır. Bu sebeple Yapay Zekanın hukuki ve/veya cezai sorumluluğu olacak mı ya da Yapay zekâya bir hukuki kişilik atfedilecek mi gibi sorulardan önce Yapay zekâ destekli otonom sistemleri nasıl daha şeffaf ve adil hale getirilebilir sorusuna odaklanılması gerekmektedir.
Bu çalışmada yapay zekâ ve onun bir alt kırılımı olan makine öğrenmesi teknolojilerinin temel yapısı ve çalışma şekli; somut örnekler üzerinden ve teknik detaylara girmeyecek şekilde irdelenecek hukuki değerlendirmelerde göz önünde bulundurulması gereken hususlar vurgulanacaktır. Daha sonra konu bağlamında ayrımcılık kavramı, ayrımcılık türleri ve ayrımcılık yasağı hukukunun arka planı ve otonom karar veren sistemlerin günlük hayatta neden olduğu ayrımcılık örnekler üzerinden ortaya koyulacaktır. Son bölümde ise otonom sistemlerin sebep olduğu ayrımcılığa karşı ulusal ve uluslararası düzeyde ve farklı hukuk dallarındaki düzenlemeler ve çözüm yolları ele alınacaktır.

Abstract:
Artificial intelligence has emerged as one of the pivotal actors in the contemporary era. Autonomous systems are entrusted with making crucial decisions on a daily basis, ranging from the determination of employment candidates, the allocation of credit by financial institutions, the assessment of individual propensities for criminal activities, to the selection of medical treatment regimens for patients. While the majority of prior research has predominantly concentrated on inquiries regarding whether artificial intelligence can possess consciousness, whether it can be held accountable under legal or criminal law, or whether it can assume a legal person, it is presently evident that autonomous decision-making systems are, to a considerable extent, transgressing the fundamental rights and liberties of individuals due to the bias and discrimination they engender.
The ever-evolving and intricate nature of artificial intelligence necessitates a focal point on the question of how artificial intelligence-supported autonomous systems can be rendered more transparent and equitable, prior to addressing inquiries concerning the potential legal and/or criminal liability of artificial intelligence or the attribution of legal personality thereto.
Within the scope of this study, the fundamental structure and operational mechanisms of artificial intelligence, including its subcategory, machine learning technologies, will be scrutinized, while avoiding a deep dive into technical intricacies. This examination will be facilitated through the utilization of tangible illustrations, while underscoring the salient considerations indispensable for legal assessments. Subsequently, within the context of this subject, the concept of discrimination, its various manifestations, the historical underpinnings of anti-discrimination legal frameworks, and instances of discrimination wrought by autonomous decision-making systems in everyday life will be elucidated. Finally, the concluding section will address the regulations and remedies, both at the national and international levels and across divergent legal domains, designed to counteract discrimination stemming from autonomous systems.