Şeffaflık ve hesap verilebilirlik açısından kişisel verilerin korunması ve yapay zekâ
Personal data protection and artificial intelligence in terms of transparency and accountability
Yazar: MEHMET OĞUZ KARTÖZ
Danışman: PROF. DR. HAYDAR BURAK GEMALMAZ
İstanbul Üniversitesi / Sosyal Bilimler Enstitüsü / Kamu Hukuku Ana Bilim Dalı
Derece: Yüksek Lisans, 2020
Konu: Hukuk = Law
Dizin: Genel Veri Koruma Tüzüğü = General Data Protection Regulation ; Hesap verebilirlik = Accountability ; Kişisel veri = Personal data ; Veri güvenliği = Data security ; Veri koruması hukuku = Data protection law ; Yapay zeka = Artificial intelligence ; Şeffaflık = Transparency

Özet:
Yapay zeka sistemleri günümüzde bireyleri ve toplumları etkileyen kararların alınmasında yaygın olarak kullanılmaktadır. Yapay zeka sistemlerinin veri setlerine dayalı olarak öğreniyor olması, çıktılarının insani önyargı ve ayrımcılıklarından uzak  olacağını garanti etmiyor. Yapay zekanın her yeni kullanım şeklinde; eşitsizliğe, ayrımcılığa ve kişisel verilerin korunması hakkının ihlaline neden olma riski artmaktadır. 
Algoritmik karar alma sistemlerinin kişisel verilerin korunması hukukuna uyumlu kişisel veri işleme faaliyetinde nasıl bulunacağı hakkında seçeneklerin araştırılması gerekmekteydi. Bu çalışmada şeffaflık ve hesap verilebilirlik açısından kişisel verilerin korunması ve yapay zekâlı sistemler araştırılmıştır. Araştırma metodu olarak, mevcut bir durumun tespiti yapılacağı için nitel araştırma yöntemlerinden biri olan kaynak derleme metodu kullanılmıştır. Çalışmada; yapay zeka sistemlerinin türlerine ve kullanım alanlarına, GDPR kapsamında profilleme ve otomatik karar alma mekanizmalarına ilişkin düzenlemelere yer verilmiştir. Ayrıca, kara kutu ve opaklık sorunlarının, algoritmik önyargının ve algoritmik ayrımcılığın şeffaflık ve hesap verilebilirlik ile ilişkisi incelenmiştir. Son olarak ise veri koruma etki değerlendirmeleri, tasarımdan itibaren kişisel verilerin korunması kavramı, veri koruma görevlisi ve algoritmik denetim mekanizmaları ele alınmıştır. Anahtar Kelimeler: GDPR, Genel Veri Koruma Düzenlemesi, Hesap Verilebilirlik, Kişisel Verilerin Korunması, KVKK, Profilleme, Otomatik Karar Alma Mekanizmaları, Şeffaflık, Yapay Zekâ.

Abstract:
Artificial intelligence systems are widely employed nowadays when making decisions that have impacts on individuals and society. The fact that AI systems learn from data sets does not guarantee that their outputs will be free of human bias or discrimination. With each new use case of AI, the risk of it causing inequality, discrimination and breaching data protection rights increases. It was necessary to investigate options about how algorithmic decision-making systems would engage in personal data processing that comply with data protection law. In this study, personal data protection and artificial intelligence systems in terms of transparency and accountability were investigated. As a research method, literature review method, which is one of the qualitative research methods, has been used since an existing situation will be identified. In this study, the types and usage areas of artificial intelligence systems, articles regarding profiling and automatic decision making mechanisms within the scope of GDPR have been included. Furthermore, the black box and opacity issues, the concepts of algorithmic bias and algorithmic discrimination and their relations with transparency and accountability have been evaluated. Finally, the Data protection impact assessments, the concept of data protection by design, data protection officer and emerging algorithmic audit mechanisms have been covered. Keywords: GDPR, General Data Protection Regulation, Accountability, Personal Data Protection, The Turkish Personal Data Protection Law, Profiling, Automated Decision-Making Mechanisms, Transparency, Artificial Intelligence.