Yapay zekâ sistemlerinde ayrımcılık yasağı
Non-discrimination in artificial intelligence systems
Yazar: TARIK VURAL
Danışman: PROF. DR. ÜMİT GEZDER
İstanbul Medeniyet Üniversitesi / Lisansüstü Eğitim Enstitüsü / Özel Hukuk Ana Bilim Dalı
Derece: Yüksek Lisans, 2024
Konu: Hukuk = Law

Özet:
İnsan zekâsını taklit etme ve insan benzeri düşünme gibi özellikler üzerine geliştirilmeye başlanan ve terminolojik olarak ilk defa Amerikalı bilgisayar bilimcisi John McCarthy tarafından 1956 yılında kullanılarak literatüre geçirilen yapay zekâ, günümüz bilişim çağının vazgeçilmez bir parçası hâline gelmiştir. Yapay zekâ, akıllı saatlerden finans sektörüne, tıbbi klinik uygulamalarından savunma sanayine kadar çok geniş bir alanda kullanılmaktadır. Artık hayat akışının bir parçası olan yapay zekâ sistemlerinin hukukun dışında kalamayacağı aşikârdır.
Makine öğrenmesi gibi yapay zekâ uygulamaları sayesinde bu teknoloji herhangi bir insan müdahalesi olmadan öğrenmekte ve karar verebilmektedir. Bu noktada yapay zekâ verdiği kararlarla; temel hak ve özgürlükleri zedeleyebilecek, ayrımcılık yasağı karşıtı ya da konusu suç teşkil edecek sonuçları ortaya çıkarabilmektedir. Bu durum, Alan Turing'in 1950 yılında ortaya attığı Turing Testi kavramını akla getirir. Turing, bir makinenin insan gibi düşünme kapasitesine sahip olup olmadığını belirlemeye çalışırken, aslında yapay zekânın etik ve toplumsal etkilerine de dolaylı olarak işaret etmiştir. Turing'in çalışmaları, günümüz yapay zekâ sistemlerinin potansiyel tehlikeleri ve sorumlulukları hakkında bize ışık tutmaktadır. Bu çerçevede, doğru eğitim verileri girilmiş, uygun algoritmalarla kodlanmış ve etik değerler öğretilmiş bir yapay zekâ sisteminin ayrımcılıkla mücadele edilmesinde ve insan haklarının korunmasında kilit rol oynayacağı kaçınılmazdır.
Yapay zekâ ve ayrımcılık yasağı arasındaki ilişki incelenirken ilk iki bölümde kavramsal tanımlara yer verilmiştir. Ardından yapay zekâ sistemlerinin neden olduğu ayrımcılık yasağı ihlalleri örneklerle desteklenerek konu olumlu ve olumsuz yönleriyle bir bütün olarak ele alınmıştır. Sonuç olarak, yapay zekâ sistemlerinin algoritmik ayrımcılık kapsamındaki durumu ortaya konmuş ve olumsuz durumlar için çözüm önerileri sunulmuştur.

Abstract:
Artificial intelligence, which started to be developed on features such as imitating human intelligence and human-like thinking and was first used terminologically by American computer scientist John McCarthy in 1956, has become an indispensable part of today's information age. Artificial intelligence is used in a wide range of fields from smart watches to the finance sector, from medical clinical applications to the defense industry. It is obvious that artificial intelligence systems, which are now a part of the flow of life, cannot be excluded from the law.
Thanks to artificial intelligence applications such as machine learning, this technology can learn and make decisions without any human intervention. At this point, with its decisions, artificial intelligence can produce results that may harm fundamental rights and freedoms, violate the prohibition of discrimination or constitute a criminal offence. This situation brings to mind the Turing Test concept proposed by Alan Turing in 1950. While trying to determine whether a machine has the capacity to think like a human being, Turing indirectly pointed out the ethical and social effects of artificial intelligence. Turing's work sheds light on the potential dangers and responsibilities of today's artificial intelligence systems. On the other hand, it is inevitable that an artificial intelligence system with the right training data, coded with appropriate algorithms and taught ethical values will play a key role in combating discrimination and protecting human rights.
When examining the relationship between artificial intelligence and the prohibition of discrimination, the first two sections of the study focus on conceptual definitions. Subsequently, the subject is comprehensively addressed with examples supporting violations of the prohibition of discrimination caused by artificial intelligence systems, considering both positive and negative aspects. As a result, the current status of artificial intelligence systems within the scope of algorithmic discrimination is revealed, and solutions are proposed for the negative aspects.