Algoritmalar ve açıklama hakkı
Algorithms and the right to explanation
Yazar: DENİZ KARAGÖZ
Danışman: DR. ÖĞR. ÜYESİ MEHMET BEDİİ KAYA
İstanbul Bilgi Üniversitesi / Lisansüstü Programlar Enstitüsü / Bilişim ve Teknoloji Hukuku Ana Bilim Dalı
Derece: Yüksek Lisans, 2020
Konu: Hukuk = Law
Dizin: Algoritmalar = Algorithms ; Bilişim teknolojisi = Information technology ; Genel Veri Koruma Tüzüğü = General Data Protection Regulation ; Kişisel veri = Personal data ; Veri güvenliği = Data security ; Veri koruması hukuku = Data protection law ; Şeffaflık = Transparency

Özet:
Otomasyon teknolojilerinin günümüzde neredeyse hayatın her alanında giderek daha fazla kullanılması ile birçok teknolojik fenomen birçok farklı sosyal bilim kapsamında yapılan araştırmalara konu olmakta ve teknolojinin toplumdaki etkileri üzerindeki çalışmalar yoğunlaşmaktadır. Her çeşit bilişim sisteminin temelinde bulunan algoritmalar da bir yandan giderek karmaşıklaşmakta öte yandan da artan bir sıklıkla karar verme mekanizmalarında kritik roller almaktadır.
  
Bu sosyo-teknik manzarada, kişisel verilerinin korunması hukuku kapsamında devletler, kişisel verilerin işlenmesine sıklıkla vesile olan algoritmik karar alma mekanizmalarının hukuka uygun bir şekilde kullanıldıklarından emin olmak için çeşitli önlemler almaktadır. Dünyada bu alanda en yüksek standardı belirlediği öne sürülen Avrupa Birliği Genel Veri Koruma Tüzüğü, bu anlamda şeffaflığı en önemli prensiplerden biri olarak öne çıkarmaktayken özellikle son dönemde geliştirilen ve anlaşılabilirliği oldukça düşük algoritmalar ile görünürde bir tezat oluşturmaktadır. Öte yandan, hukuk dışındaki disiplinlerce de öne çıkarılan bu şeffaflık ihtiyacı karşısında araştırmacılar karmaşık algoritmaları açıklayabilmek amacıyla çeşitli teknikler geliştirmektedirler. 

Bu çalışmada ise söz konusu çatışmanın somutlaştığı ve öğretide açıklama hakkı ("right to explanation") olarak anılan hükümlerde veri sorumluları bakımından getirilen yükümlülüklere, söz konusu algoritmaların anlaşılabilirliğini artırmak için geliştirilen tekniklerin ne derecede karşılık verebileceğini incelemektedir. Bu kapsamda ulaşılan sonuçlara göre ise bu teknikler veri sorumlularının söz konusu hükümlere uyumu için tek başlarına yeterli gözükmemekle birlikte, şeffaflık ihtiyacının karşılanmasına yönelik önemli birer adımdır ve söz konusu hükümlere uyum çalışmaları kapsamında faydalanabilecek araçlar olarak değerlendirilebilirler.

Abstract:
Due to the rising usage of the automation systems in almost every field possible in today's world, numerous technological phenomena are being subject to researches made within various social sciences and the influence of technology on the society is further investigated. At the same time, algorithms, which are at the heart of almost every computational device, are becoming more and more complex. However, they are increasingly implemented in critical decision-making mechanisms. 

In this sociotechnical landscape, lawmakers aim to secure the lawfulness of the algorithmic decision making under personal data protection law, as such systems frequently analyze personal information. EU General Data Protection Regulation (GDPR) arguably sets the highest standards in this field and clearly promotes transparency as a key principle to be respected when processing personal data. On the other hand, many algorithms that are in use today are very complex and they seemingly present a contrast with such provisions of the GDPR. Having said that, in order to satisfy this need for transparency, which is equally highlighted by other disciplines as well, researchers are continuously developing tools that will help explaining such black box algorithms. 

This study investigates the compliance of the abovementioned tools to the so-called "right to explanation" provisions of the GDPR which incorporate the transparency principle. The conclusions reached suggest that these technologies, even though they are most probably not enough to cover compliance with the obligations envisioned for data controllers, are valuable steps to meet the transparency need and are indeed useful tools to comply with the relevant articles of the GDPR.