Derin Öğrenme Modellerinde Mahremiyet ve Güvenlik Üzerine Bir Derleme Çalışması
A Review Study on Privacy and Security in Deep Learning Models
Yazar: Yiğit, Gülsüm; Kale, Ayşe
Dergi: Duzce University Journal of Science and Technology, Vol. 9 No. 5, 2021
Anahtar kelimeler: Engineering ; Mühendislik ; Derin Öğrenme,Güvenli Çok Partili Hesaplama,Diferansiyel Mahremiyet,Homomorfik Şifreleme,Garbled Devreler Protokolü ; Deep learning,Secure multiparty computation,Differential privacy,Homomorphic encryption,Garbled circuits protocol

Son dönemlerde derin öğrenmedeki devrim niteliğindeki gelişmeler ile birlikte yapay zekaya yönelik beklentiler gün geçtikçe artmaktadır.  Konuşma tanıma, doğal dil işleme (NLP), görüntü işleme gibi birçok alanda etkin bir şekilde uygulanabilen bir araştırma alanı olan derin öğrenme klasik makine öğrenmesi ile karşılaştırıldığında daha yüksek başarı göstermektedir. Derin öğrenme ile geliştirilen modellerde eğitim ve tahminleme sırasında büyük miktarda veri kullanılmakta ve kullanılan veriler kişisel verilerden oluşabilmektedir. Bu verilerin işlenmesi sırasında kişisel verilerin korunması kanununa (KVKK) aykırı olmaması oldukça önemlidir. Bu nedenle verilerin gizliliği ve güvenliğinin sağlanması oldukça önemli bir husustur. Bu çalışmada, derin öğrenme modelleri geliştirilirken yaygın kullanılan mimariler verilmiştir. Verilerin gizliliği ve güvenliğini artırmak için literatürde yaygın olarak karşılaşılan güvenli çok partili hesaplama, diferansiyel mahremiyet, garbled devre protokolü ve homomorfik şifreleme araçları özetlenmiştir. Çeşitli sistem tasarımlarında kullanılan bu araçların yer aldığı güncel çalışmalar taranmıştır. Bu çalışmalar, derin öğrenme modelinin eğitim ve tahminleme aşamasında olmak üzere iki kategoride incelenmiştir. Literatürdeki çeşitli modeller üzerinde uygulanabilen güncel saldırılar ve bu saldırılardan korunmak amacıyla geliştirilen yöntemler verilmiştir. Ayrıca, güncel araştırma alanları belirlenmiştir. Buna göre, gelecekteki araştırma yönü kriptografik temelli yöntemlerin karmaşıklığının azaltılması ve geliştirilen modelin güvenilirliğini belirlemek için çeşitli ölçme ve değerlendirme yöntemlerinin geliştirilmesi yönünde olabilir.

With the advanced progress in deep learning in recent times, expectations of artificial intelligence are increasing day by day. Deep Learning, a research area, applied effectively in many areas such as speech recognition, Natural Language Processing (NLP), and image processing, shows higher success than classical machine learning algorithms. Large amounts of data are employed during the training and prediction stages of deep learning models, in which the data may consist of the user's sensitive data. Therefore, it mustn't contradict the principle of protecting personal data while training and predicting. Consequently, it is crucial to ensure the privacy and security of data.  In this study, various deep learning architectures are described. The widely used cryptographic tools applied to preserve the privacy and security of data are summarized. These are homomorphic encryption, differential privacy, secure multi-party computation, and garbled circuits. Recent works considering the privacy and security of deep learning models are examined under two different categories: train stage and prediction stage. In addition, the attacks against deep learning models and techniques for protection against these attacks are reviewed. Finally, open research areas are determined. Reducing the complexity of cryptographic-based models and developing evaluation methods to determine the model's privacy and security stand out as future research areas.