Derin öğrenmeye dayalı bir imza doğrulama yönteminin geliştirilmesi
Development of a signature verification method based on deep learning
Yazar: MUHAMMED MUTLU YAPICI
Danışman: PROF. DR. NURETTİN TOPALOĞLU ; DR. ADEM TEKEREK
Gazi Üniversitesi / Fen Bilimleri Enstitüsü / Bilgisayar Mühendisliği Ana Bilim Dalı
Derece: Doktora, 2020
Konu: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol = Computer Engineering and Computer Science and Control
Dizin: El yazısı tanıma = Handwriting recognition ; Görüntü işleme = Image processing ; Görüntü sınıflandırma = Image classification ; Görüntü tanıma = Image recognition ; Nesne tanıma = Object recognition ; Yapay zeka = Artificial intelligence ; Örüntü tanıma = Pattern recognition

Özet:
El yazısı imzalar bankacılık, hukuk ve finans gibi birçok alanda yüzlerce yıldır kullanılmaktadır. Elde edilebilirliği kolay bir biyometrik olması sebebiyle gündelik hayatta sıklıkla tercih edilmektedir. Hukuki açıdan kişilere maddi manevi birçok sorumluluk yükleyen imzaların bu kadar yaygın kullanılan bir kimlik doğrulama tekniği olması, kötü niyetli kişiler tarafından taklit edilerek sıklıkla suiistimal edilmesine sebep olmaktadır. Bu sebeple imzaların gerçekliğinin veya sahteliğinin tespit edilerek doğrulanabilmesi önemli bir araştırma konusudur. İmzalar yüksek kişisel değişkenliği barındırdıklarından, aynı kişiye ait farklı zamanda atılmış imzalar arasında bile ciddi farklılıklar görülmektedir. Buda imza doğrulamayı günümüzde de çözülmesi zor bir problem yapmaktadır. Tez çalışması kapsamında çevrimdışı el yazısı imza doğrulama alanının iki önemli problemine çözüm getirilmiştir. Birinci problem imza verilerinin yetersiz olması ve ikincisi de geliştirilen sistemlerin doğrulama başarının düşük olmasıdır. Çevrimdışı imzalar gerçek hayatta sınırlı miktarda elde edilebildikleri için yapay zekâ yöntemlerinin eğitilmesinde yetersiz kalmaktadırlar. Bu çalışma kapsamında derin öğrenme temelli yeni bir veri artırma yöntemi kullanılarak yetersiz veri sorununa çözüm getirilmiştir. Yine derin öğrenme temelli bir sınıflandırma yöntemiyle imza doğrulama alanındaki başarı artırılmış ve çevrimdışı imza doğrulama alanına katkı sağlanmıştır. Cycle-GAN temelli veri artırma yöntemi sistemin başarısını %86,6 'dan %96,8 gibi yüksek bir orana getirmiştir. Veri artıma yöntemiyle birleştirilerek oluşturulan CapsNet temelli sınıflandırma yöntemi çevrimdışı imza doğrulama alanında en çok tercih edilen iki veritabanı olan GPDS ve MCYT veritabanlarında test edilmiştir. Önerilen sistem MCYT-75 veri kümesi üzerinde 10 gerçek imza ile %2,58(± 0,43) EER ve %98,06 F1 puanı elde ederek literatürdeki en iyi sonuca ulaşmıştır. Yine aynı veritabanı üzerinde 5 Gerçek imza ile elde edilen %8,95(±0,47) EER oranı literatürdeki en iyi ikinci başarı olmuştur.

Abstract:
Handwritten signatures have been used for hundreds of years in many fields such as banking, law, and finance. As it is biometric that is obtained easily, it is frequently preferred in daily life. Because of being so widely used, signatures have been an authentication technique that is often misused by malicious people, and used for fraud. Therefore, it is an important research subject to verify the genuine or forger of signatures.  Since signatures have high personal variability, there are significant differences between signatures of the same person at different times. This makes signature verification a difficult problem to solve even today.
Within the scope of this study, two important problems of the offline handwritten signature verification field were solved. The first problem is that the signature data are insufficient to train systems, and the second is the poor success of the developed verification systems. Since offline signatures can be obtained in limited amounts in real life, they are insufficient to train artificial intelligence methods. In this study, we proposed a new data augmentation method based on deep learning to tackle the insufficient data problem. In addition, we contribute to the signature verification field by increasing the success of signature verification with a deep learning-based classification method. The proposed Cycle-GAN based data augmentation method has increased the success of the classification system from 86,6% to 96,8%. In addition, we proposed a new hybrid classification system composed of CapsNet and the data augmentation method. The system was tested in GPDS and MCYT databases, which are the two most preferred databases in the offline signature verification field. The proposed system achieved the best results in the literature by obtaining 2,58% (± 0,43) EER and 98,06% F1 Score with 10 genuine signatures on the MCYT-75 dataset.  Furthermore, the 8,95% (± 0,47) EER rate obtained with 5 Real signatures on the same database was the second-best success in the literature.