Yapay zekânın kandırılması ve tespiti: Kötü niyetli kullanımlar, yanıltma teknikleri ve deepfake ses analizi üzerine bir inceleme
Deception and detection of artificial intelligence: An examination on malicious uses, deception techniques, and deepfake voice analysis
Yazar: DOĞAN CAN ADIGÜZEL
Danışman: DR. ÖĞR. ÜYESİ EMRE DELİBAŞ
Sivas Cumhuriyet Üniversitesi / Fen Bilimleri Enstitüsü / Yapay Zeka ve Veri Bilimi Ana Bilim Dalı
Derece: Yüksek Lisans, 2024
Konu: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol = Computer Engineering and Computer Science and Control

Özet:
Teknolojik ilerlemenin bir ürünü olan ve günümüzde pek çok amaç için kullanılan yapay zekâ; güvenlik, eğitim, otonom sistemler ve özellikle de iş konularında bireylerin hayatlarında etkin bir rol oynamaya başlamıştır. Öyle ki artık bireyler, otonom sistemler kullanarak kendi kendine gidebilen araçlar kullanmakta, öğrenciler ödevlerini yapay zekâya yaptırmakta, yapay zekâdan oluşan sistemleri arkadaş edinerek asosyal ve geçimsiz insanlar haline gelmekte, yapay zekâ uygulamaları kullanarak insanlara yanlış bilgiler/haberler sunmaktadır. İnsan gibi düşünebilen ve çıkarımlarda bulunan bu sistemler, işsiz kalma sorununu beraberinde getirmektedir. Birden fazla insanın akıl ve kas gücünü tek başına gerçekleştirebilen bu sistemler, çeşitli sebeplerden dolayı yanlış kararlar verebilmek, yanıltılabilmekte ve ölüme kadar pek çok sorunu da beraberinde getirmektedir.
Bu çalışmada, yapay zekânın yanıltılabilir olduğu, hangi yöntemlerle yanıltılabildiği, yanıltma örnekleri, yanlış kararların nelere sebep olabileceği, eğer doğru ve denetimli kullanılmazsa nelere sebebiyet verebileceği, insanları hazıra alıştırma ve pek çok konuda geriletme gibi risklerden bahsedilip, ileri yapay zekâ teknolojilerinin kullanımıyla yaygınlaşan deepfake tekniği ile ses taklidi yapılarak sahte ses üretilmiş ve analizlerle nasıl tespit edildiği gösterilerek çalışma tamamlanmıştır.

Abstract:
Artificial intelligence, a product of technological progress and widely used for various purposes today, has begun to play an influential role in individuals' lives, particularly in areas such as security, education, autonomous systems, and business. Individuals now use autonomous systems to travel in self-driving vehicles, students delegate their assignments to artificial intelligence, people become antisocial and incompatible by befriending systems composed of artificial intelligence, and artificial intelligence applications provide incorrect information/news to individuals. These systems, capable of thinking and making inferences like humans, contribute to the issue of unemployment. While these systems can perform the intellectual and physical tasks of multiple individuals alone, they may make incorrect decisions, be deceived, and bring about various problems, including fatal ones.
In this study, risks such as whether artificial intelligence can be misled, the methods by which it can be misled, examples of deception, what wrong decisions can cause, what it can cause if not used correctly and in a controlled manner, risks such as preparing people and regressing in many matters are mentioned, and the deepfake technique, which has become widespread with the use of advanced artificial intelligence technologies. A fake voice was produced by imitating the voice using the , and the study was completed by showing how it was detected through analysis.