PROBLEMLİ BİR İÇERİK ÜRETİM PRATİĞİ: YAPAY ZEKÂ DESTEKLİ YÜZ FİLTRELERİ KULLANILARAK ÜRETİLMİŞ YETİŞKİN İÇERİKLERİ ÜZERİNE BİR ANALİZ
A PROBLEMATIC CONTENT PRODUCTION PRACTICE: AN ANALYSIS OF ADULT CONTENT PRODUCED USING ARTIFICIAL INTELLIGENCE-POWERED FACE FILTERS
Yazar: Kobaza, Oğuz Selim
Dergi: Gümüşhane Üniversitesi İletişim Fakültesi Elektronik Dergisi, Vol. 14 No. 1, 2025
Anahtar kelimeler: Communication Studies ; İletişim Çalışmaları ; İletişim çalışmaları,Sosyal medya,Down Sendromu,Yapay zekâ,Yüz filtreleri ; Communication studies,Social media,Down syndrome,Artificial intelligence,Face filters

Yapay zekâ ile entegre çalışan araçlar sosyal medyada içerik üretmek amacıyla yaygın bir biçimde kullanılmaktadır. Son yıllarda bu araçların çeşitlenmesiyle birlikte üretilen bazı sosyal medya içeriklerinde etik sınırların ihlâl edildiği ileri sürülebilir. Bazı yetişkin içerik üreticilerinin videolarında ya da farklı içerik üreticilerinden izinsiz alınan videolarda yapay zekâ destekli yüz filtreleri kullanılarak Down sendromlu izlenimi verilmesi ve bu kişilere ait içeriklerin sosyal medyada paylaşılması ise bu etik ihlâllerden birini oluşturmaktadır. Bu çalışma, manipüle edilmiş bu içeriklerde Down sendromlu bireylerin cinsel bir meta olarak konumlandırılmasının ortaya çıkardığı etik sorunları videolardaki ifadeler ve emojiler aracılığıyla incelemeyi amaçlamaktadır. Çalışma kapsamında bu araçlar kullanılarak içerik üreten bir Instagram profili amaçlı örneklem yöntemiyle belirlenmiş, 1 Nisan-30 Nisan 2025 tarihleri arasında profilde paylaşılan 32 reels videosundaki yazılı ifadeler ve emojiler içerik analizi yöntemi ile incelenmiştir. Analizde videolardaki yazılı ifadeler ve emojiler aracılığıyla yoğun bir pornografik anlatının oluşturulduğu görülmüştür. Oluşturulan bu anlatı üzerinden Down sendromlu bireylerin cinsel bir fetiş nesnesi hâline getirildiği tespit edilmiştir. Sonuç itibariyle yapay zekâ teknolojilerinin içerik üretiminde engellileri fetişleştirici bir biçimde kullanılmasının engelli bireylere karşı pek çok riski barındırdığını; bu nedenle yapay zekâ araçlarıyla üretilen sosyal medya içerikleri konusunda hassas gruplara yönelik caydırıcı yasal düzenlemelerin yapılması gerektiğini ortaya koymaktadır.

Tools integrated with artificial intelligence are widely used to produce content on social media. In recent years, as these tools have diversified, it can be argued that ethical boundaries have been violated in some social media content. One of these ethical violations consists of creating the impression of Down syndrome through the use of AI-supported face filters in videos featuring certain adult content producers, or in videos taken without permission from other content creators, and then sharing that content on social media. This study aims to examine, through the expressions and emojis in the videos, the ethical problems arising from positioning individuals with Down syndrome as sexual commodities in these manipulated contents. Within the scope of the study, an Instagram profile producing content using these tools was identified through purposive sampling, and the written expressions and emojis in 32 reels videos shared on the profile between April 1 and April 30, 2025 were analyzed using the content analysis method. The analysis revealed that an intense pornographic narrative was constructed through the written expressions and emojis in the videos. Through this constructed narrative, it was determined that individuals with Down syndrome were turned into sexual fetish objects. Ultimately, it is demonstrated that the use of artificial intelligence technologies in content production in a manner that fetishizes disabled individuals entails numerous risks for people with disabilities; therefore, it is necessary to establish deterrent legal regulations concerning social media content produced with AI tools that target vulnerable groups.