Jabarkan Kebimbangan dari Pemalsuan wajah dalam bahasa melayu

diterapkan bunyi telah digunakan dalam penipuan pengendalian sosial dengan menggunakan rupa seseorang yang dipercayai untuk berpura-pura memberikan arahan kepada orang-orang tertentu. Pada tahun 2019, seorang ketua pegawai eksekutif sebuah firma yang berpangkalan di UK telah tertipu apabila diarahkan untuk memindahkan €220,000 ke sebuah akaun bank Hungary oleh seseorang yang menggunakan palsuan jenis ini sebagai suatu kaedah menyama suara pegawai eksekutif syarikat induk firma tersebut. Pelaku perbuatan tersebut dilaporkan telah membuat panggilan telefon sebanyak tiga kali dan meminta bayaran kedua namun ditolak permintaannya apabila CEO tersebut menyedari nombor telefon pemanggil itu merupakan nombor Austria manakala wang itu tidak dibayar balik seperti yang diberitahu.

Kesan terhadap kebolehpercayaan dan ketulenan

Keberadaan deepfake membuatkan penentuan sama ada satu-satu video itu merupakan suatu satira atau tulen semakin sukar. Pengkaji AI, Alex Champandard, telah mengatakan bahawa orang ramai sepatutnya tahu betapa pantasnya sesuatau perkara itu boleh dicemarrosakkan oleh teknologi ini. Malahan masalah ini bukan hanya bersifat teknikal, bahkan merupakan permasalahan yang harus diselesaikan oleh kepercayaan dalam maklumat dan kewartawanan. Masalah tersembunyi yang utama ialah kemeruduman manusia ke dalam zaman yang mana suatu kandungan itu telah sukar dikenal pasti kesahannya.

Persamaan dengan perihal tersebut, Hao Li, seorang profesor madya sains komputer dari Universiti California Selatan menyatakan bahawa pemalsuan yang dicipta untuk kegunaan hasad (cth. berita palsu) akan menjadi lebih berbahaya jikalau tiada tindakan yang dilaksanakan untuk meningkatkan kesedaran masyarakat tentang teknologi ini. Li membuat ramalan mengenai keadaan yang mana video tulen dan video deepfake tidak dapat dibezakan antara satu sama lain seawal setengah tahun kemudian, setakat Oktober 2019, lantaran kemajuan pesat kepintaran buatan dan grafik komputer.