Pemalsuan wajah

**Pemalsuan wajah** atau **pemalsuan**/**kepalsuan dalam** () adalah kaedah menggantikan rupa atau wajah seseorang dalam media audiovisual sedia ada (baik gambar atau video) dengan rupa orang yang lain menggunakan rangkaian neural buatan seterusnya menghasilkan bahantara yang baharu (yakni **palsuan wajah**, **palsu tulen** atau **palsu asli**). Kaedah penggantian ini menggunakan pembelajaran mesin tertentu termasuk pengekod auto dan rangkaian perseteruan janaan (GAN).

Teknologi sebegini mendapat liputan yang luas berikutan laporan mengenai kegunaannya dalam banyak jenayah termasuk video lucah selebriti, pornografi dendam, berita palsu, olokan dan penipuan kewangan. Hail ini telah menimbulkan pelbagai maklum balas daripada pihak industri dan pemerintah dalam langkah mengesan dan menyekat penggunaannya.

## Peristilahan
Istilah asal yang digunakan untuk menggambarkan teknologi ini, "***deepfake***", berasal pada sekitar penghujung tahun 2017 sempena nama seorang pengguna Reddit bernama "deepfakes" yang mempelopori bahantara ini dalam kelompok r/deepfakes yang melibatkan projek menggantikan muka selebriti masuk pada tubuh pelakon video lucah.; nama tersebut sendirinya diperolehi hasil gabungan perkataan "*deep learning*" (pembelajaran dalam) dan "*fake*" (palsu).

## Sejarah pembangunan
Pembangunan teknologi ini berkembang dengan pesat dalam dua keadaan, iaitu kajian oleh institusi ilmiah dan pembangunan oleh orang-orang amatur di kalangan kelompok dalam talian. Baru-baru ini, *deepfake* juga diguna pakai oleh pihak industri.

### Kajian ilmiah
Kajian ilmiah berkenaan teknologi ini selalunya berkisar dalam bidang visi komputer iaitu sebuah bidang kecil dalam sains komputer. Contoh projek mercu tanda yang awal ialah program Tulis Semula Video (*Video Rewrite*) terbitan tahun 1997 yang mengubah suai rakaman video sedia ada mengenai seseorang yang bercakap agar kelihatan seperti dia mengomong-omongkan kata-kata daripada runut bunyi yang lain. Sistem ini merupakan yang pertama mengautomasikan penganimasian semula wajah secara penuh menggunakan kaedah pembelajaran mesin untuk menghubungkaitkan bunyi yang terhasil oleh subjek video dengan bentuk wajah subjek.

Projek ilmiah yang sezaman betumpu dalam penghasilan video yang lebih realistik di samping menambah baik kaedah sedia ada. Program “Pensintesisan Obama (*Synthesizing Obama*)” terbitan tahun 2017 telah mengubah suai rakaman video bekas presiden Amerika Syarikat, Barack Obama, untuk menggambarkan beliau sedang mengucapkan kata-kata daripada runut bunyi yang lain. Program Face2Face (MukaKeMuka) terbitan tahun 2016 mengubah suai rakaman video wajah seseorang agar kelihatan raut mukanya berubah-ubah mengikut raut muka orang lain dalam masa nyata. Projek tersebut menyenaraikan kaedah pertama melakon semula raut muka dalam masa nyata adalah dengan penggunaan sebiji kamera tanpa ciri pengesanan kedalaman sebagai sumbangan kajian utama. Hal ini membolehkan kaedah ini dilaksanakan menggunakan kamera kebanyakan.

Pada Ogos 2018, pengkaji di Universiti California, Berkeley menerbitkan senaskhah kertas kerja yang memperkenalkan suatu aplikasi tarian palsu yang membuat-buat kebolehan tarian yang cekap dengan menggunakan kepintaran buatan (AI). Projek ini mengembangkan kegunaan teknologi ini sehingga meliputi seluruh tubuh bilamana hasil kerja sebelum itu hanya bertumpu pada kepala atau bahagian muka sahaja.

### Pembangunan amatur
Sepertimana yang disebut sebelum ini, teknologi ini mula diketahui dalam lingkungan orang ramai hasil pengembangan teknologi sedemikian yang melibatkan penebitan lucah dalam laman sosial Reddit pada Februari 2018. Bagi kandungan tidak lucah pula, muka pelakon Nicolas Cage diganti masuk dalam beberapa filem. Pada Disember 2017, Samantha Cole menerbitkan sebuah rencana mengenai r/deepfakes dalam *[[Vice Media|Vice]]* yang menarik perhatian arus perdana yang pertama mengenai perihal perkongsian palsuan ini dalam kalangan kelompok dalam talian. Enam minggu kemudian, Cole menulis sebuah rencana susulan mengenai peningkatan yang mendadak jumlah lucah palsu berbantu AI. Pada Februari 2018, kelompok r/deepfakes diharamkan para pengelola laman Reddit atas sebab perkongsian bahan lucah yang hilang kawalan. Tapak-tapak web lain turut mengharamkan penggunaan pemalsuan ini  dalam bahan lucah luar kawal termasuklah platform media sosial, Twitter malah juga servis bahan lucah, Pornhub. Sungguhpun begitu, beberapa bidang tapak web lain masih membenarkan kandungan seumapaman antaranya termasuklah papan imej seperti 4chan dan 8chan.

Kelompok dalam talian masih terus hidup termasuklah kelompok Reddit yang tidak berkongsi bahan lucahseperti r/SFWdeepfakes (singkatan "*safe for work deepfakes*" [*deepfake* selamat untuk tempat kerja]). Di r/SFWdeepfakes, ahli kelompok berkongsi pemalsuan ini yang menggambarkan selebriti, ahli politik dan lain-lain tanpa unsur-unsur lucah. Kelompok dalam talian lain tetap meneruskan perkongsian teknologi ini di platform yang tidak mengharamkan bahan lucah sebegitu.

### Pembangunan komersial
Pada Januari 2018, sebuah perisian atas meja milikan dengan nama FakeApp telah dilancarkan. Aplikasi ini membenarkan penggunanya mencipta serta berkongsi video-video dengan muka mereka saling bertukaran. Setakat 2019, FakeApp telah digantikan oleh pilihan lain yang bersumber terbuka seperti Faceswap dan perisian berasaskan garis perintah, DeepFaceLab.

Perusahaan dan syarikat yang lebih besar juga mula menggunakan *deepfake*. Syarikat perisian mudah alih gergasi, Momo, menghasilkan sebuah aplikasi bernama Zao yang membolehkan penggunanya  menindan muka mereka di televisyen dan cantasan wayang dengan hanya sekeping gambar. Sebuah syarikat Jepun AI, DataGrid, telah menggunapakai suatu sistem menerapkan penyalinan imej mamtubuh penuh yang mampu menghasilkan seorang manusia tanpa sebarang asas. Tujuan syarikat tersebut adalah untuk fesyen dan pakaian.

## Kaedah
Imej yang dijana bergantung kepada sejenis rangkaian neural iaitu pengekod auto. yang mengecilkan imej ke ruang pendam bermatra lebih rendah dan sebuah penyahkod yang membina semula imej tersebut daripada gambaran pendam. Teknologi ini mengguna pakai seni bina ini melalui sebuah pengekod sejagat yang mengekod seseorang ke dalam ruang pendam. Gambaran pendam ini mengandungi sifat penting berkenaan raut wajah dan gaya dirinya. Ruang pendam ini boleh dinyahkod dengan suatu model yang telah dilatih khas untuk sasaran tersebut. Hal ini bermakna maklumat terperinci sasaran akan ditindan pada sifat wajah dan tubuh dasar video asal yang diwakili dalam ruang pendam.

Salah satu naik taraf yang terkenal untuk seni bina ini melibatkan penyambungan rangkaian perseteruan janaan dengan penyahkod. GAN akan melatih suatu penjana, iaitu penyahkod dalam contoh ini, dan suatu pembeza layan dalam hubungan perseteruan. Penjana akan menghasilkan sekeping gambar baharu daripada gambaran pendam bahan sumber sambil pembeza layan cuba mengenal pasti sama ada gambar itu telah dihasilkan. Hal ini menyebabkan penjana menghasilkan sekeping gambar yang meniru kenyataan dengan begitu bagus sehinggakan mana-mana cacat-cela akan dikesan oleh pembeza layan. Kedua-dua algoritma tersebut sentiasa bertambah baik dalam mainan campur-tolak. Hal ini menjadikan pemenggambaran berkepintaran ini sangat sukar dilakukan kerana sifatnya yang kerap berubah ansur iaitu tiap kali terdapatnya kecacatan yang dikenal pasti, kecacatan ini akan diperbaiki.

## Penggunaan
### Penerapan dalam bahan lucah
Sekitar 96% bahan terbitan teknologi ini yang berleluasa di internet diterapkan dalam bahan lucah yang dihasilkan tanpa kebenaran pelakon atau pemilik rupa, lebih-lebih lagi selebriti wanita. Bahan lucah diterap mula muncul dengan ketara di internet pada tahun 2017 khususnya di Reddit. Teknologi ini mula menarik perhatian khalayak dengan mengolah masuk imej wajah Daisy Ridley dipaparkan pada beberapa laman rencana. Beberapa selebriti yang kerap dijadikan sasaran  jenis ini termasuklah Gal Gadot, Emma Watson, Masie Williams, Taylor Swift dan Scarlett Johansson. Setakat Oktober 2019, kebanyakan subjek sasaran palsuan sebegini di internet merupakan pelakon wanita British dan Amerika Syarikat. Walau bagaimanapun, sesuku subjek tersebut ialah orang Korea Selatan yang kebanyakannya bintang K-pop.

Pada Jun 2019, sebuah perisian boleh muat turun untuk Windows dan Linux yang diberi nama DeepNude telah diterbitkan. Perisian ini menggunakan rangkaian neural, atau lebih khusus lagi rangkaian perseteruan janaan, untuk membuang pakaian di gambar yang memaparkan perempuan. Perisian ini mempunyai dua versi, berbayar dan tanpa bayar. Harga versi berbayar ialah $50. Pada 27 Jun, pembangun perisian terbabit telah menghentikan pengedaran perisian itu dan telah memberikan bayaran balik kepada pengguna.

### Untuk tujuan politik
Teknologi ini turut telah digunakan untuk menyalahgambarkan ahli-ahli politik terkenal dalam video. Dalam video yang berasingan, wajah Presiden Argentina, Mauricio Macri, telah digantikan dengan wajah Adolf Hitler, manakala wajah Angela Merkel telah digantikan dengan wajah Donald Trump. Pada April 2018, Jordan Peele telah bekerja sama dengan Buzzfeed untuk menghasilkan suatu video penggambaran Barack Obama dengan suara Peele bertujuan meningkatkan kesedaran terhadap pengembangan teknologi ini serta kemungkinan penyalahgunaan ia. Pada Januari 2019, saluran Fox KCPQ menyiarkan sebuah video di mana adanya palsuan yang menggunakan riak wajah Trump semasa ucapan Pejabat Bujurnya. Dalam video tersebut, perawakan dan warna kulitnya telah diperolokkan.

Pada Mei 2019, Speaker Dewan Perwakilan Amerika Syarikat Nancy Pelosi menjadi sasaran dua buah video tular yang dihasilkan di mana salah satunya diperlahankan sehingga hanya 75 peratus kelajuan asal agar kedengaran seakan "mabuk" manakala yang lainnya terdiri daripada suntingan ucapannya ketika sidang akhbar untuk sebuah segmen Fox News, *[[Lou Dobbs Tonight]].* Kedua-dua video tersebut betujuan menunjukkan bahawa kononnya Pelosi berkata-kata secara tidak jelas. Presiden Donald Trump berkongsi video Pelosi tersebut sambil menambahkan keterangan yang mendakwa Pelosi dalam keadaan tidak mampu membawa diri bertutur dengan baik. Video-video ini dipaparkan dalam banyak saluran akhbar terkemuka yang mengakibatkan Jawatankuasa Risikan Rumah Amerika Syarikat mengambil tahu akan palsuan tulemn.

### Dalam bidang lakonan
Terdapat agakan mengenai penggunaan teknologi ini dalam penghasilan pelakon digital dalam wayang akan datang. Manusia yang telah dibina/diubah secara digital telah pun digunakan dalam wayang dan deepfake memungkinkan pembangunan baharu dalam masa terdekat. Pembangunan teknologi begini dalam peringkat amatur telah pun digunakan untuk meletakkan wajah dalam wayang sedia ada seperti pemasukan wajah Harrison Ford ketika muda pada wajah Han Solo dalam . Kaedah yang serupa turut digunakan dalam pelakonan Puteri Leia dalam *[[Rogue One]].*

## Kebimbangan

### Penipuan
 diterapkan bunyi telah digunakan dalam penipuan pengendalian sosial dengan menggunakan rupa seseorang yang dipercayai untuk berpura-pura memberikan arahan kepada orang-orang tertentu. Pada tahun 2019, seorang ketua pegawai eksekutif sebuah firma yang berpangkalan di UK telah tertipu apabila diarahkan untuk memindahkan €220,000 ke sebuah akaun bank Hungary oleh seseorang yang menggunakan palsuan jenis ini sebagai suatu kaedah menyama suara pegawai eksekutif syarikat induk firma tersebut. Pelaku perbuatan tersebut dilaporkan telah membuat panggilan telefon sebanyak tiga kali dan meminta bayaran kedua namun ditolak permintaannya apabila CEO tersebut menyedari nombor telefon pemanggil itu merupakan nombor Austria manakala wang itu tidak dibayar balik seperti yang diberitahu.

### Kesan terhadap kebolehpercayaan dan ketulenan
Keberadaan deepfake membuatkan penentuan sama ada satu-satu video itu merupakan suatu satira atau tulen semakin sukar. Pengkaji AI, Alex Champandard, telah mengatakan bahawa orang ramai sepatutnya tahu betapa pantasnya sesuatau perkara itu boleh dicemarrosakkan oleh teknologi ini. Malahan masalah ini bukan hanya bersifat teknikal, bahkan merupakan permasalahan yang harus diselesaikan oleh kepercayaan dalam maklumat dan kewartawanan. Masalah tersembunyi yang utama ialah kemeruduman manusia ke dalam zaman yang mana suatu kandungan itu telah sukar dikenal pasti kesahannya.

Persamaan dengan perihal tersebut, Hao Li, seorang profesor madya sains komputer dari Universiti California Selatan menyatakan bahawa pemalsuan yang dicipta untuk kegunaan hasad (cth. berita palsu) akan menjadi lebih berbahaya jikalau tiada tindakan yang dilaksanakan untuk meningkatkan kesedaran masyarakat tentang teknologi ini. Li membuat ramalan mengenai keadaan yang mana video tulen dan video deepfake tidak dapat dibezakan antara satu sama lain seawal setengah tahun kemudian, setakat Oktober 2019, lantaran kemajuan pesat kepintaran buatan dan grafik komputer.

## Tindak balas

### Pengesanan
Kebanyakan kajian ilmiah berkenaan teknologi ini bertujuan mencari video yang terubah. Kaedah yang paling terkenal ialah penggunaan algoritma yang mirip dengan algoritma yang digunakan untuk membangunkan *deepfake* sebagai kaedah pengesanannya. Ketidaktekalan tidak ketara mampu dikenal pasti oleh algoritma melalui pengecaman corak penciptaan *deepfake*. Pengkaji telah membangunkan sebuah sistem kendiri yang memeriksa video untuk mengenal pasti ralat-ralat seperti corak kedipan pencahayaan yang tidak teratur. Kaedah ini juga telah menerima kritikan kerana mencipta keadaan "Gawang Gol Bergerak" iaitu semakin baik algoritma pengesanan berjalan, semakin baik pula palsuan sebegini mengelak pengesanan. Cabaran Mengesan Pemalsuan Wajah (*The Deepfake Detection Challenge*) yang dianjurkan oleh campuran beberapa syarikat tekonologi terkemuka mempunyai harapan memacu teknologi pengenalpastian kandungan yang telah dimanipulasi.

Kaedah lain menggunakan blok rantai untuk menentusahkan sumber bahantara. Video perlu disahkan melalui sebuah lejar sebelum dipaparkan di pelantar media sosial. Teknologi ini akan mengurangkan penyebaran bahantara ini dengan hanya meluluskan video daripada sumber yang dipercayai.

### Selebriti
Pelakon Amerika Syarikat Scarlett Johansson  kerap menjadi sasaran bahan lucah diterapkan teknologi sedemikian bercakap secara umum mengenai hal tersebut dalam suatu lidah pengulas akhbar *[[The Washington Post]]* pada Disember 2018. Dalam suatu kenyataan yang disediakannya, beliau meluahkan bahawa tidak akan ada cubaan menghapuskan mana-mana video yang diolah mempergunakan mukanya atas alasan imej umumnya tidak akan terjejas dan terdapat undang-undang merentas negara yang bercanggah di samping sifat budaya internet mengakibatkan apa-apa usaha yang dilakukan hanya akan mendatangkan kegagalan biarpun terdapat kebimbangan. Beliau turut menyatakan kepercayaannya bahawa walaupun selebriti yang cukup terkenal sepertinya terlindung daripada ancaman deepfake, masih terdapat ancaman-ancaman bagi mereka yang kurang terkenal yang boleh dirosakkan maruah mereka oleh penggambaran rupa mereka dalam bahan lucah deepfake tanpa kebenaran atau pelucahan dendam.

### Tindak balas internet
Pada Februari 2018, Pornhub menyatakan bahawa sebarang video menerapkan pemalsuan ini akan diharamkan di tapaknya kerana video ini melibatkan “kandungan tanpa kebenaran” yang melanggar terma perkhidmatan. Sebelum itu, Pornhub ada menyatakan kepada Mashable bahawa kandungan yang ditandai atau dilaporkan sebagai *deepfake* akan dialih keluar. Penulis daripada Motherboard daripada Berita BuzzFeed melaporkan bahawa gelintaran “deepfakes” di Pornhub masih menunjukkan beberapa video terkini menggunakan pengolahan ini.

Dalam bulan yang sama, wakil daripada Twitter menyatakan bahawa mereka akan menggantung akaun yang disyaki menghantar kandungan diolah muka tanpa kebenaran. Tapak pengehosan GIF, Gfycat, dan tapak sembang, Discord, juga membuat perancangan untuk mengharamkan kandungan seumpama daripada pelantar masing-masing. Di Reddit, subreddit r/deepfakes telah diharamkan pada 7 Februari 2018 kerana pelanggaran polisi "bahan lucah tanpa kebenaran". Pada September 2018, Google menambah "imejan lucah tiruan tanpa kebenaran” ke dalam senarai pengharamannya untuk membenarkan sesiapa pun memohon penyekatan hasil carian yang memaparkan gambar bogel palsunya.

Facebook ada menyatakan bahawa mereka tidak akan mengalih keluar teknologi ini daripada pelantar mereka. Sebaliknya, video tersebut akan dilaporkan sebagai palsu oleh pihak ketiga dan dikurangkan keutamaannya dalam suapan pengguna. Tindak balas ini dikeluarkan pada Jun 2019 apabila sebuah palsuan tulen memaparkan video Mark Zuckerberg pada tahun 2016 tersebar di Facebook dan Instagram.

### Tindak balas undang-undang
Di Amerika Syarikat, terdapat beberapa maklum balas mengenai masalah yang diakibatkan oleh teknologi ini. Pada tahun 2018, Akta Pelarangan Palsu Tulen Hasad (*Malicious Deep Fake Prohibition Act*) telah dikemukakan kepada Senat AS, manakala pada tahun 2019, Akta Kebertanggungjawapan Deepfake (*DEEPFAKES Accountability Act*) telah dikemukakan kepada Dewan Perwakilan. Beberapa negeri turut mengemukakan undang-undang berkenaan teknologi ini termasuk Virginia, Texas, California, dan New York. Pada 3 Oktober 2019, gabenor California, Gavin Newsom, menandatangani kelulusan rang undang-undang No. 602 dan No. 730. Rang undang-undang No. 602 memberikan orang perseorangan yang menjadi sasaran kandungan deepfake seks yang eksplisit yang dihasilkan tanpa kebenarannya sebuah kuasa tindakan terhadap pencipta kandungan tersebut. Rang undang-undang No. 730 melarang pengedaran bahantara audio atau video bersifat jahat yang menyasarkan seorang calon yang mempertandingkan jawatan awam dalam linkungan 60 hari pemilihannya.

Di United Kingdom, pembikin bahantara ubu boleh didakwa atas sebab gangguan, namun terdapat juga permintaan menjadikan penghasilan *deepfake* ini suatu jenayah yang khusus; di Amerika Syarikat pula, dakwaan ini selalunya dianggap dalam linkungan jenayah  pencurian identiti, intai siber dan pelucahan dendam. Begitupun, terdapat usaha untuk membincangkan statut yang lebih tuntas.

## Rujukan

## Pautan luar

* 
* deepnude