Deepfake

Deepfake (portmanteau zo slov „deep learning“ a „fake“) je syntetické médium, ktoré bolo digitálne upravené tak, aby presvedčivo nahradilo osobu výzorom alebo hlasom iného človeka. Deepfake využíva metódy strojového učenia a umelej inteligencie na manipuláciu alebo generovanie vizuálneho a zvukového obsahu, ktorý má vyvolať dojem, že ide o inú osobu na danej nahrávke či zázname než v skutočnosti. Hlavné metódy strojového učenia používané na tvorbu deepfake sú založené na hlbokom učení (tzv. deep learning) a zahŕňajú trénovanie generatívnych neurónových sietí, ako sú autoenkódery alebo generatívne antagonické siete. Naopak oblasť forenznej analýzy obrazu vyvíja techniky na detekciu manipulovaných obrázkov.
Proces tvorby.
Deepfake je možné vytvoriť vytrénovaním modelu umelej inteligencie na základe veľkého množstva existujúcich fotografií alebo nahrávok s cieľovou osobou. Tieto dáta sa použijú na trénovanie strojových učiacich sa modelov. Učiace sa modely, najčastejšie konvolučné neurónové siete pre videá alebo rekurentné neurónové siete pre zvuk, sa trénujú na analýzu a reprodukciu charakteristík tváre alebo hlasu cieľovej osoby. Po trénovaní modelu možno vytvoriť deepfake obsah tým, že sa modelu poskytnú vstupné dáta (napríklad fotografia tváre alebo zvuková nahrávka) a nechá sa vytvoriť odpovedajúci obsah, ktorý simuluje tvár alebo hlas cieľovej osoby. Ak ide o deepfake tváre, je nutné resp. minimálne sa odporúča zbaviť sa čo najviac fotiek, ktoré sú rozmazané pri pohybe. Deepfake môže byť následne doladený, aby bol výsledok ešte presnejší a autentickejší. To môže zahŕňať napríklad úpravy farieb, osvetlenia, zaostrenia tváre, prípadne úpravy hlasitosti. Najlepší výsledok, ak ide o deepfake tváre, sa dosiahne vtedy, ak človek na zázname, ktorého tvár nahradzujeme, má v tvári spoločné črty s človekom, ktorého tvár má byť vymenená.
Význam.
Deepfake získal veľkú pozornosť médií a predstaviteľov mnohých štátov hlavne kvôli ich potenciálnemu využitiu pri tvorbe detskej pornografie, pornografických videí s celebritami, falošných správ, kyberšikany, či finančných alebo iných druhov podvodov. Šírenie dezinformácií a nenávisti prostredníctvom tohto média má potenciál podkopať základné funkcie a normy demokratických systémov tým, že zasahuje do schopnosti ľudí účastniť sa rozhodovania, určovať kolektívne agendy a vyjadrovať politickú vôľu prostredníctvom informovaného rozhodovania. Toto všetko vyvolalo reakcie, či už zo strany priemyslu alebo alebo zo strany vlád, aby detegovali a obmedzili použitie deepfakeu. Vlády mnohých štátov si zároveň určili ako prioritu zabezpečenie vzdelávania a rozširovania povedomia svojich občanov o existencii takéhoto média, čím ich zároveň učia deepfake rozpoznávať.
Deepfake sa však aj používa aj ako prvok v oblasti zábavy v rôznych neziskových experimentoch, audiovizuálnych experimentoch, komerčných filmoch, edukačných videách až po politickú satiru. Technológia deepfake musí byť vo všetkých prípadoch priznávaná a nemôže sa považovať za skutočnú udalosť, či skutočnú osobu. Deepfake bol napríklad použitý vo filme "Indiana Jones a nástroj osudu" (2023), kedy touto technológiou digitálne omladili herca Harrisona Forda.