డీప్ ఫేక్

'డీప్ ఫేక్'అంటే డీప్ లెర్నింగ్-ఫేక్ ఒక సింథటిక్ మీడియా. ఇవి ఒక వ్యక్తి, పోలికను మరొక వ్యక్తి పోలికలతో నమ్మదగిన విధంగా భర్తీ చేయడానికి డిజిటల్ విధానం ద్వారా తారుమారు చేస్తాయి. అంటే, ముఖరూపాన్ని తారుమారు చేస్తాయి. 'డీప్ ఫేక్' యంత్ర అభ్యాసం, కృత్రిమ మేధస్సు నుండి శక్తివంతమైన పద్ధతులను ప్రభావితం చేసి, దృశ్య, శ్రవణ విషయాలు, విషయాన్ని (కంటెంట్) సులభంగా తారుమారు చేయగలవు. ఈ విధంగా రూపొందించడానికి ఉపయోగించే ప్రధాన మెషిన్ లెర్నింగ్ (యంత్ర అభ్యాస) పద్ధతులు లోతైన అభ్యాసం (డీప్ లెర్నింగ్) పై ఆధారపడి ఉంటాయి. ఆటోఎన్కొడర్స్ లేదా జనరేటివ్ అడ్వర్సేరియల్ నెట్వర్క్లు వంటి జనరేటివ్ న్యూరల్ నెట్వర్క్ ఆర్కిటెక్చర్లకు శిక్షణ ఇస్తాయి. ఇమేజ్ ఫోరెన్సిక్ రంగం తారుమారు చేసిన చిత్రాలను గుర్తించే పద్ధతులను అభివృద్ధి చేస్తుంది.

డీప్‌ ఫేక్ అనేది ఒక చిత్రం లేదా దృశ్య లేదా శ్రవణ రికార్డింగ్. ఇది అసలైన వ్యక్తిని మరొకరితో (ముఖ్యంగా పబ్లిక్ ఫిగర్) భర్తీ చేయడానికి అల్గారిథమ్‌ని ఉపయోగించి సవరించబడింది, తద్వారా అది ప్రామాణికమైనదిగా, నిజంగా కనిపిస్తుంది. డీప్‌ఫేక్‌లో నకిలీ పారదర్శకంగా ఉంటుంది: డీప్‌ఫేక్‌లు నిజమైనవి కావు. డీప్ అన్న ఈ సగం పదం స్వీయ-వివరణ, లోతైనది. ప్రత్యేకంగా మెషిన్ లెర్నింగ్ (లోతైన అభ్యాసం) ద్వారా అంటే, అల్గారిథమ్‌ల బహుళ పొరలతో కృత్రిమ న్యూరల్ నెట్‌వర్క్‌లను ఉపయోగించి ప్రభావితమవుతుంది.“Deepfake.” Merriam-Webster.com Dictionary, Merriam-Webster, https://www.merriam-webster.com/dictionary/deepfake. Accessed 9 Dec. 2023.

వినోదం నుండి గేమింగ్ వరకు డీప్ ఫేక్ సాంకేతిక మరింతగా అభివృద్ధి చెందింది, అయితే వినోదం, మీడియా పరిశ్రమలకు ఇదే సాంకేతికత అంతరాయం కలిగిస్తోంది. మోసాలు, లైంగిక వేధింపుల విషయాలను సృష్టించడంలో డీప్‌ఫేక్‌లు విస్తృతంగా దృష్టిని ఆకర్షించాయి - ప్రముఖుల అశ్లీల వీడియోలు - ప్రతీకార నకిలీ వార్తలు, నకిలీ బెదిరింపులు, ఆర్థిక మోసం, ద్వారా తప్పుడు సమాచారం, ద్వేషపూరిత ప్రసంగం వ్యాప్తి చెందడం, ప్రజాస్వామ్య వ్యవస్థల ప్రధాన విధులు, నిబంధనలను అణగదొక్కగలగడం వంటి అభిప్రాయాలను కలగచేస్తోంది.. నిర్ణయాలను ప్రభావితం చేసే తప్పుడు సమాచారం అంద చేయడం,  సమాచార దుర్వినియోగం వలన పరిశ్రమ, ప్రభుత్వం రెండింటి నుండి ప్రతిస్పందనలను పొందింది.

 చరిత్ర 
ఫోటో మానిప్యులేషన్ 19వ శతాబ్దంలో అభివృద్ధి చేయబడింది. 20వ శతాబ్దంలో సాంకేతికత క్రమంగా మెరుగుపడింది, డిజిటల్ వీడియో రాకతో మరింత వేగంగా అభివృద్ధి చెందింది. డీప్‌ఫేక్ సాంకేతికతను 1990లలో ప్రారంభించిన విద్యాసంస్థల పరిశోధకులు, తర్వాత ఆన్‌లైన్ కమ్యూనిటీలలోని ఔత్సాహికులు అభివృద్ధి చేశారు. ఇటీవల పరిశ్రమలు ఈ పద్ధతులను అవలంబిస్తున్నాయి. డీప్‌ఫేక్‌లకు సంబంధించిన విద్యా పరిశోధన కంప్యూటర్ విజన్, కంప్యూటర్ సైన్స్ కి ఉప-రంగం, డీప్‌ఫేక్‌లను సృష్టించడం, గుర్తించడం కోసం సాంకేతికతలను అభివృద్ధి చేస్తుంది. మానవీయ, సాంఘిక శాస్ట్రాలు సామాజిక, నైతిక, సౌందర్యపరమైన ప్రభావాలను అధ్యయనం చేస్తాయి.

డీప్‌ఫేక్స్ అనే పదం 2017 చివరిలో "డీప్‌ఫేక్స్" అనే రెడ్డిట్ (ఒక అమెరికన్ సోషల్ న్యూస్ అగ్రిగేషన్, కంటెంట్ రేటింగ్, చర్చా వెబ్‌సైట్) వినియోగదారు నుండి ఉద్భవించింది. ఆ కమ్మూనిటీలో వారు సృష్టించిన డీప్‌ఫేక్‌లను పంచుకున్నారు; అనేక వీడియోలలో నటీమణుల శరీరాలపైకి సెలబ్రిటీల ముఖాలను మార్చారు,  అయితే నటుడు నికోలస్ కేజ్ ముఖాన్ని వివిధ సినిమాల్లోకి మార్చుకున్న అనేక వీడియోలు ఉన్నాయి.
 ఉదంతాలు 
వీడియోలలో పేరున్న రాజకీయ నాయకులను తప్పుగా చూపించడానికి, నటీమణులను అపఖ్యాతి పాలు చేయడానికి డీప్‌ఫేక్‌ సాంకేతిక ఉపయోగించిన ఉదంతాలు ఎన్నో ఉన్నాయి. కొన్ని ఉదాహరణకి -

 2018లో, ప్రత్యేక వీడియోలలో, అర్జెంటీనా అధ్యక్షుడు మారిసియో మాక్రి ముఖం అడాల్ఫ్ హిట్లర్ ముఖంతోను, ఏంజెలా మెర్కెల్ ముఖం డోనాల్డ్ ట్రంప్‌తో మార్చారు.
 2020 US అధ్యక్ష ఎన్నికల ప్రచారంలో, జో బిడెన్ అభిజ్ఞా క్షీణతలో ఉన్నట్లు అనేక నకిలీ వీడియోలు బయటపడ్డాయి. ఒక ఇంటర్వ్యూలో నిద్రపోవడం, దారితప్పిపోవడం, తప్పుగా మాట్లాడటం వంటి సంఘటనలు ఆ పుకార్లను బలపరిచాయి.
 2020 ఢిల్లీ శాసనసభ ఎన్నికల ప్రచారంలో, ఢిల్లీ భారతీయ జనతా పార్టీ హర్యానా ఓటర్లను లక్ష్యంగా చేసుకునేందుకు ఆ పార్టీ నాయకుడు మనోజ్ తివారీ ఆంగ్ల భాషా ప్రచార ప్రకటనను హర్యానావిలోకి అనువదించబడిన సంస్కరణను పంపిణీ చేయడానికి ఇదే సాంకేతికతను ఉపయోగించింది. ఒక నటుడు తన స్వరాన్ని అందించాడు. కొత్త స్వరానికి వీడియోను పెదాల కదలికకు అనుగుణంగా (లిప్-సింక్) చేయడానికి తివారీ ప్రసంగాల వీడియోను ఉపయోగించి శిక్షణ పొందిన AI ఉపయోగించబడింది. పార్టీ స్టాఫ్ సభ్యుడు దీనిని డీప్‌ఫేక్ సాంకేతికత "సానుకూల" ఉపయోగంగా అభివర్ణించారు, ఇది "అభ్యర్థి ఓటరు భాష మాట్లాడకపోయినా ప్రేక్షకులను ఒప్పించగలిగేలా" అలరించింది.
 2020లో, బ్రూనో సార్టోరి, జైర్ బోల్సోనారో, డొనాల్డ్ ట్రంప్ వంటి రాజకీయ నాయకులను అనుకరిస్తూ డీప్‌ఫేక్‌లను రూపొందించారు.
 2022లో రష్యా ఉక్రెయిన్‌పై దాడి చేసిన తర్వాత మోసపూరిత AI- రూపొందించిన కంటెంట్ వ్యాప్తి చెందడం ప్రారంభమైంది. ఉక్రేనియన్ అధ్యక్షుడు వోలోడిమిర్ జెలెన్స్కీ ఉక్రేనియన్లను లొంగిపోవాలని ఆదేశించినట్లుగా మార్చబడిన వీడియో కనిపించింది.thumb|పోప్ ఫ్రాన్సిస్ పఫర్ జాకెట్ ధరించిన నకిలీ మిడ్‌జర్నీ-సృష్టించబడిన చిత్రం
 2023 మార్చిలో, చికాగోకు చెందిన ఒక అజ్ఞాత నిర్మాణ కార్మికుడు మిడ్‌జర్నీని ఉపయోగించి తెల్లటి బాలెన్‌సియాగా పఫర్ జాకెట్‌లో పోప్ ఫ్రాన్సిస్ నకిలీ చిత్రాన్ని రూపొందించాడు. ఈ చిత్రం వైరల్‌గా మారి ఇరవై మిలియన్లకు పైగా వీక్షణలు వచ్చాయి."Pope Francis in Balenciaga deepfake fools millions: 'Definitely scary'". New York Post. 28 March 2023. Retrieved 16 June 2023.
 2023 మేలో, అమెరికా వైస్ ప్రెసిడెంట్ కమలా హారిస్ ఈ రోజు, రేపు, నిన్నటి గురించి అర్ధంలేని విధంగా మాట్లాడిన మాటలు డీప్‌ఫేక్ వీడియో సామాజిక మాధ్యమాలలో వైరల్ అయింది.
 బాలీవుడ్ నటీమణులు అలియా భట్, ప్రియాంక చోప్రా, కత్రినా కైఫ్, రష్మిక మందన తర్వాత, దిగ్గజ వ్యాపారవేత్త రతన్ టాటా డీప్‌ఫేక్ టెక్ తాజా బాధితులు అయ్యారు. ఈ టాటా గ్రూప్ మాజీ ఛైర్మన్ ఇటీవల ఇన్‌స్టాగ్రామ్ స్టోరీస్‌లోకి వెళ్లి పెట్టుబడి సలహాను నకిలీ అని చూపించిన వీడియోను ఖండించాడు. ఈ వీడియోను సోనా అగర్వాల్ అనే ఇన్‌స్టాగ్రామ్ వినియోగదారు అప్‌లోడ్ చేసాడు. బిలియనీర్ తన అనుచరులకు “రిస్క్ లేని పెట్టుబడులను అతిశయోక్తిగా పెంచడానికి చేయడానికి ఒక మిలియన్లో అవకాశాన్ని అందిస్తున్నట్లు చూపించాడు.
 ప్రధాని మోదీ ఓ పాట పాడినట్టు డీప్ ఫేక్ వీడియో ఇటీవలే వైరల్ గా మారింది.
 2023లో తెలంగాణలో అసెంబ్లీ ఎన్నికల రోజున, వివిధ సోషల్ మీడియా ప్లాట్‌ఫారమ్‌లలో ఓటర్ల ప్రవర్తనను ప్రభావితం చేయడానికి పెద్ద సంఖ్యలో డీప్‌ఫేక్‌లు వెలువడ్డాయి. వీటిని పెద్ద ఎత్తున భాగస్వామ్యం చేయడం జరిగింది. ఒక సెకనులో, ఇది చాలా మంది ఓటర్ల మనస్సులను ప్రభావితం చేయడానికి దావానంలా వ్యాపించింది. మధ్యప్రదేశ్ రాష్ట్రంలో కూడా అందుకు భిన్నంగా ఏమీ లేదు.

 గుర్తింపు చర్యలు 
మసాచుసెట్స్ ఇన్స్టిట్యూట్ ఆఫ్ టెక్నాలజీ, స్కూల్ ఆఫ్ ఆర్కిటెక్చర్ + ప్లానింగ్ సంస్థ వారు ఈ డీప్ ఫేక్ ను ఎదుర్కునే విషయం గురించి పరిశోధనలు నిర్వహిస్తున్నారు. కృత్రిమమేధతో రూపొందించిన డీప్ ఫేక్ వీడియోలు, సాధారణ వీడియోల వ్యత్యాసాన్ని వివరించేందుకు 'డిటెక్ట్ ఫేక్స్ (Detect Fakes) ' అను అంతర్జాల వేదిక (వెబ్ సైట్) ను ఏర్పాటు చేసారు. ఇది AI- రూపొందించిన తప్పుడు సమాచారాన్ని ఎదుర్కోవడానికి సాంకేతికతలను గుర్తించడానికి రూపొందించబడిన పరిశోధన ప్రాజెక్ట్. వీడియో అల్గారిథమిక్‌గా తారుమారు చేయబడిందని తెలియచేసే అనేక సూక్ష్మ సంకేతాలు ఉన్నాయని తేలింది. కాగ్లే డీప్‌ఫేక్ డిటెక్షన్ ఛాలెంజ్ (DFDC) నకిలీలను గుర్తించే అల్గారిథమ్ రూపకల్పన చేస్తోంది. కొంత తేడాలను గమనించారు.

 ముఖంలో: హై-ఎండ్ డీప్‌ఫేక్ వలన జరిగిన తారుమారు (మానిప్యులేషన్‌) లు దాదాపు ఎల్లప్పుడూ ముఖ పరివర్తనలు కనపడుతాయి (facial transformations).
 బుగ్గలు, నుదురు: చర్మం చాలా మృదువుగా లేదా చాలా ముడతలుగా కనిపిస్తుందా? వెంట్రుకలు, కళ్ల వృద్ధాప్యానికి తగినట్లుగా చర్మం వయస్సు ఉందా? డీప్‌ఫేక్‌లు కొన్ని కోణాలలో అసంగతంగా ఉండవచ్చు.
 కళ్ళు, కనుబొమ్మలు: శ్రద్ధగా గమనిస్తే మీరు అనుకున్న ప్రదేశాలలో నీడలు కనిపిస్తాయా? డీప్‌ఫేక్స్ సహజమైన భౌతిక లక్షణాలను, రూపాన్ని పూర్తిగా సూచించడంలో విఫలం కావచ్చు.
 అద్దాలపై శ్రద్ధగా చూసినప్పుడు ఏదైనా చాలా మెరుపు ఉందా? వ్యక్తి కదిలినప్పుడు కాంతి కోణం మారుతోందా? అని గమనించాలి ఎందుకంటే డీప్‌ఫేక్స్ లైటింగ్ సహజ భౌతిక లక్షణాలను పూర్తిగా సూచించడంలో విఫలం కావచ్చు.
 ముఖ వెంట్రుకలను లేదా అవి లేకపోవడం అనేది గమనించవచ్చు. ఈ ముఖ వెంట్రుకలు నిజమేనా? డీప్‌ఫేక్స్ మీసం, సైడ్‌బర్న్‌లు లేదా గడ్డాన్ని జోడించవచ్చు లేదా తీసివేయవచ్చు. కానీ, డీప్‌ఫేక్స్ ముఖ వెంట్రుకలను సహజంగా చూపడంలో విఫలం కావచ్చు.
 ముఖ పుట్టుమచ్చలని సూక్ష్మంగా గమనిస్తే పుట్టుమచ్చ నిజమేనా? అన్నది తెలియవచ్చు.
 రెప్పవేయడం కూడా చూస్తే వ్యక్తి తగినంతగా లేదా ఎక్కువగా రెప్ప వేస్తున్నారా అన్నది పరిగణలోకి తీసుకోవచ్చు?
 పెదవుల కదలికలను శ్రద్ధగా చూస్తే కూడా. కొన్ని డీప్‌ఫేక్‌లు పెదవి సమకాలీకరణ (synch) పై ఆధారపడి ఉంటాయి. పెదవుల కదలికలు సహజంగా కనిపిస్తున్నాయా? అని చూడాలి.

 ఆందోళనలు, అభిప్రాయాలు 
దేశంలో అలజడి సృష్టిస్తున్న డీప్ ఫేక్ వీడియోలపై రాష్ట్రపతి ద్రౌపది ముర్ము ఆందోళన వ్యక్తం చేసారు. నేరస్థులు కృత్రిమ మేధ (ఆర్టిఫిషియల్ ఇంటెలిజన్స్) ను, డీప్‌ఫేక్ వీడియోలు, ఫోటోల సమస్యని రాష్ట్రపతి ద్రౌపది మూర్ము ప్రస్తావిస్తూ, పోలీసు అధికారులు నిరంతరం టెక్నాలజీ రంగంలో అప్‌డేట్‌గా ఉండాలని సూచించారు. రాష్ట్రపతి భవన్‌లో శనివారం తనను కలిసిన 2022 బ్యాచ్ ఐపిఎస్ ప్రొబేషనర్లనుద్దేశించి ఆమె మాట్లాడుతూ పోలీసు బలగాలకు సైబర్ నేరాలు, డ్రగ్స్ ముఠాలు, వామపక్ష తీవ్రవాదం, ఉగ్రవాదం లాంటి అనేక సవాళ్లు ఉన్నాయన్నారు.‘ కొత్త టెక్నాలజీ, సోషల్ మీడియా ప్రవేశంతో పరిస్థితులు శరవేగంగా మారిపోతున్నాయి. ప్రత్యుత్పత్తి చేయగల కృత్రిమ మేధను క్రిమినల్స్ ఉపయోగించడం, డీప్ ఫేక్ లాంటి సమస్యలు వెలుగు చూస్తున్నాయి’ అని రాష్ట్రపతి అన్నారు. మహారాష్ట్రలో జరిగిన రాష్ట్రసంత్ తుకడోజీ మహారాజ్ నాగపూర్ విశ్వవిద్యాలయం 111వ స్నాతకోత్సవ సభలో కృత్రిమ మేధ మన జీవనాన్ని సులభతరం చేస్తోంది, కానీ డీప్ ఫేక్ వీడియోలు సమాజానికి ముప్పుగా మారాయి, నైతిక విలువలతో కూడిన విద్యయే దీనికి పరిష్కారము" అని అన్నారు.

ఇటీవలే  ప్రధాని మోదీ, డీప్ ఫేక్ వీడియోల గురించి ప్రస్తావిస్తూ అందులో తాను పాట పాడుతున్నట్టుగా ఉందన్నారు. డీప్ ఫేక్ వీడియోలు భారత వ్యవస్థకు పెనుముప్పుగా మారాయన్నారు. అటువంటి పోకడలు సమాజంలో గందరగోళానికి దారి తీస్తున్నాయని ఆందోళన వ్యక్తం చేశారు.

ఇదిలా ఉంటే రష్మిక మందన్న డీప్ ఫేక్ వీడియో పైన బీఆర్ఎస్ ఎమ్మెల్సీ కల్వకుంట్ల కవిత స్పందించారు. ఆన్లైన్లో అత్యంత సులువుగా వ్యాప్తి చెందుతున్న మానిప్యులేషన్ కు ఇది ఒక హెచ్చరిక వంటిదని పేర్కొన్న ఎమ్మెల్సీ కవిత దీనిపై తీవ్ర ఆందోళన వ్యక్తం చేశారు.

డీప్‌ఫేక్‌లను “ప్రజాస్వామ్యానికి కొత్త ముప్పు” అని పేర్కొంటూ, డీప్‌ఫేక్‌లు తప్పుడు సమాచారాన్ని పరిష్కరించడానికి ప్రభుత్వం “స్పష్టమైన, కార్యాచరణ ప్రణాళిక”తో ముందుకు వస్తుందని కేంద్ర సమాచార సాంకేతిక మంత్రి అశ్విని వైష్ణవ్ అన్నారు. "ఈ ప్రణాళికలో నాలుగు కీలక స్తంభాలు ఉంటాయి: డీప్‌ఫేక్‌లను గుర్తించడం, వాటి వైరల్‌లను తొలగించడం లేదా తగ్గించడం ద్వారా వాటి నివారణ, రిపోర్టింగ్ మెకానిజమ్‌లను బలోపేతం చేయడం ఇంకా  సాంకేతికతపై అవగాహన కల్పించడం. అయితే, ఈ సాంకేతికతను సరైన పద్ధతిలో ఉపయోగించినప్పుడు, ఇది ప్రయోజనకరంగా ఉంటుంది, లేకపోతే ఇది సమాజంపై పెద్ద ప్రతికూల ప్రభావాలను చూపుతుంది. డీప్‌ఫేక్‌లు వ్యక్తి లేదా సంస్థాగత స్థాయిలో హానికరమైన, మోసపూరిత,  విధ్వంసక సామర్థ్యాన్ని కలిగి ఉంటాయి. ఈ సాంకేతికతను దుర్వినియోగం చేయడం వల్ల పెద్ద సంఖ్యలో మానసిక, ఆర్థిక,  సామాజిక ప్రమాదాలు తలెత్తుతాయి."

 నియంత్రణ చర్యలు 
డీప్‌ఫేక్‌లను నియంత్రించేందుకు చాలా దేశాలు ప్రయత్నాలు చేస్తున్నాయి. చైనా సైబర్‌స్పేస్ అడ్మినిస్ట్రేషన్ చట్టం డీప్‌ఫేక్ టెక్నాలజీల నియంత్రణను మొదలు పెట్టింది. కెనడియన్ ప్రభుత్వం, ఎన్నికల చట్టం డీప్‌ఫేక్‌లను నిషేధిస్తోంది. ఇటీవల AIని నియంత్రించే ఆన్‌లైన్ భద్రతా చట్టాన్ని ఆమోదించి, యూరోపియన్ యూనియన్ బలమైన చట్టాలను చేస్తోంది. డీప్‌ఫేక్‌ల నియంత్రణకు సంబంధించి యునైటెడ్ స్టేట్స్ ఇంకా ఫెడరల్ చట్టాన్ని ఆమోదించనప్పటికీ, USలోని అనేక రాష్ట్రాలు ఈ విషయంలో ఇప్పటికే చట్టాన్ని ఆమోదించాయి. దక్షిణ కొరియా 2020లో ఒక చట్టాన్ని ఆమోదించింది, ఇది ప్రజా ప్రయోజనాలకు హాని కలిగించే డీప్‌ఫేక్‌లను పంపిణీ చేయడాన్ని చట్టవిరుద్ధంగా గుర్తించింది. నేరస్థులకు భారీ జరిమానా, బందీ చేయడం వంటివి అమలు చేస్తున్నారు. ఈ సంవత్సరం నవంబరులో, ప్రపంచంలోని అనేక దేశాలు బ్లెచ్లీ (Bletchley) డిక్లరేషన్‌ను ఆమోదించాయి. ఈ ప్రకటన ప్రభుత్వాలు, ప్రైవేట్ రంగం, గ్లోబల్ కమ్యూనిటీల భాగస్వామ్య బాధ్యతలను నొక్కిచెప్పింది. భారతదేశంలో కూడా ఎన్నికల నియమాలను సవరించాలి, అంతరాయం కలిగించే AI, డీప్‌ఫేక్‌ల వినియోగాన్ని నేరంగా పరిగణించాలి. త్వరలో పార్లమెంట్‌లో ప్రవేశపెట్టనున్న డిజిటల్ సేవల చట్టం నియంత్రణ ఇంకా డీప్‌ఫేక్‌ల వ్యాప్తికి సంబంధించి కఠినమైన నిబంధనలను కలిగి ఉంటుందని భావిస్తున్నారు. నియంత్రణ బాధ్యత ప్రభుత్వాలు, సంస్థలు, మనలో ప్రతి ఒక్కరితో సమానంగా ఉంటుందని, అప్పుడే మనకు శక్తివంతమైన ప్రజాస్వామ్యం సిద్ధిస్తుందని అభిప్రాయంవ్యక్తమవుతోంది.

 మూలాలు 

వర్గం:కృత్రిమ మేధస్సు అప్లికేషన్లు
వర్గం:సాంకేతిక వ్యవస్థలు