ডিপফেক

ডিপফেক ( এবং  বা জাল শব্দের একটি মিশ্র শব্দ [portmanteau}}) হলো এমন ছবি, ভিডিও বা অডিও যা উৎপাদনী কৃত্রিম বুদ্ধিমত্তা, এআই-ভিত্তিক সরঞ্জাম বা অডিও-ভিডিও সম্পাদনা সফটওয়্যার ব্যবহার করে সম্পাদনা বা তৈরি করা হয়েছে। এগুলো বাস্তব বা কাল্পনিক ব্যক্তিদের চিত্রিত করতে পারে এবং একে সংশ্লেষিত মাধ্যম হিসেবে গণ্য করা হয়, অর্থাৎ এমন মাধ্যম যা সাধারণত কৃত্রিম বুদ্ধিমত্তা ব্যবস্থার মাধ্যমে বিভিন্ন মিডিয়া উপাদানকে একটি নতুন মিডিয়া আর্টিফ্যাক্টে একত্রিত করে তৈরি করা হয়।

ভ্রান্ত বিষয়বস্তু তৈরির কাজ নতুন নয় হলেও, ডিপফেক অনন্যভাবে মেশিন লার্নিং এবং কৃত্রিম বুদ্ধিমত্তা কৌশলকে কাজে লাগায়, যার মধ্যে রয়েছে মুখমণ্ডল শনাক্তকরণ অ্যালগরিদম এবং কৃত্রিম নিউরাল নেটওয়ার্ক যেমন ভ্যারিয়েশনাল অটোএনকোডার এবং জেনারেটিভ অ্যাডভার্সারিয়াল নেটওয়ার্ক। এর বিপরীতে, ইমেজ ফরেনসিক্স ক্ষেত্রটি কারসাজি করা ছবি শনাক্ত করার জন্য বিভিন্ন কৌশল উদ্ভাবনে কাজ করেছে। ডিপফেকগুলো শিশু যৌন নির্যাতনের সামগ্রী, বিখ্যাত ব্যক্তিদের পর্নোগ্রাফিক ভিডিও, প্রতিশোধ পর্ন, ভুয়া সংবাদ, ধোঁকাবাজি, পরপীড়ন, এবং আর্থিক জালিয়াতির সম্ভাব্য ব্যবহারের কারণে ব্যাপক মনোযোগ আকর্ষণ করেছে।

শিক্ষাবিদরা ডিপফেক অপতথ্য এবং ঘৃণা ছড়ানো, সেইসাথে নির্বাচনে হস্তক্ষেপ করার সম্ভাবনা নিয়ে উদ্বেগ প্রকাশ করেছেন। এর প্রতিক্রিয়ায়, তথ্য প্রযুক্তি শিল্প এবং সরকারগুলো এর ব্যবহার শনাক্ত ও প্রশমিত করার জন্য সুপারিশ ও পদ্ধতি প্রস্তাব করেছে। একাডেমিক গবেষণাগুলো অনলাইনে ডিপফেক সংশ্লিষ্টতা বৃদ্ধির কারণ এবং ডিপফেকের ক্ষতিকর প্রয়োগের বিরুদ্ধে সম্ভাব্য প্রতিরোধমূলক ব্যবস্থা নিয়ে আরও গভীরে অনুসন্ধান চালিয়েছে।

প্রথাগত বিনোদন থেকে শুরু করে গেমিং পর্যন্ত, ডিপফেক প্রযুক্তি ক্রমশ বিশ্বাসযোগ্য এবং জনসাধারণের জন্য সহজলভ্য হয়ে উঠেছে, যা বিনোদন ও মিডিয়া শিল্পে আমূল পরিবর্তনের সুযোগ তৈরি করেছে।

 ইতিহাস 
১৯ শতকে ছবির কারসাজি উদ্ভাবিত হয় এবং শীঘ্রই তা চলচ্চিত্রে প্রয়োগ করা হয়। ২০ শতকে প্রযুক্তির ক্রমাগত উন্নতি ঘটে এবং ডিজিটাল ভিডিও-এর আবির্ভাবে তা আরও দ্রুততর হয়।

১৯৯০-এর দশক থেকে একাডেমিক প্রতিষ্ঠানের গবেষকরা এবং পরবর্তীতে অনলাইন সম্প্রদায়ের শৌখিন ব্যক্তিরা ডিপফেক প্রযুক্তি উদ্ভাবন করেন। অতি সম্প্রতি, এই পদ্ধতিগুলো শিল্পখাতে গৃহীত হয়েছে।

২০১০-এর দশকের মাঝামাঝি সময়ে জেনারেটিভ অ্যাডভার্সারিয়াল নেটওয়ার্ক এর বিকাশ ডিপফেকের বিবর্তনে একটি প্রধান প্রযুক্তিগত মোড় হিসেবে কাজ করে। GANs উচ্চমাত্রার বাস্তবসম্মত জাল ছবি এবং ভিডিও তৈরির অনুমতি দেয়, যা আগের নিয়মতান্ত্রিক পদ্ধতি বা অটোএনকোডার ব্যবহারের তুলনায় অনেক উন্নত ভিজ্যুয়াল মান প্রদান করে এবং আধুনিক ডিপফেক পদ্ধতির ভিত্তি তৈরি করে।

 একাডেমিক গবেষণা 
ডিপফেক সম্পর্কিত একাডেমিক গবেষণা কম্পিউটার বিজ্ঞানের একটি উপ-শাখা কম্পিউটার ভিশন এবং মানবিক ও সমাজবিজ্ঞানের মধ্যে বিভক্ত। কম্পিউটার ভিশন ডিপফেক তৈরি ও শনাক্তকরণের কৌশল তৈরি করে, অন্যদিকে মানবিক ও সমাজবিজ্ঞান এর সামাজিক, নৈতিক, নান্দনিক প্রভাব এবং সাংবাদিকতা ও তথ্যগত প্রভাব নিয়ে অধ্যয়ন করে। এআই সরঞ্জামগুলোর মাধ্যমে উদ্ভাবন ঘটায় ডিপফেকের জনপ্রিয়তা বৃদ্ধির সাথে সাথে, শনাক্তকরণ পদ্ধতি এবং ইন্টারনেটে ডিপফেকের সাথে যুক্ত হওয়ার কারণগুলো নির্ধারণে উল্লেখযোগ্য গবেষণা হয়েছে। দেখা গেছে যে বিনোদন ও শিক্ষা থেকে শুরু করে তীব্র প্রতিক্রিয়া সৃষ্টির জন্য বিভ্রান্তিকর তথ্য ছড়ানো পর্যন্ত বিভিন্ন উদ্দেশ্যে সোশ্যাল মিডিয়া প্ল্যাটফর্ম এবং ইন্টারনেটের অন্যান্য অংশে ডিপফেক উপস্থিত হয়। সোশ্যাল মিডিয়ায় ডিপফেকের বিস্তারের ক্ষেত্রে গবেষণায় কিছু ফাঁক রয়েছে। নেতিবাচকতা এবং আবেগীয় প্রতিক্রিয়া হলো ব্যবহারকারীদের ডিপফেক শেয়ার করার প্রাথমিক চালিকা শক্তি।

বয়স এবং ডিপফেক সম্পর্কিত সাক্ষরতার অভাব হলো এই বিষয়ে যুক্ত হওয়ার আরেকটি কারণ। বয়স্ক ব্যবহারকারী যারা প্রযুক্তিগতভাবে অনভিজ্ঞ হতে পারেন, তারা ডিপফেককে ভ্রান্ত বিষয়বস্তু হিসেবে চিনতে পারেন না এবং এটি সত্য মনে করে শেয়ার করেন। অন্যদিকে, ডিপফেকের বিনোদন মূল্যের সাথে অভ্যস্ত তরুণ ব্যবহারকারীরা এর ভ্রান্ততা সম্পর্কে সচেতন থাকা সত্ত্বেও এটি শেয়ার করার সম্ভাবনা বেশি রাখেন। সফলভাবে ডিপফেক শনাক্ত করার ক্ষেত্রে জ্ঞানীয় ক্ষমতা একটি কারণ হওয়া সত্ত্বেও, যারা ডিপফেক সম্পর্কে সচেতন তারাও যারা জানে না তাদের মতোই সোশ্যাল মিডিয়ায় এটি শেয়ার করার সম্ভাবনা রাখে। ডিপফেক শনাক্তকরণের উপর আলোকপাত করা স্কলারশিপের মধ্যে, সফটওয়্যার-জনিত আর্টিফ্যাক্ট শনাক্ত করার কৌশল ব্যবহার করা ডিপ-লার্নিং পদ্ধতিগুলো একটি ডিপফেককে আসল পণ্য থেকে আলাদা করার ক্ষেত্রে সবচেয়ে কার্যকর বলে প্রমাণিত হয়েছে। ডিপফেকের সক্ষমতার কারণে, এই প্রযুক্তির নিয়ন্ত্রণ এবং সাক্ষরতা নিয়ে উদ্বেগ তৈরি হয়েছে। ডিপফেকের সম্ভাব্য ক্ষতিকর প্রয়োগ এবং জনব্যক্তিত্ব, সুনাম বা বিভ্রান্তিকর বর্ণনা প্রচারের সক্ষমতা হলো এই উদ্বেগের মূল কারণ। কিছু বিশেষজ্ঞের মতে, ডিপফেকের সম্ভাব্য ক্ষতিকর প্রয়োগ তাদের গণতান্ত্রিক সমাজের জন্য একটি সম্ভাব্য বিপদ হিসেবে চিহ্নিত করতে উৎসাহিত করেছে, যা সম্ভাব্য ঝুঁকি কমাতে একটি নিয়ন্ত্রক কাঠামোর মাধ্যমে উপকৃত হবে।

 ডিপফেক সম্পর্কিত সমাজবিজ্ঞান ও মানববিদ্যার দৃষ্টিভঙ্গি 
চলচ্চিত্র গবেষণায়, ডিপফেক দেখায় যে কীভাবে "ডিজিটাল যুগে মানুষের মুখমণ্ডল দ্ব্যর্থতার একটি কেন্দ্রীয় বস্তু হিসেবে আবির্ভূত হচ্ছে"। ভিডিও শিল্পীরা ডিপফেক ব্যবহার করে "কালজয়ী চলচ্চিত্রে নতুন তারকা পারফর্মার যুক্ত করার মাধ্যমে চলচ্চিত্রের ইতিহাসকে কৌতুকপূর্ণভাবে পুনর্লিখন করেছেন"। চলচ্চিত্র গবেষক ক্রিস্টোফার হলিডে বিশ্লেষণ করেছেন যে কীভাবে পরিচিত সিনেমার দৃশ্যে পারফর্মারদের লিঙ্গ ও জাতি পরিবর্তন করা লিঙ্গীয় শ্রেণিবিন্যাস ও বিভাগগুলোকে অস্থিতিশীল করে। ডিপফেককে "কুয়ারিং" করার ধারণাটি অলিভার এম. গিংরিচের লিঙ্গ পুনর্গঠনে ডিপফেক ব্যবহারকারী মিডিয়া শিল্পকর্মের আলোচনায় উঠে এসেছে, যার মধ্যে ব্রিটিশ শিল্পী জেক এলওয়েসের জিজি: কুয়ারিং দ্য ডেটাসেট অন্তর্ভুক্ত, যা ইচ্ছাকৃতভাবে লিঙ্গ নিয়ে খেলার জন্য ড্র্যাগ কুইনদের ডিপফেক ব্যবহার করে। ডিপফেকের নান্দনিক সম্ভাবনাগুলোও অন্বেষণ করা শুরু হয়েছে। থিয়েটার ইতিহাসবিদ জন ফ্লেচার উল্লেখ করেছেন যে ডিপফেকের প্রাথমিক প্রদর্শনীগুলো পারফরম্যান্স হিসেবে উপস্থাপন করা হয় এবং তিনি এগুলোকে থিয়েটারের প্রেক্ষাপটে স্থাপন করে একটি পারফরম্যান্স ঘরানা হিসেবে ডিপফেক যে "কিছু বিরক্তিকর দৃষ্টান্ত পরিবর্তন" উপস্থাপন করে তা নিয়ে আলোচনা করেছেন।

দার্শনিক এবং মিডিয়া গবেষকরা অপতথ্য প্রচারে ডিপফেকের নৈতিক প্রভাব নিয়ে আলোচনা করেছেন। সারাজেভো বিশ্ববিদ্যালয়ের যোগাযোগ অধ্যয়ন বিভাগের আমিনা ভাট্রেশ ডিপফেকের ব্যাপক গ্রহণযোগ্যতার তিনটি কারণ চিহ্নিত করেছেন এবং এর সবচেয়ে বড় বিপদ কোথায় তা উল্লেখ করেছেন: ১) বিশ্বাসযোগ্য দৃশ্যায়ন এবং শ্রবণ সমর্থন, ২) ব্যাপক সহজলভ্যতা, এবং ৩) সত্য ও মিথ্যার মধ্যে একটি স্পষ্ট রেখা টানার অক্ষমতা। ডিপফেক সংক্রান্ত আলোচনার আরেকটি ক্ষেত্র হলো ডিপফেক দিয়ে তৈরি পর্নোগ্রাফি।

পর্নোগ্রাফির বাইরে, দার্শনিকরা ডিপফেককে জ্ঞানের প্রতি একটি "জ্ঞানতাত্ত্বিক হুমকি [epistemic threat]" এবং এর ফলে সমাজের প্রতিও হুমকি হিসেবে তুলে ধরেছেন। পর্নোগ্রাফির বাইরে কর্পোরেশন, রাজনীতিবিদ এবং অন্যদের "শোষণ, ভীতি প্রদর্শন এবং ব্যক্তিগত সাবোটাজ" থেকে রক্ষা পেতে ডিপফেক থেকে উদ্ভূত ঝুঁকি মোকাবিলার আরও কিছু পরামর্শ রয়েছে, এবং আইন ও মিডিয়া গবেষণায় সম্ভাব্য আইনি ও নিয়ন্ত্রক প্রতিক্রিয়ার বেশ কয়েকটি একাডেমিক আলোচনা বিদ্যমান। এছাড়াও, দূরদর্শিতা গবেষকরা ডিজিটাল ট্রাস্ট, পরিচালন ব্যবস্থা এবং নৈতিক দূরদর্শিতার জন্য এর মিথ, রূপক এবং সামাজিক প্রভাব পরীক্ষা করতে কার্যকারণ স্তরযুক্ত বিশ্লেষণ ব্যবহার করে ডিপফেক প্রযুক্তির ভবিষ্যৎ অনুসন্ধান করেছেন। মনোবিজ্ঞান এবং মিডিয়া গবেষণায়, স্কলাররা ডিপফেক ব্যবহারকারী অপতথ্যের বিস্তারের প্রভাব এবং ডিপফেকের সামাজিক প্রভাব নিয়ে আলোচনা করেছেন।

যদিও ইংরেজি ভাষার অধিকাংশ একাডেমিক স্টাডি ডিপফেক সম্পর্কে পশ্চিমা উদ্বেগ যেমন অপতথ্য এবং পর্নোগ্রাফির ওপর দৃষ্টি নিবদ্ধ করে, ডিজিটাল নৃবিজ্ঞানী গ্যাব্রিয়েল ডি সেটা ডিপফেকের চীনা অভ্যর্থনা বিশ্লেষণ করেছেন, যা সেখানে হুয়ানলিয়ান নামে পরিচিত, যার অনুবাদ করলে দাঁড়ায় "মুখ পরিবর্তন"। চীনা পরিভাষায় ইংরেজি ডিপফেকের "ফেক" বা জাল শব্দটি নেই এবং ডি সেটা যুক্তি দেন যে এই সাংস্কৃতিক প্রেক্ষাপট ব্যাখ্যা করতে পারে কেন চীনা প্রতিক্রিয়া "জালিয়াতির ঝুঁকি, ছবির অধিকার, অর্থনৈতিক মুনাফা এবং নৈতিক ভারসাম্যের" ওপর ব্যবহারিক নিয়ন্ত্রক ব্যবস্থা গ্রহণে নিবদ্ধ হয়েছে।

 ডিপফেক বিষয়ক কম্পিউটার বিজ্ঞান গবেষণা 
১৯৯৭ সালে প্রকাশিত "ভিডিও রিরাইট" প্রোগ্রামটি ছিল এই ক্ষেত্রের একটি মাইলফলক প্রাথমিক প্রকল্প। প্রোগ্রামটি কথা বলা কোনো ব্যক্তির বিদ্যমান ভিডিও ফুটেজ পরিবর্তন করে তাকে অন্য একটি অডিও ট্র্যাকের কথা অনুযায়ী মুখ নাড়ানোর জন্য চিত্রিত করেছিল। এটি ছিল প্রথম ব্যবস্থা যা এই ধরণের ফেসিয়াল রি-অ্যানিমেশন সম্পূর্ণ স্বয়ংক্রিয়ভাবে সম্পাদন করেছিল এবং এটি একটি ভিডিওর বিষয়ের শব্দ এবং মুখের আকারের মধ্যে সংযোগ তৈরি করতে মেশিন লার্নিং কৌশল ব্যবহার করেছিল।

সমসাময়িক একাডেমিক প্রকল্পগুলো আরও বাস্তবসম্মত ভিডিও তৈরি এবং ডিপফেক কৌশলের উন্নতির দিকে মনোনিবেশ করেছে। ২০১৭ সালে প্রকাশিত "সিন্থেসাইজিং ওবামা" প্রোগ্রামটি প্রাক্তন রাষ্ট্রপতি বারাক ওবামা-এর ভিডিও ফুটেজ পরিবর্তন করে তাকে অন্য একটি অডিও ট্র্যাকের কথা অনুযায়ী মুখ নাড়ানোর চিত্র ফুটিয়ে তোলে। প্রকল্পটি এর অডিও থেকে মুখের আকার সংশ্লেষণ করার ফটোরিয়্যালিস্টিক কৌশলকে একটি প্রধান গবেষণা অবদান হিসেবে তালিকাভুক্ত করেছে। ২০১৬ সালে প্রকাশিত "ফেসটুফেস (Face2Face)" প্রোগ্রামটি কোনো ব্যক্তির মুখের ভিডিও ফুটেজ পরিবর্তন করে তাকে অন্য ব্যক্তির মুখের অভিব্যক্তি অনুকরণ করার চিত্র ফুটিয়ে তোলে। প্রকল্পটি এর প্রাথমিক গবেষণা অবদান হিসেবে গভীরতা শনাক্ত করতে পারে না এমন ক্যামেরা ব্যবহার করে রিয়েল টাইমে মুখের অভিব্যক্তি পুনঃপ্রদর্শনের প্রথম পদ্ধতির বিকাশের ওপর গুরুত্বারোপ করেছে, যা সাধারণ ব্যবহারকারী ক্যামেরার মাধ্যমেও কাজ করতে সক্ষম।

২০১৮ সালের আগস্টে, ক্যালিফোর্নিয়া বিশ্ববিদ্যালয়, বার্কলি-র গবেষকরা একটি গবেষণাপত্র প্রকাশ করেন যাতে একটি ডিপফেক ডান্সিং অ্যাপ প্রবর্তন করা হয় যা এআই ব্যবহার করে নিপুণ নৃত্যের ক্ষমতার বিভ্রম তৈরি করতে পারে। এই প্রকল্পটি ডিপফেকের প্রয়োগকে পুরো শরীরে বিস্তৃত করেছে; আগের কাজগুলো কেবল মাথা বা মুখের অংশের ওপর দৃষ্টি নিবদ্ধ করত।

গবেষকরা আরও দেখিয়েছেন যে ডিপফেকগুলো চিকিৎসা ইমেজের মতো অন্যান্য ডোমেইনেও বিস্তৃত হচ্ছে। এই কাজে দেখানো হয়েছে কীভাবে একজন আক্রমণকারী স্বয়ংক্রিয়ভাবে একজন রোগীর থ্রিডি সিটি স্ক্যানে ফুসফুসের ক্যান্সার ঢুকিয়ে দিতে বা সরিয়ে দিতে পারে। ফলাফলটি এতই বিশ্বাসযোগ্য ছিল যে এটি তিনজন রেডিওলজিস্ট এবং একটি অত্যাধুনিক ফুসফুসের ক্যান্সার শনাক্তকারী এআই-কে বিভ্রান্ত করতে সক্ষম হয়েছিল। হুমকিটি প্রদর্শন করতে, লেখকরা একটি হোয়াইট হ্যাট পেনিট্রেশন টেস্টে সফলভাবে একটি হাসপাতালে এই হামলা পরিচালনা করেছিলেন।

২০২০ সালের মে মাসে প্রকাশিত ডিপফেকের একটি জরিপ গত কয়েক বছরে ডিপফেক তৈরি এবং শনাক্তকরণের অগ্রগতির একটি সময়রেখা প্রদান করে। জরিপটি চিহ্নিত করেছে যে গবেষকরা ডিপফেক তৈরির নিম্নলিখিত চ্যালেঞ্জগুলো সমাধানের ওপর মনোনিবেশ করছেন:

সাধারণীকরণ। উচ্চ-মানের ডিপফেক প্রায়ই লক্ষ্যবস্তুর ঘণ্টার পর ঘণ্টা ফুটেজের ওপর প্রশিক্ষণের মাধ্যমে অর্জিত হয়। এই চ্যালেঞ্জটি হলো প্রশিক্ষণের তথ্যের পরিমাণ এবং মডেল প্রশিক্ষণের জন্য প্রয়োজনীয় সময় কমানো এবং প্রশিক্ষণ চলাকালীন দেখা যায়নি এমন নতুন পরিচয়ের ওপর প্রশিক্ষণপ্রাপ্ত মডেলগুলো পরিচালনার সক্ষমতা তৈরি করা।

জোড়াবদ্ধ প্রশিক্ষণ। একটি সুপারভাইজড মডেল প্রশিক্ষণ উচ্চ-মানের ফলাফল দিতে পারে, তবে এর জন্য তথ্য জোড়াবদ্ধকরণের প্রয়োজন হয়। এটি হলো মডেলকে শেখার জন্য ইনপুট এবং তাদের কাঙ্ক্ষিত আউটপুটের উদাহরণ খুঁজে বের করার প্রক্রিয়া। একাধিক পরিচয় এবং মুখের আচরণের ওপর প্রশিক্ষণের সময় তথ্য জোড়াবদ্ধকরণ কষ্টসাধ্য এবং অবাস্তব। কিছু সমাধানের মধ্যে রয়েছে সেলফ-সুপারভাইজড প্রশিক্ষণ (একই ভিডিওর ফ্রেম ব্যবহার করা), আনপেয়ার্ড নেটওয়ার্ক যেমন সাইকেল-জিএএন ব্যবহার করা বা নেটওয়ার্ক এমবেডিং কারসাজি করা।

পরিচয় লিকেজ। এটি এমন একটি অবস্থা যেখানে চালকের (অর্থাৎ রি-এনঅ্যাক্টমেন্টে মুখ নিয়ন্ত্রণকারী অভিনেতা) পরিচয় আংশিকভাবে তৈরি করা মুখে স্থানান্তরিত হয়। প্রস্তাবিত কিছু সমাধানের মধ্যে রয়েছে অ্যাটেনশন মেকানিজম, ফিউ-শট লার্নিং, ডিসেন্ট্যাংগেলমেন্ট, বাউন্ডারি কনভার্সন এবং স্কিপ কানেকশন।

প্রতিবন্ধকতা। যখন মুখের অংশ হাত, চুল, চশমা বা অন্য কোনো বস্তু দিয়ে ঢাকা থাকে তখন আর্টিফ্যাক্ট বা বিচ্যুতি ঘটতে পারে। একটি সাধারণ প্রতিবন্ধকতা হলো বন্ধ মুখ যা মুখের ভেতর এবং দাঁত লুকিয়ে রাখে। কিছু সমাধানের মধ্যে রয়েছে প্রশিক্ষণের সময় ইমেজ সেগমেন্টেশন এবং ইন-পেইন্টিং।

কালানুক্রমিক সংগতি। ডিপফেক সম্বলিত ভিডিওগুলোতে ঝিকিমিকি বা কাঁপুনি ঘটতে পারে কারণ নেটওয়ার্কের আগের ফ্রেমগুলোর কোনো প্রেক্ষাপট থাকে না। কিছু গবেষক এই প্রেক্ষাপট প্রদান করেন বা বাস্তবতা উন্নত করতে অভিনব টেম্পোরাল কোহেরেন্স লস ব্যবহার করেন। প্রযুক্তির উন্নতির সাথে সাথে এই বিচ্যুতিগুলো হ্রাস পাচ্ছে।

সামগ্রিকভাবে, ডিপফেক মিডিয়া ও সমাজ, মিডিয়া উৎপাদন, মিডিয়া উপস্থাপন, মিডিয়া দর্শক, লিঙ্গ, আইন ও নিয়ন্ত্রণ এবং রাজনীতিতে বেশ কিছু প্রভাব ফেলবে বলে আশা করা হচ্ছে।

 শৌখিন বিকাশ 
ডিপফেক শব্দটি ২০১৭ সালের শেষের দিকে "ডিপফেকস" নামক একজন রেডিট ব্যবহারকারীর কাছ থেকে উদ্ভূত হয়েছে। তিনি রেডিটের "r/deepfakes" এর অন্যান্য সদস্যদের সাথে তাদের তৈরি ডিপফেকগুলো শেয়ার করতেন; অনেক ভিডিওতে বিখ্যাত ব্যক্তিদের মুখ পর্নোগ্রাফিক ভিডিওর অভিনেতাদের শরীরে বসানো ছিল, অন্যদিকে অ-পর্নোগ্রাফিক বিষয়বস্তুর মধ্যে অভিনেতা নিকোলাস কেজ-এর মুখ বিভিন্ন চলচ্চিত্রে বসানো অনেক ভিডিও অন্তর্ভুক্ত ছিল।

এই প্রথম পরিচয়ের পর, ইন্টারনেটে ওপেন-সোর্স সফটওয়্যার এবং টিউটোরিয়ালের উপস্থিতির কারণে শৌখিন বিকাশ দ্রুত গতিতে বৃদ্ধি পায়। ফেঅ্যাপ, ফেসসোয়াপ এবং ডিপফেসল্যাব-এর মতো অবাধে উপলব্ধ সরঞ্জামগুলো এমন ব্যবহারকারীদের ডিপফেক ভিডিও তৈরির অনুমতি দিয়েছে যাদের কম্পিউটার বিজ্ঞানে কোনো আনুষ্ঠানিক শিক্ষা নেই। রেডিট, গিটহাব এবং ইউটিউবের মতো অনলাইন ফোরামগুলো সফটওয়্যার, নির্দেশনা এবং নমুনা বিষয়বস্তু বিতরণের জন্য গুরুত্বপূর্ণ ছিল এবং শৌখিন ডিপফেক তৈরিকে দ্রুত ছড়িয়ে দিতে ও নিখুঁত করতে সাহায্য করেছিল।

অন্যান্য অনলাইন সম্প্রদায়গুলো এমন প্ল্যাটফর্মে পর্নোগ্রাফি শেয়ার করা চালিয়ে যাচ্ছে যা ডিপফেক পর্নোগ্রাফি নিষিদ্ধ করেনি।

 বাণিজ্যিক বিকাশ 
২০১৮ সালের জানুয়ারিতে, ফেইকঅ্যাপ নামক একটি মালিকানাভুক্ত ডেস্কটপ অ্যাপ্লিকেশন চালু করা হয়েছিল। এই অ্যাপটি ব্যবহারকারীদের একে অপরের সাথে মুখ অদলবদল করে সহজেই ভিডিও তৈরি এবং শেয়ার করার অনুমতি দেয়। ২০১৯ সাল নাগাদ, ফেইকঅ্যাপ মূলত ওপেন-সোর্স বিকল্প যেমন ফেসসোয়াপ, কমান্ড লাইন-ভিত্তিক ডিপফেসল্যাব এবং ওয়েব-ভিত্তিক অ্যাপ যেমন ডিপফেকসওয়েব দ্বারা প্রতিস্থাপিত হয়েছে।

বড় বড় কোম্পানিগুলো ডিপফেক ব্যবহার করা শুরু করেছে। কর্পোরেট প্রশিক্ষণের ভিডিওগুলো ডিপফেক করা অবতার এবং তাদের কণ্ঠস্বর ব্যবহার করে তৈরি করা যেতে পারে, উদাহরণস্বরূপ সিনথেসিয়া, যা ব্যক্তিগতকৃত ভিডিও তৈরির জন্য অবতারের সাথে ডিপফেক প্রযুক্তি ব্যবহার করে। মোবাইল অ্যাপ মোমো 'জাও' নামক একটি অ্যাপ্লিকেশন তৈরি করেছে যা ব্যবহারকারীদের একটি মাত্র ছবি দিয়ে টেলিভিশন এবং চলচ্চিত্রের ক্লিপে তাদের মুখ বসানোর অনুমতি দেয়। ২০১৯ সাল পর্যন্ত জাপানি এআই কোম্পানি ডেটাগ্রিড একটি ফুল বডি ডিপফেক তৈরি করেছিল যা নতুনভাবে একজন ব্যক্তিকে সৃষ্টি করতে পারত।

২০২০ সাল পর্যন্ত অডিও ডিপফেক এবং ডিপফেক শনাক্ত করতে সক্ষম এআই সফটওয়্যার এবং মাত্র ৫ সেকেন্ড শোনার পর মানুষের কণ্ঠস্বর ক্লোন করতে সক্ষম সফটওয়্যারও বিদ্যমান। ২০২০ সালের মার্চ মাসে একটি মোবাইল ডিপফেক অ্যাপ 'ইমপ্রেশনস' চালু করা হয়েছিল। এটি ছিল মোবাইল ফোন থেকে সেলিব্রিটি ডিপফেক ভিডিও তৈরির জন্য প্রথম অ্যাপ।

 পুনরুজ্জীবন 
অন্যদের বার্তা এবং কর্ম জাল করার ডিপফেক প্রযুক্তির সক্ষমতা মৃত ব্যক্তিদের ক্ষেত্রেও প্রসারিত হতে পারে, যেমন শোক থেরাপিতে যেখানে মৃত প্রিয়জনের সাথে যোগাযোগের আবহ তৈরি করা যায়। ২০২০ সালের অক্টোবরে, কিম কার্দাশিয়ান তার প্রয়াত পিতা রবার্ট কার্দাশিয়ান-এর একটি হলোগ্রাম সম্বলিত একটি ভিডিও পোস্ট করেছিলেন, যা ক্যালেইডা নামক কোম্পানি তৈরি করেছিল। এই বিভ্রম তৈরি করতে তারা পারফরম্যান্স, মোশন ট্র্যাকিং, এসএফএক্স, ভিএফএক্স এবং ডিপফেক প্রযুক্তির সংমিশ্রণ ব্যবহার করেছিল।

২০২০ সালে, একটি বন্দুক নিরাপত্তা অভিযানের অংশ হিসেবে পার্কল্যান্ড শুটিং-এর শিকার জোয়াকিন অলিভারের একটি ডিপফেক ভিডিও তৈরি করা হয়েছিল। অলিভারের বাবা-মা অলাভজনক সংস্থা চেঞ্জ দ্য রেফ এবং ম্যাকক্যান হেলথ-এর সাথে অংশীদারিত্ব করে একটি ভিডিও তৈরি করেন যেখানে অলিভার মানুষকে বন্দুক নিরাপত্তা আইনের পক্ষে এবং যারা এটি সমর্থন করেন সেইসব রাজনীতিবিদদের সমর্থন করতে উৎসাহিত করেন।

২০২২ সালে, আমেরিকা'স গট ট্যালেন্ট ১৭ অনুষ্ঠানে এলভিস প্রেসলি-র একটি ডিপফেক ভিডিও ব্যবহার করা হয়েছিল।

 কৌশলসমূহ 
ডিপফেক মূলত অটোএনকোডার নামক এক ধরণের নিউরাল নেটওয়ার্ক-এর ওপর নির্ভর করে। এগুলো একটি এনকোডার (যা একটি ছবিকে একটি নিম্ন মাত্রার সুপ্ত স্থানে সংকুচিত করে) এবং একটি ডিকোডার (যা সুপ্ত উপস্থাপনা থেকে ছবিটি পুনর্গঠন করে) নিয়ে গঠিত। ডিপফেক একটি ইউনিভার্সাল এনকোডার ব্যবহার করে যা ব্যক্তিকে সুপ্ত স্থানে এনকোড করে। এই সুপ্ত উপস্থাপনায় তাদের মুখের বৈশিষ্ট্য এবং শরীরের ভঙ্গি সম্পর্কে মূল বৈশিষ্ট্যগুলো থাকে। এটি তখন লক্ষ্যবস্তুর জন্য বিশেষভাবে প্রশিক্ষিত একটি মডেলের মাধ্যমে ডিকোড করা যেতে পারে। এর মানে হলো লক্ষ্যবস্তুর বিস্তারিত তথ্য মূল ভিডিওর অন্তর্নিহিত মুখ এবং শরীরের বৈশিষ্ট্যের ওপর বসানো হবে।

এই আর্কিটেকচারের একটি জনপ্রিয় আপগ্রেড হলো ডিকোডারের সাথে একটি জেনারেটিভ অ্যাডভার্সারিয়াল নেটওয়ার্ক সংযুক্ত করা। একটি জিএএন একটি জেনারেটর (এই ক্ষেত্রে ডিকোডার) এবং একটি ডিসক্রিমিনেটরকে একটি প্রতিকূল সম্পর্কের মধ্যে প্রশিক্ষণ দেয়। প্রথম নেটওয়ার্কটি, যা জেনারেটর হিসেবে পরিচিত, কৃত্রিম ছবি তৈরির চেষ্টা করে, অন্যদিকে দ্বিতীয় নেটওয়ার্কটি বা ডিসক্রিমিনেটর, তার বিচারকার্য পরিচালনার জন্য একটি বৈধ ডেটাসেট ব্যবহার করে বাস্তব এবং নকল ছবির মধ্যে পার্থক্য করে। এর ফলে জেনারেটর এমন ছবি তৈরি করে যা বাস্তবতাকে অত্যন্ত নিপুণভাবে অনুকরণ করে, কারণ যেকোনো খুঁত ডিসক্রিমিনেটরের কাছে ধরা পড়ে যাবে। উভয় অ্যালগরিদম একটি জিরো-সাম গেমে অনবরত উন্নত হতে থাকে। এটি ডিপফেকের বিরুদ্ধে লড়াই করা কঠিন করে তোলে কারণ এগুলো প্রতিনিয়ত বিবর্তিত হচ্ছে; যখনই কোনো খুঁত শনাক্ত হয়, তখনই তা সংশোধন করা সম্ভব হয়।

 প্রয়োগসমূহ 
 অভিনয় 
পেশাদার অভিনেতাদের ডিজিটাল ক্লোন আগে চলচ্চিত্রগুলোতে দেখা গেছে এবং ডিপফেক প্রযুক্তির অগ্রগতি এই ধরণের ক্লোনগুলোর সহজলভ্যতা এবং কার্যকারিতা আরও বাড়িয়ে তুলবে বলে আশা করা হচ্ছে। এআই প্রযুক্তির ব্যবহার ২০২৩ সালের স্যাগ-অ্যাফট্রা ধর্মঘটের একটি প্রধান ইস্যু ছিল, কারণ নতুন কৌশলগুলো অভিনেতাদের বদলে ব্যবহারের জন্য একটি ডিজিটাল সাদৃশ্য তৈরি এবং সংরক্ষণের সক্ষমতা এনে দিয়েছে।

দ্য ওয়াল্ট ডিজনি কোম্পানি উচ্চ-রেজোলিউশন ডিপফেক ফেস সোয়াপিং প্রযুক্তি ব্যবহার করে তাদের ভিজ্যুয়াল এফেক্ট উন্নত করেছে। ডিজনি মুখের অভিব্যক্তি শনাক্ত করার জন্য প্রোগ্রাম করা প্রগতিশীল প্রশিক্ষণের মাধ্যমে তাদের প্রযুক্তি উন্নত করেছে, যা একটি ফেস-সোয়াপিং ফিচার বাস্তবায়ন এবং আউটপুট স্থিতিশীল ও পরিমার্জিত করার জন্য বারবার প্রচেষ্টা চালিয়েছে। এই উচ্চ-রেজোলিউশন ডিপফেক প্রযুক্তি উল্লেখযোগ্য পরিচালন এবং উৎপাদন খরচ বাঁচায়। ডিজনির ডিপফেক জেনারেশন মডেল ১০২৪ x ১০২৪ রেজোলিউশনে এআই-জেনারেটেড মিডিয়া তৈরি করতে পারে, যেখানে সাধারণ মডেলগুলো ২৫৬ x ২৫৬ রেজোলিউশনে মিডিয়া তৈরি করে। এই প্রযুক্তি ডিযনিকে চরিত্রগুলোর বয়স কমাতে (de-aging) বা মৃত অভিনেতাদের পুনরুজ্জীবিত করার অনুমতি দেয়। অনুরূপ প্রযুক্তি প্রাথমিকভাবে ভক্তরা অনানুষ্ঠানিকভাবে বিদ্যমান মিডিয়াতে মুখ সন্নিবেশ করার জন্য ব্যবহার করত, যেমন সোলো: এ স্টার ওয়ার্স স্টোরি-তে হান সোলোর মুখের ওপর হ্যারিসন ফোর্ড-এর তরুণ মুখ বসানো। ডিজনি রোগ ওয়ান-এ প্রিন্সেস লিয়া এবং দ্য ম্যান্ডালোরিয়ান ও দ্য বুক অফ বোবা ফেট উভয় ক্ষেত্রেই লিউক স্কাইওয়াকারের চরিত্রের জন্য ডিপফেক ব্যবহার করেছে।

২০২০ সালের তথ্যচিত্র ওয়েলকাম টু চেচনিয়া সাক্ষাৎকারে অংশগ্রহণকারী ব্যক্তিদের পরিচয় গোপন রাখতে ডিপফেক প্রযুক্তি ব্যবহার করেছিল, যাতে তাদের প্রতিশোধ থেকে রক্ষা করা যায়।

ক্রিয়েটিভ আর্টিস্ট এজেন্সি "একদিনের মধ্যে" একজন অভিনেতার সাদৃশ্য ক্যাপচার করার জন্য একটি সুবিধা তৈরি করেছে, যাতে সেই অভিনেতার একটি ডিজিটাল ক্লোন তৈরি করা যায়, যা অভিনেতা বা তার এস্টেট দ্বারা অন্যান্য ব্যক্তিত্বের অধিকারের পাশাপাশি নিয়ন্ত্রিত হবে।

পেশাদার অভিনেতাদের ডিজিটাল ক্লোন বিজ্ঞাপনে ব্যবহার করেছে এমন কোম্পানিগুলোর মধ্যে রয়েছে পুমা, নাইকি এবং প্রক্টর অ্যান্ড গ্যাম্বল।

ম্যালেরিয়ার বিরুদ্ধে লড়াইয়ে সচেতনতা বাড়াতে প্রায় নয়টি ভাষায় কথা বলা একটি অভিযানে ডেভিড বেকহ্যামকে ব্যবহার করার সুযোগ করে দিয়েছে ডিপফেক।

২০২৪ সালের ভারতীয় তামিল কল্পবিজ্ঞান অ্যাকশন থ্রিলার দ্য গ্রেটেস্ট অব অল টাইম-এ, বিজয়-এর চরিত্র জীবনের কিশোর সংস্করণটি আয়াজ খান দ্বারা অভিনীত হয়। বিজয়ের কিশোর বয়সের মুখটি তখন এআই ডিপফেকের মাধ্যমে অর্জন করা হয়েছিল।

২০২৫ সালের মে মাসে, ডাচ কোম্পানি জাইকোইয়া একটি এআই-জেনারেটেড অভিনেত্রী তৈরি করেছিল যার নাম তিলি নরউড, যা বিদ্যমান প্রযোজনা সংস্থা পার্টিকেল সিক্স (Particle6)-এর একটি শাখা এবং এটি অভিনেতা ও কৌতুক অভিনেতা এলিন ভ্যান ডের ভেলডেন দ্বারা প্রতিষ্ঠিত।

 শিল্পকলা 
বাস্তবসম্মত ভিডিও এবং ইন্টারেক্টিভ কন্টেন্ট তৈরির জন্য শিক্ষা এবং মিডিয়াতেও ডিপফেক ব্যবহার করা হচ্ছে, যা দর্শকদের আকৃষ্ট করার নতুন উপায় সরবরাহ করে।

২০১৮ সালের মার্চ মাসে বহুবিচিত্র ধারার শিল্পী জোসেফ আয়ারলে তার ভিডিও আর্ট Un'emozione per sempre 2.0 (ইংরেজি শিরোনাম: দ্য ইতালিয়ান গেম) প্রকাশ করেন। শিল্পী একটি 'এআই অভিনেতা' তৈরি করতে ডিপফেক প্রযুক্তি ব্যবহার করেন, যা ১৯৮০-র দশকের চলচ্চিত্র তারকা ওরনেল্লা মুতি-র একটি সংশ্লেষিত সংস্করণ এবং ভিডিওটিতে তাকে ১৯৭৮ থেকে ২০১৮ সাল পর্যন্ত সময়ে ভ্রমণ করতে দেখা যায়। ম্যাসাচুসেট্‌স ইনস্টিটিউট অব টেকনোলজি "কালেক্টিভ উইজডম" নামক গবেষণায় এই শিল্পকর্মটির উল্লেখ করেছে।ক্যাটরিনা সিজেক, উইলিয়াম ইউরিচিও এবং সারাহ ওলোজিন: কালেক্টিভ উইজডম  ম্যাসাচুসেট্‌স ইনস্টিটিউট অব টেকনোলজি   শিল্পী ওরনেল্লা মুতির সময় ভ্রমণ ব্যবহার করে প্রজন্মগত প্রতিফলন অনুসন্ধান করেছেন এবং সেই সাথে শিল্প জগতে উস্কানির ভূমিকা নিয়েও তদন্ত করেছেন। প্রযুক্তিগত রূপদানের জন্য আয়ারলে ফটো মডেল কেন্ডাল জেনার-এর দৃশ্য ব্যবহার করেছিলেন। প্রোগ্রামটি জেনারের মুখকে ওরনেল্লা মুতির একটি এআই গণনা করা মুখ দ্বারা প্রতিস্থাপন করে। ফলস্বরূপ, এআই অভিনেতার মুখ ইতালীয় অভিনেতা ওরনেল্লা মুতির এবং শরীর কেন্ডাল জেনারের।

ডিপফেক ব্যাপকভাবে ব্যঙ্গ বা সেলিব্রিটি এবং রাজনীতিবিদদের প্যারোডি করার জন্য ব্যবহৃত হয়েছে। ২০২০ সালের ওয়েব সিরিজ সাসি জাস্টিস, যা ট্রে পার্কার এবং ম্যাট স্টোন দ্বারা তৈরি, বর্তমান ঘটনাবলীকে ব্যঙ্গ করতে এবং ডিপফেক প্রযুক্তি সম্পর্কে সচেতনতা বাড়াতে ব্যাপকভাবে ডিপফেক করা জনব্যক্তিত্বদের ব্যবহার করে।

 ব্ল্যাকমেইল 
ভিকটিমকে মিথ্যাভাবে অভিযুক্ত করতে ব্ল্যাকমেইল সামগ্রী তৈরি করতে ডিপফেক ব্যবহার করা যেতে পারে। আমেরিকান কংগ্রেশনাল রিসার্চ সার্ভিস-এর একটি প্রতিবেদনে সতর্ক করা হয়েছে যে ডিপফেকগুলো নির্বাচিত কর্মকর্তাদের বা গোপনীয় তথ্য ব্যবহারের অধিকার থাকা ব্যক্তিদের গুপ্তচরবৃত্তি বা প্রভাব বিস্তারের উদ্দেশ্যে ব্ল্যাকমেইল করতে ব্যবহার করা যেতে পারে।

যখন বা যদি জালকে নির্ভরযোগ্যভাবে প্রকৃত প্রমাণ থেকে আলাদা করা না যায়, তখন ডিজিটাল প্রমাণের ভিত্তিতে ব্ল্যাকমেইলের শিকার ব্যক্তিরা দাবি করতে পারেন যে আসল আর্টিফ্যাক্টগুলো জাল, এর মাধ্যমে তারা জাল এবং প্রকৃত প্রমাণের মধ্যে অভিন্নতার যুক্তির ওপর নির্ভর করে যুক্তিসঙ্গত অস্বীকার বা প্লাসিবল ডিনাইয়াবিলিটি পাওয়ার চেষ্টা করেন। এর কাঙ্ক্ষিত প্রভাব হলো নির্দিষ্ট বিদ্যমান ব্ল্যাকমেইল সামগ্রীর বিশ্বাসযোগ্যতা নষ্ট করা, যা তাত্ত্বিকভাবে ব্ল্যাকমেইলারদের আনুগত্য নষ্ট করতে পারে এবং তাদের নিয়ন্ত্রণ সীমিত করতে পারে। এই প্রপঞ্চটিকে "ব্ল্যাকমেইল ইনফ্লেশন" বলা হয়েছে, কারণ তাত্ত্বিকভাবে এটি আসল ব্ল্যাকমেইল সামগ্রীর "মূল্য কমিয়ে দেয়"। কমোডিটি জিপিইউ হার্ডওয়্যার এবং একটি ছোট সফটওয়্যার প্রোগ্রামের মাধ্যমে এমন কারও জন্য জাল কন্টেন্ট তৈরি করা সম্ভব যার পর্যাপ্ত ট্রেনিং ডেটা প্রতিপক্ষের কাছে রয়েছে। যাইহোক, এমনকি সাবধানে কারসাজি করা জালগুলোও শনাক্ত করা যেতে পারে।

ইনফ্লেশন বা মুদ্রাস্ফীতির যুক্তিটি কেবল তাত্ত্বিকভাবে কাজ করতে পারে যদি ব্ল্যাকমেইলারদের কাছে এমন অন্য কোনো অপরাধমূলক প্রমাণ না থাকে যা সহজে জাল করা যায় না, এবং যদি জুরিকে বোঝানো যায় যে দোষের প্রমাণগুলো যুক্তিসঙ্গত সন্দেহের ঊর্ধ্বে দোষী সাব্যস্ত করার জন্য যথেষ্ট নয়। বাস্তবে এই তত্ত্ব দ্বিমুখী বিপদের ঝুঁকি তৈরি করে, প্রথমত, যারা দোষী তারা প্লাসিবল ডিনাইয়াবিলিটির যুক্তি ব্যবহার করে বলতে পারে যে ভিডিওটি জাল করা হয়েছে, যা সম্ভাব্যভাবে সন্দেহের ভিত্তিতে একজন দোষী ব্যক্তির খালাস পাওয়ার কারণ হতে পারে। দ্বিতীয়ত, জাল প্রমাণ এমন ব্যক্তিদের বিচার করতে ব্যবহার করা যেতে পারে যারা ডিপফেক যুক্তি সম্পর্কে সচেতন নয়, যাতে এমন ক্ষেত্রে সাজা নিশ্চিত করা যায় যেখানে জুরি জাল প্রমাণের কারণে মিথ্যা পজিটিভের ঝুঁকি সম্পর্কে পর্যাপ্ত সচেতন নয়। এই দ্বিমুখী বিপদের প্রভাব ফৌজদারি বিচার ব্যবস্থার পক্ষগুলোর বিচক্ষণতার স্তর এবং সেই বিচক্ষণতার ভিত্তিতে কাজ করার ক্ষমতার ওপর নির্ভর করবে।

 বিনোদন 
২০২২ সালের ৮ জুন, ড্যানিয়েল এমেট, একজন প্রাক্তন এজিটি প্রতিযোগী, এআই স্টার্টআপ মেটাফিজিক এআই-এর সাথে অংশীদারিত্ব করে একটি হাইপাররিয়ালিস্টিক ডিপফেক তৈরি করেন যাতে তাকে সাইমন কাউয়েল-এর মতো দেখায়। কাউয়েল, যিনি প্রতিযোগীদের কঠোর সমালোচনা করার জন্য পরিচিত, মঞ্চে শিকাগো ব্যান্ডের "ইউ'আর দ্য ইন্সপিরেশন" গাইছিলেন। এমেট যখন মঞ্চে গাইছিলেন, তার পেছনের পর্দায় সাইমন কাউয়েলের একটি ছবি নিখুঁতভাবে তার ঠোঁট নাড়ানোর সাথে মিল রেখে ভেসে উঠছিল।

২০২২ সালের ৩০ আগস্ট, মেটাফিজিক এআই 'ডিপ-ফেক' করা সাইমন কাউয়েল, হাওয়ি ম্যান্ডেল এবং টেরি ক্রুস-কে মঞ্চে অপেরা গাওয়ায়।

২০২২ সালের ১৩ সেপ্টেম্বর, মেটাফিজিক এআই আমেরিকা'স গট ট্যালেন্ট-এর ফাইনালের জন্য সংশ্লেষিত এলভিস প্রেসলি-র সাথে পারফর্ম করে।

ম্যাসাচুসেট্‌স ইনস্টিটিউট অব টেকনোলজি-র কৃত্রিম বুদ্ধিমত্তা প্রকল্প 15.ai একাধিক ইন্টারনেট ফ্যানডমের জন্য বিষয়বস্তু তৈরিতে ব্যবহৃত হয়েছে, বিশেষ করে সোশ্যাল মিডিয়ায়।

২০২৩ সালে ব্যান্ড দল আবা এবং কিস ইন্ডাস্ট্রিয়াল লাইট অ্যান্ড ম্যাজিক এবং পপহাউস এন্টারটেইনমেন্ট-এর সাথে অংশীদারিত্ব করে ভার্চুয়াল কনসার্ট করতে সক্ষম ডিপফেক অবতার তৈরি করেছে।

 প্রতারণা এবং কেলেঙ্কারি 
প্রতারক এবং স্ক্যামাররা মানুষকে নকল বিনিয়োগ প্রকল্প, আর্থিক জালিয়াতি, ক্রিপ্টোকারেন্সি, অর্থ প্রেরণ এবং সমর্থন অনুসরণে প্রলুব্ধ করতে ডিপফেক ব্যবহার করে। বৃহৎ আকারের কেলেঙ্কারির জন্য সেলিব্রিটি এবং রাজনীতিবিদদের সাদৃশ্য ব্যবহার করা হয়েছে, সেইসাথে সাধারণ ব্যক্তিদেরও ব্যবহার করা হয়েছে, যা ফিশিং আক্রমণে ব্যবহৃত হয়। বেটার বিজনেস ব্যুরো-এর মতে, ডিপফেক কেলেঙ্কারি ক্রমশ প্রচলিত হয়ে উঠছে। এই কেলেঙ্কারিগুলো বিশ্বব্যাপী আনুমানিক ১২ বিলিয়ন ডলারের প্রতারণামূলক ক্ষতির জন্য দায়ী। সাম্প্রতিক একটি রিপোর্ট অনুযায়ী, আগামী তিন বছরে এই সংখ্যা ৪০ বিলিয়ন ডলারে পৌঁছাবে বলে আশা করা হচ্ছে।

নকল সমর্থনে টেইলর সুইফট, টম হ্যাঙ্কস, অপরাহ উইনফ্রে, এবং ইলন মাস্ক-এর মতো সেলিব্রিটিদের পরিচয় অপব্যবহার করা হয়েছে; এর মধ্যে রয়েছেন সংবাদ উপস্থাপকরাও, যেমন গেইল কিং এবং স্যালি বুন্ডক; এবং রাজনীতিবিদদের মধ্যে রয়েছেন লি সিয়েন লুং ও জিম চালমারস। তাদের ভিডিওগুলি ইউটিউব, ফেসবুক এবং টিকটক-এর মতো প্ল্যাটফর্মের অনলাইন বিজ্ঞাপনে উপস্থিত হয়েছে, যদিও এই প্ল্যাটফর্মগুলোর সংশ্লেষিত এবং কারসাজি করা মাধ্যমের বিরুদ্ধে কঠোর নীতিমালা রয়েছে। এই ভিডিওগুলি লক্ষ লক্ষ মানুষ দেখে থাকে। একটি একক মেডিকেয়ার জালিয়াতি অভিযান হাজার হাজার ভিডিও জুড়ে ১৯৫ মিলিয়নেরও বেশি বার দেখা হয়েছিল। ডিপফেকগুলি বিভিন্ন কাজে ব্যবহৃত হয়েছে: যেমন পন্য না পাঠিয়ে কেবল 'শিপিং ফি' নেওয়ার মাধ্যমে লে ক্রুসেট রান্নার সরঞ্জামের নকল উপহার প্রদান, যেখানে পরে লুকানো মাসিক চার্জ কাটা হয়; ওজন কমানোর গামিস যা প্রতিশ্রুত পরিমাণের চেয়ে অনেক বেশি চার্জ করে; নকল আইফোন উপহার প্রদান; এবং প্রতারণামূলক দ্রুত ধনী হওয়া, বিনিয়োগ, এবং ক্রিপ্টোকারেন্সি প্রকল্পসমূহ।

অনেক বিজ্ঞাপনে সত্যতা অনুকরণের জন্য এআই ভয়েস ক্লোনিং-এর সাথে "সেলিব্রিটির প্রেক্ষাপটবিহীন ভিডিও" যুক্ত করা হয়। অন্যরা ভিন্ন অভিনেতা বা ভয়েসে যাওয়ার আগে একজন সেলিব্রিটির একটি পুরো ক্লিপ ব্যবহার করে। কিছু কেলেঙ্কারিতে রিয়েল-টাইম ডিপফেক জড়িত থাকতে পারে।

সেলিব্রিটিরা এই ধরণের নকল সমর্থন সম্পর্কে মানুষকে সতর্ক করছেন এবং তাদের বিরুদ্ধে আরও সতর্ক থাকার পরামর্শ দিচ্ছেন। প্রতিটি ডিপফেক কেলেঙ্কারি পরিচালনাকারীর বিরুদ্ধে মামলা করা সেলিব্রিটিদের জন্য অসম্ভাব্য, কারণ "বেনামী সোশ্যাল মিডিয়া ব্যবহারকারীদের খুঁজে বের করা এবং মামলা করা অত্যন্ত ব্যয়বহুল," যদিও সোশ্যাল মিডিয়া কোম্পানিগুলোকে থামা এবং বিরত থাকার চিঠি পাঠানো ভিডিও এবং বিজ্ঞাপনগুলো সরিয়ে নিতে কাজ করে।

অডিও ডিপফেক গুলি সোশ্যাল ইঞ্জিনিয়ারিং কেলেঙ্কারির অংশ হিসেবে ব্যবহৃত হয়েছে, যা মানুষকে বিশ্বাস করতে বাধ্য করে যে তারা কোনো বিশ্বস্ত ব্যক্তির কাছ থেকে নির্দেশনা পাচ্ছে। ২০১৯ সালে, যুক্তরাজ্যের একটি জ্বালানি সংস্থার সিইও ফোনের মাধ্যমে প্রতারিত হন যখন তাকে সংস্থার মূল কোম্পানির প্রধান নির্বাহীর কণ্ঠ নকল করে (যিনি অডিও ডিপফেক প্রযুক্তি ব্যবহার করেছিলেন বলে জানা গেছে) একটি হাঙ্গেরীয় ব্যাংক অ্যাকাউন্টে ২,২০,০০০ ইউরো স্থানান্তর করার আদেশ দেওয়া হয়।

২০২৩ সাল পর্যন্ত ডিপফেক প্রযুক্তির উন্নতির সংমিশ্রণ, যা কয়েক সেকেন্ড থেকে এক মিনিটের রেকর্ডিং থেকে একজন ব্যক্তির কণ্ঠস্বর ক্লোন করতে পারে এবং নতুন টেক্সট জেনারেশন সরঞ্জামসমূহ, স্বয়ংক্রিয় ছদ্মবেশ ধারণের কেলেঙ্কারিকে সক্ষম করেছে, যেখানে বন্ধু বা আত্মীয়ের বিশ্বাসযোগ্য ডিজিটাল ক্লোন ব্যবহার করে ভুক্তভোগীদের লক্ষ্য করা হয়।

 পরিচয় গোপন করা 
অডিও ডিপফেক ব্যবহারকারীর প্রকৃত পরিচয় গোপন করতে ব্যবহার করা যেতে পারে। উদাহরণস্বরূপ, অনলাইন গেমিংয়ে, একজন গেমার অন্য খেলোয়াড়দের সাথে কথা বলার সময় এমন একটি কণ্ঠস্বর বেছে নিতে পারেন যা তাদের ইন-গেম চরিত্রের মতো শোনায়। যারা হয়রানির শিকার হন, যেমন নারী, শিশু এবং হিজড়া ব্যক্তিরা, তারা তাদের লিঙ্গ বা বয়স লুকাতে এই "ভয়েস স্কিন" ব্যবহার করতে পারেন।

 মিম 
২০২০ সালে একটি ইন্টারনেট মিম আবির্ভূত হয় যেখানে ডিপফেক ব্যবহার করে ভিডিও গেম সিরিজ লাইক এ ড্রাগন-এর গেম ইয়াকুজা ০ (Yakuza 0)-এর একটি গান  গাইতে দেখা যায়। সিরিজে, এই বিষাদময় গানটি খেলোয়াড় একটি ক্যারোকে মিনিগেমে গেয়ে থাকেন। এই মিমের বেশিরভাগ সংস্করণ ব্যবহারকারী ডবসীরুলস কর্তৃক ২০১৭ সালে আপলোড করা একটি ভিডিওকে টেম্পলেট হিসেবে ব্যবহার করে, যেখানে তিনি গানটির সাথে ঠোঁট মেলান।

 রাজনীতি 
ভিডিওতে সুপরিচিত রাজনীতিবিদদের ভুলভাবে উপস্থাপন করতে ডিপফেক ব্যবহার করা হয়েছে।

২০১৮ সালের ফেব্রুয়ারিতে, আলাদা ভিডিওতে আর্জেন্টিনার প্রেসিডেন্ট মাউরিসিও মাক্রি-র মুখ আডলফ হিটলার-এর মুখ দিয়ে এবং আঙ্গেলা মের্কেল-এর মুখ ডোনাল্ড ট্রাম্প-এর মুখ দিয়ে প্রতিস্থাপন করা হয়েছিল।

২০১৮ সালের এপ্রিলে, জর্ডান পিল ডিপফেক সম্পর্কে সচেতনতা বাড়ানোর জন্য একটি জনস্বার্থমূলক ঘোষণা হিসেবে পিলের কণ্ঠে বারাক ওবামা-র একটি ডিপফেক তৈরি করতে বাজফিড-এর সাথে সহযোগিতা করেন।

২০১৯ সালের জানুয়ারিতে, ফক্স অনুমোদিত KCPQ ট্রাম্পের ওভাল অফিস ভাষণের সময় তার চেহারা এবং গায়ের রঙ নিয়ে উপহাস করে একটি ডিপফেক প্রচার করে। ভিডিওটির জন্য দায়ী কর্মচারীকে পরবর্তীতে বরখাস্ত করা হয়েছিল।

২০১৯ সালের জুনে, মার্কিন যুক্তরাষ্ট্রের হাউস ইন্টেলিজেন্স কমিটি নির্বাচনে প্রভাব বিস্তার করতে ডিপফেকের সম্ভাব্য ক্ষতিকর ব্যবহার নিয়ে শুনানি করে।

২০২০ সালের এপ্রিলে, এক্সটিংশন রেবেলিয়ন-এর বেলজীয় শাখা ফেসবুকে বেলজিয়ামের প্রধানমন্ত্রী সোফি উইলমেস-এর একটি ডিপফেক ভিডিও প্রকাশ করে। ভিডিওটি বন উজাড় এবং কোভিড-১৯-এর মধ্যে একটি সম্ভাব্য যোগসূত্র প্রচার করেছিল। এটি ২৪ ঘণ্টার মধ্যে ১,০০,০০০-এর বেশি বার দেখা হয়েছিল এবং অনেক মন্তব্য পেয়েছিল। যে ফেসবুক পেজে ভিডিওটি প্রকাশিত হয়েছিল, সেখানে অনেক ব্যবহারকারী ডিপফেক ভিডিওটিকে আসল বলে মনে করেছিলেন।

২০২০ সালের মার্কিন প্রেসিডেন্ট প্রচারণার সময়, জো বাইডেন-এর মানসিক স্বাস্থ্যের অবনতি দাবি করে অনেক ডিপফেক প্রকাশিত হয়েছিল—যেখানে তাকে সাক্ষাত্কারের সময় ঘুমিয়ে পড়া, পথ হারিয়ে ফেলা এবং ভুল কথা বলতে দেখা যায়—যা তার অবনতির গুজবকে জোরদার করেছিল।

২০২০ সালের দিল্লি বিধানসভা নির্বাচনের প্রচারের সময়, ভারতীয় জনতা পার্টি তাদের নেতা মনোজ তিওয়ারি-র একটি ইংরেজি ভাষার নির্বাচনী বিজ্ঞাপনের সংস্করণ হরিয়ানবী ভাষায় অনুবাদ করে হরিয়ানা ভোটারদের লক্ষ্য করতে একই প্রযুক্তি ব্যবহার করেছিল। একজন অভিনেতা কণ্ঠ প্রদান করেছিলেন এবং তিওয়ারির ভাষণের ভিডিও ব্যবহার করে প্রশিক্ষিত এআই ভিডিওটিকে নতুন কণ্ঠের সাথে ঠোঁট মেলাতে ব্যবহৃত হয়েছিল। একজন দলীয় কর্মী এটিকে ডিপফেক প্রযুক্তির একটি "ইতিবাচক" ব্যবহার হিসেবে বর্ণনা করেছেন।

২০২০ সালে, ব্রুনো সার্টোরি জাইর বলসোনারো এবং ডোনাল্ড ট্রাম্প-এর মতো রাজনীতিবিদদের প্যারোডি করে ডিপফেক তৈরি করেন।

২০২১ সালের এপ্রিলে, বেশ কয়েকটি ইউরোপীয় দেশের রাজনীতিবিদদের কাছে প্র্যাঙ্কস্টার ভোভান এবং লেক্সাস যোগাযোগ করেন। তারা রাশিয়ার বিরোধী দলীয় নেতা অ্যালেক্সেই নাভালনি-র চিফ অফ স্টাফ লিওনিড ভলকভ ছদ্মবেশ ধারণ করেন, যা অভিযোগ করা হয় ডিপফেক প্রযুক্তির মাধ্যমে করা হয়েছে। তবে, এই জুটি দ্য ভার্জ-কে বলেছিলেন যে তারা ডিপফেক ব্যবহার করেননি এবং কেবল একজন সদৃশ ব্যক্তিকে ব্যবহার করেছেন।

২০২৩ সালের মে মাসে, ভাইস প্রেসিডেন্ট কমলা হ্যারিস-এর একটি ডিপফেক ভিডিও সামাজিক যোগাযোগ মাধ্যমে ভাইরাল হয় যেখানে তাকে আজ, আগামীকাল এবং গতকাল নিয়ে অসংলগ্ন কথা বলতে দেখা যায়।

২০২৩ সালের জুনে, মার্কিন যুক্তরাষ্ট্রে রন ডিস্যান্টিসের প্রেসিডেন্ট প্রচারণায় ডোনাল্ড ট্রাম্পকে ভুলভাবে উপস্থাপন করতে ডিপফেক ব্যবহার করা হয়েছিল।

২০২৩ সালের নভেম্বরে, জার্মান চ্যান্সেলর ওলাফ শলৎস-এর একটি ডিপফেক ভিডিও ইউটিউবে আপলোড করা হয়েছিল যেখানে তাকে রাজনৈতিক দল এএফডি-এর কার্যক্রম নিষিদ্ধ করার পরিকল্পনা ঘোষণা করতে দেখা যায়।

২০২৪ সালের মার্চ মাসে, ভারতের বিধানসভা নির্বাচনের সময়, রাজনৈতিক প্রার্থীদের দ্বারা ভোটারদের কাছে পৌঁছানোর জন্য ডিপফেক প্রযুক্তি ব্যাপকভাবে ব্যবহৃত হয়েছিল। অনেক রাজনীতিবিদ দিব্যেন্দ্র সিং জাদউন দ্বারা প্রতিষ্ঠিত স্টার্টআপ 'দ্য ইন্ডিয়ান ডিপফেকার'-এর তৈরি এআই-জেনারেটেড ডিপফেক ব্যবহার করেছিলেন, যাতে তাদের ভাষণগুলো একাধিক আঞ্চলিক ভাষায় অনুবাদ করা যায়। ভারতের রাজনৈতিক প্রচারণার কৌশলে এটি একটি উল্লেখযোগ্য পরিবর্তন হিসেবে চিহ্নিত হয়েছে।

২০২৫ সালের জুনে, হাভিয়ের মিলেইয়ের সরকার সাংবাদিক মেনগোলিনির বিরুদ্ধে একটি কুৎসা প্রচার অভিযানকে সমর্থন করেছিল, যা আংশিকভাবে স্পষ্ট ডিপফেকের ওপর ভিত্তি করে তৈরি হয়েছিল।

২০২৫ সালের জুলাইয়ে, ডোনাল্ড ট্রাম্প তার ট্রুথ সোশ্যাল অ্যাকাউন্টে একটি ডিপফেক পোস্ট করেন, যেখানে প্রাক্তন প্রেসিডেন্ট বারাক ওবামা-কে হোয়াইট হাউস থেকে গ্রেপ্তার হতে এবং কারাগারে বন্দি হতে দেখা যায়।

 পর্নোগ্রাফি 

২০১৭ সালে, ডিপফেক পর্নোগ্রাফি ইন্টারনেটে, বিশেষ করে রেডিট-এ প্রভূতভাবে দৃশ্যমান হয়। ২০১৯ সাল পর্যন্ত, ইন্টারনেটের অনেক ডিপফেক নারী সেলিব্রিটিদের পর্নোগ্রাফি তুলে ধরে যাদের সাদৃশ্য সাধারণত তাদের সম্মতি ছাড়াই ব্যবহৃত হয়। ডাচ সাইবার সিকিউরিটি স্টার্টআপ ডিপট্রেস দ্বারা ২০১৯ সালের অক্টোবরে প্রকাশিত একটি প্রতিবেদনে অনুমান করা হয়েছে যে অনলাইনে সমস্ত ডিপফেকের ৯৬% পর্নোগ্রাফিক ছিল।
২০১৮ সাল পর্যন্ত, অন্যদের মধ্যে ডেইজি রিডলি-র একটি ডিপফেক প্রথমে সবার দৃষ্টি আকর্ষণ করেছিল। ২০১৯ সালের অক্টোবর পর্যন্ত ইন্টারনেটে অধিকাংশ ডিপফেক লক্ষ্যবস্তু ছিল ব্রিটিশ এবং আমেরিকান অভিনেতারা। তবে প্রায় এক-চতুর্থাংশ লক্ষ্যবস্তু ছিল দক্ষিণ কোরীয়, যাদের বেশিরভাগই কে-পপ তারকা।

২০১৯ সালের জুনে, ডিপনিউড নামক একটি ডাউনলোডযোগ্য মাইক্রোসফট উইন্ডোজ এবং লিনাক্স অ্যাপ্লিকেশন প্রকাশ করা হয় যা নিউরাল নেটওয়ার্ক, বিশেষ করে জেনারেটিভ অ্যাডভার্সারিয়াল নেটওয়ার্ক ব্যবহার করে নারীদের ছবি থেকে পোশাক সরিয়ে দিত। অ্যাপটির পেইড এবং ফ্রি উভয় সংস্করণ ছিল, যেখানে পেইড সংস্করণের দাম ছিল ৫০ ডলার। ২৭ জুন নির্মাতারা অ্যাপ্লিকেশনটি সরিয়ে নেন এবং গ্রাহকদের অর্থ ফেরত দেন।

নারী সেলিব্রিটিরা প্রায়ই ডিপফেক পর্নোগ্রাফির প্রধান লক্ষ্যবস্তু হন। ২০২৩ সালে, একটি মুখ অদলবদল করার অ্যাপে এমা ওয়াটসন এবং স্কার্লেট জোহ্যানসন-এর ডিপফেক পর্ন ভিডিও অনলাইনে প্রকাশিত হয়েছিল। ২০২৪ সালে, টেইলর সুইফট-এর ডিপফেক পর্ন ছবি অনলাইনে ছড়িয়ে পড়েছিল।

একাডেমিক স্টাডিতে বলা হয়েছে যে নারী, এলজিবিটি ব্যক্তি এবং কৃষ্ণাঙ্গ বা অ-শ্বেতাঙ্গ ব্যক্তিরা (বিশেষ করে অ্যাক্টিভিস্ট, রাজনীতিবিদ এবং যারা ক্ষমতার সমালোচনা করেন) ডিপফেক পর্নোগ্রাফি প্রচারের উচ্চ ঝুঁকির মধ্যে রয়েছেন।

 সামাজিক যোগাযোগ মাধ্যম 
ডিপফেকগুলি জনপ্রিয় সামাজিক যোগাযোগ মাধ্যম প্ল্যাটফর্মগুলোতে ব্যবহার হতে শুরু করেছে, বিশেষ করে চীনের ডিপফেক অ্যাপ 'জাও' [Zao (燥)]-এর মাধ্যমে। এটি ব্যবহারকারীদের রোমিও + জুলিয়েট এবং গেম অব থ্রোনস-এর মতো চলচ্চিত্র ও টেলিভিশন সিরিজের দৃশ্যের চরিত্রগুলোর মুখে নিজেদের মুখ প্রতিস্থাপনের সুযোগ দেয়। অ্যাপটি শুরুতে এর অনুপ্রবেশকারী ব্যবহারকারী তথ্য এবং গোপনীয়তা নীতির কারণে সমালোচনার মুখে পড়েছিল, যার পরে কোম্পানিটি নীতিটি সংশোধন করার দাবি করে একটি বিবৃতি প্রদান করে। ২০২০ সালের জানুয়ারিতে ফেসবুক ঘোষণা করে যে তারা তাদের প্ল্যাটফর্মে এটি মোকাবিলার জন্য নতুন ব্যবস্থা গ্রহণ করছে।

কংগ্রেশনাল রিসার্চ সার্ভিস অনির্দিষ্ট প্রমাণের কথা উল্লেখ করে জানিয়েছে যে, বিদেশী গোয়েন্দা অপারেটিভরা গোপনীয় তথ্য ব্যবহারের অধিকার থাকা ব্যক্তিদের নিয়োগের উদ্দেশ্যে সামাজিক যোগাযোগ মাধ্যমে অ্যাকাউন্ট তৈরি করতে ডিপফেক ব্যবহার করেছে।

২০২১ সালে, অভিনেতা টম ক্রুজ-এর বাস্তবসম্মত ডিপফেক ভিডিও টিকটক-এ প্রকাশিত হয়, যা ভাইরাল হয়ে কোটি কোটি ভিউ অর্জন করে। এই ডিপফেক ভিডিওগুলোতে ক্রুজের একটি "কৃত্রিম বুদ্ধিমত্তা-তৈরি সদৃশ রূপ" প্রদর্শিত হয়েছিল যেখানে তাকে গলফ খেলা, একটি মুদ্রার জাদু দেখানো এবং ললিপপ খাওয়ার মতো বিভিন্ন কাজ করতে দেখা যায়। এই ক্লিপগুলোর নির্মাতা, বেলজীয় ভিএফএক্স শিল্পী ক্রিস উমে (Chris Umé), বলেছেন যে তিনি ২০১৮ সালে প্রথম ডিপফেকের প্রতি আগ্রহী হন এবং এগুলোর "সৃজনশীল সম্ভাবনা" দেখতে পান।

 সোকপাপেট 
ডিপফেক আলোকচিত্রগুলো সোকপাপেট বা অস্তিত্বহীন ব্যক্তি তৈরিতে ব্যবহার করা যেতে পারে, যারা অনলাইনে এবং প্রথাগত মিডিয়া উভয় ক্ষেত্রেই সক্রিয় থাকে। অলিভার টেলর নামক একজন অস্তিত্বহীন ব্যক্তির কাল্পনিক পরিচয়ের সাথে একটি ডিপফেক আলোকচিত্র তৈরি করা হয়েছে বলে মনে হয়, যার পরিচয় যুক্তরাজ্যের একজন বিশ্ববিদ্যালয়ের ছাত্র হিসেবে বর্ণনা করা হয়েছিল। অলিভার টেলর নামক সেই ব্যক্তি বেশ কয়েকটি সংবাদপত্রে নিবন্ধ জমা দিয়েছিলেন এবং অনলাইন মিডিয়াতে একজন ব্রিটিশ আইনি শিক্ষাবিদ এবং তার স্ত্রীকে "সন্ত্রাসীদের সহযোগী" হিসেবে আক্রমণ করার কাজে সক্রিয় ছিলেন। সেই শিক্ষাবিদ ২০১৮ সালে মেক্সিকোর নাগরিকদের পক্ষ থেকে ইসরায়েলে এনএসও নামক একটি নজরদারি সংস্থার বিরুদ্ধে মামলা শুরু করে আন্তর্জাতিক মনোযোগ আকর্ষণ করেছিলেন। রয়টার্স অলিভার টেলরের খুব সামান্য রেকর্ড খুঁজে পেয়েছে এবং "তার" বিশ্ববিদ্যালয়ে তার কোনো রেকর্ড ছিল না। অনেক বিশেষজ্ঞ একমত হয়েছেন যে প্রোফাইল ফটোটি একটি ডিপফেক। বেশ কয়েকটি সংবাদপত্র তাকে দিয়ে লেখানো নিবন্ধগুলো প্রত্যাহার করেনি বা তাদের ওয়েবসাইট থেকে সরিয়ে দেয়নি। আশঙ্কা করা হচ্ছে যে এই ধরণের কৌশলগুলো অপতথ্যের বিস্তারের ক্ষেত্রে একটি নতুন রণক্ষেত্র।রয়টার্স, ১৫ জুলাই ২০২০, অ্যাক্টিভিস্ট দম্পতিকে আক্রমণ করতে ডিপফেকের ব্যবহার অপতথ্যের নতুন সীমানা প্রদর্শন করছে 

সামাজিক যোগাযোগ মাধ্যমে অস্তিত্বহীন ব্যক্তিদের ডিপফেক আলোকচিত্রের সংগ্রহ ইসরায়েলি দলীয় প্রোপাগান্ডার অংশ হিসেবেও মোতায়েন করা হয়েছে। "জিওনিস্ট স্প্রিং" নামক ফেসবুক পেজে অস্তিত্বহীন ব্যক্তিদের ছবির সাথে তাদের "সাক্ষ্য" প্রকাশ করা হয়েছিল যেখানে ব্যাখ্যা করা হয়েছে কেন তারা তাদের বামপন্থী রাজনীতি ত্যাগ করে ডানপন্থী রাজনীতিকে গ্রহণ করেছে। পেজটিতে ইসরায়েলের প্রধানমন্ত্রী বেঞ্জামিন নেতানিয়াহু এবং তার ছেলে ও অন্যান্য ইসরায়েলি ডানপন্থী উৎস থেকে প্রচুর পোস্ট ছিল। আলোকচিত্রগুলো "মানুষের ছবি সংশ্লেষণ" প্রযুক্তি ব্যবহার করে তৈরি করা হয়েছে বলে মনে হয়। অধিকাংশ "সাক্ষ্যে" ডানপন্থী রাজনীতি গ্রহণের কারণ হিসেবে প্রধানমন্ত্রীর বিরুদ্ধে সহিংসতার কথিত উস্কানি সম্পর্কে জানার ধাক্কার কথা উল্লেখ করা হয়েছে। ইসরায়েলি ডানপন্থী টেলিভিশন সম্প্রচারকারীরা তখন অনলাইনে "শেয়ার" হওয়ার ভিত্তিতে এই অস্তিত্বহীন ব্যক্তিদের "সাক্ষ্য" প্রচার করে। সম্প্রচারকারীরা এই ধরনের ব্যক্তিদের খুঁজে পেতে অক্ষম হওয়া সত্ত্বেও এই "সাক্ষ্যগুলো" প্রচার করে এই বলে যে, "উৎসের খবর নিয়ে কী লাভ?" কাল্পনিক ব্যক্তিদের অন্যান্য ফেসবুক প্রোফাইল থেকে এমন বিষয়বস্তু পোস্ট করা হয়েছিল যাতে প্রধানমন্ত্রীর সমালোচনামূলক বিষয় ছিল, যা প্রধানমন্ত্রী নিজেকে হত্যার ষড়যন্ত্র বলে দাবি করেছিলেন।৯৭২ ম্যাগাজিন, ১২ আগস্ট ২০২০, "'বিবির জন্য বামপন্থী'? নেতানিয়াহু-পন্থী ডিপফেক প্রোপাগান্ডা উন্মোচিত: ফেসবুক পোস্টের একটি সিরিজ অনুযায়ী, ইসরায়েলি প্রধানমন্ত্রী বামপন্থী অনুসারীদের মন জয় করছেন--কিন্তু সমস্যা হলো এই ব্যক্তিদের কারোরই অস্তিত্ব নেই" দ্য সেভেনথ আই, ৯ জুন ২০২০, উস্কানির পর্নোগ্রাফি: নেতানিয়াহু সমর্থকরা সোশ্যাল মিডিয়া গ্রুপে নকল পোস্ট ছড়ানো চালিয়ে যাচ্ছেন • হাস্যকর ট্রোলিংয়ের পাশাপাশি ইসরায়েলি সমাজে ঘৃণা ও বিভাজন বাড়াতে মিথ্যা ছবি ছড়ানো হচ্ছে 

 উদ্বেগ এবং প্রতিরোধমূলক ব্যবস্থা 
যদিও নকল ছবি দীর্ঘকাল ধরেই বিদ্যমান ছিল, তবে চলচ্চিত্র বা চলমান ভিডিও নকল করা অনেক বেশি কঠিন ছিল। ডিপফেকের উপস্থিতি ভিডিওগুলো আসল নাকি নকল তা শ্রেণীবদ্ধ করার কঠিনতাকে আরও বাড়িয়ে দেয়। এআই গবেষক আলেক চ্যাম্পান্ডার্ড বলেছেন যে ডিপফেক প্রযুক্তির মাধ্যমে জিনিসগুলো কত দ্রুত কলুষিত হতে পারে সে সম্পর্কে মানুষের জানা উচিত এবং এই সমস্যাটি কেবল প্রযুক্তিগত নয়, বরং এটি তথ্য এবং সাংবাদিকতার প্রতি বিশ্বাসের মাধ্যমে সমাধান করতে হবে। সাউদার্ন ক্যালিফোর্নিয়া বিশ্ববিদ্যালয়ের কম্পিউটার বিজ্ঞানের সহযোগী অধ্যাপক হাও লি উল্লেখ করেছেন যে, ডিপফেক প্রযুক্তি সম্পর্কে সচেতনতা বাড়াতে কিছু করা না হলে ভুয়া সংবাদের মতো ক্ষতিকর উদ্দেশ্যে তৈরি ডিপফেকগুলো আরও বেশি ক্ষতিকর হবে। লি ভবিষ্যদ্বাণী করেছিলেন যে ২০১৯ সালের অক্টোবর থেকে মাত্র ছয় মাসের মধ্যে আসল ভিডিও এবং ডিপফেকগুলি আলাদা করা অসম্ভব হয়ে যাবে। গুগল-এর প্রাক্তন জালিয়াতি বিশেষজ্ঞ শুমান ঘোষমজুমদার ডিপফেককে "সামাজিক উদ্বেগের" ক্ষেত্র হিসেবে অভিহিত করেছেন এবং বলেছেন যে এগুলো অনিবার্যভাবে এমন এক পর্যায়ে পৌঁছাবে যেখানে এগুলো স্বয়ংক্রিয়ভাবে তৈরি করা সম্ভব হবে।

 তথ্যের বিশ্বাসযোগ্যতা 
একটি প্রধান বিপদ হলো মানবজাতি এমন এক যুগে প্রবেশ করতে পারে যেখানে কোনো মিডিয়ার বিষয়বস্তু সত্যের সাথে সংগতিপূর্ণ কি না তা আর নির্ধারণ করা সম্ভব হবে না। ডিপফেক হলো অপতথ্য আক্রমণের, সন্দেহ তৈরি এবং বিশ্বাস নষ্ট করার জন্য ব্যবহৃত বেশ কয়েকটি সরঞ্জামের একটি। এগুলো সমাজের গণতান্ত্রিক কার্যাবলীতে হস্তক্ষেপ করার সম্ভাবনা রাখে। মানুষ বাস্তব ঘটনাগুলোকেও ভুয়া হিসেবে প্রত্যাখ্যান করা শুরু করতে পারে।

 মানহানি 
ডিপফেক কোনো স্বতন্ত্র সত্তার ব্যাপক ক্ষতি করার সক্ষমতা রাখে। কারণ ডিপফেক প্রায়শই একজন ব্যক্তিকে লক্ষ্য করে তৈরি করা হয়, যাতে জনমত বা বিশ্বাসকে প্রভাবিত করার মতো শক্তিশালী একটি বর্ণনা তৈরি করা যায়। এটি ডিপফেক ভয়েস ফিশিংয়ের মাধ্যমে করা যেতে পারে, যা অডিও কারসাজি করে নকল ফোন কল বা কথোপকথন তৈরি করে। ডিপফেক ব্যবহারের আরেকটি পদ্ধতি হলো বানোয়াট ব্যক্তিগত মন্তব্য, যা মিডিয়ার কারসাজি করে কোনো ব্যক্তিকে ক্ষতিকর মন্তব্য করতে দেখায়। একটি নেতিবাচক ভিডিও বা অডিওর মান খুব উচ্চ হওয়ার প্রয়োজন নেই। যতক্ষণ পর্যন্ত কোনো ব্যক্তির সাদৃশ্য এবং কাজ শনাক্ত করা যায়, একটি ডিপফেক তাদের সম্মানের ক্ষতি করতে পারে।

২০২০ সালের সেপ্টেম্বরে মাইক্রোসফট প্রকাশ করে যে তারা একটি ডিপফেক শনাক্তকারী সফটওয়্যার টুল তৈরি করছে।

 শনাক্তকরণ 

 অডিও 
নকল অডিও শনাক্ত করা একটি অত্যন্ত জটিল কাজ যার জন্য অডিও সিগন্যালের প্রতি সতর্ক মনোযোগ প্রয়োজন। ডিপ লার্নিং ব্যবহার করে প্রি-প্রসেসিং এবং মাস্কিং অগমেন্টেশন পারফরম্যান্স বৃদ্ধিতে কার্যকর প্রমাণিত হয়েছে।

 ভিডিও 
ডিপফেক সংক্রান্ত অধিকাংশ একাডেমিক গবেষণা ডিপফেক ভিডিও শনাক্তকরণের ওপর আলোকপাত করে। ডিপফেক শনাক্তকরণের একটি পদ্ধতি হলো অ্যালগরিদম ব্যবহার করে প্যাটার্ন শনাক্ত করা এবং ভিডিওতে থাকা সূক্ষ্ম অসংগতিগুলো খুঁজে বের করা। উদাহরণস্বরূপ, গবেষকরা স্বয়ংক্রিয় ব্যবস্থা তৈরি করেছেন যা অনিয়মিত চোখের পলক ফেলা বা আলোর অসংগতির মতো ত্রুটিগুলো পরীক্ষা করে। এই পদ্ধতির সমালোচনা করা হয়েছে কারণ ডিপফেক শনাক্তকরণ একটি "পরিবর্তনশীল লক্ষ্যবস্তু" দ্বারা চিহ্নিত, যেখানে ডিপফেক শনাক্ত করার অ্যালগরিদম উন্নত হওয়ার সাথে সাথে ডিপফেকের উৎপাদনও পরিবর্তিত এবং উন্নত হতে থাকে। ডিপফেক শনাক্তকরণের সবচেয়ে কার্যকর অ্যালগরিদমগুলো মূল্যায়নের জন্য শীর্ষস্থানীয় প্রযুক্তি কোম্পানিগুলোর একটি জোট ডিপফেক ডিটেকশন চ্যালেঞ্জ আয়োজন করেছে। চ্যালেঞ্জের বিজয়ী মডেলটি ৪,০০০ ভিডিওর সেটে ৬৫% সঠিক ছিল। ম্যাসাচুসেট্‌স ইনস্টিটিউট অব টেকনোলজির একটি দল ২০২১ সালের ডিসেম্বরে একটি গবেষণাপত্র প্রকাশ করে দেখিয়েছে যে সাধারণ মানুষ এই ভিডিওগুলোর ৫০টির একটি র্যান্ডম স্যাম্পল শনাক্ত করার ক্ষেত্রে ৬৯–৭২% সঠিক ছিল।

ইউনিভার্সিটি অব বাফেলোর একটি দল ২০২০ সালের অক্টোবরে একটি গবেষণাপত্র প্রকাশ করে যাতে চিত্রিত ব্যক্তিদের চোখের আলোর প্রতিফলন ব্যবহার করে উচ্চ সাফল্যের সাথে ডিপফেক শনাক্ত করার কৌশল বর্ণনা করা হয়েছে।

রাজনৈতিক নেতাদের মতো সু-নথিভুক্ত ব্যক্তিদের ক্ষেত্রে, পরিচয়-ভিত্তিক বৈশিষ্ট্য যেমন মুখের ভঙ্গি, অঙ্গভঙ্গি এবং কণ্ঠস্বরের বিশেষত্বগুলো আলাদা করার জন্য অ্যালগরিদম তৈরি করা হয়েছে।

সাউদার্ন ক্যালিফোর্নিয়া বিশ্ববিদ্যালয়ের ইনফরমেশন সায়েন্সেস ইনস্টিটিউটের ভিজ্যুয়াল ইন্টেলিজেন্স অ্যান্ড মাল্টিমিডিয়া অ্যানালিটিক্স ল্যাবরেটরি-এর ওয়ায়েল আবদআলমাজীদের নেতৃত্বে একটি দল কনভোলিউশনাল নিউরাল নেটওয়ার্ক-এর ওপর ভিত্তি করে দুই প্রজন্মের ডিপফেক ডিটেক্টর তৈরি করেছে। প্রথম প্রজন্মটি ভিডিওতে থাকা অসংগতিগুলো খুঁজে বের করতে এবং ভিজ্যুয়াল আর্টিফ্যাক্ট শনাক্ত করতে পুনরাবৃত্ত স্নায়ু নেটওয়ার্ক ব্যবহার করেছে। দ্বিতীয় প্রজন্মটি টু-ব্রাঞ্চ নেটওয়ার্ক ব্যবহার করে আর্টিফ্যাক্ট এবং উচ্চ-স্তরের সেমান্টিক মুখের তথ্যের মধ্যে পার্থক্য করতে সক্ষম। ভিআইএমএল-এর এই পদ্ধতিটি ২০২২ সালের ১৬ মার্চ ভলোদিমির জেলেনস্কির ডিপফেক শনাক্ত করতে ব্যবহৃত হয়েছিল।

অন্যান্য কৌশলগুলো প্রস্তাব করে যে মিডিয়ার উৎস যাচাই করতে ব্লকচেইন ব্যবহার করা যেতে পারে। উদাহরণস্বরূপ, একটি ভিডিও সামাজিক যোগাযোগ মাধ্যমে প্রদর্শিত হওয়ার আগে লেজারের মাধ্যমে যাচাই করার প্রয়োজন হতে পারে।

স্মার্টফোন ক্যামেরাসহ সব ক্যামেরা এবং ভিডিও ক্যামেরা দ্বারা সমস্ত ভিডিও এবং ইমেজের ডিজিটাল স্বাক্ষর করার প্রস্তাব করা হয়েছে। এটি প্রতিটি আলোকচিত্র বা ভিডিওর মূল মালিককে খুঁজে বের করতে সাহায্য করে।

ডিপফেক ভিডিও কল উন্মোচন করার একটি সহজ উপায় হলো কলকারীকে তার মুখ একপাশে ঘুরাতে বলা।

 ডিপফেক শনাক্তকরণ এবং নিয়ন্ত্রণ 
আইনি বিশেষজ্ঞরা বর্তমানে সক্রিয়ভাবে প্রশ্ন তুলছেন যে বর্তমান এবং উদীয়মান নিয়ন্ত্রক কাঠামো ডিপফেক শনাক্তকরণের অগ্রগতির সাথে ব্যক্তিগত অধিকারের সুরক্ষার পর্যাপ্ত ভারসাম্য বজায় রাখছে কি না। যে আইনগুলো স্ক্রুটিনির আওতায় রয়েছে তার মধ্যে রয়েছে কৃত্রিম বুদ্ধিমত্তা আইন, সাধারণ তথ্য সুরক্ষা নিয়ন্ত্রণ, ইউরোপীয় ইউনিয়নের ডিজিটাল পরিষেবা আইন, সেইসাথে মার্কিন যুক্তরাষ্ট্রের খণ্ডিত রাষ্ট্রীয় ও ফেডারেল আইন এবং যুক্তরাজ্যের অনলাইন নিরাপত্তা আইন ২০২৩।

 প্রতিরোধ 
ডিপট্রেস-এর হেনরি আজডার বলেন যে কর্মক্ষেত্রে ডিপফেক থেকে রক্ষা পাওয়ার বেশ কয়েকটি উপায় রয়েছে। গুরুত্বপূর্ণ কথোপকথন করার সময় সেমান্টিক পাসওয়ার্ড বা গোপন প্রশ্ন ব্যবহার করা যেতে পারে। ভয়েস অথেনটিকেশন এবং অন্যান্য বায়োমেট্রিক নিরাপত্তা ব্যবস্থা আপ টু ডেট রাখা উচিত এবং কর্মীদের ডিপফেক সম্পর্কে শিক্ষিত করা উচিত।

 মিডিয়া লিটারেসি এবং ডিপফেক 
ডিপফেক দর্শকদের বোকা বানাতে এবং বিশ্বাসযোগ্যভাবে কাউকে অনুকরণ করতে সক্ষম হওয়ায়, গবেষণায় ইঙ্গিত দেওয়া হয়েছে যে পর্যবেক্ষণের মাধ্যমে সত্যতা যাচাইয়ের ধারণার ওপর পুরোপুরি নির্ভর করা যায় না। সমালোচনামূলক চিন্তাভাবনা এবং উপস্থাপিত মিডিয়ার প্রতি একটি সংশয়ী দৃষ্টিভঙ্গি একজন ব্যক্তিকে ডিপফেক শনাক্ত করতে সহায়তা করার ক্ষেত্রে কার্যকর। মিডিয়া লিটারেসি বা মিডিয়া সাক্ষরতা কাঠামো মিডিয়ার সমালোচনামূলক বিশ্লেষণ এবং বিষয়বস্তু উপস্থাপনার পেছনের উদ্দেশ্যগুলোকে তুলে ধরে।

 বিতর্ক 
২০২৪ সালের মার্চ মাসে, বাকিংহাম প্রাসাদ থেকে একটি ভিডিও ক্লিপ প্রকাশ করা হয় যেখানে ঘোষণা করা হয় যে ক্যাথরিন, প্রিন্সেস অফ ওয়েলস ক্যান্সারে আক্রান্ত এবং তার কেমোথেরাপি চলছে। ক্লিপটিতে মিডলটনের পরা একটি আংটির উপস্থিতি এই গুজবকে উস্কে দেয় যে ক্লিপটি একটি ডিপফেক ছিল। ইউসিএলএ-এর রেস অ্যান্ড ইক্যুইটির ডিরেক্টর জোনাথন পারকিন্স সন্দেহ প্রকাশ করেন যে মিডলটনের ক্যান্সার হয়েছে এবং তিনি অনুমান করেন যে তিনি সম্ভবত গুরুতর অবস্থায় আছেন বা মারা গেছেন।

 রাজনীতি 
সম্প্রতি, ডিপফেকের ব্যবহার অপতথ্য অভিযানে এর সক্ষমতা এবং প্রভাব নিয়ে গবেষণাকে অনুপ্রাণিত করেছে। এই সক্ষমতা উদ্বেগ বাড়িয়েছে, কারণ ডিপফেক একজন ব্যক্তির সংশয়কে এড়িয়ে তার দৃষ্টিভঙ্গিকে প্রভাবিত করতে পারে। কিছু বিশেষজ্ঞ বিশ্বাস করেন যে ডিপফেক গণতান্ত্রিক সমাজের জন্য একটি উল্লেখযোগ্য হুমকি হতে পারে। ডাচ অংশগ্রহণকারীদের ওপর দৃষ্টি নিবদ্ধ করা দুটি পৃথক গবেষণায় দেখা গেছে যে ডিপফেকের প্রভাব দর্শকদের ওপর ভিন্ন ভিন্ন হয়। অপপ্রচারের হাতিয়ার হিসেবে ডিপফেক প্রথাগত টেক্সট-ভিত্তিক অপপ্রচারের চেয়ে শক্তিশালী প্রতিক্রিয়া তৈরি করেনি। তবে, ডিপফেক এমন ব্যক্তিদের ওপর আশ্বস্ত করার মতো প্রভাব ফেলেছিল যাদের আগে থেকে থাকা ধারণাগুলো ডিপফেকের প্রচারিত দৃষ্টিভঙ্গির সাথে মিলে যায়। "মাইক্রোটার্গেটিং"-এর ক্ষেত্রে ডিপফেক কার্যকর বলে প্রমাণিত হয়েছে।

 লায়ার্স ডিভিডেন্ড 

লায়ার্স ডিভিডেন্ড হলো একটি রাজনৈতিক ও সামাজিক প্রপঞ্চ যেখানে কোনো ব্যক্তি নিজের দোষী সাব্যস্তকারী বা বিব্রতকর আসল ভিডিও বা অডিও রেকর্ডিংয়ের মুখোমুখি হলে দাবি করেন যে রেকর্ডিংগুলো এআই দ্বারা তৈরি, যাতে অভিযোগগুলো প্রত্যাখ্যান করা যায় এবং সহানুভূতি পাওয়া যায়।

 উদাহরণস্বরূপ ঘটনাবলী 

 বারাক ওবামা ২০১৮ সালের ১৭ এপ্রিল, আমেরিকান অভিনেতা জর্ডান পিল, বাজফিড এবং মানকিপা প্রোডাকশনস ইউটিউবে বারাক ওবামা-র একটি ডিপফেক পোস্ট করে, যেখানে ওবামাকে গালিগালাজ করতে এবং ডোনাল্ড ট্রাম্পকে বিভিন্ন নামে ডাকতে দেখা যায়। ভিডিওটির উদ্দেশ্য ছিল ডিপফেকের বিপজ্জনক পরিণতি এবং ক্ষমতা প্রদর্শন করা।
 ডোনাল্ড ট্রাম্প ২০১৯ সালের ৫ মে, ডার্পফেকস ইউটিউবে ডোনাল্ড ট্রাম্প-এর একটি ডিপফেক পোস্ট করে। ভিডিওটিতে জিমি ফ্যালনের মুখ ট্রাম্পের মুখে পরিবর্তিত করা হয়েছিল। ২০২৩ সালের মার্চ মাসে, মিডজার্নি ব্যবহার করে তৈরি করা একটি ছবির সিরিজ প্রকাশ করা হয় যাতে দেখা যায় নিউ ইয়র্ক পুলিশ ট্রাম্পকে বাধা দিচ্ছে। ছবিগুলো এলিয়ট হিগিন্স প্রথম টুইটারে পোস্ট করেছিলেন।
 ন্যান্সি পেলোসি ২০১৯ সালে, ন্যান্সি পেলোসি-র একটি ভাষণের ক্লিপ সামাজিক যোগাযোগ মাধ্যমে ছড়িয়ে পড়ে যাতে ভিডিওটির গতি কমিয়ে দেওয়া হয়েছিল এবং অডিওর পিচ পরিবর্তন করা হয়েছিল যাতে মনে হয় তিনি মাতাল। সমালোচকরা যুক্তি দেন যে এটি ডিপফেক নয় বরং শ্যালোফেক—ভিডিও কারসাজির একটি কম পরিশীলিত রূপ।
 মার্ক জাকারবার্গ ২০১৯ সালের মে মাসে, ক্যানিএআই কোম্পানির সাথে সহযোগিতায় দুজন শিল্পী ফেসবুক প্রতিষ্ঠাতা মার্ক জাকারবার্গ-এর একটি ডিপফেক ভিডিও তৈরি করেন। ভিডিওতে জাকারবার্গকে কোটি কোটি মানুষের তথ্য সংগ্রহ ও নিয়ন্ত্রণ সম্পর্কে কথা বলতে দেখা যায়।
 কিম জং-উন এবং ভ্লাদিমির পুতিন ২০২০ সালের ২৯ সেপ্টেম্বর, একটি নির্দলীয় অ্যাডভোকেসি গ্রুপ রেপ্রেজেন্টআস উত্তর কোরিয়ার নেতা কিম জং উন এবং রাশিয়ার প্রেসিডেন্ট ভ্লাদিমির পুতিন-এর ডিপফেক ইউটিউবে আপলোড করে। ভিডিওটির উদ্দেশ্য ছিল আমেরিকানদের এই সত্যটি বোঝানো যে গণতন্ত্র কতটা ভঙ্গুর হতে পারে। ২০২৩ সালের ৫ জুন, একাধিক রেডিও ও টেলিভিশন নেটওয়ার্কে ভ্লাদিমির পুতিনের একটি ডিপফেক প্রচারিত হয় যেখানে তাকে মার্শাল ল ঘোষণা করতে দেখা যায়।
 ভলোদিমির জেলেনস্কি ২০২২ সালের ১৬ মার্চ, ইউক্রেনের প্রেসিডেন্ট ভলোদিমির জেলেনস্কি-র এক মিনিট দীর্ঘ একটি ডিপফেক ভিডিও ছড়িয়ে পড়ে যেখানে তাকে তার সৈন্যদের অস্ত্র ত্যাগ করতে এবং আত্মসমর্পণ করতে বলতে দেখা যায়। জেলেনস্কি তাৎক্ষণিকভাবে এর জবাবে নিজের একটি ভিডিও প্রকাশ করেন এবং বলেন, "আমরা কোনো অস্ত্র ত্যাগ করার পরিকল্পনা করছি না। আমাদের বিজয় পর্যন্ত।"
 উলফ নিউজ ২০২২ সালের শেষের দিকে, চীন-পন্থী প্রচারকরা সংশ্লেষিত অভিনেতা ব্যবহার করে "উলফ নিউজ" থেকে ভিডিও ছড়াতে শুরু করে। এই প্রযুক্তিটি লন্ডনের সিনথেসিয়া নামক একটি কোম্পানি তৈরি করেছিল।
 পোপ ফ্রান্সিস ২০২৩ সালের মার্চ মাসে, শিকাগোর একজন নির্মাণ শ্রমিক মিডজার্নি ব্যবহার করে সাদা পফ জ্যাকেট পরা পোপ ফ্রান্সিস-এর একটি জাল ছবি তৈরি করেন। ছবিটি ভাইরাল হয়ে দুই কোটির বেশি ভিউ অর্জন করে।
 কিয়ার স্টারমার ২০২৩ সালের অক্টোবরে, যুক্তরাজ্যের লেবার পার্টির নেতা কিয়ার স্টারমারের কর্মীদের গালাগালি করার একটি ডিপফেক অডিও ক্লিপ প্রকাশিত হয়েছিল।
 রশ্মিকা মন্দানা ২০২৩ সালের নভেম্বরের শুরুতে, দক্ষিণ ভারতীয় অভিনেত্রী রশ্মিকা মন্দানা ডিপফেকের শিকার হন যখন জারা প্যাটেল নামক একজন প্রভাবশালীর ভিডিওতে রশ্মিকার মুখ বসানো হয়েছিল। জারা প্যাটেল দাবি করেছেন যে তিনি এটি তৈরির সাথে জড়িত ছিলেন না।
 বংবং মার্কোস ২০২৪ সালের এপ্রিলে ফিলিপাইন প্রেসিডেন্ট বংবং মার্কোস-এর একটি ডিপফেক অডিও প্রকাশিত হয় যাতে তাকে চীন আক্রমণের ক্ষেত্রে সামরিক বাহিনীকে ব্যবস্থা নিতে বলতে শোনা যায়। ২০২৪ সালের জুলাইয়ে মার্কোসকে মাদক সেবন করতে দেখা যায় এমন একটি জাল ভিডিও ছড়িয়ে পড়ে যা পরবর্তীতে এআই-তৈরি হিসেবে প্রমাণিত হয়।
 জো বাইডেন ২০২৪ সালের মার্কিন নির্বাচনের আগে, জো বাইডেন-এর কণ্ঠ অনুকরণ করে মানুষকে ভোট না দেওয়ার জন্য ফোন কল করা হয়েছিল। এর জন্য দায়ী ব্যক্তিকে ভোটার দমনের দায়ে অভিযুক্ত করা হয়েছে।
 অরূপ গ্রুপ অরূপ গ্রুপ ২০২৪ সালে একটি ডিপফেক কেলেঙ্কারির মাধ্যমে ২.৫ কোটি ডলার হারিয়েছে।
 সারা দুতার্তে ২০২৫ সালের জুন মাসে ফিলিপাইন ভাইস প্রেসিডেন্ট সারা দুতার্তে-র ইমপিচমেন্ট বিরোধী একটি ডিপফেক ভিডিও ছড়িয়ে পড়েছিল যা নিয়ে তীব্র বিতর্কের সৃষ্টি হয়।
 ক্যাথরিন কনলি ২০২৫ সালের অক্টোবরে, আইরিশ প্রেসিডেন্ট পদপ্রার্থী ক্যাথরিন কনলি তার প্রার্থিতা প্রত্যাহারের মিথ্যা দাবি সংবলিত একটি ডিপফেক ভিডিওর তীব্র নিন্দা জানান। (এখানে এটি দেখুন)।

 প্রতিক্রিয়া 

 সামাজিক যোগাযোগ মাধ্যম প্ল্যাটফর্মসমূহ 
চ্যাট সাইট ডিসকোর্ড অতীতে ডিপফেকের বিরুদ্ধে ব্যবস্থা নিয়েছে, এবং ডিপফেকের বিরুদ্ধে একটি সাধারণ অবস্থান গ্রহণ করেছে।

জাইফিক্যাট ২০১৮ সালের ৩১ জানুয়ারি থেকে তার সাইট থেকে সমস্ত ডিপফেক অপসারণ করা শুরু করে।

রেডিট ২০১৮ সালের ৭ ফেব্রুয়ারি "অনিচ্ছাকৃত পর্নোগ্রাফি" নীতি লঙ্ঘনের কারণে r/deepfakes সাবরেডিটটি নিষিদ্ধ করে। একই মাসে, টুইটার-এর প্রতিনিধিরা জানিয়েছেন যে তারা অসম্মতিমূলক ডিপফেক বিষয়বস্তু পোস্ট করার সন্দেহভাজন অ্যাকাউন্টগুলো স্থগিত করবেন।

২০১৮ সালের ফেব্রুয়ারিতে, পর্নহাব বলেছে যে তারা তাদের ওয়েবসাইটে ডিপফেক ভিডিও নিষিদ্ধ করবে কারণ একে "অসম্মতিমূলক বিষয়বস্তু" হিসেবে গণ্য করা হয় যা তাদের সেবার শর্তাবলী লঙ্ঘন করে। তারা এর আগে ম্যাশবল-কে জানিয়েছিল যে তারা ডিপফেক হিসেবে চিহ্নিত বিষয়বস্তু সরিয়ে দেবে। মাদারবোর্ড-এর লেখকরা প্রতিবেদন করেছেন যে পর্নহাব-এ "ডিপফেকস" অনুসন্ধান করলে এখনও একাধিক সাম্প্রতিক ডিপফেক ভিডিও পাওয়া যাচ্ছে।

গুগল ২০১৮ সালের সেপ্টেম্বরে তার নিষিদ্ধ তালিকায় "অনিচ্ছাকৃত সংশ্লেষিত পর্নোগ্রাফিক চিত্র" যুক্ত করেছে, যা যে কাউকে তাদের নকল নগ্ন ছবি প্রদর্শনকারী ফলাফলগুলো ব্লক করার অনুরোধ করার অনুমতি দেয়। ২০২২ সালের মে মাসে, গুগল আনুষ্ঠানিকভাবে তাদের জুপিটার নোটবুক কোলাব-এর সেবার শর্তাবলী পরিবর্তন করে ডিপফেক তৈরির উদ্দেশ্যে তাদের কোলাব পরিষেবা ব্যবহার নিষিদ্ধ করেছে।অ্যান্ডারসন, মার্টিন (২০২২)। গুগল কোলাবে ডিপফেক প্রশিক্ষণ নিষিদ্ধ করেছে , ইউনাইট.এআই, ২৮ মে ২০২২ এটি ভাইস-এর একটি নিবন্ধ প্রকাশের কয়েক দিন পরে ঘটেছিল যেখানে ইমানুয়েল মাইবার্গ রিপোর্ট করেছিলেন যে জনপ্রিয় ডিপফেক সফটওয়্যার ডিপফেসল্যাব অসম্মতিমূলক পর্নোগ্রাফি তৈরির জন্য ব্যবহৃত হচ্ছিল। মাইবার্গ উল্লেখ করেছেন যে ডিএফএল-এর গিটহাব পেজটি ডিপফেক পর্ন ওয়েবসাইট মিস্টার ডিপফেকস-এর সাথেও যুক্ত ছিল।মাইবার্গ, ইমানুয়েল (২০২২)।  'ডিপ টম ক্রুজ' থেকে জঘন্য ডিপফেক পর্ন পর্যন্ত যেতে মাত্র ২ ক্লিক লাগে, ভাইস, ১৭ মে ২০২২

ফেসবুক এর আগে বলেছিল যে তারা তাদের প্ল্যাটফর্ম থেকে ডিপফেক সরিয়ে দেবে না। এর পরিবর্তে ভিডিওগুলিকে তৃতীয় পক্ষ দ্বারা জাল হিসেবে চিহ্নিত করা হবে এবং ব্যবহারকারীদের ফিডে সেগুলোর অগ্রাধিকার কমিয়ে দেওয়া হবে। পরবর্তীতে ফেসবুক ডিপফেক শনাক্তকরণ সফটওয়্যার তৈরির উদ্দেশ্যে ডিপফেক ডিটেকশন চ্যালেঞ্জ আয়োজন করে। ফেসবুক আরও জানিয়েছে যে প্ল্যাটফর্মটি কৃত্রিম বুদ্ধিমত্তা ব্যবহার করে তৈরি করা মিডিয়া সরিয়ে দেবে যা কোনো ব্যক্তির কথা পরিবর্তন করতে ব্যবহৃত হয়।

টুইটার (বর্তমানে এক্স নামে পরিচিত) তাদের প্ল্যাটফর্মে সংশ্লেষিত এবং কারসাজি করা মিডিয়া পরিচালনার জন্য সক্রিয় ব্যবস্থা নিচ্ছে। অপতথ্য ছড়ানো রোধ করতে, টুইটার কারসাজি করা মিডিয়া বা ডিপফেক সম্বলিত টুইটে একটি নোটিশ দিচ্ছে যা দর্শকদের সংকেত দেয় যে মিডিয়াটি পরিবর্তিত। যারা সেই টুইটটি রিটুইট, লাইক বা অন্য কোনোভাবে যুক্ত হতে চান তাদের কাছে একটি সতর্কবার্তাও প্রদর্শিত হবে।

২০২৪ সালের আগস্টে, মিনেসোটা, পেনসিলভেনিয়া, ওয়াশিংটন, মিশিগান এবং নিউ মেক্সিকোর সেক্রেটারি অফ স্টেটরা এক্স-এর মালিক ইলন মাস্কের কাছে একটি খোলা চিঠি লিখে তার এআই চ্যাটবট গ্রোক-এর নতুন টেক্সট-টু-ভিডিও মডেল জেনারেটর সংশোধনের আহ্বান জানান, দাবি করেন যে এটি নির্বাচনের ভুল তথ্য প্রচার করেছে।পাঁচটি মার্কিন রাজ্য মাস্ককে নির্বাচনের ভুল তথ্যের ওপর এআই চ্যাটবট ঠিক করতে চাপ দিচ্ছে রয়টার্স, ১৯ আগস্ট ২০২৪-এ সংগৃহীত।

 আইন প্রণয়ন 
মার্কিন যুক্তরাষ্ট্রে ডিপফেক দ্বারা সৃষ্ট সমস্যার কিছু প্রতিক্রিয়া দেখা গেছে। ২০১৮ সালে, মার্কিন সিনেটে 'ক্ষতিকারক ডিপ ফেক নিষেধাজ্ঞা আইন' পেশ করা হয়েছিল; ২০১৯ সালে, নিউ ইয়র্কের প্রতিনিধি ইভেট ক্লার্ক দ্বারা মার্কিন কংগ্রেসে 'ডিপফেকস জবাবদিহিতা আইন' পেশ করা হয়।

২০২৪ সালে, নথিবদ্ধ পরিচয় জালিয়াতির অর্ধেকেরও বেশি ক্ষেত্রে এআই-তৈরি জালিয়াতি জড়িত ছিল, যার ফলে ভার্জিনিয়া, টেক্সাস, ক্যালিফোর্নিয়া এবং নিউ ইয়র্কসহ বেশ কয়েকটি রাজ্যে ডিপফেক সংক্রান্ত আইন প্রণয়ন করা হয়েছে।

ক্যালিফোর্নিয়ার গভর্নর গ্যাভিন নিউসম ২০১৯ সালের ৩ অক্টোবর অ্যাসেম্বলি বিল নং ৬০২ এবং নং ৭৩০-এ স্বাক্ষর করেন। বিল নং ৬০২ সম্মতি ছাড়া তৈরি করা যৌনতাপূর্ণ ডিপফেক সামগ্রীর শিকার ব্যক্তিদের নির্মাতার বিরুদ্ধে আইনি ব্যবস্থা নেওয়ার অধিকার দেয়। বিল নং ৭৩০ নির্বাচনের ৬০ দিনের মধ্যে কোনো প্রার্থীর বিরুদ্ধে ক্ষতিকর ডিপফেক অডিও বা ভিজ্যুয়াল মিডিয়া বিতরণ নিষিদ্ধ করে। প্রতিনিধি মারিয়া সালাজার ২০২৪ সালের ১০ জানুয়ারি মার্কিন কংগ্রেসে 'নো এআই ফ্রড অ্যাক্ট' পেশ করেন, যাতে কণ্ঠস্বরসহ ব্যক্তির শারীরিক বৈশিষ্ট্যের নির্দিষ্ট সম্পত্তির অধিকার প্রতিষ্ঠা করা যায়।

২০১৯ সালের নভেম্বরে, চীন ঘোষণা করে যে ২০২০ সাল থেকে ডিপফেক এবং অন্যান্য সংশ্লেষিত ভুয়া ফুটেজে স্পষ্টভাবে জালিয়াতির নোটিশ থাকতে হবে। এটি মেনে চলতে ব্যর্থ হওয়াকে একটি অপরাধ হিসেবে গণ্য করা যেতে পারে বলে চীনের সাইবারস্পেস অ্যাডমিনিস্ট্রেশন জানিয়েছে। চীনের সাইবারস্পেস অ্যাডমিনিস্ট্রেশন, শিল্প ও তথ্য প্রযুক্তি মন্ত্রণালয় এবং জননিরাপত্তা মন্ত্রণালয় যৌথভাবে ২০২২ সালের নভেম্বরে 'ডিপ সিন্থেসিস ইন্টারনেট ইনফরমেশন সার্ভিস পরিচালনা সংক্রান্ত বিধান' জারি করে।

যুক্তরাজ্যে, ২০২৩ সালে অনলাইন নিরাপত্তা আইন পাস না হওয়া পর্যন্ত ডিপফেক উৎপাদন কোনো নির্দিষ্ট অপরাধ ছিল না। এই আইনটি ডিপফেককে অবৈধ করেছে এবং ২০২৪ সালে "কষ্ট দেওয়ার উদ্দেশ্যে" তৈরি করা ডিপফেকগুলোকে অপরাধী সাব্যস্ত করার জন্য এর পরিধি বাড়ানোর পরিকল্পনা করা হয়েছে।যৌনতাপূর্ণ ডিপফেক তৈরি করা একটি ফৌজদারি অপরাধ হতে যাচ্ছে বিবিসি, ১৫ আগস্ট ২০২৪-এ সংগৃহীত।

কানাডায়, ২০১৯ সালে, কমিউনিকেশনস সিকিউরিটি এস্টাবলিশমেন্ট একটি প্রতিবেদন প্রকাশ করে যাতে বলা হয়েছে যে ডিপফেকগুলি কানাডীয় রাজনীতিতে হস্তক্ষেপ করতে ব্যবহার করা যেতে পারে, বিশেষ করে রাজনীতিবিদদের সম্মানহানি করতে এবং ভোটারদের প্রভাবিত করতে।  পৃষ্ঠা ১৮ দেখুন ফলস্বরূপ, কানাডায় নাগরিকরা যদি ডিপফেকের লক্ষ্যবস্তু হন তবে তাদের মোকাবেলা করার একাধিক উপায় রয়েছে। ২০২৪ সালের ফেব্রুয়ারিতে, 'অনলাইন হার্মস অ্যাক্ট' কার্যকর করার জন্য ৪৪তম কানাডীয় সংসদে বিল সি-৬৩ পেশ করা হয়েছিল, যা দণ্ডবিধি এবং অন্যান্য আইন সংশোধন করবে। বিলটির আগের একটি সংস্করণ, সি-৩৬, ২০২১ সালের সেপ্টেম্বরে ৪৩তম কানাডীয় সংসদ ভেঙে দেওয়ার কারণে সমাপ্ত হয়ে গিয়েছিল।কানাডার অনলাইন হার্মস অ্যাক্টের একটি সংক্ষিপ্ত রূপরেখা টেকপলিসি.প্রেস] ১৫ আগস্ট ২০২৪-এ সংগৃহীত।বিল সি-৬৩ কানাডার হাউস অব কমন্স ১৫ আগস্ট ২০২৪-এ সংগৃহীত।

ভারতে এআই বা ডিপফেক নিয়ে সরাসরি কোনো আইন বা নিয়ন্ত্রণ নেই, তবে ভারতীয় দণ্ডবিধি এবং তথ্য প্রযুক্তি আইন ২০০০/২০০৮-এর অধীনে কিছু বিধান রয়েছে যা আইনি প্রতিকারের জন্য বিবেচনা করা যেতে পারে। প্রতিমন্ত্রী রাজীব চন্দ্রশেখরের মতে, প্রস্তাবিত নতুন 'ডিজিটাল ইন্ডিয়া অ্যাক্ট'-এ এআই এবং বিশেষ করে ডিপফেকের ওপর একটি পৃথক অধ্যায় থাকবে।

ইউরোপে, ইউরোপীয় ইউনিয়নের ২০২৪ সালের কৃত্রিম বুদ্ধিমত্তা আইন ডিপফেকসহ এআই ব্যবস্থাগুলো নিয়ন্ত্রণে একটি ঝুঁকি-ভিত্তিক পদ্ধতি গ্রহণ করেছে। এটি এআই সরবরাহকারী এবং ব্যবহারকারীদের জন্য বাধ্যবাধকতার স্তর নির্ধারণ করতে "অগ্রহণযোগ্য ঝুঁকি," "উচ্চ ঝুঁকি," "নির্দিষ্ট/সীমিত বা স্বচ্ছতা ঝুঁকি" এবং "নূন্যতম ঝুঁকি" নামক বিভাগ তৈরি করেছে। তবে ডিপফেকের প্রেক্ষাপটে এই ঝুঁকির বিভাগগুলোর স্পষ্ট সংজ্ঞার অভাব কার্যকর বাস্তবায়নের ক্ষেত্রে সম্ভাব্য চ্যালেঞ্জ তৈরি করতে পারে। আইনি বিশেষজ্ঞরা রাজনৈতিক অপতথ্য বা সম্মতিহীন ঘনিষ্ঠ চিত্র তৈরির উদ্দেশ্যে করা ডিপফেকের শ্রেণিবিন্যাস নিয়ে উদ্বেগ প্রকাশ করেছেন। এই ধরনের ব্যবহারগুলোকে সর্বদা "উচ্চ-ঝুঁকি" সম্পন্ন এআই ব্যবস্থা হিসেবে গণ্য করা উচিত কি না তা নিয়ে বিতর্ক রয়েছে, কারণ এর ফলে কঠোর নিয়ন্ত্রক প্রয়োজনীয়তা তৈরি হবে।

২০২৪ সালের আগস্টে, আইরিশ ডেটা সুরক্ষা কমিশন তার এআই প্রযুক্তি, যেমন এর চ্যাটবট গ্রোক-কে প্রশিক্ষণ দেওয়ার জন্য ইইউ/ইইএ-র ৬ কোটি ব্যবহারকারীর ব্যক্তিগত তথ্য বেআইনিভাবে ব্যবহার করার অভিযোগে এক্স-এর বিরুদ্ধে আদালত কার্যক্রম শুরু করে।গ্রোক প্রশিক্ষণের জন্য ইইউ ব্যবহারকারীদের তথ্য নেওয়ার পর ইলন মাস্কের এক্স নয়টি গোপনীয়তা অভিযোগের মুখে পড়েছে টেকক্রাঞ্চ, ১৯ আগস্ট ২০২৪-এ সংগৃহীত।

 ডার্পা থেকে প্রতিক্রিয়া 
২০১৬ সালে, ডিফেন্স অ্যাডভান্সড রিসার্চ প্রজেক্টস এজেন্সি মিডিয়া ফরেনসিকস প্রোগ্রাম চালু করে যা ২০২০ সাল পর্যন্ত অর্থায়ন করা হয়েছিল। মেডিফর-এর লক্ষ্য ছিল ছবি এবং ভিডিওতে স্বয়ংক্রিয়ভাবে ডিজিটাল কারসাজি শনাক্ত করা, যার মধ্যে ডিপফেকও অন্তর্ভুক্ত। ২০১৮ সালের গ্রীষ্মে, মেডিফর একটি ইভেন্ট আয়োজন করে যেখানে ব্যক্তিরা এআই-জেনারেটেড ভিডিও, অডিও এবং ছবি তৈরি করার পাশাপাশি এই ডিপফেকগুলি শনাক্ত করার স্বয়ংক্রিয় সরঞ্জাম তৈরির প্রতিযোগিতায় অংশ নেয়। মেডিফর প্রোগ্রাম অনুযায়ী, কারসাজি করা মিডিয়ার সঠিক শনাক্তকরণ সক্ষম করার প্রচেষ্টায় এটি তথ্যের তিনটি স্তর—ডিজিটাল অখণ্ডতা, ভৌত অখণ্ডতা এবং সেমান্টিক অখণ্ডতা—ভিত্তিক একটি কাঠামো তৈরি করেছে।

২০১৯ সালে, ডার্পা সেমান্টিক ফরেনসিকস প্রোগ্রামের জন্য একটি "প্রস্তাবকারী দিবস" আয়োজন করে যেখানে গবেষকদের এআই-কারসাজি করা মিডিয়ার ভাইরাল বিস্তার রোধ করতে উৎসাহিত করা হয়েছিল। ডার্পা এবং সেমান্টিক ফরেনসিকস প্রোগ্রাম কম্পিউটারগুলোকে সাধারণ জ্ঞান ও যৌক্তিক যুক্তিবোধ ব্যবহার করতে প্রশিক্ষিত করার মাধ্যমে এআই-কারসাজি করা মিডিয়া শনাক্ত করতে একসাথে কাজ করছিল। মেডিফর-এর প্রযুক্তির ওপর ভিত্তি করে তৈরি সেমাফর-এর অ্যাট্রিবিউশন অ্যালগরিদমগুলো অনুমান করে যে কোনো ডিজিটাল মিডিয়া কোনো নির্দিষ্ট সংস্থা বা ব্যক্তি থেকে এসেছে কি না, যখন ক্যারেক্টারাইজেশন অ্যালগরিদমগুলো নির্ধারণ করে যে মিডিয়াটি কোনো ক্ষতিকর উদ্দেশ্যে তৈরি বা কারসাজি করা হয়েছে কি না। ২০২৪ সালের মার্চ মাসে, সেমাফর একটি বিশ্লেষণাত্মক ক্যাটালগ প্রকাশ করে যা জনসাধারণের জন্য এই প্রোগ্রামের অধীনে তৈরি ওপেন-সোর্স সম্পদগুলোর ব্যবহারের সুযোগ করে দেয়।

 ইন্টারন্যাশনাল প্যানেল অন দ্য ইনফরমেশন এনভায়রনমেন্ট 
ইন্টারন্যাশনাল প্যানেল অন দ্য ইনফরমেশন এনভায়রনমেন্ট ২০২৩ সালে ২৫০ জনেরও বেশি বিজ্ঞানীর একটি কনসোর্টিয়াম হিসেবে যাত্রা শুরু করে যারা ইন্টারনেটের মাধ্যমে তথ্য প্রচারকারী সংস্থাগুলোর বিকৃত প্রণোদনা দ্বারা সৃষ্ট ডিপফেক এবং অন্যান্য সমস্যাগুলোর কার্যকর প্রতিরোধমূলক ব্যবস্থা তৈরিতে কাজ করছেন।

 জনপ্রিয় সংস্কৃতিতে 

১৯৮৬ সালের ডিসেম্বরের মাঝামাঝি অ্যানালগ ম্যাগাজিনে জ্যাক উডহ্যামসের "পিকাপার" নামক একটি নভলেট প্রকাশিত হয়েছিল। এর কাহিনী আবর্তিত হয়েছিল অসাধু আইনজীবী এবং রাজনৈতিক ব্যক্তিত্বদের সেবা প্রদানকারী দক্ষ হ্যাকারদের দ্বারা উৎপাদিত ডিজিটালভাবে উন্নত বা তৈরি করা ভিডিওকে ঘিরে।

১৯৮৭ সালের চলচ্চিত্র দ্য রানিং ম্যান, যেখানে অভিনয়ে ছিলেন আর্নল্ড শোয়ার্জনেগার, একটি স্বৈরাচারী সরকারকে চিত্রিত করে যারা কম্পিউটার ব্যবহার করে ডিজিটালভাবে অভিনেতাদের মুখ ওয়ান্টেড পলাতক আসামিদের মুখ দিয়ে প্রতিস্থাপন করে যাতে মনে হয় পলাতকদের নিস্ক্রিয় করা হয়েছে।

ফিলিপ কারের ১৯৯২ সালের টেকনো-থ্রিলার উপন্যাস এ ফিলোসফিক্যাল ইনভেস্টিগেশন-এ প্রধান চরিত্র এবং একজন সিরিয়াল কিলার "উইটগেনস্টাইন", ডিপফেকের মতো একটি সফটওয়্যার এবং ভার্চুয়াল রিয়েলিটি স্যুট ব্যবহার করে তাকে ধরার দায়িত্বে থাকা নারী পুলিশ লেফটেন্যান্ট ইসাডোরা "জেক" জাকোইচের একটি অবতারের সাথে যৌন সম্পর্ক স্থাপন করে।

১৯৯৩ সালের চলচ্চিত্র রাইজিং সান, যাতে অভিনয়ে ছিলেন শন কনারি এবং ওয়েসলি স্নাইপস, সেখানে জিঙ্গো আসাকুমা নামক চরিত্রটি প্রকাশ করে যে একটি কম্পিউটার ডিস্ক ডিজিটালভাবে ব্যক্তিগত পরিচয় পরিবর্তন করে একজন প্রতিযোগীকে ফাঁসিয়েছে।

২০১৯ সালের বিবিসি ওয়ান টিভি সিরিজ দ্য ক্যাপচার-এর কাহিনীর অংশ হলো ডিপফেক প্রযুক্তি। প্রথম সিরিজে দেখা যায় প্রাক্তন ব্রিটিশ সেনা সার্জেন্ট শন এমেরিকে তার ব্যারিস্টারকে লাঞ্ছিত ও অপহরণের অভিযোগে অভিযুক্ত করা হয়েছে। দক্ষভাবে কারসাজি করা ভিডিও নজরদারি ফুটেজ তাকে ফাঁসাতে এবং তদন্তকারী পুলিশকে বিভ্রান্ত করতে ব্যবহৃত হয়েছে বলে প্রকাশ পায়।

আল ডেভিস বনাম এনএফএল: ২০২১ সালের এই তথ্যচিত্রটি ইএসপিএন-এর ৩০ ফর ৩০ (30 for 30) সিরিজের অংশ, যা এর দুই প্রধান চরিত্রের (উভয়ই মৃত) ডিপফেক সংস্করণ ব্যবহার করে—তারা হলেন লাস ভেগাস রেইডার্স-এর মালিক আল ডেভিস এবং এনএফএল কমিশনার পিট রোজেল।

কানাডীয় পুলিশ সিরিজ হাডসন অ্যান্ড রেক্স-এর ৫৭তম পর্ব "ইমপস্টার সিনড্রোম"-এ ডিপফেক প্রযুক্তি দেখানো হয়েছে, যেখানে সেন্ট জন'স পুলিশ দলের একজন সদস্যের সাদৃশ্য ব্যবহার করে কারসাজি করা সিসিটিভি ফুটেজের কারণে তাকে ডাকাতি এবং লাঞ্ছনার সন্দেহে তদন্ত করা হয়।

সঙ্গীতশিল্পী কেন্ড্রিক লামার তার ২০২২ সালের একক গান "দ্য হার্ট পার্ট ৫"-এর মিউজিক ভিডিওতে ডিপফেক প্রযুক্তি ব্যবহার করে নিপসি হাসেল, ও. জে. সিম্পসন এবং কানইয়ে ওয়েস্ট-এর মতো ব্যক্তিদের রূপ ধারণ করেন।

অ্যালো ব্ল্যাক তার দীর্ঘদিনের সহযোগী এভিচি-র মৃত্যুর চার বছর পর ডিপফেক প্রযুক্তি ব্যবহার করে ইংরেজি, স্পেনীয় এবং ম্যান্ডারিন চীনা ভাষায় তাদের গান "ওয়েক মি আপ" পরিবেশন করে তাকে শ্রদ্ধা জানান।

২০২৩ সালের জানুয়ারিতে, আইটিভিএক্স ডিপ ফেক নেইবার ওয়ারস নামক সিরিজটি প্রকাশ করে, যেখানে বিভিন্ন সেলিব্রিটির মুখে ডিপফেক বসিয়ে অভিনেতারা হাস্যকর দ্বন্দ্বে লিপ্ত হন।

২০২৩ সালের অক্টোবরে, টম হ্যাঙ্কস তার ইন্সটাগ্রাম পেজে একটি ডিপফেক সাদৃশ্যের ছবি শেয়ার করেন যেখানে তাকে "একটি ডেন্টাল প্ল্যান" প্রচার করতে দেখা যায়। হ্যাঙ্কস তার ভক্তদের সতর্ক করে বলেন, "সতর্ক থাকুন... এর সাথে আমার কোনো সম্পর্ক নেই।"

 আরও দেখুন 

কৃত্রিম বুদ্ধিমত্তা এবং নির্বাচন

কৃত্রিম বুদ্ধিমত্তা শিল্প

কম্পিউটার ফেসিয়াল অ্যানিমেশন

মৃত ইন্টারনেট তত্ত্ব

ডিজিটাল ক্লোনিং

ডিজিটাল ফেস রিপ্লেসমেন্ট

ফেসিয়াল মোশন ক্যাপচার

জাল নগ্ন আলোকচিত্র

পঞ্চম প্রজন্মের যুদ্ধ

উৎপাদনী কৃত্রিম বুদ্ধিমত্তা

হাইপাররিয়েলিটি

পরিচয় প্রতিস্থাপন প্রযুক্তি

ইন্টারেক্টিভ অনলাইন চরিত্র

কৃত্রিম বুদ্ধিমত্তা নিয়ন্ত্রণ

স্টাইলজিএএন

সংশ্লেষিত মাধ্যম

আঙ্ক্যানি ভ্যালি

ভার্চুয়াল অভিনেতা

 তথ্যসূত্র 

 আরও পড়ুন 

ড্যানিয়েল ইমারওয়াহর, "ইয়োর লাইং আইজ: মানুষ এখন এআই ব্যবহার করে এমন ভুয়া ভিডিও তৈরি করছে যা আসল থেকে আলাদা করা যায় না। এটি কতটা গুরুত্বপূর্ণ?", দ্য নিউ ইয়র্কার, ২০ নভেম্বর ২০২৩, পৃষ্ঠা ৫৪–৫৯।

ইমানুয়েল বিলিস, "ডিপফেকস এবং ফৌজদারি আইন"(গ্রীক ভাষায়)। ২০২৩।

 বহিঃসংযোগ 

জাল/স্পুফ অডিও শনাক্তকরণ চ্যালেঞ্জ

ডিপফেক শনাক্তকরণ চ্যালেঞ্জ

গ্রন্থপঞ্জি: ডিপফেকের যুগে মিডিয়া লিটারেসি। ড. জশুয়া গ্লিক দ্বারা সংগৃহীত।

বিশ্বাস করার আগে – কীভাবে একটি ডিপফেক চিনবেন এবং এটি কি জন্মগতভাবেই ক্ষতিকর?


বিষয়শ্রেণী:২০১৮-এর নব্য শব্দসমূহ
বিষয়শ্রেণী:ভিডিও ক্লিপযুক্ত নিবন্ধ
বিষয়শ্রেণী:উৎপাদনী কৃত্রিম বুদ্ধিমত্তা
বিষয়শ্রেণী:এআই সুরক্ষা
বিষয়শ্রেণী:২০২০-এ প্রবর্তিত ইন্টারনেট মিম
বিষয়শ্রেণী:২০২০-এর দশকের ফ্যাড ও প্রবণতা
বিষয়শ্রেণী:যোগাযোগ মাধ্যম বিদ্যা
বিষয়শ্রেণী:টেক্সট-টু-ইমেজ জেনারেশন
বিষয়শ্রেণী:টেক্সট-টু-ভিডিও জেনারেশন