موضوع مقاله: رسانه‌های مصنوعی | مخاطب: عمومی | لحن: دانشنامه‌ای | ساختار: عنوان، مقدمه، 3 بخش، جمع‌بندی | مقاله: | # رسانه‌های مصنوعی | مقدمه: رسانه‌های مصنوعی، محتوای دیجیتالی در قالب‌های مختلف رسانه‌ای، از جمله متن، تصویر و ویدیو، هستند که به صورت خودکار و مصنوعی تولید یا دستکاری شده‌اند. | ## بخش 1: رسانه‌های مصنوعی | اگرچه همه رسانه‌های مصنوعی توسط هوش مصنوعی تولید نمی‌شوند، این اصطلاح اغلب به استفاده از هوش مصنوعی مولد برای تولید محتوا، مانند جعل عمیق ، از طریق استفاده از هوش مصنوعی در مجموعه‌ای از پارامترهای انسانی اشاره دارد. رسانه‌های مصنوعی به عنوان یک حوزه، از زمان ایجاد شبکه‌های زایای دشمن‌گونه ، عمدتاً از طریق گسترش جعل های عمیق و همچنین تولید موسیقی، تولید متن، تولید تصویر انسان، تولید گفتار و موارد دیگر، به سرعت رشد کرده‌اند. اگرچه متخصصان از اصطلاح «رسانه مصنوعی» استفاده می‌کنند، اما روش‌های منفردی مانند جعل عمیق و تولید متن گاهی اوقات توسط رسانه‌ها به این عنوان نامیده نمی‌شوند، بلکه در عوض با اصطلاحات اختصاصی خودشان (و اغلب از «جعل عمیق» به عنوان یک حسن تعبیر استفاده می‌کنند، مثلاً «جعل عمیق برای متن» برای تولید زبان طبیعی ؛ «جعل عمیق برای صداها» برای شبیه‌سازی صدای عصبی و غیره). توجه قابل توجهی به حوزه رسانه‌های مصنوعی از سال ۲۰۱۷ آغاز شد؛ زمانی که وبسایت Motherboard در مورد ظهور پورنوگرافی جعل عمیق برای قرار دادن چهره بازیگران مشهور گزارش داد. خطرات بالقوه رسانه‌های مصنوعی شامل گسترش اطلاعات نادرست، از دست دادن بیشتر اعتماد به نهادهایی مانند رسانه و دولت، خودکارسازی گسترده مشاغل خلاق و روزنامه‌نگاری و بازگشت به دنیاهای فانتزی تولید شده توسط هوش مصنوعی است. تقریباً ۲۰۰۰ سال پیش، مهندس یونانی، هرون اسکندرانی، مجسمه‌هایی را توصیف کرد که می‌توانستند حرکت کنند و دستگاه‌های نمایشی مکانیکی را شرح داد. در طول قرن‌ها، آثار هنری مکانیکی جمعیت زیادی را در سراسر اروپا، چین، هند، و غیره به خود جلب کردند. سایر نوآوری‌های خودکار مانند «بازی تاس موزیکال» اثر یوهان فیلیپ کیرنبرگر در سال ۱۷۷۵ نیز مخاطبان را سرگرم می‌کرد. با وجود قابلیت‌های فنی این ماشین‌ها، هیچ‌کدام قادر به تولید محتوای بدیع نبودند و کاملاً به طرح‌های مکانیکی خود وابسته بودند. ظهور هوش مصنوعی زمینه تحقیقات هوش مصنوعی در سال ۱۹۵۶ در یک کارگاه در دانشکده دارتموث شکل گرفت، که باعث ظهور محاسبات دیجیتال به عنوان یک رسانه هنری و همچنین ظهور هنر مولد شد. آزمایش های اولیه در هنر تولید شده توسط هوش مصنوعی شامل مجموعه ای از آهنگ های Illiac Suite، یک آهنگ برای کوارته رشته ای در سال ۱۹۵۷ بود که عموماً به‌عنوان نخستین پارتیتور ساخته‌شده توسط یک کامپیوتر الکترونیک شناخته می‌شود. لجارن هیلر با همکاری لئونارد آیزاکسون کامپیوتر ILLIAC I را در دانشگاه ایلینوی در اربانا-شمپین (جایی که هر دو آهنگساز استاد بودند) برنامه ریزی کرد تا مواد ساختاری لازم برای کوارتت زهی شمارهٔ ۴ را تولید کند. زاریپوف، اولین مقاله جهانی در مورد آهنگسازی الگوریتمی موسیقی با استفاده از رایانه «اورال-۱ » را منتشر کرد. در سال ۱۹۶۵، مخترع ری کرزویل یک قطعه پیانو را که توسط کامپیوتری ساخته شده بود که قادر به تشخیص الگو در آهنگ‌های مختلف بود، برای اولین بار اجرا کرد. سپس کامپیوتر توانست این الگوها را تجزیه و تحلیل کرده و از آنها برای خلق ملودی‌های جدید استفاده کند. این کامپیوتر برای اولین بار در برنامه « من یک راز دارم » استیو آلن به نمایش درآمد و مجریان برنامه را شگفت‌زده کرد؛ تا اینکه هری مورگان، ستاره سینما، راز ری را حدس زد. قبل از سال ۱۹۸۹، از شبکه‌های عصبی مصنوعی برای مدل‌سازی جنبه‌های خاصی از خلاقیت استفاده می‌شد. پیتر تاد (۱۹۸۹) ابتدا یک شبکه عصبی را برای بازتولید ملودی‌های موسیقی از یک مجموعه آموزشی از قطعات موسیقی آموزش داد. این شبکه قادر بود به طور تصادفی موسیقی جدید را به شیوه‌ای بسیار کنترل نشده تولید کند. در سال ۲۰۱۴، یان گودفلو و همکارانش گونه‌ی جدیدی از سیستم‌های یادگیری ماشینی را توسعه دادند: شبکه‌های زایای دشمن‌‌گونه (GAN). در این چارچوب، دو شبکه عصبی در یک بازی (به معنای نظریه بازی، که اغلب اما نه همیشه به شکل یک بازی با مجموع صفر) با یکدیگر رقابت می‌کنند. با توجه به یک مجموعه آموزشی، این تکنیک یاد می‌گیرد که داده‌های جدیدی را با همان آمار مجموعه آموزشی تولید کند. به عنوان مثال، یک GAN آموزش دیده بر روی تصاویر عکاسی می‌تواند عکس‌های جدیدی تولید کند که حداقل از نظر ظاهری برای ناظران انسانی معتبر به نظر برسند و دارای ویژگی‌های واقع‌گرایانه زیادی باشند. اگرچه در ابتدا به عنوان نوعی مدل مولد برای یادگیری بدون نظارت پیشنهاد شده بود، GANها برای یادگیری نیمه نظارتی ، یادگیری کاملاً نظارتی ، و یادگیری تقویتی نیز مفید بوده‌اند. در یک سمینار در سال ۲۰۱۶، یان لی‌کان GANها را به عنوان «جالب‌ترین ایده در یادگیری ماشینی در بیست سال گذشته» توصیف کرد. در سال ۲۰۱۷، گوگل از ترنسفورمر (یادگیری عمیق) رونمایی کرد، نوع جدیدی از معماری شبکه عصبی که برای مدل‌سازی زبان تخصص دارد و امکان پیشرفت‌های سریع در پردازش زبان طبیعی را فراهم می‌کند. شاخه‌های رسانه‌های مصنوعی جعل‌های عمیق جعل‌های عمیق ( ترکیبی از «یادگیری عمیق» و «جعلی» ) برجسته‌ترین شکل رسانه‌های مصنوعی هستند. جعل‌های عمیق تولیدات رسانه‌ای هستند که از یک تصویر یا ویدیوی موجود استفاده می‌کنند و با استفاده از شبکه‌های عصبی مصنوعی ، سوژه را با تصویر شخص دیگری جایگزین می‌کنند. آنها اغلب رسانه‌های موجود را با استفاده از تکنیک‌های یادگیری ماشینی که به عنوان خودرمزگذار و شبکه‌های زایای دشمن‌گونه (GAN) شناخته می‌شوند، ترکیب و بر روی رسانه‌های منبع قرار می‌دهند. جعل‌های عمیق به دلیل کاربردهایشان در ویدیوهای پورنوگرافی افراد مشهور ، پورن انتقامی ، اخبار جعلی ، کلاهبرداری و کلاهبرداری مالی توجه گسترده‌ای را به خود جلب کرده‌اند. این امر واکنش‌هایی را از سوی صنعت و دولت برای شناسایی و محدود کردن استفاده از آنها برانگیخته است. اصطلاح جعل عمیق حدود اواخر سال ۲۰۱۷ توسط یک کاربر ردیت به نام دیپ‌فیک (در انگلیسی: deepfake) ابداع شد. او و همچنین دیگران در جامعه ردیت، جعل‌های عمیقی را که ساخته بودند به اشتراک می‌گذاشتند؛ بسیاری از ویدیوها شامل چهره‌های افراد مشهور بودند که روی بدن بازیگران زن در ویدیوهای مستهجن جابجا شده بودند، در حالی که محتوای غیر مستهجن شامل ویدیوهای زیادی با چهره بازیگر نیکلاس کیج بود که در فیلم‌های مختلف جابجا شده بود. در دسامبر ۲۰۱۷، سامانتا کول مقاله‌ای در مورد r/deepfakes در وایس منتشر کرد که اولین توجه جریان اصلی رسانه‌ها را را به جعل‌های عمیقی که در جوامع آنلاین به اشتراک گذاشته می‌شدند، جلب کرد. شش هفته بعد، کول در مقاله‌ای پیگیری شده در مورد افزایش چشمگیر پورنوگرافی جعلی با کمک هوش مصنوعی نوشت. وب‌سایت‌های دیگری نیز استفاده از جعل‌های عمیق برای پورنوگرافی غیرارادی را ممنوع کرده‌اند، از جمله پلتفرم رسانه اجتماعی توییتر و سایت پورنوگرافی پورن‌هاب . این برنامه بستری را برای کاربران فراهم می‌کند تا چهره‌های افراد مشهور را در عرض چند دقیقه به صورت جعل عمیق در ویدیوها قرار دهند. تولید تصویر تولید تصویر ، به تولید مصنوعی رسانه‌های بصری، به ویژه از طریق روش‌های الگوریتمی گفته می‌شود. در دنیای نوظهور رسانه‌های مصنوعی، کار خلق تصاویر دیجیتال - که زمانی حوزه برنامه‌نویسان بسیار ماهر و هنرمندان جلوه‌های ویژه هالیوود بود - می‌تواند توسط سامانه‌های متخصصی که قادر به تولید واقع‌گرایی در مقیاس وسیع هستند، خودکار شود. یکی از زیرشاخه‌های این حوزه شامل تولید تصویر انسان است؛ یعنی استفاده از شبکه‌های عصبی برای ساخت بازنمایی‌های باورپذیر و حتی فوتورئالیستی از شباهت‌های انسانی، چه در حال حرکت و چه در حالت سکون است. بسیاری از فیلم‌هایی که از تصاویر تولید شده توسط رایانهاستفاده می‌کنند، تصاویر مصنوعی از شخصیت‌های انسان‌نما را به صورت دیجیتالی بر روی تصاویر واقعی یا شبیه‌سازی‌شدهٔ دیگر ترکیب کرده‌اند. | ## بخش 2: رسانه‌های مصنوعی | در اواخر دهه ۲۰۱۰، هوش مصنوعی مبتنی بر یادگیری عمیق برای تولید تصاویر و ویدیوهایی که شبیه انسان هستند، بدون نیاز به دخالت انسان، پس از اتمام مرحله آموزش، به کار گرفته شده است؛ در حالی که روش قدیمی موسوم به «مسیر 7D» به حجم عظیمی از کار انسانی نیاز داشت. وب‌سایت «این شخص وجود ندارد» با تولید بی‌پایان تصاویری که شبیه پرتره‌های چهره انسان هستند، نمونه‌ای کاملاً خودکار از تصاویر انسانی را به نمایش می‌گذارد. تولید صوت فراتر از جعل عمیق و تولید تصویر، صدا حوزه دیگری است که از هوش مصنوعی در آن برای ایجاد رسانه‌های مصنوعی استفاده می‌شود. صدای تولیدشده قادر است هر صدای قابل تصوری را که از طریق دست‌کاری شکل موج صوتی قابل دستیابی است تولید کند؛ قابلیتی که می‌تواند برای تولید صداهای پیش فرض جلوه‌های صوتی یا شبیه‌سازی صدای اشیای خیالیِ کنونی به‌کار رود. حوزهٔ هوش مصنوعی در دههٔ ۱۹۵۰ بنیان‌گذاری شد و هنرمندان کمی بعد از شکل‌گیری این رشته شروع به خلق هنر با استفاده از هوش مصنوعی کردند. تعدادی محدود از این آثار در موزه‌ها به نمایش گذاشته شده‌اند و جوایزی نیز دریافت کرده‌اند. در طول تاریخ، هوش مصنوعی پرسش‌های فلسفی زیادی را دربارهٔ ذهن انسان، موجودات مصنوعی و ماهیت هنر در همکاری انسان و هوش مصنوعی مطرح کرده است. بحث‌ها دربارهٔ هنر هوش مصنوعی در دههٔ ۲۰۲۰ اغلب بر موضوعاتی مانند حق نشر، فریب، افترا و تأثیر آن بر هنرمندان سنتی‌تر، از جمله بیکاری فناورانه، متمرکز بوده است. هنرمندان همچنین می‌توانند تنظیماتی مانند مقیاس هدایت (که تعادل میان خلاقیت و دقت را تعیین می‌کند)، بذر (برای کنترل تصادفی‌بودن)، و بالابَرها برای افزایش وضوح تصویر را، در کنار گزینه‌های دیگر، تغییر دهند. افزون بر این، می‌توان در مرحلهٔ پیش از استنتاج با دست‌کاری نویز بر نتیجه تأثیر گذاشت، و پس از استنتاج نیز از روش‌های سنتی پس‌پردازش به‌طور گسترده استفاده می‌شود. علاوه بر این، روش‌های تولید تصویر رویه‌ای و «قاعده‌محور» توسعه یافته‌اند که از الگوهای ریاضی، الگوریتم‌های شبیه‌سازی حرکت قلم‌مو و دیگر جلوه‌های نقاشانه، و نیز مدل‌های یادگیری عمیق مانند شبکه‌های مولد تخاصمی (GAN) و ترنسفورمرها استفاده می‌کنند. چندین شرکت برنامه‌ها و وب‌سایت‌هایی منتشر کرده‌اند که به کاربران اجازه می‌دهد صرفاً بر اعلان‌های مثبت تمرکز کنند و نیاز به پیکربندی دستی سایر پارامترها را کنار بگذارند. همچنین برنامه‌هایی وجود دارد که می‌توانند عکس‌ها را به تصاویر سبک‌پردازی‌شده‌ای تبدیل کنند که از نظر زیبایی‌شناختی شبیه سبک‌های نقاشی شناخته‌شده هستند. گزینه‌های متعددی در دسترس است؛ از برنامه‌های سادهٔ موبایلیِ مصرف‌کننده‌محور گرفته تا نوت‌بوک‌های ژوپیتر و رابط‌های کاربری وب که برای اجرا به پردازنده‌های گرافیکی قدرتمند نیاز دارند. قابلیت‌های تکمیلی شامل «وارونگی متنی» است که به استفاده از مفاهیم ارائه‌شده توسط کاربر (مانند یک شیء یا یک سبک) که از چند تصویر آموخته شده‌اند، اشاره دارد. سپس می‌توان آثار هنری جدیدی را بر پایهٔ واژه یا واژه‌های مرتبط (متنی که به آن مفهومِ آموخته‌شده، که اغلب ماهیتی انتزاعی دارد، اختصاص داده شده است) تولید کرد، و همچنین از افزونه‌های مدل یا تنظیم دقیق آن‌ها (مانند DreamBooth) بهره گرفت. تولید موسیقی از دوران باستان، توانایی تولید موسیقی از طریق ابزارهای خودکار و غیرقابل برنامه‌ریزی، مورد توجه بوده است و با پیشرفت در هوش مصنوعی، دو حوزه مشخص در این زمینه ظهور کرده‌اند: خلق رباتیک موسیقی، چه از طریق دستگاه‌هایی که سازها را می‌نوازند و چه از طریق مرتب‌سازی نت‌های سازهای مجازی (مانند فایل‌های MIDI ) تولید مستقیم شکل موج‌هایی که به طور کامل سازبندی و صدای انسان را بدون نیاز به ساز، MIDI یا سازماندهی نت‌های از پیش ساخته شده، بازسازی می‌کنند. تولید گفتار سنتز گفتار به عنوان شاخه‌ای محبوب از رسانه‌های مصنوعی شناخته می‌شود و به عنوان تولید مصنوعی گفتار انسان تعریف می‌شود. سامانه رایانه‌ای که برای این منظور استفاده می‌شود، کامپیوتر گفتار یا تولیدکننده گفتار نامیده می‌شود و می‌تواند در محصولات نرم‌افزاری یا سخت‌افزاری پیاده‌سازی شود. سامانه‌های تبدیل متن به گفتار ( TTS ) متن زبان طبیعی را به گفتار تبدیل می‌کنند؛ درحالی که سایر سیستم‌ها، نمایش‌های نمادین زبانی مانند آوانگاری‌های آوایی را به گفتار تبدیل می‌کنند. گفتار ترکیبی را می‌توان با به هم چسباندن قطعات گفتار ضبط‌شده که در یک پایگاه داده ذخیره شده‌اند، تولید کرد. سامانه‌ها از نظر اندازه واحدهای گفتاری ذخیره‌شده متفاوت هستند؛ سیستمی که آواها یا دی‌فون‌ها را ذخیره می‌کند، بزرگترین محدوده خروجی را ارائه می‌دهد، اما ممکن است وضوح کافی نداشته باشد. برای حوزه‌های کاربرد خاص، ذخیره کل کلمات یا جملات امکان خروجی با کیفیت بالا را فراهم می‌کند. از طرف دیگر، یک تولیدکننده می‌تواند مدلی از مجرای صوتی و سایر ویژگی‌های صدای انسان را برای ایجاد یک خروجی صدای کاملاً «مصنوعی» در خود جای دهد. دستیارهای مجازی مانند سیری و الکسا توانایی تبدیل متن به صدا و تولید گفتار را دارند. در سال ۲۰۱۶، گوگل دیپ‌مایند از WaveNet رونمایی کرد، یک مدل مولد و عمیق از شکل موج‌های صوتی خام که می‌تواند یاد بگیرد کدام شکل موج‌ها به بهترین شکل به گفتار انسان و همچنین سازهای موسیقی شباهت دارند. برخی پروژه‌ها با استفاده از یادگیری عمیق، نسل‌های بلادرنگ گفتار مصنوعی را ارائه می‌دهند، مانند ۱۵.ai ، یک ابزار تبدیل متن به گفتار تحت وب که توسط یک پژوهشگر MIT توسعه داده شده است. تولید زبان طبیعی تولید زبان طبیعی ( NLG ، که گاهی اوقات مترادف با تولید متن است) یک فرآیند نرم‌افزاری است که داده‌های ساختاریافته را به زبان طبیعی تبدیل می‌کند. می‌توان از آن برای تولید محتوای بلند برای سازمان‌ها جهت خودکارسازی گزارش‌های سفارشی و همچنین تولید محتوای سفارشی برای یک برنامه وب یا موبایل استفاده کرد. همچنین می‌توان از آن برای تولید متن‌های کوتاه در مکالمات تعاملی (یک چت‌بات ) استفاده کرد که حتی ممکن است توسط یک سیستم تبدیل متن به گفتار خوانده شود. علاقه به تولید زبان طبیعی در سال ۲۰۱۹ پس از رونمایی شرکت OpenAI از GPT2، یک سامانه هوش مصنوعی که متنی مطابق با ورودی خود از نظر موضوع و لحن تولید می‌کند، افزایش یافت. GPT2 یک ترنسفورمر است، یک مدل یادگیری عمیق ماشین که در سال ۲۰۱۷ معرفی شد و عمدتاً در زمینه پردازش زبان طبیعی (NLP) استفاده می‌شود. تولید رسانه های تعاملی رسانه‌های تولید شده توسط هوش مصنوعی می‌توانند برای توسعه یک سامانه گرافیکی ترکیبی مورد استفاده قرار گیرند که می‌تواند در بازی‌های ویدیویی، فیلم‌ها و واقعیت مجازی، و همچنین بازی‌های مبتنی بر متن مانند AI Dungeon 2 که از GPT-2 یا GPT-3 استفاده می‌کند تا امکانات تقریباً نامتناهی را که در غیر این صورت ایجاد آنها از طریق روش‌های سنتی توسعه بازی غیرممکن است، فراهم کند. شرکت سخت‌افزار رایانه‌ای انویدیا نیز روی نسخه‌های نمایشی بازی‌های ویدیویی تولید شده توسط هوش مصنوعی کار کرده است، مانند مدلی که می‌تواند یک بازی تعاملی بر اساس ویدیوهای غیرتعاملی تولید کند. نگرانی‌ها و جنجال‌ها جدا از حملات سازمانی، سازمان‌های سیاسی و رهبران از چنین ویدیوهای جعلی عمیقی بیشتر آسیب می‌بینند. در سال ۲۰۲۲، یک ویدیوی جعلی عمیق منتشر شد که در آن رئیس جمهور اوکراین خواستار تسلیم شدن در جنگ علیه روسیه شد. این ویدیو نشان می‌داد که رئیس جمهور اوکراین به سربازان خود می‌گوید سلاح‌های خود را زمین بگذارند و تسلیم شوند. در ویدیوهای جداگانه، چهره رئیس جمهور آرژانتین، مائوریسیو ماکری، با چهره آدولف هیتلر و چهره آنگلا مرکل با چهره دونالد ترامپ جایگزین شده است. در ژوئن ۲۰۱۹، یک برنامه قابل دانلود برای ویندوز و لینوکس به نام DeepNude منتشر شد که از شبکه‌های عصبی، به ویژه شبکه‌های زایای دشمن‌گونه ، برای حذف لباس از تصاویر زنان استفاده می‌کرد. این برنامه هم نسخه پولی و هم نسخه رایگان داشت که نسخه پولی آن ۵۰ دلار قیمت داشت. در ۲۷ ژوئن، سازندگان برنامه را حذف و مبلغ پرداختی به مصرف‌کنندگان را بازپرداخت کردند. | ## بخش 3: رسانه‌های مصنوعی | کنگره ایالات متحده جلسه‌ای در سنا برگزار کرد که در آن به بررسی تأثیرات گسترده رسانه‌های مصنوعی، از جمله جعل عمیق، پرداخته شد و آن‌ها را دارای «پتانسیل استفاده برای تضعیف امنیت ملی، از بین بردن اعتماد عمومی به دموکراسی ما و سایر دلایل شرورانه» توصیف کرد. در سال ۲۰۱۹، از فناوری شبیه‌سازی صدا برای جعل موفقیت‌آمیز صدای یک مدیر اجرایی و درخواست انتقال جعلی ۲۲۰،۰۰۰ یورو استفاده شد. این پرونده نگرانی‌هایی را در مورد فقدان روش‌های رمزگذاری در تلفن‌ها و همچنین اعتماد بی‌قید و شرطی که اغلب به صدا و به طور کلی به رسانه‌ها داده می‌شود، برانگیخت. از نوامبر ۲۰۱۹، چندین شبکه رسانه اجتماعی شروع به ممنوعیت رسانه‌های مصنوعی مورد استفاده برای اهداف دستکاری در انتخابات ریاست جمهوری ۲۰۲۰ ایالات متحده کردند. در سال ۲۰۲۴، ایلان ماسک یک ویدیوی تقلید مسخره‌آمیز را به اشتراک گذاشت، بدون اینکه توضیح دهد که این یک طنز است، اما هم‌زمان مخالفت خود را با استفاده از هوش مصنوعی در سیاست ابراز کرد. این ویدیوی به اشتراک گذاشته شده شامل سخنان کامالا هریس بود که هرگز در زندگی واقعی نگفته بود. چند خط از متن ویدیو شامل این موارد است: «من، کامالا هریس، نامزد دموکرات شما برای ریاست جمهوری هستم زیرا جو بایدن بالاخره در مناظره، سالخوردگی خود را نشان داد.» سپس صدا می‌گوید که کامالا «استخدام بر اساس تنوع» است و او هیچ ایده‌ای در مورد «اولین اصول اداره کشور» ندارد. این‌ها نمونه‌هایی از رسانه‌های مصنوعی هستند که به طور بالقوه بر واکنش عمومی نسبت به افراد مشهور، احزاب یا سازمان‌های سیاسی، کسب‌وکارها یا شرکت‌های چندملیتی تأثیر می‌گذارند. همچنین ممکن است اعتماد اجتماعی به مؤسسات دولتی و خصوصی را از بین ببرد و حفظ باور به توانایی آنها در تأیید یا تصدیق محتوای «واقعی» از «جعلی» دشوارتر خواهد شد. سیترون (۲۰۱۹) مقامات دولتی را که ممکن است بیشترین تأثیر را بپذیرند، چنین فهرست می‌کند: «مقامات منتخب، مقامات منصوب، قضات، هیئت‌های منصفه، قانون‌گذاران، کارکنان و آژانس‌ها». حتی مؤسسات خصوصی نیز باید آگاهی و سیاست‌های واکنش به این شکل جدید از رسانه‌ را توسعه دهند، به ویژه اگر تأثیر گسترده‌تری بر جامعه داشته باشند. سیترون (۲۰۱۹) در ادامه می‌گوید:«نهادهای مذهبی، همانطور که نهادهای سیاسی از Planned Parenthood گرفته تا NRA، هدف آشکاری هستند، هدف قرار می‌گیرند.» در واقع، محققان نگران هستند که رسانه‌های مصنوعی ممکن است سلسله مراتب اجتماعی یا تفاوت‌های طبقاتی را که در ابتدا باعث ایجاد آنها شده‌اند، عمیق‌تر و گسترده‌تر کنند. نگرانی اصلی که پیرامون رسانه‌های مصنوعی وجود دارد این است که موضوع فقط اثبات اشتباه بودن چیزی نیست، بلکه نگرانی اثبات اصالت آن نیز مطرح است. به عنوان مثال، یک مطالعه اخیر نشان می‌دهد که از هر سه متخصص امنیت سایبری، دو نفر متوجه شده‌اند که در سال ۲۰۲۲ از جعل عمیق به عنوان بخشی از عملیات اطلاعات نادرست علیه کسب‌وکارها استفاده شده است، که ظاهراً نسبت به سال قبل ۱۳ درصد افزایش داشته است. کاربردها و تأثیرات بالقوه تکنیک‌های رسانه‌های مصنوعی شامل تولید، دستکاری و تغییر داده‌ها برای شبیه‌سازی فرآیندهای خلاقانه در مقیاسی بسیار سریع‌تر و دقیق‌تر است. در نتیجه، کاربردهای بالقوه آن به اندازه خود خلاقیت انسانی گسترده است، از انقلابی در صنعت سرگرمی گرفته تا سریع‌تر شدن تحقیق و تولید دانشگاهی. سازمان‌های خبری راه‌هایی را برای استفاده از تولید ویدیو و سایر فناوری‌های رسانه‌های مصنوعی برای کارآمدتر و جذاب‌تر شدن بررسی کرده‌اند. خطرات بالقوه آینده شامل استفاده از ترکیبی از زیرشاخه‌های مختلف برای تولید اخبار جعلی ، ازدحام ربات‌های زبان طبیعی که روندها و میم‌ها را ایجاد می‌کنند، تولید شواهد نادرست و اعتیاد بالقوه به محتوای شخصی‌سازی شده و پناه بردن به دنیاهای فانتزی تولید شده توسط هوش مصنوعی در واقعیت مجازی است. ربات‌های پیشرفته‌ی تولیدکننده‌ی متن می‌توانند به طور بالقوه برای دستکاری پلتفرم‌های رسانه‌های اجتماعی از طریق تاکتیک‌هایی مانند استروترفینگ مورد استفاده قرار گیرند. مولدهای زبان طبیعی مبتنی بر یادگیری تقویتی عمیق می‌توانند به طور بالقوه برای ایجاد چت‌بات‌های پیشرفته‌ای که می‌توانند گفتار طبیعی انسان را تقلید کنند، مورد استفاده قرار گیرند. یکی از کاربردهای تولید زبان طبیعی، تولید یا کمک به نوشتن رمان و داستان کوتاه است، در حالی که سایر پیشرفت‌های بالقوه، مربوط به ویراستاران سبک برای تقلید از نویسندگان حرفه‌ای است. ابزارهای تولید تصویر ممکن است بتوانند ایجاد جنبه‌های خاصی از تصاویر بصری، مانند پویانمایی ، کتاب‌های کمیک و کارتون‌های مطبوعاتی را ساده یا حتی کاملاً خودکار کنند. از آنجا که فرآیند خودکارسازی، نیاز به تیم‌های طراحان، هنرمندان و سایر افراد درگیر در ساخت سرگرمی را از بین می‌برد، هزینه‌ها می‌توانند عملاً به صفر برسند و امکان ایجاد «فرنچایزهای چندرسانه‌ای اتاق خواب» را فراهم کنند که در آن افراد می‌توانند با هزینه‌ای کمی بیشتر از هزینه راه‌اندازی رایانه خود، نتایجی غیرقابل تشخیص از تولیدات با بالاترین بودجه تولید کنند. ابزارهای ایجاد شخصیت و صحنه دیگر بر اساس دارایی‌های از پیش ساخته شده، محدودیت‌های موضوعی یا مهارت شخصی نخواهند بود، بلکه بر اساس تنظیم پارامترهای خاص و ارائه ورودی کافی خواهند بود. ترکیبی از تولید گفتار و جعل عمیق برای دوبله خودکار گفتار یک بازیگر به چندین زبان بدون نیاز به فیلمبرداری مجدد یا کلاس‌های زبان استفاده شده است. همچنین می‌تواند توسط شرکت‌ها برای آموزش کارکنان، آموزش الکترونیکی، ویدیوهای توضیحی و نحوه انجام کار استفاده شود. همچنین به دلیل خودکار شدن آسان‌تر روش‌های فیشینگ ، کت‌فیشینگ و هک اجتماعی توسط روش‌های جدید فناوری، نگرانی‌هایی در مورد افزایش حملات سایبری وجود دارد. از لحاظ تئوری، ربات‌های تولید زبان طبیعی در ترکیب با شبکه‌های تولید تصویر می‌توانند برای مسدود کردن نتایج جستجو استفاده شوند و موتورهای جستجو را با تریلیون‌ها وبلاگ، وب‌سایت و هرزنامه بازاریابی که اگرچه بی‌فایده اما به ظاهر مشروع هستند، پر کنند. گمانه‌زنی‌هایی در مورد استفاده از جعل عمیق برای خلق بازیگران دیجیتالی برای فیلم‌های آینده وجود داشته است. انسان‌های ساخته شده/تغییریافته دیجیتالی قبلاً هم در فیلم‌ها استفاده شده‌اند و جعل عمیق می‌تواند در آینده نزدیک به پیشرفت‌های جدیدی در این حوزه کمک کند. فناوری آماتور جعل عمیق قبلاً برای جایگزینی چهره در فیلم‌های موجود استفاده شده است، مانند قرار دادن چهره جوان هریسون فورد روی چهره هان سولو در فیلم سولو: داستانی از جنگ ستارگان ، و تکنیک‌های مشابه با تکنیک‌های مورد استفاده توسط جعل عمیق برای اجرای نقش پرنسس لیا در فیلم روگ وان استفاده شد. از GANها می‌توان برای ایجاد عکس‌هایی از مدل‌های مد خیالی استفاده کرد، بدون نیاز به استخدام مدل، عکاس، آرایشگر یا پرداخت هزینه استودیو و حمل و نقل. از GANها می‌توان برای ایجاد کمپین‌های تبلیغاتی مد شامل گروه‌های متنوع‌تری از مدل‌ها استفاده کرد که ممکن است قصد خرید را در بین افرادی که شبیه مدل‌ها یا اعضای خانواده آنها هستند افزایش دهد. توانایی GANها در تولید بدن‌های انسان واقع‌گرایانه، چالشی را برای صنایعی مانند مدلینگ مد ایجاد می‌کند که ممکن است در معرض خطر خودکار شدن باشند. در سال ۲۰۱۹، داداباتس از یک جریان موسیقی دث متال تولید شده توسط هوش مصنوعی رونمایی کردند که بدون وقفه ادامه دارد. هنرمندان موسیقی و برندهای مرتبط با آنها نیز می‌توانند از ابتدا تولید شوند، از جمله موسیقی، ویدیوها، مصاحبه‌ها و مطالب تبلیغاتی تولید شده توسط هوش مصنوعی. در مقابل، موسیقی موجود را می‌توان به دلخواه کاملاً تغییر داد، مانند تغییر اشعار، خوانندگان، سازبندی و آهنگسازی. در سال ۲۰۱۸، محققان با استفاده از فرآیندی توسط WaveNet برای انتقال طنین موسیقی، توانستند کل ژانرها را از یک ژانر به ژانر دیگر تغییر دهند. با استفاده از هوش مصنوعی، گروه‌ها و هنرمندان قدیمی ممکن است «احیا» شوند تا به طور پیوسته آثار جدیدی منتشر کنند، که حتی ممکن است شامل کنسرت‌های «زنده» و تصاویر تبلیغاتی باشد. دستکاری عکس با استفاده از شبکه عصبی همچنین این پتانسیل را دارد که از رفتارهای مشکل‌ساز بازیگران مختلف دولتی، نه فقط رژیم‌های تمامیت‌خواه و مطلق‌گرا ، پشتیبانی کند. یک دولت یا جامعه که از نظر فنی به اندازه کافی توانمند باشد، می‌تواند از رسانه‌های مصنوعی برای بازنویسی تاریخ با استفاده از فناوری‌های مصنوعی مختلف، جعل تاریخ و شخصیت‌ها و همچنین تغییر شیوه‌های تفکر استفاده کند. | ## جمع‌بندی | حتی در جوامعی که از جهات دیگر منطقی و دموکراتیک هستند، برخی گروه‌های اجتماعی و سیاسی ممکن است از رسانه‌های مصنوعی برای ایجاد حباب‌های فیلتر فرهنگی، سیاسی و علمی استفاده کنند که توانایی عموم مردم برای توافق بر سر حقایق عینی اساسی را تا حد زیادی کاهش می‌دهد یا حتی به کلی تضعیف می‌کند.