تشخیص محتوای تولید شده توسط هوش مصنوعی

*هدف نرم‌افزار تشخیص محتوای تولید شده توسط هوش مصنوعی*  این است که تعیین کند آیا محتوایی (متن، تصویر، ویدیو یا صدا) با استفاده از هوش مصنوعی تولید شده است یا خیر.

با این حال، قابل اعتماد بودن چنین نرم‌افزارهایی محل بحث است، و نگرانی‌هایی در مورد سوءاستفاده احتمالی از نرم‌افزار تشخیص هوش مصنوعی توسط مربیان وجود دارد.

## دقت پایین
چندین ابزار تشخیص هوش مصنوعی در تشخیص دقیق و جامع متن تولید شده توسط هوش مصنوعی غیرقابل اعتماد نشان داده شده‌اند. در پژوهشی که توسط وبر-وولف و همکارانش انجام شد، و در سال ۲۰۲۳ منتشر شد، محققان ۱۴ ابزار تشخیص شامل تورنیتین و GPT Zero را ارزیابی کردند، و دریافتند که «همهٔ آن‌ها کمتر از ۸۰٪ دقت داشتند و تنها ۵ تا از آن‌ها بالای ۷۰٪ بودند.»

## تشخیص متن
برای متن، این کار معمولاً برای جلوگیری از ادعای سرقت ادبی انجام می‌شود، اغلب با تشخیص تکرار کلمات به عنوان نشانه‌های واضحی که یک متن توسط هوش مصنوعی تولید شده است (شامل توهمات هوش مصنوعی). این ابزارها اغلب توسط معلمان برای تصحیح تکالیف دانش آموزان، به صورت موردی استفاده می‌شوند. پس از انتشار چت‌جی‌پی‌تی و نرم‌افزارهای مشابه تولید متن توسط هوش مصنوعی، بسیاری از مؤسسات آموزشی بخشنامه‌هایی را علیه استفاده از هوش مصنوعی توسط دانش آموزان ابلاغ کرده‌اند. نرم‌افزار تشخیص متن تولید شده توسط هوش مصنوعی همچنین توسط کسانی که متقاضیان شغلی را بررسی می‌کنند و نیز موتورهای جست و جو آنلاین استفاده می‌شود.

تشخیص گرهای فعلی ممکن است گاهی اوقات غیر اعتماد باشند و کارهای تولید شده توسط انسان را به اشتباه به عنوان کار تولید شده توسط هوش مصنوعی تعیین کنند در حالی که در موارد دیگر در تشخیص متن تولید شده توسط هوش مصنوعی ناموفق هستند. مجله ام‌آی‌تی تکنالجی ریویو بیان کرد که این تکنولوژی «در تشخیص متن‌های تولید شده توسط چت‌جی‌پی‌تی که اندکی توسط انسان‌ها تغییر کرده‌اند یا با ابزارهای بازنویسی مبهم شده‌اند به مشکل خورده است». نرم‌افزار تشخیص متن تولید شده توسط هوش مصنوعی همچنین نشان داده است که نسبت به کسانی که زبان مادری شان انگلیسی نیست تبعیض قائل می‌شود.

دو دانشجو از دانشگاه کالیفرنیا، دیویس، پس از آن که استادانشان مقاله‌هایشان را با ابزار تشخیص متنی به نام تورنیتین اسکن کردند نزدیک بود اخراج شوند، زیرا این ابزار تشخیص داده بود که این مقاله‌ها توسط هوش مصنوعی تولید شده‌اند. با این حال، به دنبال پوشش رسانه ای، و یک تحقیق کامل، دانشجویان از هر گونه تخلفی تبرئه شدند.

در آوریل ۲۰۲۳، دانشگاه کمبریج و اعضای دیگر گروه راسل از دانشگاه‌های در بریتانیا پس از ابزار نگرانی‌هایی در مورد قابل اعتماد نبودن نرم‌افزار تشخیص متن هوش مصنوعی تورنتین، ترجیح دادند دیگر از این ابزار استفاده نکنند. شش ماه بعد دانشگاه تگزاس در آستین نیز استفاده از این سیستم را کنار گذاشت.

در می ۲۰۲۳، یک استاد در دانشگاه تگزاس ای اند ام – کامرس از چت‌جی‌پی‌تی برای تشخیص اینکه آیا محتوای دانشجویانش توسط آن نوشته شده است یا نه استفاده کرد، که چت‌جی‌پی‌تی بیان کرد اینطور است. از این رو، او تهدید کرد که کل دانشجویان کلاس را مردود می‌کند با وجود اینکه چت‌جی‌پی‌تی توانایی تشخیص نوشته تولید شده توسط هوش مصنوعی را ندارد. از فارغ‌التحصیلی هیچ دانشجویی به خاطر این مسئله جلوگیری نشد، به جز یک دانشجو (که به استفاده از این نرم‌افزار اعتراف کرد) و همه از اتهام استفاده از چت‌جی‌پی‌تی در محتوایشان تبرئه شدند.

## دور زدن تشخیص متن
نرم‌افزارهایی وجود دارند که برای دور زدن تشخیص متن توسط هوش مصنوعی طراحی شده‌اند.

در اوت ۲۰۲۳، تحقیقی توسط تالونی و همکارانش در دانشگاه مگنا گراسیا و کالج سلطنتی چشم پزشکان انجام شد، تا تشخیص متن توسط هوش مصنوعی را بررسی کنند. این پژوهش یک ابزار تشخیص هوش مصنوعی به نام Originality.ai را بررسی کرد، و دریافت که این ابزار GPT-4 را با دقت متوسط ۹۱٫۳٪ تشخیص می‌دهد.

با این حال، وقتی که این ابزار از طریق نرم‌افزار دیگری به نام Undetectable.ai دوباره پردازش شد، دقت تشخیص Originality.ai به‌طور میانگین به ۲۷٫۸٪ کاهش یافت.

پژوهش تالونی و همکارانش ۲۰ خلاصه از مقالات منتشر شده در مجله Eye را تحلیل کرد، که سپس با استفاده از چت‌جی‌پی‌تی ۴ بازنویسی شدند. خلاصه‌های بازنویسی شده توسط هوش مصنوعی با استفاده از QueText برای بررسی سرقت ادبی، و با استفاده از Originality.ai برای تشخیص محتوای تولید شده توسط هوش مصنوعی مورد بررسی قرار گرفتند. این متن‌ها سپس از طریق یک نرم‌افزار خصمانه به نام Undetectable.ai مجدداً پردازش شدند به منظور اینکه امتیاز تشخیص هوش مصنوعی کاهش یابد.

همچنین برخی کارشناسان بر این باورند که شیوه‌هایی مانند واتر مارک بی‌نتیجه هستند زیرا آن‌ها می‌توانند حذف شوند یا آن‌ها را می‌توان به گونه ای اضافه شوند که منجر به نتایج مثبت کاذب شوند.

## تشخیص تصویر، ویدیو، و صدا
چندین نرم‌افزار مدعی بر تشخیص تصویر هوش مصنوعی وجود دارند، که تصاویر تولید شده توسط هوش مصنوعی را شناسایی می‌کنند (برای مثال، تصاویر تولید شده توسط میدجرنی یا دال-ئی). این نرم‌افزارها کاملاً قابل اعتماد نیستند.

نرم‌افزارهای دیگری ادعا می‌کنند که دیپ فیک‌های ویدیویی و تصویری را شناسایی می‌کنند، اما این تکنولوژی نیز هنوز به‌طور کامل قابل اعتماد نیست.

به رغم بحث‌هایی که در مورد کارایی واترمارک وجود دارد، دیپ‌مایند به‌طور فعال در حال توسعه یک نرم‌افزار تشخیص به نام SynthID است، که با وارد کردن یک واتر مارک دیجیتالی که برای چشم انسان نامرئی است در پیکسل‌های یک تصویر کار می‌کند.

## جستارهای وابسته
* مسئله کنترل هوش مصنوعی
* کشف دستبرد علمی
* توهم (هوش مصنوعی)
* پردازش زبان‌های طبیعی

## منابع

رده:ارزیابی و ارزشیابی آموزشی
رده:بازشناسی گفتار
رده:پردازش زبان‌های طبیعی
رده:زبان‌شناسی رایانشی
رده:سیبرنتیک
رده:شاخه‌های مطالعاتی محاسباتی
رده:علوم صوری
رده:علوم محاسباتی اعصاب
رده:کشف دستبرد علمی
رده:مسئله‌های حل‌نشده در علوم رایانه
رده:هوش بر پایه نوع
رده:هوش مصنوعی
رده:چت‌جی‌پی‌تی
رده:علم داده
رده:مدل‌های زبانی بزرگ