ذكاء اصطناعي مولد
المخاوف > جودة المحتوى

تصف صحيفة نيويورك تايمز مصطلح "سُلُوب" بأنه شبيه بالبريد العشوائي، إذ يشير إلى "محتوى ذكاء اصطناعي رديء أو غير مرغوب فيه يتسلل إلى منصات التواصل الاجتماعي، الأعمال الفنية، الكتب، وحتى نتائج البحث". وقد أعرب الصحفيون عن قلقهم إزاء الانتشار المتزايد لهذا المحتوى ذي الجودة المتدنية، والذي يهدد بتغيير طبيعة التفاعل مع منصات التواصل الاجتماعي،  مدفوعًا بحوافز مالية تقدمها شركات هذه المنصات لتشجيع نشره،  وانتشار الأخبار الكاذبة والرسائل السياسية المضللة،  وحتى محاولات التلاعب في الأبحاث العلمية. كما يخشى الصحفيون من أن يؤدي هذا إلى زيادة الوقت والجهد المبذول للعثور على محتوى موثوق به وذات قيمة على الإنترنت،  فضلًا عن تحديات جديدة تواجه محركات البحث في فهرسة هذا الكم الهائل من المحتوى المولد،  وحتى التأثير السلبي على الصحافة التقليدية نفسها.
وقد كشفت دراسة أجراها باحثون في مختبرات الذكاء الاصطناعي في أمازون ويب سيرفيسز عن أن أكثر من 57% من الجمل في عينة ضخمة تضمنت أكثر من 6 مليارات جملة مستخرجة من "كومن كراول" - وهي قاعدة بيانات ضخمة لصفحات الويب - قد تُرجمت آليًا. وقد تبين أن العديد من هذه الترجمات الآلية كانت ذات جودة متدنية، خاصة تلك التي تُرجمت عبر ثلاث لغات أو أكثر. كما لوحظ أن اللغات الأقل شيوعًا (مثل الولوفية، والكوسية) قد تُرجمت غالبًا عبر لغات أكثر شيوعًا (مثل الإنجليزية والفرنسية) مما أدى إلى تدهور جودة الترجمة.
في شهر سبتمبر من عام 2024، أعلنت روبن سبير، مؤلفة قاعدة البيانات المفتوحة المصدر "ووردفريك" والتي تحسب تكرارات الكلمات اعتمادًا على النصوص المتاحة على الإنترنت، عن توقفها عن تحديث البيانات. وقد جاء هذا القرار بسبب عدة عوامل، منها التكاليف الباهظة لاستخلاص البيانات من منصات مثل ريديت وتويتر، والتركيز المفرط على الذكاء الاصطناعي التوليدي على حساب الطرق التقليدية في مجال معالجة اللغات الطبيعية. وقد أشارت سبير إلى أن "الذكاء الاصطناعي التوليدي قد لوث البيانات".
وقد أدى الاعتماد المتزايد على أدوات الذكاء الاصطناعي التوليدي إلى انفجار في المحتوى المُولَّد آليًا عبر مختلف المجالات. وتشير دراسة أجرتها كلية لندن الجامعية إلى أنه في عام 2023، تم كتابة أكثر من ستين ألف مقال علمي، أي ما يزيد عن واحد في المئة من إجمالي المنشورات العلمية، بمساعدة نماذج اللغة الكبيرة على الأرجح. كما أظهر معهد ستانفورد للذكاء الاصطناعي الموجه للإنسان أن حوالي 17.5% من الأوراق البحثية في علوم الحاسوب المنشورة حديثًا، وحوالي 16.9% من نصوص المراجعة العلمية، تتضمن حاليًا محتوى مولَّدًا بواسطة نماذج اللغة الكبيرة.
يسلك المحتوى المرئي مسارًا متوافقًا. فمنذ إطلاق نموذج دال-إي 2 في العام 2022، قُدِّر أن يكون قد تم توليد ما يزيد عن 34 مليون صورة يوميًا في المتوسط. وحتى أغسطس عام 2023 تجاوز عدد الصور التي تم إنشاؤها باستخدام خوارزميات تحويل النص إلى صورة خمسة عشر مليار صورة، حيث تم توليد ثمانين بالمئة منها بواسطة نماذج تستند إلى ستابل ديفيوجن.
إذا أُدرجت المخرجات التي أنتجها الذكاء الاصطناعي في مجموعات البيانات الجديدة التي تستقي من الإنترنت لتدريب نماذج الذكاء الاصطناعي بشكل متكرر، فإن النماذج الناتجة قد تعاني من عيوب جمة. إن تدريب نموذج للذكاء الاصطناعي على مخرجات نموذج آخر من الذكاء الاصطناعي بشكل حصري يؤدي إلى تدهور جودة النموذج الجديد. ويؤدي تكرار هذه العملية - حيث يُدرّب كل نموذج لاحق على مخرجات سابقه - إلى تدهور تدريجي في جودة النماذج الناتجة، وصولًا إلى ما يُعرف بـ "انهيار النموذج" بعد تكرارات متعددة. وقد تم التحقق من صحة هذه الظاهرة من خلال تجارب على التعرف على الخطوط المكتوبة بخط اليد والصور الفوتوغرافية للوجوه البشرية. ونتيجة لذلك تزداد قيمة البيانات التي جمعت من تفاعلات بشرية حقيقية مع الأنظمة، مقارنة بالبيانات التي تضمنت كميات كبيرة من المحتوى المولّد آليًا.
من ناحية أخرى، غالبًا ما تُستخدم البيانات الاصطناعية كبديل للبيانات المستمدة من العالم الحقيقي. ويمكن استخدام هذه البيانات لاختبار صحة النماذج الرياضية وتدريب نماذج التعلم الآلي مع الحفاظ على خصوصية المستخدم،  بما في ذلك البيانات المنظمة. ولا يقتصر هذا النهج على توليد النصوص فحسب؛ بل يشمل أيضًا توليد الصور لتدريب نماذج الرؤية الحاسوبية.