# محول مولد مسبق التدريب

المُحول المُولّد مسبق التدريب (جي بي تي) أو المحول المُولّد المدرب مسبقا (بالإنجليزية: Generative pre-trained transformers (GPT)) هي نوع من النماذج اللغوية الكبيرة وإطار بارز للذكاء الاصطناعي التوليدي. قدمت شركة أوبن أيه آي الجي بي تي الأول في عام 2018. نماذج الجي بي تي هي شبكات عصبية اصطناعية تعتمد على هيكلية محولات، مدربة مسبقا على مجموعات بيانات كبيرة من النصوص غير الموسومة، وقادرة على توليد محتوى جديد يشبه المحتوى البشري. أصبحت لمعظم النماذج اللغوية الكبيرة بحلول عام 2023 هذه الخصائص وتشار إليها أحيانا على نطاق واسع بصفتها جي بي تيز (بالإنجليزية: GPTs)‏.
أصدرت أوبن أيه آي نماذج أساسية لـ جي بي تي ذات تأثير كبير والتي رُقمت بتسلسل، لتشكل سلسلتها جي بي تي-إن . كل من هذه النماذج كان أكثر قدرة من السابق، بسبب الحجم المتزايد (عدد المعاملات التي يمكن تدريبها) والتدريب. أحدث هذه النماذج، جي بي تي-4، أُصدر في مارس 2023. هذه النماذج كانت الأساس لأنظمة جي بي تي الخاصة بهذه النماذج المخصصة للمهام الأكثر تحديدًا، بما في ذلك النماذج المعدلة لمتابعة الإرشادات - التي بدورها تُشغل خدمة الدردشةشات جي بي تي.
يُستخدم مصطلح "جي بي تي" أيضًا في أسماء وأوصاف النماذج التي طورها الآخرون. على سبيل المثال، تشمل النماذج الأساسية الأخرى لـ جي بي تي سلسلة من النماذج التي أنشأتها إي لوثر إي آي $^{[الإنجليزية]}$، ومؤخراً سبعة نماذج أنشأتها سيريبراس $^{[الإنجليزية]}$ في 2023. بالإضافة إلى ذلك، قامت شركات في صناعات مختلفة بتطوير جي بي تيز محددة للمهام في مجالاتها المختلفة، مثل نموذج سيلز فورس المُسمى "أينشتاين جي بي تي - (بالإنجليزية: EinsteinGPT)‏" (لإدارة علاقات العملاء)، ونموذج بلومبيرغ المُسمى "برومبيرج جي بي تي - (بالإنجليزية: BloombergGPT)‏" (للتمويل).

## التاريخ
### التطورات الأولية

كان التدريب التوليدي المسبق (GP) مفهومًا راسخًا منذ فترة طويلة في تطبيقات التعلم الآلي. وكان يُستخدم أساسًا كشكل من أشكال التعلم شبه المُراقب، حيث يُدرب النموذج على مجموعة بيانات غير مُعلّمة (خطوة التدريب المسبق) من خلال تعلم توليد نقاط البيانات في مجموعة البيانات، ثم يُدرب على تصنيف مجموعة بيانات مُعلّمة. وكانت هناك 3 أنواع رئيسية من التدريب التوليدي المُبكر.
تتعلم نماذج ماركوف المخفية نموذجًا توليديًا للتسلسلات للتطبيقات اللاحقة. على سبيل المثال، في التعرف على الكلام، يستنتج نموذج ماركوف المخفي المُدرب التسلسل المخفي الأكثر احتمالية لإشارة الكلام، ويُؤخذ التسلسل المخفي على أنه أصوات إشارة الكلام. طُورت هذه النماذج في السبعينيات وطُبقت في التعرف على الكلام في الثمانينيات.
تتعلم أدوات الضغط ضغط البيانات مثل الصور والتسلسلات النصية، وتُعتبر البيانات المضغوطة تمثيلًا جيدًا للتطبيقات اللاحقة مثل التعرف على الوجه. وبالمثل تتعلم أجهزة التشفير التلقائي تمثيلًا كامنًا للبيانات لتطبيقات لاحقة مثل التعرف على الكلام. لُوحظت العلاقة بين أجهزة التشفير التلقائي وأدوات الضغط الخوارزمية في عام 1993.
خلال العقد الثاني من القرن الحادي والعشرين، حلت الشبكات العصبية المتكررة مشكلة الترجمة الآلية مع إضافة آلية الانتباه. تم تحسين ذلك في بنية المحولات، التي نشرها باحثو جوجل في "الانتباه هو كل ما تحتاجه" (2017). أدى هذا التطور إلى ظهور نماذج لغوية كبيرة مثل BERT في 2018. الذي كان عبارة عن محول مُدرّب مُسبقًا (PT) ولكن لم يتم تصميمه ليكون توليديًا (كان BERT نموذجًا "للتشفير فقط"). أيضًا في عام 2018 نشرت أوبن أيه آي "تحسين فهم اللغة من خلال التدريب التوليدي المسبق"، والذي قدم نموذج جي بي تي-1 وهو أول نماذج سلسلة جي بي تي.
في عام 2017 عمل بعض المؤلفين الذين سيعملون لاحقًا على جي بي تي-1 على التدريب التوليدي المسبق للغة باستخدام الذاكرة القصيرة المدى المطولة (LSTM)، مما أدى إلى نموذج يُمكنه تمثيل النص باستخدام متجهات يُمكن ضبطها بسهولة للتطبيقات اللاحقة.
قبل البنى القائمة على المحولات، كانت نماذج البرمجة اللغوية العصبية (معالجة اللغة الطبيعية) الأفضل أداءً تستخدم التعلم المُراقب من كميات كبيرة من البيانات المُعلّمة يدويًا. حد الاعتماد على التعلم المُراقب من استخدامها في مجموعات البيانات التي لم تكن مُعلّمة جيدًا، كما جعل تدريب نماذج اللغات الكبيرة للغاية مُكلفًا ويستغرق وقتًا طويلاً بشكل باهظ.
تضمن النهج شبه المُراقب الذي استخدمته أوبن أيه آي لإنشاء نظام توليدي واسع النطاق - وكان أول من فعل ذلك باستخدام نموذج محول - مرحلتين: مرحلة "تدريب مُسبق" توليديةغير مُراقبة لتعيين المعلمات الأولية باستخدام هدف نمذجة اللغة، ومرحلة "ضبط دقيق" تمييزية مُراقبة لتكييف هذه المعلمات مع مهمة مُستهدفة.

### التطورات اللاحقة

نشرت أوبن أيه آي الإصدارات الأولى من جي بي تي-3 في يوليو 2020. وكانت له ثلاثة نماذج: باباج (بالإنجليزية: babbage)‏ بواقع 1 مليار مُعلمة، وكوري - (بالإنجليزية: curie)‏ بواقع 6.7 مليار مُعلمة، ودافنشي - (بالإنجليزية: davinci)‏ بواقع 175 مليار مُعلمة.
في يوليو 2021، نشرت أوبن أيه آي نموذج "كوديكس - (بالإنجليزية: Codex)‏"، وهو نموذج جي بي تي مُخصص للمهام مُستهدف لتطبيقات البرمجة. طُور عن طريق الضبط الدقيق لإصدار 12 مليار مُعلمة من جي بي تي-3 (يختلف عن نماذج جي بي تي-3 السابقة) باستخدام التعليمات البرمجية من غيت هاب.
في مارس 2022، نشرت أوبن أيه آي إصدارين من جي بي تي-3 ضُبطا بدقة لاتباع التعليمات (ضبط التعليمات)، ويُسمى (بالإنجليزية: davinci-instruct-beta)‏ (175 مليار) ونموذج "دافنشي النصي الأول - (بالإنجليزية: text-davinci-001)‏"، ثم بدأت اختبار بيتا لنموذج "كود دافنشي الثاني - (بالإنجليزية: code-davinci-002)‏". ضُبط نموذج "دافنشي النصي الثاني" لاتباع التعليمات من نموذج "كود دافنشي الثاني". في نوفمبر 2022 أصدرت الشركة نموذجي "دافنشي النصي الثالث - (بالإنجليزية: text-davinci-003)‏" وشات جي بي تي، وكلاهما مبني على "دافنشي النصي الثاني" عبر التعلم المعزز من التغذية الراجعة البشرية (RLHF). دُرب نموذج "دافنشي النصي الثالث" على اتباع التعليمات (مثل سابقاتها)، بينما دُرب "شات جي بي تي" بشكل أكبر على التفاعل الحواري مع مُستخدم بشري.
أصدرت شركة أوبن أيه آي نموذج جي بي تي-4 وهو أحدث نموذج جي بي تي أساسي في 14 مارس 2023. وأتاحت للمستخدمين الوصول إليه مُباشرةً من خلال إصدار مُميز من "شات جي بي تي"، وأتاحت للمطورين دمجه في المنتجات والخدمات الأخرى عبر واجهة برمجة التطبيقات. من بين المُنتجين الآخرين لنماذج جي بي تي الأساسية شركة "إليوثير أيه آي" ولها سلسلة من النماذج بدأت إصدارها في مارس 2021، وشركة "سيريبراس" ولها سبعة نماذج بدأت اصدارها في مارس 2023.

## النماذج الأساسية

النموذج الأساسي هو نموذج ذكاء اصطناعي دُرب على بيانات واسعة النطاق ويمكن تكييفه لمجموعة متنوعة من المهام اللاحقة.
تُعتبر هذه النماذج الأساسية الأكثر بروزًا في سلسلة نماذج "جي بي تي" من أوبن أيه آي، وأحدثها هو جي بي تي-4 الذي رفضت أوبن أيه آي نشر حجم النموذج أو تفاصيل تدريبه مشيرة إلى "البيئة التنافسية والآثار الأمنية للنماذج الكبيرة".
سلسلة نماذج GPT-n من أوبن أيه آي :
| النموذج | البنية المعمارية | عدد المعاملات | بيانات التدريب | تاريخ الإصدار | تكلفة التدريب |
| جي بي تي-1 $^{[الإنجليزية]}$ | 12 مستوى، 12 رأسًا من المحولات (بدون مشفر)، متبوعًا بسوفت ماكس الخطية. | 117 مليون | مجموعة بيانات "كتاب كوربوس": 4.5 جيجابايت من النصوص، من 7000 كتاب غير منشور من أنواع مختلفة. | ‍11 يونيو 2018 | 30 يومًا على 8 وحدات معالجة الرسوميات P600، أو 1 بيتا فلوبس/يوم. |
| جي بي تي-2 $^{[الإنجليزية]}$ | GPT-1، ولكن مع تعديل في التنعيم | 1.5 مليار | نص الويب: 40 جيجابايت من النصوص، 8 مليون مستند، من 45 مليون صفحة ويب حصلت على تصويت إيجابي على ريديت. | ‍14 فبراير 2019 (الإصدار الأول/المحدود) و‍5 نوفمبر 2019 (الإصدار الكامل) | "عشرات من فلوبس/يوم"، أو 1.5e21 FLOP. |
| جي بي تي-3 | GPT-2، ولكن مع تعديل للسماح بتوسيع أكبر | 175 مليار | 499 مليار رمز يتكون من الزحف المشترك (570 جيجابايت)، نص الويب، ويكيبيديا الإنجليزية، ومجموعتين من الكتب (Books1 وBooks2). | ‍28 مايو 2020 | 3640 بيتا فلوبس/يوم (الجدول D.1)، أو 3.1e23 فلوب. |
| جي بي تي-3 | غير معلن | 175 مليار | غير معلن | 15 مارس 2022 | غير معلن |
| جي بي تي-4 | تم تدريبه أيضًا باستخدام كل من توقع النص و"التعلم التعزيزي من ردود الفعل البشرية"؛ يقبل النصوص والصور كمدخلات. التفاصيل الإضافية غير معلنة. | غير معلن. يقدر بحوالي 1.7 تريليون. | غير معلن | ‍14 مارس 2023 | غير معلن. يقدر بحوالي 2.1 × 10$^{25}$ فلوب. |
من النماذج الأخرى نموذج بالم من جوجل، وهو نموذج أساسي شامل يُقارن بجي بي تي-3، وهو متاح للمطورين عبر واجهة برمجة التطبيقات (API)، ونموذج "جي بي تي-جي تي - (بالإنجليزية: GPT-JT)‏" من توقيذر، والذي يُعتبره البعض أقرب بديل مفتوح المصدر لجي بي تي-3 وهو مشتق من نماذج جي بي تي مفتوحة المصدر السابقة. كما أن لدى "ميتا أيه آي" (المعروفة سابقًا باسم فيسبوك) نموذجًا كبيرًا قائمًا على التحويلات التوليدية، يُعرف باسم لاما.
يمكن أن تستخدم النماذج الأساسية أنماطًا أخرى غير النصوص كمدخلات أو مخرجات. ويعد نموذج جي بي تي-4 نموذجًا متعدد الوسائط له القدرة على مُعالجة المدخلات كنص أو صورة، وتقتصر مخرجاته على النصوص. فيما يتعلق بالإخراج متعدد الوسائط، تُستخدم بعض النماذج التوليدية القائمة على المحولات لتقنيات في تقنيات تحويل النص إلى صورة، مثل نماذج الانتشار وفك التشفير المتوازي. يمكن أن تكون هذه الأنواع من النماذج بمثابة نماذج أساسية مرئية (VFMs) لتطوير أنظمة لاحقة يُمكنها العمل مع الصور.

## النماذج المخصصة للمهام

يمكن تكييف نموذج جي بي تي الأساسي بشكل أكبر لإنتاج أنظمة أكثر استهدافًا موجهة إلى مهام مُحددة و/أو مجالات موضوعية. يمكن أن تتضمن أساليب هذا التكييف ضبطًا دقيقًا إضافيًا (إلى جانب ما يُجرى للنموذج الأساسي) بالإضافة إلى أشكال مُعينة من هندسة المُطالبات.
من الأمثلة المهمة على ذلك ضبط النماذج بدقة لاتباع التعليمات، وهي بالطبع مهمة واسعة إلى حد ما ولكنها أكثر استهدافًا من النموذج الأساسي. في يناير 2022، قدمت أوبن أيه آي "انستركت جي بي تي - (بالإنجليزية: InstructGPT)‏" - وهي سلسلة من النماذج التي ضُبطت بدقة لاتباع التعليمات باستخدام مزيج من التدريب المُراقب والتعلم المعزز من التغذية الراجعة البشرية (RLHF) على نماذج لغة جي بي تي-3 الأساسية. تشمل المزايا التي يتمتع بها هذا على النماذج الأساسية المجردة دقة أعلى، ومشاعر سلبية/سامة أقل، ومحاذاة أفضل بشكل عام مع احتياجات المستخدم. لذلك، بدأت أوبن أيه آي في استخدام هذا كأساس لعروض خدمة واجهة برمجة التطبيقات الخاصة بها. تم إصدار نماذج أخرى مُضبوطة للتعليمات من قبل آخرين، بما في ذلك إصدار مفتوح بالكامل.
نوع آخر (ذو صلة) من النماذج المُخصصة للمهام هو روبوتات الدردشة، التي تُشارك في محادثة تُشبه الإنسان. في نوفمبر 2022 أطلقت أوبن أيه آي "شات جي بي تي" - وهي واجهة دردشة عبر الإنترنت تعمل بواسطة نموذج لغة مُضبوط للتعليمات دُرب بطريقة مُشابهة لـ "انستركت جي بي تي". قاموا بتدريب هذا النموذج باستخدام التعلم المعزز من التغذية الراجعة البشرية، حيث يُجري مُدربو الذكاء الاصطناعي البشري محادثات يلعبون فيها دور كل من المستخدم والذكاء الاصطناعي، وخلطوا مجموعة بيانات الحوار الجديدة هذه مع مجموعة بيانات "انستركت جي بي تي" للحصول على تنسيق محادثة مُناسب لروبوت الدردشة. تشمل روبوتات الدردشة الرئيسية الأخرى حاليًا بينغ شات من مايكروسوفت، الذي يستخدم جي بي تي-4 من أوبن أيه آي (كجزء من تعاون وثيق أوسع بين أوبن أيه آي ومايكروسوفت)، وروبوت الدردشة المُنافس من جوجل، بارد الذي أعتمد في البداية على عائلة لامدا من نماذج اللغات المُدربة على المحادثة، مع خطط لتحويله إلى نماذج بالم.
نوع آخر من المهام التي يُمكن استخدام جي بي تي من أجلها هو المهمة الفوقية المتمثلة في إنشاء تعليماته الخاصة، مثل تطوير سلسلة من المُطالبات "لنفسها" لتكون قادرة على تحقيق هدف أكثر عمومية يُحدده مُستخدم بشري. يُعرف هذا باسم وكيل الذكاء الاصطناعي، وبشكل أكثر تحديدًا وكيل تكراري لأنه يستخدم نتائج تعليماته الذاتية السابقة لمساعدته في تشكيل مُطالباته اللاحقة؛ كان المثال الرئيسي الأول على ذلك هو أوتو جي بي تي $^{[الإنجليزية]}$ (الذي يستخدم نماذج جي بي تي من أوبن أيه آي)، ومنذ ذلك الحين طُورت نماذج أخرى أيضًا.

### تعددية الوسائط

يمكن أيضًا استهداف الأنظمة التوليدية القائمة على المحولات للمهام التي تتضمن أساليب تتجاوز النص. على سبيل المثال يجمع "شات جي بي تي المرئي" من مايكروسوفت بين "شات جي بي تي" ونماذج الرؤية الأساسية (VFMs) لتمكين الإدخال أو الإخراج الذي يشتمل على صور بالإضافة إلى نص. أيضًا تُوفر التطورات في تقنية تحويل النص إلى كلام أدوات لإنشاء محتوى صوتي عند استخدامها جنبًا إلى جنب مع نماذج لغة جي بي تي الأساسية.

### تخصص المجال

يمكن توجيه أنظمة جي بي تي نحو مجالات أو نطاقات مُعينة. فيما يلي بعض الأمثلة لهذه النماذج والتطبيقات:
* EinsteinGPT - لمجالات المبيعات والتسويق، للمساعدة في إدارة علاقات العملاء (يستخدم جي بي تي-3.5).
* BloombergGPT - للمجال المالي، للمساعدة في الأخبار والمعلومات المالية (يستخدم أساليب الذكاء الاصطناعي "المُتاحة مجانًا"، جنبًا إلى جنب مع بياناتهم الخاصة).
* Khanmigo - يُوصف بأنه إصدار جي بي تي للتدريس، يُساعد الطلاب الذين يستخدمون أكاديمية خان من خلال إرشادهم خلال دراساتهم دون تقديم إجابات مُباشرة (مدعوم من جي بي تي-4).
* SlackGPT - لخدمة المراسلة الفورية سلاك، للمساعدة في التنقل وتلخيص المُناقشات عليها (يستخدم واجهة برمجة تطبيقات أوبن أيه آي).
* BioGPT - للمجال الطبي الحيوي، للمساعدة في توليد النصوص واستخراج البيانات من الأدبيات الطبية الحيوية (يستخدم جي بي تي-2).
في بعض الأحيان، تُحقق خصوصية المجال عبر المكونات الإضافية للبرامج أو الإضافات. على سبيل المثال، طورت العديد من الشركات المختلفة مكونات إضافية مُعينة تتفاعل مُباشرةً مع واجهة "شات جي بي تي" من أوبن أيه آي، ولدى جوجل ورك سبيس إضافات مُتاحة مثل (بالإنجليزية: GPT for Sheets and Docs)‏ والتي يُقال إنها تُساعد في استخدام وظائف جداول البيانات في جداول بيانات جوجل.
في نوفمبر 2023، أعلنت أوبن أيه آي أنها ستُتيح لمُشتركي "شات جي بي تي بلس" إنشاء إصدارات مُخصصة من "شات جي بي تي" تُسمى "جي بي تيز - (بالإنجليزية: GPTs)‏". بحيث يُمكن تخصيصها لمجالات مُحددة عبر هندسة المُطالبات، ومجموعات البيانات المُنسقة، والتفاعل المُستهدف مع الأدوات الخارجية. ويمكن للمستخدمين الذين يُسجلون كمُنشئين مُتحققين إتاحة الـ "جي بي تيز" للمستخدمين آخرين، مع إمكانية تحقيق الدخل منها. (هذا يختلف بشكل ملحوظ عن خدمة واجهة برمجة تطبيقات أوبن أيه آي، حيث يعتمد هذا داخليًا على منصة أوبن أيه آي.)

## قضايا العلامة التجارية

أكدت شركة أوبن أيه آي، التي أنشأت أول محول توليدي مُدرّب مُسبقًا (GPT) في عام 2018، مؤخرًا أنه يجب اعتبار "جي بي تي" علامة تجارية خاصة بها. وفي أبريل 2023 عدلت إرشادات العلامة التجارية في شروط الخدمة $^{[الإنجليزية]}$ الخاصة بها للإشارة إلى أن الشركات الأخرى التي تستخدم واجهة برمجة التطبيقات الخاصة بها لتشغيل خدمات الذكاء الاصطناعي الخاصة بها لن تتمكن بعد الآن من تضمين "جي بي تي" في مثل هذه الأسماء أو العلامات التجارية. في مايو 2023 تعاقدت أوبن أيه آي مع خدمة إدارة العلامات التجارية لإخطار عملاء واجهة برمجة التطبيقات الخاصة بها بهذه السياسة، على الرغم من أن هذه الإخطارات لم تصل إلى حد تقديم مُطالبات قانونية علنية (مثل مزاعم انتهاك العلامات التجارية $^{[الإنجليزية]}$ أو خطاب التوقف والكف $^{[الإنجليزية]}$). في نوفمبر 2023 بدأت في تمكين مُشتركي "شات جي بي تي بلس" من إنشاء إصدارات مُخصصة من "شات جي بي تي" والتي تُسمى "جي بي تيز - GPTs" على موقع أوبن أيه آي. تنص شروط خدمة أوبن أيه آي على أنه يجوز لمُشتركيها استخدام "جي بي تي" في أسماء هذه الإصدارات، على الرغم من أنه "غير مُشجع".
وبشكل مُتصل، تقدمت أوبن أيه آي إلى مكتب الولايات المتحدة لبراءات الاختراع والعلامات التجارية (USPTO) للحصول على تسجيل علامة تجارية محلية لمُصطلح "جي بي تي - GPT" في مجال الذكاء الاصطناعي. سعت أوبن أيه آي إلى تسريع معالجة طلبها، لكن مكتب البراءات رفض هذا الطلب في أبريل 2023. في مايو 2023 رد مكتب البراءات على الطلب بتحديد أن "جي بي تي" كان وصفًا عامًا. اعتبارًا من نوفمبر 2023، تُواصل أوبن أيه آي مُتابعة حجتها من خلال العمليات المُتاحة. بغض النظر عن ذلك، فإن عدم الحصول على علامة تجارية أمريكية مُسجلة لا يحول دون مستوى مُعين من حقوق العلامات التجارية بموجب القانون العام في الولايات المتحدة، و/أو حقوق العلامات التجارية في دول أخرى.
بالنسبة لأي نوع أو نطاق من حماية العلامات التجارية في الولايات المتحدة، ستحتاج أوبن أيه آي إلى إثبات أن المصطلح "مُميز" بالفعل لعروضها المُحددة بالإضافة إلى كونه مُصطلحًا تقنيًا أوسع لنوع التكنولوجيا. أشارت بعض التقارير الإعلامية إلى أن أوبن أيه آي قد تتمكن من الحصول على تسجيل علامة تجارية بشكل غير مُباشر بناءً على شهرة منتج روبوت الدردشة "شات جي بي تي"، الذي سعت أوبن أيه آي للحصول على حماية له بشكل مُنفصل وسعت لفرضه بقوة أكبر.
تُشير تقارير أخرى إلى أنه من غير المرجح منح تسجيلًا للعلامة التجارية "GPT وحده، نظرًا للاستخدام المتكرر للمصطلح للإشارة ببساطة إلى أنظمة الذكاء الاصطناعي التي تنطوي على المحولات التوليدية المدربة مسبقًا. وفي كل الأحوال سيحتاج الآخرون إلى تجنب استخدام المصطلح لمنتجات أو خدمات مُماثلة بطرق يُحتمل أن تُسبب ارتباكًا. لكن إذا أصبحت هذه الحقوق واسعة النطاق بما يكفي لتوريط استخدامات أخرى راسخة في هذا المجال، فإن مبدأ الاستخدام العادل الوصفي للعلامات التجارية لا يزال يُمكن أن يُواصل الاستخدام غير المُتعلق بالعلامة التجارية.

## قائمة المراجع المُختارة

فيما يلي قائمة بالإصدارات الرسمية الرئيسية من "أوبن أيه آي"، ومايكروسوفت حول نماذج GPT الخاصة بهم:
* GPT-1: تقرير، إصدار على GitHub.
* GPT-2: إعلان في مدونة، تقرير حول قرار الإصدار "المتدرج"، إصدار على GitHub.
* GPT-3: تقرير. لم يتم إصدار الكود على GitHub أو بأي صيغة أخرى منذ ذلك الحين.
* WebGPT: إعلان في مدونة، تقرير،
* InstructGPT: إعلان في مدونة، تقرير.
* ChatGPT: إعلان في مدونة (لا يوجد تقرير).
* GPT-4: إعلان في مدونة، تقارير، بطاقة نموذج.
* GPT-4o: إعلان في مدونة.

## المصادر

* ↑ معجم البيانات والذكاء الاصطناعي (PDF) (بالعربية والإنجليزية)، الهيئة السعودية للبيانات والذكاء الاصطناعي، 2022، ص. 72، QID:Q111421033
* ↑ Haddad، Mohammed. "How does GPT-4 work and how can you start using it in ChatGPT?". www.aljazeera.com. مؤرشف من الأصل في 2023-07-05. اطلع عليه بتاريخ 2024-10-28.
* 1 2 "Generative AI: a game-changer society needs to be ready for". World Economic Forum. مؤرشف من الأصل في 2023-04-25. اطلع عليه بتاريخ 2024-10-28.
* 1 2 3 The A to Z of Artificial Intelligence 2023.
* ↑ Toews، Rob. "The Next Generation Of Large Language Models". Forbes. مؤرشف من الأصل في 2023-02-08. اطلع عليه بتاريخ 2024-10-28.
* ↑ Mckendrick 2023.
* 1 2 3 4 5 6 7 Improving language understanding with unsupervised learning 2018.
* ↑ GPT-1 to GPT-4: Each of OpenAI's GPT Models Explained and Compared 2023.
* ↑ "GPT-4". openai.com (بالإنجليزية). Archived from the original on 2023-09-15. Retrieved 2023-12-08.
* ↑ Haddad، Mohammed. "How does GPT-4 work and how can you start using it in ChatGPT?". www.aljazeera.com. مؤرشف من الأصل في 2023-07-05. اطلع عليه بتاريخ 2024-10-28.
* 1 2 3 Alford 2021.
* 1 2 3 "News" (Press release). مؤرشف من الأصل في 2023-03-29. اطلع عليه بتاريخ 2024-10-28.
* 1 2 Morrison 2023.
* ↑ "The ChatGPT of Finance is Here, Bloomberg is Combining AI and Fintech". فوربس. اطلع عليه بتاريخ 2024-10-28.
* ↑ Hinton (et-al) 2012.
* ↑ Deng 2014، صفحات e2.
* ↑ Erhan 2010، صفحات 201–208.
* ↑ First-Hand:The Hidden Markov Model – Engineering and Technology History Wiki 2015.
* ↑ Juang 1991، صفحات 251–272.
* ↑ Cottrell 1987.
* ↑ Cottrell 1991، صفحات 328–337.
* ↑ Schmidhuber 1992، صفحات 234–242.
* ↑ Elman 1988، صفحات 1615–1626.
* ↑ Bourlard 1988، صفحات 291–294.
* ↑ Hinton 1993.
* ↑ Vaswani 2017.
* ↑ Devlin 2019.
* 1 2 3 4 Radford 2018، صفحة 12.
* ↑ Radford 2017.
* ↑ Chen 2021.
* ↑ "New GPT-3 capabilities: Edit & insert". openai.com (بالإنجليزية). Archived from the original on 2023-09-28. Retrieved 2023-06-24.
* ↑ Fu 2022.
* ↑ "Model index for researchers". OpenAI API (بالإنجليزية). Archived from the original on 2023-06-23. Retrieved 2023-06-23.
* ↑ Introducing the Center for Research on Foundation Models (CRFM) 2021.
* ↑ Reflections on Foundation Models 2021.
* 1 2 3 4 OpenAI 2023.
* ↑ Zhu 2015، صفحات 19–27.
* ↑ Vincent 2019.
* 1 2 3 4 Brown 2020.
* 1 2 3 "ML input trends visualization". Epoch (بالإنجليزية). Retrieved 2023-05-02.
* 1 2 Ver Meer 2023.
* ↑ GPT-4 has more than a trillion parameters – Report 2023.
* ↑ Vincent 2023.
* ↑ "Google Opens Access to PaLM Language Model". AI Business. اطلع عليه بتاريخ 2024-10-28.
* ↑ Iyer 2022.
* ↑ "Meta Debuts AI Language Model, But It's Only for Researchers". PCMAG. اطلع عليه بتاريخ 2024-10-28.
* ↑ Islam 2023.
* ↑ Islam 2022.
* ↑ Saha 2023.
* ↑ Wu (et-al) 2023.
* ↑ Bommasani (et-al) 2022.
* 1 2 "Aligning language models to follow instructions". openai.com. مؤرشف من الأصل في 2023-03-23. اطلع عليه بتاريخ 2023-03-23.
* 1 2 Ouyang 2022.
* ↑ Ramnani 2022.
* ↑ "Stanford CRFM". crfm.stanford.edu. مؤرشف من الأصل في 2023-03-23. اطلع عليه بتاريخ 2024-10-28.
* ↑ Free Dolly: Introducing the World's First Truly Open Instruction-Tuned LLM 2023.
* 1 2 "Introducing ChatGPT". openai.com (بالإنجليزية). Archived from the original on 2023-03-16. Retrieved 2023-03-16.
* ↑ Wiggers 2023.
* ↑ "ChatGPT vs. Bing vs. Google Bard: Which AI Is the Most Helpful?". CNET. اطلع عليه بتاريخ 2024-10-28.
* ↑ Auto-GPT, BabyAGI, and AgentGPT: How to use AI agents 2023.
* ↑ Marr، Bernard. "Auto-GPT May Be The Strong AI Tool That Surpasses ChatGPT". Forbes. مؤرشف من الأصل في 2023-12-27. اطلع عليه بتاريخ 2024-10-28.
* ↑ "Microsoft Open-Sources Multimodal Chatbot Visual ChatGPT". InfoQ. اطلع عليه بتاريخ 2024-10-28.
* ↑ Edwards 2023.
* ↑ Sharma 2023، صفحات 80–90.
* ↑ Leswing 2023.
* ↑ Learning nonprofit Khan Academy is piloting a version of GPT called Khanmigo 2023.
* ↑ "Khan Academy Pilots GPT-4 Powered Tool Khanmigo for Teachers". THE Journal. اطلع عليه بتاريخ 2024-10-28.
* ↑ Hachman 2023.
* ↑ Luo (et-al) 2023.
* ↑ Know about ChatGPT's 13 best plugins, designed to improve your overall user experience 2023.
* ↑ "ChatGPT plugins". openai.com. مؤرشف من الأصل في 2023-03-26. اطلع عليه بتاريخ 2024-10-28.
* ↑ How to Use ChatGPT on Google Sheets With GPT for Sheets and Docs 2023.
* ↑ Asay 2023.
* ↑ Comprehensive Guide To Exploring OpenAI’s Custom ChatGPT2023|What are GPTs? | Comprehensive Guide To Exploring OpenAI’s Custom ChatGPT 2023.
* ↑ "What are GPTs? OpenAI's Custom Chatbots with Practical Examples". seo.ai. اطلع عليه بتاريخ 2024-10-28.
* ↑ "What is the GPT Store from OpenAI?". مؤرشف من الأصل في 2024-09-14. اطلع عليه بتاريخ 2024-10-28.
* ↑ Hicks 2023.
* ↑ "Brand guidelines". OpenAI. اطلع عليه بتاريخ 2024-10-28.
* ↑ "Introducing GPTS". OpenAI. مؤرشف من الأصل في 2023-11-07. اطلع عليه بتاريخ 2024-10-28.
* ↑ Heah 2023.
* ↑ NONFINAL OFFICE ACTION 2023.
* ↑ U.S. Trademark Law 2015.
* ↑ "International Trademark Rights". اطلع عليه بتاريخ 2024-10-28.
* ↑ OpenAI Wants to Trademark 'GPT' Amid Rise of AI Chatbots 2023.
* ↑ Louise 2023.
* ↑ Demcak 2023.
* ↑ Lawton 2023.
* ↑ Robb 2023.
* ↑ Russo 2023.
* ↑ "Trademark infringement". Legal Information Institute. مؤرشف من الأصل في 2023-09-03. اطلع عليه بتاريخ 2024-10-28.
* ↑ Rheintgen 2013.
* ↑ finetune-transformer-lm 2018.
* ↑ "GPT-2: 1.5B release". openai.com (بالإنجليزية). Retrieved 2023-05-01.
* ↑ Solaiman 2019.
* ↑ gpt-2 2023.
* ↑ "WebGPT: Improving the factual accuracy of language models through web browsing". openai.com (بالإنجليزية). Archived from the original on 2023-06-21. Retrieved 2023-07-02.
* ↑ Nakano 2021.
* ↑ "GPT-4". openai.com (بالإنجليزية). Archived from the original on 2023-09-15. Retrieved 2023-05-01.
* ↑ Bubeck 2023.
* ↑ "GPT-4 System Card" (PDF). أوبن أيه آي. مؤرشف من الأصل (pdf) في 2023-03-27. اطلع عليه بتاريخ 2024-10-28.
* ↑ Hello GPT-4o 2024.