صقل (تعلم الآلة)

الصَقْل أو الضبط الدقيق في التعلم الآلي طريقة لنقل التعلم حيث يجري تدريب نموذج مدرب مسبقًا على بيانات جديدة. يمكن إجراء الصقل على الشبكة العصبية بأكملها، أو على مجموعة فرعية فقط من طبقاتها، وفي هذه الحالة "تُجمّد" الطبقات التي لم تُصقَل (لم تُحدّث أثناء خطوة الانتشار العكسي).

ينطوي الصقل على تطبيق تدريب إضافي (مثلًا، على بيانات جديدة) على معاملات شبكة عصبية دُربت سلفا. وله صيغ عديدة.
يمكن تطبيق هذا التدريب الإضافي على الشبكة العصبية بأكملها، أو على مجموعة فرعية من طبقاتها فحسب. وفي الحالة الأخيرة، "تُجمَّد" الطبقات التي لا تخضع للضبط (أي لا يطرأ عليها تغيير أثناء عملية الانتشار الخلفي).
يمكن أيضًا دعم النموذج بـ "المُكيفات"، وهي وحدات نمطية خفيفة تُدمَج في معمارية النموذج وتعمل على توجيه "فضاء التضمين" بغرض "تكييف النطاق". تحتوي هذه المُكيفات على مُعاملات أقل بكثير من النموذج الأصلي، ويمكن صقلها بطريقة مُوفِّرة للمعاملات، وذلك عبر ضبط أوزانها هي فقط وترك باقي أوزان النموذج مُجمَّدة.

من الشائع الاحتفاظ بالطبقات السابقة (تلك الأقرب إلى طبقة الإدخال) مجمدة في بعض المعماريات، مثل الشبكات العصبية الالتفافية، لأنها تلتقط ميزات ذات مستوى أدنى، في حين أن الطبقات اللاحقة غالبًا ما تتميز بميزات عالية المستوى يمكن أن تكون أكثر ارتباطًا بـ المهمة التي دُرّب النموذج عليها.

النماذج التي تدرب سلفا على مدونات ضخمة وعامة، يجرى صقلها عادة بإعادة استخدام مُعاملاتها كنقطة انطلاق، مع إضافة طبقة مُخصصة للمهمة تدرب من الصفر. كما أن صَقل النموذج بأكمله شائعٌ أيضًا، وغالبا ما يعطي نتائج أفضل، بيد أنه أعلى كلفةً من الناحية الحسابية.

يجري الصقل عادةً من خلال التعلم المراقب، ولكن ثمة تقنيات لضبط النموذج باستخدام تعلم مراقب ضعيف أيضًا. يستخدم التعلم بالتعزيز أيضًا لضبط نماذج اللغة مثل دردشة ج.ب.ت (نسخة دقيقة من GPT-3) وSparrow عن طريق التعليم المعزز من ردود الفعل البشرية.

 المتانة 
يمكن أن يضعف الصقل متانة النموذج في مواجهة . تتمثل إحدى طرق التخفيف في إجراء استيفاء خطي لأوزان النموذج المصقول مع أوزان النموذج الأصلي، الأمر الذي يمكن أن يزيد كثيرا من الأداء "خارج التوزيع"، مع الحفاظ إلى حد كبير على الأداء "ضمن التوزيع" للنموذج المصقول.

 المتغيرات 

 التكييف المنخفض الرتبة 

يُعد التكييف منخفض الرتبة (LoRA) تقنية قائمة على المكيفات تُستخدم لصقل النماذج بكفاءة. الفكرة الأساسية هي تصميم مصفوفة منخفضة الرتبة تضاف بعد ذلك إلى المصفوفة الأصلية.
المُكيِف، في هذا السياق، هو مجموعة من المصفوفات منخفضة الرتبة التي تُنتج، عند إضافتها إلى نموذج أساسي، نموذجًا مصقولًا. وهي تتيح أداءً يقارب أداء صقل النموذج بالكامل، ولكن بمتطلبات مساحة أقل. يمكن صقل نموذج لغوي يضم مليارات المُعاملات باستخدام بضعة ملايين من المُعاملات فقط.

اكتسب الصقل المستند إلى التكييف منخفض الرتبة رواجًا في مجتمع ستيبل ديفيوجن. وأُدمِج دعم التكييف منخفض الرتبة في مكتبة "ديفيوزرز" التابعة لـ هجينج فيس. كما أن دعم هذه التقنية والتقنيات المشابهة لها مُوفَّر أيضًا لمجموعة واسعة من النماذج الأخرى عبر حزمة "الصقل الموفِّر للمُعاملات" (parameter-efficient fine-tuning (PEFT)) من "هَجينْج فَيْس".

 صقل التمثيل 

صقل التمثيل (ReFT) هو تقنية طورها باحثون في جامعة ستانفورد، تهدف إلى صقل نماذج اللغة الكبيرة عبر تعديل أقل من واحد في المائة من تمثيلاتها.
بخلاف طرائق الصقل الموفِّر للمُعاملات، التي تركز أساسًا على تحديث الأوزان، يركز صقل التمثيل على التمثيلات نفسها، مما يشير إلى أن تعديل التمثيلات قد يكون استراتيجية أنجع من تحديث الأوزان.

تعمل طرائق صقل التمثيل على نموذج أساسي مجمد (لا تُغير النموذج الأصلي)، وتتعلم تدخلات مخصصة للمهمة على التمثيلات الخفية (تتعلم كيف تتدخل وتُعدل في التمثيلات الخفية للنموذج)، وتدرب تدخلات تتلاعب بجزء ضئيل من تمثيلات النموذج لتوجيه سلوكياته نحو حل المهام اللاحقة وقت الاستدلال.
إحدى الطرائق المحددة ضمن عائلة صقل التمثيل هي صقل التمثيل منخفض الرتبة في الفضاء الخطي (LoReFT)، وهي تتدخل في التمثيلات الخفية الموجودة في الفضاء الخطي الذي تولده مصفوفة إسقاط منخفضة الرتبة.
يمكن النظر إلى "صقل التمثيل منخفض الرتبة في الفضاء الخطي" مُكافئًا لتقنية "التكييف منخفض الرتبة" المعروفة؛ لكن الأخيرة تُعدل على أوزان النموذج، بينما الأولى تُعدل على تمثيلات النموذج.

 تطبيقات 

 معالجة اللغة الطبيعية 

الصقل شائع في معالجة اللغة الطبيعية، وخصوصًا في مجال نمذجة اللغة. يمكن صقل نماذج اللغة الكبيرة، مثل سلسلة نماذج جي بي تي التأسيسية من أوبن أي آي، على بيانات من أجل مهام لاحقة محددة في معالجة اللغة الطبيعية (وهي مهام تستخدم نموذجًا مدربًا سلفًا)، وذلك لتحسين الأداء مقارنة بالنموذج غير المعدل المدرب سلفًا.

 النماذج التجارية 

يمكن أحيانًا صقل نماذج اللغة الكبيرة المتاحة تجاريًا إذا كان المُزوِّد يوفر واجهة برمجة تطبيقات للصقل. حتى تاريخ 19 يونيو 2024، تُقدِّم كل من أوبن أي آي وخدمة أزور أوبن أي آي التابعة لمايكروسوفت أزور واجهات برمجة تطبيقات لصقل مجموعة فرعية من نماذجها، وكذلك تفعل منصة جوجل السحابية لبعض نماذجها من عائلة بالم، وجهات أخرى غيرها.

 مراجع 

تصنيف:التعلم العميق
تصنيف:تعلم الآلة
تصنيف:ذكاء اصطناعي