قبل الانتقال إلى نماذج المحولات (Transformer) ، دعنا نلقي نظرة عامة سريعة على ماهية معالجة اللغة الطبيعية ولماذا نهتم بها.
معالجة اللغة الطبيعية هو مجال من مجالات اللغويات والتعلم الآلي يركز على فهم كل ما يتعلق باللغة البشرية. الهدف من مهام البرمجة اللغوية العصبية ليس فقط فهم الكلمات الفردية بشكل فردي ، ولكن القدرة على فهم سياق هذه الكلمات.
فيما يلي قائمة بمهام معالجة اللغة الطبيعية الشائعة ، مع بعض الأمثلة لكل منها:
ومع ذلك ، لا يقتصر البرمجة اللغوية العصبية على النص المكتوب. كما أنه يعالج التحديات المعقدة في التعرف على الكلام ورؤية الحاسوبية ، مثل إنشاء نسخة من عينة صوتية أو وصف لصورة.
لا تعالج أجهزة الحاسوب المعلومات بنفس الطريقة التي يعالج بها البشر. على سبيل المثال ، عندما نقرأ الجملة “أنا جائع” يمكننا بسهولة فهم معناها. وبالمثل ، بالنظر إلى جملتين مثل “أنا جائع” و “أنا حزين” ، يمكننا بسهولة تحديد مدى تشابههما. بالنسبة لنماذج التعلم الآلي (Machine Learning ML) ، تكون هذه المهام أكثر صعوبة. يجب معالجة النص بطريقة تمكن النموذج من التعلم منه. ولأن اللغة معقدة ، نحتاج إلى التفكير مليًا في كيفية إجراء هذه المعالجة. تم إجراء الكثير من الأبحاث حول كيفية تمثيل النص ، وسنلقي نظرة على بعض الأساليب في الفصل التالي.