سيك تو سيك

سيك تو سيك، بالانجليزية Seq2seq هي عائلة من مناهج التعلم الآلي المستخدمة في معالجة اللغة الطبيعية. تتضمن تطبيقات ترجمة اللغة وإضافة تعليق للصور ونماذج المحادثة وتلخيص النصوص.

تاريخ 
تم اقتراح الخوارزمية من قبل ميكولوف في أطروحة الدكتوراه الخاصة به.

تم تطوير الخوارزمية لاحقًا بواسطة شركة جوجل لاستخدامها في الترجمة الآلية.

في عام 2019، أعلنت شركة فايسبوك عن استخدام الخوارزمية في التكامل الرمزي وحل المعادلات التفاضلية. ادعت الشركة أنها تستطيع حل المعادلات المعقدة بسرعة أكبر وبدقة أكبر من الحلول التجارية مثل ولفرام ماتماتيكا وماتلاب وميبل. أولاً، يتم تحليل المعادلة في بنية شجرية لتجنب الخصوصيات الترميزية. تقوم الشبكة العصبية ذات الذاكرة قصيرة المدى الطويلة الأمد بعد ذلك بتطبيق تسهيلاتها القياسية للتعرف على الأنماط لمعالجة الشجرة.

تقنية 
سيك تو سيك يحول تسلسل إلى تسلسل آخر (تحول التسلسل) (Sequence transformation). ويقوم بذلك بإستخدام الشبكات العصبية المتكررة أو في الغالب بواسطة الذاكرة قصيرة المدى الطويلة الأمد أو الوحدة المتكررة المسورة (Gated recurrent unit). من أجل تجنب مشكلة التدرج المتلاشي (Vanishing gradient problem). سياق كل عنصر هو ناتج الخطوة السابقة. المكونات الأساسية عبارة عن شبكة من وحدة تشفير واحدة ووحدة فك تشفير واحدة. يحول المشفر كل عنصر إلى متجه مخفي مقابل يحتوي على العنصر وسياقه. تعكس وحدة فك التشفير العملية، وتحول المتجه إلى عنصر إخراج، باستخدام الإخراج السابق كسياق إدخال.

برامج ذات صلة 
تتضمن البرامج التي تعتمد أساليب مماثلة OpenNMT ( Torch ) و Neural Monkey ( تنسرفلو ) و NEMATUS ( Theano ).

أنظر أيضا 

 شبكة اعصاب صناعية

مراجع

روابط خارجية 

 
 
 
 

برمجيات جوجل
معالجة اللغات الطبيعية
شبكات عصبونية اصطناعية