hotchpotch/wikipedia-multilingual-ir-pairs huggingface dataset:
دي إي سي ستيشن محطات عمل دي إي سي ستيشن ريسك
تستخدم سلسلة الطراز 200 وصلة قناة توربو للتوسعة وتحتوي جميع الطرازات على ثلاث فتحات خيار قناة توربو. يوفر الطراز 200 4 ميجا بايت من مساحة العنوان الفعلية لكل خيار قناة توربو، بينما يوفر الطرازان 240 و260 8 ميجا بايت. يتم ضبط قناة توربو في الطرازين 240 و260 على 25 ميجا هرتز. في الطرازين 240 و260، ينفذ إم تي إيه إس آي سي تقنية قناة توربو ويعمل كجهاز تحكم.
دي إي سي ستيشن محطات عمل دي إي سي ستيشن ريسك
يختلف نظام الإدخال/الإخراج الخاص بالطراز 200 بشكل كبير عن نظام الإدخال/الإخراج الخاص بالطرازين 240 و260. في الطراز 200، يتم توفير إمكانيات إيثرنت وإس سي إس آي من خلال وحدتي خيار قناة توربو المتكاملتين، بي إم إيه دي-إيه إيه لـ إيثرنت وبي إم إيه زد-إيه إيه لـ إس سي إس آي. يستخدم بي إم إيه دي-إيه إيه وحدة تحكم الشبكة المحلية لـ إيثرنت من إيه إم دي 7990 إل إيه إن سي إيه، والتي توفر إيثرنت 10بي إيه إس إي-تي. يتم تنفيذ الواجهة بواسطة إيه إم دي 7992 إس آي إيه (محول واجهة تسلسلي) وموصل سلك رفيع من بي إن سي. يتم توفير ناقل إس سي إس آي أحادي النهاية ذو 8 بتات بواسطة إن سي آر 53 سي 94 إيه إس سي (وحدة تحكم إس سي إس آي المتقدمة). تحتوي كل من وحدات الخيار المتكاملة على 128 كيلو بايت من ذاكرة إس آر إيه إم تعمل كل منها كمخزن مؤقت لتحسين الأداء. كما يتم توفير أربعة خطوط تسلسلية للوحة المفاتيح، والماوس، ومنفذ الاتصالات، والطابعة. يتم تنفيذ هذه الخطوط بواسطة اثنين من دي إس 7085 إس. تتميز أيضًا بساعة دالاس لأشباه الموصلات دي إس1287 في الوقت الفعلي مع 50 بايت من ذاكرة الوصول العشوائي المستدامة، بالإضافة إلى 256 حزام تمهيد نظام كيلوبايت وذاكرة القراءة فقط التشخيصية في المقبس.
دي إي سي ستيشن أجهزة كمبيوتر دي إي سي ستيشن
وبشكل مربك، وبالتزامن مع إطلاق خط محطة العمل دي إي سي ستيشن، أعلنت شركة ديجيتال أيضًا عن مجموعة من أجهزة الكمبيوتر المتوافقة مع العلامة التجارية دي إي سي ستيشن والمزودة بمعالجات إنتل x86 التي تعمل بنظام التشغيل MS-DOS. تم التعرف عليها من خلال أرقام الطراز المكونة من ثلاثة أرقام؛ سلسلة دي إي سي ستيشن 2xx و 3xx و 4xx باستخدام معالجات إنتل 80286 و80386 و80486 على التوالي. لم يتم تصنيع هذه الحواسيب بواسطة شركة ديجيتال، بل بواسطة شركة تاندي في الولايات المتحدة وشركة Olivetti في أوروبا. في وقت التقديم، عرضت شركة ديجيتال برنامجًا للتبادل لأصحاب جهاز الكمبيوتر السابق x86، ولكن غير المتوافق مع أجهزة الكمبيوتر الشخصية، راينبو 100 ‏.
دالة سوفت ماكس
دالة softmax، والمعروفة أيضًا باسم softargmax  :184أو الدالة الأسية المُطبَّعة ،  :198تُحوّل متجهًا مكوّنًا من K عددًا حقيقيًا إلى توزيع احتمالي لـ K نتيجة ممكنة. وهي تعميم للدالة اللوجستية إلى أبعاد متعددة، وتُستخدم في الانحدار اللوجستي المتعدد الحدود . غالبًا ما يتم استخدام دالة softmax كدالة التنشيط الأخيرة للشبكة العصبية لتطبيع إخراج الشبكة إلى توزيع الاحتمالات على فئات الإخراج المتوقعة.
دالة سوفت ماكس تعريف
تأخذ دالة softmax كمدخل متجهًا z من K عددًا حقيقيًا، وتقوم بتطبيعه إلى توزيع احتمالي يتكون من K احتمالًا تتناسب مع الأسس للأسس المدخلة. أي أنه، قبل تطبيق softmax، قد تكون بعض مكونات المتجه سالبة، أو أكبر من واحد؛ وقد لا يكون مجموعها 1؛ ولكن بعد تطبيق softmax، سيكون كل مكون في الفاصل الزمني  ، و ستكون المكونات جميعها مجموعها 1، بحيث يمكن تفسيرها كاحتمالات. علاوة على ذلك، فإن مكونات الإدخال الأكبر سوف تتوافق مع احتمالات أكبر.
بِشكل رسمي، فإن دالة softmax القِياسية (الوحدوية)  ، أين  ، تأخذ مُتجهًا  وتُحَسِبُ كُلَ مكون من المُتجه
دالة سوفت ماكس تعريف
بعبارة أخرى، تقوم دالة softmax بتطبيق الدالة الأسية القياسية على كل عنصر  من متجه الإدخال  (المكَّون من  عددًا حقيقيًا، ثم تقوم بتطبيع هذه القيم من خلال قسمتها على مجموع كل هذه القيم الأسية. يضمن هذا التطبيع أن يكون مجموع مكونات متجه الإخراج  مساوٍ لـ 1. ويعود أصل مصطلح "softmax" مشتق من التأثيرات المكبرة للأسية على أي حد أقصى في متجه الإدخال. مثال ، سوفت ماكس القياسي لـ  تقريبا  ، وهو ما يعادل تعيين كل وزن الوحدة الإجمالي تقريبًا في النتيجة إلى موضع العنصر الأقصى للمتجه (8).
بشكل عام، بدلاً من e يمكن استخدام قاعدة مختلفة b > 0 . كما كما في السابق، إذا كان b > 1 ، فإن المكونات الأكبر في الإدخال ستؤدي إلى احتمالات أكبر في الإخراج، وزيادة قيمة b ستُنتج توزيعات احتمالية أكثر تركيزًا حول مواضع القيم الأكبر في الإدخال. وعلى العكس، إذا كان 0 < b < 1 ، فإن المكونات الأصغر في الإدخال ستؤدي إلى احتمالات أكبر في الإخراج، وتقليل قيمة b توزيعات احتمالية أكثر تركيزًا حول مواضع أصغر قيم الإدخال.  أو   (بالنسبة لـ β الحقيقية)  ينتج التعبيرات:
قيمة تناسب عكسيًا مع مقلوب β تُعرف أحيانًا بدرجة الحرارة :  حيث k عادةً ما تكون 1 أو ثابت بولتزمان و T هي درجة الحرارة. درجة الحرارة أعلى تؤدي إلى توزيع إخراج أكثر تجانسًا (أي مع إنتروبيا أعلى؛ يكون "أكثر عشوائية")، في حين تؤدي درجة الحرارة المنخفضة إلى توزيع إخراج أكثر حدة، مع هيمنة قيمة واحدة.
في بعض المجالات، تكون القاعدة ثابتة، مما يتوافق مع مقياس ثابت، بينما في مجالات أخرى يتم تغيير المعامل β (أو T ).
دالة سوفت ماكس التفسيرات
دالة Softmax هي تقريب سلس لدالة arg max : الدالة التي تكون قيمتها هي مؤشر أكبر عنصر في المتجه. قد يكون اسم "softmax" مضللاً. Softmax ليست أقصى قيمة سلسة (أي تقريب سلس لدالة الحد الأقصى ). يُستخدام مصطلح "softmax" أيضًا للدالة LogSumExp المرتبطة ارتباطًا وثيقًا، وهي أقصى قيمة سلسة. لهذا السبب، يفضل البعض المصطلح الأكثر دقة "softargmax"، على الرغم من أن مصطلح "softmax" تقليدي في التعلم الآلي.  يستخدم هذا القسم مصطلح "softargmax" من أجل الوضوح.
بِشكل رسمي، بَدلًا مِنْ اعِتبار arg max كدالة تُنتج مُخرجات تَصنيفية  (المقابلة للمؤشر)، نُعتبر دالة arg max التي يكون مخرجها تمثيلًا من النوع أحادي الاتجاه (على افِتراض وُجُود arg أقَصى فريد):  حِيثُ تَكُون الإحداثية  وفقط إذا كان  هو الحد الأقصى لـ  ، معنى  هي القيمة القصوى الفريدة لـ  . مثال على ذلك، في هذا الترميز : لأن العُنصر الثَالث هُو القِيمَة العُظمَى.
دالة سوفت ماكس التفسيرات
يمكن تعميم هذا المفهوم ليشمل الحالات التي تحتوي على أكثر من قيمة عظمى arg max (أي عندما تكون عدة قيم  متساوية وتشكل القيم العظمى) من خلال توزيع القيمة 1 بالتساوي بين جميع المواضع التي تحقق القيمة العظمى؛ وذلك بشكل رسمي باستخدام 1/k حيث k هو عدد المواضع التي تحقق القيمة العظمى. على سبيل المثال:  نظرًا لأن الحجة الثانية والثالثة هما الحد الأقصى. في حالة تساوي جميع الحجج، فهذا ببساطة  النقاط z ذات قيم arg max المتعددة هي نقاط مفردة (أو تفردات، وتشكل المجموعة المفردة) - هذه هي النقاط التي تكون فيها arg max غير متصلة (مع انقطاع قفزة ) - بينما تُعرف النقاط ذات arg max واحدة باسم النقاط غير المفردة أو المنتظمة.
دالة سوفت ماكس التفسيرات
يُمكن تَعميم ذلك ليشمل حالات وُجود عِدة قيم arg max: كما  ، يتقارب السوفتماكس مع arg max. هناك مفاهيم مختلفة لتقارب الدالة؛ حيث يتقارب السوفتماكس مع arg max نقطة بنقطة ، مما يعني أنه لكل مدخل ثابت z  ،  ومع ذلك، لا يتقارب سوفتماكس بشكل موحد مع arg max، مما يعني بديهيًا أن النقاط المختلفة تتقارب بمعدلات مختلفة، وقد تتقارب ببطء بشكل تعسفي. في الواقع، فإن softargmax مستمر، ولكن arg max ليس مستمرًا في المجموعة المفردة حيث يكون الإحداثيان متساويين، في حين أن الحد الموحد للوظائف المستمرة يكون مستمرًا. السبب وراء فشلها في التقارب بشكل موحد هو أنه بالنسبة للُمدخلات حيث يكون الإحداثيان متساويين تقريبًا (وأحدهما هو الحد الأقصى)، فإن arg max هو مؤشر أحدهما أو الآخر، وبالتالي فإن التغيير الصغير في المُدخلات يؤدي إلى تغيير كبير في المخرجات. على سبيل المثال،  لكن  و  لجميع المدخلات: كلما اقتربت النقاط من المجموعة المفردة  كلما تقاربت بشكل أبطأ. ومع ذلك، فإن softargmax يتقارب بشكل مضغوط على المجموعة غير المفردة.
دالة سوفت ماكس التفسيرات
وعلى العكس، عندما تؤول  ، كما  ، فإن softargmax تتقارب إلى arg min بالطريقة نفسها، حيث تكون المجموعة المفردة هنا هي النقاط التي تحتوي على قيمتين تحققان الحد الأدنى arg min . في لغة التحليل الاستوائي ، تُعد softmax تشويهًا أو "تكميمًا" لـ arg max و arg min، وهو ما يتوافق مع استخدام نصف الحلقة اللوغاريتمية بدلاً من نصف الحلقة max-plus (على التوالي min-plus semiring )، واستعادة arg max أو arg min عن طريق أخذ الحد يسمى "التكميم الاستوائي" أو "إزالة التكميم".
كما أنه من الصحيح أيضًا أنه، لأي قيمة ثابتة لـ β، إذا كانت إحدى المدخلات  أكبر بكثير من باقي القيم نسبةً إلى درجة الحرارة،  ، فإن المخرج يكون تقريبًا هو الحد الأقصى للوسيطة. على سبيل المثال، فرق بمقداره 10 يُعد كبيرًا بالنسبة إلى درجة الحرارة قدرها 1:  لكن، إذا كان الفرق صغيرًا نسبةً إلى درجة الحرارة، فلن تكون القيمة قريبة من الـ arg max. على سبيل المثال، فرق مقداره 10 درجات يُعد صغيرًا بالنسبة إلى درجة حرارة قدرها 100درجة:  وعندما تؤول  ، فإن درجة الحرارة تؤول إلى الصفر،  ، وبالتالي تصبح جميع الفروقات في النهاية كبيرة (نسبةً إلى درجة الحرارة تتناقص)، وهو ما يُقدم تفسيرًا آخر لسلوك النهاية.
فَي ميكانيكا الإحصاx ، تُعرف دالة السوفترجمكس باسم توزيع بولتزمان (أو توزيع جيبس ):  :7مَجموعة المؤشرات  تُمثل الحالات الدقيقة للنظام؛ المدخلات  هي طاقات تلك الحالة؛ والمقام يُعرف بدالة التقسيم ، وغالبًا ما يُرمز له بـ Z ؛ والعامل β يُسمى البرودة (أو بيتا الديناميكية الحرارية ، أو درجة الحرارة العكسية ).
دالة سوفت ماكس التطبيقات
تُستخدم دالة softmax في عدة طرق تصنيف متعددة الفئات ، مثل الانحدار اللوجستي المتعدد الحدود (المعروف أيضًا باسم انحدار softmax)،  :206–209 التحليل التمييزي الخطي متعدد الفئات، مصنفات بايز الساذجة ، والشبكات العصبية الاصطناعية . على وجه التحديد، في الانحدار اللوجستي المتعدد الحدود والتحليل التمييزي الخطي، يكون الإدخال إلى الدالة هو ناتج K دالة خطية مميزة، وتكون الاحتمالية المتوقعة للفئة j المعطاة متجه العينة x ومتجه الأوزان w هي:
يمكن النظر إلى ذلك على أنه تكوين لعددـ K من الدوال الخطية  ودالة سوفت ماكس (حيث يرمز  إلى الضرب الداخلي لـ  و  ). العملية تعادل تطبيق عامل خطي مُعرف بواسطة  على المتجهات  ، وبذلك يتم تحويل الإدخال الأصلي، الذي قد يكون عالي الأبعاد، إلى متجهات في فضاء ذي بعد K أي  .
دالة سوفت ماكس التطبيقات
تُستخدم دالة softmax القياسية غالبًا في الطبقة النهائية من مصنف قائم على الشبكات العصبية. تُدرب هذه الشبكات عادةً في ظل نظام خسارة السجل (أو الإنتروبيا المتقاطعة )، مما يعطي متغيرًا غير خطي للانحدار اللوجستي المتعدد الحدود.
بما أ، الدالة تُحوّل متجهًا وفهرسًا معينًا  إلى قيمة حقيقية، فإن المشتقة تحتاج إلى أخذ الفهرس في الاعتبار :
هذا التعبير متماثل في الفهارس  وبالتالي يمكن أيضًا التعبير عنه كـ
هُنا، تُستخدم دلتا كرونيكر للتبسيط (قارن بمشتقة لدالة سيجما ، والتي يتم التعبير عنها من خلال الدالة نفسها).
لضمان حسابات الرقمية، من الشائع طرح القيمة العظمى من متجه الإدخال. هذا الأسلوب، رغم أنه لا يغيّر الناتج أو المشتق نظريًا، يعزز الاستقرار من خلال التحكم المباشر في قيمة الأس القصوى المحسوبة.
دالة سوفت ماكس التطبيقات
إذا تم تحجيم الوظيفة باستخدام المعامل  ، فيجب ضرب هذه التعبيرات بـ  .
انظر إلى نموذج لوجيت متعدد الحدود للحصول على نموذج احتمالي يستخدم دالة تفعيل السوفتماكس.
فِي مَجال التعلم التعزيزي ، يُمكن استخدام دالة SoftMax لتحويل القِيم إلى احتِمالات للإجراءات. والدالة المُستخدمة عادةً هي:
حيث تُمثل قيمة الإجراء المكافأة المتوقعة عند اتباع الإجراءa وتُعرف  بمعامل الحرارة (في إشارة إلى الميكانيكا الإحصائية ). عند درجات حرارة عالية (  ), تصبح جميع الإجراءات ذات احتمالات متقاربة تقريبًا وكلما انخفضت درجة الحرارة، كلما زاد تأثير المكافآت المتوقعة على الاحتمالية. لدرجات الحرارة المنخفضة (  ), فإن احتمالية الفعل الذي يحمل أعلى مكافأة متوقعة تميل إلى 1.
دالة سوفت ماكس التعقيد الحسابي والعلاجات
في تطبيقات الشبكات العصبية، غالبًا ما يكون عدد النواتج المحتملة K كبيرًا، كما في حالة نماذج اللغة العصبية التي تتنبأ بالناتج الأكثر احتمالًا من بين مفردات قد تحتوي على ملايين الكلمات الممكنة.  يمكن أن يجعل ذلك حسابات طبقة softmax (أي ضرب المصفوفات لتحديد القيم  ، يتبعها تطبيق دالة السوفتماكس نفسها) مكلفة حسابيًا.   علاوة على ذلك، تتضمن طريقة الانتشار الخلفي للنزول المتدرج لتدريب مثل هذه الشبكة العصبية حساب softmax لكل مثال تدريبي، ويمكن أن يصبح عدد أمثلة التدريب كبيرًا أيضًا. أصبح الجهد الحسابي لـ SoftMax عاملًا مقيدًا رئيسيًا في تطوير نماذج اللغة العصبية الأكبر حجمًا، مما حفز العديد من العلاجات لتقليل أوقات التدريب.
دالة سوفت ماكس التعقيد الحسابي والعلاجات
الأساليب التي تُعيد تنظيم طبقة softmax لحساب أكثر كفاءة ، تشمل softmax الهرمي و softmax المتمايز .  Softmax الهرمي (الذي قَدمه مورين وبينجيو في عام 2005)يستخدم بنية شجرة ثنائية حيث تكون النواتج (كلمات المفردات) هي الأوراق والعُقد الوسيطة هي "فئات" مختارة بشكل مناسب من النواتج، مشكّلة متغيرات كامنة .   يمكن بعد ذلك حساب الاحتمال المرغوب (قيمة softmax) لورقة (ناتج) ما على أنه حاصل ضرب احتمالات جميع العُقد على المسار من الجذر إلى تلك الورقة.  من الناحية المثالية، عندما تكون الشجرة متوازنة، فإن ذلك يُقلل من التعقيد الحسابي من  ل  .  في الواقع، تعتمد النتائج على اختيار استراتيجية جيدة لتجميع النواتج في فئات.  وقد تم استخدام شجرة هوفمان لهذا الغرض في نماذج word2vec الخاصة بـ جوجل (التي تم تقديمها في عام 2013) لتحقيق القابلية للتوسع.
النوع الثاني من الحلول يعتمد على تقريب الـ softmax (أثناء التدريب) باستخدام وظائف خسارة معدّلة تتجنب حساب عامل التطبيع الكامل.  وتشمل هذه الطرق التي تقيد مجموع التطبيع بعينة من النواتج (مثل التعيين بالاهتمام، والتعيين بالهدف).
دالة سوفت ماكس الخوارزميات العددية
طريقة الـ SoftMax التقليدية عدديًا بسبب عمليات الأسّ الكبيرة. أما طريقة السوفتمكس الآمنة فتحسب بدلًا من ذلك:  حيث  هو أكبر عنصر مشارك. إن الطرح به يضمن أن الأسس تؤدي إلى 1 على الأكثر.
تأخذ آلية الانتباه في Transformers ثلاثة مدخلات: "متجه الاستعلام"  ، وقائمة من "متجهات المفاتيح"  ، وقائمة "متجهات القيم"  ، وتنتج مجموعًا لمتجهات القيم موزونًا بدالة softmax :  تَتضمن طريقة SoftMax التقليدية عِدة دورات على المُدخلات، ما قد يُشكّل عنق زجاجة بسبب عرض نطاق الترددي للذاكرة . طريقة FlashAttention هي خوارزمية تتجنب كثرة الاتصال إذ تدمج هذه العمليات في دورة واحدة، مما يزيد من كثافة العمليات الحسابية . وهيخوارزمية تعمل على نحو متصل وتحسب الكميات التالية:    وتُعيد القيمة  . في التطبيق العملي، تعمل FlashAttention على عدة استعلامات ومفاتيح في كل دورة، بطريقة مشابهة لعملية ضرب المصفوفات المجزأة . وإذا كانت هناك حاجة للتراجع العكسي،يتم تخزين متجهات الإخراج والمصفوفات الوسيطة  وخلال مرحلة التراجع، يتم إعادة تشكيل مصفوفات الانتباه منها، مما يجعلها شكلاً من أشكال"حفظ نقاط التدرج".
دالة سوفت ماكس الخصائص الرياضية
هندسيًا، تقوم دالة softmax بإسقاط مساحة المتجه  إلى حدود المعيار  -simplex ، مما يقلل البعد بمقدار واحد (النطاق هو بسيط ذو بعد  في فضاء ذي  أبعاد، وذلك بسبب القيد الخطي بأن مجموع جميع المخرجات يساوي 1، مما يعني أنه يقع على مستوى فائق .
على طُول القطر الرئيسي  تكون دالة SoftMax مجرد توزيع منتظم على المخرجات،  :القِيم المُتساوية تُعطي احتمالات متساوية.
بِشَكلٍ أعم، تَكُون دالة السوفتمكس غير مُتَأثِرة بالترجمة بإضافة نفس القيمة إلى كل إحداثي: فإن إضافة  إلى المدخلات  تؤدي إلى  ، لأنها تُضرب كُل أُسٍ فِي نَفسش العَامِل،  (لأن  ), وبالتالي لا تتغير النسب:
هندسيًا، تكون دالة softmax ثابتة على طول الأقطار: هذا هو البعد الذي يتم التخلص منه، ويتوافق مع كون تانج softmax غير متأثر بالتحويل في قيم الإدخال (اختيار قيمة 0). يمكن تطبيع قيم الإدخال بافتراض أن مجموعها يساوي صفرًا (بطرح المتوسط:  حيث  )، ثم يأخذ softmax المستوى الفائق للنقاط التي مجموعها صفر،  ، إلى البسيط المفتوح للقيم الإيجابية التي مجموعها يساوي 1  ، على نحو مماثل لكيفية أخذ الأس من 0 إلى 1،  وهو إيجابي.
دالة سوفت ماكس الخصائص الرياضية
وعلى نَقيض ذلك، فَإن دالة سوفتماكس ليست غَيرَ مُتَغِيرة تحت التحجيم. مثال على هذا :
ادالة اللوجستية القياسية هِي الحَالة الخَاصة لمِحور أحادي البعد في افضاء ثنائي الأبعاد، على سبيل المثال المحور x في المستوى (x, y) . يَتم تَثبيت أحد المتغيرين عند 0 (لنقل  )، وبالتالي  ، بينما يُمكن أن يتغير المتغير الآخر، ولنرمز له بـ  ، وبالتالي وهِي الوظيفة اللوجستية القياسية، و  وهي متممتها (أي أن المجموع يُساوي 1). ويُمكن التَعبير عن المُدخل أحادي البعد بِشكل بَديل على أنَهُ الخَط  ، مع المُخَرجات  و
تُعتَبر دالة سوفتماكس تدرجًا لدالة LogSumExp : LogSumExp تُعرف الدالة على إنها : .
دالة سوفت ماكس تاريخ
استُخدامت دالة السوفتماكس في الميكانيكا الإحصائية كتوزيع بولتزمان في الورقة التأسيسية Boltzmann (1868) ،  وتمت صياغتها وترويجها في الكتاب المدرسي المؤثر Gibbs (1902) .
يُنسب استخدام دالة سوفت ماكس في نظرية القرار إلى R. Duncan Luce ،  :1الذي استخدم مسلّمة استقلال البدائل غير ذات الصلة في نظرية الاختيار العقلاني لاستنتاج دالة السوفتمكس في مسلّمة لوس للاختيار بالنسبة للتفضيلات النسبية.[بحاجة لمصدر]
في تعلم الآلة، يُنسب مصطلح "softmax" إلى جون إس. بريدل في ورقتين بحثيتين قُدمتا في مؤتمرين عام 1989،هما Bridle (1990a) :  :1و Bridle (1990b) :
نحن مهتمون بالشبكات غير الخطية للأعلاف (Perceptrons متعددة الطبقات ، أو MLPs) مع مخرجات متعددة. نود أن نعامل مخرجات الشبكة كاحتمالات للبدائل (فئات أنماط "" على سبيل المثال ") ، مشروطة بالمدخلات. نحن نبحث عن الإخراج غير الخطية المناسبة وللمعايير المناسبة لتكييف معلمات الشبكة ("على سبيل المثال" الأوزان). نوضح تعديلين: تسجيل الاحتمالات ، وهو بديل لتقليل الخطأ التربيعي ، وتعميم الأسي المتطبيع
دالة سوفت ماكس تاريخ
لأي مدخلات ، يجب أن تكون جميع المخرجات إيجابية ويجب أن تلتزم الوحدة. ...
بالنظر إلى مجموعة من القيم غير المقيدة ، , يمكننا التأكد من كلا الشرطين باستخدام التحول الأسي الطبيعي:

يمكن اعتبار هذا التحول تعميمًا متعدد المدخلات للوجستية ، ويعمل على طبقة الإخراج بأكملها. إنه يحتفظ بترتيب ترتيب قيم الإدخال الخاصة به ، وهو تعميم قابل للتمييز لتشغيل "الفائز بجميع" لاختيار القيمة القصوى. لهذا السبب نود أن نشير إليها باسم softmax.:213
دالة سوفت ماكس مثال
مع إدخال (1, 2, 3, 4, 1, 2, 3) ، تكون قيمة السوفتمّاكس تقريبًا (0.024, 0.064, 0.175, 0.475, 0.024, 0.064, 0.175) . يتركز معظم الوزن في الإخراج عند قيمة "4" في الإدخال الأصلي. هذا هو الاستخدام الشائع للدالة: إبراز القيم الكبرى وتقليل تأثير القيم التي تقل كثيرًا عن القيمة العظمى. لكن يُلاحظ أن تغيير درجة الحرارة يغيّر الإخراج . فعندما تُضرب درجة الحرارة في 10، تصبح القيم المُدخلة فعليًا (0.1, 0.2, 0.3, 0.4, 0.1, 0.2, 0.3) ويكون الحد الأقصى للرطوبة تقريبًا (0.125, 0.138, 0.153, 0.169, 0.125, 0.138, 0.153) . وهذا يوضح أن درجات الحرارة المرتفعة تقلل من أهمية القيمة القصوى.
دالة سوفت ماكس البدائل
تولّد دالة softmax تنبؤات احتمالية موزعة بكثافة على نطاقها . ويمكن استخدام دوال أخرى مثل sparsemax أو α- entmax عندما يُراد الحصول على تنبؤات احتمالية متفرقة. كذلك يمكن استخدام خدعة إعادة التوسيط Gumbel-softmax عندما تكون هناك حاجة لمحاكاة أخذ العينات من توزيع متقطع بطريقة قابلة للاشتقاق.
تاريخ الكنيسة الكاثوليكية في ألمانيا
يُعتبر تاريخ الكنيسة الكاثوليكية في ألمانيا متشابك مع تاريخ ألمانيا الشامل. فعلى مدى العصور، شهدت العلاقة بين الكنيسة والدولة تحولاتٍ انطوت على فترات من الاضطراب والمنافسة والقمع والتباين. ويمكن لتاريخ الكاثوليكية الرومانية الطويل في ألمانيا أن يفسر أيضًا الكثير من تاريخ الكنيسة الرومانية الكاثوليكية، خاصة في فترة العصور الوسطى، تحت حكم الإمبراطورية الرومانية المقدسة.
تاريخ الكنيسة الكاثوليكية في ألمانيا تنصير الألمان
شهد الجزء الغربي فقط من ألمانيا، والذي تسيطر عليه الإمبراطورية الرومانية، المراحل الأولى من تنصير مختلف الشعوب الكلتية والجرمانية. وتمهد التنصير من خلال المكانة التي تحتلها الإمبراطورية الرومانية المسيحية بين رعاياها الوثنيين وتحقق بوسائل مختلفة. كان انتشار المسيحية الجرمانية في البداية طوعيًا، خاصة بين المجموعات الخاضعة إلى الإمبراطورية الرومانية. وبعد أن أصبحت المسيحية قوة موحدة ومهيمنة إلى حد كبير في جرمانيا، استُخدمت القوة في تحويل المجموعات الأصلية المتبقية التي تتبع الوثنية الجرمانية. لكن جوانب من الديانة الوثنية البدائية استمرت حتى يومنا هذا، بما في ذلك أسماء أيام الأسبوع.
تاريخ الكنيسة الكاثوليكية في ألمانيا تنصير الألمان
ومع انهيار الحكم الروماني في ألمانيا في القرن الخامس، انتهت معه هذه المرحلة من الكاثوليكية في ألمانيا. في البداية، تمكنت الشعوب الغالو رومانية أو الجرمانية الرومانية من إبقاء السيطرة على المدن الكبرى مثل كولن وترير، ولكن في 459، تمكنت قبائل الفرنجة بهجماتها من الاستحواذ على هذه المدن أيضًا. فقُتل ونُفي معظم الغالو رومان أو الجرمان الرومان. وأعاد الوافدون الجدد إلى المدن ممارسة الطقوس الوثنية. كان التعداد الصغير المتبقي من الكاثوليك عاجزًا عن حماية عقيدته ضد الحكام الجدد من سادة الفرنجة.
ولكن في 496، خضع ملك الفرنجة كلوفيس الأول إلى طقوس التعميد مع العديد من أفراد أسرته. فأصبح كاثوليكيًا، على عكس القبائل الألمانية الشرقية، التي أصبحت مسيحية تتبع المذهب الآريوسي. وعلى خطى ملكهم، عُمد العديد من الفرنجة، لكن شعائرهم الكاثوليكية اختلطت مع الوثنية منها.
تاريخ الكنيسة الكاثوليكية في ألمانيا تنصير الألمان
وعلى مدار القرون الثمانية التالية، أعاد المبشرون الأيرلنديون والاسكتلنديون والإنجليز إدخال المسيحية إلى الأراضي الألمانية. وكان من بين أبرز المبشرين خلال عهد إمبراطورية الفرنجة، كولومبان، الذي شرع بنشر الرسالة التبشيرية في الإمبراطورية الفرنجية منذ عام 590، وسانت بونيفاس، الذي بدأ مساعيه التبشيرية منذ عام 716. أسس المبشرون، وخاصة الاسكتلنديون أتباع القديس بنديكت، أديرةً (شوتن كلوستر، أديرة اسكتلندية) في ألمانيا، وُحدت لاحقًا تحت أبرشية واحدة يحكمها رئيس دير الاسكتلنديين في ريغنسبورغ. وبدأ تحويل الشعوب الجرمانية مع تحويل النبلاء الجرمان، وكان متوقعًا منهم أن يفرضوا عقيدتهم الجديدة على عامة الشعب. كان هذا التوقع متسقًا مع الدور المقدس للملك في الوثنية الجرمانية: الملك مكلف بالتواصل مع الإله نيابة عن شعبه. وعليه، لم ير عامة الشعب أي خطأ في اختيار ملوكهم حسب طريقتهم المفضلة في العبادة. واختير تدمير الأشجار المقدسة لدى الألمان كطريقة لإظهار سيادة العقيدة المسيحية. وكانت هذه الأشجار، عادةً من أشجار البلوط أو الدردار القديمة، مكرسة للآلهة. ولأن المبشر كان قادرًا على إسقاط الشجرة دون أن تنحره الآلهة، فلا بد من أن يكون إلهه المسيحي أقوى. كانت التضحيات الوثنية، المعروفة باسم بلوت، عبارة عن احتفالات موسمية، تُقدم فيها العطايا للآلهة المناسبة وتُبذل محاولات للتنبؤ بما سيكون عليه الموسم القادم. وفي بعض الأحيان، تُعقد فعاليات مماثلة في أوقات الأزمات، لنفس الأسباب تقريبًا. وكانت التضحيات المكونة من الذهب والأسلحة والحيوانات وحتى البشر، تُعلق على أغصان شجرة مقدسة. انتهت البعثة الهايبرنية الاسكتلندية في القرن الثالث عشر. وبدعم من المسيحيين الأصليين، نجحوا في تنصير ألمانيا بأكملها.
تاريخ الكنيسة الكاثوليكية في ألمانيا تأسيس العالم المسيحي في عهد شارلمان
يبدأ التاريخ الحقيقي للكاثوليكية الرومانية في ألمانيا في يوم عيد الميلاد عام 800، اليوم الذي توج فيه البابا، شارلمان إمبراطورًا. «في هذا اليوم، انقادت الفكرة الجرمانية لملكوت الله، التي جسدها شارلمان، وراء المفهوم العقائدي الروماني الذي يعتبر روما مركزه - روما مقر الإمبراطورية القديمة وأقدس مكان في العالم المسيحي». ظل شارلمان الإمبراطور يعتبر نفسه الزعيم الحقيقي للكنيسة. ورغم أنه أقر في 774 بفضل والده على الجمهورية الرومانية، فقد حرص على إبقاء روما مرتبطة مباشرة بدولة الفرنجة؛ واكتسبت روما بالمقابل حق الحماية الفرنجية. وبذل جهده لإبقاء تأثيره على الشؤون الدينية.
تاريخ الكنيسة الكاثوليكية في ألمانيا تأسيس العالم المسيحي في عهد شارلمان
نظر شارلمان إلى الإمبراطورية الرومانية المنبعثة من وجهة نظر متجذرة بالتقاليد، مظهرًا رغبته العارمة بكسب تقدير واعتراف الإمبراطورية الشرقية. اعتبر أن حظوته على الإمبراطورية ناتجة فقط عن سلطته الخاصة، وبالتالي بادر بنفسه إلى تتويج ابنه لويس. ولكن، من ناحية أخرى، نظر إلى إمبراطوريته بأنها كيان مسيحي أولًا، فاعتبر غايتها النبيلة احتضان شتى الأعراق داخل حدودها، بهدف توحيدهم في ظل خدمة الله.
تاريخ الكنيسة الكاثوليكية في ألمانيا تأسيس العالم المسيحي في عهد شارلمان
وسرعان ما تدهورت الإمبراطورية في عهد ابنه الضعيف، لويس الورع (814 - 840). وقد تعجل هذا الانحدار نتيجة للمفهوم السائد بأن هذه الدولة ملكية خاصة للحاكم، وجهةُ نظر انطوت على نواة الخلافات المستمرة واستلزمت تقسيم الإمبراطورية لوجود عدة أبناء. سعى لويس إلى درء مخاطر تقسيم كهذا من خلال قانون الخلافة الوراثية الذي نُشر عام 817، وتنتقل بموجبه السلطة السيادية والتاج الإمبراطوري إلى الابن الأكبر. ولربما سُن هذا القانون بتأثيرٍ من الكنيسة، التي وافقت على هذه الوحدة بين السلطة العليا والتاج، باعتبارها منسجمة مع فكرة ملكوت الله وأيضًا حسبما تطلب الاقتصاد الهرمي لهيكل الكنيسة. وعندما أنجب لويس ابنًا رابعًا من زوجته الثانية جوديث، ألغى على الفور قانون التقسيم لعام 817 لصالح الوريث الجديد. فاندلع صراع بغيض بين الأب والأبناء، وبين الأبناء أنفسهم. وفي 833، أُسر الإمبراطور على يد أبنائه في معركة لوغنفيلد (ميدان الأكاذيب) بالقرب من كولمار. وكان البابا غريغوريوس الرابع حينها في معسكر الأبناء. إن سلوك البابا والعقاب الكنسي المهين الذي اضطر لويس إلى الخضوع له في سواسون، أوضح التغيير الذي حدث منذ عهد شارلمان في نظرية العلاقات بين الكنيسة والدولة. وحظيت وجهة نظر غريغوريوس القائلة بأن الكنيسة كانت تحت حكم ممثل المسيح، وأنها سلطة أعلى، ليس روحيًا فحسب، إنما فعليًا أيضًا، وبالتالي سياسيًا، بدعمٍ سابق من مبشرين فقهاء في فرنسا. وفي مواجهة الابن الأكبر لوثير، أعاد لويس وببين، أبناء لويس الورع، الأب إلى عرشه (834)، لكن حركات تمرد جديدة تلت ذلك عندما نقم الأبناء مجددًا.
تاريخ الكنيسة الكاثوليكية في ألمانيا تأسيس العالم المسيحي في عهد شارلمان
وفي عام 840، توفي الإمبراطور بالقرب من إنغلهايم. فاستمرت نزاعات الأبناء بعد وفاة الأب، وفي 841، هُزم لوثير شر هزيمة بالقرب من فونتيناي (فونتانتم) على يد لويس الألماني وتشارلز الأصلع. فانهارت الإمبراطورية حينها، ليس بسبب حقد المجموعات الوطنية الأصلية ولكن نتيجة التقسيم الذي بات واقعًا، والمعروف باسم معاهدة فردان (أغسطس 843)، التي قسمت الأراضي بين أبناء لويس الورع: لوثير ولويس الألماني (843 - 876) وتشارلز الأصلع، مما أسفر في النهاية عن سقوط الملكية الكارولنجية.