CALM/arwiki huggingface dataset:
وفقا لديفيد باترسون وجون هينيسي فإن "بعض الآلات الهجينة من هذه الفئات، وبالطبع أن هذه النماذج الكلاسيكية قد عمر طويلا لأنها بسيطة وسهلة الفهم، وتعطي تقريبا أوليا جيد. وهو أيضا المخطط الأكثر استعمال وعلى نطاق واسع، ربما بسبب سهولة فهمه".
أنواع التوازي.
التوازي على مستوى البت.
منذ بدايات تكنولوجيا دارات التكامل الفائق في تصنيع رقائق الحاسوب في سبعينات القرن العشرين وحتى حوالي عام 1986، كانت تتم عملية التسريع في هندسة الحاسبات من خلال مضاعفة حجم كلمة الحاسوب، والتي بدورها تزيد كمية المعلومات التي يمكن للمعالج أن يعالجها في كل دورة. زيادة حجم الكلمة يقلل من عدد التعليمات التي يجب على المعالج تنفيذها لأداء عملية على متغيرات حجمها أكبر من طول الكلمة. على سبيل المثال، عند جمع رقمين صحيحين مكونين من 16 بت على معالج 8 بت، فإن المعالج يقوم بجمع أول 8 بت من كل رقم باستخدام تعليمة الجمع، ثم يجمع ثاني 8 بت مع الإعارة من العملية السابقة، وبالتالي فإن معالج 8 بت يحتاج لتعليمتين لإكمال عملية واحدة، بينما معالج 16 بت معالج سيكون قادر على إكمال العملية بتعليمة واحدة.
تاريخيا، تم استبدال المعالجات 4-بت بمعالجات 8 بت ثم 16 بت، ثم 32 بت. وبشكل عام فقد وصل هذا الاتجاه إلى نهايته مع إدخال معالجات 32 بت، التي سائدة في الحاسبات العامة لعقدين من الزمن. ولكن ليس إلى غاية وقت قريب (2003-2004)، حيث ظهرت هندسة x86-64، والتي تحوي على معالجات 64 بت وشاع استخدامها.
التوازي على مستوى التعليمات.
برنامج حاسوبي في جوهره وهو دفق من التعليمات التي ينفذها المعالج. يمكن إعادة ترتيب هذه التعليمات ودمجها في مجموعات يتم تنفيذها بالتوازي دون تغيير نتيجة هذا البرنامج. وهذا ما يسمى بالموازاة على مستوى التعليمات. تطور فكرة الموازاة على مستوى التعليمات هيمنة على هندسة الحاسبات من منتصف ثمانينات وحتى منتصف تسعينات القرن العشرين.
المعالجات الحديثة لديها خطوط أنابيب متعددة المراحل. كل مرحلة في خط الأنابيب توافق عملا مختلفا يقوم به المعالج على التعليمات في هذه المرحلة؛ المعالج الذي يحوي ن مرحلة في خط أنابيب يمكن أن ينجز حتى ن تعليمة مختلفة في مراحل مختلفة. وتعد المعالجات من نوع RISC مثال على المعالجات التي تعمل بنظام خطوط الأنابيب، وفي هذا النوع من المعالجات خمس مراحل: جلب التعليمة، وفك الشفرة، وتنفيذها، والوصول إلى الذاكرة، وكتابة النتائج. المعالج بنتيوم 4 له 35 مراحل في خط الأنابيب.
بالإضافة إلى الموازاة على مستوى التعليمات باستخدام خط الأنابيب، يمكن لبعض المعالجات معالجة أكثر من تعليمة في نفس الوقت. تعرف بالمعالجات سوبرسكيلر. تجمع التعليمات معا إذا لم يكن هناك أي تبعية في البيانات فيما بينها. تعد خوارزمية "سكوربوردنج" وخوارزمية "توماسلو" (التي تشبه سكوربوردنج ولكن تقوم بإعادة تسمية السجلات) من أكثر الأساليب شيوعا لتنفيذ التعليمات بدون ترتيب في تنفيذ الموازاة على مستوى التعليمة.
موازاة البيانات.
موازاة البيانات هي عملية الموازاة المتأصلة في جمل التكرار في البرنامج، التي تركز على توزيع هذه البيانات عبر عقد الحوسبة المختلفة بحيث تتم معالجتها بشكل متواز. "غالبا ما تؤدي موازاة التكرار بصورة مماثلة (ليست بالضرورة مطابقة) إلى تسلسل العمليات أو المهام التي تؤدى على عناصر بيانات ذات هياكل كبيرة." العديد من التطبيقات العلمية والهندسية تستعمل توازي البيانات.
الاعتمادية في حلقات التكرار هي اعتمادية حلقة تكرار على ناتج واحدة أو أكثر من حلقات التكرار السابقة لها. وهذه الاعتمادية في حلقات التكرار تمنع القيام بعمل توزيع لعمليات التكرار. على سبيل المثال، بالنظر إلى الكود التالي الذي يحسب بعض أعداد فيبوناتشي الأولى :
لا يمكن توزيع هذا التكرار لان CUR يعتمد عليه PREV2 وPREV1، والتي يتم حسابها في كل حلقة تكرار. ولأن التكرار يعتمد في نتيجة على المرحلة السابقة، فلا يمكن أن يتم تنفيذها في نفس الوقت. وبتعاظم حجم مشكلة، يتعاظم مقدار توازي البيانات المتاحة عادة.
توازي المهام.
موازاة المهام هي صفة البرامج المتوازية التي تحوي "حسابات مختلفة تماما يمكن أن تنفذ في نفس المجموعة أو في مجموعة مختلفة من البيانات". وهذا يتناقض مع موازاة البيانات، حيث يتم تنفيذ نفس العملية الحسابية على نفس المجموعة أو مجموعات مختلفة من البيانات. توازي المهام لا تتناسب عادة مع حجم المشكلة.
الذاكرة والاتصالات.
تكون الذاكرة الرئيسية في أجهزة الحواسيب المتوازية إما ذاكرة مشتركة (تشترك جميع عناصر المعالجة في مساحة تخزينية واحدة) أو ذاكرة موزعة (التي يكون فيها لكل عنصر من عناصر التجهيز مساحة تخزينية محلية خاصة به). ومصطلح الذاكرة الموزعة يعني أن الذاكرة موزعة منطقيا، ولكن غالبا ما يعني أيضا أنها موزعة ماديا. الذاكرة المشتركة الموزعة والذاكرة الافتراضية تجمعان بين النهجين، حيث أن كل عنصر معالجة يملك ذاكرة محلية خاصة به وسبيلا للوصول إلى ذاكرة على معالجات غير المحلية. الوصول للذاكرة المحلية عادة ما يكون أسرع من الوصول إلى الذاكرة غير المحلية.
هندسة الحواسيب التي يكون فيها كل عنصر من الذاكرة الرئيسية متوفرا بنفس المدة والتدفق تعرف بالذاكرة موحدة الوصول . لا يمكن أن يتحقق هذا إلا من خلال نظام ذاكرة مشتركة حيث لا وجود لتوزيع مادي للذاكرة. النظم التي ليس لديها هذه الخاصية تعرف بنظم الذاكرة غير موحدة الوصول . نظم الذاكرة الموزعة هي ذاكرة غير موحدة الوصول.
تستفيد نظم الحاسوب من مخزن صغير وسريع بقرب من المعالج لتخزين مؤقت لنسخ من قيم الذاكرة. أما أنظمة الحواسيب المتوازية فتواجه صعوبات مع هذه المخازن التي قد تخزن القيمة نفسها في أكثر من مكان واحد، مع إمكانية تنفيذ غير صحيح للبرنامج. أجهزة الحاسوب هذه تتطلب نظام تخزين متناسق، والذي يتتبع القيم المخزنة مؤقتا ويعمل على تطهير إستراتيجيا لها، وبالتالي ضمان تنفيذ صحيح للبرنامج. قنوات التطفل هي واحدة من أكثر الطرق شيوعا لتتبع القيم التي يتم الوصول إليها (وبالتالي ينبغي تطهيرها). تصميم نظام تخزين متناسق عالي الكفاءة وكبير هي مشكلة صعبة للغاية في مجال هندسة الحواسيب. ونتيجة لذلك، فإن هندسة الحواسيب بذاكرة مشتركة لا تتناسب جيدا مع أنظمة الذاكرة الموزعة.
يمكن تنفيذ الاتصالات بين الذاكرة والمعالجات وفيما بين المعالجات باستعمال أجهزة بطرق متعددة، بما في ذلك عبر ذاكرة مشتركة أو عارضة تبديل أو ناقل مشترك أو شبكة ربط لعدد لا يحصى من طبولوجيات بما في ذلك طبولوجيات الطوق والنجمة والشجرة، هايبر مكعب ، هايبر مكعب ضخم ؛ أي هايبر مكعب بأكثر من معالج في العقدة الواحدة، أو شبكة من ن-بعد.
تحتاج الحواسيب المتوازية (المبنية على أساس شبكات الربط) إلى نوع من التوجيه لتمكينها من تمرير الرسائل بين العقد التي لا علاقة مباشرة بينها. من المرجح أن تكون الوسيلة المستخدمة للاتصال بين المعالجات هي التسلسل الهرمي في الأجهزة الكبيرة متعددة المعالجات.
فئات الحواسيب المتوازية.
يمكن تصنيف الحواسيب المتوازية وفقا للمستوى الذي يدعم فيه الجهاز عملية التوازي. هذا التصنيف هو على نطاق واسع مماثل للمسافة بين العقد الحوسبة. كلاهما لا يستبعد بعضها البعض، على سبيل المثال، عناقيد الحواسيب متعددة المعالجات المتماثلة هي شائعة نسبيا.
حوسبة متعددات الأنوية.
المعالج متعدد الأنوية هو معالج يتضمن عدة وحدات تنفيذ ("النوى") على نفس الشريحة. هذه المعالجات تختلف عن المعالجات "سوبرسكيلر" ، والتي يمكنها تمرير تعليمات متعددة لكل دورة من سيل واحد من التعليمات (خيط أو thread)؛ على النقيض من ذلك، يمكن للمعالجات متعددة الأنوية تمرير تعليمات متعددة لكل دورة من سيول تعليمات متعددة. كل نواة في المعالج متعدد الأنوية يمكنها أن تكون سوبرسكيلر. ففي كل دورة، ويمكن لكل نواة تمرير تعليمات متعددة من سيل واحد.
معالجة متزامنة لعدة خيوط في وقت واحد (وتقنية خيوط المعالجة الفائقة لإنتل هي الأكثر شهرة) وشكل مبكر من شبه تعدد الأنوية . معالج قادر على معالجة متزامنة لعدة خيوط لديه وحدة تنفيذ واحدة ("نواة")، ولكن عندما تكون وحدة التنفيذ خاملة (مثل حالة جلب بيانيات)، فإنها تستخدم في تنفيذ الخيط الثاني. معالج آي بي إم Cell، المصمم للاستخدام في سوني بلاي ستيشن 3، هو معالج بارز آخر متعدد الأنوية.
المعالجة المتعددة المتماثلة.
المعالجات المتعددة المتماثلة هو نظام حاسوبي ذو معالجات متعددة متطابقة تتشارك ذاكرة وقناة اتصال (أو ناقل). الزحام في الناقل يمنع هندسة النواقل من التزايد. ونتيجة لذلك، فعموما لا تضم المعالجات المتعددة المتماثلة أكثر من 32 معالج. "نظرا لصغر حجم المعالجات والانخفاض الكبير في متطلبات لسعة التدفق التي تحققها المخابئ الكبيرة، مثل هذه المعالجات المتماثلة فعالة للغاية من حيث التكلفة، شريطة أن تكون كمية كافية من سعة التدفق للذاكرة متوفرة."
الحاسوب الموزع (المعروف أيضا بالمعالجات موزعة الذاكرة) هو نظام حاسوبي موزع الذاكرة ترتبط فيه العناصر المعالجة من خلال شبكة. الحواسيب الموزعة قابلة للتزايد.
الحوسبة العنقودية.
العنقود ، هو مجموعة من أجهزة الحواسيب المتقاربة التي تعمل معا بشكل وثيق، حتى أنه في بعض النواحي تعتبر بمثابة جهاز حاسوب واحد. تتكون العناقيد من مجموعة من آلات مستقلة متعددة ومتصلة بواسطة شبكة حاسوبية. لا يشترط أن تكون آلات العنقود الواحد متماثلة، ولكن عملية موازنة الحمل فيما بينها تصبح أكثر صعوبة إذا لم تكن كذلك. النوع المتعارف عليه هو عنقود بياولف ، وتمثل مجموعة من أجهزة الحاسوب متعددة ومتطابقة مرتبطة بشبكة محلية تعمل بحزمة برتوكولات حزمة بروتوكولات الإنترنت بوصلات إيثرنت. قام بتطوير تقنية بياولف كل من توماس ستيرلينغ ودونالد بيكر. وتشكل الحواسيب العنقودية الغالبية العظمى من حواسيب قائمة توب 500 لأقوى أنظمة الحواسيب في العالم.
المعالجة عالية التوازي.
المعالج عال التوازي هو جهاز حاسوب واحد مع معالجات شبكية كثيرة. هذه الأجهزة لها العديد من خصائص العناقيد، ولكنها تملك شبكات خاصة (في حين أن العناقيد تستخدم عتاد للشبكات). وتميل إلى أن تكون أكبر من العناقيد، وعادة "أكثر بكثير" من 100 معالج. في المعالج عال التوازي، "كل وحدة معالجة مركزية تحتوي على ذاكرة خاصة بها، ونسخة من نظام التشغيل والبرمجية. كل فرع يتصل مع الآخرين عبر وصلات عالية السرعة.
بلو جين/L المعالج عالي التوازي هو خامس أسرع حاسوب عملاق في العالم وفقا لتصنيف توب 500 ليونيو 2009.
الحوسبة الشبكية.
الحوسبة الشبكية هي الشكل الأكثر انتشارا للحوسبة المتوازية. إنه يستخدم اتصال أجهزة الحاسوب عبر الإنترنت للعمل على مشكلة معينة. وبسبب انخفاض سرعة تدفق البيانات والبطء التباعد العالي للغاية على شبكة الإنترنت، فإن الحوسبة الشبكية تتعامل عادة فقط مع مشاكل التوازي الحرج. تم إنشاء عدة برمجيات للحوسبة الشبكية، أشهرها: ستي@هوم وفولدنغ@هوم.
معظم برمجيات الحوسبة الشبكية تستخدم برمجيات وسيطة ، وهي برمجيات تعمل بين نظام التشغيل والبرمجيات الأخرى لإدارة موارد الشبكة وتوحد الواجهة البرمجية. أكثر البرمجيات الوسيطة للحوسبة الشبكية شيوعا هي بنية باركلي التحتية المفتوحة للحوسبة شبكية . في كثير من الأحيان، تقوم برامج الحوسبة الشبكية بإتمام "دورات إضافية"، وأداء عمليات حسابية عندما يكون جهاز الحاسوب خاملا.
الحواسيب المتوازية المتخصصة.
توجد في الحوسبة المتوازية أجهزة متوازية متخصصة لم تلفت إليها الاهتمام بعد. في حين أنه من غير تعيين الميادين، فإنها تميل إلى تطبيق على عدد قليل فقط من فئات المشاكل التوازي.
الحوسبة قابلة لإعادة التشكيل مع FPGA.
الحوسبة القابلة لإعادة التشكيل هو استخدام مصفوفات البوابات المنطقية القابلة للبرمجة في الميدان كمعالج مشارك للأغراض العامة للحاسوب. FPGA في جوهره شريحة حاسوب يمكنها إعادة ربط نفسها لمهمة معينة.
يمكن برمجة FPGA بلغة وصف الأجهزة VHDL أو "فيريلوج". لكن البرمجة بهذه اللغات قد تكون مملة، لهذا تم إنشاء عدة لغات من فئة C to HDL كمحاولة لمحاكاة صياغة ودلالات لغة البرمجة سي، التي اعتاد عليها معظم المطورين. الأكثر شهرة بين لغات C to HDL هي Mitrion-C و Impulse C و DIME-C و Handel-C. كما يوجد مجموعات فرعية معينة من SystemC مبنية على أساس سي++ يمكن أن تستخدم أيضا لهذا الغرض.
قرار أي إم دي بفتح تكنولوجية هيبرترانسبورت للمطورين العاديين فتح المجال لتكنولوجيا لإعادة تشكيل الحوسبة عالية الأداء. وفقا إلى مايكل ر. دامور، الرئيس التنفيذي للعمليات في شركة DRC للحوسبة: "في الأول عندما كنا نسير نحو أي إم دي، وصفونا "بسارقي المأخذ". والآن يسموننا بشركائهم".
الحوسبة للأغراض العامة على وحدات المعالجة الرسومية.
الحوسبة للأغراض العامة على وحدة معالجة الرسوميات هو اتجاه حديث نسبيا في مجال الأبحاث في هندسة الحواسيب. وحدات معالجة الرسومات هي معالجات مساعدة شهدت تطورا مكثفا لمعالجة الرسومات على الحاسوب. معالجة الرسومات بالحاسوب هو أحد الميادين الذي تهيمن عليه العمليات المتوازية لمعالجة البيانات وبصفة خاصة عمليات الجبر الخطي على المصفوفات.
في البدايات، استخدمت برمجيات GPGPU واجهات المكتبات الرسومية العادية لتنفيذ البرامج. ومؤخرا ظهرت لغات برمجة ومنصات جديدة بنيت لاستعمال المعالجات الرسومية لأمور عامة غير الغرض الأصلي لها. خاصة بعد أن أصدر كل من إنفيديا وأي إم دي بيئات للبرمجة هي كودا (CUDA) وسي.تي.إم (CTM) على التوالي. إضافة إلى لغات أخرى لبرمجة المعالجات الرسومية مثل BrookGPU و PeakStream و RapidMind. وقد أصدرت إنفيديا أيضا منتجات محددة لإجراء العمليات الحسابية في سلسلة تسلا (Tesla series).
التطبيقات الخاصة بالدوائر المتكاملة.
انقسم نهج عدة تطبيقات من نوع أسيك (ASIC) في التعامل مع البرامج المتوازية.
لأن أسيك (وحسب التعريف) هو خاص بتطبيق معين، فإنه يمكن أن تطويره ليكون الأمثل لهذا التطبيق. وكنتيجة لتطبيق معين، فإن أسيك يميل للتفوق في الحوسبة لأغراض عامة. تصنع أسيك بتقنية X-ray lithography. وهذه العملية تتطلب قناعا (قد يكون مكلفا للغاية). تكلفة قناع واحد يمكن أن تتجاوز مليون دولار أمريكي. (كلما كانت الترانزستورات أصغر للرقاقة المطلوبة، فإن تكلفة القناع تكون أكبر). وفي الوقت نفسه، يزيد على مر الزمن أداء الحوسبة لأغراض عامة (مثلما يصفها قانون مور) تميل للقضاء على هذه المكاسب في جيل أو جيلين للرقاقة. التكلفة الأولية العالية جعلت أسيك غير مجدية بالنسبة لمعظم تطبيقات الحوسبة المتوازية. ومع ذلك، فقد تم بناء بعضها. ومن الأمثلة على ذلك جهاز RIKEN MDGRAPE-3 الذي يستخدم أسيك مخصصة لمحاكاة ديناميات الجزيئية.
المعالجات المتجهية.
المعالج المتجهي هو وحدة معالجة مركزية أو حاسوب يمكنه تنفيذ نفس التعليمات على مجموعات كبيرة من البيانات. "للمعالجات المتجهية مستوى عمليات رفيع للعمل على المصفوفات الخطية من الأرقام أو المتجهات. من الأمثلة على العمليات على المتجهات A = B × C، حيث A و B و C متجهات من 64 عنصر لكل منها وأعداد حقيقية 64بت" ولهذا صلة وثيقة هي بتصنيف في فلين تعليمة واحدة على بيانات كثيرة.
ما بين سبعينيات وثمانينيات القرن العشرين، أصبحت شركة كراي مشهورة بحواسيبها متجهية المعالجة. ومع ذلك، فإن المعالجات المتجهية مثلها مثل وحدات المعالجة المركزية وأنظمة الحواسيب الكاملة اختفت عموما. مجموعات تعليمات المعالجات الحديثة تشمل بعض التعليمات لمعالجة المتجهات مثلما هو الشأن مع AltiVec و SSE.
لغات البرمجة المتوازية.
من أجل برمجة الحواسيب المتوازية، تم إنشاء لغات البرمجة والمكتبات وواجهات برمجة التطبيقات ونماذج للبرمجة المتوازية. وعموما تنقسم لغات البرمجة إلى فئات استنادا إلى ما تقدمه من الافتراضات حول هندسة الذاكرة والذاكرة المشتركة والذاكرة الموزعة، أو الذاكرة المشتركة الموزعة. لغات البرمجة التي تتعامل بذاكرة مشتركة تتواصل عن طريق التلاعب بالمتغيرات في الذاكرة المشتركة. مع الذاكرة الموزعة يستخدم تمرير الرسائل. خيوط بوسيكس وأوبن أم بي من أكثر واجهات برمجة التطبيقات بذاكرة مشتركة استخداما. في حين أن إم بي آي هو نظام تمرير الرسائل الأكثر استخداما على نطاق واسع. أحد المفاهيم المستخدمة في كتابة البرامج المتوازية هو مفهوم المستقبل، حيث يعِد جزء واحد من البرنامج بتسليم المسند المطلوب إلى جزء آخر من برنامج في وقت ما في المستقبل.
الموازاة التلقائية.
استحداث موازاة تلقائيا لبرنامج متسلسل يقوم بها برنامج ترجمة (مترجم-Compiler) هي قمة الحوسبة المتوازية. ورغم مرور عقود من عمل الباحثين على المترجمات، إلا أن الحصول على موازاة تلقائيا سجلت نجاح محدود فقط.
المذهب الأساسي في لغات البرمجة المتوازية يبقى إما توازي صريح أو (في أحسن الأحوال) ضمني جزئيا، حيث يعطي المبرمج التوجيهات للمترجم بالموازاة. يوجد عدد قليل من لغات البرمجة المتوازية ضمنيا، مثل "السيزال" و"برلال هاسكل"، و(من أجل FPGA) يستعمل Mitrion-C.
برمجيات التدقيق والفحص.
الحاسوب الأكبر حجما والأكثر تعقيدا هو الأكثر تعرضا للخطأ والفترة الزمنية المتوسطة بين الإخفاقات فيه هي الأقصر. برمجيات التدقيق والفحص تقنية بموجبها يقوم نظام الحاسوب بأخذ صورة عن حالة برنامج (تسجيل عن كل الموارد الحالية المحجوزة والحالات المتغيرة)، وهي أقرب إلى تفريغ. هذه المعلومات يمكن استخدامها لاستعادة البرنامج في حال فشل الحاسوب. التدقيق والفحص يعني أن البرنامج يعاد تشغيله من آخر نقطة تدقيق فقط وليس من البداية. لتطبيق قد يعمل للأشهر فإن الأمر بالغ الأهمية. يمكن استخدام برمجيات التدقيق والفحص لتسهيل عملية الهجرة.
أنواع الخوارزميات.
بما أن الحواسيب المتوازية صارت أكبر وأسرع، فإنه أصبح من الممكن حل المشاكل التي كانت سابقا تأخذ وقتا طويلا. تستخدم الحوسبة المتوازية في مجالات واسعة، من تكنولوجيا المعلومات الحيوي إلى الاقتصاد (الرياضيات المالية). الأنواع الشائعة من المشاكل التي وجدت في تطبيقات الحوسبة المتوازية هي :
أصول التوازي الصحيح (عمليات مختلفة على بيانات مختلفة-MIMD) يعود إلى لويجي فيديريكو، كونت Menabrea وما قدمه في "وصف مقتضب للمحرك التحليلي الذي اخترعه تشارلز باباج. أدخلت شركة آي بي إم حاسوب 704 في عام 1954، من خلال المشروع الذي كان جين أمدال أحد المهندسين الرئيسيين فيه. ليصبح أول حاسوب تجاري متاح لاستخدام مجموعة كاملة من الأوامر الحسابية بطريقة تلقائية.
في أبريل 1958، ناقش س. جيل (فيرانتي) البرمجة المتوازية، والحاجة إلى التفرع والانتظار. في عام 1958، ناقش الباحثان جون كوك ودانيال سلوتنيك (العاملين في شركة آي بي إم) استخدام التوازي في العمليات الحسابية العددية للمرة الأولى. أدرجت شركة بوروز معالج D825 في سنة 1962، وهو معالج حواسيب رباعي يمكنه الوصول إلى 16 وحدات ذاكرة من خلال العارضة التبديل في عام 1967، نشر سلوتنيك وأمدال نقاشا حول جدوى المعالجة المتوازية في مؤتمر جمعيات الاتحاد الأمريكي للمعالجة المعلومات. ومن خلال هذه المناقشة صيغ قانون أمدال لتحديد الحد الأقصى للسرعة المكتسبة من عملية الموازاة.
في عام 1969، قدمت الشركة الأمريكية هونيويل نظامها الأول مالتيكس، وهو نظام متعدد المعالجات المتماثلة قادر على تشغيل ما يصل إلى ثمانية معالجات بالتوازي. مشروع C.mmp في سبعينيات القرن العشرين التابع لجامعة كارنيجي ميلون هو أول متعدد المعالجات بمعالجات قليلة". "إن أول ناقل لوصل عدة معالجات مع مخابئ التطفل هو Synapse N+1 كان ذلك في عام 1984."
ويمكن إرجاع الحواسيب المتوازية (تعليمة واحدة على بيانات مختلفة) إلى سبعينيات القرن العشرين. كان الدافع وراء هذا النوع من الحواسيب في وقت مبكر هو توزيع تأخير بوابة التحكم لوحدة المعالجة على تعليمات متعددة. في عام 1964، اقترح "سلوتنيك" بناء حاسوب متوازية على نطاق واسع لمختبر لورانس ليفرمور الوطني. موّل التصميم، الذي كان من أوائل الحواسيب المتوازية، من قبل سلاح الجو الأمريكي، وسمي "ILLIAC 4". المفتاح في تصميمه كان التوازي العالي نوعا ما، مع ما يصل إلى 256 معالج، والتي تسمح للآلة بالعمل على مجموعات كبيرة من البيانات في ما عرف لاحقا بالمعالجة المتجهية. ومع ذلك، 4 ILLIAC سمي "أكثر الحواسيب العملاقة المجهولة"، وذلك لأن المشروع لم يكن سوى أحد الأربعة اكتمالا، ولكن استغرق 11 سنوات، وتكلفة فاقت أربع مرات تقريبا عن التقديرات الأصلية. وأخيرا عندما صار على استعداد للتشغيل الحقيقي في التطبيق الأول في عام 1976، كانت قد تفوقت عليه حواسيب عملاقة تجارية مثل كراي 1.
دماغ بيولوجي كحاسوب عال التوازي.
في أوائل سبعينيات القرن العشرين، بدأ كل من مارفن مينسكي وسيمور بابيرت في في تطوير ما أصبح يعرف بنظرية «مجتمع العقل» الذي تنظر إلى الدماغ البيولوجي كحاسوب عال التوازي. في عام 1986، نشر مينسكي كتاب "مجتمع العقل"، يقول فيه بأن "العقل يتكون من عدد من الوكلاء (agents) الصغار، كل وكيل هو عقل في حد ذاته". وتحاول النظرية تفسير بأن ما نسميه ذكاءا يمكن أن يكون نتيجة لتفاعل أجزاء غير الذكية. ويقول مينسكي بأن أكبر مصدر للأفكار حول النظرية جاء من عمله في محاولة لإنشاء آلة تستخدم ذراع الروبوت، وكاميرا فيديو، وجهاز حاسوب لبناء بكتل الأطفال.
ظهرت نماذج مماثلة (ترى أيضا في الدماغ البيولوجي حاسوبا عال التوازي، أي أن الدماغ يتكون من كوكبة من الوكلاء المستقلين أو شبه المستقلين) وصفها كل من :
الباهية هي منطقة سكنية تبعد 50 كلم عن مدينة أبوظبي، بدولة الإمارات العربية المتحدة، باتجاه طريق دبي.وتقع بالقرب من مدينة الشهامة حيث انهما منطقة واحدة متقاربة والمسافة بينهما 3 كلم.
وقد أنشأت المنطقة لتخصص لسكن المواطنين، وذلك في العام 1997 وبأوامر من رئيس الإمارات السابق الشيخ زايد بن سلطان آل نهيان. وتتميز الباهية بهدوئها، حيث أنها منطقة سكنية تتكون من بضع مئات من الفيلات السكنية النموذجية للمواطنين، وهي قريبة من ساحل الخليج العربي.
تقسيمات الباهية.
الباهية A وتقع خلف الشهامة القديمة.
الباهية B وهي محاذية للطريق الرئيسي أبوظبي - دبي ومقابلة للشهامة الجديدة ويفصل بينهما طريق أبوظبي دبي.
وتتميز الباهية بنظافتها ولكنها تعاني من قلة توفر الأسواق حيث تبعد عنها 5 كلم.
من الدارج لدى سكان الباهية والمناطق المجاورة لها إطلاق أسماء مناطق الباهية طبقا لألوان المنازل التي تتبع لكل حوض فمثلا هناك المنازل البنية والبيضاء والخضراء، وهناك أيًضا (باهية البحر) وهو الاسم الذي يطلق على المنطقة التي تحوي المنازل القريبة من شاطئ الخليج العربي.
مراهقو التايتنز أو الجبابرة المراهقون هو مسلسل رسوم متحركة تيلفزيوني أمريكي من إنتاج شركة دي سي كوميكس و وارنر براذرز أنيميشن لي قناة كرتون نتورك تم عرضه لأول مرة في 19 يونيو 2003 حتى 15 سبتمبر 2006 واستمر لمدة 5 مواسم و 65 حلقة ويتحدث عن خمسة مراهقين أصدقاء كل واحد منهم يمتلك قوى خاصة من أجل محاربة قوى الشر.
ديك جريسون / روبن: هو شخصية سبق أن ظهرت في أفلام باتمان وهو قائد فريق التايتنز والمؤسس الرسمي له وهو صاحب الأوامر للفريق بالتحرك لدحر الشر والدفاع عن الخير ويتميز بشخصيته الشجاعة والجريئة ولا يملك أية قوى خارقة ولكنه يملك معدات تأهله لدحر الشر وهي نفس المعدات تقريبًا التي يملكها باتمان.
ستارفاير: هي مخلوقة فضائية من كوكب آخر غير كوكب الأرض وآخر من انضم للفريق غير أنه يبقى لها دائمًا دورها المهم في نجاح عمل الفريق فهي من يجمعهم ومن يساعدهم ويمكنها النجاة في الفضاء وبإمكانها إطلاق طاقة حرارية من أيديها وبإمكانها الطيران.
سايبورغ: شخصية غريبة مكونة من نصف إنسان ونصف آلي وهو فتى العضلات الحديدية كما يعرفه الجميع ولا سيما أصدقائه وهو أضعف عضو في فريق التايتنز وطابعه الذكاء وهو اختصاصي في الأجهزة الإلكترونية. وهو مدجج بأسلحة قوية ولا يمكنه الطيران.
بيست بوي: أو فتى المقالب شخصية فكاهية تتميز بخفة الظل وروح الدعابة وهو ثاني أضعف شخص في الفريق غير أن ذلك لا يمنعه أن يكون له دور فعال في الفريق ويمكنه أن يتحول إلي أي حيوان في المملكة الحيوانية بأكملها والطيور.
رايفن: فتاة في فريق التايتنز وهي شخصية يلفها الغموض غير أنها تبقى محتفظة بقلبها ومشاعرها الطيبة وهي أقوى مقاتلة الفريق وهي ساحرة وابنة الشيطان ترايجون وتملك بسحرها أشياء خارقة ويمكنها الطيران.
تقع مكتبة الفاتيكان (باللغة اللاتينيّة: Bibliotheca Apostolica Vaticana) في مدينة الفاتيكان، وهي إحدى أقدم المكتبات وتحوي مجموعة مخطوطات تاريخية مهمة جدًا. تأسست رسميًا في 1475 مع أنها أقدم من ذلك بكثير، وفيها 75,000 مخطوطة من مختلف العصور.
أغلب نسخ مكتبة الفاتيكان أصلية بخط اليد لأعمال نادرة في التاريخ البشري، وهذه المخطوطات مكتوبة بعدة لغات أبرزها اللاتينية واليونانية وهناك بعض المخطوطات باللغة السريانية، يضاف إلى ذلك حوالي 1.1 مليون كتاب مطبوع بمختلف اللغات؛ أسس مكتبة الفاتيكان البابا نيقولا الخامس، عن طريق عملية بيع وشراء الكتب النفيسة التي ازدهرت ابتداءً من القرن الثالث عشر في أوروبا خصوصًا من مكتبة القسطنطينية والأندلس، ومع حلول عام 1481 كانت مكتبة الفاتيكان أكبر مكتبة في العالم، وقد ألحقت بها عام 1953 مكتبة خاصة للأفلام؛ صمم مبنى المكتبة في عهد البابا سيكتوس الخامس عام 1587 وهو لا يزال مستعمل حتى اليوم.
حسب مؤسسة الفرقان اللندنية فإن عدد المخطوطات الإسلامية في المكتبة يبلغ نحو 4400 منها 2600 مخطوط عربي.
أغلقت في 2007 للصيانة لتفتح أبوابها للعامة مرة أخرى في سبتمبر 2010.
معارك ساراتوجا (19 سبتمبر و7 أكتوبر 1777) اعتُبرت ذروة حملة ساراتوجا، التي شكلت انتصارًا حاسمًا للأمريكيين على البريطانيين في حرب الاستقلال الأمريكية. قاد الجنرال البريطاني جون بورغوين جيش غزو كبير انطلاقًا من وادي شامبلين في كندا باتجاه الجنوب، على أمل مقابلة قوة بريطانية مماثلة تسير شمالًا من مدينة نيويورك وقوة بريطانية أخرى تسير شرقًا من بحيرة أونتاريو، إلا أن القوات الجنوبية والغربية لم تصل أبدًا، وحاصرت القوات الأمريكية بورغوين في شمال ولاية نيويورك. خاض معركتين صغيرتين لكسر الحصار، واستغرقتا 18 يومًا في نفس الموقع، على بعد 9 أميال (14 كم) جنوب ساراتوجا في نيويورك، وفشلت كلتاهما.
وجد بورغوين نفسه محاصرًا من قبل القوات الأمريكية المتقدمة دون أي منفذ، لذلك انسحب إلى ساراتوجا (شايلرفيل حاليًا) وسلم جيشه بالكامل هناك في 17 أكتوبر. شكل استسلامه وفقًا للمؤرخ إدموند مورغان «نقطة تحول كبيرة في الحرب، وانتصارًا للأميركيين بالمساعدة الخارجية التي كانت العنصر الأخير المطلوب للنصر».
بدأت استراتيجية بورغوين لفصل نيو إنغلاند عن المستعمرات الجنوبية بشكل جيد، ولكنها تباطأت بسبب مشاكل لوجستية. فاز بنصر تكتيكي صغير على الجنرال هوراشيو غيتس والجيش القاري في 19 سبتمبر في معركة مزرعة الرجال الأحرار على حساب خسائر كبيرة. لم يعد لمكاسبه معنىً عندما هاجم الأمريكيين مرة أخرى في معركة مرتفعات بيميس في 7 أكتوبر، واستولى الأمريكيون على جزء من قواعد الدفاعات البريطانية.
أُجبر بورغوين على التراجع، وحوصر جيشه من قبل القوة الأمريكية الأكبر بكثير في ساراتوجا، مما دفعه إلى الاستسلام في 17 أكتوبر. دفعت أخبار استسلام بورغوين فرنسا للانخراط رسميًا في الحرب كحليف للولايات المتحدة، على الرغم من أنها قدمت سابقًا الإمدادات والذخيرة والبنادق، ولا سيما مدفع دي فاليير الذي لعب دورًا مهمًا في ساراتوجا.
بدأت المعركة في 19 سبتمبر عندما حرك بورغوين بعض قواته في محاولة لتطويق الموقع الأمريكي الراسخ في مرتفعات بيميس. توقع بنديكت أرنولد المناورة ووضع قوى كبيرة في طريقه. سيطر بورغوين على مزرعة الرجال الأحرار، على حساب خسائر كبيرة. استمرت المناوشات خلال الأيام تلت المعركة، بينما انتظر بورغوين وصول تعزيزات من مدينة نيويورك. استمرت ميليشيات باتريوت في الوصول أثناء ذلك، معززة الجيش الأمريكي. أدت الخلافات داخل المعسكر الأمريكي إلى عزل أرنولد من قيادته من قبل غيتس.
تحرك الجنرال البريطاني السير هنري كلينتون من مدينة نيويورك وحاول تشتيت الانتباه الأمريكي، من خلال الاستيلاء على حصون كلينتون ومونتغومري في مرتفعات نهر هدسون في 6 أكتوبر، إلا أن هذه الجهود المتأخرة لم تثمر في مساعدة بورغوين. هاجم بورغوين مرتفعات بيميس مرة أخرى في 7 أكتوبر بعد أن أيقن أنه لن يتلق أي مساعدة في الوقت المناسب. أفضت هذه المعركة إلى قتال عنيف تميز بحشد أرنولد الحماسي للقوات الأمريكية. أُجبرت قوات بورغوين على التراجع إلى المواقع التي احتلتها قبل معركة 19 سبتمبر، واستولى الأمريكيون على جزء من قواعد الدفاعات البريطانية.
غيّر البريطانيون خططهم عندما أوشكت حرب الاستقلال الأمريكية على بلوغ العامين، وقرروا فصل المستعمرات الثلاثة عشر، وعزل نيو إنجلاند عن المستعمرات الوسطى والجنوبية التي اعتقدوا أنها أكثر ولاءً. وضعت القيادة البريطانية خطة لتقسيم المستعمرات بتكتيك الكماشة ثلاثية الاتجاهات في عام 1777. نصت الخطة على أن تتقدم قوات الجهة الغربية بقيادة باري سانت ليجير من أونتاريو عبر غرب نيويورك، بعد تجاوز نهر الموهوك، وأن تتقدم قوات الجهة الجنوبية أعلى وادي نهر هدسون من مدينة نيويورك، وأن تتقدم قوات الجهة الشمالية جنوبًا من مونتريال، وأن تلتقي القوات الثلاث بالقرب من ألباني في نيويورك، لتفصل نيو إنجلاند عن المستعمرات الأخرى.
الوضع البريطاني.