Кластерные структуры и их оптимизация

ФЕДЕРАЛЬНОЕ АГЕНТСТВО ПО ОБРАЗОВАНИЮ

ГОСУДАРСТВЕННОЕ ОБРАЗОВАТЕЛЬНОЕ УЧРЕЖДЕНИЕ

ВЫСШЕГО ПРОФЕССИОНАЛЬНОГО ОБРАЗОВАНИЯ

«САНКТ-ПЕТЕРБУРГСКИЙ ГОСУДАРСТВЕННЫЙ

ИНЖЕНЕРНО-ЭКОНОМИЧЕСКИЙ УНИВЕРСИТЕТ»



Кафедра вычислительных систем и программирования









Курсовая работа на тему:

«Кластерные структуры и их оптимизация»







Работу выполнил

студент 1-го курса

группы 3881

факультета ИСВЭУ

Рябков И.М.















Санкт-Петербург

2009


Оглавление



Цели и задачи

Основные задачи:

Кластерная архитектура

Разделение на High Avalibility и High Performance системы

Проблематика High Performance кластеров

Проблематика High Availability кластерных систем

Смешанные архитектуры

Решение задач оптимизации

Решение задачи оптимизации по производительности

Решение задачи оптимизации по надежности

Решение задачи оптимизации по мультипликативному критерию

Выводы

Список литературы


Цели и задачи



Целью курсовой работы является изучение принципов построения систем параллельной обработки данных, а также ознакомление с методами расчета надежности и производительности кластерных систем и их оптимизации. Также, в процессе выполнения курсовой работы, будут получены основы работы в математическом редакторе MathCad.



Основные задачи:

Привести основы построения кластерных систем и их классификацию;

Рассчитать решение задачи оптимизации кластера по различным факторам:

По производительности

По надежности

По мультипликативному критерию (по времени обслуживания запросов и надежности)


Кластерная архитектура



Под кластерной системой понимают набор рабочих станций (или даже персональных компьютеров) общего назначения, соединенных с помощью стандартных сетевых технологий (Fast/Gigabit Ethernet, Myrinet) на базе шинной архитектуры или коммутатора. Такие суперкомпьютерные системы являются самыми дешевыми, поскольку собираются на базе стандартных комплектующих элементов ("off the shelf"), процессоров, коммутаторов, дисков и внешних устройств. 

Кластер функционирует как единая система, то есть для пользователя или прикладной задачи вся совокупность вычислительной техники выглядит как один компьютер. Именно это и является самым важным при построении кластерной системы.

К общим требованиям, предъявляемым к кластерным системам, относятся:

Высокая готовность

Высокое быстродействие

Масштабирование

Общий доступ к ресурсам

Удобство обслуживания

Естественно, что при частных реализациях одни из требований ставятся во главу угла, а другие отходят на второй план. Так, например, при реализации кластера, для которого самым важным является быстродействие, для экономии ресурсов меньше внимания придают высокой готовности.

В общем случае кластер функционирует как мультипроцессорная система, поэтому, важно понимать классификацию таких систем в рамках распределения программно-аппаратных ресурсов. 

Разделение на High Avalibility и High Performance системы

В функциональной классификации кластеры можно разделить на "Высокоскоростные" (High Performance, HP), "Системы Высокой Готовности" (High Availability, HA), а также "Смешанные Системы".

Высокоскоростные кластеры используются для задач, которые требуют значительной вычислительной мощности. Классическими областями, в которых используются подобные системы, являются:

обработка изображений: рендеринг, распознавание образов

научные исследования: физика, биоинформатика, биохимия, биофизика

промышленность (геоинформационные задачи, математическое моделирование) и много других…

Кластеры, которые относятся к системам высокой готовности, используются везде, где стоимость возможного простоя превышает стоимость затрат, необходимых для построения кластерной системы, например:

биллинговые системы

банковские операции

электронная коммерция

управление предприятием, и т.п.

Смешанные системы объединяют в себе особенности как первых, так и вторых. Позиционируя их, следует отметить, что кластер, который обладает параметрами как High Performance, так и High Availability, обязательно проиграет в быстродействии системе, ориентированной на высокоскоростные вычисления, и в возможном времени простоя системе, ориентированной на работу в режиме высокой готовности.


Проблематика High Performance кластеров



 

Рисунок 1. Высокоскоростной кластер



Почти в любой ориентированной на параллельное вычисление задаче невозможно избегнуть необходимости передавать данные от одной подзадачи другой.

Таким образом, быстродействие High Performance кластерной системы определяется быстродействием узлов и связей между ними. Причем влияние скоростных параметров этих связей на общую производительность системы зависит от характера выполняемой задачи. Если задача требует частого обмена данными с подзадачами, тогда быстродействию коммуникационного интерфейса следует уделять максимум внимания. Естественно, чем меньше взаимодействуют части параллельной задачи между собою, тем меньше времени потребуется для ее выполнения. Что диктует определенные требования также и на программирование параллельных задач.

Основные проблемы при необходимости обмена данными между подзадачами возникают в связи с тем, что быстродействие передачи данных между центральным процессором и оперативной памятью узла значительно превышает скоростные характеристики систем межкомпьютерного взаимодействия. Кроме того, сильно сказывается на изменении функционирования системы, по сравнению с привычными нам SMP системами, разница в быстродействии кэш памяти процессоров и межузловых коммуникаций.

Быстродействие интерфейсов характеризуется двумя параметрами: пропускной способностью непрерывного потока данных и максимальным количеством самых маленьких пакетов, которые можно передать за единицу времени. Варианты реализаций коммуникационных интерфейсов мы рассмотрим в разделе «Средства реализации High Performance кластеров».



Проблематика High Availability кластерных систем



Сегодня в мире распространены несколько типов систем высокой готовности. Среди них кластерная система является воплощением технологий, которые обеспечивают высокий уровень отказоустойчивости при самой низкой стоимости. Отказоустойчивость кластера обеспечивается дублированием всех жизненно важных компонентов. Максимально отказоустойчивая система должна не иметь ни единой точки, то есть активного элемента, отказ которого может привести к потере функциональности системы. Такую характеристику как правило называют – NSPF (No Single Point of Failure, - англ., отсутствие единой точки отказа).



 
Рисунок 2. Кластерная система с отсутствием точек отказов

При построении систем высокой готовности, главная цель - обеспечить минимальное время простоя.

Для того, чтобы система обладала высокими показатели готовности, необходимо:

чтобы ее компоненты были максимально надежными

чтобы она была отказоустойчивая, желательно, чтобы не имела точек отказов

а также важно, чтобы она была удобна в обслуживании и разрешала проводить замену компонентов без останова

Пренебрежение любым из указанных параметров, может привести к потере функциональности системы.

Давайте коротко пройдемся по всем трём пунктам.

Что касается обеспечения максимальной надежности, то она осуществляется путем использования электронных компонентов высокой и сверхвысокой интеграции, поддержания нормальных режимов работы, в том числе тепловых.

Отказоустойчивость обеспечивается путем использования специализированных компонентов (ECC, Chip Kill модули памяти, отказоустойчивые блоки питания, и т.п.), а также с помощью технологий кластеризации. Благодаря кластеризации достигается такая схема функционирования, когда при отказе одного из компьютеров задачи перераспределяются между другими узлами кластера, которые функционируют исправно. Причем одной из важнейших задач производителей кластерного программного обеспечения является обеспечение минимального времени восстановления системы в случае сбоя, так как отказоустойчивость системы нужна именно для минимизации так называемого внепланового простоя.

Много кто забывает, что удобство в обслуживании, которое служит уменьшению плановых простоев (например, замены вышедшего из строя оборудования) является одним из важнейших параметров систем высокой готовности. И если система не разрешает заменять компоненты без выключения всего комплекса, то ее коэффициент готовности уменьшается.



Смешанные архитектуры



 
Рисунок 3. Высокоскоростной отказоустойчивый кластер



Сегодня часто можно встретить смешанные кластерные архитектуры, которые одновременно являются как системами высокой готовности, так и высокоскоростными кластерными архитектурами, в которых прикладные задачи распределяются по узлам системы. Наличие отказоустойчивого комплекса, увеличение быстродействия которого осуществляется путем добавления нового узла, считается самым оптимальным решением при построении вычислительной системы. Но сама схема построения таких смешанных кластерных архитектур приводит к необходимости объединения большого количества дорогих компонентов для обеспечения высокого быстродействия и резервирования одновременно. И так как в High Performance кластерной системе наиболее дорогим компонентом является система высокоскоростных коммуникаций, ее дублирование приведет к значительным финансовым затратам. Следует отметить, что системы высокой готовности часто используются для OLTP задач, которые оптимально функционируют на симметричных мультипроцессорных системах. Реализации таких кластерных систем часто ограничиваются 2-х узловыми вариантами, ориентированными в первую очередь на обеспечение высокой готовности. Но в последнее время использование недорогих систем количеством более двух в качестве компонент для построения смешанных HA/HP кластерных систем становится популярным решением.



Решение задач оптимизации



Для решения задач оптимизации кластерной структуры использованы инструментальные средства математического редактора MathCad.

Ниже приведены решения трех задач: по производительности, по надежности и по мультипликативному критерию (по надежности и времени обслуживания запросов).

В решении задач были использованы следующие переменные:

c – цена одного узла

p – надежность узлов

v – среднее время

λ – количество отказов в единицу времени

с0 – максимально допустимая сумма денежных средств


Решение задачи оптимизации по производительности






































































Решение задачи оптимизации по надежности


























































Решение задачи оптимизации по мультипликативному критерию






































































Выводы



	В результате проведенной работы были рассмотрены основы построения кластерной архитектуры, их классификация и основные преимущества.

	Были решены три оптимизационные задачи по расчету производительности, надежности и по мультипликативному критерию при заданных параметрах.

Также были получены основы работы в математическом редакторе MathCad.


Список литературы



http://www.ixbt.com/cpu/clustering.shtml

http://www.csa.ru/analitik/distant/q_9.html

http://ru.wikipedia.org/wiki/HPC

http://www.interface.ru/fset.asp?Url=/misc/cod.htm

http://www.kcc.ru/about/partners/product8/cat19/prod107





1