Решение инженерных задач на высокопроизводительном вычислительном комплексе ПНИПУ

УДК 004.942:004.382.2

Н.А. Шевелев, В.Я. Модорский

Пермский национальный исследовательский политехнический университет,

Пермь, Россия

РЕШЕНИЕ ИНЖЕНЕРНЫХ ЗАДАЧ НА ВЫСОКОПРОИЗВОДИТЕЛЬНОМ ВЫЧИСЛИТЕЛЬНОМ КОМПЛЕКСЕ ПНИПУ

Представлен анализ направлений исследований, проводимых на высокопроизводительном вычислительном комплексе Пермского национального исследовательского политехнического университета. Рассмотрены некоторые вопросы, связанные с организацией дополнительного образования в области параллельных вычислений. Приводятся некоторые технические характеристики кластера. Отмечается, что одним из основных направлений работ является решение сложных междисциплинарных инженерных задач, связанных с проектированием наукоемких образцов авиационной и ракетно-космической техники. Кроме того, приводятся примеры решения задач в широком спектре направлений, в том числе турбомашиностроения, двигателестроения, транспорта, летательных аппаратов, испытательного оборудования, энергетики и добычи полезных ископаемых. Обсуждаются некоторые перспективы использования суперкомпьютерной техники в Пермском национальном исследовательском политехническом университете.

Ключевые слова: высокопроизводительные вычислительные системы, междисциплинарные инженерные задачи, авиационная и ракетно-космическая техника, проектирование наукоемких образцов техники, математическое моделирование, вычислительный эксперимент.

N.A. Shevelev, V.Ya. Modorskiy

Perm National Research Polytechnic University, Perm, Russian Federation

SOLUTION OF ENGINEERING PROBLEMS ON HIGH-PERFORMANCE COMPUTING SYSTEM OF PERM NATIONAL RESEARCH POLYTECHNIC UNIVERSITY

The work presents research guidelines being carried out on high-performance computing system of Perm National Research Polytechnic University (PNRPU). The problems of additional education in the field of parallel computing are considered. Some technical characteristics of the PNRPU cluster are given. It is noted that one of the principal directions in studies is solution of the complex interdisciplinary engineering problems connected with designing science intensive equipment for aviation and rocket engineering. In addition the examples are shown for wide range of engineering directions: turbomachinery, propulsion engineering, transportation industry, flight vehicles, test equipment, energetics and mining operations. Some prospects of using PNRPU supercomputing technologies are discussed.

Keywords: high-performance computing systems, interdisciplinary engineering problems, aviation and rocket engineering, designing science intensive equipment, mathematical modeling, computing experiment.

Отправной точкой создания высокопроизводительного вычислительного комплекса (ВВК) ПНИПУ является начало реализации приоритетного национального проекта «Образование» и инновационной образовательной программы ПНИПУ в 2008 г. В рейтинге самых мощных суперкомпьютеров СНГ ТОП-50 пермский кластер занял тогда 13e место с производительностью 4,096 ТФлопс. На сегодняшний день, с вводом в эксплуатацию новой стойки IBM с 24 вычислительными узлами, общее число процессоров достигло 992, а пиковая производительность возросла на 20 ТФлопс. Использованы 12 графических ускорителей компании NVIDIA. Машинный зал ВВК оснащен всем необходимым современным оборудованием.

С момента пуска в эксплуатацию прошло шесть лет. Как используется уникальная техника, каковы планы на будущее?

Работа с кластером разворачивалась по трем направлениям. С одной стороны, широкое использование пакетов инженерного анализа, таких как ANSYS, ABAQUS, LS Dyna, CCM+, FlowVision и др., позволяющее работать с многопроцессорным комплексом без специальных знаний в области распределенных вычислений. Эти пакеты позволили проводить уникальные междисциплинарные расчеты для сложных технических объектов. При этом используется привычная платформа от Microsoft - Windows HPC Server 2008 R2. С другой стороны, для пользователей, разрабатывающих собственные параллельные приложения, имеется возможность работы в специализированной среде Visual Studio Professional 2008. Таким образом, ВВК функционирует как центр коллективного пользования для более чем ста научных коллективов.

Вместе с тем была организована система обучения распределенным вычислениям. Утверждено свыше десятка программ дополнительного профессионального образования объемом от 72 до 500 ч, в том числе «Многопроцессорные вычислительные системы и параллельное программирование», «Эксплуатация высокопроизводительных вычислительных систем и многопроцессорных программных комплексов», программы для освоения распределенных вычислений в системах инженерно анализа. По результатам обучения слушателям выдается документ установленного образца.

В рамках дополнительного образования обучение прошли около 500 слушателей. В чтении лекций и проведении практических занятий

со слушателями приняли участие специалисты Нижегородского государственного университета им. Н.Н. Лобачевского, Саровского инженерного центра, ОАО «Авиадвигатель» (г. Пермь), таких специализированных организаций, как «DATA Технологии» (г. Москва), ООО «ТЕСИС» (г. Москва, г. Н. Новгород), ООО «ПЛМ Урал» (г. Екатеринбург) и др. Пермские специалисты прошли обучение по программе повышения квалификации по приоритетным направлениям профессорско-преподавательского состава вузов, находящихся в ведении Федерального агентства по образованию, «Высокопроизводительные вычисления» (ННГУ, г. Н. Новгород). При этом специалисты ПНИПУ активно налаживали контакты с такими ведущими центрами распределенных вычислений в России, как НИВЦ МГУ, ННГУ им. Н.И. Лобачевского, ЮФУ, ЮУрГУ, УГАТУ и др. О результатах работ в области распределенных вычислений специалисты ПНИПУ неоднократно докладывали на научных конференциях, таких как научная конференция «Численные методы, параллельные вычисления и информационные технологии» (ИВМ РАН, НИВЦ МГУ, г. Москва, 13 февраля 2008 г.), семинар «Высокопроизводительные вычисления и параллельное программирование» (Intel и Microsoft, г. Москва, 26 марта 2008 г.), VI открытая Всероссийская конференция «Преподавание информационных технологий в Российской Федерации» (ННГУ, г. Нижний Новгород, 12-13 мая 2008 г.), совещание по результатам реализации инновационных образовательных программ ПНПО в части формирования актуальных компетенций в области информационно-коммуникационных технологий, в том числе с использованием установленных суперкомпьютеров, и развития межвузовского взаимодействия (ННГУ, г. Нижний Новгород, 5 сентября 2008 г.), всероссийская научно-техническая конференция «Ракетно-космические двигательные установки» (МГТУ им. Н.Э. Баумана, г. Москва, 20082014 гг.), всероссийская конференция «Технологии Microsoft в теории и практике программирования» для студентов, аспирантов и молодых ученых Российской Федерации (ННГУ им. Н.И. Лобачевского, г. Нижний Новгород, 11-12 марта 2009 г.), XI Международный семинар «Супервычисления и математическое моделирование» (ВНИИЭФ, г. Саров, 5-9 октября 2009 г.), международная научно-практическая конференция «Инженерные системы» (компания «ТЕСИС», г. Москва, 2008-2014 гг.), международная суперкомпьютерная конференция «Научный сервис в сети Интернет» (г. Новороссийск, 2009-2014 гг.) и др.

Несколько лет успешно функционирует секция «Системы автоматизированного проектирования и высокопроизводительные вычислительные комплексы» в рамках ежегодной всероссийской научно-технической конференции «Аэрокосмическая техника, высокие технологии и инновации» (ПНИПУ, Пермь, 2008-2014 гг.). В работе секции принимали участие специалисты из Москвы, Санкт-Петербурга, Н. Новгорода, Перми, Екатеринбурга, Челябинска, Уфы, Сарова.

Пермский государственный технический университет вошел в Суперкомпьютерный консорциум университетов России, и ему присвоена категория Национального исследовательского университета России.

Применение передовых информационных технологий обеспечивает ускоренное проектирование современных газотурбинных двигателей и энергетических установок на пермских предприятиях ОАО «Авиадвигатель», ОАО «Протон-ПМ» и ОАО НПО «Искра». Проведение вычислительных экспериментов на суперкомпьютере призвано сократить количество дорогостоящих стендовых испытаний. ОАО «Авиадвигатель» выступил с софинансированием научно-образовательного комплекса «Распределенные вычисления». На основе создания и развития математических моделей сложных объектов развивается разработка нанотехнологий и композитных материалов. Кроме того, совместно с ОАО НПК «Уралвагонзавод» проведены работы по проектированию элементов конструкций подвижного состава железных дорог из нанокомпозитов (рис. 1). При этом появляется возможность снизить объем порожних перевозок и сократить расходы на капитальный ремонт вагонов-хопперов. Для финансирования производства уникальной продукции была подана заявка в госкорпорацию «РОСНАНО».

Совместно с ОАО «Уралкалий», ОАО «Сильвинит» и ГП «Возрождение» в ПНИПУ решена актуальная задача обеспечения работоспособности и износоустойчивости оборудования шахт и обогатительных фабрик по производству калийных удобрений на основе решения связанных задач гидрогазодинамики и напряженно-деформированного состояния конструкций при динамических нагрузках, с учетом износа. Оптимизация этих задач на основе математического трехмерного моделирования проведена на базе пермского кластера (рис. 2).

Рис. 1. Проектирование крыши вагона-хоппера из композиционного материала

Рис. 2. Процессы в циркуляционном кармане флотационной машины

Эти работы проводятся совместно с предприятиями «Уральский НИИ композиционных материалов», «НИИ полимерных материалов», ГП «Возрождение».

В 2014 г. коллектив ЦВВС выиграл конкурс на реализацию президентской программы «Наноматериалы и композиты. Практические основы современных технологий производства композиционных материалов». Партнером ПНИПУ выступило ОАО НПО «Искра», 15 специалистов которого освоили предложенную насыщенную программу обучения: лабораторные и практические занятия в Центре экспериментальной механики (руководитель - профессор В.Э. Вильдеман), ЦВВС (руководитель - профессор В.Я. Модорский), Центре акустических исследований, разработки и производства композитных и звуко-

полощающих авиационных конструкций (руководитель - профессор А. Н. Аношкин), Центре высокотехнологичных машиностроительных производств (руководитель - профессор В.В. Карманов). Слушатели программы прошли стажировку в Межотраслевом инжиниринговом центре «Новые материалы, композиты и нанотехнологии» МГТУ им. Н.Э. Баумана и в Institute for advanced composites and robotics (г. Прилеп, Республика Македония).

Тесные контакты с производственниками, разработчиками газоперекачивающих станций (рис. 3) позволили коллективу ЦВВС не только провести трудоемкие расчеты подводящих и отводящих шлейфов ГПА, но и выиграть конкурс ОАО «Газпром» на реализацию программы ДПО «Техническая диагностика и ремонт линейной части и запорной арматуры магистральных газопроводов».

id

Рис. 3. Результаты численного моделирования

Коллектив ЦВВС принимал активное участие в реализации совместного проекта ПНИПУ и ОАО «Протон-ПМ» по созданию высокотехнологичного производства для испытания газотурбинных установок мощностью до 40 МВт на многоцелевом адаптивном экологичном стенде с общим объемом финансирования 600 млн руб. (рис. 4).

На кластере ПНИПУ развернуты работы по исследованию кави-тационных эффектов технологического оборудования и анализу газогидродинамических процессов и напряженно-деформированного состояния конструкций в связанной постановке (рис. 5).

Рис. 4. Многоцелевой адаптивный экологичный стенд

Tolal Pressure

Confuir 1 — 1.000e+CQ7 8-ОООе+ООв $.0000+006 4.000e+0 06 2.000e+006 O.OOOa+OOO -2.0006+006 -4 OOOe+OOfl

-eoooe+ooe

Щ -8,000e+006 "1.000e+007

[Pal

Кроме того, проведено численное моделирование работы погружных насосов для ОАО «Новомет-Пермь» (рис. 6).

Большой объем вычислительных экспериментов проводится для моделирования аэродинамики и внутрика-мерных газодинамических процессов в двигателях летательных аппаратов. Решена и подтверждена экспериментально задача, связанная с работой подвижных элементов конструкций

в потоке газа

Рис. 7. Моделирование газорегулирующего клапана

Проводятся работы совместно с Пермской научно-производственной приборостроительной компанией.

На основе математического моделирования эффективно использование ВВК для постоянного мониторинга окружающей среды, контроля переноса выбросов предприятий в окружающей среде в режиме реального времени и в масштабах региона. На ВВК ПНИПУ по заказам предприятий проведены вычислительные эксперименты по моделированию газогидродинамических процессов в каналах переменного сечения газоходов, выступающих в роли очистных сооружений для промышленных отходов.

Активная работа ведется по вычислительному моделированию поведения строительных конструкций, предупреждению осадки фундаментов и возникновения трещин. Решаются также уникальные задачи гидроупругости строительных конструкций.

В сотрудничестве с пермскими вузами - Государственным университетом, медицинской, фармацевтической и сельскохозяйственной академиями - реализуется возможность проведения многомерных вычислительных экспериментов применительно к задачам медицины, водоочистки, сохранения и переработки сельхозпродукции, деревозаго-товительного и деревообрабатывающего комплексов, актуальным для Пермского края (рис. 8).

Кроме того, решаются задачи моделирования процессов, связанных с оценкой проницаемости межклеточного пространства живых тканей с учетом динамического напряженно-деформированного состояния мышц и кровотока. Этот класс задач важен для создания эффективных лекарственных препаратов и методик лечения тяжелых заболеваний. Создано уникальное программное обеспечение «Тороскопия» для автоматизированного формирования методики проведения операций на легких с учетом многофакторного анализа и экспертных оценок.

Рис. 8. Моделирование динамики акустического трансформатора

На базе кластера ПНИПУ проведены расчеты газодинамики и НДС крупногабаритного вентилятора из стеклопластика (рис. 9-11).

Рис. 9. Линии тока при работе вентилятора

Рис. 10. Конечно-элементная сетка крупногабаритного вентилятора

D: Static Structural

750,00 -Tí'.''

Рис. 11. Эквивалентные напряжения по Мизесу по поверхности

конструкции

В настоящее время ведется изготовление вентилятора для последующей поставки на объекты энергетики (рис. 12).

Рис. 12. Этапы изготовления лопасти вентилятора

Кроме того, на базе кластера ПНИПУ проводятся работы по математическому моделированию средствами ПК OLGA параметров схе-

мы сбора и транспорта продукции скважин. Проведены тестовые расчеты для нужд предприятий нефтедобывающей отрасли Пермского края.

Перспективным направлением развития является создание виртуальной сети, объединяющей суперкомпьютеры и экспериментальные установки для решения задач динамики в реальном масштабе времени. Работы в данном направлении продолжаются по гранту РФФИ 11-07-96003 и программе «Университетский кластер».

Новый подъем эффективности реализации высокопроизводительных вычислений на кластере ПНИПУ для фундаментальных и прикладных научных исследований и нужд промышленных предприятий Пермского региона можно ожидать в ходе реализации гранта Российского научного фонда и НИР «Проведение исследований и разработка способов и технологий повышения эффективности распыла жидкого топлива и горения топливовоздушных смесей в авиационных двигателях в рамках федеральной целевой программы.

Об авторах

Шевелев Николай Алексеевич (Пермь, Россия) - проректор по учебной работе, профессор, доктор технических наук, ФГБОУ ВПО ПНИПУ (614990, г. Пермь, Комсомольский пр., 29, e-mail: n.shevelev@pstu.ru).

Модорский Владимир Яковлевич (Пермь, Россия) - директор Центра высокопроизводительных вычислительных систем, профессор, доктор технических наук, ФГБОУ ВПО ПНИПУ (614990, г. Пермь, Комсомольский пр., 29, e-mail: modorsky@mail.ru).

About the authors

Nikolay A. Shevelev (Perm, Russian Federation) - Vice-Rector for Academic Affairs, Doctor of Technical Sciences, Professor, Perm National Research Polytechnic University (29, Komsomolsky av., Perm, 614990, Russian Federation, e-mail: n.shevelev@pstu.ru).

Vladimir Ya. Modorskiy (Perm, Russian Federation) - Director of the Center of High-performance Computing Systems, Doctor of Technical Sciences, Professor, Perm National Research Polytechnic University (29, Komso-molsky av., Perm, 614990, Russian Federation, e-mail: modorsky@mail.ru).

Получено 1.10.2014