Использование языка Fortran DVMH для решения задач гидродинамики на высокопроизводительных гибридных вычислительных системах

ИСПОЛЬЗОВАНИЕ ЯЗЫКА FORTRAN DVMH ДЛЯ РЕШЕНИЯ ЗАДАЧ ГИДРОДИНАМИКИ НА ВЫСОКОПРОИЗВОДИТЕЛЬНЫХ ГИБРИДНЫХ ВЫЧИСЛИТЕЛЬНЫХ СИСТЕМАХ1

В.А. Бахтин, М.С. Клинов, В.А. Крюков, Н.В. Поддерюгина,

М.Н. Притула, А.А. Смирнов

В 2011 году для новых гетерогенных и гибридных суперкомпьютерных систем в Институте прикладной математики им. М.В. Келдыша РАН была предложена модель DVMH (DVM for Heterogeneous systems), разработаны языки программирования высокого уровня, представляющие собой стандартные языки Фортран и Си, расширенные директивами отображения программы на параллельную машину, оформленными в виде специальных комментариев (или прагм). В статье анализируется эффективность разработанных на языке Fortran DVMH параллельных программ для решения задач гидродинамики «Каверна» и «Контейнер». Приводятся результаты расчетов при использовании нескольких тысяч ядер и более 1200 GPU-ускорителей.

Ключевые слова: DVM for Heterogeneous systems, Fortran DVMH, гибридные системы с ускорителями, графические процессоры, CUDA.

Введение

Будущее высокопроизводительных компьютерных технологий неразрывно связано с массивным параллелизмом и с гетерогенностью. Создаются процессоры, содержащие все большее количество ядер. Жесткие ограничения по энергопотреблению приводят к тому, что основные вычислительные мощности обеспечиваются многоядерными GPU-ускорителями достаточно специфичной архитектуры, адаптация программного обеспечения к которой - сложная наукоемкая задача.

Разрыв между существующим программным обеспечением и возможностями новых суперкомпьютеров носит принципиальный характер и является существенной проблемой на пути эффективного использования современной вычислительной техники в научных исследованиях.

Разработанная в Институте прикладной математики им. М.В. Келдыша РАН высокоуровневая модель параллельного программирования DVMH (DVM for Heterogeneous systems) существенно упрощает разработку параллельных программ для кластеров с гетерогенными узлами, использующих в качестве ускорителей графические процессоры.

Цель данной работы - исследование эффективности DVMH-подхода к созданию прикладного программного обеспечения на примере задач гидродинамики.

В разделе 1 описаны основные возможности языка Fortran DVMH. В разделе 2 приведены сведения о задачах гидродинамики «Каверна» и «Контейнер», описаны преобразования, которые потребовались при их распараллеливании с использованием языка Fortran DVMH. В разделе 3 приводятся экспериментальные данные об эффективности

1 Статья рекомендована к публикации программным комитетом Международной научной конференции «Параллельные вычислительные технологии 2013».

выполнения полученных параллельных программ на суперкомпьютерном комплексе МГУ «Ломоносов», выполнено сравнение использования высокоуровневых и низкоуровневых средств программирования для реализации одной и той же прикладной задачи при использовании до 1024 GPU.

1. Модель DVMH. Язык Fortran DVMH

При разработке модели DVMH за основу была взята модель DVM [1], в которую были добавлены следующие возможности:

1) Определение фрагментов программы, которые следует выполнять на том или ином ускорителе.

Такими фрагментами программ (называемых вычислительными регионами, или просто регионами) могут быть отдельные DVM-циклы или их последовательность.

2) Определение требуемых регионам данных.

Для каждого региона указываются требуемые ему данные и вид их использования (входные, выходные, локальные).

3) Задание свойств цикла и правил отображения витков цикла на ускоритель.

Для каждого DVM-цикла можно задать конфигурацию блока нитей (в терминологии CUDA). Если конфигурация блока нитей не задана в программе, то она определяется автоматически.

4) Управление перемещением данных между оперативной памятью универсального процессора и памятями ускорителей.

Перемещение данных осуществляется, в основном, автоматически в соответствии с запусками регионов на ускорителях и информацией об используемых ими данных. Для фрагментов программ, которые выполняются на универсальном процессоре (вне вычислительных регионов), имеются специальные средства для задания, какие данные с ускорителя им нужны и какие данные ими были скорректированы.

1.1. Организация вычислений, спецификации потоков данных

Вычислительный регион выделяет часть программы (с одним входом и одним выходом) для возможного выполнения на одном или нескольких вычислителях.

!DVM$ REGION [clause {, clause}]

<region inner>

!DVM$ END REGION

Регион может быть исполнен на одном или сразу нескольких ускорителях и/или на хост-системе, при этом на хост-системе может быть исполнен любой регион, а на возможность использования каждого типа ускорителей могут накладываться свои дополнительные ограничения на содержание региона.

Например, с использованием CUDA-устройства может быть исполнен любой регион без использования операций ввода/вывода, вызовов внешних процедур, рекурсивных вызовов.

Для управления тем, на каких вычислителях регион может исполняться, следует использовать клаузу TARGETS (см. ниже).

Вложенные (статически или динамически) регионы не допускаются.

DVM-массивы распределяются между выбранными вычислителями (с учетом их заданных весов и быстродействия вычислителей), нераспределенные данные размножаются. Витки вложенных в регион параллельных DVM-циклов делятся между выбранными

для региона вычислителями в соответствии с правилом отображения параллельного цикла, заданного в директиве параллельного DVM-цикла. Количество и типы используемых каждым MPI-процессом ускорителей можно задать с помощью переменных окружения, а по умолчанию каждым процессом будут использованы все найденные поддерживаемые ускорители.

При помощи клауз вычислительного региона может быть задано:

1) Направление использования подмассивов и скаляров в регионе:

IN(subarray or scalar {, subarray or scalar}) - по входу в регион нужны актуальные данные;

OUT(subarray_or_scalar {, subarray_or_scalar}) - значения указанных переменных в регионе изменяются и могут быть использованы далее;

LOCAL(subarray_or_scalar {, subarray_or_scalar}) - значения указанных переменных в регионе изменяются, но эти изменения не будут использованы далее; INOUT(subarray_or_scalar {, subarray_or_scalar}) - сокращенная запись одновременно двух клауз IN и OUT;

INLOCAL(subarray_or_scalar {, subarray_or_scalar}) - сокращенная запись одновременно двух клауз IN и LOCAL.

Если для переменной указано IN, и не указано OUT или LOCAL, то считается, что в такую переменную в регионе вообще нет записей и она не меняется в процессе его исполнения.

После выбора набора исполнителей региона автоматически определяются и выполняются операции по выделению памяти для подмассивов и скаляров (если отсутствовал представитель или присутствовал не являющийся объемлющим), операции по обновлению входных данных (если не было актуального представителя). По выходу из региона обновления данных не происходят.

Указание всех используемых переменных в регионе не обязательно. При этом используемые, но не указанные в клаузах переменные включаются в регион в автоматическом режиме компилятором Fortran DVMH по правилам:

а) Все используемые массивы считаются используемыми полностью (не выделяются подмассивы);

б) Всякая переменная, которая используется на чтение получает атрибут IN;

в) Всякая переменная, которая используется на запись получает атрибут INOUT;

г) Всякая переменная, направление использования которой не поддаётся определению, получает атрибут INOUT;

д) атрибуты LOCAL и OUT в автоматическом режиме не проставляются.

2) Список типов вычислителей, на которых предполагается исполнять регион:

TARGETS

где target_name - это CUDA | HOST.

Такая клауза может быть только одна в директиве. Действительное исполнение региона будет происходить на всех используемых конкретным MPI-процессом вычислителях указанных в директиве типов, для которых регион был подготовлен, а если таковых нет, то на хост-системе. Количество и типы используемых каждым MPI-процессом ускорителей можно задать с помощью переменных окружения, а по умолчанию все вычислительные ресурсы каждого узла будут использованы процессами равномерно.

3) ASYNC - возможность асинхронного исполнения региона.

При запуске региона в любом режиме (синхронный, асинхронный) ожидание завершения ранее запущенного региона возникает, если клаузами IN, OUT, LOCAL, INOUT, INLOCAL задается необходимость изменить данные, используемые этим (ранее запущенным) регионом или необходимость использовать (запись или чтение) данные, изменяемые этим (ранее запущенным) регионом (OUT, INOUT, LOCAL, INLOCAL).

Управление не перейдет на следующий за синхронным регионом оператор, пока текущий регион не закончит исполнение. Управление может перейти на следующий за асинхронным регионом оператор, не дожидаясь его завершения (или даже его старта).

В полный цикл исполнения региона входит:

1) освобождение места для новых переменных на ускорителях (возможна автоматическая актуализация переменных на хосте),

2) выделение памяти для новых переменных на ускорителях,

3) закачка необходимых актуальных данных на вычислители,

4) исполнение исполняемых операторов на вычислителях.

<region inner> - это нуль или более следующих друг за другом конструкций:

1) Параллельный DVM-цикл

Параллельный DVM-цикл - важнейшая часть вычислительного региона.

!DVM$ PARALLEL clause {, clause}

<DVM-loop nest>

В качестве клауз кроме клауз DVM-цикла могут быть также заданы:

а) PRIVATE

Объявляет переменную приватной (локальной для каждого витка цикла), при этом ее объявление в объемлющем цикл регионе не обязательно (более того, если по-другому она не используется, то объявление ее в регионе излишне).

б) CUDA_BLOCK

Указание размера блока нитей для вычислителя CUDA. Может указываться целочисленное выражение - тогда блок полагается одномерным, может указываться два или три целочисленных выражения через запятую - соответственно, блок будет полагаться имеющим указанную размерность.

2) Последовательная группа операторов

Каждый оператор последовательной группы операторов исполняется на всех вычислителях, выбранных для исполнения региона, кроме случая модификации в нем распределенных данных - тогда действует правило собственных вычислений.

3) Хост-секция

!DVM$ HOSTSECTION

<hostsection inner>

!DVM$ END HOSTSECTION

Объявляет специального вида секцию исполнения на хосте.

<hostsection inner> - это часть программы с одним входом и одним выходом, которая будет исполняться на хост-системе. Всякие изменения переменных в этой секции могут быть потеряны. Такие секции предлагается использовать в отладочных целях для промежуточного контроля значений переменных по ходу исполнения региона. Операции вывода разрешены, вызовы внешних процедур разрешены.

1.2. Управление перемещением данных, актуальностью

Для фрагментов программ, которые выполняются на хосте (вне вычислительных регионов), управление перемещением данных между оперативной памятью универсального процессора и памятями ускорителей задается при помощи специальных директив актуализации:

!DVM$ GET_ACTUAL[(subarray_or_scalar {, subarray_or_scalar})] делает все необходимые обновления для того, чтобы в хост-памяти были самые новые данные в указанном подмассиве или скаляре. В случае отсутствия параметров все имеющиеся новые данные с ускорителей переписываются в память хост-системы;

!DVM$ ACTUAL[(subarray_or_scalar {, subarray_or_scalar})]

объявляет тот факт, что указанный подмассив или скаляр самую новую версию имеет в хост-памяти. При этом пересекающиеся части всех других представителей указанных переменных автоматически устаревают и перед использованием будут (по необходимости) обновлены. В случае отсутствия параметров все имеющиеся представители переменных в памятях ускорителей объявляются устаревшими.

Использование директив ACTUAL и GET_ACTUAL без параметров не рекомендуется в силу повышения вероятности ошибок (ACTUAL), а также опасности излишних перемещений данных (GET_ACTUAL).

1.3. Компилятор с языка Fortran DVMH

Компилятор с языка Fortran DVMH преобразует исходную программу в параллельную программу на языке Fortran с вызовами функций системы поддержки времени выполнения (библиотека Lib-DVM). Кроме того, компилятор создает для каждой исходной программы еще два модуля: один - на языке С CUDA [2] и второй - на языке Fortran CUDA [3].

В частности, для параллельного цикла из региона компилятор генерирует функцию-обработчик на языке C CUDA и ядро для вычислений на GPU на языке Fortran CUDA, а также процедуру-обработчик на языке Fortran для выполнения на хост-машине. Обработчик - это подпрограмма, осуществляющая обработку части параллельного цикла на конкретном устройстве. Она принимает в качестве аргументов описатель устройства и части параллельного цикла. Обработчик запрашивает порцию для исполнения (границы циклов и шаг), конфигурацию параллельной обработки (количество нитей), инициализацию редукционных переменных, а после выполнения порции передает результат частичной редукции в систему поддержки. В случае CUDA-обработчика, он для обработки частей цикла вызывает специальным образом сгенерированное ядро на языке Fortran CUDA. CUDA-ядро выполняется на GPU, производя вычисления, составляющие тело цикла.

По умолчанию предполагается, что регион может исполняться на всех типах вычислителей и компилятор генерирует обработчики для хост-машины и CUDA-вычислителя. Пользователь может указать посредством клаузы TARGETS директивы REGION, на каких вычислителях предполагается исполнять регион. Согласно его указаниям компилятор генерирует тот или иной обработчик.

Для взаимодействия между узлами система поддержки использует библиотеку MPI.

Основная работа по реализации модели выполнения параллельной программы (например, распределение данных и вычислений) осуществляется динамически. Это

позволяет обеспечить динамическую настройку DVMH-программ при запуске (без перекомпиляции) на конфигурацию параллельного компьютера (количество процессоров, ускорителей, их производительность и тип, а также латентность и пропускную способность коммуникационных каналов). Тем самым программист получает возможность иметь один вариант программы для выполнения на последовательных и параллельных ЭВМ различной конфигурации.

1.4. Пример программы Якоби на языке Fortan DVMH

Проиллюстрируем возможности языка Fortan DVMH на примере программы для алгоритма Якоби (см. рисунок).

В результате выполнения директивы

!DVM$ DISTRIBUTE (BLOCK, BLOCK) :: A

массив А будет распределен между вычислителями. Количество и тип используемых вычислителей задается при запуске программы с помощью переменных окружения и параметров командной строки.

Директива

!DVM$ ALIGN B

задает совместное распределение двух массивов А и В. Элементы массива В будут распределены на тот же вычислитель, где будут размещены соответствующие элементы массива A.

Директива

!DVM$ PARALLEL

задает распределение вычислений. Витки цикла будут выполняться на том вычислителе, где распределены соответствующие элементы массива A.

Клауза REDUCTION (MAX(EPS)) организует эффективное выполнение редукционной операции - глобальной операции с расположенными на различных вычислителях данных (нахождение максимального значения).

Клауза SHADOW_RENEW (A) указывает на необходимость подкачки удаленных данных (теневых граней) с других вычислителей перед выполнением цикла.

Поскольку никакие дополнительные клаузы в директивах REGION не заданы, компилятор определяет направления использования переменных автоматически -INOUT(A,B,EPS) .

При выполнении первого вычислительного региона (цикла инициализации) для распределенных частей массивов А и В на ускорителях будет выделена необходимая пя-мять.

При входе во второй вычислительный регион (в итерационном цикле) осуществляется проверка, присутствуют ли актуальные представители для массивов А и В на вычислителе. Поскольку такие представители уже присутствуют, то никакие дополнительные операции копирования актуальных данных на вычислители не выполняются.

При выходе из вычислительного региона обновление данных в памяти хоста не производится. Перед выводом массива B в файл, требуется скопировать последние изменения массива из памяти вычислителя при помощи директивы GET ACTUAL (B) .

! DVM$ ! DVM$

! DVM$ ! DVM$

! nest ! be

PROGRAM JAC

PARAMETER

REAL A

arrays A and B with block distribution PRINT *, *********** TEST JACOBI

MAXEPS = 0.5E - 7 _

REGION

PARALLEL

of two parallel loops, iteration executed on device, which is owner DO J = 1, L

'k'k'k'k'k'k'k'k'k'k 1

DO I = 1, L A(I,J) = 0. IF(I.EQ.1.OR.J B(I,J) = 0. ELSE

B

ENDIF END DO END DO !DVM$ END REGION

DO IT = 1, ITMAX EPS = 0.

!DVM$ ACTUAL

!DVM$ REGION

!DVM$ PARALLEL

EQ.1.OR.I.EQ.L.OR.J.EQ.L) THEN

=

ON A

!variable EPS DO J

DO

ABS

A

! DVM$

SHADOW RENEW

+ A(I,J-1) + A(I+1,J) + A(I,J+1)) / 4

is used for calculation of maximum value = 2, L-1 I = 2, L-1 EPS = MAX (EPS,

A

END DO END DO

PARALLEL

DO J = 2, L-1 DO I = 2, L-1

B

END DO END DO END REGION GET_ACTUAL

PRINT 200, IT, EPS FORMAT(' IT = ',I4, '

IF

OPEN

END

! DVM$ ! DVM$

200

EPS = ) EXIT

E14 . 7)

FORM='FORMATTED', STATUS='UNKNOWN')

Программа Якоби на языке Fortan DVMH

С использованием языка Fortran DVMH были разработаны прикладные программы решения задач гидродинамики.

2. Разработка параллельных программ на языке Fortran DVMH для задач гидродинамики «Каверна» и «Контейнер»

2.1. Задача «Каверна»

Программа «Каверна» предназначена для моделирования циркуляционного течения в плоской квадратной каверне с движущейся верхней крышкой в двумерной постановке в широком диапазоне как параметров задачи, так и параметров численного метода.

Последовательная версия программы занимает 496 строк.

В ходе разработки параллельной программы для данной задачи были проведены следующие действия:

1) Добавлены директивы распределения данных:

СDVM$ DISTRIBUTE ro

CDVM$ ALIGN (i,j) WITH ro(i,j) :: ux,uy,p,E,ro1,ux1,uy1,E1,p1

CDVM$ ALIGN (i,j) WITH ro(i,j) :: SFro,SFux,SFuy,SFE,tmp1,tmp2

CDVM$ ALIGN (i) WITH ro(*,*) :: hx,hy

2) Вставлены директивы PARALLEL перед 28-ю гнездами циклов. Из них:

а) 8 параллельных циклов имеют спецификацию PRIVATE;

б) 2 цикла спецификацию REDUCTION;

в) 7 циклов спецификацию SHADOW_RENEW.

3) Вставлены директивы начала и конца вычислительного региона в 7-ми местах программы.

4) Вставлены директивы объявления данных актуальными в 6-ти местах программы.

5) Вставлены директивы запроса актуальных данных в 5-ти местах программы.

6) Вставлена одна директива REMOTE ACCESS для доступа к удаленным данным

7) Для того чтобы виток цикла целиком мог выполняться на одном устройстве, в 4-х местах программы циклы были разбиты на два.

8) В 4-х местах программы сделаны тесно-гнездовые циклы.

9) Для 6-ти гнезд циклов изменен порядок вычисления витков циклов, что позволило обрабатывать элементы массивов согласно их расположению в памяти ЭВМ.

10) Устранены OUTPUT зависимости между витками 4-х циклов.

Таким образом, было изменено 45 строк (или 9 % от количества строк последовательной программы), добавлено 117 строк (или 23,5 % от количества строк последовательной программы), текст параллельной программы занимает 613 строк.

2.2. Задача «Контейнер»

Программа «Контейнер» предназначена для численного моделирования течения вязкой тяжелой жидкости под действием силы тяжести в прямоугольном контейнере с открытой верхней стенкой и отверстием в одной из боковых стенок в трехмерной постановке в широком диапазоне как параметров задачи, так и параметров численного метода. Последовательная версия программы занимает 828 строки.

В ходе разработки параллельной программы для данной задачи были проведены следующие действия.

1) Добавлены директивы распределения данных:

CDVM$ DISTRIBUTE ro

CDVM$ ALIGN (i,j,k) WITH ro(i,j,k):: ux, uy, uz, p, E

CDVM$ ALIGN (i,j,k) WITH ro(i,j,k):: ro1, ux1, uy1,uz1, p1, E1

CDVM$ ALIGN (i,j,k) WITH ro(i,j,k):: SFro, SFux, SFuy, SFuz, SFE

CDVM$ ALIGN (i,j,k) WITH ro(i,j,k):: F1x, F2x, F1y, F2y, F1z, F2z

CDVM$ ALIGN (i,j,k) WITH ro(i,j,k):: F3x, F3y, F3z

2) Вставлены директивы PARALLEL перед 21-м гнездом циклов. Из них:

а) 9 параллельных циклов имеют спецификацию PRIVATE;

б) 4 цикла спецификацию REDUCTION;

в) 5 циклов спецификацию SHADOW_RENEW.

3) Вставлены директивы начала и конца вычислительного региона в 5-ти местах программы.

4) Вставлены директивы объявления данных актуальными в 4-х местах программы.

5) Вставлены директивы запроса актуальных данных в 3-х местах программы.

6) Вставлена одна директива REMOTE ACCESS для доступа к удаленным данным.

7) Для того чтобы виток цикла целиком мог выполняться на одном устройстве, в 3-х местах программы циклы были разбиты на два.

8) В 6-ти местах программы сделаны тесно-гнездовые циклы.

9) Изменен порядок вычисления витков циклов для 12-ти гнезд циклов.

10) Устранены OUTPUT и FLOW зависимости между витками в 1 цикле.

Таким образом, при распараллеливании было изменено 37 строк (или 4,4 % от количества строк последовательной программы), добавлено 114 строк (или 13,7 % от количества строк последовательной программы), текст параллельной программы занимает 942 строки.

Для разработанных параллельных программ было проведено исследование эффективности.

3. Анализ эффективности разработанных на языке Fortran DVMH параллельных программ при запусках на большом числе узлов и GPU

В следующих подразделах приводятся времена выполнения программ (в секундах), которые были получены на суперкомпьютерном комплексе МГУ «Ломоносов» [5]. Для компиляции кода, выполняемого на хосте, использовались компиляторы Intel версии 13.0, для компиляции кода, выполняемого на ускорителях, использовался компилятор CUDA Fortran компании Portland Group версии 12.9 и NVIDIA CUDA C версии 4.0. Для взаимодействия между узлами использовалась библиотека Intel MPI версии 4.0.3.

3.1. Программа «Каверна»

Ускорение выполнения программы «Каверна» на одном GPU по сравнению с выполнением на 1 ядре центрального процессора в зависимости от размера сетки было опубликовано в [4].

В таблицах 1 и 2 приведены времена выполнения 200 итераций программы «Каверна» на сетке 3200x3200 на разном числе ядер и GPU (в секундах).

Таблица 1

Время выполнения программы «Каверна» на сетке 3200x3200 на разном числе ядер

1 2 4 8 16 32 64 128 256 400 512 1024

1241,83 631,47 332,36 182,95 100,05 75,8 40,20 21,33 11,74 7,11 6,44 3,48

При использовании 1024 ядер программа «Каверна» ускорилась в 357 раз по сравнению с выполнением на 1 ядре. При использовании 1 ускорителя программа ускоряется в 17 раз по сравнением с выполнением программы на 1 ядре. Максимальное ускорение, полученное с использованием ускорителей, - 390 раз по сравнением с выполнением программы на 1 ядре.

Таблица 2

Время выполнения программы «Каверна» на сетке 3200x3200 на разном числе GPU

1 2 4 8 16 32 64 128 256 400

73,07 39,34 19,94 11,65 7,17 4,80 3,96 3,45 3,32 3,19

3.2. Программа «Контейнер»

В таблицах 3 и 4 приведены времена выполнения программы «Контейнер» на разном числе ядер и GPU.

Таблица 3

Время выполнения программы «Контейнер» на разном числе ядер

Сетка, кол-во итераций 4 8 16 32 64 128 256 512 1024 2048

200x200x200 іїтах=200 754,01 384,92 206,47 113,64 49,87 29,90 14,52 8,63 5,63 6,01

400x400x400 іїтах=100 - 1202,32 630,15 317,36 164,02 85,68 43,10 22,53 13,54 7,66

800x800x800 іїтах=50 - - - - 576,16 318,75 151,78 79,68 41,26 21,91

1600x1600x1600 іїтах=20 - - - - - - - 235,64 117,88 62,68

Таблица 4

Время выполнения программы «Контейнер» на разном числе GPU

Сетка, кол-во итераций 1 2 4 8 16 32 64 128 256 512 1024 1280

200x200x200 іїтах=200 166,95 86,05 45,77 26,82 14,95 8,99 6,12 3,99 3,26 3,01 3,60 4,32

400x400x400 іїтах=100 - - 168,80 89,17 47,15 26,09 14,17 8,39 4,86 3,20 2,88 3,26

800x800x800 іїтах=50 - - - - - 92,20 51,80 30,32 13,58 7,56 4,67 4,17

1600x1600x1600 іїтах=20 - - - - - - - - 37,38 20,14 10,74 8,95

Для сеток 200x200x200 и 400x400x400 при использовании большого числа графических процессоров задача перестает ускоряться и даже замедляется. Это связано с тем, что при увеличении числа используемых GPU существенно сокращается объем данных, обрабатываемых на одном GPU, что не позволяет полностью загрузить аппаратуру. Накладные расходы на подготовку и запуск вычислительных ядер, копирование теневых граней превышают эффект от распараллеливания программы.

Для сетки 200x200x200 при использовании 4 GPU программа ускоряется в 16,47 раз по сравнению с выполнением на 4-х ядрах.

Для сетки 400x400x400 при использовании 8 GPU программа ускоряется в 13,48 раз по сравнению с выполнением на 8-х ядрах.

Для сетки 800x800x800 при использовании 64 GPU программа ускоряется в 11,12 раз по сравнению с выполнением на 64-х ядрах.

Для сетки 1600x1600x1600 при использовании 512 GPU программа ускоряется в 11,7 раз по сравнению с выполнением на 512-х ядрах.

Одним из факторов при выборе задач «Каверна» и «Контейнер» для распараллеливания на языке Fortran DVMH было наличие у этих программ разработанных версий в модели SHMEM/CUDA. Данные об ускорении этих программ, полученные при использовании GPU, были опубликованы еще в 2010 году [6].

Было проведено сравнение эффективности параллельных программ в модели DVMH и модели SHMEM/CUDA. Для этого использовался следующий подход. Осуществлялся запуск исходной задачи на 1-м GPU (сетка 150x150x150), замерялось время ее выполнения. Затем в 2 раза увеличивалась сложность решаемой задачи (размер вычислительной сетки) и задача запускалась на 2 раза большем числе GPU и т.д. В таблицах 5 и 6 приведены времена выполнения 200 итераций SHMEM/CUDA и DVMH-версиий программы «Контейнер» на разном числе GPU.

Таблица 5

Время и эффективность выполнения SHMEM/CUDA-программы «Контейнер»

на разном числе GPU

Число GPU 1 2 4 8 16 32 64 128 256 512 1024

время, с 87,12 87,82 88,8 89,29 90,21 90,99 91,4 91,57 91,97 92,46 92,74

эффективность, % 100 99,2 98,1 97,6 96,6 95,7 95,2 95,1 94,7 94,2 93,9

Таблица 6

Время и эффективность выполнения DVMH-программы «Контейнер» на разном числе

GPU

Число GPU 1 2 4 8 16 32 64 128 256 512 1024

время, с 71,93 74,77 76,12 76,75 80,56 80,76 82,76 82,91 82,03 90,56 88

эффективность, % 100 96,2 94,5 93,7 89,3 89,1 86,9 86,8 87,7 79,4 81,7

Современные графические процессоры позволяют настраивать режим работы кэша L1 для каждого SM. По умолчанию 16 Кб используется для L1, а 48 Кб - для общей памяти. В системе поддержки выполнения DVMH-программ задан режим сudaDevice-SetCacheConfig(cudaFuncCachePreferL1), в котором 48 Кб используется для кэша L1, а 16 Кб - для общей памяти. Разработчики SHMEM/CUDA версии программы не учли

эту возможность. В результате DVMH-программа выполняется на 1-ом GPU в 1,2 раза быстрее чем SHMEM/CUDA-программа.

При увеличении числа GPU эффективность DVMH-программы падает. Одна из причин - «лишние» обмены теневыми гранями. Обмен теневыми гранями - это достаточно дорогостоящая операция: необходимо скопировать требуемые теневые грани из памяти ускорителя в память хоста, запустить соответствующие обмены между узлами кластера, а затем скопировать полученные значения в память ускорителя. При определенных условиях можно обновить теневые грани за счет дополнительных вычислений. Такой механизм реализован для DVM-программ (SHADOW_COMPUTE). В настоящее время ведется доработка компилятора Fortran DVMH и системы поддержки выполнения программ для реализации такой возможности при использовании ускорителей.

Заключение

Появление новых гетерогенных и гибридных компьютерных архитектур, в частности, на основе многоядерных вычислительных ускорителей, позволило значительно повысить производительность суперкомпьютеров, что сделало актуальным разработку и оптимизацию прикладного программного обеспечения для соответствующих вычислительных систем.

Оценивая современное состояние методов разработки эффективных приложений для высокопроизводительных систем, следует отметить, что имеющиеся средства программирования являются по своей сути низкоуровневыми и требуют значительных затрат от разработчика, без гарантии достижения требуемого уровня качества создаваемого прикладного обеспечения. Под качеством здесь в первую очередь понимается сокращение времени решения прикладных задач без потери точности их решения, а также простота сопровождения ПО и его переноса на новые архитектуры.

Разработанный в Институте прикладной математики им. М.В. Келдыша РАН подход к созданию прикладного программного обеспечения существенно упрощает создание прикладных программ для суперкомпьютерных систем с ускорителями. Язык Fortran DVMH обеспечивает высокий уровень переносимости прикладного ПО на системы с другими архитектурами графических процессоров, поскольку перенос не требует изменения программы.

Проведенное исследование характеристик разработанных приложений «Каверна» и «Контейнер» показало, что эффективность программ, разработанных в высокоуровневой гибридной модели DVMH, очень мало отличается от эффективности программ, написанных с использованием низкоуровневой технологии CUDA.

Исследование выполнено при финансовой поддержке грантов РФФИ № 11-01-00246, 12-01-33003 мол_а_вед, 12-07-31204-мол_а и гранта Президента РФ НШ-4307.2012.9.

Литература

1. Konovalov, N.A. Fortran DVM - a Language for Portable Parallel Program Development / N.A. Konovalov, V.A. Krukov, S.N. Mihailov, A.A. Pogrebtsov / / Proceedings of

Software For Multiprocessors & Supercomputers: Theory, Practice, Experience. -

Moscow, 1994. - P. 124-133.

2. CUDA С Programming Guide. URL: http://docs.nvidia.com/cuda-c-programming-guide/index.html (дата обращения: 13.06.2013).

3. CUDA Fortran. Programming Guide and Reference. Release 2013. URL: http://www.pgroup.com/lit/whitepapers/pgicudaforug.pdf (дата обращения: 13.06.2013).

4. Бахтин, В.А. Расширение DVM-модели параллельного программирования для кластеров с гетерогенными узлами / В.А. Бахтин, М.С. Клинов, В.А. Крюков,

Н.В. Поддерюгина, М.Н. Притула, Ю.Л. Сазанов // Вестник Южно-Уральского университета. Серия «Математическое моделирование и программирование». - 2012. - № 18(277). - Выпуск 12. - С. 82-92.

5. Антонов, А.С. Практика суперкомпьютера «Ломоносов» / Вл.В. Воеводин, С.А. Жуматий, С.И. Соболев, А.С. Антонов, П.А. Брызгалов, Д.А. Никитенко, К.С. Стефанов, Вад.В Воеводин // Открытые системы. - М.: Издательский дом «Открытые системы», 2012. - № 7. - С. 36-39.

6. Давыдов, А.А. Моделирование течений несжимаемой жидкости и слабосжимаемого газа на многоядерных гибридных вычислительных системах. / А.А. Давыдов, Б.Н. Четверушкин, Е.В. Шильников // Ж. Вычисл. матем. и матем. физ. - 2010. -Т. 50, № 12. - С. 2275-2284.

Бахтин Владимир Александрович, кандидат физико-математических наук, заведующий сектором, Институт прикладной математики им. М.В. Келдыша РАН (г. Москва, Российская Федерация), bakhtin@keldysh.ru.

Клинов Максим Сергеевич, кандидат физико-математических наук, старший научный сотрудник, Институт прикладной математики им. М.В. Келдыша РАН (г. Москва, Российская Федерация), klinov@keldysh.ru.

Крюков Виктор Алексеевич, доктор физико-математических наук, профессор, заведующий отделом, Институт прикладной математики им. М.В. Келдыша РАН (г. Москва, Российская Федерация), krukov@keldysh.ru.

Поддерюгина Наталия Викторовна, кандидат физико-математических наук, старший научный сотрудник, Институт прикладной математики им. М.В. Келдыша РАН (г. Москва, Российская Федерация), konov@keldysh.ru.

Притула Михаил Николаевич, младший научный сотрудник, Институт прикладной математики им. М.В. Келдыша РАН (г. Москва, Российская Федерация), prit-mick@yandex.ru.

Смирнов Александр Андреевич, младший научный сотрудник, Институт прикладной математики им. М.В. Келдыша РАН (г. Москва, Российская Федерация), as 47@mail.ru.

USAGE OF FORTRAN DVMH LANGUAGE FOR SOLVING HYDRODYNAMICS PROBLEMS ON HYBRID COMPUTING SYSTEMS

V.A. Bakhtin, Keldysh Institute of Applied Mathematics Russian Academy of Sciences (Moscow, Russian Federation),

M.S. Klinov, Keldysh Institute of Applied Mathematics Russian Academy of Sciences (Moscow, Russian Federation),

V.A. Krukov, Keldysh Institute of Applied Mathematics Russian Academy of Sciences (Moscow, Russian Federation),

N. V. Podderyugina, Keldysh Institute of Applied Mathematics Russian Academy of Sciences (Moscow, Russian Federation),

M.N. Pritula, Keldysh Institute of Applied Mathematics Russian Academy of Sciences (Moscow, Russian Federation),

A.A. Smirnov, Keldysh Institute of Applied Mathematics Russian Academy of Sciences

In the 2011 year DVMH programming model for new heterogeneous and hybrid supercomputer systems (or DVM for Heterogeneous systems) was introduced in the Keldysh Institute for Applied Mathematics of RAS. The developed high-level programming languages were based on standard Fortran and C programming languages, but extended with the directives for mapping the program onto a parallel computer. The directives are represented as special comments (or pragmas). The paper includes analysis of the efficiency of the developed programs for solving the hydrodynamics problems «Cavity» and «Container». The calculation results are gained by using several thousand CPU cores and gained by using more than 1200 GPU accelerators are presented.

Keywords: DVM for Heterogeneous systems, Fortran DVMH, hybrid computational systems with accelerators, GPU, CUDA.

References

1. Konovalov N.A., Krukov V.A., Mihailov S.N., Pogrebtsov A.A. Fortran DVM - a Language for Portable Parallel Program Development. Proceedings of Software For Multiprocessors & Supercomputers: Theory, Practice, Experience. Institute for System Programming, RAS, Moscow, 1994. P. 124-133.

2. CUDA C Programming Guide. URL: http://docs.nvidia.com/cuda-c-programming-guide/index.html (accessed: 13.06.2013).

3. CUDA Fortran. Programming Guide and Reference. Release 2013. URL: http://www.pgroup.com/lit/whitepapers/pgicudaforug.pdf (accessed: 13.06.2013).

4. Bakhtin V.A., Klinov M.S., Krukov V.A., Podderyugina N.V., Pritula M.N., Saza-nov Y.L. Extension of DVM Parallel Programming Model for Clusters with Heterogeneous Nodes [Rasshirenie DVM-modeli parallel'nogo programmirovanija dlja klasterov s geterogennymi uzlami]. Vestnik Yuzho-Uralskogo gosudarstvennogo universiteta. Seriya «Matematicheskoe modelirovanie i programmirovanie» [Bulletin of South Ural State University. Series: Mathematical Modeling, Programming & Computer Software]. 2012. No. 18(277). Vol. 12. P. 82-92.

5. Sadovnichy V., Tikhonravov A., Voevodin Vl., Opanasenko V. «Lomonosov»: Supercomputing at Moscow State University. In Contemporary High Performance Computing:

From Petascale toward Exascale (Chapman & Hall/CRC Computational Science), 2013, Boca Raton, USA, CRC Press, P. 283-307.

6. Davydov А.А., Chetverushkin B.N., Shil'nikov E. V. Simulation of incompressible flow and weakly compressible gas on hybrid multi-core computing systems [Modelirovanie techenij neszhimaemoj zhidkosti i slaboszhimaemogo gaza na mnogojadernyh gibridnyh vychislitel'nyh sistemah]. J. Vychislitel'naja matematika i matematicheskaja fizika [Computational Mathematics and Mathematical Physics], 2010, Vol. 50, Issue 12, P. 2275-2284.

Поступила в редакцию 14 июня 2013 г.