Суперкомпьютеры, иерархия памяти и потоковая модель вычислений

issn 2079-3316 ПРОГРАММНЫЕ СИСТЕМЫ: ТЕОРИЯ И ПРИЛОЖЕНИЯ № 1(19), 2014, с. 15-36

удк 004.272.3

А. В. Климов, Н. Н. Левченко, А. С. Окунев, А. Л. Стемпковский

Суперкомпьютеры, иерархия памяти и потоковая модель вычислении

АННОТАЦИЯ. Современные суперкомпьютеры устроены иерархически, и глубина этой иерархии будет только расти. Структурная иерархия (ядро-чип-узел-шасси-стойка-система) создает заметные неоднородности в коммуникационной сети. Иерархия памяти тоже создает неоднородность доступа: больше объем — медленнее доступ. Поэтому среди факторов неэффективности на первый план выходят затраты на перемещения данных, и соответственно растет сложность построения хорошо оптимизированных по этому фактору программ. Возникающие трудности в значительной мере являются следствием традиционной парадигмы программирования, восходящей к фон Нейману. И хотя в защиту этой парадигмы имеются такие серьезные аргументы как сложившиеся навыки и накопленное программное обеспечение, все же полезно хотя бы в теории понимать альтернативы. Мы видим корень проблем фон-неймановского программирования в том, что в нем осуществляется парадигма сбора, и предлагаем перейти к использованию модели вычислений с управлением потоком данных, которой свойственна работа в парадигме раздачи, и в которой благодаря этой парадигме проблемы оптимизации перемещения данных решаются и проще, и эффективнее.

Ключевые слова и фразы: суперкомпьютер, иерархия памяти, предвыборка данных, модель вычислений с управлением потоком данных, парадигма сбора, парадигма раздачи, планирование вычислений.

Введение

Несмотря на то, что до настоящего момента высокопроизводительные вычислительные системы продолжают соревноваться за

Работа выполнена при частичной финансовой поддержке РФФИ (грант № 1307-12194) и Программы фундаментальных научных исследований ОНИТ РАН «Архитектурно-программные решения и обеспечение безопасности суперкомпьютерных информационно-вычислительных комплексов новых поколений».

© А. В. Климов, Н. Н. Левченко, А. С. Окунев, А. Л. Стемпковский, 2014 © ИППМ РАН, 2014

© Программные системы: теория и приложения, 2014

право занять верхние строчки в рейтинге Т0Р500, профессионалы понимают, что реальная производительность на актуальных задачах, а не тестовых пакетах типа Ьтраск, под которые в большинстве случаев и делается вычислительная система, намного важнее. В этой связи, такие специалисты как Т. Стерлинг [1] и Дж. Донгарра [2], стали говорить о необходимости смены модели вычислений, поскольку традиционная, применяемая в современных кластерных системах, модель вычислений перестала удовлетворять требуемой эффективности использования и производительности на реальных задачах. Одной из новых моделей вычислений, которые должны будут прийти на смену традиционной, является модель вычислений с управлением потоком данных. Именно к такой модели относится разрабатываемая авторами потоковая модель вычислений с динамически формируемым контекстом, которая реализуется в параллельной потоковой вычислительной системе «Буран».

Реальная производительность суперкомпьютеров уже сейчас определяется не столько его вычислительной мощностью, выражаемой петафлопсами, сколько мощностью механизмов доставки данных к вычислителям. Соответственно, хорошие программа и аппаратура должны обеспечивать управление перемещением данных так, чтобы нужные данные доставлялись с наименьшими затратами в нужное время.

В многопроцессорной вычислительной системе есть два вида доставки данных: передача данных между процессорными узлами и между процессором и памятью. В больших вычислительных системах имеет место иерархия, как в структуре соединений, так и в организации памяти. Для соединений иерархия подразумевает, что связь между элементами внутри частей (некоторого уровня) лучше, дешевле (в смысле затрат времени, энергии и других ресурсов), чем между элементами из разных частей. Для памяти иерархия мыслится как несколько уровней памяти таких, что каждый следующий уровень имеет на порядки больший объем, и большее время доставки. Обычно имеются следующие уровни памяти: регистры, кэш-памяти Ь1, Ь2, Ь3, основная память, память на SSD и/или

дисковая память, память на лентах. С ростом уровня растет не только задержка (обращения к памяти этого уровня), но также снижается общая пропускная способность канала между этим и предыдущим уровнями, которую для удобства будем относить к одному вычислительному узлу. и если для определенной задачи эта пропускная способность на каком-то из уровней оказывается недостаточной, то именно ею будет ограничиваться производительность, а вовсе не производительностью процессорного узла.

Уровень нагрузки на канал между уровнями памяти обычно характеризует качество программы, хотя часто можно установить оценку снизу для самой решаемой задачи — и тогда можно говорить об оптимальности программы относительно того или иного уровня памяти. Теоретическая оценка трафика (в гигабайтах) для задачи с вычислительным графом О(М) между внутренней памятью размера 5 и неограниченной внешней памятью обычно имеет вид

где — характерный размер задачи, и — некоторые параметры, р,<7 > 0, причем обычно <7 < 1. Теперь, если известна пропускная способность канала В (в Гбайт/сек), то можно оценить снизу время работы как .

Если используется К одинаковых процессоров с памятью 5 в каждом, то для суммарного трафика действует та же формула для малых 5. А с выходом на уровень большой памяти работает другая формула (при равномерной разбивке задачи на все К процессоров):

Формулы такого вида обычно получаются, когда задача устроена однородно в том смысле, что ее подзадачи имеют такой же граф, но с меньшим N. Показатели р и г обычно таковы, что N выражает объем вычислений, а — суммарный размер исходных данных и результата. Например, для умножения матриц будет:

I ! ( С (Щ ,5) = О (N^/5 ч) ,

I2(С ^),К) = О(^ - К5).

18 Суперкомпьютеры, иерархия памяти и управление данными

При наличии таких ограничений можно говорить о пределах эффективности решения задачи на реальной системе, учитывая характеристики ее памяти на разных уровнях. В данном случае речь идет о пропускной способности каналов между уровнями. С учетом вида зависимости от 5 для данной задачи можно указать тот уровень памяти, для которого программу следует оптимизировать в первую очередь.

Но даже если требования по пропускной способности удовлетворены наилучшим образом, надо еще озаботиться проблемой ожиданий (простоев) в связи с задержкой доступа к памяти. Для этого управление вычислительным процессом должно обеспечивать заблаговременное перемещение (подкачку) данных, и это представляет собой отдельную проблему, которую приходится решать либо программисту, либо компилятору, либо аппаратуре, либо всем вместе. Аппаратный механизм суперскалярности обеспечивает предвыборку в пределах около 10 тактов, длинная кэш-строка, прогноз последовательности адресов привносят упреждение в сотни тактов, но большее возможно уже только усилиями со стороны компиляторов и/или программистов, причем немалыми, особенно в контексте многих уровней кэш-памяти с различными характеристиками.

Хороший обзор и анализ трудностей программирования, связанных с иерархией памяти и системы, имеется в работе [3], однако там почти ничего не сказано о проблеме оптимизации предвыбор-ки, на которую мы делаем акцент в данной работе. По нашему мнению, для более успешного решения данной проблемы следует изменить подход к программированию, перейдя к потоковой модели вычислений. Ниже мы анализируем природу проблем, связанных с предвыборкой, и показываем, как они решаются в нашей версии потоковой модели вычислений в парадигме раздачи.

1. Пример: умножение матриц

Рассмотрим проблему оптимизации перемещений на примере задачи умножения плотных матриц. В работе [4] дается оценка снизу объема межпроцессорных обменов (включая обмены с хостом) С в зависимости от размера задачи N и числа процессоров К:

(5) С = О О2  Щ.

Оптимальный трафик обеспечивает следующая схема: на каждом процессоре выполняется умножение пары блоков порядка N/У~К, при этом каждый отдельный элемент дублируется в Ук процессоров. Однако здесь пока не учитываются ограничения по памяти (считается, что их нет). Если же принять, что в каждом процессоре имеется память объема , то оценка снизу на внешний трафик процессоров будет О / л/5), то есть в N /(УК~^//5) раз больше (предполагая, что этот коэффициент больше 1, что равнозначно тому, что объема памяти не хватает для размещения одного блока целиком). Аналогичную оценку можно найти в [5]. Мы видим, что с увеличением трафик убывает обратно пропорционально /5. Например, если размер кэш-памятей Ъ1 и Ь2, соответственно, 10К и 1М, то (минимально возможный) внешний трафик для Ъ1 будет в 10 раз больше чем для Ь2. Какая из двух кэш-памятей будет реально «тормозить», зависит от соотношения пропускных способностей их внешних каналов. Но чтобы не возникало напрасных «торможений» , программа должна быть оптимизирована по трафику относительно всех кэш-памятей. А для этого умножение должно выполняться блоками, помещающимися в кэш-память, и хорошо её заполняющими, для всех уровней кэш-памяти. Насколько нам известно, автоматически данная проблема не решается, и, стало быть, программист должен предоставить блочную программу с правильно выбранными размерами блоков.

2. Парадигмы сбора и раздачи

Обратимся к проблеме задержек. Почему плохо масштабируются механизмы автоматической подкачки, типа суперскаляра?

20 Суперкомпьютеры, иерархия памяти и управление данными

Причина кроется в самой парадигме программирования, восходящей к фон Нейману: программа организует вычисления, запрашивая данные из памяти и помещая результаты в память. При этом обычно программа запрашивает данные ровно тогда, когда они уже нужны для вычислений, и это естественно для данной парадигмы. По этой причине программы обычно чувствительны к задержкам доступа к памяти — «стена памяти». Для ее преодоления используются различные ухищрения:

• многоуровневая кэш память;

• спекулятивное выполнение;

• эмпирическое предсказание;

• поддержка большого количества (сотни) тредов, ожидающих отклика из памяти.

Мы видим корень проблемы фон-неймановского программирования в том, что в нем реализуется парадигма «сбора»: для неё только потребитель данных знает, какие данные ему нужны и где их взять, и сам их запрашивает, указывая имя переменной или массива с индексами (Рис. 1, слева). В этих условиях аппаратуре трудно предвидеть, какие данные будут нужны. Для более качественной стратегии перемещения данных была бы более продуктивной противоположная традиционной — парадигма «раздачи», когда производитель каждого нового значения знает, кому оно потребуется, и обеспечивает рассылку по нужным адресам. А получателю тогда остается просто «пассивно дожидаться» прихода данных, ничего не зная об их источнике (Рис. 1, справа).

Парадигма сбора Парадигма раздачи

Рис. 1. Парадигмы сбора и раздачи

Парадигма раздачи является и более экономной в плане числа обменов сообщениями: одно сообщение на каждое использование, тогда как в парадигме сбора одно сообщение на запись и еще по два на каждое использование (запрос и ответ). Вдобавок парадигма раздачи имеет еще одно важное преимущество, о котором пойдет речь ниже.

Надо сказать, что парадигма раздачи в какой-то мере воплощается в MPI, где данные упаковываются в сообщения и посылаются в другие процессы. Причем получатель может знать, кто ему посылает, а может и не знать. При этом внутри процесса сохраняется программирование в парадигме сбора. Поскольку обычно MPI-программа может выполняться с любым числом MPI-процессов, начиная с 1, а каждый MPI-процесс это просто фон-неймановская программа, то в ней должны фактически присутствовать оба варианта алгоритма, написанные как в парадигме сбора, так и в парадигме раздачи. А это ведет к дополнительному усложнению программирования.

3. Использование функции распределения по времени

При программировании в парадигме сбора в момент появления новой величины и размещения ее в памяти исполнителю ничего не известно о времени будущего использования (Рис. 2, вверху).

И хотя программист вполне может понимать, где потребуется данное значение, но у него нет способа выразить это понимание в языке. В парадигме раздачи, напротив, программист вынужден при создании величины указать, кем будет использовано значение, задав в какой-либо форме адреса потребителей. Возможно, это осложняет разработку программы, но зато может помочь исполнителю более эффективно справляться с задачей оптимизации подкачек, поскольку в момент создания элемента данных уже известно кое-что о его будущем использовании (РИС. 2, внизу).

Но знать адрес потребителя еще недостаточно, чтобы оценить время будущего использования. Чтобы дать исполнителю более точную информацию о времени, мы, работая в парадигме «раздачи», добавляем в программу (руками или компилятором) особую функцию — функцию распределения вычислений по времени (в дополнение к функции распределения по пространству, т.е. процессорным узлам). Имея на входе целевой адрес потребителя созданной величины, она вырабатывает условное время использования. Будем считать, что значения данной функции линейно упорядочены: чем больше значение, тем позже использование. Например, часто будет удобно задавать условное время в виде кортежей (tuples) с лексикографическим порядком.

Рис. 2. Доступность информации о будущем использовании в парадигмах сбора и раздачи

Теперь в аппаратуре появляется возможность «на лету» сортировать создаваемые значения по их «срочности» и менее «срочные» значения сразу отправлять в более «долгий ящик» и наоборот. Каждому уровню «долготы ящика» приписывается свой «порог отсечения». Самый низкий (внутренний) уровень содержит данные, которые нужны немедленно. Это «активная зона». У каждого пришедшего (или здесь созданного) элемента данных его условное время последовательно сравнивается с порогами разных уровней, начиная с самого внутреннего, после чего записывается в память подходящего уровня. Если в какой-то момент порог повышается, то данные, имеющие время использования меньше нового порога, из верхнего уровня спускаются вниз. Для этого на каждом уровне данные должны храниться так, чтобы всегда было легко отобрать подходящее их количество с наименьшим временем.

В системе имеется планировщик, который управляет текущими значениями порогов отсечения. В качестве входных данных планировщик может использовать различные характеристики текущего состояния вычислителя. Ниже (Таблица 1) приведены некоторые такие характеристики и способы их использования для управления порогами.

ТАБЛИЦА 1. Текущие характеристики и их воздействие на пороги

Повышение порога Понижение порога

Заполненность

Вычислительная активность (только для самого низкого уровня) низкая высокая

Интервал (разность между порогом и текущим минимумом времени в активной зоне) меньше установленного больше установленного

В зависимости от задачи, может использоваться одна из этих характеристик или все вместе в комбинации. Здесь мы обсуждаем

лишь общие принципы. Конкретные стратегии работы планировщика еще предстоит исследовать. Некоторые успешные эксперименты для двухуровневой памяти авторами были осуществлены в рамках системы, о которой пойдет речь ниже [6][7][8].

Заметим, что память не является прямо адресуемой, как и в обычных кэш-памятях. Каждый элемент данных хранится вместе с адресом назначения и условным временем. Освобождение памяти при программировании в парадигме раздачи легко автоматизируется: данные стираются сразу после последнего использования.

4. Потоковая модель вычислений

Выше мы обсуждали механизмы доставки данных, ничего не говоря о какой-либо конкретной модели вычислений, отвечающей парадигме «раздачи». Такая модель существует, это предлагаемая нами потоковая модель вычислений в парадигме «раздачи» (ППР) [6], воплощенная в нашем языке программирования DFL. Программа в нем — это набор описаний узлов, состоящих из заголовка узла и программного кода. Заголовок содержит имя узла, список входов и список атрибутов ключа — контекст. Активация узла происходит, когда на все входы одного узла с определенным им е-нем и контекстом придут элементы данных — токены. Это принцип управления потоком данных. При активации выполняется код узла, в котором вычисляются новые величины (исключительно на основе значений входов и атрибутов ключа) и посылаются специальными операторами на другие узлы (входы узлов), причем атрибуты ключа адресата вычисляются прямо в этом же коде. А это и означает, что работа производится в парадигме раздачи. Память в этой модели служит для временного хранения токенов, пока они не заполнят все входы своего целевого узла. Тогда и выполняется активация, при которой обычно участвующие в ней токены из памяти удаляются (если только у них нет кратности, которая пока не исчерпана).

Помимо хранения, в памяти также происходит сопоставление (сравнение) ключей токенов, необходимое для формирования групп токенов, направленных на один и тот же узел (с одинаковыми именем и атрибутами ключа). Это требует наличия в ней дорогой ассоциативности (вспомним, что потребление энергии кэша прямо пропорционально степени его ассоциативности, то есть количеству одновременно выполняемых сравнений). Но собственно сравнения с целью отождествления производятся в небольшой по объему ассоциативной памяти сопоставления (ПС) самого внутреннего уровня, да и в ней часть поиска проводится адресно по хеш-коду. В остальных уровнях производятся только последовательные сравнения значений условных времен с порогами отсечения.

РИС. 3. Схема процессорного ядра. Пути перемещения данных

На Рис. 3 показаны пути перемещения информации в вычислительном ядре. В исполнительном устройстве ИУ выполняется программа некоторого узла. Порождаемые при этом токены поступают в вычислитель функций распределения (ВФР), где на основе целевого адреса вычисляются функции распределения по пространству (месту) Р и времени Т. Если величина Р отлична от номера данного ядра, токен отправляется в коммуникационную сеть. Иначе он продолжает путь внутри ядра. Далее величина Т, которую будем также называть номером этапа, сравнивается последо-

26 Суперкомпьютеры, иерархия памяти и управление данными

вательно с порогами отсечения То, Т и т.д. всех уровней памяти. Если Т<Т), токен отправляется сразу в память сопоставления. Иначе, если Т<Т\, токен помещается в предварительную память ПП1, и так далее, иначе — в память последнего уровня, здесь ПП2. На каждом уровне память организована по «корзинам», индексируемым своей частью двоичного кода величины Т. Когда память некоторого уровня становится относительно свободной, порог отсечения вышестоящей памяти увеличивается, и токены из ее нижней «корзины» перекладываются в нижестоящую память, где распределяются по ее «корзинам».

Когда токен попадает в память сопоставления (ПС), там либо обнаруживается элемент с тем же ключом, либо нет. В первом случае токен присоединяется к найденному элементу. Во втором — создается новый элемент на основе данного токена. Если в результате образуется элемент с токенами на всех входах, то он преобразуется в пакет и передается в исполнительное устройство (ИУ) на исполнение.

Токены, пришедшие из сети, обрабатываются аналогично.

Описанный механизм планирования состоит из двух частей: базовой и управляющей. На базовом уровне происходит обработка отдельных токенов в соответствии с приписанными им номерами этапа и текущими порогами, приписанными уровням памяти (свои у каждого ядра). Правила работы базовой части простые и однозначные. На уровне управления происходит медленное изменение порогов, направленное на поддержание достаточного уровня активности в ядре. Здесь правила более сложные, представлены здесь очень приблизительно, и требуется еще много экспериментальной работы для выбора хорошо работающих правил. Возможно, будет требоваться особая настройка данного механизма для каждой конкретной задачи.

Для работы данного механизма в любом случае от программиста требуется хорошая (оптимальная) функция распределения по времени. При ее выборе следует руководствоваться следующими принципами:

• токены, порождаемые некоторым узлом, должны иметь время (номер этапа), которое равно или больше времени этого узла;

• каждый этап должен с хорошим запасом умещаться в активной зоне; более того, несколько соседних этапов должны умещаться в активной зоне;

• функция распределения по этапам должна быть вычислительно простой: она будет вычисляться при формировании каждого токена, и она должна быть легко реализуемой в виде быстрой схемы в ПЛИС.

5. Реализация умножения матриц

Рассмотрим программирование в парадигме раздачи задачи умножения матриц, используя язык потока данных DFL. Умножение матриц А и В определено формулой

Код приведен на РИС. 4. Центральный узел Ы умножает два элемента А^к и Вк^ и передает результат на суммирование для получения суммы Су. Как предполагает парадигма раздачи, узел Ы умножает значения двух своих входов а и Ь, не зная, откуда они берутся. О том, что это именно А^к и Вkj, сообщает первая строка-комментарий. Индекс «*» это «джокер», который говорит о том, что здесь может быть любое значение. Фактически каждый элемент должен дойти до п разных узлов Ы. Любые два токена, направленные на входы М.а и М.Ь с общим индексом к, создадут активацию узла Ы(а,Ь)[У,к]. Тело узла Ы говорит о том, что произведение а*Ь посылается на (единственный) вход узла Я. Описатель входа (+)8[п] в заголовке узла Я говорит, что это суммирующий (+) вход 8, на который должно прийти п слагаемых. Здесь п — константа задачи, посылать ее не нужно. Когда придут все п токе-нов-слагаемых, направленных на 8.8[У], узел 8[У] будет активирован со значением на входе 8, равным их сумме, которая будет выдана «наружу» в качестве элемента Су выходной матрицы.

Однако, такая программа с «джокерами» может правильно работать, только когда все токены поступают в одно-единственное

ядро с ассоциативной памятью, в которую могут поместиться обе матрицы, и где должно произойти сравнений. Поскольку нас это не устраивает, надо избавиться от «джокеров» в посылаемых токенах. Будем использовать метод удвоений по дереву. Суммирование тоже лучше сделать явным сдваиванием, иначе оно должно будет выполняться последовательно для каждой пары [1,]] (а суммарный трафик к этим узлам будет почти вместо желаемых

М2  Щ.

// Inputs: Aik ^ M.a[i,k,*]; Bkj ^ M.b[*,k,j];

node M(a,b) [i,k,j]; a*b ^ S.s[i,j];

node S((+)s[n])[i,j]; s ^ C[i,j] // Output:Cij

Рис. 4. Программа умножения матриц на языке DFL. Наивный

вариант с «джокерами»

При написании хорошо масштабируемой распределенной программы на DFL полезно представлять каждый экземпляр узла как отдельный виртуальный процессор в многопроцессорной системе. В дальнейшем множество таких виртуальных узлов отображается — посредством функции распределения (по пространству) — на процессоры (ядра) реальной системы с прицелом на равномерность загрузки и минимизацию коммуникаций. Пространство виртуальных узлов-умножителей заполняет куб N X N X N. Элементы матрицы А; к ( Вразмножаются вдоль измерения j(i), суммы собираются вдоль измерения k. Учитывая, что реальные ядра будут содержать блоки размера при числе ядер , будет полезно размножение и сбор сумм организовать по двоичному дереву так, чтобы каждый элемент входной матрицы входил в физическое ядро не более чем по одному разу, а также чтобы каждое слагаемое выходной матрицы выходило из физического ядра не более чем по одному разу.

В распределенном варианте программы, представленном на Рис. 5, были добавлены узлы AA и BB, осуществляющие рассылку элементов методом удвоений. В результате создается по N копий для каждого входного элемента, так что каждый умножитель получает свою собственную копию обоих входных элементов. Для удобства кодирования удвоений элемент M[i,k,j] имеет индексы, увеличенные на N, то есть каждый индекс лежит в диапазоне [N. .2N —1]. Вдоль измерения k производится суммирование методом сдваивания.

// Inputs: Aik ^ AA[i+N, k+N, 1]; // Bkj ^ BB[1 , k+N, j +N] ;

node AA(a)[i,k,m];

if (m<N) a ^ AA[i,k,2*m], AA[i,k,2*m+1]; else a ^ M.a[i,k,m]; node BB(b)[m,k,j];

if (m<N) b ^ BB[2*m,k,j], BB[2*m+1,k,j]; else b ^ M.b[m,k,j];

node M(a,b) [i,k,j]; a*b ^ SS.s[i,k/2,j]; node SS( ( + )s [2]) [i,m,j]; if (m=1) s ^ C[i-N,j-N] // Output: Cij else s ^ SS[i,m/2,j];

Рис. 5. Распределенная программа умножения матриц

5.1. Функции распределения

При наличии процессорных ядер оптимальное распре-

деление по ядрам должно быть блочным по 3-м измерениям с числом блоков по измерениям Кх « К2 ~ Кз, всего К = К±К2Кз блоков, где . Такое распределение обеспечит любая функция от

{^к]}, которая у индексов ^к,] использует только старшие /сх,/с2,/сз разрядов соответственно, а младшие игнорирует. Но и внутри ядер желательно организовать распределение так, чтобы блоки меньшего размера хорошо помещались внутри соответствующего уровня.

Многоуровневое «блочное» распределение по времени обеспечит функция , которая в двоичном представлении реализуется как «скрещивание» разрядов аргументов: для получения трех самых младших разрядов значения берем по одному

младшему разряду каждого аргумента, для следующих трех берем по одному следующему разряду в том же порядке и т.д. В качестве номера процессора пР берем к старших (из 3 п) разрядов значения F. Оставшиеся младшие разряды будем использовать в качестве условного времени S внутри каждого процессорного ядра. Однако, поскольку внутри ядра старшие разряды неизменны, в качестве условного времени мы можем просто использовать значение .

В размножающих и суммирующих узлах для индекса m желательно обеспечить соблюдение условия: одна из двух копий (соответственно, одно из двух сдваиваемых слагаемых) попадают в то же ядро, где было исходное значение (соответственно, где будет сумма). Поэтому потребуем, чтобы в интервале [ 0 . .V —1 ] выполнялось свойство для любого из трех аргументов функции распределения P. Для этого при обращении к функции zip применим к каждому ее аргументу v функцию «нормализации» norm (v, 0, где I — параметр, которая находит в двоичном представлении старшую единицу и затем выбирает следующие за ней разрядов (при необходимости дополняя их нулями). Окончательный вид функции распределения приведен на

Рис. 6.

5.2. Работа программы

Рассмотрим процесс работы для случая, когда в процессорном узле имеется 2 уровня памяти, причем внешней памяти хватает для размещения всех токенов, а внутренней нет. Пусть объема внутренней хватает с необходимым запасом для размещения одного блока размера LxLxL, L = 2 г. Тогда наиболее успешным будет такой режим работы планировщика, когда в активной зоне будут размещаться все токены из диапазона этапов длиной около . У вышеописанной функции распределения можно отбросить несколько младших разрядов и работать с более крупными этапами.

Можно показать, что при таком планировании в активной зоне будет всегда не более 2 L3 токенов. А без планирования внутренняя память быстро переполнилась бы, скажем, токенами с элементами

матрицы А, и процесс был бы заблокирован из-за отсутствия токе-нов матрицы B.

Вначале в систему поступают токены А; к и Вkj, которые активируют узлы AA[i+N,k+N,1] и BB[1,k+N,j+N]. Каждый узел дублирует свой токен, оставляя одну копию (с индексом 2 т) в том же ядре. Другая копия (с индексом 2 т + 1) на верхних уровнях дерева удвоений пересылается в другие ядра, а на нижних остается в том же. При этом первая копия принадлежит тому же этапу, а вторая — тому же или более позднему.

Поскольку есть порог отсечения, то в активную зону пойдут только токены ниже порога. Планировщик, управляющий текущим значением порога, должен быть настроен так, чтобы активная зона всегда была достаточно заполнена, но не переполнялась.

При суммировании процесс идет в обратном порядке, поэтому следует подправить функцию распределения по этапам для аргумента k, чтобы исключить порождение токена с меньшим временем. Например, можно инвертировать (путем вычитания из N — 1) все разряды значения функции norm, относящиеся к этому аргументу. На Рис. 6 изображено окончательное описание функций распределения по пространству (place) и времени (stage).

const n=...; // N=2n

F=zip (norm(i,n) , N-1-norm(k,n) , norm(j ,n)); place = shr(F,3*n-k); // K=2k stage = F;

Рис. 6. Функции распределения по пространству (place) и

времени (stage) для умножения квадратных матриц

Заключение

мы уверены, что можно достичь существенного облегчения разработки оптимизированных приложений для суперкомпьютеров, если перейти от программирования в парадигме сбора, характерной для стандартных фон-неймановских языков, к программированию в парадигме раздачи, свойственной потоковой модели вычислений.

В предлагаемой модели программирования для управления распределением вычислений по пространству и времени используется метод указания функций распределения. Пользователь (или компилятор) задает формулы для вычисления двух величин: place и stage — по адресу виртуального вычислительного узла, в котором будет данный элемент использован. Этот адрес, в соответствии с парадигмой раздачи, вырабатывается при порождении каждого нового элемента данных. Функция place задает номер процессорного ядра, функция stage — номер этапа в рамках каждого ядра. Данные с ближайшим номером этапа подаются в «активную зону». Остальные, в зависимости от ожидаемого времени начала этапа, передаются в память «отложенных» токенов подходящего уровня.

Возможность своевременной доставки данных в активную зону, являющуюся аналогом кэш-памяти L1, прямо вытекает из свойственной модели вычислений ППР работе в парадигме раздачи. Тем самым достигается эффект предвыборки на основе идеального предсказания будущих адресов доступа в обычных процессорах. Что он даст, можно увидеть из недавних исследований [9]: предсказатель по шаблону, реализованный в новой системе IBM Blue Gene/Q, повышает скорость работы некоторых программ в 3-5 раз.

В модели программирования ППР реализуется четкое разделение аспектов: математическая правильность алгоритма определяется программой на DFL, тогда как функции распределения влияют только на скорость работы программы и, возможно, ее завершае-мость. Функция place влияет непосредственно на равномерность распределения по ядрам и на объем коммуникаций между ними, а функция stage — на время поступления данных в вычислитель, обеспечивая его работой без переполнения памяти разных уровней при минимизации обменов между уровнями.

Предложенное решение будет эффективным, когда накладные расходы на передачу токена, прежде всего внутри ядра «к себе», включая вычисление функции распределения, будут заметно меньше затрат на выполнение отдельного узла. В принципе это всегда достижимо за счет укрупнения зернистости, когда умно-

А. В. Климов, Н. Н. Левченко, А. С. Окунев, А. Л. Стемпковский 33

жаемыми и складываемыми элементами являются матричные блоки подходящего размера. В целях минимизации накладных расходов в проекте ППВС «Буран» [6][7][8] все основные обеспечивающие операции реализуются аппаратно. Кроме того, мы предполагаем, что в одном из возможных вариантов реализации системы функции распределения компилируются в эффективную прошивку для специальной ПЛИС, стоящей на выходе из ИУ. В любом случае, данная модель полезна для анализа эффективности разрабатываемых алгоритмов, когда на первый план выходят затраты на взаимодействие и перемещения данных в иерархической памяти.

Список литературы

[1] Guang R. Gao, Thomas Sterling, Rick Stevens, Mark Hereld, Weirong Zhu. ParalleX: A Study of a New Parallel Computation Model, ipdps, 2007 IEEE International Paralleland Distributed Processing Symposium, 2007, p. 294.

[2] Левшин И. Свежий взгляд из-за океана. Беседа с Джеком Донгаррой// Суперкомпьютеры, 14, 2013, с. 6-8.

[3] Климов Ю.А., Орлов А.Ю., Шворин А.Б. Перспективные подходы к созданию масштабируемых приложений для суперкомпьютеров гибридной архитектуры // Программные системы: теория и приложения: электронный научный журнал, 2011, № 4 (8), с. 45-59, http://psta.psiras.ru/read/psta2011_4_45-59.pdf

[4] Климов А.В. Умножение 'плотных матриц на неоднородных высокопараллельных вычислительных системах (анализ коммуникационной нагрузки). Журнал «Информационные технологии», №3, 2008, с. 24-31.

[5] John E. Savage, Mohammad Zubair. A Unified Model for Multi-core Architecture, In Proc. 1st International Forum on Next-Generation Multicore/Manycore Technologies, Article No. 9, ACM, NewYork, NY, 2008.

[6] Стемпковский А. Л., Левченко Н.Н., Окунев А.С, Цветков В.В. Параллельная потоковая вычислительная система — дальнейшее развитие архитектуры и структурной организации вычислительной системы с автоматическим распределением ресурсов // «Информационные технологии» № 10, 2008, с. 2-7.

[7] Levchenko N.N., Okunev A.S., Zmejev D.N., Klimov A.V. Effective planning of calculations on the PDCS «Buran» architecture.

34

Суперкомпьютеры, иерархия памяти и управление данными

In: Proc. of the International IEEE EAST-WEST DESIGN & TEST SYMPOSIUM (EWDTS'2013), Rostov-on-Don, Russia, September 2013.

[8] Levchenko N.N., Okunev A.S., Zmejev D.N., Klimov A.V. Management methods of computational processes in the PDCS «Bu-ran». In: Proc. of the International IEEE EAST-WEST DESIGN & TEST SYMPOSIUM (EWDTS'2013), Rostov-on-Don, Russia, September 2013.

[9] V. Morozov, K. Kumaran, V. Vishwanath, J. Meng, M. E. Papka. Early Experience on the Blue Gene/Q Supercomputing System // Proceedings of the 27th IEEE International Parallel and Distributed Processing Symposium (IPDPS 2013), Boston, Massachusetts, p. 1229-1240.

Рекомендовал к публикации Программный комитет

Второго национального суперкомпьютерного форума НСКФ-2013

Об авторах:

Аркадий Валентинович Климов

Старший научный сотрудник Института проблем проектирования в микроэлектронике РАН. e-mail: arkady.klimov@gmail.com

Николай Николаевич Левченко

Кандидат технических наук, заведующий отделом Высокопроизводительных микроэлектронных вычислительных систем Института проблем проектирования в микроэлектронике РАН.

e-mail: nick@ippm.ru

Анатолий Семенович Окунев

Кандидат технических наук, ведущий научный сотрудник Института проблем проектирования в микроэлектронике РАН.

e-mail: oku@ippm.ru

А. В. Климов, Н. Н. Левченко, А. С. Окунев, А. Л. Стемпковский 35

rg lit

Александр Леонидович Стемпковский

Академик, доктор технических наук, директор Института проблем проектирования в микроэлектронике

РАН.

e-mail:

ippm@ippm.ru

Образец ссылки на публикацию:

А. В. Климов, Н. Н. Левченко, А. С. Окунев, А. Л. Стемпковский. Суперкомпьютеры, иерархия памяти и потоковая модель вычислений // Программные системы: теория и приложения: электрон. научн. журн. 2014. T. 5, № 1(19), с. 15-36. URL: http: //psta.psiras.ru/read/psta2014_ 1_ 15-36.pdf

A. V. Klimov, N. N. Levchenko, A. S. Okunev, A. L. Stempkov-sky. Supercomputers, memory hierarchy and dataflow computation

ABSTRACT. Modern supercomputers are hierarchical, and the hierarchy depth tends to grow. Structure hierarchy (core - chip - node - card - cabinet - system) implies significant differences in communication time. Memory hierarchy also induces differences in access time: the larger is the size of the level, the slower is the access. Data movement overhead become the most significant factor of inefficiency, and thus the task of optimizing programs in this respect gets more and more difficult. We claim that these difficulties are largely a consequence of traditional programming paradigm that goes back to von Neumann. And although it has such a strong case as the acquirements and the legacy software, it is still useful at least in theory to understand the alternatives. We believe that the problem of the von Neumann programming model arises due to its exercising the so-called gather paradigm, as opposed to the scatter paradigm inherent to the proposed dataflow computation model, which provides more efficient and easier solution to the data movement optimization problem.

model.

Key Words and Phrases: supercomputer, memory hierarchy, data prefetching, dataflow computation model, gather paradigm, scatter paradigm, computation scheduling.