インテル® コンパイラー
自動並列化ガイド
デュアルコア / マルチコア対応アプリケーション開発 4インテル® コンパイラー 自動並列化ガイド
デュアルコア / マルチコア対応アプリケーション開発 4

自動並列化入門
1．

はじめに . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22．

自動並列化 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2

3．

自動並列化の阻害要因とその対策 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5

4．

自動並列化の適用について. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9

5．

おわりに . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11

付録 .1 自動並列処理と OpenMP* . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12
付録 .2 依存性解析 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15

注記：『デュアルコア / マルチコア対応アプリケーション開発』は、次の 4 巻から構成されています。
1 インテル® コンパイラー OpenMP* 入門
2 インテル® C/C++ コンパイラー OpenMP* 活用ガイド
3 インテル® Fortran コンパイラー OpenMP* 活用ガイド
4 インテル® コンパイラー 自動並列化ガイド

本資料で言及されているインテル製品は、一般的な商業目的にのみ使用することを前提にしています。特定の目的に本製品を使用する場合、適合性の評価についてはお客様の責任になります。インテル製品は、医療、救命、延命措置、重要な制御または安全システム、核施設などの目的に使用することを前提としたものではありません。
本資料のすべての情報は、現状のまま提供され、インテルは、本資料に記載表現されている情報及びその中に非明示的に記載されていると解釈されうる情報に対して一切の保証をいたしません。また、本資料に含まれる情報の誤りや、それによって生じるいかなるトラブル（PC パーツの破損などを含むがこれらに限られない）に対しても一切の責任と補償義務を負いません。また、本資料に掲載されている内容は、予告なく変更されることがあります。

1

インテル® コンパイラー 自動並列化ガイド
デュアルコア / マルチコア対応アプリケーション開発 4

1．はじめに

今後は、より多くのコアが一つのプロセッサー上に実装されるデュアルコアやマルチコアが一般的なプロセッサーとなることは間違いありません。デュアルコアとマルチコアの持つ大きな可能性とその能力を最大限に発揮するためのキーとなるのが、マルチスレッドでのアプリケーション実行の高速化です。
このアプリケーションの高速化には、複数のスレッドが並列に処理を行うことが必要になります。ここで疑問となるのは、
アプリケーション・プログラムに対して並列処理を適用する為の特別な作業やそのための開発工数が必要になるかということです。実際には、マルチスレッド化や並列化といった作業にはそれほどの時間を必要とするものではありません。マルチスレッド対応の開発ツールがあれば、これらの並列化は容易に行うことが可能です。プログラム開発者は、プログラムの本質的なロジックを記述することに専念し、並列化については、既に高度に最適化・並列化されたライブラリーを利用したり、並列化コンパイラーの支援によって、プログラムのマルチスレッド化を図ることが現在では可能になっています。
ここでは、容易なマルチスレッド・プログラミングを可能とするコンパイラーの自動並列化による自動並列化機能を紹介します。自動並列化とは、その名のとおりコンパイラーがソースコードを解析し、自動的にプログラムの構造に適したマルチスレッド実行が可能な実行モジュールを作成することを意味します。コンパイラーの自動並列化のオプションによって、アプリケーション内で複数のスレッドや拡張機能の自動作成が可能になっています。生成されるバ
イナリはマルチコア・プラットフォーム向けに最適化され、アプリケーション処理性能の効率化がなされています。
プログラム開発者や研究者がプログラムを作るのは、そのプログラムの並列化を行う為ではありません。ある処理、解析を目的にプログラムを書き、そのプログラムをプラットフォームで効率良く、高速に実行できることを目的としています。これらのコンパイルツールは、開発者が本来のプログラムの開発目的である、これらのアルゴリズムの実装やロジックの検証のための作業に専念することを可能とし、必要ではありますが本質的ではない、並列化という手間のかかる作業を開発者の代わりに担うものです。

2．自動並列化

自動並列化はループとプログラム構造をコンパイラーが解析し、プログラム中で並列実行可能な領域を見つける

高度なプログラム解析機能に基づいた並列処理です。コンパイラーによって認識された並列実行領域は、その領域内でのマルチスレッド並列プログラムとして実行されます。ループの展開やデータのアライメントの共有、スレッドのスケジューリング、同期化といった低レベルの細かい作業をユーザが行わなくても並列化が行われるようになり、マルチプロセッサー・システムやハイパースレッディング・テクノロジー対応システムが持つスレッド機能を十分に生かすことができます。
自動並列化は、コンパイル時にコンパイル・オプションとして、/Qparallel スイッチ（Windows*）、-parallel スイッチ
（L i n u x *）を指定することで可能となります。これらのオプションが指定されると、コンパイラーは入力されたファイルに対してその並列処理の可能性の解析と並列化のための最適化を行います。

では、実際には、どのように変換されるのでしょうか？
自動並列化コンパイラーでは、プログラム内でループとして形成
プログラム…
複数のタスクに分割

スタック
データ

共有データ

オリジナル

分割されたタスクを
グループ化

…

共有データ

複数のタスクを分割し逐次処理部分の分離

並列処理のための
コード変換

タスク、
ローカルデータと共有データの明確化
Program SPMD_Emb_Par (){Program SPMD_Emb_Par ()TYPE *tmp, *func();{
Program
SPMD_Emb_Par ()global_array
Data(TYPE);
TYPE *tmp, *func();{
global_array
Res(TYPE);
Program
SPMD_Emb_Par ()global_array
Data(TYPE);
TYPE *tmp, *func();
int N = get_num_procs();{
global_array
Res(TYPE);
global_array Data(TYPE);
int id = get_proc_id();
TYPE *tmp, *func();
int N = get_num_procs();
global_array
Res(TYPE);
if (id==0)
setup_problem(N,DATA);
global_arrayint id = get_proc_id();Data(TYPE);
int0;NI<N;I=I+Num){= get_num_procs();for (int I=
global_array
Res(TYPE);
if (id==0)
setup_problem(N,DATA);
intfunc(I);id = get_proc_id();tmp =
int0;Num= get_num_procs();for (int I=
I<N;I=I+Num){if (id==0) setup_problem(N,DATA);
Res.accumulate(
tmp);
intfunc(I);id = get_proc_id();tmp =for (int I= 0; I<N;I=I+Num){}if (id==0) setup_problem(N,Data);
Res.accumulate(tmp);
tmp = func(I);}for (int I= ID; I<N;I=I+Num){}
Res.accumulate( tmp);
tmp = func(I, Data);}}
Res.accumulate( tmp);}}}

並列化されたプログラム

される一連の処理のおけるその実行タスクとデータフローを解析します。実際には、プログラム中で利用される配列や変数がループ中でどのようにアクセスされるかを解析します。このデータアクセスのパターンにおいて、ループの実行時にそのデータ参照に
おいてコンフリクトが無い事を確認する依存性解析を行います。
データアクセスのパターン解析では、プログラム内の配列や変数が、並列化した場合に各スレッドが P r i v a t e として個々に利用するものであるか、 S h a r e d としてスレッド間で共有されるかを判定します。また自動並列化では、ループ処理のタスクで並列に実行できる部分と逐次処理部分も分離して、並列化処理のためのコードへの変換がなされます。

並列化コンパイルフロー2インテル® コンパイラー 自動並列化ガイド
デュアルコア / マルチコア対応アプリケーション開発 4

自動並列化において、コンパイラーは並列可能なループを見つけ、そのループ内のデータ参照パターンを自動で認識し、それらのデータについての属性を判断し、並列化のためのコードの書き換え、同期処理の追加、実行時のス
ケジューリングの適用など非常に多くの解析と作業を行います。
スカラー最適化やループ最適化（レジスター内でのベクトル化やメモリー最適化）といった最適化機能と並列化
機能の 2 つは緊密に統合されて、キャッシュの局所性を高め、スレッドレベル以外での並列性を効率的に利用しています。自動並列化では、入れ子になった多重ループの場合、できるだけ外側のループを並列化の対象とするようになっ
ています。
これは、
できるだけ並列処理のオーバーヘッドを減らすことに寄与します。たとえば、二重にネストされたループの場合、最内側ループについては、キャッシュの局所性を高め、レジスター利用の最適化を最大限に図り、計算回
数とメモリー参照を最小化するような最適化の適用を目指し、外側ループでマルチスレッド・コードを生成するような最適化を行います。自動並列化での並列処理は、一般には、「細粒度」での並列処理となります。
例えば、次のようなプログラムの自動並列化を考えてみましょう。
for (i=1; i<100; i++){a[i] = a[i] + b[i] * c[i];}このプログラムは、コンパイラーによる自動並列化により、自動的に次のように各スレッドのタスクに分割されます。
// Thread 1for (i=1; i<50; i++){a[i] = a[i] + b[i] * c[i];}// Thread 2for (i=50; i<100; i++){a[i] = a[i] + b[i] * c[i];}プログラムの開発者は、この例で示したようなループの分割、分割したループのマルチスレッドでの実行の制御などに対して気を使う必要はありません。普通のループで必要な処理を記述すれば、コンパイラーが並列処理をサ
ポートします。またこの例では、ループ回数は陽的に記述しましたが、実際にはループ回数はプログラムの実行時に始めて明らかになるケースがほとんどです。コンパイラーは、並列化したループの実行前に各スレッドが実行する
ループの反復回数を決定して実行します。また、反復回数が少ない場合には、並列化処理を行わず逐次処理を行う
ような条件判断を行うことも可能です。
簡単なπの計算での自動並列化コンパイルを示します。πの値を計算するには、以下のようなプログラムが可能
です。
1
2
3
4
5
6
7
8
9
10
11
12
13

#define num_steps 1000000
double step;
main (){ int i;double x, pi, sum = 0.0;
step = 1.0/(double) num_steps;for (i=1;i<= num_steps; i++){x = (i-0.5)*step;sum = sum + 4.0/(1.0+x*x);}
pi = step * sum;}3

インテル® コンパイラー 自動並列化ガイド
デュアルコア / マルチコア対応アプリケーション開発 4

このプログラムに対して、自動並列化コンパイルのためのコンパイラー・オプションを指定してコンパイルすること
で自動並列化コンパイルが可能です。
（Linux* でのコンパイル例）$ icc -parallel -par-report3 -par-threshold0 -O3 sample.c
procedure: main
sample.c(9) : (col. 11) remark: LOOP WAS AUTO-PARALLELIZED

parallel loop: line 9
shared: { }private: {"i", "x"}first priv.: {"step"}
reductions : {"sum"}

ここでは、自動並列化に関するレポートを出力させているので、どのループが並列化されたかを示すメッセージが出力されています。
最初に示したように、自動並列化解析とはコンパイラーによる並列実行可能なタスクの認識とそのタスク内でのデータの利用に関する解析です。コンパイラーは、プログラム内のループの構造をチェックしてその並列実行の可能性をチェックします。そのループを複数のタスクに分割できると判断した後で、並列処理が可能であるかどうかはそれらのループ内でのデータの依存性の判断になります。例えば、次のような例では、各ループの実行はその前のルー
プの反復計算の結果を必要としますので依存性があることになります。従って、このようなループの自動並列化はできません。コンパイラーは、依存性解析を行った結果をメッセージとしても出力しますので、そのメッセージなどを参考に並列化のためのプログラム変更などの検討も可能となります。
$ cat -n sample.c
1 #define N 1000
2 main ()3 { int i;
double a[N], b[N], c[N];4for (i=1;i<= N; i++){5a[i] = a[i-1] + b[i] * c[i];6}7 }$ icc -parallel -par-report3 -par-threshold0 sample.c
procedure: main
serial loop: line 5
flow data dependence from line 5 to line 5
flow data dependence
from stmt 2 to stmt 2, due to "a"コンパイラーが生成するコードは、ハイレベルのマルチスレッド・ライブラリーを参照します。このマルチスレッド・
ライブラリーは、OpenMP* でも共通に利用されます。これによって、自動並列化と OpenMP* の混在が可能となり、またオペレーティング・システムに関係なく、自動並列化の適用が可能になります。

4インテル® コンパイラー 自動並列化ガイド
デュアルコア / マルチコア対応アプリケーション開発 4

３．自動並列化の阻害要因とその対策

コンパイラーが自動並列化によるコードの並列化を行うに際しては、いくつかの条件を満たしている必要があります。

逆にいうと、このような条件に適応できないケースでは、コンパイラーによる自動並列化はできません。
自動並列化の対象となるのは、C/C++ と Fortran などでの「ループ」による反復計算部分です。このループの反復計算を、マルチスレッド化によって高速化を図ることを目的としています。コンパイラーによるループの並列化に際して、ループ内のデータフローやその構造などが解析されます。その解析段階で以下のような条件が並列化には必要となります。
● ループの反復回数がループの実行を開始される時に明らかになっている必要があります。従って、while ループなどの並列化は通常はできません。
● ループの並列化に際して、十分な計算負荷がそのループにあることが必要となります。この並列化の可否の判断
は、コンパイラーがループ内の演算量を推定し設定されたしきい値によって決定されます。/Qpar-threshold[n]（Windows*）及び –par-threshold[n]（Linux*）によって、このしきい値のパラメータは設定できます。n の値の範囲は 0 〜 100 であり、0 はこのしきい値の判定なしで並列化可能なループは全て並列化することを指示します。
100 を指定した場合、性能向上の可能性が高いループのみの並列化を行います。
（省略時は、75 の設定）
ループに十分な仕事量が無いとコンパイラーが判断した場合、次のようなメッセージを出力します。
procedure: copy
serial loop: line 30: not a parallel candidate due to insufficent work

● ループ内の演算は、相互に独立である必要があります。言い換えれば、各反復計算の実行順序が計算の整合性に影響を与えないことが必須です。
（この場合、計算の丸め誤差などでの計算順序の差異については、自動並列化では考慮はなされません）ループの各反復が他の反復計算の結果を参照したりする場合には並列化はできません。
（依存関係）for (i=1;i<= n; i++){a[ インデックス計算式 1] = ・・・・・・・・・・・= a[ インデックス計算式 2] ・・・・・・;}

ここでは、インデックス計算式 1 の値は、各反復時に異なった値となることが必要です。また、インデックス計算式
1 とインデックス計算式 2 の値が異なる場合には、参照関係に依存性が生じます。
● 配列の総和を計算するような場合には、実際には各反復計算の結果は相互依存します。しかし、ループ構造が明確な場合などは、コンパイラーがソースコードを変換し、この見かけの依存性を排除することも可能となります。
● ループ内での演算の独立性の確認のためには、ループ内で使われている変数、配列の参照関係が明確である
必要があります。C / C + + でのポインターでの配列参照は、同じメモリー上を複数のポインターが指す場合もあり、並列化の阻害要因となります。このようなループ中でのポインターの配列参照については、コンパイルオプ
ション /Qfno-alias（Windows*）及び –fno-alias（Linux*）などの指定で、コンパイル時に明示的にコンパイラーにそのポインターの参照が安全であることを指示することで、並列化が可能となる場合もあります。
● ループ内に外部関数の呼び出しがあるような場合には、コンパイラーは自動並列化を行うことはできません。これは外部関数の呼び出しによる依存関係をコンパイラーが判断できないためです。この場合、/Qipo（Windows*）
及び – i p o（L i n u x *）の指定を行うことでプロシージャー間の最適化を図り、依存関係を明確にすることで自動並列化を可能とすることもできます。また、実際のアプリケーションで高い並列性能を発揮するには、できるだけ並列
実行領域を大きく確保することが必要になります。そのためには、関数やサブルーチンを含む領域を並列実行の対象とすることは非常に効率の良い並列化を可能とします。
（付録参照）

5インテル® コンパイラー 自動並列化ガイド
デュアルコア / マルチコア対応アプリケーション開発 4

以下、具体的なプログラム例による自動並列化の適用について示します。
void add (int n, int k, double *a, double *b, double *c){
int i;for (i=1;i<= n; i++){a[i] = a[i+k] + b[i] * c[i];}}このコードを自動並列化コンパイルした場合、コンパイラーは以下のようなメッセージを出力します。ここでは、配列a の参照に依存性があることを示しています。
procedure: add
serial loop: line 20
anti data dependence assumed from line 20 to line 20
dependence assumed from stmt 2 to stmt 2, due to "a"flow data dependence assumed from line 20 to line 20
dependence assumed from stmt 2 to stmt 2, due to "a"flow data dependence assumed from line 20 to line 20
dependence assumed from stmt 2 to stmt 2, due to "a"anti data
flow data
flow data

コンパイラーは、k の値を知らないため、例えば k = -1 の場合のようにループ内の反復に依存性がある場合も想定し、このループの自動並列化を禁止します。しかし、k の値が明確で、例えば k の値がゼロまたは 1000 以上の数値であれば、このループは並列化可能です。
このループの呼び出しで、k の値が設定されている場合、次のようなケースの並列化を考えます。
k=0;
add (n, k, a, b, c);

この場合、k の値が 0 ですので実際には並列実行が可能です。ここで、コンパイラーにプロシージャー間の最適化を行う、/Qipo（Windows*）及び –ipo（Linux*）の指定を行った場合、コンパイラーはこのループをインライン展開
し並列化します。
procedure: main
sample.c(10) : (col. 3) remark: LOOP WAS AUTO-PARALLELIZED.
parallel loop: line 10
shared: {"a", "b", "c"}private: {"i"}
first priv.: { }reductions : { }6インテル® コンパイラー 自動並列化ガイド
デュアルコア / マルチコア対応アプリケーション開発 4

次のような配列インデックスが間接的に参照される場合も自動並列処理は阻害されます。
{
int i;
for(i=0; i<n; i++)a[indx[i]] += s*b[i];}このようなループの自動並列化は通常はできません。もし、このプログラムで配列 index での配列 a の参照に依存性が無いとわかっているのであれば、OpenMP* 宣言子などを挿入することで並列化可能です。
{
int i;#pragma omp parallel for
for(i=0; i<n; i++) a[indx[i]] += s*b[i];}また、コンパイラーにこのループには依存性がないことを指示するための宣言子 (#pragma ivdep) を加え、コンパ
イル時に /Qivdep_parallel（Windows*）及び –ivdep_parallel（Linux*）の指定を行った場合には、自動並列化も可能となります。
$ cat -n sample.c
1 #define N 100000
2 main ()......
28 void update_ivdep(int n, double *a, double *b,
29
int *indx, double s)30 {31
int i;
32 #pragma ivdep
33
for(i=0; i<n; i++) a[indx[i]] += s*b[i];34 }$ icc -O3 -parallel -ivdep_parallel –par-report3 sample.c......
sample.c(33) : (col. 23) remark: LOOP WAS AUTO-PARALLELIZED.
parallel loop: line 33
shared: {"indx", "b", "a", "n"}private: {"_2$4_2_$_spill_t0"}
first priv.: {"s"}reductions : { }自動並列化では、コンパイラーは可能な限り外側ループでの並列化を行います。ただ、実際のループの演算回数
が明示的にプログラム中に明記されていないようなケースやプロシージャー間でそのデータが引き渡されるケース
では、効率の悪いループを並列化の対象とするケースもあります。

7

インテル® コンパイラー 自動並列化ガイド
デュアルコア / マルチコア対応アプリケーション開発 4

1
2
3
4
5
6
7
8
9
10
11
12
13

subroutine copy (imx,jmx,kmx,imp2,jmp2,kmp2,w,ws)
real*8 ws(5,imx,jmx,kmx),w(2,imx,jmx,kmx)
do nv=1,5
do k = 1,kmx
do j = 1,jmx
do i = 1,imx
ws(i,j,k,nv) = w(i,j,k,nv)
end doend doend doend doreturnend

この例の場合、kmx やｊｍの数値にも依存しますが、もし kmx が十分に大きな数値であれば、最外側の行番号 3 のループでの並列化は非効率です。

8インテル® コンパイラー 自動並列化ガイド
デュアルコア / マルチコア対応アプリケーション開発 4

４．自動並列化の適用について

自動並列化は、プログラム開発者から並列処理を行うための様々な作業を解放します。しかし、自動並列化では、

その自動並列化を阻害する要因も多々あります。
以下の図に示すのは、簡単なプログラム開発、最適化、並列化の流れです。プログラムを自動並列化し性能評価ツールなどを使い、必要なところに O p e n M P * 宣言子による並列処理の適用を行うというのが実際の開発の流れになります。

計算負荷の大きな関数やサブルーチンに対する自動並列処理や OpenMP* の適用の検討

プログラム
関数・サブルーチンプログラム開発者

OpenMP* 宣言子の挿入による並列化指示

プログラム

自動並列化
コンパイル
オプション

OpenMP*

最適化オプション

インテル®
コンパイラー

OpenMP*

プログラム

コンパイル
オプション

インテル®
パフォーマンス
ツール

性能解析ツールによるパフォーマンス
チューニングマルチスレッド
実行モジュール

シングルスレッドでの最適化とプログラム性能の評価

インテル®
コンパイラー

インテル®
パフォーマンス
ツール

性能解析ツールによるパフォーマンス
チューニングマルチスレッド
実行モジュール

マルチスレッドでの最適化とプログラム性能の評価

プログラムの開発には、多くの試行錯誤とプログラムの実行と検証、デバッグといった作業が必要になります。またプログラムについては、その実行性能の向上を図るためのソースコードの書き換えなどを行う作業を、プログラムの開発中も開発後も行う必要があります。このような作業を効率良く、また短時間で行うには、優れた開発環境が必要です。インテルのソフトウェア製品は、マルチスレッド・プログラミングに対応したインテル® コンパイラーなどのプロ
グラミングを支援する豊富なツール群が用意されています。それらのツールを活用することで、プログラム開発サイ
クルは、より充実したものになります。
自動並列化適用のためのステップとしては、次のような段階的な検討が必要です。
1. パフォーマンス・ツールを使いプログラムの動作の詳細な解析を行います。ホットスポットを見つけることが並列処理では必要になります。プログラム全体を /Qparallel スイッチ（Windows*）、-parallel スイッチ（Linux*）
でコンパイルして並列化することも可能ですが、この場合、不要な部分の並列処理によるオーバーヘッドの発生の危険性などもあります。
2. /Qparallel スイッチ（Windows*）、-parallel スイッチ（Linux*）でホットスポットを含む関数、サブルーチンをコン
パイルします。/Qpar_report3（Windows*）及び -par_report3（Linux*）オプションを指定して、自動並列化についてのレポート機能を有効にします。これによって、どのループが並列化され、どのループが並列化できなかったかを確認します。

9インテル® コンパイラー 自動並列化ガイド
デュアルコア / マルチコア対応アプリケーション開発 4

3. 並列化できなかったループについては、その構造の検討や依存関係の解消などについての検討を行います。ポ
インターなどによる参照が問題の場合には、コンパイラー・オプションの指定やポインター宣言での r e s t r i c t 構
文の指定なども検討する必要があります。
4. コンパイラーがループを並列化するために必要な変換や依存関係の解消のために行うプログラムの変更が、他のハイレベルの最適化手法（ソフトウェア・パイプラインやベクトル化）などに影響を与えることがあります。この並列化による他のハイレベルの最適化の阻害は避ける必要があります。そのためには、並列化の適用時と非適用時の性能を比較検討する必要もあります。多くのプログラム言語は逐次処理を前提として開発されているため、逐次処理ではプログラムの生産性を高め、より容易なプログラミングを可能とする機能が、並列処理においては非効率になる場合もあります。
5. 計算コアの部分について、もし可能であれば既にマルチスレッド向けに高度に最適化されているインテル M K L（Math Kernel Library）などを積極的に利用することが、並列処理の効率化を図る有効な手段です。これらのライブラリーのマルチスレッド化には O p e n M P * が使用されているので、容易に自動並列化に組み込むことが可能です。
6. 自動並列化の適用が困難でも OpenMP* 宣言子の挿入などで並列化可能なループについては、OpenMP* 宣言子を挿入して並列化を試みることも可能です。

10

インテル® コンパイラー 自動並列化ガイド
デュアルコア / マルチコア対応アプリケーション開発 4

5. おわりに

自動並列化はコンパイラーがユーザーの介在なしでマルチスレッド化を行うツールであり、もっとも簡便な並列化をユーザーに提供するものです。SMP システムやデュアルコア / マルチコア・プロセッサー・システムでは、データの分散配置については本質的に検討する必要がなく、プログラム自身の構造が明白であるようなケースでは、自動並列化は十分な並列化効率を発揮できます。しかし、自動並列化のサンプルで示されるような単一ファイル、単一アルゴリズムから構成されるプログラムであれば、自動並列化による並列処理の効果を示すことは比較的容易だとしても、フルスケールのアプリケーションに自動並列化を適用した場合には、数多くの自動並列化の阻害要因に直面することも事実です。
自動並列化の適用には現在でも限界があり、その適用範囲は必ずしも広いわけではありません。しかし、今後のマイクロプロセッサーのデュアルコア、マルチコア化によって、非常に廉価にマルチプロセッサーの実装が可能になります。
このような状況において、自動並列化は簡便な並列処理ツールとして重要な位置を占めることになります。
自動並列化はある意味、OpenMP* のようなコンパイラーに対して並列処理を指示するツールと共に使うことで、更にその価値を高めることが可能になります。

11インテル® コンパイラー 自動並列化ガイド
デュアルコア / マルチコア対応アプリケーション開発 4

付録 .1 自動並列処理と OpenMP*

次の性能データは、OpenMP* ホームページにある OpenMP* のサンプルプログラム md.f を OpenMP* で並列化したものと自動で並列化したものを比較したものです。

経過時間
50

40

■ OpenMP*30■ 自動並列化

20

10

0

1

2

4

プロセッサー数

SGI Altix システム / インテル® Itanium® 2 プロセッサー 1.6GHz での計測結果（出典：http://www.openmp.org/）

このケースでは自動並列化の効果は見られません。
実際のコンパイルでは、以下のように自動並列化によって、多くのループは並列化されています。
$ ifort -O3 -parallel -par_threshold0 md.f
md.f(35) : (col. 6) remark: LOOP WAS AUTO-PARALLELIZED.
md.f(98) : (col. 8) remark: LOOP WAS AUTO-PARALLELIZED.
md.f(161) : (col. 6) remark: LOOP WAS AUTO-PARALLELIZED.
md.f(181) : (col. 6) remark: LOOP WAS AUTO-PARALLELIZED.
md.f(212) : (col. 6) remark: LOOP WAS AUTO-PARALLELIZED.

このコードでもっとも計算時間がかかるのは、以下のループです。このループの自動並列化は、サブルーチンの呼び出しなどもあり阻害されています。実際には、このループから呼び出されるサブルーチン d i s t 内のループなど
は自動並列化されています。しかし、多重ループからの並列実行領域の呼び出しとなるため並列効率を上げることは困難であり、逆にオーバーヘッドが増えています。

12インテル® コンパイラー 自動並列化ガイド
デュアルコア / マルチコア対応アプリケーション開発 4

96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111

do i=1,np! compute potential energy and forcesf(1:nd,i) = 0.0
do j=1,np
if (i .ne. j) thencall dist(nd,box,pos(1,i),pos(1,j),rij,d)! attribute half of the potential energy to particle 'j'
pot = pot + 0.5*v(d)do k=1,ndf(k,i) = f(k,i) - rij(k)*dv(d)/d
enddo
endif
enddo
! compute kinetic energy
kin = kin + dotr8(nd,vel(1,i),vel(1,i))
enddo

13

インテル® コンパイラー 自動並列化ガイド
デュアルコア / マルチコア対応アプリケーション開発 4148...............
160
161
162
163
164
165
166
167
168

subroutine dist(nd,box,r1,r2,dr,d)d = 0.0
do i=1,nddr(i) = r1(i) - r2(i)d = d + dr(i)**2.
enddo
d = sqrt(d)returnend

このコードについては、以下のような OpenMP* 宣言子の指定が可能です。この指定によってサブルーチンの呼び出しを含めて、疎粒度での並列処理が可能となります。
!$omp parallel do!$omp& default(shared)!$omp& private(i,j,k,rij,d)!$omp& reduction(+ : pot, kin)do i=1,np! compute potential energy and forcesf(1:nd,i) = 0.0
do j=1,np
if (i .ne. j) thencall dist(nd,box,pos(1,i),pos(1,j),rij,d)! attribute half of the potential energy to particle 'j'
pot = pot + 0.5*v(d)do k=1,ndf(k,i) = f(k,i) - rij(k)*dv(d)/d
enddo
endif
enddo
! compute kinetic energy
kin = kin + dotr8(nd,vel(1,i),vel(1,i))
enddo!$omp end parallel dokin = kin*0.5*mass

自動並列化は非常に容易なマルチスレッド・プログラミングのツールですが、ループレベルでの並列化の認識には限界があることも事実です。自動並列化の内容を理解し、その上で OpenMP* をコンパイラーに対する並列化指示のためのツールとして使うことで、さらに効率の良い並列処理が可能となります。

14インテル® コンパイラー 自動並列化ガイド
デュアルコア / マルチコア対応アプリケーション開発 4

付録 .2 依存性解析

自動並列化の実施に際しては、その依存性解析が重要となります。自動並列化の適用時にコンパイラーが出力するメッセージには、この依存性解析の結果が含まれます。プログラムの並列化には、この依存性の排除が必要となります。
void add (int n, int k, double *a, double *b, double *c){
int i;for (i=1;i<= n; i++){a[i] = a[i+k] + b[i] * c[i];}}このコードを自動並列化コンパイルした場合、コンパイラーは以下のようなメッセージを出力します。ここでは、配列 a の参照に依存性があることを示しています。
procedure: add
serial loop: line 20
anti data dependence assumed from line 20 to line 20
dependence assumed from stmt 2 to stmt 2, due to "a"flow data dependence assumed from line 20 to line 20
dependence assumed from stmt 2 to stmt 2, due to "a"anti data
flow data

ここで示される anti data dependence... や flow data dependence... の意味を理解することも必要になります。
ここでは以下のような計算式を考えてみます。下の図の S1 から S5 がそれぞれの式になります。

S2

S1
S3

S5

S4

（1） A = 0（2） B = A
（3） C = A+D（4） D = A
（5） A = Cflow data dependence（フロー依存）
これは、データを定義されたり代入されたりした変数が、後続の式で使われることを意味しています。
（例：変数 A は、式（1）で定義され、式（2）で使われています）

anti data dependence（アンチ依存）
これは、一つの式で使われた変数が、後続の式で代入や定義されることを意味しています。
（例：変数 D は、式（3）で参照されて使われ、式（4）でデータの代入がなされています）

output dependence（出力依存）
これは、一つの式で定義された変数に対して、後続の式で再度データの定義、代入がなされていることを意味しています。
（例：変数 A は、式（1）で定義され、再度式（5）で定義、代入がなされています。）

15

本資料で言及されているインテル製品は、一般的な商業目的にのみ使用することを前提にしています。特定の目的に本製品を使用する場合、適合性の評価についてはお客様の責任になります。インテル製品は、医療、救命、延命措置、重要な制御または安全システム、核施設などの目的に使用することを前提としたものではありません。
分散並列処理、スーパーコンピュータなどに関する各種情報は、インテル HPC リソース・センターをご参照ください。http://www.intel.co.jp/jp/go/hpc/

インテル株式会社〒 300-2635 茨城県つくば市東光台 5-6
http://www.intel.co.jp/
Intel、インテル、Intel ロゴ、Pentium、Xeon、Itanium、VTune は、アメリカ合衆国およびその他の国における Intel Corporation またはその子会社の商標または登録商標です。
* その他の社名、製品名などは、一般に各社の表示、商標または登録商標です。

©

2006 Intel Corporation. 無断での引用、転載を禁じます。

2006 年 8 月

528J-001
JPN/0608/PDF/SE/DEG/KS