Parallel STL を利用してシーケンシャル
C++ コードを並列コードに変換する
R によるスピード要件を満たすハイパフォーマンスの実現
実際のマシンラーニングの問題を解く

00001101
00001010
00001101
00001010
01001100
01101111
01110010
Issue
01100101
01101101
00100000
2017
01101000
01110001
01110011
0111010128

目次

The Parallel Universe

編集者からのメッセージ

並列言語、 言語拡張、 アプリケーション ・ フレームワーク

2

3

注目記事

Henry A. Gabb インテル コーポレーション シニア主任エンジニア

Parallel STL: C++ STL コードのパフォーマンスの向上

5OpenMP* 誕生から 20 年

19インテル® DAAL を利用して実際のマシンラーニングの問題を解く

26

並列処理に向かう C++

並列プログラミングを C/C++ および Fortran プログラマーが利用しやすいものにしエクサスケール計算への道をソフトウェアに提供

Kaggle コンペティションでモデルをテスト

R を使用した HPC: 基本

46

BigDL: Apache Spark* 上の最適化されたディープラーニング

57

データ解析のスピード要件に対応

ディープラーニングの普及を促進

コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

The Parallel Universe

3

編集者からのメッセージ
Henry A. Gabb インテル コーポレーション シニア主任エンジニア
HPC と並列コンピューティング分野で長年の経験があり、 並列プログラミングに関する記事を多数出版しています。
『Developing Multithreaded Applications: A Platform Consistent Approach』 の編集者 / 共著者で、インテルと Microsoft® による Universal Parallel Computing Research Centers のプログラムマネージャーを務めました。

並列言語、 言語拡張、 アプリケーション ・フレームワーク
プログラミング言語がまだ標準化されず、 コンパイラーが未熟だった頃、 現在の並列コンピューティングと呼ばれるものは、その兆しすら見えていませんでした。 当時は、 まだニッチなテーマであり、 開発者は言語拡張やライブラリー (OpenMP*、
インテル® スレッディング・ ビルディング・ブロック、 MPI、 Pthreads など ) により並列処理を表現することで満足していました。
プログラミング言語の設計と並列プログラミング ・ モデルは、 切り離して考えられ、 長年にわたって別々に研究が進められました。 時としてそれぞれの研究が交差したり (High-Performance Fortran、 Unified Parallel C など )、 一般的な言語のメモリーモデルが並列処理を安全に実装できるかどうかについて頻繁に議論されました。 これらの議論や実験をとおして多くのことが学ばれました。
現在では、 並列コンピューティングは至るところに存在し、 主要プログラミング言語では標準になりつつあります。 この号の注目記事、 「Parallel STL: C++ STL コードのパフォーマンスの向上」 では、 次の C++ 標準 (C++17) で実装される ParallelStandard Template Library (PSTL) の概要とその使用法を示すサンプルコードを紹介します。
それ自体は並列言語ではありませんが、 可搬性のあるベンダー ・ ニュートラルな並列プログラミング ・ ディレクティブとして誕生 20 周年を迎えた OpenMP* について、 この号でも引き続き取り上げたいと思います。 前号では、 Michael Klemm 氏(OpenMP* Architecture Review Board の現 CEO) が最新の OpenMP* 機能を紹介してくれました。 この号では、 業界に精通した Rob Farber 氏が 「OpenMP* 誕生から 20 年」 で OpenMP* の開発の歩みを振り返り、 現代における使用法を示します。
私は特定のタスクに R を使用しますが、 率直に言って R は私の好きな言語ではありません。 私自身は、 ハイパフォーマン
ス ・ コンピューティング (HPC ) に R を使用しようと思ったことがありませんが、 「R を使用した HPC: 基本」 では、 テネシー大学ノックスビル校の Drew Schmidt 氏がこの人気の統計言語を HPC で使用する方法を説明しています。 この記事を読み、 私も R の可能性を信じるようになりました。

コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

The Parallel Universe

4

マシンラーニング向けの新しいソフトウェア
マシンラーニングとその親戚でありより有名なディープラーニングが、 最近多くの計算サイクルを消費していることに異論はないでしょう。 インテルでは、 その優れたマシンラーニング ・ ポートフォリオに新しいソリューションを追加し続けています。
最新の BigDL (英語 ) は、 ビッグデータ環境内においてディープラーニングを促進するように設計されています。 「BigDL:
Apache Spark* 上の最適化されたディープラーニング」 では、 この新しいフレームワークの使用を支援します。 「インテル®
DAAL を利用して実際のマシンラーニングの問題を解く」 では、 インテル® DAAL ライブラリーを使用して分類とクラスタリ
ングを行います。 Kaggle (英語 ) の予想モデリングと解析プラットフォームの 2 つの問題を用いて、 Python* と R での実装
方法を示し、 比較します。

今後についてThe Parallel Universe の将来の号では、 Julia プログラミング言語、 HPC でのコンテナーの使用、 クラウドおよび IoT アプ
リケーション向けの高速データ圧縮、 インテル® Cluster Checker など、 さまざまなトピックについて取り上げる予定です。

Henry A. Gabb
2017 年 4 月

コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

The Parallel Universe

5

Parallel STL: C++ STL コードのパフォーマンスの向上
並列処理に向かう C++
Vladimir Polin インテル コーポレーション アプリケーション ・ エンジニア
Mikhail Dvorskiy インテル コーポレーション シニア ・ ソフトウェア開発エンジニア

コンピューティング ・ システムは、 シングルスレッドと SISD アーキテクチャーから最新のマルチコア / メニーコアとSIMD アーキテクチャーへと急速に発展し、さまざまな分野およびフォームファクターで利用されています。 C++ は、
これらの最新のシステムで広く利用されているパフォーマンス指向の汎用言語です。 しかし、 最近まで、 これらの最新のシステムをフルに活用する標準化された手段は提供されていませんでした。 最新バージョンの C++ でも、並列処理を引き出す機能は制限されています。 これまで、各ベンダーは、並列処理をサポートするさまざまな仕様、手法、 ソフトウェアを開発してきました 1 (図 1)。 C++ 標準規格の次のバージョン (C++17 ) では、 スレッド化やベクトル化のようなハードウェア機能を活用できるように、 既存のシーケンシャル C++ コードを並列コードに変換する Parallel STL が追加される予定です。

コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

The Parallel Universe

高レベル(メッセージ、 イベント、
フローグラフ)6

C++11/14

C++17

std::async、

std::async、

std::future

std::future

C++2X

ほかのアプローチ
MPI、 Microsoft* AAL、
インテル® TBB フロー

再開可能な関数グラフ、 Qualcomm*
Symphony など
OpenMP*、
インテル® TBB、 Cilk、

中レベル

std::thread +Parallel STL

タスクブロック、(fork-join、 スレッド)

手動同期

(par)

for_loop

Nvidia* Thrust、Microsoft* PPL、
Qualcomm* Symphony、
OpenCL*、 OpenACCなど
組込み関数、

最内レベル (SIMD)

N/A

Parallel STL(par_unseq)

Parallel STL(unseq、 vec)、
for_loop

自動ベクトル化、インテル ® Cilk ™ Plus、
OpenCL*、 Nvidia*
CUDA*、 OpenMP* 4.0、
OpenACC など

1

C++ における並列処理のサポート

Parallel STL
Parallel STL は、 実行ポリシー引数で C++ 標準テンプレート ・ ライブラリーを拡張します。 実行ポリシーは、
STL アルゴリズムの関数多重定義を一義化するため固有の型として使用される C++ クラスです。 便宜上、 C++
ライブラリーはポリシー引数として使用できる各クラスのオブジェクトも定義します。 ポリシーは、 従来のアルゴリズム (transform、 for_each、 copy _if など ) や新しいアルゴリズム (reduce、 transform_reduce、 ス
キャンのバリエーション [prefix sum] など ) とともに使用することができます。 並列実行ポリシーのサポート
は、 並列処理の C++ 拡張技術仕様 ( Parallelism TS ) として数年にわたり開発されてきましたが、 C++17 標
準規格ドラフトに含まれました (ドキュメント n464022) 。 ベクトル化ポリシーのサポートは、 Parallelism TSの 2 つ目のバージョンで提案されています (ドキュメント p007533 および p00764 4)。 全体的に、 これらのドキュメントは 5 つの異なる実行ポリシーを説明しています ( 図 2)。
•• sequenced_policy (seq) クラスはアルゴリズムの実行が並列化されないことを示します。 2•• parallel_policy (par) クラスはアルゴリズムの実行が並列化されることを示します。 2 実行中に呼び出されるすべてのユーザー指定関数にデータ競合が含まれていてはなりません。
•• parallel_unsequenced_policy (par_unseq) クラスは実行が並列化およびベクトル化されることを示します。 2

コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

The Parallel Universe

7•• unsequenced_policy (unseq) クラスは実行ポリシーの Parallelism TS v24 における提案で、 アルゴリズムの実行はベクトル化されるが並列化されないことを示します。 提供されるすべての関数が SIMD セーフである必要があります。
•• vector_policy (vec) クラスは実行ポリシー型の提案 4 で、 要素間の前方依存性を保つ方法でベクトル化されることを示します。

2

C++ 標準テンプレート ・ ライブラリーの実行ポリシー

図 2 は、 これらの実行ポリシー間の関係を示しています。 より上位の実行ポリシーは多くのことを行うことができますが、 ユーザーコードに追加する要件も多くなります。 Parallel STL の実装は、 図の下に示す限定的な実行ポリシーの代わりに使用することができます。

コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

The Parallel Universe

8

構築、教育、ひらめき
Women in Big Data は、ビッグデータ/ 解析における女性のリーダーシップと成功を支援する草の根コミュニティーです。
Women in Big Data は、多くの女性の才能を引き出して、結び付き、連携、成長を支援することで、この分野の多様性を強化します。
コミュニティーへの参加をお待ちしています。

参加申し込み (英語) ›Twitter: @DataWomen

コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

The Parallel Universe9

単純な等価の STL と Parallel STL アルゴリズムは次のように記述することができます。
#include <execution>#include <algorithm>
void increment_seq( ﬂoat *in, ﬂoat *out, int N ) {using namespace std;transform( in, in + N, out, []( ﬂoat f ) {return f+1;});}
void increment_unseq( ﬂoat *in, ﬂoat *out, int N ) {using namespace std;
using namespace std::execution;transform( unseq, in, in + N, out, []( ﬂoat f ) {return f+1;});}
void increment_par( ﬂoat *in, ﬂoat *out, int N ) {using namespace std;
using namespace std::execution;transform( par, in, in + N, out, []( ﬂoat f ) {return f+1;
});
}

ここで、
std::transform( in, in + N, out, foo );は次のループと同じくらい単純です。
for (x = in; x < in+N; ++x) *(out+(x-in)) = foo(x);また、
std::transform( unseq, in, in + N, out, foo );は次のループと同じくらい単純です (今回の実装は最内レベルで #pragma omp simd を使用していますが、異なるアプローチを使用して unseq ポリシーを実装する Parallel STL に置き換えることもできます )。

コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

The Parallel Universe

10#pragma omp simdfor (x = in; x < in+N; ++x) *(out+(x-in)) = foo(x);また、
std::transform( par, in, in + N, out);

は次のインテル® TBB による並列ループと同じくらい単純です。
tbb::parallel_for (in, in+N, [=] (x) {*(out+(x-in)) = foo(x);});

インテル® Parallel Studio XE 2018 ベータ版における Parallel STL 実装の概要
Parallel STL 実装はインテル® Parallel Studio XE 2018 ベータ版 (英語) に含まれています。 インテル® プロ
セッサー向けのアルゴリズムの並列実行とベクトル実行の両方を効率的にサポートします。 具体的には、 シーケ
ンシャル実行に C++ 標準ライブラリーの利用可能な実装、 par および par_unseq 実行ポリシーによる並列処理にインテル® スレッディング ・ ビルディング ・ ブロック (インテル® TBB)、 unseq および par_unseq ポリシーにOpenMP* によるベクトル化を使用します。
インテル® Parallel Studio XE 2018 ベータ版の Parallel STL 実装はプレリリース ・ コードであるため、 機能が完全ではない可能性があります。 また、 将来のバージョンでは大幅に変更される場合があります。
Parallel STL をインストールした後、パッケージに含まれている 「Getting Started with Parallel STL」 ドキュ
メントの指示に従って環境を設定する必要があります。 このドキュメントには、 並列およびベクトル実装に対応しているアルゴリズムの最新のリストが含まれています。 リストされていないアルゴリズムでは、 実行ポリシーは利用できますが、 シーケンシャル実装になります。 フィードバックと要望に基づいて、 将来のリリースでは、 より多くのアルゴリズムで並列化をサポートする予定です。
Parallel STL で最良の結果を得るには、 インテル® C++ コンパイラー 18.0 を使用することを推奨します。
C++11 をサポートしているほかのコンパイラーも使用できます。 ベクトル化ポリシーを有効にするには、 コン
パイラーが OpenMP* 4.0 SIMD 構造をサポートしている必要があります。 並列実行ポリシーを使用するにはインテル® TBB が必要です。

コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

The Parallel Universe11

次の手順に従って、 アプリケーションに Parallel STL を追加します。
1. コードに #include "pstl/execution" 行を追加します。次に、使用するアルゴリズムに応じて、次の行を追加します。
a. #include "pstl/algorithm"
b. #include "pstl/numeric"c. #include "pstl/memory"

pstl がヘッダー名の一部として使用されていることに注意してください。 この処理は、 C++ 標準ライブラリーのヘッダーファイルとの競合を避けるため、 意図的に行われているものです。
2. アルゴリズムと実行ポリシーを使用している場合は、 std および std::execution 名前空間を指定します。

3. C++11 以降 としてコードをコンパイルします。 適切なコンパイラー ・ オプションを指定して OpenMP* ベク
トル 化 を有 効 にし ま す。 例 え ば、 インテル® C++ コンパイラー の 場 合、 -qopenmp-simd (Linux*) または/Qopenmp-simd (Windows*) を指定します。

4. 優れたパフォーマンスを得るためには、 ターゲット ・プラットフォームを指定します。 インテル® C++ コンパイラーの場合、 適切なオプションは -xHOST、 -xCORE-AVX2、 -xMIC-AVX512 (Linux*) または /QxHOST、 /QxCOREAVX2、 /QxMIC-AVX512 (Windows*) です。

5. インテル® TBB をリンクします ( 必要な場合 )。 Windows* では、 この処理は自動的に行われます。 ほかのプラッ
トフォームでは、 リンカーオプションに -ltbb を追加します。

インテル® Parallel Studio XE 2018 ベータ版には、 Parallel STL の例として使用できるガンマ補正のサンプルが含まれています。

Parallel STL を使用した効率的なベクトル化、 並列化、 構成の容易性
理論上は、 Parallel STL は C++ 開発者が並列ランダムアクセス機械 (PRAM) をプログラムする直感的な方法として開発されたものです。 この理論を、「最も内側をベクトル化、最も外側を並列化」 アプローチ 5 のようなループ階層並列化のベスト ・プラクティスと関連付ける方法を考えてみましょう ( この記事ではプレリリース版のソフト
ウェアを使用しているため、 将来のバージョンでは結果が異なる場合があります)。 イメージピクセルの輝度のエンコード / デコードに非線形操作を使用する、 ガンマ補正 (ガンマ ) のサンプルを考えます。 シーケンシャル実
行とシーケンシャルでない実行の違いを示すため、 シーケンシャル実行ではコンパイラーの自動ベクトル化を無効にする必要がある点に注意してください。 (自動ベクトル化を無効にしない場合、 この違いは自動ベクトル化をサポートせず、 OpenMP* によるベクトル化をサポートするコンパイラーでのみ現れます。 )コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

The Parallel Universe12

以下は、 単純なシリアル実装の例です。
#include <algorithm>
void ApplyGamma(Image& rows, ﬂoat g) {using namespace std;for_each(rows.begin(), rows.end(), [g](Row &r) {transform(r.cbegin(), r.cend(), r.begin(),[g](ﬂoat v) {return pow(v, g);
});
});
}

ApplyGamma 関数は、 参照渡しのイメージを 1 セットの行として取得し、 std::for_each を使用して反復を行います。 各行について呼び出されるラムダ関数は、 std::transform で行のピクセルを反復して処理し、 ピ
クセルの輝度を変更します。
前述したように、 Parallel STL は、 実行ポリシーに対応した for_each と transform アルゴリズムの並列化
およびベクトル化バージョンを提供します。 つまり、 標準アルゴリズムに第 1 引数として渡される実行ポリシーにより、 アルゴリズムの並列化 / ベクトル化バージョンが実行されます。
上記のサンプルを見ると、 すべての計算は transform アルゴリズムから呼び出されているラムダ関数で行われていることが分かります。 そこで、 一石二鳥を狙って、 par_unseq ポリシーを使用してサンプルを次のように書き直します。
void ApplyGamma(Image& rows, ﬂoat g) {}using namespace std::execution;
std::for_each(rows.begin(),rows.end(), [g](Row &r) {// 内側の並列化とベクトル化
std::transform(par_unseq, r.cbegin(), r.cend(), r.begin(),[g](ﬂoat v) {return pow(v, g);});});

コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

The Parallel Universe

3

内側の並列化とベクトル化

意外なことに、 一石二鳥にはなりませんでした ( 図 3)。 par_unseq のパフォーマンスはシリアル実行よりも低下しました。 そのため、 このサンプルは Parallel STL の使用が適していない例と言えます。 インテル®
VTune™ Amplifier XE のようなツールを利用してコードをプロファイルすると、 異なるコアのスレッドが同じ
キャッシュラインに書き込むことで多くのキャッシュミスが発生していること、スレッド同期とスケジュールのオー
バーヘッドが大きいことが分かります。 [ 編集者注 : これはフォルス ・ シェアリングと呼ばれます。 詳細は、
スレッド間のフォルス ・ シェアリングの回避と特定を参照してください。 ]前述のように、 Parallel STL は中レベルおよび最内レベルの並列パターンの表現を支援します。 中レベルはシステムスレッドによる並列化を意味し、 最内レベルは SIMD によるベクトル化を意味します。 一般に、 最大のスピードアップを得るには、 アルゴリズムの実行時間を推定して、 実行時間を並列化およびベクトル化のオー
バーヘッドと比較します。 シリアル実行時間が各並列レベルのオーバーヘッドの少なくとも 2 倍以上の場合に並列化 / ベクトル化を行うと良いでしょう。
•• 最外レベルで並列化を行い、 並列で実行するワークの最大量を求めます。
•• 十分な並列処理が行われている場合は、 中止します。 オーバーサブスクリプションが発生しないようにします。
発生しない場合、 その内側のレベルを並列化します。
•• アルゴリズムがキャッシュを効率的に利用していることを確認します。
•• 最内レベルをベクトル化します。制御フローの分岐が最小限でありメモリーアクセスが均一であることを保証します。
•• ほかの推奨事項を確認します。 5

これらの推奨事項は、 異なるレベルで並列ポリシーとベクトルポリシーを指定するほうがパフォーマンスが向上することを示しています。

コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

13

The Parallel Universe

14

void ApplyGamma(Image& rows, ﬂoat g) {using namespace std::execution;// 外側の並列化
std::for_each(par, rows.begin(), rows.end(), [g](Row &r) {// 内側のベクトル化
std::transform(unseq, r.cbegin(), r.cend(), r.begin(),[g](ﬂoat v) {return pow(v, g);
});
});
}

4

外側の並列化と内側のベクトル化

1 つのイメージは効率的に並列で処理できるようになりました (図 4)。 しかし、 実際のアプリケーションでは、一度に複数のイメージを処理したり複数の補正を行います (図 5)。 高レベルでは、 標準アルゴリズムを使用した並列処理は適切に動作しないかもしれません。 この場合、 構成可能な方法でインテル® TBB と Parallel STL
を使用します。

コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

The Parallel Universe

515

構成の容易性

構成の容易性とは、 システムのオーバーサブスクリプションについて心配することなく、 インテル® TBB の並列構造(フローグラフ、 パイプラインなど ) やタスクで最上位の並列処理を表現し、 内側のレベルで Parallel STL アルゴリ
ズムを呼び出せることを意味します。
void Function() {Image img1, img2;// img1 と img2 を準備
tbb::parallel_invoke([&img1] { img1.ApplyGamma(gamma1); },[&img2] { img2.ApplyGamma(gamma2); });}コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

The Parallel Universe

6

16

インテル® TBB と Parallel STL 間の構成の容易性

図 6 に示すように、 インテル® TBB で 2 つのイメージを同時に処理すると、 パフォーマンスは低下せず、 わずかに向上します。 これは、 内側と最も内側の並列処理の表現が CPU コアをフルに活用していることを示しています。
多くの CPU コアが利用可能であり、 大きなセットのイメージを処理する場合について考えてみましょう。
tbb::parallel_for(images.begin(), images.end(),[](image* img) {applyGamma(img->rows(), 1.1);});

BLOG HIGHLIGHTS
Supercomputing 2016 の HPC サーバーのデモ
MIKE P. (INTEL) >SC16 では、 ライフサイエンス / リサーチからマシンラーニングまで、 あらゆるものに大きな影響を与えている HPC に焦点が当てられました。 ソフトウェア定義インフラストラクチャー、視覚化、解析、シミュレーション、DNA 塩基配列決定法は、 今年の HPC Life Sciences Experience においてインテルのブースで実演された
ユースケースの一部です。 デモガイドを読み、 インテル® スケーラブル ・ システム ・フレームワーク ( インテル®
SSF ) でカプセル化されたインテルの HPC テクノロジーが、 どのようにスーパーコンピューティングの壁を破り、 がん治療における革命をもたらしているか紹介するビデオをご覧ください。
この記事の続きはこちら (英語) でご覧になれます。

コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

The Parallel Universe

7

17

インテル® TBB と Parallel STL 間の構成の容易性

図 7 に示すように、 インテル® TBB ( parallel_for) でイメージのセットを同時に処理すると、 パフォーマ
ンスが大幅に向上します。 左のバーは、 イメージをシーケンシャルに繰り返し処理した場合です。 各イメージ
は内側および最も内側の並列処理パターンで処理されます。 内側の並列処理 ( par) を行わずに最上位レベ
ルの並列処理 ( parallel_for) を追加してもパフォーマンスは大幅に向上しますが、 すべての CPU コアをフルに活用するには至りません。 右のバーは、 すべてのレベルの並列処理を表現することで、 パフォーマンス
が大幅に向上していることを示しています。 これは、 インテル® TBB と Parallel STL 実装間の構成の容易性が優れていることを示しています。

まとめ
Parallel STL は並列実行に向かう C++ の重要なステップであり、 コードの現代化や新しいアプリケーションの開発中に STL アルゴリズムを簡単に適用できるようにします。 Parallel STL は、 非標準や独自の拡張に頼ることなく、 C++ にベクトル化および並列化機能を追加します。 Parallel STL の実行ポリシーは、 ハー
ドウェアの詳細を抽象化しながら、 これらの機能の利用を制御します。 Parallel STL を利用することで、 開発者は、 並列処理を管理する低レベルの詳細を気にすることなく、 アプリケーションで並列処理を表現することに専念できます。 最も一般的に使用されている高レベルの並列アルゴリズムの効率的で高性能な実装に加えて、 インテル® Parallel Studio XE 2018 の Parallel STL 実装は、 インテル® TBB 並列パターンとの構成の容易性にも優れています。 しかし、 Parallel STL は特効薬ではありません。 適切に使用する必要があります。 最良のパフォーマンスを達成するには、 コードを現代化するときの最も一般的な手法に従ってください。 5コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

The Parallel Universe

18

関連資料
最新の Parallel STL およびインテル® TBB の入手方法と追加情報を次に示します。
•• インテル® TBB 公式サイト (英語 )•• インテル® TBB オープンソース ・ サイト ( 英語)•• iSUS 技術ポータル : インテル® TBB 紹介サイト•• インテル® TBB ドキュメント (英語 )ご意見やご要望は、 さまざまな方法でお送りいただけます。
•• インテル® TBB フォーラム (英語 )•• インテル® TBB 開発者メールグループ (英語 )参考資料 ( 英語 )1. Alex Katranov, Mikhail Dvorskiy, Parallelizing C++ Standard Algorithms for Intel® Processors, Intel
Software Development Conference, London 2016.
2. ISO/IEC N4640, working draft, Standard for Programming Language C++.
3. P0075r1, Template Library for Parallel For Loops, Programming Language C++ (WG21).
4. P0076r3, Vector and Wavefront Policies, Programming Language C++ (WG21).
5. Robert Geva, Code Modernization Best Practices: Multi-level Parallelism for Intel® Xeon® andIntel® Xeon Phi™ Processors, IDF15 – Webcast.
OpenCL および OpenCL ロゴは、 Apple Inc. の商標であり、 Khronos の使用許諾を受けて使用しています。

BLOG HIGHLIGHTS
インテル® Media SDK for Embedded Linux*
JEFFERY M. (INTEL) >スマートカメラやコネクテッド ・ カーの開発者は、 インテル® Media SDK for Embedded Linux* を利用して、 メディア ・ アプリケーションで高速かつ効率的なビデオ処理を行うことができるようになりました。 ドローン、 電話、 ロボット、 ビデオカメラ、 車、 プレーヤー / エディターなど、 さまざまなデバイスでスマートカメラを利用したビデオ ・ ストリーミングを最適化できるようになったのです。
新登場のインテル® Media SDK for Embedded Linux* は、 最新のインテル® Atom™ プロセッサー、 インテル®
Pentium® プロセッサー、 インテル® Celeron® プロセッサーと Yocto Project* (包括的な組込み Linux* 開発環境) をサポートします。 この SDK をインテル® プロセッサー・ベースのプラットフォームとともに使用することで、デジタル監視システムや新しい車載システムでリアルタイム ・ コンピューティングを実現できます。
この記事の続きはこちら (英語) でご覧になれます。

コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

The Parallel Universe

19

OpenMP* 誕生から 20 年
並列プログラミングを C/C++ および Fortran プログラマーが利用しやすいものにしエクサスケール計算への道をソフトウェアに提供

Rob Farber TechEnablement グローバル ・ テクノロジー ・ コンサルタント

OpenMP* Architecture Review Board (ARB) (英語) は、 1997 年 10 月に OpenMP* Fortran 仕様 1.0 を、
そしてその約 1 年後に C/C++ 仕様を発表しました。当時、世界最速のスーパーコンピューター ASCI Red (英語) は、
2 基のインテル® Pentium® Pro プロセッサー (200MHz) を搭載した計算ノードで構成されていました。 ( 今では信じられないことですが、 当時は最先端のスーパーコンピューティングで、 シングルコアの 200MHz のインテル®
Pentium® プロセッサーが最速と考えられていました。 ) 4600 万ドル ( 現在の約 6800 万ドルに相当) を投じて構築された ASCI Red は、TOP500 LINPACK ベンチマークで TFLOPS (1 秒間に 1 兆回の浮動小数点演算を実行)を達成した最初のスーパーコンピューターでした。 また、 その後の傾向の前兆とも言える、 メガワットの電力を消費した最初のスーパーコンピューターでもあります。 それと比べると、 最近のデュアルソケットのインテル® Xeon®
プロセッサー v4 ファミリーは、 TFLOPS の計算性能と電力消費の両方において格安と言えます。
Center for Research in Extreme Scale Technologies ( 英語) ディレクターの Thomas Sterling 博士は、次のように述べています。 「OpenMP* により、 単純さと統一性を強調した単一システムのプログラミングと実行という見方がもたらされました。 これは、 システム ・ ソフトウェアの開発者には、 非同時性、 レイテンシー、 制御

コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

The Parallel Universe

20のオーバーヘッドへの対応を求める一方、 将来のハードウェア ・ システムの設計者には、 エクサスケールの時代に向けてユーザーの生産性とパフォーマンスの移植性に取り組むように働きかけます。 過去 20 年間の素晴らしい成果は、 スケーラブル ・コンピューティングの次の 20 年間につながるでしょう。」

OpenMP*: 将来を考慮した、 開発者による取り組み
OpenMP* イニシアチブは、 デベロッパー ・ コミュニティーの働きかけによって発足しました。 当時、 異なる共有
メモリー型並列プラットフォーム間でコードを移行するための、 信頼性のある標準規格に対する関心が高まっていました。
OpenMP* が登場する前は、Pthreads などのスレッド化モデルを明示的に使用するか、MPI などの分散フレー
ムワークを使用して並列コードを作成する必要がありました。 (最初の MPI 標準は 1994 年に完成しました。 )OpenMP* プラグマを追加するだけで、 共有メモリーモデルで並列処理を利用できるという便利さは画期的でした。 しかし、 シングルスレッド ・プロセッサーのクラスターが主流だった当時のハイパフォーマンス ・コンピュー
ティングでは、 スレッドベースのコンピューティング・モデルに対する関心は限られていました。 一部のハードウェ
ア ・プラットフォームでは、 プラグイン CPU を追加することで、 ハードウェア ・ ベースのマルチスレッド ・ パフォー
マンスを利用できましたが、 一般にスレッドは、 スケーラブルな並列パフォーマンスではなく、 OS タイムスライスを使用して非同期動作をエミュレートするソフトウェア手法と考えられていました。 当時、 スレッドに関する
議論の焦点は、 メモリーを共有する軽量なスレッドではなく、 フォーク / ジョインで生成されるプロセスなどの重いスレッドの使用でした。 ノード内のハードウェア並列処理は、 デュアルコアまたはクアッドコア ・プロセッ
サー ・ システムに限定されていたため、 OpenMP* によるスケーリングは取るに足らない問題でした。
このため、 分散メモリー MPI コンピューティングが並列処理への唯一の道と考えられていた中、 1997 年に発表された OpenMP* 仕様は、 将来をよく考慮したものであると言えます。 基本的に、 ネットワークを介して多数のマシンを接続することは安価で簡単です。 デナード ・ スケーリング則 (英語) の世界では、 アプリケーショ
ン ・ パフォーマンスの向上は、 MPI ノードを追加するか、 シリアル ・ ソフトウェアをより高速に実行できるより高いクロックレートのプロセッサーを搭載したマシンによって達成可能です。 そのため、 COTS ( 既製品の ) ハード
ウェアを使用してクラスターを構築することでスピードアップが図られ、 ハイパフォーマンス ・ コンピューティング
では一般にこの手法が採用されていました (図 1)。 例えば、 1998 年のオリジナルの Beowulf のハウツーでは、 「Beowulf は、 クラスター ・ コンピューターで並列の仮想コンピューターを形成しており、 多数のワークス
テーションではなく単一のマシンのように動作します。」 と説明しています。 つまり、 科学または商業分野においてマルチコア ・プロセッサーに対する需要がほとんどなかったのです。 マルチスレッド並列コンピューティング
は、 主流のプログラミング ・ モデルというよりも、 興味深い HPC プロジェクトという程度でした。 図 1 に示す
ように、 超並列 SIMD (Single Instruction, Multiple Data) の時代は短く、 SIMD アーキテクチャー ・ ベースの CM-2 スーパーコンピューターと CM-5 MIMD (Multiple Instruction, Multiple Data) 超並列プロセッサー(MPP) スーパーコンピューターの製造元である Thinking Machines Corporation の消滅とともに幕を閉じました。 この時代の SMP ( ここでは共有メモリー ・ マルチプロセッサーを表す ) の一例として、 SGI* Challengeがあります。

コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

The Parallel Universe

121

年ごとの TOP 500 に占めるシステム ・ アーキテクチャーの割合 (出典 : top500.org ( 英語 ))(コンステレーション (Constellations) は、 大規模 SMP システムのクラスターを指します。 )OpenMP* 時代の幕開け : デナード ・ スケーリング則の衰退とマルチコアへの関心の高まり
2005 年から 2007 年の間に、 デナード ・スケーリング則は衰退し、 現代のマルチコア ・プロセッサーが登場し始めました。 クロックレートの上昇により大幅なパフォーマンスの向上が達成できなくなったため、 さらなるパフォー
マンスを生み出し、 アップグレードを促すためにも、 メーカーはプロセッサー ・ コアを増やし始めました。 この方
針転換により、 次世代のハードウェアではクロックレートの向上により自動的にコードが高速化される、 という期待はできなくなりました。 その結果、 アプリケーション ・ パフォーマンスを向上する手段として、 スレッドベースのコンピューティングの本格的な調査が始まりました。 とは言うものの、ほとんどのアプリケーションは、マルチプロセッ
サー上でコアごとに 1 つのシリアル MPI ランクを実行するように並列化されただけでした。
図 2 は、 TOP500 のパフォーマンス ・ シェアを示すグラフです。 このグラフから分かるように、 2007 年から2008 年の間に、 パフォーマンス分野ではマルチコア ・プロセッサーが主流となりました。 それ以降、 コア数が増加傾向にあることは一目瞭然です。

コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

The Parallel Universe

2

22

TOP500 におけるコア数の増加によるパフォーマンスの向上 (出典 : top500.org ( 英語 ))OpenMP* によるコードの現代化
コア 数の 増 加は、 OpenMP* と MPI プログラムにさら なる並 列 性に よる 利点を もたらしました。 しかし、OpenMP* を主要 API へと成長させた要因は、 ベクトル並列処理と多数のコアを搭載したプロセッサーです。

コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

The Parallel Universe

23

多くのレガシー ・アプリケーションは、 並列化がパフォーマンスへの道とされた COTS ハードウェア向けに作成されていたため、 プロセッサー・コアごとに 1 つの MPI ランクを利用していました。 コードが (特に HPC コードでは)ベクトル化されていなかったわけではなく、COTS クラスターで使用されていたプロセッサーのベクトル幅が狭かったため、 パフォーマンスが制限されていました。 また、 ベクトルユニットのプログラミングも困難でした。 その結果、 多くのプログラマーは、 MPI のさらなる並列化によってもたらされるパフォーマンスの向上を頼りにし続け、各 MPI ランク内で実行されるベクトル化されたループの利点は、 付加的な利点と考えられていました。
2006 年頃から始まった SIMD とデータ並列プログラミングの再興は、 レガシーコードをハードウェア ・スレッド
並列処理に対応させることで、 広範なアプリケーションと計算ドメインでパフォーマンスを大幅に向上できることを示しました。
ペタスケール、 そしてエクサスケール ・ コンピューターへの道のりにおいて電力効率が大きな課題であることが分
かると、この傾向はさらに加速しました。 2007 年に登場した Green500 (英語 ) リストにより、 大規模コンピュー
ティングにおける " どんなことをしてでもパフォーマンスを向上する " 時代は終わりを告げました。
突如として、 OpenMP* は、 電力効率の良いコンピューティングとデータ並列性を利用する手段として位置付けられました。 CPU は SIMD コードを効率良く実行できる汎用 MIMD デバイスであり、SIMD コードは、ハードウェア・ベクトル ・ユニットに効率良くマップすることができます。 そして、 MIMD ベースのタスク並列処理は、 単なるループ構造です。
パフォーマンスと電力効率の両方を向上するため、 x86 ISA (命令セット ・アーキテクチャー) に幅の広いベクトル命令が追加されました。 ほかの ISA でも同様の取り組みが行われています。 ハードウェア・ベクトル ・ユニットは、
シリコンチップ上で比較的小さな場所を占めますが、 非常に電力効率の良い浮動小数点パフォーマンスを提供します。 これにより、 汎用プロセッサーの浮動小数点処理能力が劇的に向上し、 コア数が多い (メニーコア) ベクト
ル並列プロセッサーの時代が幕を開けました。 例えば、 メニーコアのインテル® Xeon® プロセッサーやインテル®
Xeon Phi™ プロセッサーなどです。
コアごとに 1 つの MPI ランクを利用するプログラミングは、 SIMD、 データ並列性、 ベクトル ・プログラミングによるパフォーマンスの利点を最大限に引き出すことができないため、 非効率的なモデルであるとされ、 コードの現代化に注目が集まりました。 例えば、 最新のハードウェアでは、インテル® アドバンスト・ベクトル・エクステンショ
ン (インテル® AVX-512) 命令を効率良く利用することで、アプリケーション・パフォーマンスを倍精度コードで 8 倍、単精度コードで 16 倍向上できます。 多くのプログラミング ・プロジェクトは、 OpenMP* と MPI 双方の利点を最大限に利用するため、 OpenMP*/MPI を組み合わせたハイブリッド ・ モデルに移行済みか、 移行中です。 移行によってもたらされるパフォーマンスは、 図 3 に示すように、 コア数とベクトル ・ パフォーマンスに依存します。 最新のインテル® Xeon Phi™ プロセッサーでは、 コアごとに 2 つのインテル® AVX-512 ベクトルユニットがあります。

コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

The Parallel Universe

324

 高のパフォーマンスは、 図の右上のように、 ハードウェアによるベクトル化と並列化の両方を利用した場合に得られる
最(図の出典 : Morgan Kaufmann、 imprint of Elsevier、 無断での引用、 転載を禁じます )OpenMP*: 最先端の API
OpenMP* 標準は、 SIMD プログラミングの重要性を認識し、 2013 年 10 月に OpenMP* 4.0 標準で SIMD
節を実装しました。 OpenMP* 4.0 仕様では、コプロセッサーと GPU などのアクセラレーターへのオフロードモードのプログラミングに対応するため、 その他の節も追加されました。 OpenMP* は、 ハードウェアの変化にも対応しつつ、 成長を続けています。

エクサスケール時代向けの OpenMP*
エクサスケール時代では、 電力消費が最も重要になります。 エクサスケール ・コンピューティング・アーキテクチャー
では、 電力効率の良いシリアルコアを並列ハードウェアとリンクする、 アムダールの法則のハードウェア ・ インスタンス化とも言うべき傾向にあります。 NERSC は、 最新の Cori スーパーコンピューターは、 コードをチューニングしなければ、 プログラムが低速で実行するため、 初心者が最先端のスーパーコンピューターで実行するようなものだ
としています。 エクサスケール ・スーパーコンピューター向けの電力効率の良いシリアルコアは、 シリアルコードの実
行により多くの時間を要するため、 これは不可避です。 この傾向は、 業績と利益にとって電力効率が極めて重要なデータセンターにも波及する可能性が高く、 さらに、 5G ではデータ量が最大 1,000 倍も増加することが予想されています (出典 : Forbes)。

コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

The Parallel Universe

25

幸いなことに、 OpenMP* は、 異なる共有メモリー型並列プラットフォーム間でコードを移行するため信頼性のある方法を提供するという最初の目標を達成しつつ、 優れたパフォーマンスをもたらすことが実証されています。
パフォーマンスと移植性―なんて素晴らしい組み合わせでしょう。
Rob Farber は、HPC 分野について幅広い知識を持った著者であり、グローバル・テクノロジー・コンサルタントです。
可搬性が高く、 パフォーマンスに優れた並列プログラミングの積極的な支持者です。 Rob へのお問い合わせは、
info@techenablement.com (英語) までお送りください。

アプリケーションを並列に実行するための OpenMP* 入門 (英語) ›コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

The Parallel Universe

26

インテル® DAAL を利用して実際のマシンラーニングの問題を解く
Oleg Kremnyov インテル コーポレーション テクニカルインターン
Ivan Kuzmin インテル コーポレーション ソフトウェア ・ エンジニアリング ・ マネージャー
Gennady Fedorov インテル コーポレーション ソフトウェア ・ テクニカル ・ コンサルティング ・ エンジニア

マシンラーニングは、 統計、 データマイニング、 人工知能 (AI) 分野において重要な役割を果たし、 その役割は拡
大しつつあります。 データの急激な増加に伴い、 データの学習はさらに進むと考えられ、 またそれはビジネスの成長に不可欠です。 特定の問題を解くためには、 次のようなさまざまな要因を考慮して、 適切なアルゴリズムとライ
ブラリーを選択します。
•• 問題のクラス (例 : 分類、 回帰 )•• 入力データ•• パフォーマンス要件•• 予測の正解率•• モデルの解釈可能性

この選択にはさまざまなスキルが必要になるため、 マシンラーニング普及の妨げとなっています。

コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

The Parallel Universe

27

この記事では、 2 つの実際のマシンラーニングの問題をベースに、 適切なアルゴリズムの選択に使用できる条件について述べます。 ここで使用する問題の 1 つは、 有名な Kaggle (英語 ) プラットフォームで予測モデリングに使用されている問題で、 もう 1 つは、 データマイナーが最良のモデルの生成を競う同サイトの解析コンペティションからの問題です。 アルゴリズムの実装には、 以下のライブラリーを使用します。
•• scikit-learn: Python* データ ・ サイエンティストの間で最もよく使用されているライブラリー•• R: データ解析と統計計算の言語•• インテル® データ ・アナリティクス ・アクセラレーション ・ ライブラリー (インテル® DAAL): インテル® プラットフォー
ム上でのデータ解析とマシンラーニング向けに最適化されたビルディング ・ブロックを提供するパフォーマンス ・ ラ
イブラリー

実際のマシンラーニングでは、 CPU とメモリーの要件が高いことが多いため、 インテル® Xeon Phi™ プロ
セッサーは理想的なプラットフォームと言えます。 インテル® DA AL は、 インテル® Xeon® プロセッサーお
よびインテル® Xeon Phi™ プロセッサー向けに最適化されたマシンラーニング ・ アプリケーションを素早く開発できるように支援します。 ここでは、 Kaggle: リーフ分類 ( 英語 ) と タイタニック : 大惨事からのマシンラーニング (英語 ) の 2 つの実際の問題でインテル® DA AL を利用して KNN ( K 近傍法 ) 、ブースティング、
サポート・ベクトル・マシン (SVM) を実装し、scikit-learn および R の同じアルゴリズムと結果を比較します。

Kaggle を使用する理由
Kaggle は、 企業や研究者が投稿したデータに対し、 世界中の統計学者とデータマイナーが最良のモデルの生成を競う、 予測モデリングと解析コンペティションのプラットフォームです。 1 2016 年 5 月時点では、 194 カ国に536,000 の登録ユーザー (Kagglers と呼ばれる) が存在する、 世界で最も大きく、 多様なコミュニティーの 1 つです。 Kaggle は、 これまでに 200 を超えるデータ ・ サイエンス ・コンペティションの実績があります。
各コンペティションの目標は、特定の実際の問題に対して最良のモデルを生成することです。 モデルは、通常、テスト・
データ ・ セットに対する予測の正解率で評価されます。 参加者は、 テスト ・ データ ・ セットで予測を実行して、 モデルを瞬時に評価し、 ランキングで結果を確認できます。
この記事では、 異なるアルゴリズムとライブラリーにより生成されたモデルを評価し、 Kaggle コンペティションでどのような結果が得られるか見てみます。

リーフ分類 (Leaf Classification)
世界には数十万種類の植物が存在します。 これらの分類は、 歴史的に問題が起こりやすく、 重複して識別されることがしばしばありました。 この Kaggle チャレンジでは、葉のイメージと抽出された特徴 (例えば、形状、マージン、
テクスチャー) を基に 99 種類の植物を正確に識別するため、 分類器を訓練します。 訓練データには 990 の葉のイメージがあり、 テストデータには 594 のイメージが含まれています (図 1)。 イメージごとに次の 3 つの特徴も提供されます : 形状隣接記述子、 内部テクスチャー・ヒストグラム、 ファインスケール ・マージン・ヒストグラム (図 2)。
各特徴は、 葉のサンプルごとにそれぞれ 64 の属性ベクトルで表されます。

コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

The Parallel Universe

1

葉のイメージ

形状隣接記述子2

28

内部テクスチャー・
ヒストグラムファインスケール・
マージン・ヒストグラム

特徴の概要

1 つのアプローチとして、 マシンラーニング ・アルゴリズムのリストを訓練データに適用して、 検証データでその正解率を評価し、 最適なアルゴリズムとハイパーパラメーターを見つけます。 scikit-learn は、 Python* データ ・ サイ
エンティストの間で最もよく使用されているライブラリーで、広範なアルゴリズムを提供します。Kaggle カーネル (英語) では、 10 のアルゴリズムの予測の正解率を解析しました。 その結果、 線形判別式解析と KNN アルゴリズムで検証データに対して最良の結果が得られました (詳細は Kaggle カーネルのページを参照してください)。
線形判別式解析の Python* (scikit-learn) 実装 :from sklearn.discriminant_analysis import LinearDiscriminantAnalysis
clf = LinearDiscriminantAnalysis()clf.ﬁt(X_train, y_train)
test_predictions = favorite_clf.predict(X_test)

コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

The Parallel Universe29

高速なPython* によるデータ処理

Anaconda* を利用するインテル® Distribution for Python* によりワークフローとアプリケーション ・ パフォーマンスをスピードアップしましょう。
コミュニティー ・ サポート ・ バージョン (無料 ) をダウンロードするか、インテル® Parallel Studio XE の 30 日間評価版としてご利用いただけます。

インテル® Parallel Studio XE 評価版ダウンロード ›コミュニティー ・ サポート ・ バージョンのダウンロード (英語 ) ›コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。
Intel、 インテル、 Intel ロゴは、 アメリカ合衆国および / またはその他の国における Intel Corporation の商標です。
* その他の社名、 製品名などは、 一般に各社の表示、 商標または登録商標です。
© Intel Corporation

コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

The Parallel Universe

30

KNN の Python* (scikit-learn) 実装 :from sklearn.neighbors import KNeighborsClassiﬁer
clf = KNeighborsClassiﬁer(k=4)
clf.ﬁt(X_train, y_train)
test_predictions = favorite_clf.predict(X_test)

線形判別式解析の R 実装 :library (MASS)r <- lda(formula = Species ~ ., data = train)plda = predict(object = r, newdata = test)
test_predictions = plda$class

KNN の R 実装 :library(class)test_predictions = knn(X_train, X_test, y_train, k=4)

インテル® DAAL は、 KD 木アルゴリズムと低レベルの最適化によりインテル® アーキテクチャー上で非常に高速で正解率が高い、 KNN のスケーラブルなバージョンを提供します。 2
KNN 訓練段階の Python* (インテル® DAAL) 実装 :from daal.algorithms.kdtree_knn_classiﬁcation import training, prediction
from daal.algorithms import classiﬁer, kdtree_knn_classiﬁcation
trainAlg = kdtree_knn_classiﬁcation.training.Batch()trainAlg.input.set(classiﬁer.training.data, X_train)
trainAlg.input.set(classiﬁer.training.labels, y_train)
trainAlg.parameter.k = 4
trainingResult = trainAlg.compute()

KNN 予測段階の Python* (インテル® DAAL) 実装 :predictAlg = kdtree_knn_classiﬁcation.prediction.Batch()predictAlg.input.setTable(classiﬁer.prediction.data, X_test)
predictAlg.input.setModel(classiﬁer.prediction.model,↳ trainingResult.get(classiﬁer.training.model))predictAlg.compute()
predictionResult = predictAlg.getResult()
test_predictions = predictionResult.get(classiﬁer.prediction.prediction)

コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

The Parallel Universe

図 3 と図 4 は、 パフォーマンスの比較グラフです。 ベンチマークのシステム構成は、 この記事の最後にある 「システム構成と使用したツール」 を参照してください。

3

scikit-learn と比較したインテル® DAAL のスピードアップ

4

R と比較したインテル® DAAL のスピードアップ

図 5 は、 正解率の比較グラフです。

コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

31

The Parallel Universe

532

正解率の比較 KNN

より少ない次元でデータに適用することで、 KNN の正解率を向上できます。 統計的決定理論に従って、 条
件 付き ( 離 散 型 ) 分布 P(G|X) (G は予 測 するラベ ル) が分か って おり、 0-1 損 失 関 数 を 使 用する 場 合、P(Gk|X=x)=maxg ∈ GP(g|X=x) で あ れ ば Ĝ(x)=Gk と予 測 で きま す。 KNN 分 類 は、 x の 隣 接 に お いてP(Gk|X=x) が定数であると仮定します。 そのため、 次元数が大きいほど、 k 訓練サンプルを含む x の隣接が大きくなります。 この問題では、 サンプル数が大きくないため、 条件付けの代用として隣接を使用すると失敗します。 収束はしますが、 次元数の増加に伴い収束率が低下します。 詳細は、 『The Elements of Statistical
Learning (統計学習の基礎 )』 3 のセクション 2.4 と 2.5 を参照してください。
線形判別式解析 (LDA) アルゴリズムを使用してオリジナルデータを前処理することで、 KNN の正解率を向上できます。 ここでは、 LDA (nComponents=40) で入力データを前処理して、 前処理済みのデータで KNN モデルを訓練しました。
LDA による前処理 (Python*) の実装 :from sklearn.discriminant_analysis import LinearDiscriminantAnalysis
lda = LinearDiscriminantAnalysis(n_components = 40)
X_train_reduced = lda.ﬁt_transform(X_train, y_train)
X_test_reduced = lda.transform(X_test)

コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

The Parallel Universe

KNN の Python* (scikit-learn) 実装 :from sklearn.neighbors import KNeighborsClassiﬁer
clf = KNeighborsClassiﬁer(k=4)
clf.ﬁt(X_train_reduced, y_train)
test_predictions = favorite_clf.predict(X_test_reduced)

LDA による前処理 (R) の実装 :library (MASS)r <- lda(formula = Species ~ ., data = train)plda = predict(object = r, newdata = train)
X_train_reduced = plda$x
plda = predict(object = r, newdata = test)
X_test_reduced = plda$x

KNN の R (class) 実装 :library (class)test_predictions = knn(X_train_reduced, X_test_reduced, y_train, k=4)

KNN 訓練段階の Python* ( インテル® DAAL) 実装 :from daal.algorithms.kdtree_knn_classiﬁcation import training, prediction
from daal.algorithms import classiﬁer, kdtree_knn_classiﬁcation
trainAlg = kdtree_knn_classiﬁcation.training.Batch()trainAlg.input.set(classiﬁer.training.data, X_train_reduced)
trainAlg.input.set(classiﬁer.training.labels, y_train_reduced)
trainAlg.parameter.k = 4
trainingResult = trainAlg.compute()

KNN 予測段階の Python* ( インテル® DAAL) 実装 :predictAlg = kdtree_knn_classiﬁcation.prediction.Batch()predictAlg.input.setTable(classiﬁer.prediction.data, X_test_reduced)
predictAlg.input.setModel(classiﬁer.prediction.model,↳ trainingResult.get(classiﬁer.training.model))predictAlg.compute()
predictionResult = predictAlg.getResult()
test_predictions = predictionResult.get(classiﬁer.prediction.prediction)

コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

33

The Parallel Universe

図 6、 7、 および 8 にデータの前処理を適用した結果を示します。

6

scikit-learn と比較したインテル® DAAL のスピードアップ

7

R と比較したインテル® DAAL のスピードアップ

コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

34

The Parallel Universe

835

前処理後の KNN の正解率の比較

マシンラーニングにおいて特徴が重要な役割を果たすことは明白です。 正確に予測するためには、 適切な特徴を選択することが不可欠です。 また、 インテル® DAAL は、 テストしたライブラリーの中で最も高い正解率とパフォー
マンスを達成しました。

タイタニック : 大惨事からのマシンラーニング
別の Kaggle コンペティションは、 歴史上最も有名な海難事故の 1 つであるタイタニック号の沈没を基にしたものです。 1912 年 4 月 15 日、 初航海中のタイタニック号が氷山に衝突して沈没し、 乗客乗員 2,224 中 1,502
人が亡くなりました。 この大惨事は世界に衝撃を与え、 これをきっかけに船舶の安全規制が改善されました。
このチャレンジでは、 異なる等級の乗客と乗員を解析して、 生存者を予測します。 入力データには、 図 9 に示す特徴が含まれています。 詳細は、 Kaggle の Data > Overview ( 英語 ) を参照してください。

コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

9

乗船地

キャビン

運賃

チケット番号

同伴者(親/子供)

同伴者(兄弟/配偶者)

36

年齢

性別

名前

乗客の等級

The Parallel Universe

タイタニックのオリジナルの特徴の概要

10

敬称1 人かどうか

乗船地

運賃

年齢

性別

乗客の等級

1 つのアプローチとして、 データをマシンラーニング・ モデルの訓練に使用できる特徴ベクトルに前処理します。
そして、 前処理済みデータに対していくつかの分類を試して、 最良のアルゴリズムを見つけます。 この Kaggle
カーネル ( 英語 ) では、 特徴を処理してオリジナルの特徴から次の特徴を構築します ( 図 10 を参照 ) : 乗員の等級、 性別、 年齢 ( 特徴のビニングにより変換 )、 運賃 (特徴のビニングにより変換 )、 乗船地、 1 人かどうか (兄弟姉妹 / 配偶者 / 子供 / 親がタイタニック号に乗船していない場合 true)、 敬称 (Mrs./Miss/Mr./Master)。 そして、 scikit-learn の 10 のアルゴリズムを使用してテストを行い、 予測の正解率を比較します。 その結果、 ガウスカーネルを利用した SVM 分類器で最も高い正解率が得られました ( 詳細は、 Kaggle カーネルのページを参照してください)。 SVM パラメーターは、 交差検証により取得されます。

タイタニックの前処理済み特徴の概要

SVM の Python (scikit-learn) 実装 :from sklearn.svm import SVC
clf = SVC(C = 5, gamma = 1.5)
clf.ﬁt(X_train, y_train)
test_predictions = favorite_clf.predict(X_test)

コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

The Parallel Universe

37

SVM の R 実装 :library(e1071)
model <- svm(X_train, y_train, gamma=1.5, cost=5)
test_predictions <- predict(model, X_test)

ガウスカーネルを利用した SVM には、 時間のかかる指数計算が多数含まれています。 インテル® DAAL では、
これらの計算がインテル® アーキテクチャー向けに高度に最適化されており、 SVM モデルを素早く作成できます。
SVM 訓練段階の Python* (インテル® DAAL) 実装 :from daal.algorithms.svm import prediction, training
from daal.algorithms import kernel_function, classiﬁer
import daal.algorithms.kernel_function.rbf
trainAlg = svm.training.Batch()trainAlg.input.set(classiﬁer.training.data, X_train)
trainAlg.input.set(classiﬁer.training.labels, y_train)kernel = kernel_function.rbf.Batch()kernel.parameter.sigma = 1.5
trainAlg.parameter.C = 5
trainAlg.parameter.kernel = kernel
trainAlg.parameter.cacheSize = 60000000
trainingResult = trainAlg.compute()

SVM 予測段階の Python* (インテル® DAAL) 実装 :predictAlg = svm.prediction.Batch()predictAlg.input.setTable(classiﬁer.prediction.data, X_test)
predictAlg.input.setModel(classiﬁer.prediction.model,
trainingResult.get(classiﬁer.training.model))predictAlg.parameter.kernel = kernel
predictAlg.compute()
predictionResult = predictAlg.getResult()
test_predictions = predictionResult.get(classiﬁer.prediction.prediction)

コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

The Parallel Universe

図 11 と図 12 は、 パフォーマンスの比較グラフです。

11

scikit-learn と比較したインテル® DAAL のスピードアップ

12

R と比較したインテル® DAAL のスピードアップ

コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

38

The Parallel Universe

39

効率良く
動作する
高速なコードインテル® DAAL を利用してさまざまなインテル® アーキテクチャー ・ ベースのプラットフォームでパフォーマンスをスピードアップしましょう。
インテル® Parallel Studio XE のコンポーネントまたはオープンソースのコミュニティー ・ サポート ・ バージョン (無料) としてご利用いただけます。

ダウンロード ›コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。
Intel、 インテル、 Intel ロゴは、 アメリカ合衆国および / またはその他の国における Intel Corporation の商標です。
* その他の社名、 製品名などは、 一般に各社の表示、 商標または登録商標です。
© Intel Corporation

コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

The Parallel Universe

40

図 13 は、 正解率の比較グラフです。

13

SVM の正解率の解析

インテル® DAAL と scikit-learn の正解率が高く、 インテル® DAAL のパフォーマンスが最も優れていることが分かります。
この分類問題にブースティング分類器を適用します。 ブースティングは、 過去 20 年間に登場した最も強力な学習アプローチの 1 つです。 多数の弱学習器からの出力を組み合わせて、 強力な学習機を作成します。 3 ここでは、 次のブースティング ・アルゴリズムについて考えます。
•• AdaBoost•• BrownBoost•• LogitBoost•• 勾配ブースティング

これらのアルゴリズムについては、 多数のリソースで詳しく説明されています。 4, 5, 6
Python* (scikit-learn) の AdaBoost 実装 :from sklearn.ensemble import AdaBoostClassiﬁer
clf = AdaBoostClassiﬁer(n_estimators=1000)
clf.ﬁt(X_train, y_train)
test_predictions = favorite_clf.predict(X_test)

コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

The Parallel Universe

Python* (scikit-learn) の勾配ブースティング実装 :from sklearn.ensemble import GradientBoostingClassiﬁer
clf = GradientBoostingClassiﬁer(n_estimators=1000)
clf.ﬁt(X_train, y_train)
test_predictions = favorite_clf.predict(X_test)

Python* (インテル® DAAL) の AdaBoost ( 訓練 ) 実装 :from daal.algorithms.adaboost import prediction, training
from daal.algorithms import classiﬁer
trainAlg = training.Batch()trainAlg.input.set(classiﬁer.training.data, X_train)
trainAlg.input.set(classiﬁer.training.labels, y_train)
trainAlg.parameter. maxIterations = 1000
trainingResult = trainAlg.compute()

Python* (インテル® DAAL) の AdaBoost ( 予測 ) 実装 :predictAlg = prediction.Batch()predictAlg.input.setTable(classiﬁer.prediction.data, X_test)
predictAlg.input.setModel(classiﬁer.prediction.model,↳ trainingResult.get(classiﬁer.training.model))predictAlg.compute()
predictionResult = predictAlg.getResult()
test_predictions = predictionResult.get(classiﬁer.prediction.prediction)

Python* (インテル® DAAL) の BrownBoost (訓練 ) 実装 :from daal.algorithms.brownboost import prediction, training
from daal.algorithms import classiﬁer
trainAlg = training.Batch()trainAlg.input.set(classiﬁer.training.data, X_train)
trainAlg.input.set(classiﬁer.training.labels, y_train)
trainAlg.parameter. maxIterations = 1000
trainingResult = trainAlg.compute()

コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

41

The Parallel Universe

Python* (インテル® DAAL) の BrownBoost (予測 ) 実装 :predictAlg = prediction.Batch()predictAlg.input.setTable(classiﬁer.prediction.data, X_test)
predictAlg.input.setModel(classiﬁer.prediction.model,↳ trainingResult.get(classiﬁer.training.model))predictAlg.compute()
predictionResult = predictAlg.getResult()
test_predictions = predictionResult.get(classiﬁer.prediction.prediction)

Python* (インテル® DAAL) の LogitBoost (訓練) 実装 :from daal.algorithms.brownboost import prediction, training
from daal.algorithms import classiﬁer
trainAlg = training.Batch()trainAlg.input.set(classiﬁer.training.data, X_train)
trainAlg.input.set(classiﬁer.training.labels, y_train)
trainAlg.parameter. maxIterations = 1000
trainingResult = trainAlg.compute()

Python* (インテル® DAAL) の LogitBoost (予測 ) 実装 :predictAlg = prediction.Batch()predictAlg.input.setTable(classiﬁer.prediction.data, X_test)
predictAlg.input.setModel(classiﬁer.prediction.model,↳ trainingResult.get(classiﬁer.training.model))predictAlg.compute()
predictionResult = predictAlg.getResult()
test_predictions = predictionResult.get(classiﬁer.prediction.prediction)

AdaBoost の R (fastAdaBoost) 実装 :library(fastAdaBoost)model <- adaboost(Survived ~ ., train, 1000)
pred <- predict(model, newdata=test)

コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

42

The Parallel Universe

LogitBoost の R (caTools) 実装 :library(caTools)
model <- LogitBoost(X_train, Y_train, nIter=1000)
pred <- predict(model, X_test)

勾配ブースティングの R (gbm) 実装 :library(gbm)model <- gbm(Survived ~ ., data=train, n.tree = 1000, shrinkage = 1)
predict(model, test, n.trees = 1000)

図 14 は、 異なるブースティング ・アルゴリズムの正解率です。

14

ブースティング ・ アルゴリズムの正解率の解析

インテル® DAAL の BrownBoost アルゴリズムが最も正解率が高いことが分かります。

コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

43

The Parallel Universe

44

マシンラーニングとインテル® DAAL を使用してデータ解析の問題を解く
マシンラーニングの問題を解くため適切なアルゴリズムを選択することは重要であり、 さまざまな要因を考慮する必要があります。 インテル® DAAL や scikit-learn のようなライブラリーは、 広範なマシンラーニング ・アルゴリズ
ムを提供するため、 問題に最適なアルゴリズムを選択することができます。
ここでは、 インテル® DAAL を利用して、 インテル® プラットフォームの性能を最大限に引き出し、 モデルの訓練と予測を高速化する方法を示しました。 ここで紹介したベンチマークでは、 インテル® DAAL のほうが scikit-learn
や R よりもパフォーマンスに優れており、 正解率の高いモデルを生成できました。

参考資料 (英語 )1. Wikipedia* の Kaggle の説明
2. Patwary, Md. Mostofa Ali; Satish, Nadathur Rajagopalan; Sundaram, Narayanan; Liu, Jialin; Sadowski,Peter; Racah, Evan; Byna, Suren; Tull, Craig; Bhimji, Wahid; Prabhat, Dubey, Pradeep. 2016. “PANDA:
Extreme Scale Parallel K-Nearest Neighbor on Distributed Architectures,” IEEE International
Parallel and Distributed Processing Symposium.
3. Hastie, Trevor; Tibshirani, Robert; and Friedman, Jerome. 2009. The Elements of Statistical
Learning, Second Edition. Springer International Publishing AG.
4. Freund, Yoav, and Schapire, Robert E. 1999. “Additive Logistic Regression: A Statistical View of
Boosting,” Journal of Japanese Society for Artificial Intelligence (14[5]), pp. 771–780.
5. Friedman, Jerome; Hastie, Trevor; and Tibshirani, Robert. 2000. “Additive Logistic Regression:
A Statistical View of Boosting,” The Annals of Statistics, 28(2), pp. 337–407.
6. Friedman, Jerome. 2001. “Greedy Function Approximation: A Gradient Boosting Machine,”
The Annals of Statistics 29(5), pp. 1189–1232.

BLOG HIGHLIGHTS
適切なテスト方法 (テスト理論パート 1)
JAKOB ENGBLOM >欧州宇宙機構のスキャパレリの火星着陸失敗に関する最近の投稿は、テスト、テストツール、および適切なテスト方法について議論されるきっかけとなりました。こちらのブログ ( 英語) と Wind River* のブログ ( 英語) で述べたとおり、明白なもの以外にもテストを拡大し、実際には簡単にテストできないものも (シミュレーション
により) テストすることは繰り返し議論されてきました。テスト理論に関するこのシリーズ (全 2 パート) では、テストに対する私の考えを要約し、いくつかの逸話を皆さんと共有したいと思います。
この記事の続きはこちらでご覧になれます。

コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

The Parallel Universe45

システム構成と使用したツール
ベンチマークのシステム構成 :インテル® Xeon® プロセッサー :モデル : インテル® Xeon® プロセッサー E5-2699 v4@ 2.20GHz

インテル® Xeon Phi™ プロセッサー :モデル : インテル® Xeon Phi™ プロセッサー 000A
@ 1.40GHz

ソケットごとのコア数 : 22

ソケットごとのコア数 : 68

ソケット数 : 2

ソケット数 : 1

合計メモリー : 256GB

RAM: 16GB使用したソフトウェア ・ ツール :•• インテル® DAAL 2017 Beta Update 2•• e1071 パッケージ 1.6-8•• R 3.3.2•• fastAdaBoost パッケージ 1.0.0•• scikit-learn 0.19.1•• caTools パッケージ 1.17.1•• class パッケージ 7.3-14•• gbm パッケージ 2.1.1•• MASS パッケージ 7.3-45

インテル® DAAL の詳細 ›コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

The Parallel Universe

46

R を使用した HPC: 基本
Drew Schmidt テネシー大学ノックスビル校 大学院研究助手

R はハイパフォーマンス ・コンピューティング (HPC) に適していないと言い切る人もいれば、 その可能性は否定しないものの HPC での R の使用に懐疑的な人もいます。
しかし、 世界は変化しています。 データ解析は、 新しく注目を集めている分野です。 データサイエンスに求められるものが、 具体的な利点であっても、 あるいは利益であっても、 R は HPC 分野において優れた能力を発揮します。
HPC は、 データ解析アプリケーションとそのユーザーに対応するため変化しています。 そのような状況において、圧倒的な人気を誇る R が注目されるのは当然と言えます。 すでに多くの開発者が HPC 環境での R の利用に取り組んでいます。
この記事は、 R に馴染みはないが、 興味がある読者を想定しています。 皆さんの動機は、 アプリケーションのニーズを満たすため、 皆が R を使用しているから、 あるいは顧客からの R ソリューションに対する要求の高まりなど、さまざまでしょう。 どのような動機であっても、 皆さんがこの記事を手に取ってくださったことを嬉しく思います。
ここでは、 皆さんが HPC に精通しており、 インテル® コンパイラーを使用しているという前提で説明します。

コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

The Parallel Universe

47

これらの前提を基に、 まず、 R の基本について述べ、 できるだけ中立的な立場から R の優れた点をいくつか紹介します。 数千ノードの分散コンピューティングで R を使用して、 テラバイトのスピードを達成する話のほうが面白い
かもしれません。 それも可能ですが、 R は HPC 分野においてあまりよく知られていないため、 高度なトピックをカバーする前に基本的なトピックをカバーしたいと思います。
最初に、 R を選択し、 パフォーマンスに関心がある開発者であれば、 知っておくべき簡単な歴史と基本事項を説明します。 その後、 コンパイル済みコードを R に統合する方法を示し、 並列コンピューティングについて述べたいと思います。 この記事は、 概要を示すことを目的としているため、 それぞれのトピックについてここでは詳しく取り上げません。 この記事が、 実際に R を試してみるきっかけになればと願っています。

R の歴史
1976 年、 当時の Bell Labs の John Chambers が取り組み始めた S が R のルーツです。 S は、 Fortran コードの対話型インターフェイスとして設計されました。 Fortran も長い歴史がありますが、 R も同じです。 R は、 1990
年代に無料版の S として Ross Ihaka と Robert Gentleman によってリリースされました。 厳密には、 R は S
言語の方言です。 実際、 1980 年代に作成された多くの S コードが R でも動作します。
R は奇妙な言語です。 以下は、 そのことを示すコード例です。
typeof(1)## [1] “double”
typeof(2)## [1] “double”# 1:2 は数字 “1 2” のベクトル
typeof(1:2)## [1] “integer”

上記のコードをよく観察すると、 1:2 はインデックスであると仮定できます。 しかし、 ほかにも奇妙なところがあります。 一般に、 : は予測が付きにくいものです。 "1":"2" は、 整数 1 と 2 のベクトルを返します。 つまり、 文字
から整数へ ASCII 変換を行っているだけなのでしょう。 例外として、 "A":"B" はエラーになります。 また、 : は常に整数を扱うとは限りません。 例えば、 1.5:2.5 とすることができます。

コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

The Parallel Universe

48

R には非常に活発なコミュニティーがあり、 CRAN (Comprehensive R Archive Network) 上では 10,000 を超える、 数値計算から最先端の統計およびデータサイエンス手法、 インタラクティブなデータ解析 Web サイトの構
築 (Shiny (英語)) まで、 さまざまなパッケージが配信されています。 R のパッケージ ・ インフラストラクチャーは素晴らしく、 どれも問題なく動作します。 ここまで、 「当然のことだ」 と思って読み進めてこられた Python* 開発者の皆さんも、どのようにしたら、プログラミングの知識がない統計学者達が問題なく動作するパッケージ・フレームワー
クを作成できるのか不思議ではありませんか ?
R は人気があると前述しましたが、 2016 年に発表された IEEE Spectrum* (英語) のプログラミング言語のラン
キングにおいて、 R は C# と JavaScript* を抜いて第 5 位でした。 プログラミング言語のランキングに R がランクインしたことは非常に興味深いです。 R の支持者であっても、 R がひどいプログラミング言語であることを公言しています。 R は特殊ではあるものの、 データ解析に非常に優れているため、 それを上回る価値があると評価されたのかもしれません。
言い換えれば、 R は映画 「パイレーツ ・ オブ ・ カリビアン」 のジャック ・ スパロウに似ているかもしれません。
これまでに聞いたことのないような最悪の言語かもしれませんが、 それについて聞いたことはあるでしょう。

手を掛けずに向上
アメリカのコメディアン W. C. Fields はかつて、 「私がこれまでに会った中で一番の怠け者は、 パンケーキが勝手にひっくり返るようにポップコーンを入れていたよ」 と言っていました。 この怠け者は、 素晴らしいエンジニアになれたでしょう。 何だかんだ言っても、 誰かがやってくれるのであれば、 わざわざ自分でする必要はないのですから。
R では、 このように手を掛けずにパフォーマンスを向上するいくつかの方法があります。 最初に、 これは驚くべきことではありませんが、R を適切なコンパイラーでコンパイルすると、パフォーマンスが少なからず向上します。 R は C、
Fortran、 および R で記述されているため、 インテル製ハードウェアでインテル® コンパイラー (icc や ifort) を使用すると良いでしょう。 インテル® デベロッパー ・ ゾーンには、 インテル® コンパイラーで R を使用する方法に関して役立つ記事 ( 英語 ) があります。
これは、 R で優れたパフォーマンスを引き出すための強力な最初のステップと言えます。 ベースの R を構成している R コードについてはどうでしょうか ? R 2.13.0 以降にはバイトコード ・コンパイラーが含まれており、 それを使用してバージョン 2.14.0 以降の内部コードをコンパイルできます。 ユーザーコードに関しては、 以前はバイトコード ・
コンパイラーを使用する方法を自力で見つける必要がありましたが、 2017 年 4 月にリリースされた R 3.4.0 から
JIT が含まれるようになり、 それまでのバイトコード ・コンパイラーの使用に関する推奨事項の多くは意味のないものになりました。

コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

The Parallel Universe

49

バイトコード・コンパイラーは、 一般的なコンパイラーからは程遠く、 例えば、 コードに不要な処理が含まれていても、その処理はそのままバイト形式で実行されます。 また、 R から C へ変換してくれるわけではありません。 ループを多用するコード (ただし、 暗黙のループは除く ) で最適に動作しますが、 パフォーマンスにはあまり効果がありません。 ループ本体のパフォーマンスが 10% 向上したケースもありますが、パフォーマンスが 0.01% しか変わらなかったケースもあります。 しかし、 自分では何もしなくてもいいのですから、 少しでも向上できれば良いでしょう。
これらの改善は R コードのランタイムにとってプラスとなりますが、 驚くような成果は得られないでしょう。 新しいマシンでは、 適切な LAPACK ライブラリーと BLAS ライブラリーを選択することで、 パフォーマンスを大幅に向上することができます。 これらは、 行列演算向けの業界標準の数値演算ライブラリーで、 R では、 低レベルの線形代数と統計処理のほとんどにこれらのライブラリーを使用します。 皮肉なことに、 統計における最も重要な操作とも言える線形回帰では、 LAPACK ではなく、 LINPACK を大幅に改良したバージョンを使用します。 私が言っているのは、 スーパーコンピューターで実行するベンチマークのことではなく、 1970 年代の LAPACK の前身のことです。その理由は少し複雑ですが、ちゃんとした理由があります。高度にチューニングされた LAPACK は、
線形回帰に役立ちませんが、 レベル 1 BLAS の利点を得ることはできます。

BLOG HIGHLIGHTS
ネットワーク ・ ソフトウェア開発者 – 将来に向けて取り組んでいますか ?
ELIZABETH WARNER (INTEL ) >インテル® Software Innovator Program は、 先見の明のあるプロジェクトとそれを開発するスキルがある革新的な独立系開発者を支援します。 イノベーターは、 専門知識と最先端のテクノロジーを利用した革新的なアイデアを通して、 主要分野のデベロッパー ・ コミュニティーに刺激を与えることができる創意工夫、実験、 進歩的な考え方を示します。 インテル® Software Innovator Program は、 いくつかの技術分野に注目しており、 それらがこのプログラムのブランチを構成しています。 この記事では、 その中からネットワー
キングについて取り上げます。
インテル® Networking Developer Zone
SDN (Software Defined Networking) と NFV (Network Function Virtualization) で は、 パ ケ ッ ト
処理関数に柔軟性が求められ、 パケット処理関数ではデータプレーンのソフトウェア実装が求められます。 Networking Program ( 英語 ) は、 x86 ベースの大容量サーバー上で SDN と NFV への対応に取り組む
開発者を支援します。 インテル® アーキテクチャーは、 動的にアップグレード、 保守、 スケーリングできる、
SDN/NFV 向けの標準の再利用可能な共有プラットフォームを提供します。
この記事の続きはこちら (英語) でご覧になれます。

コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

The Parallel Universe

50

R には " リファレンス " BLAS と呼ばれる、 非常に遅いライブラリーが含まれています。 上記の例でも、 R と適
切な BLAS および LAPACK 実装を使用することで、 大幅なパフォーマンスの向上を期待できます。 幸運にも、
インテル® マス ・ カーネル ・ ライブラリー ( インテル® MKL) は、 非常に優れた実装を提供します。 Microsoft*は、 インテル® コンパイラーでコンパイルした R とインテル® MKL を同梱した R のディストリビューション、
Microsoft* R Open ( 英語 ) を無料で提供しています。 インテル® MKL の優れたパフォーマンスを実証する
ベンチマーク (英語 ) のコレクションもあります。 また、 インテルからは、 R とインテル® MKL をリンクするためのドキュメント (英語 ) が提供されています。
最新のマシンをお持ちの場合、 MIC アクセラレーターでもこれを利用できます。 この初期の 研究は、 Texas
Advanced Computing Center ( TACC) (英語 ) において行われ、 特にインテル® MKL の自動オフロードがテストされました。 問題なく動作するというのは、 控えめな表現であって、 インテル® Xeon Phi™ プロセッサーをお持
ちの R ユーザーは、 ぜ ひこれを試してみるべきです。 どこから手を付けていいのか分からない方のために、インテルからガイド ( 英語 ) が提供されています。

コンパイル済みコードの利用
最近の R の傾向の 1 つとして、 R パッケージでの C++ の使用が増加しています。 これは、 主に Rcpp ( 英語 )パッケージを作成した Dirk Eddelbuettel と Romain Francois の功績によるものです。 Rcpp を利用することで、 R 解析パイプラインに C++ コードを非常に簡単に組込むことができます。 Rcpp は、 Python* は
C++ でプログラムするには複雑すぎると思っていた統計学者達の考えを一変させました。皆さんと同じように、私もこれには驚きました。 しかし、 どのような方法であったにしても、 我々はその恩恵を受けられるようになりました。これにより、CRAN パッケージはメモリー消費を抑えつつ、さらに高速に動作することができます。 また、インテル® コンパイラーを使用している場合は、 最も大きな利点が得られるでしょう。 前述のとおり、 最適なコンパイラーは、 高速なコードをもたらすからです。
C を使用している開発者向けに、 R には素晴らしい C API があります。 実際、 これをベースに (多大な労力をつぎ込んで) Rcpp は構築されました。 C API は、 C++ リンカーを使用せずに C ラッパーを作成したいと考えている
Fortran 開発者にとっても便利です。 API に関する説明は、Writing R Extensions ( 英語) にあります。 このマニュアルは、 R を使用する開発者にとって必須と言えます。 しかし、 問題が見つかった場合は、 R のヘッダーファイルを確認することになるかもしれません。

コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

The Parallel Universe

51

Rcpp を使用するには、 次のように、 ほかの R パッケージと同様の方法でインストールします。
install.packages(“Rcpp”)

このパッケージを評価するため、 皆さんもよくご存じの π を求める " 数値版 Hello World" (モンテカルロ積分) について考えてみます。 R では、 次のように記述することができます。
mcpi <- function(n){r <- 0L
for (i in 1:n){u <- runif(1)v <- runif(1)}}if (u*u + v*v <= 1)
r <- r + 1L

return(4*r/n)

これは、 R にあまり馴染みのない方の書き方です。 R に精通した方がこのように記述することはあまりないでしょう。 上記のコードは C に似ています。 コードを高速にするため R を使用する場合、 C に似ているほど、 R ではう
まく動作しませんが、 C/C++ への変換は簡単に行うことができます。 逆も同様で、 R に似ていないほうが、 変換は困難です。 より自然な R コードは、 次のようにベクトル化されています。
mcpi_vec <- function(n){x <- matrix(runif(n * 2), ncol=2)
r <- sum(rowSums(x^2) <= 1)}

return(4*r/n)

コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

The Parallel Universe

52

ほかの高水準言語と同様に、 ベクトル化により実行パフォーマンスは向上しますが、 RAM の使用量も増えます。
いったん R から離れ、 C++ でコードを記述してみましょう。
#include <Rcpp.h>// [[Rcpp::export]]
double mcpi_rcpp(const int n){
int r = 0;
for (int i=0; i<n; i++){double u = R::runif(0, 1);
double v = R::runif(0, 1);}}

if (u*u + v*v <= 1)r++;return (double) 4.*r/n;

Rcpp::export を除いて、 C++ コードになりました。 Rcpp::export は、 すべての定型コードを生成します。
R にはスカラーがなく (冒頭で奇妙な言語と言ったとおりでしょう)、 長さ 1 のベクトルになります。 内部で Rcpp
は処理を行い、 ラッパーで長さ 1 の倍精度ベクトルを作成します。 一般に、 整数、 倍精度、 およびそれらのベクトルを使用できます。 複雑な問題には、 複雑な処理が伴いますが、 これで十分と言えるでしょう。
さまざまな定型コードをコンパイル、 リンク、 ロード、 および生成するには、 sourceCpp() を呼び出すだけで、 R
でその関数をすぐに利用できます。
Rcpp::sourceCpp(ﬁle=”mcpi.cpp”)
mcpi_rcpp(10000)## [1] 3.1456

注意深い方は、 上記のコードで '10000' が倍精度かどうか疑問に思われるかもしれません。 そのとおりです。
10000L と指定すると、 通常の 32 ビット整数になります。 Rcpp は、 自動的に型変換を行い、 その方法は R コードと同じです。 これについては賛否両論あるでしょうが、 Rcpp と R ではこのように扱われることを知っておいたほうが良いでしょう。

コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

The Parallel Universe53

ここで紹介した 3 つのコード例のパフォーマンスは、 rbenchmark または microbenchmark パッケージを使用して簡単に比較できます。 ここでは、 rbenchmark を使用しました。
library(rbenchmark)n <- 100000
cols <- c(“test”, “replications”, “elapsed”, “relative”)
benchmark(mcpi(n), mcpi_vec(n), mcpi_rcpp(n), columns=cols)##
test replications elapsed relative## 1
mcpi(n)100 49.901 214.167## 2 mcpi_vec(n)
100
1.307
5.609
## 3 mcpi_rcpp(n)
100
0.233
1.000

上記のように、 良い結果が得られました。 OpenMP* やインテル® スレッディング ・ ビルディング ・ ブロック
(インテル® TBB) などを利用することもできます。 次に、 並列処理について考えてみましょう。

並列プログラミング
R 2.14.0 以降には parallel パッケージが同梱されています。 ソケットを使用する API と OS の fork を使用する
API により、 単純なタスクレベルの並列処理を行うことができます。 2 つのインターフェイスが存在する理由はいく
つかあります。 その 1 つは、 各 API が別々の古い multicore パッケージと snow パッケージから派生したためです。 しかし、 主な理由は、 (fork がない) Windows* も含め、 すべてのプラットフォームを R コアでサポートするためです。 Windows* 以外のプラットフォームでは、 mclapply() 関数が lapply() のマルチコアバージョンです。
lapply() は関数を適用し、 リストを返すため、 このような名前が付けられました。 この関数では、 R の機能的なプログラミングの特徴が活かされています。
lapply(my_data, my_function)parallel::mclapply(my_data, my_function)

データは非常に大きく複雑なオブジェクトのインデックスまたは複雑なリストとして表現され、 関数が処理できる入力値である限り、 問題なく動作します。
正式にサポートされている 2 つ目のインターフェイスは、 やや複雑で、 通常 Windows* プログラマーのみが使用します。 これは、 R ユーザーの間にわずかな議論を生じさせています。 私の個人的な意見ですが、 R ユーザーは、ほかの言語のプログラマーほど、 複数の選択肢を好まず、 適切な 1 つの方法だけで十分だと考えているように思われます。 そのため、 2 つのインターフェイスの統合に向けて、 複数のプロジェクトが立ち上げられました。 例えば、
古く実績のある foreach パッケージや Bioconductor プロジェクトからの新しい BiocParallel などです。

コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

The Parallel Universe

54

2 つのインターフェイスが存在すると問題があるのか疑問に思われる方もいらっしゃるでしょう。 実際、 R にはこのほかにも並列処理を可能にする多数のパッケージが存在します。 それらについては、 HPC Task View (英語) で確認できます。
多くの取り組みと関心が共有メモリー並列処理に集中しています。 R コミュニティーは、 比較的最近までパフォー
マンスに対する関心が低かったのですが、 その主な理由は、 R ではまだデータサイエンスの統計的側面が重視されているためだと思われます。 統計分野のほとんどのビッグデータの問題では、 そのようなことはありません。 確
かに、 データをダウンサンプリングして、 従来の統計手法を使用するだけで、 多くのことに対応することができます。 並列処理を可能にするパッケージは、 すべての問題に適用できるわけではありませんが、 その需要はあります。
それどころか、 これらのツールは正当に評価されていないと言えます。
しかし、 スーパーコンピューターで利用されているものはないため、 これ以上の議論は無意味でしょう。 次に、 MPIについてお話ししましょう。 Rmpi パッケージの歴史は 2002 年まで遡ります。 最近では、 Programming withBig Data in R (pbdR) (英語 ) プロジェクトが、 スーパーコンピューティング環境で R を使用して大規模計算を行うパッケージを開発しています。 実は、 私もそのプロジェクトのメンバーです。 そのため、 私の意見は偏っているかもしれませんが、 いくつかの興味深い例を皆さんにお見せしたいと思います。
pbdR プロジェクトでは、 いくつかのパッケージを管理し、 HPC を最大限に利用して R でデータ解析とプロファイ
ルを行うため取り組んでいます。 ここでは、 MPI プログラミングに絞って述べたいと思います。 Rmpi と pbdMPI
パッケージを比較してみましょう。 1 番大きな違いは、 Rmpi はインタラクティブに使用できますが、 pbdMPI はできません。 これは、 pbdMPI が 1 つのプログラムで複数のデータを扱うこと (SPMD: Single Program Multiple
Data) を想定して設計されているのに対し、 Rmpi はマネージャー / ワーカー形式で動作するためです。 MPI を使用してクラスター上でバッチジョブを送信する場合、 SPMD で記述することがほとんどです。 それが最も直感的な方法で、 名前も付けられています。 HPC から R に来られた方には、 pbdMPI は馴染みやすいでしょう。
プログラミング形式に加えて、 2 つのパッケージの API には大きな違いがあります。 Rmpi では、 データ型を指定する必要があります。 次に例を示します。

コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

The Parallel Universe

55

library(Rmpi)
mpi.allreduce(x, type=1) # int
mpi.allreduce(x, type=2) # double

この記事の最初に説明した型の例を思い出してください。 pbdMPI では、 R のオブジェクト指向の機能を活用して、型やその他の下位レベルの詳細を自動的に処理します。
library(pbdMPI)
allreduce(x)単純な例ですが、 うまく示されています。 HPC コミュニティーの取り組みは素晴らしいものですが、 HPC ツール
はほとんどの人には使用することが難しく、 もっと使いやすくあるべきです。
より現実的な例として、 並列版の "Hello World" について考えてみます。 前述のとおり、 pbdMPI はバッチモードで使用する必要があります。 インタラクティブな処理に慣れている R ユーザーにとって、 バッチ処理は馴染みがないものですが、 リソース ・ マネージャーやジョブ ・スケジューラーなどの HPC 機能とうまく連携できます。 以下の"Hello World" を実行してみましょう。
library(pbdMPI)comm.print(paste(“Hello from rank”, comm.rank(), “of”, comm.size()), all.rank=TRUE)
ﬁnalize()mpirun (または同等のコマンド) を呼び出すだけです。
mpirun -np 2 Rscript hello_world.r

コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

The Parallel Universe56

以下が出力されます。
[1] “Hello from rank 0 of 2”[1] “Hello from rank 1 of 2”

まとめ
統計分野でよく知られている、 George Box の 「すべてのモデルには間違いがあるが、 役に立つものもある」という言葉があります。 それに見習えば、「すべてのプログラミング言語には問題があるが、役に立つものもある」と言えます。 R は、 その究極の言語でしょう。 (S から数えて) 40 年間も支持され続け、 最近ではプログラミン
グ言語ラインキングの第 5 位にランクインした実績から、 R にはそれだけの価値があるはずです。 R は遅いことで知られていますが、それを解決する方法はあります。 まずは、適切なコンパイラーを使用することです。 また、
適切な BLAS と LAPACK は、 多くのデータサイエンス処理のパフォーマンスを向上します。 さらに、 R 解析パ
イプラインにコンパイル済みカーネルを組込むことで、 パフォーマンスを大幅に向上できます。 それでも期待するパフォーマンスが得られない場合は、 コア数を増やしてみてください。

インテル® コンパイラーを評価する
インテル® Parallel Studio XE に含まれます >コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

The Parallel Universe

57

BigDL: Apache Spark* 上の最適化されたディープラーニング
オープンソースの分散型ディープラーニング ・フレームワークでディープラーニングの普及を促進
Jason Dai インテル コーポレーション 主任エンジニア
Radhika Rangarajan インテル コーポレーション テクニカル ・ プログラム ・ マネージャー

人工知能 (AI) は現代のスマートで接続された世界で中心的な役割を果たしており、 ディープラーニング機能を備えた、スケーラブルな分散型ビッグデータ解析の必要性は高まるばかりです。また、特徴量の設計や従来のマシンラー
ニングをサポートする既存のデータ処理パイプラインとディープラーニングを同じクラスターで処理したいという要
望も増えています。 ビッグデータの解析とディープラーニング向けの統一プラットフォームを求める声に応えるため、インテルは、 Apache Spark* 向けのオープンソース分散型ディープラーニング ・フレームワーク、 BigDL (英語) を最近リリースしました。 この記事では、 BigDL の機能と BigDL を使用してモデルを作成する方法を紹介します。

コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

The Parallel Universe

58

BigDL は Spark* の上位のライブラリーとして実装され (図 1)、 スケールアウト ・コンピューティングを容易に行うことができます。 BigDL を利用すると、 ディープラーニング ・アプリケーションを既存の Spark* または Hadoop*
クラスター上で直接実行できる標準 Spark* プログラムとして記述することができます。
データフレーム
パイプライン
ストリーミング* コア

1

BigDL の実装

BigDL の概要
BigDL は、 次の特長を備えており、 ビッグデータおよび Spark* プラットフォームでディープラーニング機能をネイティブにサポートします。
• • ディープラーニングの包括的なサポート。 Torch を手本に開発された BigDL は、 数値計算 (テンソルなど ) や
高レベルのニューラル ・ ネットワークを含む、 ディープラーニングの包括的なサポートを提供します。 さらに、
BigDL を使用して、 訓練された Caffe* または Torch のモデルを Spark* プログラムにロードすることもできます。
• • 非常に高いパフォーマンス。 高いパフォーマンスが得られるように、 BigDL は各 Spark* タスクでインテル®
マス・カーネル・ライブラリー (インテル® MKL ) およびマルチスレッド・プログラミングを使用します。 そのため、シングルノードのインテル® Xeon® プロセッサー (メインストリーム GPU と同等) でオープンソースの Caffe*、
Torch、 TensorFlow* をそのまま利用するよりもはるかに高速です。
•• 効率的なスケールアウト。 BigDL は、 Apache Spark* を活用して、 Spark* での同期 SGD や Allreduce 通信の効率的な実装により、 効率的にスケールアウトしてビッグデータ ・スケールでデータ解析を実行できます。

Spark* とのネイティブ統合は、 BigDL の重要な利点です。 BigDL は Spark* の上に構築されるため、 ディー
プラーニングにおいて計算負荷の高いモデルの訓練を簡単に分散できます。 計算を明示的に分散するように要求するのではなく、 BigDL は Spark* クラスター全体にワークを自動的に分配します。
BigDL は (データストレージ、データ処理 / データマイニング、特徴量の設計、 典型的なマシンラーニング、ディー
プラーニング向けの ) 統一データ解析プラットフォームとして Hadoop* と Spark* をサポートし、 ビッグデータのユーザーやデータ ・ サイエンティストがディープラーニングをより簡単に利用できるようにします。
典型的な BigDL のユースケースは次のとおりです。
•• 大量のデータをその格納場所 (HDFS*、 HBase*、 Hive* など ) と同じビッグデータ (Hadoop* および Spark*) ク
ラスター上でディープラーニング ・ テクノロジーを使用して解析し、 別のシステムとの間の大量の不要なデータ転送を排除します。
•• ディープラーニング機能 ( 訓練、微調整、予測など ) をビッグデータ (Spark*) プログラムやワークフローに追加して、システムの複雑さやエンドツーエンドのレイテンシーを減らします。
•• 既存の Hadoop* および Spark* クラスターを活用してディープラーニング・アプリケーションを実行し、 ほかのワー
クロード (ETL、 データ ・ ウェアハウス、 特徴量の設計、 典型的なマシンラーニング、 グラフ解析など ) を動的に共有します。

コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

The Parallel Universe

59

BigDL を利用する
BigDL は、 数値計算 (テンソルなど )、 高レベルのニューラル ・ ネットワーク、 分散型確率的最適化 (Spark* での同期ミニバッチ SGD や Allreduce 通信など) を含む、ディープラーニングを包括的にサポートします。 表 1 は、
BigDL で提供される抽象化と API をまとめたものです。
名前

説明

Tensor

数値型の多次元配列 (Int、 Float、 Double など )Moduleニューラル ・ ネットワークの層 (ReLU、 Linear、 SpatialConvolution、 Sequential など )Criterion

指定された入力およびターゲット、 指定された損失関数ごとの勾配の計算

Sample

特徴およびラベル ( テンソル ) からなるレコード

DataSet

データの訓練、 検証、 テスト、 DataSet の (-> 演算子による ) 一連のデータ変換にはTransformer を使用

Engine

訓練のランタイム環境 ( ノード数、 コア数、 Spark*/ ローカル、 マルチスレッド )Optimizer

ローカルまたは分散型訓練の確率的最適化 (SGD、 AdaGrad のようなさまざまな
OptimMethod を使用 )表 1. BigDL の抽象化と API

BigDL プログラムは、 ローカル Scala*/Java* プログラムとして、 または Spark* プログラムとして実行できます。 [ 編集者注 : Python* のサポートはまもなく行われます。 この記事が掲載される頃にはサポートされているでしょう。 ] 対話型の Scala* シェル ( REPL ) を使用して BigDL コードをローカル Scala*/Java* プログラムとして作成するには、 最初に次のように入力します。
$ source PATH_To_BigDL/scripts/bigdl.sh$ SPARK_HOME/bin/spark-shell --jars bigdl-0.1.0-SNAPSHOT-jar-with-dependencies.
jar

コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

The Parallel Universe

Scala* シェルは次のように表示されます。
Welcome to______/ __/__ ___ _____/ /___\ \/ _ \/ _ `/ __/ ‘_//___/ .__/\_,_/_/ /_/\_\ version 1.6.0/_/
Using Scala version 2.10.5 (Java HotSpot(TM) 64-Bit Server VM, Java 1.7.0_79)
Spark context available as sc.
scala>BigDL の Tensor API の使用例を次に示します。
scala> import com.intel.analytics.bigdl.tensor.Tensor
import com.intel.analytics.bigdl.tensor.Tensor
scala> Tensor[Double](2,2).ﬁll(1.0)
res9: com.intel.analytics.bigdl.tensor.Tensor[Double] =
1.0
1.0
1.0
1.0
[com.intel.analytics.bigdl.tensor.DenseTensor of size 2x2]

BigDL の Module API の使用例を次に示します。
scala> import com.intel.analytics.bigdl.numeric.NumericFloat // import global ﬂoat
tensor numeric type
import com.intel.analytics.bigdl.numeric.NumericFloat
scala> import com.intel.analytics.bigdl.nn._
import com.intel.analytics.bigdl.nn._
scala> val f = Linear(3,4) // create the module
mlp: com.intel.analytics.bigdl.nn.Linear[Float] = nn.Linear(3 -> 4)// let’s see what f’s parameters were initialized to.(‘nn’ always inits to something
reasonable)scala> f.weight
res5: com.intel.analytics.bigdl.tensor.Tensor[Float] =-0.008662592 0.543819-0.028795477-0.30469555-0.3909278-0.10871882
0.114964925
0.1411745
0.35646403-0.16590376-0.19962183-0.18782845[com.intel.analytics.bigdl.tensor.DenseTensor of size 4x3]

コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

60

The Parallel Universe

61

BigDL で単純なテキスト分類器を作成する
では次に、 単純な畳み込みニューラル ・ ネットワーク (CNN) モデル (英語) を使用してテキスト分類器を作成する
方法を見てみましょう。
BigDL プログラムは com.intel.analytics.bigdl._ をインポートして開始した後、 エンジンを初期化します (executor ノードの数、 各 executor の物理コアの数、 Spark* で実行するかローカル Java* プログラムとして実行するかを含む )。
val sc = new SparkContext(
Engine.init(param.nodeNum, param.coreNum, true).get.setAppName(“Text classiﬁcation”).set(“spark.akka.frameSize”, 64.toString).set(“spark.task.maxFailures”, “1”))

次に、 事前に訓練された Word Embedding をブロードキャストし、 RDD 変換 ( vectorizedRdd ) を使用して入力データをロードします。
// For large dataset, you might want to get such RDD[(String, Float)] from HDFS
val dataRdd = sc.parallelize(loadRawData(), param.partitionNum)val (word2Meta, word2Vec) = analyzeTexts(dataRdd)
val word2MetaBC = sc.broadcast(word2Meta)
val word2VecBC = sc.broadcast(word2Vec)
val vectorizedRdd = dataRdd.map {case (text, label) => (toTokens(text, word2MetaBC.value), label)}.map {case (tokens, label) => (shaping(tokens, sequenceLen), label)}.map {case (tokens, label) => (vectorization(
tokens, embeddingDim, word2VecBC.value), label)}

次に、 処理したデータ (vectorizedRdd) をサンプル RDD に変換し、 サンプル RDD (sampleRDD) を訓練デー
タ (trainingRDD) および検証データ (valRDD) にランダムに分割します。
val sampleRDD = vectorizedRdd.map {case (input: Array[Array[Float]],label: Float) =>Sample(featureTensor = Tensor(input.ﬂatten, Array(sequenceLen, embeddingDim)).transpose(1, 2).contiguous(),labelTensor = Tensor(Array(label), Array(1)))}
val Array(trainingRDD, valRDD) = sampleRDD.randomSplit(
Array(trainingSplit, 1 - trainingSplit))

コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

The Parallel Universe

62

次に、 buildModel を呼び出して CNN モデルを作成します。
def buildModel(classNum: Int): Sequential[Float] = {val model = Sequential[Float]()model.add(Reshape(Array(param.embeddingDim, 1, param.maxSequenceLength)))model.add(SpatialConvolution(param.embeddingDim, 128, 5, 1))
model.add(ReLU())
model.add(SpatialMaxPooling(5, 1, 5, 1))
model.add(SpatialConvolution(128, 128, 5, 1))
model.add(ReLU())
model.add(SpatialMaxPooling(5, 1, 5, 1))
model.add(SpatialConvolution(128, 128, 5, 1))
model.add(ReLU())
model.add(SpatialMaxPooling(35, 1, 35, 1))
model.add(Reshape(Array(128)))
model.add(Linear(128, 100))model.add(Linear(100, classNum))model.add(LogSoftMax())
model}

次に、 Optimizer を作成し、 訓練データ RDD (trainingRDD ) を Optimizer に ( 特定のバッチサイズで )渡して、 ( 最適化メソッドとして Adagrad を使用し、 ステートに関連するハイパーパラメーターを設定して ) モ
デルを最終的に訓練します。
val optimizer = Optimizer(
model = buildModel(classNum),sampleRDD = trainingRDD,
criterion = new ClassNLLCriterion[Float](),batchSize = param.batchSize)
val state = T(“learningRate” -> 0.01, “learningRateDecay” -> 0.0002)
optimizer.setState(state).setOptimMethod(new Adagrad()).setValidation(Trigger.everyEpoch, valRDD, Array(new Top1Accuracy[Float]),param.batchSize).setEndWhen(Trigger.maxEpoch(2)).optimize()

BigDL でエンドツーエンド ・アプリケーションを作成する
BigDL では、 データの管理、 特 徴の管理、 特 徴の変 換、 モデル の訓練および予測、 結果の評価を含む、
Spark* ベースの単一解析パイプラインを使用して、 エンドツーエンドの AI アプリケーションを作成することができます。 我々は、 異なる複数の分野のユーザーと作業を行い、 不正検出や欠陥検出などに BigDL を使用したエンドツーエンドのソリューションを開発しました。 図 2 は、Spark* で BigDL を使用して構築された、コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

The Parallel Universe

63

エンドツーエンドのイメージ認識とオブジェクト検出パイプラインを示しています。 このパイプラインは、 製造
パイプラインから大量のイメージを収集して処理し、 ( BigDL で畳み込みニューラル ・ ネットワーク ・ モデルを使用して) これらのイメージから製品の欠陥を自動的に検出します。

2

エンドツーエンドのイメージ認識とオブジェクト検出パイプライン

ディープラーニングの普及を促進
この記事では、 Apache Spark* 向けのオープンソース分散型ディープラーニング ・フレームワーク、 BigDL について説明しました。 BigDL は、 ディープラーニング ・ アプリケーションを標準 Spark* プログラムとして記述し、これらのディープラーニング ・アプリケーションを既存の Spark* または Hadoop* クラスター上で直接実行できるようにすることで、 ビッグデータのユーザーやデータ ・ サイエンティストがディープラーニングをより簡単に利用できるようにします。 その結果、 Hadoop*/Spark* を、 優れたスケールメリット、 高いリソース使用率、 使いや
すさ / 開発しやすさ、 優れた TCO を提供する、 データストレージ、 データ処理 / データマイニング、 特徴量の設計、 従来のマシンラーニング、 ディープラーニング ・ ワークロード向けの統一プラットフォームにしているのです。

GitHub* から
BigDL を入手する ( 英語 ) ›コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

The Parallel Universe

64

現在および将来に向けた
コードの最適化2017 年春の技術ウェビナー
高速なアプリケーションを素早く開発
次のウェビナーを無料でご覧いただけます。
• 最適化およびベクトル化されたコード• ハイパフォーマンスな Python*• など...

詳細 (英語) ›トピック
インテル® Cluster Checker 2017 による安定した効率良いクラスター

視聴する (英語) ›アプリケーション ・ パフォーマンスのスナップショットと改善

視聴する (英語) ›HPC アプリケーションに必要なハイパフォーマンス解析

視聴する (英語) ›OpenMP* と SIMD 並列処理によるアプリケーション ・ パフォーマンスの高速化

視聴する (英語) ›CPU、 GPU、 FPGA: インテル® スレッディング ・ ビルディング ・ブロックによる管理

視聴する (英語) ›Julia とインテル® マス ・ カーネル ・ ライブラリーによるハイパフォーマンスなマシンラーニングと
データサイエンス

視聴する (英語) ›HPC アプリケーションにコンテナーを同梱視聴する (英語) ›コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。
Intel、 インテル、 Intel ロゴは、 アメリカ合衆国および / またはその他の国における Intel Corporation の商標です。
* その他の社名、 製品名などは、 一般に各社の表示、 商標または登録商標です。
© Intel Corporation.

コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

The Parallel Universe

OpenCL および OpenCL ロゴは、Apple Inc. の商標であり、Khronos の使用許諾を受けて使用しています。
Intel、 インテル、 Intel ロゴ、 Intel Atom、 Celeron、 Pentium、 Xeon、 Intel Xeon Phi、 Cilk、 VTune は、
アメリカ合衆国および / またはその他の国における Intel Corporation の商標です。
* その他の社名、 製品名などは、 一般に各社の表示、 商標または登録商標です。
© Intel Corporation.

コンパイラーの最適化に関する詳細は、 最適化に関する注意事項を参照してください。

65