Duff's device

Duff's Device（ダフスデバイス）とは、C言語での可変長の連続的コピーをループ展開により最適化実装するときに直面する端数の問題を解決するための手法である。 C言語のswitch-case文が持つフォールスルーを利用して、アセンブリ言語で行われる技巧をC言語で実現している。1983年11月、ルーカスフィルムで働いていたトム・ダフが発見した。 ループ展開は、ループのための分岐回数を減らす技法である。指定されるループ回数が不明な場合、ループ展開すると回数が合わない場合が出てくるので、ループの途中にジャンプすることで調整する。例えば、8回ぶんのループを展開した場合、指定されたループ回数が8で割り切れないなら、その回数を8で割った剰余のぶんだけ処理を実行する位置にジャンプさせる。 ダフはそのような最適化を検討していてCでの技法を発見した。 連続コピーを普通にコーディングすると以下のようになる。 do { /* count > 0 と仮定 */ *to = *from++; /* ''to'' はインクリメントされていない */ } while (--count > 0); ダフの本来の意図はメモリマップされた周辺機器の出力レジスタへのコピーだったため、to がインクリメントされていない。 これを最適化するにあたり、ダフは、switch 文と do ループを組み合わせた構造によってループ展開ができると気づいた。 send(to, from, count) register short *to, *from; register count; { register n = (count + 7) / 8; switch(count % 8) { case 0: do { *to = *from++; case 7: *to = *from++; case 6: *to = *from++; case 5: *to = *from++; case 4: *to = *from++; case 3: *to = *from++; case 2: *to = *from++; case 1: *to = *from++; } while(--n > 0); } } Duff's device は、8に限らずどのようなサイズのループ展開にも応用可能である。 このアルゴリズム自体はアセンブリ言語でコピーの際に比較と分岐を最小限にする手法として以前から使われていたが、Duff's Device はこれを C言語で実現した。このコーディングは次に挙げる2つのCの性質から、完全に有効で正当なCのコーディングである。 C言語におけるswitch文の定義が緩やかである点。Duff's device が考案された当時のC言語の仕様は『プログラミング言語C』に書かれていたもので、caseラベルの後には文法的に正しければどんな文も置くことができる仕様になっていた。そして、break文がないということはフォールスルーを望んでいることを意味する。 C言語では、ループの途中にジャンプして入ることが可能である。 なお、最適化前のコード例のコメントにある通り、このコードでは count が正であることを前提としている。 多くのコンパイラはswitch文をジャンプテーブルに最適化するので、アセンブリ言語での実装と変わらない性能をC言語で実装できる。C言語の case ラベルでの フォールスルー特性は長年に渡って議論となってきた。ダフは「このコードはその議論に何らかの影響を与えるだろう。しかし、それがどちらの立場になるのかはわからない」と述べている。 単純なループよりこのコードが高速である主要因はループ展開によるものである。ループ展開によりループの終了条件の比較回数が減少する。switch/case 文はコピーすべき文字数の残りが展開されたコピー回数と必ずしも一致しないときの調整のために存在する（この例では、8バイトぶんのコピーが展開されている。したがって switch/case 文 は残りバイト数が 1 から 7 の時に自動的に調整する）。また分岐回数が減っていることもパイプライン処理を行うプロセッサにおいては、パイプラインストールを起こす機会を少なくし高速化に貢献する。 このような剰余の自動処理は全てのシステムやコンパイラで最良な手段となるわけではない。場合によってはループを2つに分けたり（1つのループは展開されていて大部分のコピーを行い、2つめのループで残りのコピーを行う）、ループ展開をやめる方が高速である。コンパイラがこのコードを正しく最適化するかどうかも問題であるが、一部のマイクロプロセッサではパイプラインや分岐予測がうまく働かないという指摘もある。かつてXFree86は Duff's device を多用していたが、バージョン4.0でそれらループ展開の大部分を排除して展開前の小さなループに戻すことで、キャッシュヒット率を向上させ性能を向上させたことがある。したがって、このコードを使う前にいくつかベンチマークを行って、対象アーキテクチャの対象コンパイラの対象最適化レベルで最も性能の良いコードを選ぶ方がよいだろう。 本来のコードは（メモリにマップされた）1個のレジスタへのコピーであった。メモリからメモリへのコピーをするには to ポインタを以下のようにインクリメントしなければならない。 *to++ = *from++; この修正版のコードは、ビャーネ・ストロヴストルップの著書 The C++ Programming Language で「このコードは何をしている？」という練習問題として登場した。これは初心者がメモリマップされた出力レジスタを知らない可能性があると判断したためだろう。しかし、このバージョンのコードはそれほど有用ではない。というのも標準Cライブラリには十分に最適化されたメモリコピー関数 (memcpy) が用意されているからである。そちらのコードの方がアーキテクチャ依存の最適化を施していて、ずっと高速に動作する。 ^ Duff's device from FOLDOC ^ Ted Tso on XFree86 and performance, Linux Kernel Archive ML ^ Wall, Mike (2002年3月19日). “Using Block Prefetch for Optimized Memory Performance”. mit.edu. 2012年9月22日閲覧。 ^ Fog, Agner (2012年2月29日). “Optimizing subroutines in assembly language”. Copenhagen University College of Engineering. pp. 100 ff. 2012年9月22日閲覧。 Stroustrup, Bjarne, The C++ Programming Language, Third Edition. Addison-Wesley, ISBN 0-201-88954-4 Kernighan, Brian and Dennis Ritchie, The C Programming Language. この記事は2008年11月1日以前にFree On-line Dictionary of Computingから取得した項目の資料を元に、GFDL バージョン1.3以降の「RELICENSING」(再ライセンス) 条件に基づいて組み込まれている。 C言語FAQ20.35"ダフのデバイス(Duff's Device)"とは。 Description and original mail by Duff at Lysator Wikipedia's example annotated at Stack Overflow Explanation from c-faq.com Article at Dr.Dobb's Journal Article at FOLDOC Article at the Jargon File Article at CodeMaestro Google copy of original USENET post Simon Tatham's coroutines in C 似たようなトリックを用いている