ユニファイドメモリアーキテクチャ

概要 

この方式は、古くはNECのPC-8001で実装された。メインメモリの一部をVRAM（ビデオメモリ）の一部として扱い、CRTC（CRTコントローラー）にDMA転送することで、画面を表示していた。DMAが動作中CPUはメモリバスの使用権を失い、画面表示中はCPU本来の能力を発することができなかった。そこで計算などの用途においてDMAを停止し、CPUがメインメモリをフルにアクセスできるようにすることが一般的だった。この手法は後に、PC-8800シリーズでも使用された。

メモリがモジュールとして増設が簡単になり、単価も下がるにしたがい、32bitアドレスのメモリ空間の上限である4GBなども普通に実装できるようになったが、ハードウェアの予約されているメモリ番地はメモリがリニアに使えない。そのうえ、UMA方式に割く場合はさらにビデオ回路用として実メモリを用いるので、32bitモードで動かす場合にはその部分がさらに削られる。もっとも、32bitオペレーティングシステム (OS) では、独立したビデオカードを搭載する場合であってもビデオメモリは最初の4GBのアドレス空間内にマッピングされる必要があるため、ビデオメモリの量だけOS側（ソフトウェア側）で利用可能なシステムメモリの総容量が減少するWindows 7 ベースのコンピューターで使用可能なメモリが搭載されているメモリより少ない - Microsoft サポート。つまり32bit OS環境では、大容量のビデオメモリを搭載するビデオカードはむしろシステム全体の性能を低下させることになる。

なお、かつてSGIが、高帯域幅のUMAを採用したと呼ばれるワークステーション製品を手掛けていたことがあったインターネットマガジン バックナンバーアーカイブ 1997/10。

UMAのメリットの一つは、グラフィックス専用のメモリが不要になるため、コストダウンが実現できることであるInsider's Computer Dictionary：UMA （Unified Memory Architecture） とは？ - ＠IT。エントリモデルのデスクトップPCやノートPCでは、独立したグラフィックスボードやGPU (dGPU) を搭載せず、マザーボード上に実装されたオンボードグラフィックスあるいはCPUに内蔵されたGPU (iGPU) を利用することが多い。スマートフォンやタブレット、ゲーム専用機などに搭載されているSoCは、CPU・GPU・メモリ・周辺回路などを1チップ（1パッケージ）に統合している。いずれもVRAMは搭載せず、メインメモリをCPUとGPUとで共有するUMAとなっている。

UMAのデメリットは、パフォーマンスがメモリに律速され、各々のプロセッサの能力を最大限に活かすことができない可能性があること、また拡張性に乏しいことである。例えばグラフィックスボードに実装されるVRAMには帯域幅の大きいGDDR系メモリやHBMが使われることが多いが、UMAでは通例DDR系メモリとなるため、GPUの性能を活かしきれない。また、CPUと比較すると、並列化しやすいGPUは半導体プロセスルールの微細化に伴う性能向上率が高く、旧製品の性能陳腐化が激しいが、UMA環境ではグラフィックスボードだけを交換・増設して性能を向上させるようなことができない。メモリも統合されたSoCの場合は、メモリだけを後から交換・増設することができない。

 NUMA 
複数のCPUが共有するメインメモリにアクセスする対称型マルチプロセッサにおいて、そのメモリアクセスのことを「Uniform Memory Access」と呼ぶInsider's Computer Dictionary：UMA （Uniform Memory Access、Uniform Memory Architecture） とは？ ［マルチプロセッサ］ - ＠IT。この言葉はNUMA（Non-Uniform Memory Access）ではないことを強調して指す言葉であり、。

従来型のPCアーキテクチャやSoC、Xbox 360などでUMAと呼ばれているアーキテクチャは、あくまでもメモリの部品としての共用であり、CPUとGPUのメモリマップ（メモリ空間）までは統合されていない。これはUMAの中でもNUMAとして分類される。従来型のUMAでは、CPUとGPUはそれぞれのメモリ空間に存在するデータをお互いに直接共有・読み書きすることができず、都度データ転送（コピー）が必要になる。

 hUMA 
ヘテロジニアス・ユニフォームメモリアクセス (heterogeneous Uniform Memory Access) とは、UMAの中でもさらに統合が進み、CPUとGPUがメモリマップまで統合されているUMAのことを指す。AMDがHSA (Heterogeneous System Architecture) の鍵となる技術の一つとして発表した。

CPUとGPUで同じメモリマップを共有しているということは、必然的にGPU側もページフォールトに対応し、MMUで仮想メモリ管理が可能となっていることになる。また、hUMAではCPUとGPUのメモリ一貫性（メモリコヒーレンス／メモリコヒーレンシ）がハードウェアレベルで確保されており、CPUとGPUが扱うデータの一貫性や同期をソフトウェア側で気にする必要がなくなる【後藤弘茂のWeekly海外ニュース】CPUとGPUのメモリ空間を統一するAMDの「hUMA」アーキテクチャ - PC Watch。これはGPUを汎用目的に利用するGPGPUにおいて大きなメリットとなる。

つまり、hUMA環境において、あるメモリアドレスは、CPUやGPUにかかわらず同じアドレス空間内の同じメモリ番地を指すということである。一見当たり前の話に聞こえるが、hUMAではない従来型のUMAではメモリという部品を容量で用途別に分けあっているだけなので、CPUとGPUで異なるアドレス空間を持ち、それぞれ個別にアドレスが振られているうえにメモリ自身もあくまで別物扱いである。それゆえに例え同じアドレス値であっても、CPU用のアドレスとGPU用のアドレスでは全く別のメモリ番地を指している。CPUとGPU間（これは、PCにおいては同時にマザーボードとビデオカード間をも指す）に接続されたバスを通して転送するしか、両者間でデータのやりとりは不可能である。しかし、先述の通りhUMAの場合は単純に同じアドレスのメモリ領域でデータを読み書きするやりとりだけで済み、ソフトウェアによるデータ転送の手間が省ける。また、2023年現在においても、GPUではCPUのようにポインタあるいは参照を駆使した複雑で柔軟なデータ構造を直接扱うことができず、GPU向けにいったん分解や再構築が必要となるが、hUMA環境ではそのまま扱えるようになる。

なお、HSA規格を管理しているHSA Foundationの活動は、2020年を最後に止まっているNews – Heterogeneous System Architecture FoundationHSA Foundation | GitHub。

 API側のUMA対応 
前述のように、従来型のUMAでは、CPUとGPUのメモリ空間が異なるため、たとえ同一の物理メモリ上に存在するデータであっても、お互いに直接読み書きすることができず、データ転送が必要になってしまう。データ転送処理にはDirect3D（DirectX）あるいはOpenGLのようなグラフィックスAPIや、CUDAあるいはOpenCLのようなコンピューティングAPIを利用するが、このコピー処理および同期にかかるコストは、特にGPUの演算結果をCPU側で読み出して利用する場合にボトルネックとなる。しかし先進的なAPIの中には、UMAに対応した最適化機能を持つものも存在する。

 OpenCL 
OpenCLのclCreateBuffer()のflags引数にCL_MEM_USE_HOST_PTRまたはCL_MEM_ALLOC_HOST_PTRを使用することで、ホスト（CPU）側に割り当てられたメモリをバッファとして使用できるclCreateBuffer | OpenCL 1.0 Specification。UMA環境では、（GPUなどの）デバイス固有のルールに従ってこれらを利用することで、バッファ読み書きの際にコピーが不要となる「ゼロコピーバッファ」を実現することができる可能性がある。例えばIntel Graphicsでは、4096バイト境界でアライメントされ、64バイトの倍数のサイズを持つ既存のメモリ領域をバッファとして使うことで、ゼロコピーバッファを実現することができるOpenCL* 1.2 の活用: インテル® プロセッサー・グラフィックスでバッファーコピーを最小限に抑えてパフォーマンスを向上する方法 | iSUS。ただし実装依存であり、UMA環境だからといって必ずしもゼロコピーバッファになるとは限らない。

OpenCL 2.0では、共有仮想メモリ（Shared Virtual Memory, SVM）の機能が追加され、ホストとデバイスで仮想メモリ空間を共有できるようになったOpenCL 2.0勉強会#1：Shared Virtual MemoryなどのOpenCLのバッファー関連まとめ - Fixstars Tech Blog /proc/cpuinfo。SVMにより、UMA環境ではゼロコピーが実現できるようになるだけでなく、ポインタを使用した複雑なデータ構造をデバイス側で利用することもできるようになるOpenCL™ 2.0 Shared Virtual Memory Overview。

 Direct3D 
Microsoft Windows 10で追加されたDirect3D 11.3および12では、UMA環境の場合は冗長なコピーを減らすことのできる機能を持つUnified Memory Architecture - Win32 apps | Microsoft Learn。Direct3D 12では、通常のUMAとキャッシュコヒーレントなUMAを区別することもできるD3D12_FEATURE_DATA_ARCHITECTURE (d3d12.h) - Win32 apps | Microsoft Learn。

 Metal 
AppleのMetal APIでは、単一の仮想メモリ領域内に存在する、アライメントされたメモリアドレスを使って、データをコピーすることなく既存のメモリ領域をラップするMTLBufferオブジェクトを直接生成することができるmakeBuffer(bytesNoCopy:length:options:deallocator:) | Apple Developer Documentation。また、Metalではリソース生成時にMTLStorageMode.sharedを使用することで、CPUとGPUがシステムメモリ内に割り当てられたリソースへのアクセスを共有できるが、共有メモリを使用するリソースに対して、CPUまたはGPUのどちらかでスケジュールしたすべての変更処理が、もう片方のプロセッサ上でのリソースアクセスが発生する前に完了されなければならないMTLStorageMode.shared | Apple Developer Documentation。つまり、MTLBuffer.contents()を使って直接ポインタを取得して共有データを読み書きすることはできるものの、任意のタイミングでCPU/GPU間のメモリ一貫性が保証されるわけではなく、ソフトウェア側の配慮が必要となる。

 Apple Silicon 
2020年にAppleは、従来からiPhoneやiPadなどで採用されていたARMアーキテクチャベースのApple製SoCを、Macコンピュータにも採用するにあたって、Appleシリコンという総称で再定義したApple、MacにAppleシリコンを搭載することを発表 - Apple (日本)「iPhone」「Mac」など全製品でApple Silicon採用、使い勝手を仮想体験 | 日経クロステック（xTECH）。2020年末以降は、MacでもIntelのx86ベースプロセッサに代わって、Apple M1のようなApple SoCが搭載されるようになった。これらのApple SoCではUMAが採用されているが、Apple Silicon GPU環境におけるMetal APIでは、CPUとGPUとで共有可能なMTLBufferとMTLTextureを生成することができる。これによりゼロコピーを実現することができ、パフォーマンスと効率が向上するApple at Work - M1の概要。従来のIntelプロセッサを搭載したIntel Mac環境でも統合GPUに関してはUMAとなっており、MTLBufferに関しては共有モードを利用できるものの、MTLTextureに関しては共有モードを利用できなかった。

なお、Apple GPU環境であっても、すべてのリソースに対して共有モードを設定するのではなく、リソースアクセスの傾向に応じて適切なストレージモードを選択する必要があるChoosing a Resource Storage Mode for Apple GPUs | Apple Developer Documentation。

 脚注 

 関連項目 
 共有メモリ
 NUMA
 ヘテロジニアスマルチコア
 ヘテロジニアス・コンピューティング
 GPGPU

 外部リンク 

 Optimizing Applications for NUMA (英語)
 マルチスレッド開発ガイド： 3.5 NUMA 向けのアプリケーションの最適化 | iSUS
 HSA Foundation ARM, AMD, Imagination, MediaTek, Qualcomm, Samsung, TI (英語)

Category:コンピュータアーキテクチャ