先端的計算科学研究プロジェクト報告書（プロダクトラン課題）

不変解を用いたラージエディシミュレーションの高精度化
大阪大学 基礎工学研究科 物質創成専攻 化学工学領域
関本 敦【研究目的と成果概要】
計算機の発達とともに乱流の直接数値シミュレーション(DNS)が広く研究に応用され，乱流研究が大きく進展中である．今後は，より複雑な流動状態や，混相流，反応流など多岐の分野に広がっていくものと考えられる．しかしながら，これには膨大な計算時間がかかる上，時々刻々と変化する三次元のデータを保存・解析する必要があり，設計現場での試行錯誤の為には，手軽に計算できる乱流モデルの適用は必要不可欠である．今後は，乱流の大スケール運動のみを数値計算によって求め，小スケールの運動はモデル化する Large-Eddy Simulation (LES)という手法が，多くの設計現場でも使われるようになると考えられ，その高速化・高精度化は流体工学において重要な課題である．しかしながら，現状は，試行錯誤によってモデル定数や格子解像度を変えるなど，LES をはじめとする乱流モデルの使用方法に関しては経験に頼るところが大きい．
本研究では LES の支配方程式，つまり，フィルターをかけた Navier-Stoke 方程式の不変解に基づいた乱流モデルの本質の理解とモデルの予測性能の向上を目指す．このような不変解は，数値的に求めることができ，層流と乱流の亜臨界遷移現象に大きな役割を果たすことが知られている(Kawahara et al.,Annu. Rev. Fluid Mech. 2012. 44:203–25)．この不変解の亜臨界遷移に及ぼす役割に着目し，格子に依存せず，局所的に乱流と層流が混在する剥離流れなどにも適用可能な新たな LES 渦粘性モデルを構築し，その有用性を検証する．
乱流－層流が混在する複雑形状の流れに適用する指針を得る為，逆圧力勾配下の境界層乱流を課題として取り上げる．上記の目的のために，今年度の課題では，既往の研究論文(V. Kitsios et al., J. Fluid Mech.,
2017, 829:392–419)の計算よりも逆圧力勾配を強め，計算領域を多く確保した境界層乱流の直接数値計算を行い，3 次元乱流データベースを取得した．LES モデルに必要な渦粘性の精緻なデータを取得することが出来，LES モデルの検証に用いることができる．今後は，渦粘性モデルと壁面モデルを実装した LESを行い，既往の不変解(A. Sekimoto & J. Jiménez, J. Fluid Mech. 2017, 827:225-249)を壁面乱流の系へと追跡し，LES モデルの三次元非線形不変解を求める．その解の分岐構造を解明し．その情報をもとに渦粘性モデルの係数の決定指針を得る．新たな渦粘性モデルは広範囲の分野に渡って用いることができるようOpenFOAM などへ実装し，実用問題へと応用する．

【今年度利用の成果の詳細】
１．境界層乱流の DNS コードの性能評価
すでに開発済みの逆圧力勾配下の境界層乱流の DNS コードを用いる．これはオリジナルのゼロ圧力勾配境界層乱流の DNS コード(OpenTBL, https://github.com/guillemborrell/OpenTBL)を逆圧力勾配にカスタマイズしたものである．計算スキームは，フーリエ級数展開およびコンパクト差分法を用いたマルチグリッド解法で，All-to-All 集団通信が全体の約 30 %を占める．図１に並列性能を示す．
自己相似分布をもつ領域をより長く確保するために，既往の文献の計算(V. Kitsios et al., J. Fluid Mech.,
2017, 829:392-419)よりも大きな計算領域（流れ方向に約 1.5 倍）を用いて APG-TBL 計算を実施した．
使用した格子点数は流れ方向に 12289，壁面に垂直方向に 1000，スパン方向に 2048 物理格子点である．
DNS コードの並列性能を測定した結果を図１に示す．32 ノードでも十分実用的な並列効率を示した．
主に使用したソフトウェアは，Fujitsu Fortran で MPI と OpenMP のハイブリッド計算で，スレッド数は 2 で実行するのが一番効率的であった．
（Intel Fortran の推奨オプションでの計算では 2 倍程度遅い計算となったが，まだ原因は特定していない．
） ファイル I/O には 並列版 HDF5 ライブラリを利用した．変数一つのリスタートファイルのサイズは約 65GB で，速度と圧力の 4 成分の読み込み速度は 5分 30 秒程度，書き込み速度は 20 分程度であった．

54高速化率32102565127681024

コア数
図 1．APG-TBL DNS の並列性能評価.
12289 (x)×1000 (y)×2048(z) (≒ 250 億物理格子点)．
２．逆圧力勾配境界層乱流の DNS の大規模実施
得られた境界層乱流データベースから近似的に自己相似速度分布が成り立つ領域を選び，乱流統計量を得た（図２）．まだ，サンプル数が十分でないが，関本ら[1, 2]による統計量のスケーリング方法がより強い逆圧力勾配下でもおおよそ成り立つことが確かめられた．この自己相似分布を持つ領域のスケーリング則は，Inlet と Outlet の境界条件のリスケーリング法にも応用できると考えられ，計算領域を大幅に削減することで，計算コストの大幅な削減が期待できる．
(a)
(b)
0.02

<latexit sha1_base64="DeAgi6gPKbXmT2Eyi+garP7vHYo=">AAACf3ichVG7SgNBFD1Z3/EVtRFtgsFHFW6i4KMSbSx9RQWjYXedxMF9sbsJ6BKw9gcsrBRUxEL/wcYfsPATxFLBxsKbzYKoqHeYmTNn7rlzZkZzDOn5RI8xpaGxqbmltS3e3tHZ1Z3o6V3z7LKri5xuG7a7oameMKQlcr70DbHhuEI1NUOsa3vztf31inA9aVur/r4jtky1ZMmi1FWfqUJiIF90VT0obwd5x5WmSGar1SBXENvZaiGRojSFkfwJMhFIIYpFO3GJPHZgQ0cZJgQs+IwNqPC4bSIDgsPcFgLmXEYy3BeoIs7aMmcJzlCZ3eOxxKvNiLV4XavphWqdTzG4u6xMYpge6Ipe6J6u6Ynef60VhDVqXvZ51upa4RS6j/pX3v5VmTz72P1U/enZRxFToVfJ3p2Qqd1Cr+srB8cvKzPLw8EIndEz+z+lR7rjG1iVV/18SSyfIM4fkPn+3D/BWjadGU9nlyZSs3PRV7RiEEMY4/eexCwWsIgcn3uIC9zgVokpo0paoXqqEos0ffgSyvQH4w6T1w==</latexit>

u02
Ue2

100.010<latexit sha1_base64="81oC0OR3gQDSK+i3ZEpKzvEBey0=">AAACgHichVG7SgNBFD2urxhfURvBJhiUYBFno6CkCtpYxkdUMDHsrhMd3Be7m4AuKWz9AQsrBQlio99g4w9Y+AliqWBj4d3NgmhQ7zBz7z1zz50zM6qtC9dj7KlD6uzq7umN9cX7BwaHhhMjo5uuVXM0XtQs3XK2VcXlujB50ROezrdthyuGqvMt9XA52N+qc8cVlrnhHdm8bCj7pqgKTfEIqiQmSlVH0fzarl+yHWHwZLbRCLIZ8pVEimVYaMn2QI6CFCIrWIkmStiDBQ01GOAw4VGsQ4FLYwcyGGzCyvAJcygS4T5HA3Hi1qiKU4VC6CGt+5TtRKhJedDTDdkanaLTdIiZxBR7ZNfslT2wG/bMPn7t5Yc9Ai1H5NUWl9uV4dPx9fd/WQZ5DwdfrD81e6hiMdQqSLsdIsEttBa/fnz2up5bm/Kn2SV7If0X7Ind0w3M+pt2tcrXzhGnD5B/Pnd7sJnNyHOZ7Op8Kr8UfUUME5hEmt57AXmsoIAinXuCJm5xJ0lSWpqV5Fap1BFxxvDNpNwnD3uUXw==</latexit>

00.5

1u02
u⇤2

50

1.5

0

0.5

1

1.5y/δ*y/δ*

図 2. 流れ方向速度変動. (a) (u’/Ue) 2 vs y/δ* (b) (u’/u*)2 vs y/δ*. 線種: (×黒)，本課題で実施した APG-TBL の DNS (β=100); (▽赤)，β=39; (△青)，β=1; (○黒)，ゼロ圧力勾配境界層(β=0). 境界層厚さ δ*と速度スケールの定義は関本ら[1, 2] を参照．
また，渦粘性に関する基礎的な知見として混合長スケールを DNS データから見積もると図 3 のようになる．一般に，壁乱流においては慣性領域（y/δ* < 0.3）で混合長は壁からの距離に比例するとしてモデル化されるが，逆圧力勾配が大きいときには外部領域で混合長さスケールはほぼ一定となることが示された．また，境界層中の乱流が減衰して主流と接合する領域(乱流—層流界面，y/δ* > 1.0) では混合長さが指数関数的に上昇する．これらの知見は今後の LES 渦粘性モデルの開発へ活かせる．
(a) 3(b)120.5

10000.5y/δ

11.500.10.20.3y/δ

図 3．平均混合長さの分布. (a) (ls/δ*) vs y/δ* . (b) (a)の壁面近傍の拡大図. 線種線種: (×黒)，本
課題で実施した APG-TBL の DNS (β=100); (▽赤)，β=39; (△青)，β=1; (○黒)，ゼロ圧力勾
配境界層(β=0).

３．LES 壁面モデルの検討
壁面近傍のモデルについても検討を行い，粗面壁面や Slip-wall モデルの統計量への影響を並行平板間チャネル乱流のコードで評価した(図 4)．壁面近傍に多孔質モデルを用いた擬似的な外力を与えることによる統計量の変化への知見[3]が得られ，また，Slip-velocity の導入が LES の壁面モデルへの応用が有用であることもわかってきた．また，Lozano ら(J. Fluid Mech. 2018, 859:400-432)は壁面に平行な成分だけでなく垂直方向の Slip-velocity を導入することによって粗いメッシュを用いた LES での乱流強度の過大評価がなくなることを報告しており，この手法を応用することを今後検討する．

図 4．Slip-wall モデル(左)と平均流への影響

４．実問題を対象とした OpenFOAM [v5.0] 性能評価開発した LES を実用化させるプラットフォームに OpenFOAM を用いる予定であり，化学工学における実用計算ケースの性能評価を行った．
ケース 1，2 ともに OpenFOAM(version 5.0)の並列性能(flatMPI)が理論性能以上となる結果が得られた．
（ケース 1）SiC 結晶成長における溶融溶液内対流の電磁場熱対流計算 (乱流モデルなし，266 万メッシュ)[4, 5]. 溶液結晶成長法によって，炭素が溶け込んだ高温のシリコン溶液の上面から 4 インチ径 SiC の結晶を引き上げる操作を数値シミュレーションによって解析する(図 5)．SiC のウエハー径を大きくした
DNS 計算は非常に高コストになるため今後 LES などの乱流モデルを導入してスケールアップの指針を得る必要がある．Si 溶液内では熱対流と電磁場，界面張力が複雑に作用する流動解析であり，本課題では OpenFOAM によるカスタマイズ計算の一例として，並列性能を測定した（図 6）．
Temperature field in Si Meld

図 5. SiC 結晶成長操作の外観(左), Si 溶液部の拡大図(中心)と溶液内温度分布(右).

10高速化率864202 481216ノード数
図 6．OpenFOAM(v5.0)の並列性能評価. (ケース 1)（ケース 2）オイルジェットの LES 解析（2250 万メッシュ）[6]．
海洋への原油流出（図 7a）の際に環境負荷を軽減させるために界面活性剤を添加して界面張力を制御し，油滴サイズを小さくして海洋内に浮遊分散させることで，海面付近環境への重油の影響を抑える事ができる．環境負荷の予測のためには油滴サイズの正確な分布の予測が必要であり，流出（ジェット）口付近の乱流の渦構造と油滴海面の相互作用による油滴の生成過程を詳細に知ることが重要である．本
ケースは，乱流渦の生成機構とその界面張力の影響を調べるための水中に放出されるオイルジェットのLES(図 7b)を行ったものである．本課題では OpenFOAM (v5.0)による並列性能を評価した(図 7c)．

(a)(b)(c)10

高速化率86420248ノード数
図 6. (a) 海洋への原油流出. (b) オイルジェット(灰色)と速度勾配テンソルの第二不変量で可視化した乱流渦構造(ジェット方向の渦度 で赤と青に色分 けした)．(c)LES 計算(ケース 2)で使用した
OpenFOAM(v5.0)の並列性能評価．

【関連研究業績】[1] 関本 敦，バシリ キトシオス，キャロム アトキンソン, ソリア フリオ, "自己相似逆圧力勾配乱流境界層の直接数値シミュレーションと統計量スケーリング" <注目研究 in 年会 2018>，ながれ 37, pp. 536-539 (2018)[2] A. Sekimoto, V. Kitsios, C. Atkinson and J. Soria, Outer scaling of adverse-pressure-gradient turbulent
boundary layer, J. Fluid Mech (under review)[3] P. V. Stoyanova, L. Wang, A. Sekimoto, Y. Okano, Y. Takagi, Effect of thin and rough layers of porous materials
on drag, J. Chem. Eng. Japan (in print)[4] L. Wang, T. Horiuchi, A. Sekimoto, Y. Okano, T. Ujihara, S. Dost, Numerical investigation of the effect of static
magnetic field on the TSSG growth of SiC, J. Cryst. Growth, 498, 140-147 (2018)[5] L. Wang, T. Horiuchi, A. Sekimoto, Y. Okano, T. Ujihara, S. Dost, Three-dimensional numerical analysis ofMarangoni convection occurring during the growth process of SiC by the RF-TSSG method, J. Crystal Growth (inprint)[6] D. C. Cordeiro, A. Sekimoto, Y. Okano, Large Eddy Simulation of oil blowout in water, Workshop on particlebased modeling of cloud microphysics, November 19-20 (2018), Kobe, Japan