データ駆動型高分子材料研究を変革する
データ基盤創出吉田 亮1,2,3 林 慶浩2
代表機関： 統計数理研究所
協力機関： 東京工業大学
連携機関： 東京大学，東京薬科大学
三菱ケミカル株式会社，JSR株式会社，出光興産株式会社，株式会社ダイセル，横浜ゴム株式会社，三井化学株式
会社，株式会社日本触媒，東洋紡株式会社，株式会社アスムス，東ソー株式会社，旭化成株式会社，日東電工株式
会社，住友ベークライト株式会社，株式会社デンソー
1 情報・システム研究機構 統計数理研究所 データ科学研究系
2 情報・システム研究機構 統計数理研究所 ものづくりデータ科学研究センター
3 総合研究大学院大学 複合科学研究科 統計科学専攻

Basic Workflow of Materials Informatics
Machine Learning for Representation & Generation of Various Kinds of Variables

Backward prediction: S = f-1(Y)Generator P(S|Y)

Input (S)Descriptor (φ)

Output (Y)Forward prediction: Y = f(S) = f⸰φ(S)High dimensionality & peculiarity of input and output variables- graph, string, tensor, function, and so on -2

Prediction and Discovery of New Polymers
with Desired Properties◼ Guo et al. Bayesian algorithm for retrosynthesis. J Chem In. Model. 60:4474–4486 (2020)◼ Wu et al. iQSPR in XenonPy: a Bayesian inverse molecular design algorithm. Mol Inform. 39:1900107 (2019)◼ Yamada et al. Predicting materials properties with little data using shotgun transfer learning. ACS Cent Sci. 5:1717-1730 (2019)◼ Wu et al. Machine-learning-assisted discovery of polymers with high thermal conductivity using a molecular design algorithm.
npj Comput Mater. 5:66 (2019)◼ Ikebata et al. Bayesian molecular design with a chemical language model. J Comput Aided Mol Des. 31:379-391 (2017)

Molecular Design using Generative Machine Learning
Refinement of polymer properties

Designed molecules (monomers)

Tg ↗ and Tm ↗

Generative models of chemical structures◼ Ikebata et al. Bayesian molecular design with a chemical language model. J Compt Aided Mol Des. 31:379-391 (2017)◼ Wu et al. Machine-learning-assisted discovery of polymers with high thermal conductivity using a molecular design algorithm.
npj Comput Mater, 5:66 (2019)4◼ Wu et al. iQSPR in XenonPy: a Bayesian inverse molecular design algorithm. Mol Inform. 39:1-2 (2020)

Process & Composition

Microstructure

Chemical structure

SpectrumCrx Aly Oz N
Θ, T, P
Iwayama et al. (2021) in preparation
Banko et al. Commun Mater 1:15 (2020)
Yang et al. J Mech Des 140(10): 111416 (2018)
Li et al. Sci Rep. 8:13461 (2018)

Composition

Phase diagram

Composition

Crystal structure

TiO2

AlxTMyTMz
Liu et al. Adv. Mater. 33(36):e2102507 (2021)

Reactants

Iwayama et al. (2021) in preparation
Urbina et al. ChemRxiv (2021)

Synthetic productYamashita et al. Phys Rev Mater 2:013803 (2018)
Yamada et al. ACS Cent. Sci. 5(10):1717-1730 (2019)
Kusaba et al. in preparation
Liu et al. in preparation

Crystal or molecule

Property

Tg, Tm, Cp
Guo et al. J. Chem. Inf. Model. 60(10):4474–4486 (2020)
Zhang et al. (2021) in perparation

Yamada et al. ACS Cent. Sci. 5(10):1717-1730 (2019) 5
Ju et al. Phys. Rev. Mater. 5:053801 (2021)
Minami et al. AAAI (2021)
Ikebata et al. J. Compt. Aided Mol. Des. 31:379-391 (2017)
Wu et al. npj Comput. Mater. 5:66 (2019)
Wu et al. Mol Inform. 39:1-2 (2020)

Lack of ‘Open’ Database for Polymer Informatics
DFT property database greatly contributed to the advance of ML for inorganic materials

Polymer Property Database◼ PoLyInfo (literature survey)

Inorganic Compounds◼ Materials Project (DFT)~100 properties for 18,015 polymers
NO API~130,000 virtual and real compounds
Accessible via API

https://polymer.nims.go.jp/

https://materialsproject.org/◼ Polymer Genome (DFT)◼ AFLOW (DFT)~10 properties for ~800 polymers
NO API~3,000,000 virtual and real compounds
Accessible via API

https://www.polymergenome.org/?m=home

http://www.aflowlib.org/◼ CROW (literature survey)
NO API
http://www.polymerdatabase.com/◼ CRIPT (not yet open)
MIT + Citrine Informatics
https://cript.mit.edu/◼ OQMD (DFT)~600,000 virtual and real compounds
Accessible via API
http://oqmd.org/◼ ICSD (experiment)~240,000 real compounds
Accessible via API
https://icsd.products.fiz-karlsruhe.de/Fully Automated All-Atom Classical MD Simulation
Latest: 15 properties implemented(2021/12/08)◆ Thermal conductivity◆ Thermal diffusivity◆ Density◆ Radius of gyration◆ Specific heat capacity Cp◆ Specific heat capacity Cv◆ Compressibility (isothermal)◆ Isentropic compressibility◆ Bulk modulus (isothermal)◆ Isentropic bulk modulus◆ Self-diffusion coefficient◆ Thermal expansion coefficient◆ Linear expansion coefficient◆ Dielectric constant (static)◆ Refractive index◼ Assignment of force-field parameters，
initial structure generation, equilibrated andnon-equilibrated MD simulation◼ Amorphas, oriented polymers, polymercomposites, crosslinked polymer

RadonPy (OSS)
Wrapper library for the automation of allatom MD simulations using LAMMPS
林慶浩
（統数研）

RadonPy Workflow on FUGAKU
1. 入力： SMILES

2. 繰り返しユニット作成
3. 配座探索4. 電荷，分極率計算

量子化学計算: 分子研・ABCIなどで実行
Main engine: Psi4

5. ポリマー鎖作成
6. 力場割り当て
7. アモルファス構造作成

平衡化MD： 富岳で実行

8. 平衡化MD実行

Main engine: LAMMPS

9. 平衡化MDの収束確認
10. 物性算出

11. 非平衡MD（熱伝導）実行

熱伝導NEMD： 富岳で実行

12. 熱伝導率算出

Main engine: LAMMPS
8

Technical Difficulties: Computational CostDifficult to achieve for a small research group
ABCI: Calculation of 2,000 polymers with oriented structures = 25 million yen
自然科学研究機構
計算科学研究センター

産業総合研究所

東京大学物性研究所

NEC LX 2U-Twin2
サーバ406Rh-2

ABCIOhtaka

1

1

1

CPU / ノード

12 core4 core128 core

GPU / ノード

1 GPU

1 GPU-メモリ/ ノード

192 GB

60 GB

256 GB

30-50 時間32-50 時間36-44 時間

+ 約100 時間+ 約100 時間+ 約100 時間

ノード数 / ポリマー

実行時間 / ポリマー
（アモルファス構造）
実行時間 / ポリマー
（延伸配向構造）産学連合体による高分子物性オープンデータベースの共創2021- 統計数理研究所 ものづくりデータ科学研究センター

105-107ポリマーの包含する世界初の体系的な高分子物性データベースの創出◼ 統数研・3大学・21企業が組織の垣根を越えてデータを共同生産・共有◼ 「富岳」成果創出加速プログラム「データ駆動型高分子材料研究を変革するデータ基盤創出」

高分子物性の大地図を作成
105-107個の分子骨格が張るケミカルスペースの全体像を明らかにする◼ 複数物性の同時分布を観測◼ パレートフロンティアの位置・構造的特徴◼ 特異な特性を持つ高分子を発見
これまでに合成されたポリマーの分布（UMAP）

機械学習※で構築した仮想ポリマーの分布

PoLyInfo の 21クラス分類

Ikebata et al. J Compt Aided Mol Des. 31:379-391 (2017)機械学習による仮想ライブラリ生成
PoLyInfoのPIDの接頭番号と分子骨格の21クラス
P01〜

炭化水素系 (hydrocarbons)

P02〜

ポリスチレン系 (polystyrenes)

P03〜

ポリビニル、ポリビニリデン (polyvinyl, polyvinylidene)

P04〜

アクリル樹脂 (polyacrylate)

P05〜

ハロゲン含有ポリマー (halogen containing polymers)

P06〜

ポリエン (polyene)

P07〜

ポリエーテル (polyether)

P08〜

ポリチオエーテル (polythioether)

P09〜

ポリエステル (polyester)P10〜

ポリアミド (polyamide)

P11〜

ポリウレタン (polyurethane)

P12〜

ポリウレア (polyurea)

P13〜

ポリイミド (polyimide)

P14〜

ポリ無水物 (polyanhydrides)

P15〜

ポリカーボネート (polycarbonate)

P16〜

ポリアミン？ポリアミド以外の窒素含有ポリマー？ (polyamine)

P17〜

ポリシラン、ポリシロキサン (polysilane, polysiloxane)

P18〜

ポリホスファゼン (polyphosphazene)

P19〜

不明

P20〜

ポリスルホン (polysulfon)

P21〜

ポリフェニレン (polyphenylene)

確率的言語モデルを用いて，各クラスのポリマーを模倣した仮想ライブラリを作製• SMILES文字列集合からモデルを訓練• 頻出部分構造や化学結合，重合点の位置，トポロジーを学習

vanillin C8H8O3
S = O=Cc1ccc(O)c(OC)c1◼ Ikebata et al. Bayesian molecular design with a chemical
language model. J Compt Aided Mol Des. 31:379-391 (2017)◼ Wu et al. Machine-learning-assisted discovery of polymers
with high thermal conductivity using a molecular design
algorithm. npj Comput Mater, 5:66 (2019)◼ Wu et al. iQSPR in XenonPy: a Bayesian inverse molecular
design algorithm. Mol Inform. 39:1-2 (2020)進行中の自動化プロジェクト◼ ガラス転移温度◼ コイル・グロビュール転移と溶媒和自由エネルギー◼ レオロジー物性◼ 量子化学計算◼ 熱硬化性樹脂

Latest: 15 properties(2021/12/08)◆◆◆◆◆◆◆◆◆◆◆◆◆◆◆

Thermal conductivity
Thermal diffusivity
DensityRadius of gyration
Specific heat capacity Cp
Specific heat capacity Cv
Compressibility (isothermal)
Isentropic compressibility
Bulk modulus (isothermal)
Isentropic bulk modulus
Self-diffusion coefficient
Thermal expansion coefficientLinear expansion coefficient
Dielectric constant (static)
Refractive index

ポリマー物性推算マップ

Active Learning & Surrogate Models◼ 系・物性毎に機械学習モデルを作成し，ケミカルスペースの地図を拡大◼ 能動学習：全空間を包含するモデルを構築するために，効率的に計算対象を絞り込んでいきたい．
Conventional active learning
Exploration of highly uncertain input regions◼ Cluster-level uncertainty with automatedpartitioning of the input space (Coetes, et al.
Adaptive Region-Based Active Learning,ICML 2020)

Huge input space ~ Random sampling◼ Stopping criterion for each cluster (Ishibashiet al. AISTATS2020)

Unexplored remains endlessly◼ Budget limitation

SAPCIER: Virtual Automated Laboratory
Integration of Machine Learning Polymer Design and Automated Computer Experiments

転移学習のソースモデルとして活用◼ 関連する元ドメインの学習モデルやデータを目標ドメインに利活用するための方法論◼ （実験の）データ量が少なくてフルスクラッチの学習は難しいが，元ドメイン（MDデータベース）のデータやモデルを利用することでデータ量の不足を補うことができる．

⚫ 転移モデルが有する外挿性を発見⚫ 高熱伝導ポリマーの合成⚫ 超高熱伝導を持つ無機結晶⚫ 訓練済みモデルデータベース⚫ 28点のデータから予測モデル⚫ 外挿性の実証

Yamada et al. ACS Cent Sci 5:17171730 (2019)

Wu et al. npj Comput Mater 5:66
(2019)Ju et al. Phys Rev Materials
5, 053801 (2021)16

産学連携の新しいモデルケースを創出
民主的なコモンデータの共創の在り方