データ科学による新物質の予測と発見
吉田 亮1,2,3,4 yoshidar@ism.ac.jp

1 情報・システム研究機構 統計数理研究所 データ科学研究系
2 情報・システム研究機構 統計数理研究所 ものづくりデータ科学研究センター
3 総合研究大学院大学 複合科学研究科 統計科学専攻
4 物質・材料研究機構

1

Discover new materials with desired
properties from the vast material space.

e.g. chemical space of small organic
molecules = O(1060)
Kirkpatrick et al. Nature 432 (2004)

マテリアルズインフォマティクスの順問題と逆問題
様々な物質・材料の表現・学習・生成

Backward prediction: S = f-1(Y)Generator P(S|Y)

Input (S)Descriptor (φ)

Output (Y)Forward prediction: Y = f(S) = f⸰φ(S)3

予測 ～ データ科学的視点から“順問題・逆問題” を発掘する

発見 ～ 新材料創製に寄与できる可能性が少しずつ明らかにデータ駆動科学とは森を見て木を知るすべである

新学術領域「ハイパーマテリアル:捕空間が創る新物質科学」（田村隆治 東京理科大）2019年8月~ 計画研究A03 “ハイパーマテリアルズインフォマティクス”（代表: 吉田）

統計的機械学習による準結晶の予測・理解・発見

Liu et al. Advanced Materials.
33(36):e2102507 (2021)

ハイパーマテリアルとは◼ 準結晶：通常の周期結晶には許されない対称性を持つ長距離秩序を有する第3の固体◼ 近似結晶：準結晶と類似した組成と局所構造を持つ．準結晶の前駆体物質

斎藤勝司「【2011年ノーベル化学賞】結晶とも非結晶とも違う「準結晶」を発見」
https://www.kodomonokagaku.com/read/30301/
8歴史：準結晶の発見◼ 1984: Dan Shechtman博士（2011:ノーベル化学賞）による最初の準結晶の発見◼ これまでにおよそ100個の安定準結晶が見つかっている．
◼ 発見のペースが鈍化：約40年の歴史の中で普遍的な設計原理を確立できなかった．

Alを含む準結晶と近似結晶の発見数

準結晶・近似結晶・結晶の組成分布9統計的機械学習で準結晶の発見を加速する
入力組成から準結晶・近似結晶・通常の結晶という3クラスの分類器を構築する
Random forests
Neural networks

Chemicalcomposition

Descriptor
232 compositional featurese.g. electronegativity, atomic
weight, and so onStructure type(three class labels)
QC: quasicrystals
AC: approximants
OTHERS: ordinary periodic crystals(80 samples)(78 samples)(10,090 samples)

QC

ACOTHERS

66:14

60:18

8072:2018

Liu et al. Machine learning to predict quasicrystals from chemical compositions. Advanced Materials. 33(36):e210250710(2021).

Compositional Descriptors
Yamada et al. ACS Cent Sci. 5(10) 1717-1730 (2019), Liu et al. Adv Mater. 33(36):e2102507 (2021)

S: composition
NiaTibCucFedPde

The i-th element of a descriptor vector𝑖𝑖𝑖𝑖𝑖𝜙𝑖 𝑆 = 𝑓 𝑎, 𝑏, 𝑐, 𝑑, 𝑒, 𝜂Ni, 𝜂Ti, 𝜂Cu, 𝜂Fe, 𝜂PdFraction

Element features

atomic weight, electronegativity, etc𝑓 ∙ : weighted mean, variance, max, min, covariance between features 𝑖, 𝑗 , and so on11

Predictive Performance in Phase Diagram Drawing◼ Hypermaterials (QC/AC) vs others: almost PERFECT prediction!
◼ Quasicrystalline phases can be predicted with the accuracy of about 70%◼ In ~73% of the systems, the predicted QC and AC phases coexist in the same systems

Despite no training data were given, QC/AC phases
could successfully be predicted in many systems.

12ハイパーマテリアル
補空間が創る新物質科学

機械学習による “法則” の発見～知識獲得モデルはヒューム=ロザーリの電子濃度則を学習
Tsai, Sci Technol Adv Mater. 9, 013008 (2008)◼ Tsaiの経験則：アルミニウム合金（正二十面体・Mackayクラスタ）では平均遍歴価電子数 e/a が 1.8 の付近に準結晶・近似結晶相が出現◼ 後に理論的説明 Kitahara et al. Cryst Mater 232 507-513 (2017)◼ 準結晶・近似結晶相の予測領域の多くも e/a = 1.8 付近に出現

14準結晶の形成・安定化に関する新法則を発見する
問. モデルは何を根拠に準結晶相の有無を判定しているのか？（言語化された知識）
まずは，重要特徴量（クラス分布の重なりが小さい）を同定 (MIC: Reshef et al. Science. 2011)◼ Hypermaterials vs OTHERS◼ Quasicrystals vs Approximants

スクリーニング対象のAl-TM-TM

232次元組成記述子

QC/ACOthers

15

Feature RelevanceMIC (Maximum Information Coefficient: Reshef et al. Science. 2011)
Mutual Information:

Independence between X (candidate compositions) and Y (predicted class labels)

Relevance is low

Relevance is highHypermaterialsOthers

Hypermaterials

OthersMean electronegativity

Mean electronegativity

Others: TICe (Yakir et al. JMLR. 2016); SDDP (Heller et al. JMLR. 2016); MMD (Gretton et al. NIPS. 2019)

重要特徴量の同定とルールの言語化
例1：元素の電気陰性度の加重平均が0.15±0.01であることが，QC/ACの必要条件
例2：p軌道の平均価電子数が0.71±0.06であることが，QC/ACの必要条件

17例：平均電気陰性度のルール
経験式 = 組成記述子の目標値を満たす組成比の部分空間

ほぼ全てのAl-TM-TMにおいて，経験式の直線は予測されたQC/AC相にオーバーラップ

Pink: target = Mean QC; Green: Mean QC/AC18

準結晶の形成・安定化に関する五つのルール
アルミニウム合金の組成空間では，次のような近似（局所線形近似）が成り立つ．

SBlack boxYFigure 6 in Liu et al. Advanced Materials. 33(36):e2102507 (2021)19逆問題を解く二つの方法
順問題

逆問題

決定論的モデル

確率モデル

点推定（最適化）

分布の推論・解の数え上げ

••
•

•
•
•

Evolutionary (genetic) algorithm
Gradient descent
Combinatorial optimization

MCMC
Sequential Monte CarloEnumeration20

不完全モデルからの知識発見
分布（地図）に基づく確率的推論が必要不可欠

モデルの世界の最適解は現実系において最適解ではない

誤りを含む
多数のシナリオ（分布）点推定 ～ 木を見て森を見ず

ドメインの知識理論

理解・意思決定

分布推論 ～ 個々の予測値ではなく，分布をみることで知識発見を促進＜データ科学・シミュレーション・スパコン

不完全なモデルと不確かな現実系の壁を乗り越えるPrediction and Discovery of New Polymers◼ Guo et al. Bayesian algorithm for retrosynthesis. J Chem In. Model. 60:4474–4486 (2020)◼ Wu et al. iQSPR in XenonPy: a Bayesian inverse molecular design algorithm. Mol Inform. 39:1900107 (2019)◼ Yamada et al. Predicting materials properties with little data using shotgun transfer learning. ACS Cent Sci. 5:1717-1730 (2019)◼ Wu et al. Machine-learning-assisted discovery of polymers with high thermal conductivity using a molecular design algorithm.
npj Comput Mater. 5:66 (2019)◼ Ikebata et al. Bayesian molecular design with a chemical language model. J Comput Aided Mol Des. 31:379-391 (2017)

Molecular Design using Generative Machine Learning
Ikebata et al. Bayesian molecular design with a chemical language model. J Compt Aided Mol Des. 31:379-391 (2017)

Refinement of polymer properties

Designed molecules (monomers)

Tg ↗ and Tm ↗

Generative models of chemical structures

Discovery of thermally conductive amorphous polymers with Tc > 0.4 WmK
Wu et al. Machine-learning-assisted discovery of polymers with high thermal conductivity using a molecular design algorithm. npj
Comput Mater, 5:66 (2019)24高分子材料インフォマティクスにおけるデータ資源の不足
無機材料系では第一原理計算データベースがMIの発展を牽引
Polymer Property Database◼ PoLyInfo (literature survey)

Inorganic Compounds◼ Materials Project (DFT)~100 properties for 18,015 polymers
NO API~130,000 virtual and real compounds
Accessible via API

https://polymer.nims.go.jp/

https://materialsproject.org/◼ Polymer Genome (DFT)◼ AFLOW (DFT)~10 properties for ~800 polymers
NO API~3,000,000 virtual and real compounds
Accessible via API

https://www.polymergenome.org/?m=home

http://www.aflowlib.org/◼ CROW (literature survey)
NO API

http://www.polymerdatabase.com/◼ CRIPT (not yet open)
MIT + Citrine Informaticshttps://cript.mit.edu/◼ OQMD (DFT)~600,000 virtual and real compounds
Accessible via API
http://oqmd.org/◼ ICSD (experiment)~240,000 real compounds
Accessible via API

https://icsd.products.fiz-karlsruhe.de/短中期的には大学のラボや1企業で生産可能なデータが標準に
このままでは高分子材料のマテリアルズインフォマティクスは普及・発展しない

実験・シミュレーション・試料作製・物性評価に要するコストが高い．

コスト

ニーズ
多様性

インセン
ティブ欠如

研究者の興味や設計変数（材料種，試料の作製方法など）が多様コモンデータを創出しようという動きが起きにくい．

基礎と応用の垣根が低い．
競合相手に対する情報秘匿の意識が高い．
データを公開するインセンティブが研究者に働きにくい．

高分子材料データ駆動研究プラットフォーム
JST-CREST 熱制御「高分子の熱物性マテリアルズインフォマティクス」(2019.10-) 代表：森川淳子（東工大）
機械学習・計算科学グループ：吉田亮・林慶浩・Wu Stephen・野口瑶・Chang Liu・塩見淳一郎・川内進

全原子分子動力学法による高分子物性計算の自動化
Hayashi et al. RadonPy: Automated Physical Property Calculation using All-atom Classical Molecular Dynamics
Simulations for Polymer Informatics. npj Comput Mater (2022) in press.
GitHub: https://github.com/RadonPy/RadonPy

Latest: 15 properties implemented(2022/03/31)◆ Thermal conductivity◆ Thermal diffusivity◆ Density◆ Radius of gyration◆ Specific heat capacity Cp◆ Specific heat capacity Cv◆ Compressibility (isothermal)◆ Isentropic compressibility◆ Bulk modulus (isothermal)◆ Isentropic bulk modulus◆ Self-diffusion coefficient◆ Thermal expansion coefficient◆ Linear expansion coefficient◆ Dielectric constant (static)◆ Refractive index

Polymer systems◆ Amorphous/crystalline states◆ Oriented structures◆ Mixtures

RadonPy (OSS)
Python library for the automation of all-atom
MD simulations using LAMMPS
林慶浩
（統数研）

高分子物性自動計算の難しさ：ノウハウとコスト
計算条件・パラメータ設定の「ノウハウ」やパイプライン構築のツールが必要•

シミュレーション条件（アニーリング条件・重合度・時間刻み幅・長距離相互作用など，物性値毎に検討が必要）•系の平衡化の終了判定（各種物理量の収束状況から判定）•MD計算の妥当性の評価（温度勾配・配向度など，物性値毎に検討が必要）

膨大な計算コスト•

1ポリマーの計算に100時間以上（延伸配向したポリマーの熱伝導率＠分子研スパコン）•延伸配向した2,000ポリマーの計算 = ABCIで換算すると2,500万円分•

遅い緩和時間の問題であり，スパコンの並列数が増えても解決しない．

産学連合体による高分子物性オープンデータベースの共創2021- RadonPy DB 共同開発コンソーシアム@統計数理研究所ものづくりデータ科学研究センター

105-107ポリマーの包含する世界初の体系的な高分子物性データベースの創出◼ 統数研・3大学・19企業が組織の垣根を越えてデータを共同生産・共有◼ 「富岳」成果創出加速プログラム「データ駆動型高分子材料研究を変革するデータ基盤創出」

高分子物性大地図の作成に向けて105-107個の分子骨格が張るケミカルスペースの全体像を明らかにする◼ 複数物性の同時分布を観測し，パレートフロンティアの位置や構造的特徴を明らかに◼ 特異な特性を持つポリマーを予測・合成◼ 機械学習のデータ資源としての利用
これまでに合成された高分子の分布（PoLyInfo: 16,427）

2022/09/13
計算完了ポリマー：30,982(平衡MD: 18586, 非平衡MD: 12,396)計算物性のバイアスとバリアンス

vsHayashi et al. npj Comput Mater (2022) in press.

◼ PoLyInfo 1,070 ポリマー，15物性の計算， 5回の独立な試行◼ 実験値との比較により計算条件（プリセット）の妥当性を検証
Density

Thermal conductivity

Linear expansion
coefficient

Volume expansion
coefficient

Refractive index

Cp

Vertical axis: predicted properties (RadonPy)
Horizontal axis: experiments (PoLyInfo)キャリブレーション：転移学習◼ 計算物性のデータ集合から特徴抽出器を学習◼ 実験データへの変換関数 g を推定

シミュレーションデータ

実験データ

Task A

Task B

転移学習
特徴抽出器

ポリマー化学構造33

計算物性・実験値のバイアスとバリアンスが大幅に減少
Hayashi et al. npj Comput Mater (2022) in press.

34

複数物性のパレートフロントがみえてくる
Hayashi et al. npj Comput Mater (2022) in press.

35特異な物性を持つポリマーの同定
Hayashi et al. npj Comput Mater (2022) in press.

熱伝導率が0.5 W / (m・K)を超えるアモルファスポリマーが存在するという予想✓ 通常のアモルファスポリマーの熱伝導率は0.2-0.3 W/mKほど✓ 水素結合可能なユニットが高密度で存在：水素結合やdipole-dipole相互作用を介した熱伝導✓ 分子骨格の剛直性により共有結合を介した熱伝導3,220ポリマーの熱伝導率の分布
All: 4,395
Unique: 3,220
Mean: 0.235
STD: 0.0572

36革新的な材料の周辺にはデータが存在しない
データ科学の内挿的予測の限界
Donners = design targets

Acceptor = PCBM
PCBMpentacene (2004)

tetracene (2005)

α-sexithiophene (2008)

2,4-Bis[4-(N,N-diisobutylamino)2,6-dihydroxyphenyl] squaraine (2009)(some known compounds in 2009)

Performance distribution in 2009

OPVs in 201237

実験・シミュレーション・機械学習の融合
データ科学の内挿的予測の限界を乗り越える✓ 適応的実験計画法に基づき，データが存在しない未踏領域を埋めていく✓ 高分子物性自動計算 + 機械学習による自動分子設計 は未踏課題

38

MD計算+機械学習でケミカルスペースを自由自在に走査

39

パレートフロンティアを構成する高分子を探索する✓ 不完全なモデルと不確かな現実系：誤った「木」を観察しているだけでは何も得られない．データ科学は「森を見て木を知る」ための有用な道具✓ 社会が協調してデータ駆動型研究に資する体系的・包括的なデータ群を創出していくことがいまやるべきこと

41