機械学習によるPOPsの母子間移行率および、PCBsのGC保持時間予測モデル構築

化学物質名
A	
B	
C	...	
Z	

移行率
高
低中...	
高

反応性 電子の偏り
数値A	
数値A'	数値B	
数値B'	数値C	
数値C'	...	
...	
数値Z	
数値Z'	

…	
…	
…	…	...	
…	

千葉大学

分子量
数値A"	
数値B"	
数値C"	
...	
数値Z"	

江口哲史

機械学習によるPOPsの母子間移行率予測モデル構築

化学物質名
A	
B	
C	
...	
Z	

移行率
高
低中...	
高

反応性 電子の偏り
数値A	
数値A'	
数値B	
数値B'	
数値C	
数値C'	
...	
...	
数値Z	
数値Z'	

…	
…	
…	
…	
...	
…	

分子量
数値A"	
数値B"	
数値C"	
...	
数値Z"	

汚染物質と母子間移行

ダイオキシン（枯葉剤の不純物・焼却炉で生成）

ヘキサクロロ
ベンゼン（殺菌剤）

トランスノナクロル（殺虫剤）

ポリ塩化ビフェニル（PCBs）
カネミ油症事件
ヘキサクロロ
ポリ臭化ビフェニルエーテル(PBDEs) シクロヘキサン
難燃剤として電化製品等に添加（殺虫剤）

ヘプタクロル
エポキシド（殺虫剤）

胎児への曝露影響
Environmental exposure to polychlorinated biphenyls and quality of the homeenvironment: effects on psychodevelopment in early childhood

Intellectual Impairment in Children Exposed to
Polychlorinated Biphenyls in Utero

人類全体の平均知能が低下、学術・経済などに損失
日本でも環境要因が子供の成長に与える影響の解明を目的とした大規模疫学調査がスタート

汚染物質の母子間移行率予測モデル
胎児は母体から胎盤を通じて栄養素などを得ることで成長同時に化学物質も母体から移行
化学物質の物理化学的性質から移行率をどの程度予測できるのか
移行しやすい物質の特徴は？

汚染物質の母子間移行率予測モデル
胎児は母体から胎盤を通じて栄養素などを得ることで成長同時に化学物質も母体から移行
化学物質の物理化学的性質から移行率をどの程度予測できるのか
移行しやすい物質の特徴は？
臍帯血など、胎児由来の試料を採取することは困難
移行しやすく、リスクの大きそうな物質を特定できれば、限られた試料をその物質の分析に集中できる汚染物質の母子間移行率予測モデル
胎児は母体から胎盤を通じて栄養素などを得ることで成長同時に化学物質も母体から移行
化学物質の物理化学的性質から移行率をどの程度予測できるのか
移行しやすい物質の特徴は？
臍帯血など、胎児由来の試料を採取することは困難
移行しやすく、リスクの大きそうな物質を特定できれば、限られた試料をその物質の分析に集中できる

有機ハロゲン化合物のどのような特徴が移行率に関わるのか、特徴からどの程度移行率を予測できるかについて解析した研究は限られている

目的
1. 有機ハロゲン化合物各種の母子間移行率を機械学習に基づく定量的構造活性相関 (QSAR) により予測し、2. 予測モデル内において重要な変数を抽出することで、母子間移行率に関連する分子情報を特定する

Quan%ta%ve	  structure-­‐reten%on	  rela%onship:	  QSRR化学物質の物理化学的なパラメータから保持時間 (RTs) を予測するための手法
さまざまな化学物質の物理化学的パラメータから未同定物質のRTsを予測・同定するために利用Quan%ta%ve	  structure-­‐reten%on	  rela%onship:	  QSRR
既存手法
ステップワイズ重回帰分析による予測モデル構築
変数増加法 → より良いモデルがあるかもしれない
変数減少法 → パラメータ数が多いと計算時間が長いより高精度なRTs予測モデルを開発できないか？
→ 機械学習によるRTs予測モデルの確立

機械学習
人工知能における研究課題の一つ
人間が自然に行っている学習能力と同様の機能をコンピュータで実現しようとする技術
例えば ？
回帰分析・判別分析・クラスタリング...etc（線形・非線形回帰, 決定木など）
複数の手法を検討、予測モデルの精度を比較

試料と方法

測定対象物質

ダイオキシン（枯葉剤の不純物・焼却炉で生成）

ヘキサクロロ
ベンゼン（殺菌剤）

トランスノナクロル（殺虫剤）

ポリ塩化ビフェニル（PCBs）
カネミ油症事件
ヘキサクロロ
ポリ臭化ビフェニルエーテル(PBDEs) シクロヘキサン
難燃剤として電化製品等に添加（殺虫剤）

ヘプタクロルエポキシド（殺虫剤）

測定対象物質
PCBs, 有機塩素系農薬: 29 pairs
Dioxins, Co-PCBs: 41 pairs
PBDEs: 9 pairs
高分解能ガスクロマトグラフ質量分析計により母体血・臍帯血中の上記汚染物質を定量

半経験的分子軌道法による電子状態の計算

化学物質名
A	
B	
C	...	
Z	

移行率
高
低中
...	
高

反応性 電子の偏り
数値A	
数値A'	
数値B	
数値B'	
数値C	
数値C'	
...	
...	
数値Z	
数値Z'	

…	
…	…	…	...	
…	

分子量
数値A"	
数値B"	
数値C"	
...	
数値Z"	

MOPAC2009を使用し、18種類の分子情報を取得

データ解析
データの要約→ 主成分分析
回帰モデルの構築→ 重回帰分析 (MLR)
ランダムフォレスト (RF)の2つの手法を比較

ランダムフォレスト (RF)元のサンプルセットから一部を取り出し回帰木をつくる操作を複数回（数百ー数千回）行い、その平均を取った回帰木でデータを予測予測モデル構築
訓練データ
24化合物
データ

10-fold crossvalidationで訓練モデルを最適化

検証データ
7化合物

モデル構築

予測モデル
モデル検証

データ全体を訓練データと検証データに分割して検証することで、未知データに対応可能か確認
データサイエンティスト養成読本R活用編 P45参照

予測モデル構築に用いた物質詳細• 訓練データ24物質:	   HCB,	   HCH,	   Heptachlor	   epoxide,	  1 . 2 . 3 . 7 . 8 . P e C D D , 	   1 . 2 . 3 . 6 . 7 . 8 . H x C D D ,	  1.2.3.4.6.7.8.HpCDD,	   OCDD,	   2.3.4.7.8.PeCDF,	  1.2.3.4.6.7.8.HpCDF,	   CB77,	   CB126,	   CB169,	   CB114,	  CB118,	  CB123,	  CB156,	  CB157,	  CB167,	  TetraCB,	  PentaCB,	  HexaCB,	  OctaCB,	  BDE47,	  BDE153	  	  • 検証データ7物質:	   Trans-­‐nonachlor,	   1.2.3.4.7.8.HxCDF,	  1.2.3.6.7.8.HxCDF,	  CB105,	  CB189,	  HeptaCB,	  BDE100	  予測モデルの構築

実測値と予測値の比較
訓練データ

検証データ
MLR	  R2cv	  =	  0.425	  R2EXT	  =	  0.129

実測値

Random	  forest	  R2cv	  =	  0.566	  R2EXT	  =	  0.519

予測値実測値と予測値の比較
訓練データ

検証データ
MLR	  R2cv	  =	  0.425	  R2EXT	  =	  0.129

実測値Random	  forest	  R2cv	  =	  0.566	  R2EXT	  =	  0.519

予測値
Random forestが良好な結果を示した
線形の関係ではなく、非線形で寄与する因子が存在？
MLRは訓練データに対する予測はそれなりだが新規データに対応できない

予測モデルの構築に関わる因子の抽出

予測に寄与する物理化学的特性
RF

MLR

Variable importance
Total dipole
100
LogBCF
99.81
Molecular weight
71.141EHOMO-ELUMO
48.452
EHOMO
40.37
q+
Final heat of formation
TEF
q-34.537
13.59812.797
7.289

LogBAF0

Final heat of formation
LogBAF
Molecular weight
TEF

分子量・極性に関わる因子の寄与大

t-value-21.655
15.6647.728-7.028

予測に寄与する物理化学的特性
RF

MLRVariable importance
Total dipole
100
LogBCF
99.81
Molecular weight
71.141EHOMO-ELUMO
48.452
EHOMO
40.37
q+
Final heat of formation
TEF
q-34.537
13.59812.797
7.289

LogBAF0

Final heat of formation
LogBAF
Molecular weightTEF

t-value-21.655
15.6647.728-7.028

分子量・極性に関わる因子の寄与大
ダイオキシンの毒性等量 (TEF) が移行率と負の関係→胎盤で発現する薬物代謝のリガンドに結合？

母子間移行まとめ
ランダムフォレストモデルにより、化学物質の母子間移行率を高精度で予測既報にある分子量に加え、電荷の偏り、物質の反応性、ダイオキシンとしての毒性等が母子移行率と関係していることを示唆
ダイオキシン類の母子間移行率はその他有機ハロゲン化合物に比べると低い可能性を示唆機械学習に基づくPCBs のGC 保持時間予測モデル構築

PCBs	  (x+y	  =	  1~10)ポリ塩化ビフェニル (PCBs)

PCBs
コンデンサ
トランスの絶縁油
GC-MS による測定が一般的
209種類すべての標準品が販売
個別異性体の保持時間 (RTs) を確認可能

ポリ塩化ビフェニル (PCBs)

PCBs
コンデンサ
トランスの絶縁油
GC-MS による測定が一般的
209種類すべての標準品が販売
個別異性体の保持時間 (RTs) を確認可能
RTs予測モデルの精度確認が容易

目的

機械学習によるPCBsのRTs予測モデル構築
1.奇数番号のPCBsから偶数番号のPCBsのRTsを予測
2. 19種のPCBsから190種のPCBsのRTsを予測 　 　試料料と⽅方法

測定条件
GC:	  Agilent	  7890B	  	  MS:	  JEOL	  JMS-­‐Q1050	  (NCI)	  	  カラム:	  HP-­‐5MSUI	  	  (20m,	  0.25mmID,	  0.25μm)	  	  PCBs:	  209異性体を測定	  	  	  	  	  	  	  	  	  	  	  	  	  RTs情報を取得
Injec%on	  port:	  Pulsed	  Splitless,	  280℃	  	  昇温条件:	  130°C-­‐	  (40°C	  /min)	  -­‐	  160	  °C	  (0	  min)	  –	  (4°C	  /min)	  –	  	  	  	  	  	  	  	  	  	  	  	  	  	  	  	  	  	  	  	  	  	  265	  °C	  (0	  min)	  -­‐	  (40°C	  /min)	  -­‐	  320	  °C	  (2.6	  min)	  	  	 PCBsの構造最適化およびパラメータ導出

化学物質名
PCB1	
PCB2	
...	
PCB209	

RTs
数値A	
数値B	...	
数値Z	

反応性 電子の偏り
数値A'	...	
数値B'	...	
...	
...	
数値Z'	...	

Gaussian09: DFT B3LYPで構造最適化Dragon6: 4885種の構造情報を取得→ SD < 0.0001のパラメータを削除→ 2442種の構造情報をモデル構築に使用

…	
...	
...	
...	
...	

分子量
数値A"	
数値B"	
...	
数値Z"	

予測モデル構築1（偶奇分割）
訓練データ
n = 105
データ

10-fold crossvalidationで訓練モデルの最適化

検証データ
n = 104

モデル構築

予測モデル
モデル検証

データ全体を訓練データと検証データに分割して検証することで、未知データに対応可能か確認
訓練には奇数、検証には偶数番号のPCBを使用
データサイエンティスト養成読本R活用編 P45参照

予測モデル構築2
解析手法 (機械学習)(1:10分割)
訓練データ
n = 19
データ

Leave-one out
cross validationで訓練モデルの最適化

検証データ
n = 190

モデル構築

予測モデル
モデル検証

モデル１で結果の良かったアルゴリズムのみ比較
データサイエンティスト養成読本R活用編 P45参照

解析手法 (機械学習)
重回帰分析 (MLR)
部分最小二乗法 (PLS)→次元縮約により潜在変数を作成

線形回帰とその応用

Elastic net (Enet)→正則化により不要なパラメータを削減
サポートベクターマシン (SVM)→非線形に対応: カーネル法（高次元に射影）
勾配ブースティング (GBDT)→非線形に対応: 多重更新重み付け決定木

 　 　結果と考察

予測モデル1 (偶奇分割)

予測モデル1 (偶奇分割)：線形モデル
訓練データ (n = 105)

検証データ (n = 104)

予測モデル1 (偶奇分割)：線形モデル
訓練データ (n = 105)

検証データ (n = 104)

PLS,	  Enetでは訓練・検証モデルのいずれもR2 > 0.996→ 頑健な予測モデル確立

予測モデル1 (偶奇分割)：線形モデル
訓練データ (n = 105)

検証データ (n = 104)

CB108

PLS,	  Enetでは訓練・検証モデルのいずれもR2 > 0.996→ 頑健な予測モデル確立
CB108

CB108のみ予測・実測値がずれる
非線形モデルではどうか？

予測モデル1 (偶奇分割)：線形モデル
訓練データ (n = 105)

検証データ (n = 104)

CB108

PLS,	  Enetでは訓練・検証モデルのいずれもR2 > 0.996→ 頑健な予測モデル確立
CB108

CB108のみ予測・実測値がずれる非線形モデルではどうか？

予測モデル1 (偶奇分割)：非線形対応モデル
標準化RTs (実測値)

訓練データ (n = 105)
GBDT: 決定木
R2cv = 0.994
R2EXT = 0.976

検証データ (n = 104)
SVM: カーネル法
R2cv = 0.994
R2EXT = 0.991

標準化RTs (予測値)
GBDT: 訓練データセットにおいては良好な結果が得られたが、検証データセットの当てはまりが不十分
SVM: 比較的良好な結果だが線形モデルに及ばず線形を仮定した学習モデルの当てはまりが良好

予測モデル1 (偶奇分割)：非線形対応モデル
標準化RTs (実測値)

訓練データ (n = 105)GBDT: 決定木
R2cv = 0.994
R2EXT = 0.976

検証データ (n = 104)
SVM: カーネル法
R2cv = 0.994
R2EXT = 0.991

CB108

標準化RTs (予測値)
GBDT: 訓練データセットにおいては良好な結果が得られたが、検証データセットの当てはまりが不十分
SVM: 比較的良好な結果だが線形モデルに及ばず線形を仮定した学習モデルの当てはまりが良好
CB108の当てはまりは改善なし、IUPACとBZ番号の混同？

予測モデル1 (偶奇分割)：まとめ
線形モデルの予測性能が高い
中でもPLS, Elastic netでは、訓練データ内, 検証データいずれでも R2 > 0.996
半数程度の構造情報, RTsがあれば残りの異性体のRTsをほぼ予測することが可能

予測モデル1 (偶奇分割)：まとめ線形モデルの予測性能が高い
中でもPLS, Elastic netでは、訓練データ内, 検証データいずれでも R2 > 0.996
半数程度の構造情報, RTsがあれば残りの異性体のRTsをほぼ予測することが可能
生体試料などでは検出される異性体は限られている
主要異性体 + αのRTsのみから、その他異性体のRTsを予測できないか？

予測モデル2 (1:10分割)

予測モデル2に使用したデータ

CB1, 3, 18, 28, 52, 74, 95, 105, 118, 138,153, 156, 170, 180, 183, 187, 194, 207, 209
上記19異性体の物理化学パラメータおよびRTsを訓練データ、その他190異性体を検証データとした

予測モデル2 (1:10分割)
標準化RTs (実測値)

訓練データ (n = 19)
Enet	  R2cv	  =	  0.999	  R2EXT	  =	  0.992

検証データ (n = 190)
PLS	  R2cv	  =	  0.998	  R2EXT	  =	  0.989

標準化RTs (予測値)予測モデル2 (1:10分割)
標準化RTs (実測値)

訓練データ (n = 19)
Enet	  R2cv	  =	  0.999	  R2EXT	  =	  0.992

検証データ (n = 190)
PLS	  R2cv	  =	  0.998	  R2EXT	  =	  0.989

標準化RTs (予測値)
少ないデータ数でも、Enet, PLSともに予測性能は良好→ 実測データから標準品がない異性体を予測できる可能性を示唆

予測モデル1, 2の比較 (PLS)

予測モデル1, 2の比較 (PLS)
標準化RTs (実測値)

訓練データ
モデル１	  R2cv	  =	  0.998	  R2EXT	  =	  0.997	  RMSECV	  =	  0.0392	  RMSEEXT	  =	  0.0588

検証データ
モデル2	  R2cv	  =	  0.998	  R2EXT	  =	  0.989
RMSECV	  =	  0.0683	  RMSEEXT	  =	  0.108

標準化RTs (予測値)
Root mean squared error
予測値が正解からどの程度離れているかの指標
モデル２ではR2だけではなくRMSEも悪化

予測モデル2 (1:10分割)：まとめ
Enet, PLSいずれのモデルでも、予測に使う異性体数を減らしてもR20.99を維持

予測モデル1に比べると精度は低下
R2, RMSE, 図より、予測性能の低下が示唆

予測モデル2 (1:10分割)：まとめ
Enet, PLSいずれのモデルでも、予測に使う異性体数を減らしてもR20.99を維持

予測モデル1に比べると精度は低下
R2, RMSE, 図より、予測性能の低下が示唆
将来的にはOH-PCBsのRTs予測がしたいが、既存の標準品は100種前後、モデル2と同等の予測精度？
PCBs, クロロフェノール等のRTsデータを活用して精度向上を試みる必要があるかもしれないまとめ・将来的な目標
線形回帰ベースの機械学習アルゴリズム(PLS, Enet)により、高い精度でPCBsのRTs予測モデルを構築
PCB105異性体のデータを訓練データとした場合、検証データで R2 > 0.996
PCB19異性体のデータを訓練データとした場合、検証データでR2 0.99
将来的にはOH-PCBsのRTs予測モデルを構築し、生体内で検出される未同定OH-PCBsを同定したい