統計数理（2021）
第 69 巻 第 1 号 83–97©2021 統計数理研究所

特集「マテリアルズインフォマティクスの最前線」［総合報告］

反応予測と合成経路設計の機械学習
郭 中梁†（受付 2020 年 11 月 4 日；改訂 2021 年 5 月 6 日；採択 5 月 7 日）

要

旨

有機合成において，反応物から生成物を予測することを反応予測という．一方，合成目標の最終生成物から逆方向に反応経路を設計することを合成経路設計という．反応予測と合成経路の自動設計は 50 年以上前から研究されてきたが，近年，有機合成の研究分野に機械学習の先進技術が導入されたことで，モデルの予測精度が著しく向上した．本稿では，2017 年以降に発表された化学反応を対象とする機械学習の解析技術を解説する．特に化学反応の順方向と逆方向予測の問題設定の違いに注目しながら，当該分野の研究動向を概説していく．また，我々のグループが発表したベイズ推論に基づく合成経路設計手法を簡単に紹介する．
キーワード：反応予測，合成経路設計，機械学習，ベイズ推論．
1.

はじめに

化合物の合成手法の研究は有機化学の最も重要なテーマの一つである．材料や医薬品の研究で新規の化合物が設計され，望ましい性質や有効性が見込まれる場合，その化合物を合成し，実証する必要がある．そのため，有効な合成経路を設計することが重要な問題となる．近年，（Ikebata
機械学習の技術進歩に伴い，2017 年頃から様々な新規分子設計手法が開発されてきた
et al., 2017; Jin et al., 2018; Cao and Kipf, 2018; You et al., 2018）．これらの手法は，既存のデータを利用して深層ニューラルネットワークなどのモデルを訓練し，所望の特性を満たす分子を自動設計する．従来の専門家による分子設計に比べると，機械学習の分子設計手法は短時間で大量の候補分子を提案できる．一方でその予測精度は訓練データとモデルに依存する．そこで，大量の候補分子の特性を網羅的に検証する必要が生じることとなり，合成経路の自動設
計や合成・計測実験のハイスループット化の実現が喫緊の課題として浮かび上がってきた．本
稿では，機械学習を活用した合成経路の自動設計に関する近年の研究動向を解説する．
これまでの合成経路の計画立案は専門家の知識と経験に基づく試行錯誤によって行われてきた．一方で合成計画の自動策定の研究の起源は 50 年以上前に遡る．1969 年に Corey と
Wipke は Organic Chemical Simulation of Synthesis という最初のコンピュータ支援合成計画
プログラムを発表した（Corey and Wipke, 1969）．その後，LHASA（Pensak and Corey, 1977），
SYNCHEM（Gelernter et al., 1977），WODCA（Gasteiger et al., 2000）などのプログラムが開発されてきた．初期の合成経路設計システムには，有機化学の知識を手動でコーディングした反応ルールや，データベースから自動抽出された大量の反応テンプレートを用いたルールベース
型アルゴリズムが実装されている．また，入力された化合物にどのルールを適用するかを決め†

統計数理研究所：〒190–8562 東京都立川市緑町 10–3（現 愛知県がんセンター研究所：〒 464–8681 名古屋

市千種区鹿子殿 1 番 1 号）

84

統計数理

第 69 巻 第 1 号 2021

図 1．合成経路設計の例．目標化合物は反応ルールに基づいて前駆体分子に変換される．前駆体分子は，購入可能な化合物に到達するまで変換が繰り返される．

るために，知識ベースのモデル，さらに最近では機械学習モデルが使用されている．選択された化学結合の変換ルールを合成対象の化合物に適用し，合成目標の化合物を前駆体分子に分解する．この変換を購入可能な化合物に到達するまで繰り返し，合成経路を設計する（図 1）．
ルールベース型アルゴリズムの問題点の一つは内挿的な予測しかできないことにある．当然ながら，ルールセットに書き込まれた既存の知識を超えた新規の反応を予測できない．そこで
近年，機械学習の解析技術を導入し，より広い反応空間をカバーする合成経路設計アルゴリズ
ムの研究が活発化している．本稿はこの一連の研究動向を概説する．有機合成では，反応物から生成物を予測することを反応予測という．モデルは，反応物を入力として，その生成物を予測する．第 2 節では機械学習を利用した反応予測モデルを紹介する．一方，合成目標の生成物から逆方向に反応経路を探索することを合成経路設計という．合成経路設計では，目標化合物から出発し，合成しやすい前駆体分子への変換を繰り返す．最終的に購入可能な化合物に到達するまでこの操作を反復して合成経路を策定する．これを逆合成解析ということもある．機械
学習のモデルは，目標化合物を入力とし，その反応物を予測する．第 3 節では，合成経路設計の機械学習の解析技術をサーベイする．特に，合成経路設計に内在するデータ科学の問題点を整理し，合成経路設計の問題定義を再考する．それを踏まえ，我々が近年発表したベイズ推論に基づく合成経路設計の手法を解説する．第 4 節では，多段階合成経路設計における機械学習を紹介する．第 5 節では，分子設計における反応予測モデルの活用方法を紹介する．第 6 節では，合成反応の反応条件を予測する機械学習の研究を紹介する．さらに，機械学習と自動合成・自動計測の技術を組み合わせた当該分野の最新の取り組みを紹介する．第 7 節はまとめの
節である．
2.

化学反応と反応予測モデル
C→ D + E によって表される．これは反応物 A と反応物 B が化学反応は一般に反応式 A + B −反応条件 C のもとで，生成物 D と E を生成することを意味する．化学反応は本質的に分子軌
道と分子軌道が相互作用し，原子同士の結合が切断されたり，新しい結合が作られる現象である．反応物に存在する官能基のペアに注目することで，有機合成の専門家はある程度の精度で化学反応を予測できるといわれている．ルールベースの反応予測システムは，このような専門家の推論過程を模倣したものである．グラフマッチングなどの手法を用いて，反応物に存在する官能基のペアを見つけ，ルールセットと照らし合わせ，分子内また分子間がどのように相互作用するかを予測する．ルールセット中の複数のルールが適用できる場合，スコアリング関数を利用して各ルールのスコアを計算し，適用すべきルールを決定する．従来のルールベースシ
ステムのスコアリング関数は専門家の経験則から設計されたものであるが，ルールセットのサイズが大きくなるにつれ，適切なルールを選択することが難しくなる．そこで，機械学習を利用して既存の反応データからスコアリング関数を求める手法が提案されている（Segler and．さらに，ルールセットや既存知識を全く用いずに，膨大なWaller, 2017; Coley et al., 2017b）

反応予測と合成経路設計の機械学習

85

数のデータから合成反応のパターンを end-to-end で学習する手法が提案されている．後述する
ように，このようなアプローチでは機械翻訳の深層ニューラルネットワークやグラフ畳み込み
ニューラルネットワークが用いられる．
2.1 ルールベースの反応予測モデル
ルールベースの反応予測モデルはルールセットとスコアリング関数から構成される．初期の頃は専門家の知識を手作業でまとめたルールセットを利用してきたが，近年では，大規模な反応データからルールセットを自動抽出する手法が確立されている（Coley et al., 2017b）．化学
反応の大規模データベースとして，Reaxys や Sciﬁnder が広く利用されている．しかしながら，
これらのデータベースは商用のため，アクセスが容易でなく，機械学習系の研究では USPTO（United States Patent and Trademark Oﬃce dataset）（Lowe, 2012）というオープンデータセッ
トが最も広く用いられている．このデータセットはアメリカの特許情報から抽出された数百万件の合成反応を収録している．各反応のデータは反応物と生成物の化学構造を含む．また一部の反応には，触媒や溶媒，温度など，反応条件の情報を含む．反応物と生成物，触媒などの化学構造は，SMILES（Simpliﬁed Molecular Input Line Entry System）記法（Weininger, 1988）に基づいた文字列で記述されている（図 2）．SMILES は，化学構造を文字列で記述する表記法である．原子を元素記号で表し，特別な文法に従うことで，環構造，分岐，結合次数，同位体，不斉中心などを厳密に記述できる．全ての化学構造は SMILES 形式の文字列に変換できる．
ルールセットの抽出では，まずはじめに反応物と生成物に含まれる原子同士の対応付け（atom-mapping）を行う．化学反応を介して原子と原子の結合が変化するが，反応前後で原子の種類と数は一致する．したがって，反応物の原子と生成物の原子の間には，1 対 1 の対応関などのツールは，反応物と生成物を比較し，反応の係が存在する．Indigo（Pavlov et al., 2011）
種類を判断した上で，反応物と生成物の原子間の対応関係を atom-mapping という形式で表記する．ただし，一部の反応では，二つ以上の生成物が存在し，主生成物のみがデータとして記録されており，副産物の情報が欠けているケースがある．すなわち，生成物の全ての原子は反応物に含まれているが，反応物の原子の一部は生成物に含まれない．その場合，既存のツールを使うことで，生成物と反応物の間で対応がとれる原子のみをマッピングできる．
Atom-mapping の結果を用いることで，反応の前後で結合が変化した原子を同定できる．この原子を “反応中心” と定義する．さらに，反応中心の周辺原子が構成する部分構造の変化を“反応ルール” と定義する（図 3）．RDKit（Landrum et al., 2006）などのツールを適用すること
で，反応ルールは SMARTS という文字列の形式で表現される．SMARTS はデータベースでの部分構造検索を目的に SMILES を拡張した表記法である．反応ルールを構成する部分構造を表すために SMARTS 表記を利用できる．
ルールセットを利用した反応予測の最初のステップは，与えられた反応物に対し，適用可能な反応ルールを選択することである．各反応ルールの部分構造と反応物の化学構造をマッチン

図 2．化学反応の SMILES 表記とグラフ表記．二つの反応物の SMILES 表記はピリオドで連結される．

86

統計数理

第 69 巻 第 1 号 2021

図 3．反応中心と反応ルールの抽出．

グし，反応中心が反応物に存在するかどうかを判別する．部分構造の検索は SMARTS 表記に基づいて行われる．適用可能なルールが複数存在する場合は，それぞれのルールを適用して複数の生成物を出力する．さらに，入力された反応物と出力された生成物から反応の確からしさ
をスコアリング関数で評価し，最もスコアが高い反応の生成物を最終出力とする．
近年，機械学習でスコアリング関数をデータから導くアプローチが広く適用されている．
Segler and Waller（2017）は教師あり学習で任意の反応物から適用すべき反応ルールのクラス
ラベルを予測する問題を考えている．Extended-Connectivity Fingerprint（Rogers and Hahn,
2010）という記述子を用いて，反応物の化学構造を表現する．与えられた反応データから教師
データを作成し，化学構造の記述子から反応ルールのクラスラベルを出力するモデルを訓練する．論文では，エキスパートシステムとロジスティック回帰，二種類のニューラルネットワー
クを用いて，最も可能性の高い反応ルールを予測している．反応ルールを適用して導いた候補．ルールセッ
生成物と真の生成物を比較し，予測精度を比較している（Segler and Waller, 2017）
トのサイズが 103 種類の場合（103 種類の多クラス分類問題），エキスパートシステムの予測精度はたったの 0.07 であるのに対し，ロジスティック回帰の精度は 0.86，二種類のニューラル
ネットワークの精度は共に 0.92 に達することが報告されている．さらに，ルールセットのサイズが 8,720 種類に増えた場合，エキスパートシステムの精度は 0.02 であるのに対し，ロジス
ティック回帰は 0.41，二種類のニューラルネットワークの精度は 0.78，0.77 に達することが報告されている．専門家が手動で設計したスコアリング関数を利用するエキスパートシステムに比べて，機械学習のスコアリング関数は高い予測性能を示すことが分かっている．Coley et al.
（2017b）は，反応中心における結合の形成または切断を数値化した記述子を用いてニューラル
ネットワークを訓練し，スコアリング関数を構築した．ルールセットのサイズが 1,689 種類の
場合，ニューラルネットワークの精度は 0.685 に達すると報告されている．ルールベースの反応予測に機械学習を導入することで，スコアリング関数の精度を向上できる．また，ルール
セットのサイズが大きい場合，専門家の知識に基づく選択は困難になる．機械学習を導入する
ことでこの問題を克服し，幅広い反応をカバーできるようになった．
2.2 エンドツーエンドな反応予測
ルールベースの反応予測モデルはルールセットのサイズによって予測できる反応の数が決まる．反応データの数が増加するにつれ，ルールセットのサイズが大きくなり，スコアリング関数の設計が難しくなる．また，ルールセットのサイズが大きくなるにつれ，部分構造検索と生成物予測に要する計算時間が大きくなる．しかしながら，ルールセットのサイズを制限すれば，予測可能な反応の種類が少なくなる．このように，ルールベースの反応予測は拡張性の問

反応予測と合成経路設計の機械学習

87

題を内包している．この問題を克服するために，深層ニューラルネットワークを用いた反応予測モデルが提案されることとなった．
Jin et al.（2017）は，分子をラベル付きグラフとみなし，反応予測のタスクをグラフ変換の問題に定式化した．ルールセットを利用する代わりに，グラフニューラルネットワークを用いて，反応物中の反応中心を同定し，生成物を予測する．具体的には，まず反応データを用いて反応中心を予測するグラフニューラルネットワークを訓練する．さらに，予測された反応中心の原子の結合を切断したり，異なる反応中心の原子間を結合することで，生成物を予測する．
反応中心の原子が複数存在する場合，確率が高い K 個の原子に対して，結合の形成または切断を行う．これは分子グラフのノード間のエッジを増減する操作に相当する．K が大きくなるにつれて，生成されるグラフの数が組み合わせ数に応じて増加するが，化学的な制約を利用することで存在しえない分子を除外できる．従来のルールベースの反応予測モデルは部分構造検索で反応中心を判別するが，グラフニューラルネットワークに基づく方法では，データから訓練されたモデルで反応中心を予測する．また，グラフニューラルネットワークを利用する方法では，異なるグラフ変換によって異なる生成物が予測されるが，ルールベースの手法と同様にスコアリング関数を利用して，予測された生成物をランキングし，確からしい生成物を絞り込む．グラフニューラルネットワークを利用する手法は，USPTO データセットのベンチマー
クにおいて，85.6% の精度で生成物を予測できると報告されている．グラフニューラルネット
ワークを利用することで，ルールセットアプローチの拡張性の問題を解消できる．しかしながら，可能なグラフ変換を列挙する操作に時間が掛かるという問題がある．典型的な計算環境では，1 反応の予測に約 0.5 秒の実行時間を要する．例えば，反応予測モデルを利用して大量の候補分子のバーチャルスクリーニングを実施するには，計算効率の大幅な改善が求められる．
分子の SMILES 表現に基づき，機械翻訳で使われる深層ニューラルネットワークを活用
し，反応を予測する研究がグラフニューラルネットワークの研究とほぼ同時期に発表された（Schwaller et al., 2018）．機械翻訳のニューラルネットワークのアーキテクチャはエンコーダとデコーダと呼ばれるモジュールから構成される（Sutskever et al., 2014）．日本語から英語への翻訳の場合，エンコーダは入力として日本語の文章を受け取り，その意味を単語埋め込みベ
クトルにエンコードする．デコーダはそのベクトルを受け取り，英語の文章にデコードする（図 4）．ニューラルネットワークには日本語の文字列が入力され，翻訳後の英語の文字列が出力される．機械翻訳のニューラルネットワークを利用して，反応物の SMILES 文字列から生成物の SMILES 文字列を予測する．日本語のように単語分割されていない文章の機械翻訳では，単語分割を含む tokenization という前処理が必要になる．SMILES も区切りがない文字列
は SMILES 表現の各原子が一つのなので，単語分割を行う必要がある．Schwaller et al.（2019）

図 4．機械翻訳モデルのアーキテクチャ．

統計数理

88

第 69 巻 第 1 号 2021

単語となるような tokenization を施した上で，機械翻訳のニューラルネットワークを適用している．USPTO データセットから訓練されたモデルは，90.4% の精度で生成物を予測できることが報告されている．機械翻訳のニューラルネットワークは生成物を直接出力するため，グラフニューラルネットワークに基づく手法のようなグラフの変換や列挙の操作を必要としないため，計算が速い．機械翻訳のニューラルネットワークの一種である Transformer（Vaswaniを利用した場合，1 反応の予測に要する平均実行時間は約 30ms と報告されている
et al., 2017）（Guo et al., 2020）．機械翻訳のニューラルネットワークの問題点の一つは，SMILES の文法規則に適合しない不適切な文字列を出力することである．Transformer を利用した反応予測モデ
ルの検証では，出力の 0.5% が無効な SMILES という報告がある（Schwaller et al., 2019）．また，反応中心や反応進行のメカニズムがブラックボックス化されているため，ルールベースのモデルやグラフニューラルネットワークを利用した手法に比べると，予測結果の解釈性が低いという問題もある．
3.

合成経路の自動設計

合成経路の設計では，合成対象を単純な構造の前駆体分子に順に変換していきながら，前駆体分子が全て購入可能な分子になった時点で工程を完了する．途中で購入できない分子が現れた場合，さらに単純な前駆体分子に変換していく．このタスクのことを逆合成解析と呼ばれる．ルールベースの合成経路設計ソフトウェアは，ルールセットから合成対象の化合物に適用可能なルールを選び出し，前駆体分子となる反応物を推定する．適用可能なルールが複数存在する場合，反応予測モデルと同様にスコアリング関数によって確からしいルールを選択する．
順方向の反応予測と同様に，ここでも既存の知識に基づいて設計されたスコアリング関数から機械学習ベースのアプローチへの展開が進行している．さらに，設計のタスクを回帰問題に帰着させた上で，入力変数である目的化合物から出力変数の前駆体分子を直接予測するアプロー
チも検討されている．ここで注意すべき点は，一つの化合物を合成する合成経路が複数存在す
るという事実である．したがって，一つの入力信号に対して複数の出力パターンが存在する系を取り扱うことになる．利用可能な試薬や商用化合物のリスト，実験環境などに応じて，合成
科学者が合成経路の最終的な選択を行う．その場合，機械学習に求められるのは，合成目標に到達しうる複数の多様な候補経路を提示し，合成科学者の創造力を刺激することである．
3.1 ルールベースの合成経路設計
ルールベースの合成経路設計は，ルールベースの反応予測と同様のルールセットを利用する．
データから抽出されたルールは，反応前後で結合などが変化する原子とその周辺構造の情報を与える．順方向の反応予測では入力反応物とルール中の反応中心の構造を照らし合わせ，適用可能なルールを見つけ出す．一方，合成経路設計では，生成物と反応後の反応中心の構造を照合し，適用可能なルールを生成物に適用して反応物を推測する．適用可能なルールが複数存在する場合には，スコアリング関数を利用してランキングを行う．Coley et al.（2017a）は，デー
タベースの反応との構造類似度に基づくスコアリング関数を提案している．目的化合物と反応（Tanimoto, 1958）
を計算する．さらに，ルールを適用してデータ中の生成物の Tanimoto 類似度
導いた予測反応物と反応データ内の反応物の Tanimoto 類似度を計算する．これらの類似度を用いてスコアを算出する．非常にシンプルなアプローチである．論文では，1 ステップの反応
における生成物から反応物の予測精度は 37.3% と報告されている．Dai et al.（2019）はグラフ
ニューラルネットワークに基づくスコアリング関数を提案している．適用可能なルールに対して，目的化合物，反応ルール，予測される反応物のセットをニューラルネットワークの入力と反応予測と合成経路設計の機械学習

89

してスコアを計算し，スコアの高いルールを選択する．このスコアリング関数に基づく逆合成
予測の精度は 52.5% に達すると報告されている．この二つの論文の結果は，いずれも USPTO
データセットから 5 万個の反応を取り出し（本項では USPTO-50k と略），その内の 80% を訓練セット，10% が検証用セット，10% がテストセットとしている．しかしながら，USPTO には 100 万以上の反応データが記録されており，データセットのサイズを大きくとると，ルール
セットのサイズも増加する．その場合は順方向の反応予測と同様に，スコアリング関数の設計が難しくなり，さらに，グラフ変換や数え上げの操作に要する計算コストが問題になる．
3.2 エンドツーエンドな逆合成解析
逆合成解析は目的化合物から出発し，単純な分子に変換していくことで，最終的に入手可能な分子によって目的化合物を合成する合成経路を設計する手法である．購入できない分子から単純な前駆体分子への変換は生成物から反応物を予測するタスクとみなすことができる．以
降，反応物から生成物を予測することは反応の進行方向と同じ方向で順方向の予測とし，生成物から反応物を予測することは逆方向の予測とする．順方向の反応予測で利用される深層
ニューラルネットワークモデルは逆方向の逆合成解析でも利用されている．特に機械翻訳のモ
デルと SMILES を組み合わせたエンドツーエンドな逆合成解析手法が数多く提案されている．
Liu et al.（2017）は，seq2seq という機械翻訳の深層ニューラルネットワークを利用して，反応物の SMILES から生成物の SMILES への変換を直接予測することを試みた．USPTO-50k データ
セットでは，seq2seq は 37.4% の予測精度を達成した．ただし，入力変数には反応物に加えて適用する反応のタイプ（ルール）も含まれているため，実際の適用ケースに比べると問題設定が簡単化されている．また，seq2seq が出力する反応物の SMILES 文字列の内，10% 以上が SMILESの文法規則に適合しないことが報告されている．これは機械翻訳モデルを適用する際の特有の問題である．そこで Zheng et al.（2020）では，seq2seq の代わりに Transformer を利用することで，USPTO-50k データセットでの予測精度は 43.3% に向上することを示した．また，文法規則に適合しない SMILES 文字列を修正する機能を導入し，さらなる予測精度の向上を図っ
たが，Transformer はほとんど無効な SMILES 文字列を生成しないため，最終的に予測精度は43.7% に留まった．Lin et al.（2020）は異なる tokenization の仕方を利用した時の予測精度を調「Nc1nc2[nH]c(CCCc3csc(C(=O)O)c3)cc2c(=O)[nH]1」
べた．例えば，ある分子の SMILES 表現
が提案した tokenization 処理によって「N c 1 n c 2 [ n H ] c ( C C C cは Schwaller et al.（2018）になるが，Lin et al.（2020）
は「[*]」を一つ
3 c s c ( C ( = O ) O ) c 3 ) c c 2 c ( = O ) [ n H ] 1」の単語として扱うべきと考え，「N c 1 n c 2 [nH] c ( C C C c 3 c s c ( C ( = O ) O ) c 3 ) c c 2になる tokenization 処理を提案した．しかしながら，Schwaller et al.（2018）c ( = O ) [nH] 1」が提案した tokenization 処理に基づいて訓練された Transformer は予測精度が高く，生成された SMILES の中に無効なものが少ない．
3.3 ベイズ推論を利用した合成経路設計
逆方向の予測モデルから生成された候補反応物は，多くの場合，購入可能な化合物ではない．
したがって，購入可能な化合物に達するまで，前駆体分子への変換を繰り返す必要がある．例
えば，逆方向のモデルによって目的化合物が A と B に分解された場合，両方の反応物は一般的に購入不可能な化合物となる．その場合，さらに A と B 両方の合成経路を特定しなければならない．したがって，合成経路のパス数が大きくなる傾向にあるため，その結果，実験コストが高くなり，失敗の確率も高くなる．そこで我々は，反応物の一方または両方を購入可能なものに制限した上で合成経路を設計するためのベイズ推論の枠組みを構築した（Guo et al., 2020）．
合成経路設計のもう一つの難しさは，問題の不良設定性から生じる．不良設定問題になる理

90

統計数理

第 69 巻 第 1 号 2021

表 1．代表的な順方向の反応予測モデルと逆方向の逆合成解析モデルの性能比較．templatebased モデルは 2.1 節で紹介したルールベースの反応予測モデルの一例である．WLDN（Weisfeiler-Lehman Diﬀerence Network）と modiﬁed WLDN は 2.2 節で紹介したグ
ラフニューラルネットワークに基づく反応予測モデルである．Molecular Transformer
は 2.2 節で紹介した機械翻訳モデルを利用した予測モデルである．また similarity モ
デルは 3.1 節で紹介したルールベースの合成経路設計手法の一例である．SCROP（self-corrected retrosynthesis predictor）と Lin et al. 2020 は 3.2 節で紹介した機械（conditional graph logic network）は
翻訳ベースの合成経路予測モデルである．GLN
3.1 節で紹介したグラフニューラルネットワークをスコアリング関数に利用したルール
ベースの合成経路設計手法である．

由の一つは，反応の副生成物がしばしばデータセットに記録されていないことによる．例えば，反応 A + B → C + D において，主生成物 C のみがデータに記載されており，副生成物 Dを省略されていることが多い，すなわち，A + B → C だけがデータとして観測される．当然ながら，A と B には欠落構造である D が含まれているので，C のみから A と B を予測することは一般には不可能である．表 1 にこれまでに紹介した順方向の反応予測モデルと逆方向のモデ
ルの予測精度をまとめた．逆方向のモデルの予測精度（top 1）は 37% から 52% までの範囲にあり，順方向の予測に比べると精度は圧倒的に低い．前述のデータの欠損による不良設定問題が一因となっている．
一方，順方向の反応予測は，逆方向予測に比べるとかなり高い精度を達成している．Transformer の予測精度は 90.4% に達しており，これは逆方向予測の約 2 倍の精度となっている．逆方向の生成物から反応物へのマッピングは本質的に一対多である．すなわち，同じ生成物には複数の合成経路が存在するため，逆方向の予測精度が低下することは避けられない．したがって，逆方向の予測精度は順方向の予測精度より低くなることは当然である．一方，反応物が決
まれば，一つの生成物が決まる．ここで，反応における順方向と逆方向の予測は目的が異なる
ため，精度を単純に比較することには意味がないことに留意しなくてはならない．逆合成解析の目的は，目的化合物の多様な合成経路を提案することである．しかしながら，逆方向の予測精度が高いほど，提示される予測反応物はデータに記述されているものに偏り，結果として，候補経路の多様性が制限されてしまう．
ここでは例として，以下の 2 ステップの合成反応を考える．
(3.1)

S1 + S2 → X + S3 → Y

第 1 ステップでは，二つの反応物 S1 と S2 が中間生成物 X を合成する．これに反応物 S3 を

反応予測と合成経路設計の機械学習

91

あたえ，最終生成物 Y を合成する．合成経路設計の目的は，標的分子 Y に到達可能な反応物
S = (S1 , S2 , S3 ) の組を同定することである．
ベイズ推論に基づく合成経路設計は順方向の反応予測モデルの構築と逆方向の予測の二つの．順方向の反応予測モデルは，反応物の組み合わせ
ステップから構成される（Guo et al., 2020）
S からその生成物 Y への写像 Y = f (S) を定める．そのの逆写像 S = f −1 (Y ∗ ) を求めること
で，目的化合物 Y ∗ に到達する反応物の組み合わせ S を同定する．反応物は商用化合物のリス
トから選択される．通常，O(106 ) 個ほどの商用化合物を取り扱う．したがって，経路上の反応物の個数を p とすれば，問題は O(106×p ) の候補経路から構成される探索空間 T 上の組み合わせ最適化に帰着する．解空間の複雑度は，反応のステップ数に応じて指数関数的に増加する．
Guo et al.（2020）では，合成経路設計の問題をベイズ推論に帰着させるために，事後分布
p(S|Y = Y ∗ ) を以下のようにモデリングした．



(3.2)

p(S|Y = Y ∗ ) ∝ p(S, Y = Y ∗ ) =E(Y ∗ , f (S))
1
exp −
Z
T



.

ギブズ分布のエネルギー E は，標的生成物 Y ∗ のフィンガープリント記述子と順方向モデルの予測生成物の間の非類似度（ユークリッド距離など）を表す．温度パラメータ T は，候補反応物の多様性を制御するハイパーパラメータである．事後分布は，商用化合物の組み合わせの上に定義される．この確率分布は厳密に計算できないので，Guo et al.（2020）では，近似分布を導くために逐次型モンテカルロ計算のアルゴリズムを開発した．
論文では，USPTO のデータを用いて包括的な数値実験を実施し，既知の合成経路に対する予測性能や提案された経路の合成可能性を検証している．順方向のモデルの予測精度が約87% のとき，既知の反応物を 47.5% の精度で同定できることを報告している．また複数の反応経路が存在することを想定して設計された逐次モンテカルロ法を適用することで，目標化合物
に対する多様な反応経路を同定できる可能性を示している．1 ステップの反応経路の設計では，提案手法が一つの目標化合物に対して平均で約 500 個の候補経路を検出したことを報告している．さらに，有機合成の知見に基づき候補経路の合成可能性の評価を実施し，35-50% の候補
経路が化学的に妥当であると結論付けた．
4.

多段階の合成経路設計

合成経路設計では，一つの化合物に対して，複数の変換が適応可能で，変換が繰り返して適用されると，合成経路の探索木が構築される．多段階の合成経路設計では，合成経路の探索木を構築しながら，効率的に購入可能な化合物からなる合成経路を見つけなければならない．
Segler et al.（2018）
は深層ニューラルネットワークとモンテカルロ木探索（MCTS: Monte Carlo
を組み合わせた手法を提案した．最良優先探索などの木探索アルゴリズムでは，探tree search）
索木のノードの優先度を決めるためにあらかじめスコア関数を設計する必要がある．しかしながら，合成経路設計の問題においては，スコア関数の設計方法は自明ではない．例えば，一般により単純な前駆体分子がより良い選択とされるが，反応性の高い官能基を保護するために複雑な前駆体分子を経由する合成経路が望ましいこともある．この問題を回避するために，
Segler et al.（2018）
は MCTS と三種類のニューラルネットワークを組み合わせた合成経路設計
手法を提案した．探索木のノードは反応を実行する化合物の集合，エッジは反応に相当する．
ルートノードは目標化合物である．現在選択されているノードに含まれる化合物は，expansion
policy network というニューラルネットワークによって前駆体化合物に変換される．これを新たな子ノードとする．既存の反応データから学習された expansion policy network は，生成物を入力とし，その反応物を出力する逆向きの反応予測モデルである．また，expansion policy

92

統計数理

第 69 巻 第 1 号 2021

network が提案した反応の妥当性を判定するために，in-scope ﬁlter network というモデルが用いられ，反応が進行しないと予想されるノードは除外される．新たに付け加えられた子ノードに rollout policy network というモデルを適用し，ノードに含まれる購入不可能な化合物が前駆体分子に変換される．この変換を何度も繰り返し，生成される前駆体分子が購入可能な化合物のリストにヒットするか，あるいはあらかじめ設定された深度に達した段階で伸長を停止す
る．その結果に基づいて，追加された子ノードのスコアが計算される．MCTS の各ステップでは，スコアが最も高い子ノードが選択され，上記 3 つのニューラルネットワークを繰り返して適用し，探索木を構築していく．ニューラルネットワークの訓練には，Reaxys というデータベースに記録されている 1,240 万件の 1 ステップの反応データを用いている．論文で示された二重盲検法では，45 名の有機化学者に既存の反応経路と機械学習が予測した経路を選択させた
結果，両者の間に有意な差がみられなかった．
Mikulak-Klucznik et al.（2020）は，複雑な天然物の合成経路を設計するために，Chematicaというシステムを拡張し，エキスパートシステムと機械学習のハイブリッド型システムを開発した．純粋な機械学習のアプローチとは異なり，Chematica は 100,000 以上のハンドコーティ．天然物の合成経路を計画するには，立ングされた反応ルールを用いる（Szymkuć et al., 2016）
体化学的な制御が必要であるが，これは機械学習的なアプローチでは困難である．そこで，
Mikulak-Klucznik et al.（2020）
は，機械学習と量子化学計算を利用してハンドコーディングされたテンプレートの適用可能性を評価し，反応の位置選択性を検討した．反応空間の探索は
ビームサーチとスコア関数の組み合わせによって行われる．各探索深度においてスコアの最も良いノードが所定の数だけ保持し，探索が実行される．スコア関数によって，保持されるノードが異なるため，探索アルゴリズムの特性はスコア関数に大きく左右される．複数のスコア関数を利用したい場合，Mikulak-Klucznik et al.（2020）は複数のキューを用意し，各キューにス
コア関数を決め，ビームサーチを行った．例えば，一つのキューは幅優先で探索し，もう一つのキューは深さ優先で探索することで，一つ目のキューが発見した有望な合成経路の開始点を二つ目のキューで素早く完了させることができる．このアルゴリズムでは，計算時間のほとんどが探索ではなく，立体選択性の評価やスコア関数によるノード評価に費やされる．有機化学者を対象に実施されたチューリングテストでは，このハイブリッドシステムが設計した合成経
路は，人間が設計したものとほとんど見分けがつかなかった．また提案された三つの天然物の合成法が実験室で有効であることが実証された．
5.

反応予測モデルを利用した分子設計

反応予測の機械学習モデルは新規分子の設計にも利用されている．分子設計の目的は，所望の特性を有する化学構造を同定することである．Gottipati et al.（2020）は，強化学習を利用して合成経路と化学構造を同時に設計する手法を提案した．初期分子の候補集合を用意し，反応予測の機械学習モデルを適用して，一連の合成反応の生成物を計算する．さらに，別途用意したモデルを用いて最終生成物の物理化学的特性を評価する．問題は所望の特性を有する初期分子の同定である．このタスクを解くために，強化学習の actor-critic 法が用いられた（Suttonand Barto, 2018）．actor は各ステップの反応を決定するモデルである．モデルは二つのサブアクションを規定するニューラルネットワーク f と π から構成される．f はステップ t の生成物 Rt から最適な反応テンプレート Tt を予測する．π は Rt と Tt からアクション at を求め（Qる．critic であるニューラルネットワーク Q は，状態とアクションがもたらす将来の報酬値）を予測する．環境は現在の分子 Rt と予測されたテンプレート Tt ，アクション at を入力とし，報酬 rt と次の状態の生成物 Rt+1 を計算し，さらにエピソードの終了判定を行う．ここで

反応予測と合成経路設計の機械学習

93のアクションは，現在の分子と購入可能な分子の反応を予測することになる．事前に定義された購入可能な分子のリストから予測されたアクションに最も近い k 個の反応物を選択し，反応予測モデルを用いて k 個の生成物を予測する．各生成物の報酬は所望の特性との近さを表すスコア関数で計算される．最大報酬に対応する生成物が Rt+1 として出力する．反応ステッ
プ数が最大数に達したとき，あるいは有効なテンプレートがない時点で，エピソードは終了す
る．Gottipati et al.（2020），この強化学習のアプローチを利用し，分子設計のいくつかのベン
チマーク問題において最高性能に達することを示した．
Bradshaw et al.（2019）は深層生成モデルと反応予測モデルを組み合わせた分子設計の手法を提案した．ここでの生成モデルは反応物のペアを生成する．反応予測モデルは反応物か
ら生成物を予測することで新規分子を提案する．生成モデルには Wasserstein Auto-Encoder（Tolstikhin et al., 2018）が用いられる．Wasserstein Auto-Encoder は Variational Auto-Encoder（Kingma and Welling, 2014）と同様にエンコーダとデコーダから構成される．エンコーダは購入可能な反応物のペアを潜在空間にエンコードし，デコーダは潜在空間の特徴ベクトルから元の反応物のペアを復元する．モデルの訓練に使用される損失関数は次のように定義される．
(5.1)

L = Ex∼D Eq(z|x) [c(x, p(x|z))] + λD(Ex∼D [q(z|x)], p(z))

x, z はそれぞれ反応物の特徴ベクトルと潜在空間にエンコードされた特徴ベクトルを表す．
q(z|x) はエンコーダで，p(x|z) はデコーダである．コスト関数 c は復号された反応物のペアがエンコードされた反応物のペアと類似するように強制するためのもので，ダイバージェンス
D はデータのエンコーディングにおける潜在変数 z の周辺分布が潜在空間における事前分布
p(z) と一致するように強制するための項である．D はデータの経験分布で，λ は損失関数の第一項と第二項の相対的な重要度を決めるチューニングパラメータである．反応予測モデルにはMolecular Transformer が利用されている．さらに目標特性に達する分子を設計するために，潜在空間の表現を記述子とし，最終生成物の特性を予測するニューラルネットワークを構築す
る．潜在空間の勾配情報を利用して目標特性に到達する分子の潜在変数を求め，デコーダを用いて潜在変数から反応物に変換する．最後に，反応予測モデルを用いて反応物から生成物を予測する．
本節で述べた手法は，提案された合成経路の化学的な妥当性の検証が不足している．一般に反応予測モデルの訓練に用いられる反応データセットには反応性の高いデータのみが記載されており，進行しない反応のデータは存在しない．したがって，反応予測のモデルは，入力化合物の反応が進行するという条件のもとでの生成物を予測する．そのため，任意の入力化合物の組を与えたときに反応の有無を判定するもう一つのモデルが必要になる．しかしながら，反応に失敗した事例を包括的に収集したデータセットが存在しないため，現時点においてはモデルの構築は難しい．化学反応の広大な空間の中，ほとんどの反応物の組は反応しない．実験検証なしに，不完全なモデルから予測された合成経路の妥当性を評価することは難しい．機械学習の研究者と有機化学の研究者の連携は，この分野において真に実用的な手法を開発する上で必要不可欠である．
6.

反応条件の予測と自動合成実験

ここまでの議論では主に反応物と生成物のみを考えてきたが，合成反応の設計変数には触媒や溶媒の選択並びに温度・圧力などの反応条件が含まれる．Gao et al.（2018）は，生成物と反応物が与えられたもとで，触媒や溶媒などの反応条件の予測を行った．モデルは一般的な多クラスの分類問題にニューラルネットワークを適用したものである．モデルの入力は反応物と生

統計数理

94

第 69 巻 第 1 号 2021

成物のフィンガープリント記述子，出力は利用可能な触媒や溶媒の選択確率となっている．このような単純なモデルでランキングした Top 10 の反応条件の内，69.6% の精度で既知の反応条件が含まれる．また，Coley et al.（2019b）は，合成経路探索と反応条件予測の機械学習モデルを実装した自動合成実験のロボットを開発し，実験検証を行った．
7.

まとめ

合成反応の予測や合成経路の自動設計の問題は，有機化学の世界において 50 年以上も研究されてきた非常に歴史の長い研究テーマである．学術研究の創成期から脈々と受け継がれてきたルールベースの予測手法は，近年の機械学習の進歩と合流することで，従来の技術とは全く異なるレベルに進化しようとしている．特に機械学習に基づく反応予測と合成経路設計の研究は 2017 年頃を機に急速に活発化した．これらの研究は有機化学や計算化学の研究者が全く思
いもよらない着想で有機合成の問題にアプローチしている．本稿ではこの転換期に注目し，当該分野における機械学習の先進応用とその問題点を論じた．今後，モデルの予測結果の実験検証が行われ，化学の新しい発見がうまれると予想される．また，機械学習とロボットによるハイスループット実験の技術が合流していくことで，全自動合成システムが実用化されるに違いない．このような学術の潮流を見据えて，データセットの整備，特にモデルの訓練に必要な反
応条件，反応収量，また失敗データなどの包括的なデータセットを整備していくことが求められる．全自動合成システムが実現すれば，実験計画法などの統計手法と組み合わせることで，革新的な化学反応や新材料の発見が大いに期待される．

参

考

文

献

Bradshaw, J., Paige, B., Kusner, M. J., Segler, M. and Hernández-Lobato, J. M. (2019). A model
to search for synthesizable molecules, Advances in Neural Information Processing Systems, 32,
7937–7949, https://proceedings.neurips.cc/paper/2019/ﬁle/46d0671dd4117ea366031f87f3aa0093Paper.pdf.
Cao, N. D. and Kipf, T. (2018). MolGAN: An implicit generative model for small molecular graphs,
arXiv, http://arxiv.org/abs/1805.11973.
Coley, C. W., Rogers, L., Green, W. H. and Jensen, K. F. (2017a). Computer-assisted retrosynthesis
based on molecular similarity, ACS Central Science, 3(12), 1237–1245, DOI: http://dx.doi.org/
10.1021/acscentsci.7b00355.
Coley, C. W., Barzilay, R., Jaakkola, T. S., Green, W. H. and Jensen, K. F. (2017b). Prediction oforganic reaction outcomes using machine learning, ACS Central Science, 3(5), 434–443, DOI:
http://dx.doi.org/10.1021/acscentsci.7b00064.
Coley, C. W., Jin, W., Rogers, L., Jamison, T. F., Jaakkola, T. S., Green, W. H., Barzilay, R. andJensen, K. F. (2019a). A graph-convolutional neural network model for the prediction of chemical
reactivity, Chemical Science, 10(2), 370–377, DOI: http://dx.doi.org/10.1039/C8SC04228D.
Coley, C. W., Thomas, D. A., Lummiss, J. A. M., Jaworski, J. N., Breen, C. P., Schultz,
V., Hart, T., Fishman, J. S., Rogers, L., Gao, H., Hicklin, R. W., Plehiers, P. P.,
Byington, J., Piotti, J. S., Green, W. H., Hart, A. J., Jamison, T. F. and Jensen,
K. F. (2019b). A robotic platform for ﬂow synthesis of organic compounds informed by
AI planning, Science, 365(6453), p.eaax1566, http://science.sciencemag.org/content/365/6453/
eaax1566.abstract, DOI: http://dx.doi.org/10.1126/science.aax1566.
Corey, E. J. and Wipke, W. T. (1969). Computer-assisted design of complex organic syntheses,
Science, 166(3902), p.178, http://science.sciencemag.org/content/166/3902/178.abstract, DOI:
http://dx.doi.org/10.1126/science.166.3902.178.

反応予測と合成経路設計の機械学習

95

Dai, H., Li, C., Coley, C., Dai, B. and Song, L. (2019). Retrosynthesis prediction with conditional graph logic network, Advances in Neural Information Processing Systems, 32, 8872–8882,
https://proceedings.neurips.cc/paper/2019/ﬁle/0d2b2061826a5df3221116a5085a6052-Paper.pdf.
Gao, H., Struble, T. J., Coley, C. W., Wang, Y., Green, W. H. and Jensen, K. F. (2018). Using machine learning to predict suitable conditions for organic reactions, ACS Central Science, 4(11),1465–1476, DOI: http://dx.doi.org/10.1021/acscentsci.8b00357.
Gasteiger, J., Pförtner, M., Sitzmann, M., Höllering, R., Sacher, O., Kostka, T. and Karg, N. (2000).
Computer-assisted synthesis and reaction planning in combinatorial chemistry, Perspectives inDrug Discovery and Design, 20(1), 245–264, DOI: http://dx.doi.org/10.1023/A:1008745509593.
Gelernter, H. L., Sanders, A. F., Larsen, D. L., Agarwal, K. K., Boivie, R. H., Spritzer, G. A. andSearleman, J. E. (1977). Empirical explorations of SYNCHEM, Science, 197(4308), 1041–1049,
DOI: http://dx.doi.org/10.1126/science.197.4308.1041.
Gottipati, S. K., Sattarov, B., Niu, S., Pathak, Y., Wei, H., Liu, S., Liu, S., Blackburn, S., Thomas,
K., Coley, C., Tang, J., Chandar, S. and Bengio, Y. (2020). Learning to navigate the synthetically accessible chemical space using reinforcement learning, Proceedings of the 37th International
Conference on Machine Learning, Proceedings of Machine Learning Research, 119, 3668–3679,
http://proceedings.mlr.press/v119/gottipati20a.html.
Guo, Z., Wu, S., Ohno, M. and Yoshida, R. (2020). Bayesian algorithm for retrosynthesis, Journal of Chemical Information and Modeling, 60(10), 4474–4486, DOI: http://dx.doi.org/10.1021/
acs.jcim.0c00320.
Ikebata, H., Hongo, K., Isomura, T., Maezono, R. and Yoshida, R. (2017). Bayesian molecular design
with a chemical language model, Journal of Computer-Aided Molecular Design, 31(4), 379–391,
DOI: http://dx.doi.org/10.1007/s10822-016-0008-z.
Jin, W., Coley, C., Barzilay, R. and Jaakkola, T. (2017). Predicting organic reaction outcomes with
Weisfeiler-Lehman network, Advances in Neural Information Processing Systems, 30, 2607–2616,
https://proceedings.neurips.cc/paper/2017/ﬁle/ced556cd9f9c0c8315cfbe0744a3baf0-Paper.pdf.
Jin, W., Barzilay, R. and Jaakkola, T. (2018). Junction tree variational autoencoder for molecular graphgeneration, Proceedings of the 35th International Conference on Machine Learning, Proceedingsof Machine Learning Research, 80, 2323–2332, http://proceedings.mlr.press/v80/jin18a.html.
Kingma, D. P. and Welling, M. (2014). Auto-encoding variational Bayes, 2nd International Conference on Learning Representations, Conference Track Proceedings, Banﬀ, Alberta, Canada,
http://arxiv.org/abs/1312.6114.
Landrum, G. et al. (2006). RDKit: Open-source cheminformatics, https://www.rdkit.org.
Lin, K., Youjun, X., Pei, J. and Lai, L. (2020). Automatic retrosynthetic route planning using templatefree models, Chemical Science, 11, 3355–3364, DOI: http://dx.doi.org/10.1039/C9SC03666K.
Liu, B., Ramsundar, B., Kawthekar, P., Shi, J., Gomes, J., Luu Nguyen, Q., Ho, S., Sloane, J.,
Wender, P. and Pande, V. (2017). Retrosynthetic reaction prediction using neural sequenceto-sequence models, ACS Central Science, 3(10), 1103–1113, DOI: http://dx.doi.org/10.1021/
acscentsci.7b00303.
Lowe, D. M. (2012). Extraction of chemical structures and reactions from the literature, PhD Thesis,
University of Cambridge, DOI: http://dx.doi.org/10.17863/CAM.16293.
Mikulak-Klucznik, B., Gołębiowska, P., Bayly, A. A., Popik, O., Klucznik, T., Szymkuć, S., Gajewska,
E. P., Dittwald, P., Staszewska-Krajewska, O., Beker, W., Badowski, T., Scheidt, K. A., Molga,
K., Mlynarski, J., Mrksich, M. and Grzybowski, B. A. (2020). Computational planning of the synthesis of complex natural products, Nature, 588(7836), 83–88, DOI: http://dx.doi.org/10.1038/
s41586-020-2855-y.
Pavlov, D., Rybalkin, M., Karulin, B., Kozhevnikov, M., Savelyev, A. and Churinov, A. (2011). Indigo:
Universal cheminformatics API, Journal of Cheminformatics, 3(1), p.P4, DOI: http://dx.doi.org/
10.1186/1758-2946-3-S1-P4.

96

統計数理

第 69 巻 第 1 号 2021

Pensak, D. A. and Corey, E. J. (1977). LHASA — Logic and heuristics applied to synthetic analysis, Computer-Assisted Organic Synthesis, 1–32, American Chemical Society, Washington, D. C.,
DOI: http://dx.doi.org/10.1021/bk-1977-0061.ch001.
Rogers, D. and Hahn, M. (2010). Extended-connectivity ﬁngerprints, Journal of Chemical Informationand Modeling, 50(5), 742–754, DOI: http://dx.doi.org/10.1021/ci100050t.
Schwaller, P., Gaudin, T., Lányi, D., Bekas, C. and Laino, T. (2018). “Found in Translation”: Predicting outcomes of complex organic chemistry reactions using neural sequence-to-sequence models,Chemical Science, 9(28), 6091–6098, DOI: http://dx.doi.org/10.1039/C8SC02339E.
Schwaller, P., Laino, T., Gaudin, T., Bolgar, P., Hunter, C. A., Bekas, C. and Lee, A. A. (2019).
Molecular Transformer: A model for uncertainty-calibrated chemical reaction prediction, ACS
Central Science, 5(9), 1572–1583, DOI: http://dx.doi.org/10.1021/acscentsci.9b00576.
Segler, M. H. S. and Waller, M. P. (2017). Neural-symbolic machine learning for retrosynthesis and reaction prediction, Chemistry — A European Journal, 23(25), 5966–5971, DOI: http://dx.doi.org/
10.1002/chem.201605499.
Segler, M. H. S., Preuss, M. and Waller, M. P. (2018). Planning chemical syntheses with deep neural networks and symbolic AI, Nature, 555(7698), 604–610, DOI: http://dx.doi.org/10.1038/
nature25978.
Sutskever, I., Vinyals, O. and Le, Q. V. (2014). Sequence to sequence learning withneural networks, Advances in Neural Information Processing Systems, 27, 3104–3112,
https://proceedings.neurips.cc/paper/2014/ﬁle/a14ac55a4f27472c5d894ec1c3c743d2-Paper.pdf.
Sutton, R. S. and Barto, A. G. (2018). Reinforcement Learning: An Introduction, MIT Press, Cambridge, Massachusetts.
Szymkuć, S., Gajewska, E. P., Klucznik, T., Molga, K., Dittwald, P., Startek, M., Bajczyk, M. and
Grzybowski, B. A. (2016). Computer-assisted synthetic planning: The end of the beginning,
Angewandte Chemie International Edition, 55(20), 5904–5937, DOI: http://dx.doi.org/10.1002/
anie.201506101.
Tanimoto, T. T. (1958). An Elementary Mathematical Theory of Classification and Prediction, International Business Machines Corporation, New York, New York.
Tolstikhin, I. O., Bousquet, O., Gelly, S. and Schölkopf, B. (2018). Wasserstein auto-encoders, 6th International Conference on Learning Representations, Conference Track Proceedings, Vancouver,
British Columbia, Canada, https://openreview.net/forum?id=HkL7n1-0b.
Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., Kaiser, Ł. and Polosukhin,
I. (2017). Attention is all you need, Advances in Neural Information Processing Systems, 30,
5998–6008, https://proceedings.neurips.cc/paper/2017/ﬁle/3f5ee243547dee91fbd053c1c4a845aaPaper.pdf.
Weininger, D. (1988). SMILES, a chemical language and information system. 1. Introduction to methodology and encoding rules, Journal of Chemical Information and Modeling, 28(1), p.31, DOI:
http://dx.doi.org/10.1021/ci00057a005.
You, J., Liu, B., Ying, Z., Pande, V. and Leskovec, J. (2018). Graph convolutional policy network for goal-directed molecular graph generation, Advances in Neural Information Processing Systems, 31, 6410–6421, https://proceedings.neurips.cc/paper/2018/ﬁle/d60678e8f2ba9c540798ebbde31177e8-Paper.pdf.
Zheng, S., Rao, J., Zhang, Z., Xu, J. and Yang, Y. (2020). Predicting retrosynthetic reactions using self-corrected Transformer neural networks, Journal of Chemical Information and Modeling,60(1), 47–55, DOI: http://dx.doi.org/10.1021/acs.jcim.9b00949.

Proceedings of the Institute of Statistical Mathematics Vol. 69, No. 1, 83–97 (2021)

97

Machine Learning in Reaction Prediction and Synthetic Route Design
Zhongliang Guo
The Institute of Statistical Mathematics

In organic chemistry, predicting the products from the reactants is called reaction
prediction, while the design of synthetic routes in the opposite direction from the ﬁnal
products, which are the target molecule, is called synthetic route design. Reaction prediction and synthetic route design have been studied for more than 50 years. In recent
years, advances in machine learning have signiﬁcantly improved the accuracy of predicting chemical reactions. In this paper, we review the applications of machine learning inchemical reactions published since 2017. In particular, because the prediction of chemical
reactions in the forward and reverse directions is diﬀerent in mathematical formulation,
we consider the diﬀerences in the application of machine learning methods. We also introduce a method for designing synthetic routes based on Bayesian inference presented byour group.

Key words: Reaction prediction, synthetic route design, machine learning, Bayesian inference.