AlphaFold

AlphaFold（アルファフォールド）は、タンパク質の構造予測を実行するGoogleのDeepMindによって開発された人工知能プログラムである。このプログラムは、タンパク質の折り畳み構造を原子の幅に合わせて予測する深層学習システムとして設計されている。

AIソフトウェア「AlphaFold」は、2つの主要バージョンで注目されている。研究者チームはAlphaFold 1 (2018年) を使用して、2018年12月に開催された「第13回 タンパク質構造予測精密評価 (CASP)」の総合ランキングで1位を獲得した。このプログラムは、部分的に類似した配列を持つタンパク質から既存のが利用できない、競技会主催者によって最も難しいと評価されたターゲットの最も正確な構造を予測することに特に成功した。チームは、AlphaFold 2 (2020年) を使用して、2020年11月のCASPコンテストに参加した。チームは、他のどのグループよりもはるかに高い精度を達成した。このプログラムは、CASPのグローバル距離テスト (GDT) において、約3分の2のタンパク質について90以上のスコアを獲得した。これは計算プログラムが予測した構造がラボ実験で決定された構造と類似している度合いを測定するテストで、GDTの計算に使用される距離のカットオフの範囲内で100が完全な一致であるRobert F. Service, ‘The game has changed.’ AI triumphs at solving protein structures, Science, 30 November 2020。

CASPでのAlphaFold 2の結果は「驚異的」でありMohammed AlQuraishi, CASP14 scores just came out and they’re astounding, twitter, 30 November 2020.、変革的なものであると評された。一部の研究者は、AlphaFoldチームが独立した検証と再実装のためにこの手法を公開していないことを批判し、その成功の理由を理解する必要があると指摘しているStephen Curry, No, DeepMind has not solved protein folding, Reciprocal Space (blog), 2 December 2020。それにもかかわらず、この技術的な成果は広く敬意が払われてきた。

、DeepMindのCEOデミス・ハサビスは、AlphaFold 2を説明するために、完全な手法を説明した論文が書き上げられ、公開前のピア・レビューが行われていると発表した。論文にはオープンソースのコードが付属し、「科学コミュニティのためのAlphaFoldへの幅広いフリーアクセス」ができるようになる予定であるDemis Hassabis, "Brief update on some exciting progress on #AlphaFold!" (tweet), via twitter, 18 June 2021。

AlphaFold開発チームのデミス・ハサビス（Demis Hassabis）とジョン・ジャンパー（John Jumper）は、「タンパク質の構造予測」の業績により2024年のノーベル化学賞を受賞した。これに先立って2023年に、2名は生命科学ブレイクスルー賞およびアルバート・ラスカー基礎医学研究賞を受賞していた。

 タンパク質の折りたたみ問題 

代替文=three individual polypeptide chains at different levels of folding and a cluster of chains|サムネイル|355x355ピクセル|ポリペプチドと呼ばれるアミノ酸群は、折りたたまれまれてタンパク質を形成する。
タンパク質はアミノ酸の鎖で構成されており、タンパク質の折り畳みと呼ばれる過程で自発的に折り畳まれ、生物学的に重要な天然状態の三次元構造を形成している。DNA配列には、これらのアミノ酸の配列に関する基本的な情報が含まれているが、タンパク質の折り畳みや構造に関する情報は、DNA配列から直接予測することのできない物理的なプロセスによって決定される。科学者たちは、タンパク質が折り畳まれる標的構造を決定するために、X線結晶構造解析、低温電子顕微鏡、核磁気共鳴などの実験技術に注目しているが、これらの技術は高価で時間がかかる。生命体全体では2億以上のタンパク質が知られているが、このような努力により、過去60年間で約17万個のタンパク質の構造が同定された。タンパク質の構造を予測するための計算手法は数多く存在するが、その精度は実験手法には及ばず、その価値は限られている。

 アルゴリズム 
AlphaFoldの2020年度版についての論文は2021年7月15日にNature誌から発表された。そのアルゴリズムはSupplementary Fileに非常に詳細に記述されている。さらに、その構造推論部分のPythonでの実装コードが同時にGitHubにて公開された。DeepMindは、タンパク質の配列と構造の公開リポジトリから17万以上のタンパク質を対象にプログラムを訓練したことで知られている。このプログラムでは、の一形態を利用しており、AIアルゴリズムに大きな問題の一部を解かせ、それを部品にして全体的な解決策を得ることに焦点を当てた深層学習手法である。全体的なトレーニングは、100～200 GPUの処理能力で行われた。このハードウェア上でシステムを訓練するのには「数週間」かかり、その後、プログラムが構造ごとに収束するまでには「数日」かかるという。

 AlphaFold 1, 2018 
AlphaFold 1 (2018) は、2010年代に様々なチームによって開発された研究を基にしたもので、現在利用可能な多くの異なる生物からの関連するDNA配列の大規模なバンク (ほとんどが3次元構造が知られていないもの) を調べ、残基が主鎖の中で連続していなくても、相関関係があると思われる異なる残基の変化を見つけようとした。このような相関関係は、配列上では近接していなくても、残基が物理的に互いに近接している可能性があることを示唆しており、を推定することができる。AlphaFold 1は、最近の研究を基に、これを拡張して、推論を開発するために以前よりも高度な学習方法を使用して、残基が接触マップを距離マップにどれだけ近づける可能性があるかについての確率分布を推定した。この確率分布に基づくポテンシャル(電位)と、計算による配置の局所的自由エネルギーを組み合わせることで、チームは勾配降下法を使用して両方に最適な解を導き出すことができたMohammed AlQuraishi (May 2019), AlphaFold at CASP13, Bioinformatics, 35(22), 4862–4865 . See also Mohammed AlQuraishi (December 9, 2018), AlphaFold @ CASP13: “What just happened?” (blog post).Mohammed AlQuraishi (15 January 2020), A watershed moment for protein structure prediction, Nature 577, 627-628 AlphaFold: Machine learning for protein structure prediction, Foldit, 31 January 2020。

より技術的には、Torrisiらは、AlphaFoldバージョン1のアプローチを次のように要約したTorrisi, Mirko et al. (22 Jan. 2020), Deep learning methods in protein structure prediction. Computational and Structural Biotechnology Journal vol. 18 1301-1310.  (CC-BY-4.0)。
AlphaFoldの中心となるのは、2つの64アミノ酸フラグメントから計算された入力特徴に対応する次元64×64×128の表現を処理する220個の残差ブロック（）を持つ非常に深いとして実装された距離マップ予測器である。各残差ブロックは、3×3の拡張畳み込み層を含む3つの層を持ち、ブロックは値1、2、4、8の拡張を繰り返す。モデルは合計で2100万個のパラメータを持っている。ネットワークは、異なるソースからのや共進化特徴（）を含む、1次元と2次元の入力を組み合わせて使用する。距離の非常にきめ細いヒストグラム形式の距離マップとともに、AlphaFoldは、初期の予測3D構造を作成するために使用される各残基のΦとΨ角を予測する。AlphaFoldの著者は、モデルの深さ、その大きなクロップサイズ、約29,000個のタンパク質からなる大規模なトレーニングセット、最新の深層学習技術、そして予測された距離ヒストグラムから得られる情報の豊富さが、AlphaFoldが高い接触マップ予測精度を達成するのに役立っていると結論付けている。

 AlphaFold 2, 2020 

DeepMindのチームによると、2020年度版（AlphaFold 2, 2020）は、2018年にCASP 13を受賞したオリジナルバージョン（AlphaFold 1）とは大きく異なるというJeremy Kahn, Lessons from DeepMind’s breakthrough in protein-folding A.I., Fortune, 1 December 2020。

チームは、パターン認識から導き出されたガイドポテンシャルと物理学に基づくエネルギーポテンシャルを組み合わせた以前のアプローチでは、主鎖に沿って離れた残基間の相互作用と比較して、配列内で近くにある残基間の相互作用を過剰に考慮する傾向があることを確認していた。その結果、AlphaFold 1では、現実のものよりもわずかに二次構造（αヘリックスとβシート）が多いモデルを好む傾向があった（過学習の一形態）John Jumper et al (December 2020)。 

AlphaFold 1で使用されたソフトウェア設計には、それぞれが別々に訓練された多数のモジュールが含まれ、それらはガイドポテンシャルを生成するために使用され、次に、物理学に基づいたエネルギーポテンシャルと結合されていた。AlphaFold 2では、これをパターン認識に完全に基づいた単一の微分可能なエンドツーエンドモデルに結合されたサブネットワークのシステムに置き換え、単一の統合構造として統合された方法で学習されたJeremy Kahn, Lessons from DeepMind’s breakthrough in protein-folding A.I., Fortune, 1 December 2020See block diagram.  Also John Jumper et al. (1 December 2020), AlphaFold2 presentation, slide 10。AMBERモデルに基づくエネルギー精密化の形での局所的物理は、ニューラルネットワークの予測が収束した後、最終的な精密化段階としてのみ適用され、予測された構造をわずかに調整するだけであるJohn Jumper et al (December 2020)。 

2020システムの重要な部分は2つのモジュールであり、トランスフォーマー設計に基づいていると考えられている。これらのモジュールは、タンパク質のアミノ酸残基間の各関係（グラフ理論用語では「エッジ」） 、および入力配列アラインメントの各アミノ酸位置と各異なる配列との間の各関係について、情報のベクトルを段階的に洗練させるために使用されるSee block diagram.  Also John Jumper et al. (1 December 2020), AlphaFold2 presentation, slide 10。内部的には、これらの詳細化変換（）には、訓練データから学習したコンテキスト依存の方法で、関連するデータをまとめて、これらの関係に関連しないデータを除外する効果を持つ層を含んでいる (「注意メカニズム」)See block diagram.  Also John Jumper et al. (1 December 2020), AlphaFold2 presentation, slide 10。これらの変換が反復され，ある段階で出力された更新情報が次の段階の入力となり，詳細化された残基/残基情報が残基/系列情報の更新に投入され，次に改善された残基/系列情報が残基/残基情報の更新に投入される。ある報告によると、反復が進むにつれて「注意アルゴリズムは、（人がジグソーパズルを組み立てる方法を模倣し）最初に小さな塊（この場合はアミノ酸のクラスター）でピースをつなぎ、その後、より大きな全体の塊に結合する方法を探す」。

これらの反復の出力は、次に最終的な構造予測モジュールに通知されSee block diagram.  Also John Jumper et al. (1 December 2020), AlphaFold2 presentation, slide 10、このモジュールはトランスフォーマを使用しThe structure module is stated to use a "3-d equivariant transformer architecture" (John Jumper et al. (1 December 2020), AlphaFold2 presentation, slide 12).

One design for a transformer network with SE(3)-equivariance was proposed in Fabian Fuchs et al SE(3)-Transformers: 3D Roto-Translation Equivariant Attention Networks, NeurIPS 2020; also website.  It is not known how similar this may or may not be to what was used in AlphaFold.

See also the blog post by AlQuaraishi on this.、それ自体が反復される。DeepMindが提示した例では、構造予測モジュールは、最初の反復でターゲットタンパク質の正しいトポロジーを達成し、GDT-TSは78であるとスコア付けされたが、立体化学的な違反（物理的でない結合角や長さなど）が多数（90%）あった。その後の反復で、立体化学的な違反の数は減少した。3回目の反復で予測のGDT-TSは90に近づき、8回目の反復までに立体化学的な違反の数はゼロに近づいたJohn Jumper et al. (1 December 2020), AlphaFold2 presentation, slides 12 to 20。 

2020年11月、AlphaFoldチームは、AlphaFoldは精度をさらに向上させる余地があり、さらなる開発が可能という考えを述べた。

 コンテスト 

 CASP13 
2018年12月、DeepMindのAlphaFoldは、第13回「タンパク質構造予測精密評価 (CASP)」の総合ランキングで1位を獲得したGroup performance based on combined z-scores, CASP 13, December 2018. (AlphaFold = Team 043: A7D)。

このプログラムは特に、部分的に類似した配列を持つタンパク質から既存のテンプレート構造が利用できない、競技会主催者から最も難しいと評価されたターゲットに対して、最も正確な構造を予測することに成功した。AlphaFoldは、このクラスの43のタンパク質ターゲットのうち25のターゲットに対して最高の予測を行い、CASPのグローバル距離テスト(GDT)スコアの中央値58.9を達成した。これは、接触距離を推定するための深層学習を同じく使用している2つの次善チームによる52.5と52.4を上回っているSee CASP 13 data tables for 043 A7D, 322 Zhang, and 089 MULTICOMWei Zheng et al,Deep-learning contact-map guided protein structure prediction in CASP13, Proteins: Structure, Function, and Bioinformatics, 87(12) 1149-1164 ; and slidesJie Hou et al (2019), Protein tertiary structure modeling driven by deep learning and contact distance prediction in CASP13, Proteins: Structure, Function, and Bioinformatics, 87(12) 1165-1178 。全体的には、すべてのターゲットでGDTスコア68.5を達成した。

2020年1月、AlphaFold 1の実装や図解コードがGitHubでオープンソースとして公開された。

 CASP14 
2020年11月、改良版のAlphaFold 2がCASP14で優勝した。全体的に、AlphaFold 2は97のターゲットのうち88のターゲットに対して最高の予測を行ったMohammed AlQuraishi, CASP14 scores just came out and they’re astounding, twitter, 30 November 2020.。

コンテスト推奨のグローバル距離テスト(GDT)で、このプログラムの精度は、中央値92.4 (100点満点中) を達成した。これは、予測の半数以上で、原子がだいたい正しい位置にあることで92.4%以上のスコアを得たことを意味しFor the GDT-TS measure used, each atom in the prediction scores a quarter of a point if it is within  of the experimental position; half a point if it is within 4 Å, three-quarters of a point if it is within 2 Å, and a whole point if it is within 1 Å.To achieve a GDT-TS score of 92.5, mathematically at least 70% of the structure must be accurate to within 1 Å, and at least 85% must be accurate to within 2 Å.、X線結晶構造解析のような実験技術に匹敵する精度であると報告されている。2018年のAlphaFold 1では、すべての予測のうち2つでしかこのレベルの精度に達していなかったMohammed AlQuraishi, CASP14 scores just came out and they’re astounding, twitter, 30 November 2020.。2020年のコンペティションでは、予測の88%が80以上のGDT-TSスコアを獲得した。最も難しいと分類されたターゲットのグループで、AlphaFold 2はスコア中央値87を達成した。

タンパク質主鎖におけるα炭素原子の配置の(RMS-D) で測定したところ、最悪優先外れ値（）の性能に支配される傾向があり、AlphaFold 2の予測の88%で、重なり合ったα炭素原子のセットのRMS偏差は4Å未満であったMohammed AlQuraishi, CASP14 scores just came out and they’re astounding, twitter, 30 November 2020.。予測の76%は3Åよりも優れており、46%は2Å以上のα炭素原子のRMS精度を示しMohammed AlQuraishi, CASP14 scores just came out and they’re astounding, twitter, 30 November 2020.、重なり合ったα炭素原子のセットのRMS偏差の中央値は2.1ÅであったMohammed AlQuraishi, CASP14 scores just came out and they’re astounding, twitter, 30 November 2020.。AlphaFold 2は、表面側鎖のモデリングにおいても「本当に、本当に並外れた」と評される精度を達成したJohn Moult (30 November 2020), CASP 14 introductory presentation, slide 19. See also CASP 14 video stream day 1 part 1, from 00:22:46。

AlphaFold 2をさらに検証するために、会議の主催者は、特に困難な構造であると判断し、決定できなかった構造について4つの主要な実験グループにアプローチしたAndriy Kryshtafovych (30 November 2020), Experimentalists: Are models useful? CASP 14 presentation. See also CASP 14 video stream day 1 part 1, from 0:34:30。4つのケースすべてで、AlphaFold 2によって生成された3次元モデルはこれらのタンパク質の構造を分子置換によって決定するのに十分正確であった。その中には、10年前から実験者が研究を続けてきた小さな膜タンパク質が含まれていた。

AlphaFold 2が予測に最も成功しなかった3つの構造のうち、2つは水溶液中で直接タンパク質の構造を定義する法で得られたものであるのに対し、AlphaFoldは主に結晶中のタンパク質の構造に基づいて訓練されていた。3つ目は、同じドメインの52個の同一コピーで構成されるマルチドメイン複合体として自然界に存在しているものだが、AlphaFoldはこのような状況を考慮するようにプログラムされていなかった。1つの非常に大きなタンパク質とNMRによって決定された2つの構造のみを除く、単一ドメインのすべてのターゲットで、AlphaFold 2は80以上のGDT-TSスコアを達成したLisa Kinch et al, CASP14 Tertiary Structure Prediction Assessment:Topology (FM) Category (CASP 14 presentation), slide 11. See also CASP 14 video stream day 1 part 3, from 0:18:25。

 反響 
AlphaFold 2がCASPのグローバル距離テスト (GDT) で90点以上を獲得したことは、計算生物学における重要な成果であり、数十年前からの生物学の壮大な挑戦に向けた大きな進歩と考えられている。ノーベル賞受賞者で構造生物学者のヴェンカトラマン・ラマクリシュナンは、この結果を「タンパク質の折り畳み問題における驚異的な進歩」と呼んだ。新たなタンパク質の形状や構造を予測するための計算科学的努力を向上させるために、1994年にこのコンテストを始めた計算生物学者のジョン・ムルト (John Moult) は、「これは大したものだ。ある意味で問題が解決した。」と語った。

CASPとDeepMindのプレスリリースに後押しされArtificial intelligence solution to a 50-year-old science challenge could ‘revolutionise’ medical research (press release), CASP organising committee, 30 November 2020、AlphaFold 2の成功はメディアの注目を集めたBrigitte Nerlich, Protein folding and science communication: Between hype and humility, University of Nottingham blog, 4 December 2020。Nature、Science、MIT Technology Review、New ScientistMichael Le Page, DeepMind's AI biologist can decipher secrets of the machinery of life, New Scientist, 30 November 2020The predictions of DeepMind’s latest AI could revolutionise medicine, New Scientist, 2 December 2020などの科学専門紙のニュース記事だけでなく、FortuneJeremy Kahn, In a major scientific breakthrough, A.I. predicts the exact shape of proteins, Fortune, 30 November 2020Jeremy Kahn, Lessons from DeepMind's breakthrough in protein-folding A.I., Fortune, 1 December 2020、The Economist、Bloomberg、Der SpiegelJulia Merlot, Forscher hoffen auf Durchbruch für die Medikamentenforschung (Researchers hope for a breakthrough for drug research), Der Spiegel, 2 December 2020、The SpectatorBissan Al-Lazikani, The solving of a biological mystery, The Spectator, 1 December 2020などの一般的なニュースサービスや週刊誌のほか、主要な全国紙でも広く取り上げられたCade Metz, London A.I. Lab Claims Breakthrough That Could Accelerate Drug Discovery, New York Times, 30 November 2020Ian Sample,DeepMind AI cracks 50-year-old problem of protein folding, The Guardian, 30 November 2020Lizzie Roberts, 'Once in a generation advance' as Google AI researchers crack 50-year-old biological challenge. Daily Telegraph, 30 November 2020Nuño Dominguez, La inteligencia artificial arrasa en uno de los problemas más importantes de la biología (Artificial intelligence takes out one of the most important problems in biology), El País, 2 December 2020。ロンドンのTimes紙では、この記事を一面トップの写真付きで掲載し、さらに2ページの内部報道と社説を掲載したTom Whipple, "Deepmind computer solves new puzzle: life", The Times, 1 December 2020. front page image, via Twitter.Tom Whipple, Deepmind finds biology’s ‘holy grail’ with answer to protein problem, The Times (online), 30 November 2020.

In all science editor Tom Whipple wrote six articles on the subject for The Times on the day the news broke. (thread).。頻繁に取り上げられていたテーマは、構成アミノ酸配列に基づいてタンパク質の構造を正確に予測する能力は、高度な創薬の加速や病気の理解の向上など、ライフサイエンスの分野で様々なメリットが期待されているというものであるTim Hubbard, The secret of life, part 2: the solution of the protein folding problem., medium.com, 30 November 2020。このイベントについての記事を書いたMIT Technology Reviewは、「AIは50年前の生物学の壮大な課題を解決した」と述べている。同じ記事では、AIアルゴリズムは「原子の幅の範囲内でタンパク質の形状を予測できる」と記している。

 応用 

 SARS-CoV-2 
AlphaFoldを用いて、COVID-19の原因物質であるSARS-CoV-2のタンパク質の構造を予測した。2020年初頭、これらのタンパク質の構造の実験的な検出が待たれていた。結果は、より大きな研究コミュニティに公開される前に、イギリスのの科学者によって検討された。チームはまた、国際的なオープンアクセスデータベースである蛋白質構造データバンク (PDB)で共有されている実験的に決定されたSARS-CoV-2スパイクタンパク質に対する正確な予測を確認した後、計算によって決定された未研究のタンパク質分子の構造を公開した。研究チームは、これらのタンパク質の構造は、現在進行中の治療研究の対象にはならないかもしれないが、SARS-CoV-2ウイルスに対するコミュニティの理解を深めるものであることを認めている。具体的には、AlphaFold 2が予測したOrf3aタンパク質の構造は、カリフォルニア大学バークレー校の研究者が低温電子顕微鏡を用いて決定した構造と非常によく似ていた。この特定のタンパク質は、ウイルスが複製すると、ウイルスが宿主細胞から脱走するのを助けると考えられている。このタンパク質はまた、感染に対する炎症反応を引き起こす役割を果たしていると考えられている。

 研究発表 

 AlphaFold研究 
 Andrew W. Senior et al (December 2019), "Protein structure prediction using multiple deep neural networks in the 13th Critical Assessment of Protein Structure Prediction (CASP13)", Proteins: Structure, Function, Bioinformatics 87(12) 1141-1148 
 Andrew W. Senior et al (15 January 2020), "Improved protein structure prediction using potentials from deep learning", Nature 577 706–710 
 John Jumper et al (December 2020), "High Accuracy Protein Structure Prediction Using Deep Learning", in Fourteenth Critical Assessment of Techniques for Protein Structure Prediction (Abstract Book), pp. 22–24
 John Jumper et al. (December 2020), "AlphaFold2". Presentation given at CASP 14.

 派生研究 


 出典 

 推薦文献 
 Carlos Outeiral, CASP14: what Google DeepMind’s AlphaFold 2 really achieved, and what it means for protein folding, biology and bioinformatics, Oxford Protein Informatics Group. (3 December)
 Mohammed AlQuraishi, AlphaFold2 @ CASP14: "It feels like one’s child has left home." (blog), 8 December 2020

 外部リンク 
 AlphaFold 1 





 AlphaFold 2 
 CASP 14 website
 AlphaFold: The making of a scientific breakthrough, DeepMind, via YouTube.
 Yannic Kilcher, AlphaFold 2 explained, 1 December 2020, via YouTube.  Walk-through of AlphaFold 1, with some thoughts (from 43:50) about how AlphaFold 2 differs from it

Category:フォールディング
Category:ソフトウェア
Category:応用機械学習
Category:人工知能アプリケーション
Category:2020年のソフトウェア