生殖補助医療におけるXAIの活用（画像分類編）

STAIRLabアルバイトのTds_STと申します。
今回は生殖補助医療分野においてXAIを使用している論文の紹介をいたします。

# 生殖補助医療について
生殖補助医療とは、「妊娠を成立させるためにヒト卵子と精子、あるいは胚を取り扱うことを含むすべての治療あるいは方法」([日本産婦人科学会ＨＰ](https://www.jaog.or.jp/lecture/11-%E7%94%9F%E6%AE%96%E8%A3%9C%E5%8A%A9%E5%8C%BB%E7%99%82%EF%BC%88art%EF%BC%89/))のことです。体外受精や胚の培養、胚の移植などを行います。

# 生殖補助医療におけるAI
生殖補助医療の成功率を上げるには、**正常な卵子や精子、胚の選別が重要**です。
<img width="500" alt="spermoocyte.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3525069/2c043f33-cb5b-4ad6-927d-305b175235f9.png">
<img width="500" alt="embryo.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3525069/a0196f32-6903-b719-0438-cb4e7a29dc88.png">




現在その選別は主に人の手で行われていますが、その精度には限界があり精度向上のためAIが導入されてきております。

# 論文１: ヒト胚細胞分裂ステージ解析のための説明可能AI
## 背景
現在胚の質の評価には形態学的評価が用いられています。一方で、細胞の分裂のタイミングが胚の着床率と妊娠率を予測する可能性があり、細胞分裂が速すぎたり遅れたりした胚は、代謝異常や染色体異常を起こしやすいことが示されています。そして、細胞分裂のタイミングは手作業で識別されています。これにより、識別は主観的なものとなってしまいます。そこでこの論文では深層学習(DL)アプローチにより、ヒト胚細胞の分裂ステージのモニタリングと分類を行い、XAI技術によって判断根拠を可視化しています。
 
<img width="500" alt="Screenshot1.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3525069/70ec8391-4490-1995-d832-a728464428df.png">

上の図のように胚はそれぞれの分裂ステージごとに名前が付けられています。

## 方法
各成長ステージの胚の画像をタイムラプスにより取得し、ResNet34とVGG16でその画像の胚のステージの予測を行い、その予測根拠を正分類に対してはGrad-CAMとLIME、誤分類に対してはSHAPで視覚化しています。
(XAI技術の説明についてはGrad-CAMは[こちら](https://speakerdeck.com/yuyay/jsai2023-tiyutoriaru-jie-shi-ke-neng-naji-jie-xue-xi-shuo-ming-haren-notameka)、LIMEとSHAPは[こちら](https://speakerdeck.com/yuyay/deim2022tiyutoriaru-shuo-ming-ke-neng-naji-jie-xue-xi-ru-men-feature-attributionfa)を御覧ください)

## 結果
成長ステージ分類におけるaccuracyはResNet34で75.7%、VGG16で73.8%となっています。Grad-CAMやLIMEを使用した予測根拠の視覚化では胚の領域に重みがおかれており、胚の成長ステージに関連する画像特性の識別に有用であることがわかりました。また、誤分類に対してはVGG16においてSHAPによる視覚化が誤分類を引き起こす領域の特定に有用であることが明らかとなりました。
以下の表が具体的な精度の結果となります。

<img width="500" alt="Screenshot2.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3525069/beb2ed36-d444-32f0-6368-a3faa48f1314.png">

<img width="500" alt="Screenshot3.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3525069/c2f83f9d-89d3-55b7-8f9b-edf065470b60.png">

上の図からモデルによる差はありますが、胚の領域を捕捉できていることがわかります。

<img width="500" alt="Screenshot4.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3525069/fbee4b4a-61ca-d130-57b1-a60d0a341d05.png">

# 論文２: ヒト精子画像の自動評価のための新規深層学習手法
## 背景
不妊症カップルの約30～40％は、男性因子の異常によるものです。そして、男性因子不妊の問題の1つは精子の形態異常です。精子の目視評価は一般的には手作業で行われ、胚培養士の判断に基づいています。この方法は不正確で、主観的で、再現性が低いことが知られています。そこでこの論文では精子の形態学的特徴を自動抽出するための新しい深層学習アルゴリズムが提案されています。
 
## 方法
静止画像からコンボリューション24層、プーリング3層、全結合2層からなるニューラルネットワークにより精子の各部位(Acrosome:先体、Head:頭部、Vacuoles:液胞)に対してその部位が正常かどうか（正常or異常な先体、正常or異常な頭部、正常or異常な液胞）を判定しています。学習及び予測は部位ごとに独立のモデルで行っています。そして、その予測根拠をGrad-CAMにより視覚化しています。
 
<img width="500" alt="sperm_str.jpg" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3525069/353bcd8e-46a4-4db1-de12-0f31abb9d766.jpeg">

上の図のように精子は複数の部位から構成されており、この論文では先端部分の形態について解析をしています。

<img width="300" alt="Screenshot5.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3525069/249e4063-6ddb-f263-f25d-08265d57773a.png">

実際の教師データが上のような先端部分の拡大画像となっています。
以下がモデルの構造図です。

<img width="300" alt="AI_arc.jpg" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3525069/64202c86-a8ed-2843-da5c-e1301bf51517.jpeg">

## 結果
それぞれのaccuracyは先体で76.67%、頭部で77.00%、液胞で91.33%となっています。Grad-CAMによる視覚化は、モデルが実際の判定に需要な画像領域に注目していることを示しました。
具体的な精度については以下のようになっております。

<img width="500" alt="Screenshot6.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3525069/98bc81e7-ba2a-50e4-8c22-6f4166e09d35.png">

<img width="500" alt="Grad-CAM.jpg" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3525069/d27289de-7744-06eb-ca82-1f803ffdfbef.jpeg">

上の図からそれぞれのモデルが正しい領域に着目していることがわかります。

# まとめ
今回はXAIを使われた生殖補助医療分野の論文を紹介いたしました。
この２つの論文では主にAIの予測根拠が人の判断基準と一致しているかを確認するために使用されており、実際に判断基準の一致が確認されました。
今後より精度が上がることで臨床での意思決定の助けになることができれば、不妊治療成功率の改善が期待されます。

# 参考文献
- 精子: 
J. Auger, P. Jouannet, F. Eustache. Another look at human sperm morphology. Human Reproduction, 2016, 31(1), 10–23
- 卵子:
Iman Halvaei, Mohammad Ali Khalili, Mohammad Hossein Razi, Stefania A. Nottola. The effect of immature oocytes quantity on the rates of oocytes maturity and morphology, fertilization, and embryo development in ICSI cycles. J Assist Reprod Genet, 2012, 29(8), 803–810
- 胚:
HN Sallam, NH Sallam, and SH Sallam. Non-invasive methods for embryo selection. Facts Views Vis Obgyn, 2016, 8(2), 87–100
Hurtado R, de Lima Bossi R, Valle M, Sampaio M and Geber S. In vitro Human Embryo Morphology - An Odissey Outside the Oviduct. Austin J Anat. 2021; 8(1): 1099
Jun Tao, Randall H Craig, Mark Johnson, Brenda Williams, Wendy Lewis, Jennifer White, Nicole Buehler. Cryopreservation of human embryos at the morula stage and outcomes after transfer. Fertil Steril, 2004, 82(1), 108-118
Meagan Allen, Lyndon Hale, Daniel Lantsberg, Violet Kieu, John Stevens, Catharyn Stern, David K. Gardner and Yossi Mizrachi. Post-warming embryo morphology is associated with live birth: a cohort study of single vitrified-warmed blastocyst transfer cycles. J Assist Reprod Genet, 2022, 39(2), 417–425
- 論文1: 
Akriti Sharma, Mette H. Stensen, Erwan Delbarre, Trine B. Haugen, Hugo L. Hammer. Explainable Artificial Intelligence for Human Embryo Cell Cleavage Stages Analysis. ICDAR '22, June 2022, 1–8
- 論文2: 
S. Javadi, S.A. Mirroshandel. A novel deep learning method for automatic assessment of human sperm images. Comput Biol Med, 109 (2019), 182-194