TCGA(GDC-DP)からの原始的なデータ取得(2023/2/22 追記)

#TCGAからの原始的なデータ取得

　癌研究者にとっては一つのインフラとなった感のある、米国のデータベース[TCGA(The Cancer Genome Atlas)](https://portal.gdc.cancer.gov/projects)。2016年6月にサイトの構造が大幅に変わり、それまでの体裁からNIHのデータベースサイトである[GDC data portal](https://portal.gdc.cancer.gov/)の一部分という形に変貌した。
　この変更と同時に、入手可能なデータもアップデートがなされ、RNA-Seqデータについて述べると

- マッピング法が変わった
- アノテーションがGene Symbol→Ensembl準拠となった
- 発現量を参照できる遺伝子数が増えた。

というような変化が起きている。以前のRNA-Seqデータで得られる発現情報は約20500遺伝子分であったところが、2016年以降のデータでは60500種類ちかい遺伝子の発現情報が得られることになった。そして個人的には大きな変化と感じたのが

- データ入手法が変わった

　という点だ。以前はファイル入手にあたって特別なツールは必要なく、解凍ツールさえあればよかったものが、現在はNIHの配布するプログラムであるGDC-clientが必須になったといってよいだろう。私個人のWindows10環境だとエラーが出るので、VirtualBoxでLinuxOSを動かすか、MacOSまたはLinux搭載PCで行うことになる。

　本稿では、GDC data portalからTCGAのメラノーマ検体群のRNA-Seqファイルの入手を例にダウンロードと~~発現リストの作成法を記して行きたい~~。　(12/23/2018注記：発現リスト作成法は別項にて解説予定です)
`本稿の作業は、Ubuntu16.04LTSの環境で行っております。本稿に掲載されている画像は、特記なき場合は2018年12月に作成したものです。`

###Data portalに行く
####ほしいファイルが記載されたマニフェストを作成する
![Screenshot from 2018-12-03 12-51-04.png](https://qiita-image-store.s3.amazonaws.com/0/284045/626642a0-9086-c62e-666d-796ce05fd1d8.png)
　43種類のプロジェクトで、69種の腫瘍のデータが収録されていることがわかる。検体の総数は、33096人分だ。


- 左中央部に4つ並んでいるメニューのうち、「Repository」をクリック
![Screenshot from 2018-12-03 13-06-31_marked.png](https://qiita-image-store.s3.amazonaws.com/0/284045/0ba6d14a-4ad3-dc7d-47c2-2ffbf61af680.png)

- 左側の「Files」タブで入手したいファイルのカテゴリを選択する。
    - 「Experimental Strategy」の項目にある「RNA-Seq」にチェックを入れる
    - 「Workflow Type」の項目の「HTSeq-FPKM」を選ぶ
![Screenshot from 2018-12-03 13-09-32_marked.png](https://qiita-image-store.s3.amazonaws.com/0/284045/7dd9eb5f-2223-5491-01ed-c3a29862dc2e.png)

- 右側の「Cases」タブで、入手するファイルの細目を決定する
    - 「Primary Site」の項目の「Skin」にチェックを入れる
![Screenshot from 2018-12-03 13-16-09-marked.png](https://qiita-image-store.s3.amazonaws.com/0/284045/73434a6a-92ac-a396-1ca8-94515c737566.png)
![Screenshot from 2018-12-03 13-21-41_marked.png](https://qiita-image-store.s3.amazonaws.com/0/284045/1cdc09f0-975e-64da-318f-a30b71745169.png)


    - 生死、年齢、人種などを更に細分化して特定の検体群だけを入手することも可能だが、今回は指定なし
![Screenshot from 2018-12-03 13-26-47_2.png](https://qiita-image-store.s3.amazonaws.com/0/284045/2326b954-4cca-3395-a9f5-d45b62353e34.png)
    - Add a Case/Biospecimen Filterをクリックすると、さらに細分化する項目が表示される。こちらも今回は指定なし
![Screenshot from 2018-12-03 14-11-13.png](https://qiita-image-store.s3.amazonaws.com/0/284045/03361a40-3bbe-a5f7-2537-855bd66b435d.png)

- これで、発現情報を入手するための手はずが整った。ブラウザの右下には、これからダウンロードするファイルの一部が表示される。![Screenshot from 2018-12-17 19-22-34_marked.png](https://qiita-image-store.s3.amazonaws.com/0/284045/3a53dc10-9844-9596-c8e8-bbb9126fbb14.png)

- 「Manifest」をクリックし、ファイルリストをダウンロードする。
![Screenshot from 2018-12-17 19-23-06_marked.png](https://qiita-image-store.s3.amazonaws.com/0/284045/64ffa981-4b48-2512-d6a0-2f368a3848f8.png)

- マニフェストファイルの中身はこのような感じ。![Screenshot from 2018-12-17 19-23-06_manifest.png](https://qiita-image-store.s3.amazonaws.com/0/284045/543d8394-55f5-2fb0-726c-ca7efdcb87a2.png)
アッセイID、ファイル名、MD5、サイズ等がリストされている。
    - 各ファイルには、TCGAのID(TCGA-xx-xxxx)ではなく、個別のアッセイID(xxxxxxxx-xxxx-xxxx-xxxxxxxx)がファイル名として付けられていて、**TCGAのIDはマニフェストファイルからは判らない。**
    - 単にFPKMの情報をダウンロードするだけでは、この発現情報が原発巣由来なのか、転移巣由来なのか、はたまた正常組織なのかすらも不明だ。このため、**アッセイIDとTCGA IDが共に記載されているファイルが別途必要**だ。

####サンプルシートの入手
- 次に入手するのはサンプルシート。
これに先立ち、「Add All Files to Cart」をクリックする。
![Screenshot from 2018-12-17 19-43-13_allalltocart.png](https://qiita-image-store.s3.amazonaws.com/0/284045/cdcf40f2-de57-315f-1282-2ae9aad75b42.png)

- ブラウザの右上に表示されている買い物カゴアイコンをクリックし、Cartのページに移動。
![Screenshot from 2018-12-17 19-43-33_movetocart.png](https://qiita-image-store.s3.amazonaws.com/0/284045/cc73e10b-0839-3a2d-1664-32a102766bdc.png)

- Cartのページはこのような感じ。入手するファイルの名前、数、総容量などが表示されている。
![Screenshot from 2018-12-17 19-44-55_cartmenu.png](https://qiita-image-store.s3.amazonaws.com/0/284045/8f87bf0e-ca15-f333-a569-c366041b5266.png)

- 右側に並んだ6つのボタンのうち、「Sample Sheet」をクリックしてサンプルシートを入手。
![Screenshot from 2018-12-17 19-45-38_samplecheetdownload.png](https://qiita-image-store.s3.amazonaws.com/0/284045/e6ea550c-65b0-12eb-4a5c-56297baabf5c.png)

- サンプルシートの中身はこのようになっている。ファイル名(B列)とTCGA ID(G列)のほか、データのカテゴリーやプロジェクト名、サンプルタイプ(原発巣か転移巣か)の情報などが格納されている。
![Screenshot from 2018-12-18 00-42-28_samplesheet.png](https://qiita-image-store.s3.amazonaws.com/0/284045/e4ef4079-616f-4066-2cfc-a539d062db79.png)

####GDC-clientの入手
- 続いて、ファイル入手のために必要なプログラムを揃える。
    - GDCのサイトの右上にあるルービックキューブみたいなアイコンをクリックし(1)、
    - 「Data Transfer Tool」を選択する(2)。
![Screenshot from 2018-12-17 20-12-37_gdltools.png](https://qiita-image-store.s3.amazonaws.com/0/284045/7d08356a-5af3-7731-dd6b-9cf4fb320670.png)

- Data Transfer Toolの説明が書かれたサイトに移動する。
![Screenshot from 2018-12-17 20-12-59_GDCtooltop.png](https://qiita-image-store.s3.amazonaws.com/0/284045/f2599336-3068-d9bd-dc6d-e2f0b672fb82.png)
- スクロールすると、Data Transfer Toolのファイルへのリンクがある。各自の環境にあうものをダウンロードしてください。
![Screenshot from 2018-12-17 20-13-24_GDC_dl.png](https://qiita-image-store.s3.amazonaws.com/0/284045/c7192159-ca66-c001-01a7-140f48739f13.png)

####**2019/12/24 追記：2019年12月現在、Data Transfer Toolはversion1.4.0が配布されています。Linux用はUbuntuのみとなり、~~CentOS用の配布がなくなった模様。~~**

####**2020/9/4 追記：2020年9月現在、Data Transfer Toolはversion1.6.0が配布されています。Python2のサポート終了に伴い、Python3に対応したツールとなっています。**

####**2023/2/22 追記：2023年2月現在、Data Transfer Toolはversion1.6.1が配布されています。**

- Tranfer toolの使い方は、サイト右側にある「Get Started」を見て確認する。
![Screenshot from 2018-12-17 20-16-09_GDCdocument.png](https://qiita-image-store.s3.amazonaws.com/0/284045/8acd499f-629f-797a-e6e4-9a8e9d713fbb.png)
- Data Transfer Toolを使うにあたって要求されるマシンスペックはご覧の通り。今回はBAMファイルを入手するわけではないので、ストレージ容量はさほど気にしない。
![Screenshot from 2018-12-17 20-16-44_GDCspec.png](https://qiita-image-store.s3.amazonaws.com/0/284045/e9936b08-9ce0-575c-1d4d-6c394aa1036b.png)

- Tranfer toolの詳細な利用方法は、
    - サイトの上にあるメニューの「Data Transfer Tool」をクリックし、
    - 「Data Download and Upload - Command Line」を選択。
![Screenshot from 2018-12-17 20-17-14_pulldownmenu.png](https://qiita-image-store.s3.amazonaws.com/0/284045/d413548b-df8c-2f2a-5464-069ac100d9f5.png)

- で、「Downloading Data Using a Manifest File」の項目の枠内にあるコマンドラインが、今回使うもの。 
![Screenshot from 2018-12-18 11-43-23_commandline.png](https://qiita-image-store.s3.amazonaws.com/0/284045/ca382408-576c-a5ba-2243-6d5af72c5c5f.png)

####ダウンロードの開始
道具が揃ったので、ようやくファイルのダウンロードに移れる。

- 適当にファイルをダウンロードするためのフォルダを作成。「TCGA-SKCM」とでもしておこう。

```
mkdir TCGA-SKCM
```
で、先に入手したマニフェストファイル、gdc-clientファイル、サンプルシートをこのフォルダに移動しておく。
ターミナルでこの作業フォルダの中身をみると、下記のような状態になっている。

```
$ls -l
-rwxr-xr-x 1 hoge hoge 24647040  8月 14  2017 gdc-client
-rw-rw-r-- 1 hoge hoge    63747 12月  3 14:09 gdc_manifest.2018-12-03.txt
-rw-rw-r-- 1 hoge hoge    91036 12月 17 19:45 gdc_sample_sheet.2018-12-17.tsv
```

役者はそろった。いよいよ実行だ。

```
./gdc-client download -m ./gdc_manifest.2018-12-03.txt
```

やがてダウンロードが始まり

```
100% [############################################################################################################################] Time: 0:00:01 253.30 kB/s 
100% [############################################################################################################################] Time: 0:00:02 233.15 kB/s 
100% [############################################################################################################################] Time: 0:00:02 235.66 kB/s 
100% [############################################################################################################################] Time: 0:00:02 245.85 kB/s 
................
100% [############################################################################################################################] Time: 0:00:02 225.63 kB/s 
100% [############################################################################################################################] Time: 0:00:02 244.29 kB/s 
100% [############################################################################################################################] Time: 0:00:02 210.72 kB/s 
100% [############################################################################################################################] Time: 0:00:02 232.12 kB/s 
Successfully downloaded: 472
```
目出度く472個のファイルのダウンロードが完了する。

- TCGAからDLした解析ファイルは、すべて個別のフォルダに入った状態で解凍される。今回は、472検体分のファイルを落としたので、フォルダが472個出来ていればひとまず作業は成功したことになります。