ento3686/TCGA_OncoTree_pt2

TCGA-OncoTree (TCGA-OT)

Bộ ảnh Whole Slide Image (WSI) mô học TCGA, gắn nhãn theo hệ thống OncoTree, dùng làm benchmark phân loại pan-cancer ở mức slide — theo đúng split gốc do nhóm TITAN (Mahmood Lab) công bố.

Thống kê

Chỉ số	Số lượng
Tổng số slide trong split gốc	11186
Số case (bệnh nhân)	9.149
Số cohort TCGA gốc (project_id)	30
Số lớp OncoTree (OncoTreeCode)	46
Đã tải & upload thành công	11185 (99.991%)
Không tìm được trên GDC	1

⚠️ Dataset được chia làm 2 phần, trên 2 tài khoản HuggingFace

Vì tổng dung lượng vượt giới hạn của 1 tài khoản HF, phần svs/ được chia thành 2 repo:

Phần	Repo	Số slide	Vai trò
Part 1	tuna2004/TCGA_OncoTree	7914	Repo gốc, chứa labels/ đầy đủ
Part 2	ento3686/TCGA_OncoTree_pt2	3271	Repo mở rộng, chứa progress.json trung tâm (nguồn chân lý duy nhất)

Mỗi slide (.svs) chỉ nằm ở đúng 1 trong 2 repo — không trùng lặp. progress.json trong repo ento3686/TCGA_OncoTree_pt2 ghi rõ mỗi slide_id thuộc repo nào ({"uploaded": {slide_id: repo_id}}), dùng để biết chính xác cần tải file nào từ đâu khi gộp lại.

Cách gộp & sử dụng cả 2 phần

Cách nhanh nhất: gọi snapshot_download cho cả 2 repo, cùng trỏ về 1 local_dir — vì tên file .svs không trùng nhau giữa 2 repo, chúng tự gộp vào chung 1 thư mục svs/.

from huggingface_hub import snapshot_download, hf_hub_download
import pandas as pd, json, os

REPO_A, TOKEN_A = "tuna2004/TCGA_OncoTree", "<token account 1, chỉ cần quyền đọc>"
REPO_B, TOKEN_B = "ento3686/TCGA_OncoTree_pt2", "<token account 2, chỉ cần quyền đọc>"
LOCAL_ROOT = "./tcga_ot_full"

# 1. Tải phần svs/ từ CẢ 2 repo, gộp vào cùng 1 thư mục local
for repo_id, token in [(REPO_A, TOKEN_A), (REPO_B, TOKEN_B)]:
    snapshot_download(
        repo_id=repo_id, repo_type="dataset",
        allow_patterns=["svs/*.svs"],
        local_dir=LOCAL_ROOT,          # CÙNG 1 local_dir cho cả 2 lần gọi -> tự merge
        token=token,
    )

# 2. Tải progress.json trung tâm (chỉ có ở repo B) để biết đủ/thiếu, và biết slide nào ở đâu
progress_path = hf_hub_download(
    repo_id=REPO_B, repo_type="dataset",
    filename="progress.json", token=TOKEN_B,
)
manifest = json.load(open(progress_path))["uploaded"]   # {slide_id: repo_id}

# 3. Tải nhãn/splits — giống nhau ở cả 2 repo, chỉ cần lấy 1 trong 2
labels_dfs = []
for split in ["train", "val", "test"]:
    p = hf_hub_download(
        repo_id=REPO_A, repo_type="dataset",
        filename=f"labels/tcga-ot_{split}.csv", token=TOKEN_A,
    )
    df = pd.read_csv(p)
    df["split"] = split
    labels_dfs.append(df)
labels_df = pd.concat(labels_dfs, ignore_index=True)

# 4. Kiểm tra khớp — mọi slide trong manifest phải có file thật trong svs/
svs_dir = os.path.join(LOCAL_ROOT, "svs")
local_svs_ids = {f.rsplit(".svs", 1)[0] for f in os.listdir(svs_dir)}
missing = set(manifest) - local_svs_ids
print(f"Đã tải {len(local_svs_ids)}/{len(manifest)} slide vào {svs_dir}")
if missing:
    print(f"Thiếu {len(missing)} slide so với manifest: {missing}")

# 5. Lọc nhãn chỉ giữ đúng slide đã có ảnh — sẵn sàng cho pipeline tiền xử lý của TITAN
labels_df_local = labels_df[labels_df["slide_id"].isin(local_svs_ids)].reset_index(drop=True)
labels_df_local.to_csv(os.path.join(LOCAL_ROOT, "tcga_ot_labels.csv"), index=False)

print(f"📁 {LOCAL_ROOT}/svs/                <- input cho create_patches_fp.py của TITAN")
print(f"📄 {LOCAL_ROOT}/tcga_ot_labels.csv   <- nhãn OncoTree + split, khớp đúng slide đã tải")

Kết quả LOCAL_ROOT có đúng cấu trúc phẳng (svs/ + 1 csv nhãn) mà pipeline tiền xử lý kiểu CLAM của TITAN (create_patches_fp.py, rồi trích feature) cần — giống hệt như dùng 1 repo duy nhất, dù dữ liệu thực tế nằm ở 2 tài khoản khác nhau.

Ghi chú về slide bị thiếu

Slide TCGA-5P-A9KF-01Z-00-DX1.E35ED527-BD60-4534-B23A-D4DDACA2EB6D (Diagnostic Slide) không còn tồn tại trên GDC tại thời điểm chạy pipeline — đã kiểm tra bằng cách tra theo cả file_name lẫn submitter_id (không filter thêm điều kiện nào), đều không có hit. Slide này nhiều khả năng đã bị gỡ ở một data release sau khi TITAN công bố split gốc.

Case TCGA-5P-A9KF hiện chỉ còn 1 Tissue Slide trên GDC (TCGA-5P-A9KF-01A-01-TS1.145C9B6C-AEFB-4AE6-AC0D-7133444B624F.svs), KHÔNG được dùng thay thế vì khác loại slide (Tissue Slide phục vụ đánh giá chất lượng mô, khác mục đích với Diagnostic Slide mà TITAN dùng đồng nhất cho toàn bộ 46-class benchmark).

Dataset tại đây hoàn chỉnh 11185/11186 (99.991%) slide Diagnostic gốc theo đúng split của TITAN.

Nguồn dữ liệu

Ảnh WSI gốc từ TCGA qua NCI GDC (open-access, data_format=SVS, experimental_strategy=Diagnostic Slide).

Nhãn/splits từ repo mahmoodlab/TITAN:

Ding, T., Wagner, S.J., Song, A.H., Chen, R.J., et al. "Multimodal Whole Slide Foundation Model for Pathology", Nature Medicine, 2025. DOI: 10.1038/s41591-025-03982-3

License

• Nhãn/splits: theo license repo TITAN gốc (CC-BY-NC-ND — phi thương mại, ghi công đầy đủ).
• Ảnh WSI: theo GDC Data Use Policy (open-access, phi thương mại).