Limtat99/koren2018-orfeome14756-emb

ESM-2 layer-wise embeddings — Koren 2018 C-terminal ORFeome

Koren et al. 2018 의 GPS ORFeome 스크린에서 나온 전장 ORF 14,756개(유전자 11,511종)에 대해 ESM-2 의 모든 transformer 레이어 per-residue hidden state 를 뽑은 데이터셋입니다. masking 없이 raw forward 1회로 뽑았습니다.

데이터셋 태그: ORFeome_Koren2018_14756

구성

폴더	모델	레이어	차원	레이어당	합계
ESM2_8M/	facebook/esm2_t6_8M_UR50D	8 (L0–L6, L6_pre)	320	3.56 GB	28.5 GB
ESM2_650M/	facebook/esm2_t33_650M_UR50D	35 (L0–L33, L33_pre)	1280	14.05 GB	491.6 GB

두 모델 모두 전 레이어 업로드 완료 (8M 8개 / 650M 35개, 합계 520.1 GB). 폴더마다 _manifest.json 에 레이어 목록·차원·dtype 이 있습니다. 레이어 1개 = 파일 1개입니다.

# 전체는 520 GB. 보통은 필요한 모델/레이어만 받으세요.
hf download Limtat99/koren2018-orfeome14756-emb --repo-type dataset \
    --include "ESM2_8M/*" --local-dir ./orf_emb

dataset viewer 는 이 저장소에서 동작하지 않습니다. 레이어별 ragged npz 구조라 HF 의 자동 parquet 변환이 내용을 읽지 못합니다. 아래 예제처럼 np.load 로 직접 읽으세요.

ragged 저장 — 이게 핵심입니다

ORF 길이가 25~1022 aa 로 제각각입니다 (중앙값 331). 그래서 고정 shape 배열이 안 됩니다.

토큰 축으로 이어붙이고 offsets 로 경계를 기록했습니다.

embedding  (ΣT, dim)   ΣT = 5,462,554
offsets    (N+1,)      N  = 14,756

ORF i 의 임베딩 = embedding[offsets[i] : offsets[i+1]]

(N, 1024, dim) 으로 패딩하면 중앙값이 331 라 2.8배 낭비됩니다. ragged 는 낭비가 0 입니다.

npz 스키마

embedding     (ΣT, dim)  float16   이어붙인 임베딩
offsets       (N+1,)     int64     경계
seq_len       (N,)       int32     잔기 수 (BOS/EOS 제외)
ioh_id        (N,)       <U        예: IOH10003
gene_id       (N,)       <U        GroupKFold 는 이것 기준
has_sec       (N,)       bool      셀레노시스테인(U) 포함 여부
sequence      (N,)       <U        가변 길이
row_offset / n_rows / n_tokens     int
layer / model / dataset / token_layout    bytes

PSI 라벨은 이 저장소에 포함되어 있지 않습니다. 원 논문이 오픈 액세스가 아니라 supplementary 표를 재배포하지 않았습니다. 아래 '라벨 붙이기' 를 보세요.

ORF 하나 꺼내기

import numpy as np
z = np.load("ESM2_650M/L6.npz")
o = z["offsets"]

i   = 42
emb = z["embedding"][o[i]:o[i+1]]     # (L+2, dim)
assert len(emb) == z["seq_len"][i] + 2

# <cls> + 잔기 1..L + <eos>  →  잔기만
res = emb[1:-1]
cterm = res[-1]        # C-말단 잔기 (이 스크린의 관심 대상)

토큰 축

ragged: embedding[offsets[i]:offsets[i+1]] is ORF i, laid out as <cls> + residues 1..L + <eos> (length L+2)

레이어 키

키	뜻
L0	transformer block 진입 직전 = embed_tokens(x) * 0.88. 0.88 은 ESM-2 의 token_dropout 보정항 (1 - 0.15*0.8) 입니다
L1 … L(n-1)	각 block 출력
Ln	마지막 block 출력 + emb_layer_norm_after — 보통 말하는 최종 임베딩
Ln_pre	final norm 적용 전

Ln_pre 는 emb_layer_norm_after 에 forward hook 을 걸어 받았습니다 (fair-esm/HF 모두 마지막 레이어를 post-norm 으로 덮어쓰기 때문). 추출 시 LayerNorm(Ln_pre) == Ln 을 검증했습니다.

⚠ 학습/검증 분할

ORF 14,756개가 유전자 11,511종에서 왔습니다 — 같은 유전자의 아이소폼이 여럿 있습니다. 무작위 분할하면 누수가 생기니 gene_id 기준 GroupKFold 를 쓰세요.

from sklearn.model_selection import GroupKFold
gkf = GroupKFold(n_splits=5)
for tr, te in gkf.split(X, y, groups=z["gene_id"]):
    ...

필터

조건	처리
길이 > 1022 aa	제외 — ESM-2 컨텍스트 1024 − BOS/EOS
X (미상 잔기) 포함	제외 — X 는 아미노산이 아니라 '이 자리를 모른다' 는 자리표시자입니다
U (셀레노시스테인) 포함	유지 (21개)

셀레노시스테인(U) 포함 ORF 21개

U 는 21번째 아미노산입니다. 미상 자리표시자가 아니라 UGA 코돈이 SECIS 요소와 함께 번역되어 만들어지는 실재하는 잔기이고, ESM-2 alphabet 에도 전용 토큰으로 있습니다 (<unk> 아님). 그래서 빼지 않고 남겼습니다.

다만 셀레노단백질은 학습 코퍼스에 드물어서 U 토큰 임베딩의 품질이 다른 잔기만큼이라는 보장은 없습니다. 빼고 쓰시려면 has_sec 로 거르면 됩니다 (재추출 불필요).

keep = ~z["has_sec"]          # 21개 제외
X, y = z["embedding"], ...   # offsets 로 잘라 쓰실 때도 같은 마스크

IOH_ID	gene	길이	U 개수
ioh28765	SEPP1	381	10
ioh62816	SEPP1	381	10
ioh81386	SEPP1	411	10
IOH58679	C11orf31	122	1
IOH60449	DIO1	185	1
IOH45981	DIO3	278	1
ioh46095	GPX1	203	1
ioh80150	GPX1	98	1
IOH40763	GPX2	190	1
IOH60476	GPX3	226	1
IOH81312	GPX4	227	1
ioh80461	GPX4	197	1
IOH46087	SELENOF	165	1
ioh40641	SELENOF	124	1
IOH39943	SELM	145	1
IOH46093	SELS	189	1
ioh40621	SELT	195	1
ioh62810	SELT	195	1
IOH46138	SEPHS2	448	1
IOH40664	SEPW1	87	1
IOH46076	SEPX1	116	1

인간 셀레노단백질 25종의 대부분입니다. SEPP1(SELENOP) 은 셀레늄 수송 단백질이라 한 서열에 U 가 10개 있습니다.

원본 표(Table S2B)의 Gene_ID 는 엑셀이 MARCH1/SEPT1/SEP15 를 날짜로 자동 변환해 버린 행이 28개 있었습니다 (Ziemann et al. 2016 이 지적한 그 현상). 날짜만 보고 규칙으로 되돌리면 틀릴 수 있어서 — 2001-03-01 은 MARCH1 일 수도 MARC1 일 수도 있습니다 — 같은 파일 Table S2A 의 ORF_ID 컬럼(1_IOH10003_2802_PLD2 형식, 오염되지 않음)으로 행마다 확인한 뒤 현행 HGNC 심볼 MARCHF* / SEPTIN* / SELENOF 로 되돌려 저장했습니다. 28개 전부 근거 확보, 미해결 0개입니다.

라벨 붙이기

PSI 값은 원 논문 supplementary 의 Table S2B (ORFs) 에 있습니다. 논문에서 직접 받아 ioh_id 로 조인하세요.

import numpy as np, pandas as pd

z  = np.load("ESM2_650M/L6.npz")
df = pd.read_excel("Koren2018_TableS2.xlsx",
                   sheet_name="Table S2B. ORFs", header=1)

lab = df.set_index("IOH_ID")["PSI"]
y   = lab.reindex(z["ioh_id"]).to_numpy(dtype=np.float32)
assert not np.isnan(y).any()

Modal Bin 도 같은 방식이고, Fold Change/MAGeCK 컬럼은 CRL 기질을 표시하는 'YES' 플래그입니다 (== "YES" 로 불리언 변환). 이 저장소는 위 필터를 이미 적용했으므로 원본(15,036행)보다 적습니다 — reindex 가 알아서 맞춰줍니다.

무결성 검증

업로드 후 43개 파일 전부를 원격에서 직접 검사했습니다 (HTTP range 요청으로 필요한 바이트만 읽음).

검사	결과
ORF 개수 / offsets[-1]	43개 파일 모두 14,756 · 5,462,554
diff(offsets) == seq_len + 2	전 구간 일치
offsets 배열이 파일 간 동일	43개 모두 동일
embedding 멤버 실제 크기	ΣT × dim × 2 + 128 과 정확히 일치
빈 구간 / NaN / Inf	파일당 균등 64지점 × 8행 스캔 — 0건
실값 재계산 대조	첫·중간·마지막 ORF 를 ESM-2 로 다시 계산 → 전 레이어 fp16 한 칸 이내, L0 는 비트 단위 동일
LayerNorm(Ln_pre) == Ln	L6_pre/L33_pre 모두 확인

출처 · 인용

이 데이터를 쓰시면 원 논문을 인용해 주세요.

Koren I, Timms RT, Kula T, Xu Q, Li MZ, Elledge SJ. The Eukaryotic Proteome Is Shaped by E3 Ubiquitin Ligases Targeting C-Terminal Degrons. Cell. 2018;173(7):1622-1635.e14. doi:10.1016/j.cell.2018.04.028 · PMID 29779948

구성 요소	출처 / 라이선스
ORF 서열	인간 ORFeome (Koren 2018 Table S2B)
PSI 측정값	Koren et al. 2018 — 이 저장소에 포함하지 않음
ESM-2 임베딩	이 저장소의 산출물. 모델은 Lin et al., Science 2023 (MIT)

원 논문은 오픈 액세스가 아닙니다 — Copyright © 2018 Elsevier Inc. All rights reserved. 그래서 PSI 라벨을 넣지 않았습니다.