Limtat99/timms2019-nt24027-emb

ESM-2 layer-wise embeddings — Nt_Timms2019

Timms et al. 2019 Science 365(6448):eaaw4912 의 스크린에서 나온 24,027개 항목에 대해 ESM-2 의 모든 transformer 레이어 per-residue hidden state 를 뽑은 데이터셋입니다. masking 없이 raw forward 1회.

데이터셋 태그: Nt_Timms2019_24027 · 저장 레이아웃: stacked

구성

폴더	모델	레이어	차원	레이어당	합계
ESM2_8M/	facebook/esm2_t6_8M_UR50D	8 (L0–L6, L6_pre)	320	0.40 GB	3.2 GB
ESM2_650M/	facebook/esm2_t33_650M_UR50D	35 (L0–L33, L33_pre)	1280	1.60 GB	56.0 GB

레이어 1개 = 파일 1개입니다. 폴더마다 _manifest.json 에 레이어 목록·차원·dtype 이 있습니다.

dataset viewer 는 동작하지 않습니다. npz 구조라 HF 의 자동 parquet 변환이 내용을 읽지 못합니다. 아래처럼 np.load 로 직접 읽으세요.

npz 스키마

embedding   (N, T, dim)  float16   T = 잔기 수 + 2 (BOS/EOS)

transcript_id(N,)  <U      항목 ID
gene_id     (N,)  <U      GroupKFold 는 이것 기준 (`gene_id`)
has_sec     (N,)  bool    셀레노시스테인(U) 포함 여부
sequence    (N,)  <U
layer / model / dataset / token_layout    bytes

라벨은 이 저장소에 포함되어 있지 않습니다. 원 논문이 오픈 액세스가 아니라 supplementary 표를 재배포하지 않았습니다. 원 논문에서 직접 받아 transcript_id 로 조인하세요.

import numpy as np
z = np.load("ESM2_8M/L0.npz")
X = z["embedding"]                       # (N, T, dim) float16
res = X[:, 1:-1]                         # <cls>/<eos> 제외

레이어 키

키	뜻
L0	transformer block 진입 직전 = embed_tokens(x) * 0.88. 0.88 은 ESM-2 의 token_dropout 보정항 (1 - 0.15*0.8) 로, mask 토큰이 없으면 항상 곱해집니다
L1 … L(n-1)	각 block 출력
Ln	마지막 block 출력 + emb_layer_norm_after — 보통 말하는 최종 임베딩
Ln_pre	final norm 적용 전. Ln 과 스케일이 크게 다릅니다

Ln_pre 는 emb_layer_norm_after 에 forward hook 을 걸어 받았습니다 (fair-esm/HF 모두 마지막 레이어를 post-norm 으로 덮어쓰기 때문). 추출 시 LayerNorm(Ln_pre) == Ln 을 검증합니다.

⚠ 학습/검증 분할

gene_id 기준 GroupKFold 를 쓰세요.

from sklearn.model_selection import GroupKFold
for tr, te in GroupKFold(n_splits=5).split(X, y, groups=z["gene_id"]):
    ...

추출 조건

항목	값
forward dtype	float32
저장 dtype	float16
압축	없음
masking	없음 (raw forward)
길이 상한	1022 aa (ESM-2 컨텍스트 1024 − BOS/EOS)

fair-esm 과 HuggingFace transformers 가 attn_implementation="eager" 에서 비트 단위로 동일한 결과를 내는 것을 확인했습니다. 레이어를 여러 pass 로 나눠 뽑아도 한 번에 뽑은 것과 비트 단위로 같습니다.

출처 · 인용

Timms et al. 2019 Science 365(6448):eaaw4912 · doi:10.1126/science.aaw4912

원 논문은 오픈 액세스가 아닙니다. 서열은 UniProt(CC-BY 4.0), ESM-2 가중치는 MIT 입니다.