sungkwang2/irm-genfree-graph

IRM — Gen-free Knowledge-Graph Memory (single frozen Qwen, no-external) — REPRODUCE

목적: 외부 임베더 0 · 파인튜닝 0 · LLM 생성(decode) 0 단일 frozen Qwen3.5-9B가 자기 attention/latent만으로 짓는 gen-free knowledge-graph 메모리. MuSiQue 등 멀티홉 검색의 "똥통 탈출"(순위 밖 gold를 멀티홉으로 발굴).

이 HF 데이터셋 = CPU-replay 덤프 + 스크립트 + 데이터 + finalrank. 다른 Claude Code 세션이 이걸 받아 그대로 재현할 수 있게 구성.

0. 환경

• 모델: Qwen/Qwen3.5-9B (HF, VLM). hf_cache에 자동 다운.
• transformers 5.9.0 필수 (5.10.2+는 VLM 이미지 patch 깨짐). pip install transformers==5.9.0
• deps: torch, numpy, igraph, pyarrow, datasets, transformers==5.9.0
• 추가 패키지: hrpkg/, vllm_stub/ (이 repo의 scripts/에 포함). PYTHONPATH에 추가.
• 작업 디렉토리 규칙: 실험은 local_fast(SSD)에서만, drive/HF는 백업/배포용.

1. 다운로드 & 셋업

# (a) 스크립트
git clone https://huggingface.co/datasets/sungkwang2/irm-genfree-graph /content/local_fast/irm_pkg
cd /content/local_fast/irm_pkg
# scripts/ 를 작업 루트로
mkdir -p /content/local_fast/IRM && cp -r scripts/* /content/local_fast/IRM/

# (b) CPU-replay 덤프 (큰 파일)
#   dumps/mqfull_cpu  = MuSiQue full 1000Q (코퍼스 11,556 passage), NQ=1000
#   dumps/mq_cpu      = MuSiQue n100 서브셋, NQ=100
cp -r dumps/mqfull_cpu dumps/mq_cpu /content/local_fast/

각 덤프 내용: entity_latent_q1.npz(엔티티 latent), passage_tok.npz(passage value-token, MaxSim용), passage_echo.npz, qwen_oie_genfree.json(cap-NER+triple), query_ner.json, data_musique.json(질문·정답·gold).

2. CPU-only recall 실험 (GPU 0)

중요: NQ는 덤프 크기와 일치 (mq_cpu→100, mqfull_cpu→1000). 불일치시 oie수 != 코퍼스 assert.

cd /content/local_fast/IRM
PP="/content/local_fast/vllm_stub:/content/local_fast/hrpkg"
LF=/content/local_fast/mqfull_cpu NQ=1000 NOEXT=1 \
  DATA=$LF/data_musique.json OIEFILE=$LF/qwen_oie_genfree.json \
  STAGE=4 SEEDMODE=symbolic PASSMODE=maxsim ENTSEED=1 ESMODE=query \
  ENTSEED_W=8 PASS_W=0.05 SELWEIGHT=1 ITER=2 \
  DEV=cpu CUDA_VISIBLE_DEVICES= RANKDUMP=1 RANKOUT=/tmp/fr.json \
  PYTHONPATH=$PP python3 run_hr2code_qwen.py

출력: graph recall 사다리 + /tmp/fr.json(finalrank). SAVE= 안 쓰면 큰 parquet 안 써서 디스크 절약 (단 SAVE 기본값 자동생성됨 — 동시 다수 실행시 디스크 주의, 각 ~3GB).

• 실험 플래그(전부 CPU): ITER/ESITER(반복재시드), DPRIME(d' 시드), ANCHOR(backward-PPR), QANCHOR, ECHO, EDGEMODE=relay, PASS_W, ENTSEED_W, DF_CAP, SHAPESEED.

passage-level recall 계산 (HippoRAG 정의와 정합)

import json,ast
def key(t): return ' '.join(str(t).lower().split())[:120]
fr=json.load(open('/tmp/fr.json')); pr5=tot=0
for r in fr:
    g=r['golds']; g=ast.literal_eval(g) if isinstance(g,str) else g
    if not g: continue
    gk=set(key(x) for x in g); f=[key(c) for c in r['final40']]
    pr5+=len(gk&set(f[:5]))/len(gk); tot+=1
print('passage-level recall@5 =', round(100*pr5/tot,1))

⚠️ 반드시 passage-level (len(top_k∩gold)/len(gold)) — HippoRAG 코드 정의. query-level Hits(아무 gold 1개)와 혼동 금지(수치 크게 다름).

3. GPU 실험

• xrel (joint cross-encode rerank, recall 레버): NQ=1000 XK=40 FRANK=/tmp/fr.json DATA=<dump>/data_musique.json XSCORES=/tmp/xs.json python3 run_xrel_batch.py → graph baseline vs xrel vs xrel⊕graph recall.
• reader F1: NQ=1000 KEV=20 RANK=/tmp/fr.json DATA=<dump>/data_musique.json python3 run_unified_f1.py

4. 검증된 결과 (정합, 무외부 단일 9B)

metric	우리	HippoRAG2	비고
MuSiQue recall@5 (passage)	49.4 (graph), 58.2 (xrel⊕graph)	74.7	우리=무외부 9B / HR2=NV-Embed-v2(외부7B)+70B리더
MuSiQue QA F1	40.92	48.6	K20, 우리 9B 리더
사다리	BM25 43.5 < 우리 49.4≈ColBERTv2 < NV-Embed 69.7 < HR2 74.7

• 코퍼스 11,556≈HR2의 11,656 (정합). recall@40=78.9 (실종 21% = out-of-pool 의미브릿지).
• xrel = 검색 recall 레버(+8.8)지만 reader-F1엔 독(bridge 밀어냄). 검색 metric 벤치 전용.
• 자원 비대칭 항상 명시: 직접 SOTA 주장 금지, 같은 자원 아님.

5. 핵심 미해결 (다음 연구)

• 정공법 B = 실종 23.5% out-of-pool 의미브릿지 회수. 반복재시드(ITER/ESITER)·DPRIME·ANCHOR·QANCHOR 전부 negative/회귀(separate-encode 천장). xrel(joint)만 in-pool 랭킹배틀에 유효.
• 미검: FACTBRIDGE(query↔fact MaxSim 시드, fact_latent_q1.npz 필요), 무생성 질문분해.
• 4벤치(MuSiQue·LoCoMo·NarrativeQA·MG) ≥3/4 일반화로만 채택. 단일벤치 과적합 금지.

6. 스크립트 핵심

• run_hr2code_qwen.py: 메인 그래프 파이프라인 (STAGE4=그래프빌드+PPR검색+recall). cap-NER 노드 + value-norm attention 엣지 + entity-PPR(igraph). RETR=[(23,2),(23,0),(7,3),(27,1)] forward-AUC value head.
• run_xrel_batch.py: joint cross-encoder relevance(YES/NO logit) 재랭킹.
• run_unified_f1.py: 4벤치 공통 reader, token-F1.
• run_genfree_build.py: genfree OIE(cap-NER+triple) 빌드.
• run_qwen_fact_latent.py: fact_latent 생성(FACTBRIDGE용).