코드 저장소: https://github.com/sylvanus4/kodialectbench English card: README.en.md

⛔ 이 저장소에는 AI Hub 파생물이 하나도 없습니다. 문항 본문도, 표지 사전도, 원 문항 식별자도 넣지 않았습니다. 문항 id 는 단방향 해시이고, 본문과 사전은 여러분이 자기 AI Hub 계정의 데이터로 재생성합니다.

KoDialectBench v0.1.0

한국어 사투리(방언) 를 재는 벤치마크입니다. 강원·경상·전라·충청·제주 다섯 권역을 권역당 200문항씩, 모두 1,000문항으로 담았습니다.

세상에 한국어 방언 벤치마크가 없었습니다. 그래서 사투리 모델을 만들려던 이 프로젝트는 모델보다 자를 먼저 만들었습니다. 학습이 실패해도 자는 남기 때문입니다.

시작하기

코드와 문항 목록은 satoori-ko 저장소의 eval/bench/kodialectbench-v0/ 에 있습니다. 아래 명령은 모두 저장소 루트(satoori-ko/)에서 실행합니다.

필요한 것은 파이썬 3.10 이상(3.12.8 에서 확인)뿐입니다. 외부 패키지는 하나도 쓰지 않습니다 — 채점기·문항 빌더·방언성 스코어러가 전부 표준 라이브러리로만 돌아갑니다. 설치할 것이 없습니다.

AI Hub 데이터를 받으려면 계정과 API 키가 필요합니다. AI Hub 에 회원가입한 뒤 118·119· 120·121·122 와 71517·71558 데이터셋의 이용 신청을 내고 승인을 받으세요. 승인 뒤 마이페이지에서 API 키를 발급받아 환경변수로 넣습니다.

export AIHUB_APIKEY=발급받은-키

문항 본문이 왜 안 들어 있나요

이 저장소에는 문항 본문이 없습니다. 문항 번호와 지문 요약값(digest)과 채점 코드만 있습니다. 원본이 AI Hub 데이터인데, AI Hub 이용정책이 승인받지 않은 제3자에게 데이터를 넘기는 것을 금지합니다. 그래서 본문을 빼고, 쓰시는 분이 자기 계정으로 원본을 받아 같은 문항을 손수 채우는 방식으로 만들었습니다.

즉, 사람마다 자기 계정으로 받은 데이터에서 똑같은 1,000문항이 나옵니다. 문항 선택은 난수 씨앗과 문서 단위 나눔으로 고정되어 있고, 지문 요약값으로 서로 같은 문항인지 확인할 수 있습니다.

# 1) AI Hub 118·119·120·121·122 (+ 71517·71558) 라벨 데이터를 자기 계정으로 받는다
python corpus/aihub_fetch.py --elder      # ⛔ --elder 없으면 71517·71558 을 안 받아
                                          #    아래 parse_elder 가 즉시 죽습니다
python corpus/aihub_parse.py
python corpus/aihub_parse_elder.py --holdout-frac 0.2

# 2) 표지 사전을 재생성한다 (⛔ 이 사전도 배포하지 않습니다 — 아래 설명)
python kit/mine_markers.py --min-n 10 --min-purity 0.70 --min-spec 0.30 --top 20000

# 3) 같은 문항을 자기 컴퓨터에서 채운다
python eval/build_bench.py --per-region 200 --materialize

재생성한 표지 사전이 저희 것과 같은지는 eval/bench/MARKERS.sha256.json 의 sha256 으로 확인하세요. 마이닝은 결정론이라 같은 입력이면 바이트까지 같습니다.

세 가지 과제

T1 이해 는 사투리 문장을 표준어로 바꾸게 합니다. 뜻을 알아들었는지를 직접 봅니다. chrF 와 완전일치 비율로 잽니다.

T2 권역 식별 은 이 문장이 어느 지역 말인지 다섯 중에 고르게 합니다.

T3 생성 은 표준어 문장을 특정 권역 사투리로 바꾸게 합니다. 방언다움(dialectness), 권역이 맞는지(region_match), 둘을 곱한 값(ADI2), 그리고 뜻이 살아남았는지를 함께 봅니다. ⛔ 방언다움과 뜻 보존을 한 점수로 합치지 마세요. 사투리처럼 보이는데 뜻이 무너졌으면 그건 성공이 아니라 실패입니다.

평가 돌리기

채점기는 여러분의 모델을 OpenAI 호환 엔드포인트로 부릅니다. 출력 파일을 만들어 넘기는 방식이 아니라, 서버 주소와 모델 이름만 알려주면 문항을 보내고 채점까지 합니다.

python eval/run_bench.py \
    --base http://127.0.0.1:8000 \   # 여러분의 서빙 서버 주소로 바꾸세요
    --model 내-모델-이름 \
    --per-region 200 \
    --label 내-실험-이름 \
    --out results.json

결과 JSON 에는 과제별 총점과 권역별 점수가 함께 들어갑니다. 남과 비교하려면 점수만 적지 말고 어떤 서빙 설정에서 쟀는지를 같이 적어주세요. 엔진과 정밀도(bf16/fp8 등), 문맥 길이, 그리고 몇 번 돌려 어떻게 합쳤는지가 필요합니다. 저희 기준선은 같은 엔진에서 세 번씩 돌린 중앙값입니다. temperature=0 을 걸어도 같은 값이 나오지 않기 때문입니다.

이 자가 실제로 잰다는 증거

자를 쓰기 전에 자가 눈금이 있는지부터 확인했습니다. 같은 뜻의 사투리 문장과 표준어 문장을 나란히 넣고, 둘을 갈라내는지를 봤습니다. 권역당 400쌍씩입니다.

권역	사투리·표준어 분리도	권역 margin
전라	96.5%	+0.622
강원	92.5%	+0.705
충청	90.5%	+0.560
경상	86.8%	+0.587
제주	86.5%	+0.784

이 표는 직접 다시 만들 수 있습니다.

python eval/marker_calibration.py -n 400

다섯 권역 모두 통과했고 권역 margin 도 전부 양수입니다. 표지는 학습 쪽 대화에서 캐고 채점은 시험 쪽 대화로만 해서, 같은 화자가 양쪽에 겹치지 않게 했습니다.

여기서 배운 게 하나 있습니다. 처음에는 경상과 전라가 잘 안 갈렸고, 저희는 그걸 "경상 방언차는 억양에 있어서 글에는 덜 남는다"는 언어적 사실로 설명했습니다. 틀렸습니다. 표본이 모자랐을 뿐이고, 중·노년층 데이터를 합치자 전라가 76.8%에서 96.5%로 올랐습니다. 지표가 두 대상을 못 가를 때는 "원래 비슷해서"라고 말하기 전에 표본 수부터 보세요.

기준선 (Qwen3.8-27B)

같은 엔진에서 가중치만 바꿔가며 세 번씩 재고 중앙값을 적었습니다.

지표	맨 모델	합성 학습	실데이터 학습
T1 chrF	50.7	70.1	80.1
T1 완전일치 %	2.2	10.6	24.7
T2 권역식별 %	24.7	63.1	79.4
T3 방언다움	0.034	0.102	0.141
(참고) 실제 화자 방언다움	0.232	0.232	0.232
T3 ADI2	0.012	0.065	0.107

맨 모델은 사투리를 거의 못 씁니다. 같은 문항의 실제 화자 문장은 방언다움 0.232 인데 맨 모델은 0.034 로, 10명 중 1.4명꼴만 재현합니다. 프롬프트로 예시를 세 개 넣어줘도 권역마다 들쭉날쭉했고 강원은 오히려 떨어졌습니다. 사투리는 지시로 되는 게 아니라 학습으로 되는 일입니다.

못 믿을 부분

문항은 전사된 글입니다. 억양과 소리는 여기 안 담깁니다. 사투리에서 소리가 차지하는 몫이 큰데, 이 자는 글에 남는 것만 잽니다.

권역별 원본 양이 고르지 않습니다. 전라는 본편 데이터가 특히 적어서 중·노년층 데이터에 많이 기댑니다.

방언다움 점수는 표지 사전에 기대는데, 그 사전은 AI Hub 라벨에서 캔 것입니다. 사전에 없는 말은 사투리여도 0점으로 잡힙니다. 그래서 이 점수는 상한이 아니라 하한으로 읽으세요.

출처

문항의 원본은 AI Hub 「한국어 방언 발화」 데이터(118·119·120·121·122)와 「중·노년층 한국어 방언 발화」 데이터(71517·71558)입니다. 이 저장소에 문항 본문은 없습니다.

채점에 쓰는 표지 사전(kit/markers/*.json)도 배포하지 않습니다. 그것 역시 AI Hub 라벨에서 캔 파생물이기 때문입니다. 문항 본문과 똑같은 방식으로, 여러분이 자기 계정의 데이터로 kit/mine_markers.py 를 돌려 만드시면 됩니다. 마이닝은 결정론이라 같은 입력이면 같은 사전이 나오고, eval/bench/MARKERS.sha256.json 의 해시로 대조할 수 있습니다.

⇒ 결과적으로 이 저장소에는 AI Hub 파생물이 하나도 들어 있지 않습니다. 코드와 문항 번호, 그리고 대조용 해시뿐입니다.

라이선스

코드는 Apache-2.0 입니다(LICENSE). 무엇이 코드에 해당하는지는 eval/bench/PUBLISH.json 의 목록이 정본입니다.

문항 번호와 요약값(items.jsonl)은 AI Hub 파생물이라 Apache-2.0 이 아니라 AI Hub 이용정책을 따릅니다. 표지 사전은 아예 배포하지 않습니다(여러분이 재생성). AI Hub 데이터로 학습한 모델 가중치도 공개하지 않습니다.

인용

벤치 버전(KoDialectBench v0.1.0)과 측정에 쓴 서빙 설정을 함께 적어주세요. 엔진과 정밀도, 문맥 길이, 반복 횟수와 합치는 방법이 없으면 그 숫자는 남과 비교할 수 없습니다.

문의·제보

문항 오류, 채점 이상, 재현 실패는 이 저장소의 이슈로 남겨주세요.