Jalyong/labor-embedding-data

노무 조문 임베딩 데이터

목적과 출처

노무 상담 질의로 관련 법령 조문을 찾는 임베딩 모델의 학습·평가 데이터입니다. 원천은 국가법령정보센터 조문, 기존 노무 상담 질문과 생성·증강한 질의입니다. 원본 조문과 기존 상담 질문을 바탕으로 질의를 생성·증강하고 학습용과 평가용으로 나눴습니다.

구성과 사용

• 검색 문서: 408행. doc_id, law, topic, text.
• 학습 쌍: 663행. anchor, positive, doc_id.
• 검증 쌍: 214행. anchor, positive, doc_id.
• 일반 평가 쌍: 83행. anchor, positive, doc_id. 학습에는 사용하지 않습니다.
• 일반 검색 문서: 433행. doc_id, domain, title, text.
• 학습/검증은 같은 세 열이며, 검색 평가는 검증의 질문(anchor)과 정답 ID(doc_id)를 사용합니다.
• 노무 검증 쌍은 검증 손실 확인과 Recall@5 최적 체크포인트 선택에도 사용하며 독립 테스트 결과를 뜻하지 않습니다.
• 원문에 query: 또는 passage:를 추가하지 않았습니다.

일반 검색 평가의 출처와 방법

관광 388문서/43질의, 상식 30문서/30질의, 수업용 가상 도서관 15문서/10질의입니다. 관광은 한국관광공사 TourAPI(공공누리 제1유형)를 사용한 기존 day58 자료이며, 상식은 day70의 question/reference_answer를 검색 쌍으로 바꿨습니다. 도서관은 day61의 수업용 가상 규정이며 정답 문서 하나인 질문을 선택했습니다. 정답 doc_id로 문서의 domain을 찾아 분야별 후보 문서에서 검색하고, 전체는 83질의의 순위를 합산합니다. 433개 문서를 섞은 단일 검색으로 평가하면 교안과 조건이 달라집니다.

원자료 경로·해시와 변환 기록:

{
  "purpose": "노무 도메인 학습 전후의 일반 분야 검색 성능 변화를 확인하는 소형 묶음",
  "evaluation_rule": "관광·상식·도서관 각각 자기 corpus에서 검색하며, 전체는 83개 질의의 순위를 합산",
  "sources": {
    "tour_corpus": {
      "path": "day74_임베딩_파인튜닝/data/본실습/tour_corpus.jsonl",
      "sha256": "d15c1e87eb2d91864e29d2d5e2677117463cbd4cef0a446a3f13ec466571c833"
    },
    "tour_eval": {
      "path": "day74_임베딩_파인튜닝/data/본실습/tour_eval.jsonl",
      "sha256": "3c9e9e256a30b9744f906718634044e86d4e1f750bbc58f323d1ca27e68449e8"
    },
    "common": {
      "path": "day70_SFT_지도파인튜닝/data/본실습/general_questions.jsonl",
      "sha256": "cf4d438787ea8a2c304c386a61f6d3507bb2f04bb09e47ef2d3cbc85a3e6e12f"
    },
    "library_corpus": {
      "path": "day61_평가자동화_MLflow/data/본실습/docs.jsonl",
      "sha256": "fc1cbad9309869782bce439e158854ef6b8ed8ee8388808c3d6a83dbb3b48301"
    },
    "library_eval": {
      "path": "day61_평가자동화_MLflow/data/본실습/golden.jsonl",
      "sha256": "33f46368bc9271f7b3d92d4fcb7b884e407e2d47662c8a6e0977210df706a711"
    }
  },
  "selection": {
    "tour": "기존 문서388개·질의43개·후보집합·행순서를 그대로 유지. ID에 tour:만 붙임.",
    "common": "day70 question을 질의로, reference_answer를 검색 근거 문서로 변환. 생성 답변 평가는 하지 않음.",
    "library": "day61 문서15개와 정답 문서ID가 하나인 질의10개만 사용. context와 해당 원문 일치 확인.",
    "library_case_ids": [
      "lib-01",
      "lib-02",
      "lib-03",
      "lib-04",
      "lib-05",
      "lib-06",
      "lib-07",
      "lib-08",
      "lib-13",
      "lib-14"
    ]
  },
  "limitations": [
    "상식 근거는 짧아 쉬운 문제의 천장 효과가 있을 수 있음.",
    "도서관과 운영 규정은 수업용 가상 자료이며 실제 기관 정책이 아님.",
    "83개 소형 검색 표본으로 일반능력 전체의 변화를 단정하지 않음."
  ],
  "counts": {
    "corpus": {
      "관광": 388,
      "상식": 30,
      "도서관": 15
    },
    "eval": {
      "관광": 43,
      "상식": 30,
      "도서관": 10
    }
  },
  "checks": {
    "schema": [
      "anchor",
      "positive",
      "doc_id"
    ],
    "duplicate_eval_questions": 0,
    "overlap_training_questions": 0,
    "overlap_training_positives": 0,
    "all_positives_match_corpus": true
  }
}

한계

검증 쌍은 질의마다 정답 조문 하나를 기록합니다. 다른 관련 조문도 있을 수 있습니다. 질문과 정답 연결에 오류가 남을 수 있으며 법률 자문을 위한 자료가 아닙니다. 일반 평가는 소형 검색 표본입니다. 짧은 상식 문서의 천장 효과와 가상 도서관 자료의 한계를 고려하며 일반능력 전체를 대표하지 않습니다.