tshahn-uplus
commited on
Commit
·
0d95ecc
1
Parent(s):
64dc697
Update README.md
Browse files
README.md
CHANGED
@@ -171,7 +171,7 @@ The dataset is in Korean (`ko`).
|
|
171 |
* 원본 데이터에서 `allganize/RAG-Evaluation-Dataset-KO`, `documents.csv`와 유사한 구조로 데이터를 로드하는 코드.
|
172 |
* 분리된 pdf binary는 병합하여 로컬 경로에 pdf파일로 저장함.
|
173 |
|
174 |
-
```
|
175 |
import os
|
176 |
from typing import List
|
177 |
from itertools import groupby
|
@@ -243,4 +243,9 @@ def load_rag_eval_data(target_pdf_dir:str):
|
|
243 |
}
|
244 |
|
245 |
return qa_df, pdf_meta_dict
|
|
|
|
|
|
|
|
|
|
|
246 |
```
|
|
|
171 |
* 원본 데이터에서 `allganize/RAG-Evaluation-Dataset-KO`, `documents.csv`와 유사한 구조로 데이터를 로드하는 코드.
|
172 |
* 분리된 pdf binary는 병합하여 로컬 경로에 pdf파일로 저장함.
|
173 |
|
174 |
+
```python
|
175 |
import os
|
176 |
from typing import List
|
177 |
from itertools import groupby
|
|
|
243 |
}
|
244 |
|
245 |
return qa_df, pdf_meta_dict
|
246 |
+
|
247 |
+
|
248 |
+
# Load Metadata
|
249 |
+
documents_meta = datasets.load_dataset("datalama/RAG-Evaluation-Dataset-KO", name="documents_meta") # 64개 문서에 대한 메타데이터
|
250 |
+
questions_meta = datasets.load_dataset("datalama/RAG-Evaluation-Dataset-KO", split="questions_meta") # 300개 질문에 대한 메타데이터
|
251 |
```
|