anhdungitvn/vmlu_v1.5

Description

This dataset, anhdungitvn/vmlu_v1.5, was originally created from vmlu_v1.5 by formatting it into the Hugging Face datasets format for easier use.

Example

{
    "id": "28-0023",
    "question": "Tỷ  giá thay đổi sẽ ảnh hưởng đến",
    "choices": [
        "A. Cán cân thương mại",
        "B. Cán cân thanh toán",
        "C. Sản lượng quốc gia",
        "D. Các lựa chọn đều đúng"
    ],
    "answer": "",
    "prompt": "Chỉ đưa ra chữ cái đứng trước câu trả lời đúng (A, B, C, D hoặc E) của câu hỏi trắc nghiệm sau: \nTỷ  giá thay đổi sẽ ảnh hưởng đến\n\nA. Cán cân thương mại\nB. Cán cân thanh toán\nC. Sản lượng quốc gia\nD. Các lựa chọn đều đúng\nĐáp án: "
}

How to use?

from datasets import load_dataset

dataset_name_or_path = "anhdungitvn/vmlu_v1.5"

dataset = load_dataset(dataset_name_or_path)

How was the dataset converted?

Step 1: JSONL to dataset

import json
from datasets import Dataset
from datasets import DatasetDict


def read(file):
    data = []
    with open(file, 'r') as f:
        lines = f.readlines()
        for line in lines:
            data.append(json.loads(line))
    return Dataset.from_list(data)


dataset = DatasetDict(
    {
        "dev": read("dev.jsonl"),
        "valid": read("valid.jsonl"),
        "test": read("test.jsonl"),
    }
)


dataset['test'] = dataset['test'].add_column("answer", [""]*len(dataset['test']))                   
                     

Output:

DatasetDict({
    dev: Dataset({
        features: ['id', 'question', 'choices', 'answer'],
        num_rows: 303
    })
    test: Dataset({
        features: ['id', 'question', 'choices', 'answer'],
        num_rows: 9833
    })
    valid: Dataset({
        features: ['id', 'question', 'choices', 'answer'],
        num_rows: 744
    })
})

Step 2: Add prompt

def doc2prompt(doc):        
    text_choice = '\n'.join(doc['choices'])
    prompt = "Chỉ đưa ra chữ cái đứng trước câu trả lời đúng (A, B, C, D hoặc E) của câu hỏi trắc nghiệm sau: \n" \
            + doc["question"] \
            + "\n\n" \
            + text_choice \
            + "\n" \
            + "Đáp án: "

  return {"prompt": prompt}

dataset = dataset.map(doc2prompt, batched=False)

Output:

DatasetDict({
    dev: Dataset({
        features: ['id', 'question', 'choices', 'answer', 'prompt'],
        num_rows: 303
    })
    test: Dataset({
        features: ['id', 'question', 'choices', 'answer', 'prompt'],
        num_rows: 9833
    })
    valid: Dataset({
        features: ['id', 'question', 'choices', 'answer', 'prompt'],
        num_rows: 744
    })
})

‎

References

• VMLU