README.md

metadata

language:
  - ja
  - en
license: mit
size_categories:
  - n<1K
source_datasets:
  - openai_humaneval
task_categories:
  - text2text-generation
dataset_info:
  config_name: jhumaneval
  features:
    - name: task_id
      dtype: string
    - name: prompt_en
      dtype: string
    - name: prompt
      dtype: string
    - name: entry_point
      dtype: string
    - name: canonical_solution
      dtype: string
    - name: test
      dtype: string
  splits:
    - name: test
      num_bytes: 275012
      num_examples: 164
  download_size: 125206
  dataset_size: 275012
configs:
  - config_name: jhumaneval
    data_files:
      - split: test
        path: jhumaneval/test-*

Dataset Card for JHumanEval: Japanese Hand-Translated HumanEval

Dataset Description

• Repository: GitHub Repository

Dataset Summary

This is a Japanese translated version of HumanEval, an evaluation harness for the HumanEval problem solving dataset described in the paper "Evaluating Large Language Models Trained on Code".

LLM のコード生成能力の標準ベンチマーク HumanEval の日本語翻訳版です。
機械翻訳(DeepL, GPT-4)の翻訳結果を全て人手によって再修正し、 訳文を日本人のプログラマが読んで理解し、コードが書ける内容かチェックしました。
ただし、英語版 HumanEval の間違いは、修正せずに残して、 HumanEval 同様に不完全なドキュメントからの生成能力を見るようになっています。
日本語LLM のベンチマークとしてお使いください。

Languages

The programming problems are written in Python and contain English and Japanese natural text in comments and docstrings.

Python で書かれたプログラミング問題のデータセットには、英語と日本語のコメントやドキュメント文字列がそれぞれ別々に含まれています。

Dataset Structure

from datasets import load_dataset
load_dataset("kogi-jwu/jhumaneval")

DatasetDict({
    test: Dataset({
        features: ['task_id', 'prompt_en', 'prompt', 'entry_point', 'canonical_solution', 'test'],
        num_rows: 164
    })
})

Data Instances

An example of a dataset instance:

{
    "task_id": "test/0",
    "prompt_en": "def return1():\n    \"\"\"\n    A simple function that returns the integer 1.\n    \"\"\"\n",
    "prompt": "def return1():\n    \"\"\"\n    整数1を返すシンプルな関数。\n    \"\"\"\n",
    "canonical_solution": "    return 1",
    "test": "def check(candidate):\n    assert candidate() == 1",
    "entry_point": "return1"
}

Data Fields

• task_id : Unique identifier for a task.
• prompt_en : Function header and English docstrings as model input.
• prompt : Function header and Japanese docstrings, parallel to prompt_en.
• canonical_solution : The expected function implementation.
• test : Function to verify the correctness of generated code.
• entry_point : Function name to initiate the test.

Data Splits

The dataset only consists of a test split with 164 samples.

How to Use

参照コードで pass@1 を算出する例：

import os
from datasets import load_dataset
from evaluate import load

os.environ["HF_ALLOW_CODE_EVAL"] = "1"

ds = load_dataset("kogi-jwu/jhumaneval")['test']
code_eval = load("code_eval")

candidates = []
test_cases = []

for d in ds:
  # FIXME: 参照コードをそのまま入れているが、予測コードに置き換えるべき
  candidates.append([d['prompt']+d['canonical_solution']])
  # テストケースを実行可能な形式にする
  text_cases.append([d['test']+f"\n\ncheck({d['entry_point']})\n"])

pass_at_k, results = code_eval.compute(references=test_cases, predictions=candidates, k=[1])
print(pass_at_k)

Additional Information

Licensing Information

MIT License