File size: 3,899 Bytes
8b4e076
 
c5dd1d0
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
2c1d07a
 
 
 
 
f91945a
2c1d07a
 
 
31c3cd7
 
 
 
af06263
 
 
 
31c3cd7
 
 
8c806c7
 
 
31c3cd7
 
 
af06263
576567e
af06263
31c3cd7
c25a7dd
8dae608
 
c25a7dd
8dae608
c25a7dd
8dae608
 
c25a7dd
31c3cd7
 
 
 
 
 
 
 
 
 
 
 
 
 
8dae608
31c3cd7
 
8c806c7
31c3cd7
 
 
 
 
 
 
 
8c806c7
31c3cd7
8dae608
cb3307a
 
 
 
 
 
31c3cd7
8dae608
31c3cd7
 
c25a7dd
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
31c3cd7
 
8dae608
31c3cd7
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
---
license: mit
dataset_info:
  config_name: jhumaneval
  features:
  - name: task_id
    dtype: string
  - name: prompt_en
    dtype: string
  - name: prompt
    dtype: string
  - name: entry_point
    dtype: string
  - name: canonical_solution
    dtype: string
  - name: test
    dtype: string
  splits:
  - name: test
    num_bytes: 275012
    num_examples: 164
  download_size: 66597
  dataset_size: 275012
task_categories:
- text2text-generation
language:
- ja
- en
source_datasets:
- openai_humaneval
size_categories:
- n<1K
---

# Dataset Card for JHumanEval: Japanese Hand-Translated HumanEval

## Dataset Description

- **Repository:** [GitHub Repository](https://github.com/KuramitsuLab/jhuman-eval)

## Dataset Summary
This is a Japanese translated version of HumanEval, an evaluation harness for the HumanEval problem solving dataset described in the paper "Evaluating Large Language Models Trained on Code".

LLMのコード生成能力の標準ベンチマーク HumanEval の日本語翻訳版です。  
機械翻訳(DeepL, GPT-4)の翻訳結果を全て人手によって再修正し、 訳文を日本人のプログラマが読んで理解し、コードが書ける内容かチェックしました。  
ただし、英語版 HumanEval の間違いは、修正せずに残して、 HumanEval 同様に不完全なドキュメントからの生成能力を見るようになっています。  
日本語LLMのベンチマークとしてお使いください。

## Languages
The programming problems are written in Python and contain English and Japanese natural text in comments and docstrings.  

Pythonで書かれたプログラミング問題のデータセットには、英語と日本語のコメントやドキュメントストリングがそれぞれ別々に含まれています。

## How to Load Dataset

```python
from datasets import load_dataset

dataset = load_dataset("kogi-jwu/jhumaneval")['test']
```


## Dataset Structure

```python
from datasets import load_dataset
load_dataset("kogi-jwu/jhumaneval")

DatasetDict({
    test: Dataset({
        features: ['task_id', 'prompt_en', 'prompt', 'entry_point', 'canonical_solution', 'test'],
        num_rows: 164
    })
})
```

## Data Instances
An example of a dataset instance:

```
{
    "task_id": "test/0",
    "prompt_en": "def return1():\n    \"\"\"\n    A simple function that returns the integer 1.\n    \"\"\"\n",
    "prompt": "def return1():\n    \"\"\"\n    整数1を返すシンプルな関数。\n    \"\"\"\n",
    "canonical_solution": "    return 1",
    "test": "def check(candidate):\n    assert candidate() == 1",
    "entry_point": "return1"
}
```

## Data Fields
- `task_id` : Unique identifier for a task.
- `prompt_en` : Function header and English docstrings as model input.
- `prompt` : Function header and Japanese docstrings, parallel to prompt_en.
- `canonical_solution` : The expected function implementation.
- `test` : Function to verify the correctness of generated code.
- `entry_point` : Function name to initiate the test.

## Data Splits
The dataset only consists of a test split with 164 samples.

## How to Use

参照コードでpass@1を算出する例:

```python
import os
from datasets import load_dataset
from evaluate import load

os.environ["HF_ALLOW_CODE_EVAL"] = "1"

ds = load_dataset("kogi-jwu/jhumaneval")

code_eval = load("code_eval")

candidates = []
test_cases = []

for d in ds:
  # FIXME: 参照コードをそのまま入れているが、予測コードに置き換えるべき
  candidates.append([d['prompt']+d['canonical_solution']])
  # テストケースを実行可能な形式にする
  text_cases.append([d['test']+f"\n\ncheck({d['entry_point']})\n"v])

pass_at_k, results = code_eval.compute(references=test_cases, predictions=candidates, k=[1])
print(pass_at_k)
```

## Additional Information

## Licensing Information
MIT License