Datasets:
Update README.md
Browse files
README.md
CHANGED
@@ -51,31 +51,15 @@ The programming problems are written in Python and contain English and Japanese
|
|
51 |
|
52 |
Pythonで書かれたプログラミング問題のデータセットには、英語と日本語のコメントやドキュメントストリングがそれぞれ別々に含まれています。
|
53 |
|
54 |
-
## How to
|
55 |
-
|
56 |
-
参照コードでpass@1を算出する例:
|
57 |
|
58 |
```python
|
59 |
-
import
|
60 |
-
from evaluate import load
|
61 |
-
|
62 |
-
os.environ["HF_ALLOW_CODE_EVAL"] = "1"
|
63 |
-
|
64 |
-
code_eval = load("code_eval")
|
65 |
-
|
66 |
-
candidates = []
|
67 |
-
test_cases = []
|
68 |
-
|
69 |
-
for d in ds:
|
70 |
-
# FIXME: 参照コードをそのまま入れているが、予測コードに置き換えるべき
|
71 |
-
candidates.append([d['prompt']+d['canonical_solution']])
|
72 |
-
# テストケースを実行可能な形式にする
|
73 |
-
text_cases.append([d['test']+f"\n\ncheck({d['entry_point']})\n"v])
|
74 |
|
75 |
-
|
76 |
-
print(pass_at_k)
|
77 |
```
|
78 |
|
|
|
79 |
## Dataset Structure
|
80 |
|
81 |
```python
|
@@ -115,6 +99,34 @@ An example of a dataset instance:
|
|
115 |
## Data Splits
|
116 |
The dataset only consists of a test split with 164 samples.
|
117 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
118 |
## Additional Information
|
119 |
|
120 |
## Licensing Information
|
|
|
51 |
|
52 |
Pythonで書かれたプログラミング問題のデータセットには、英語と日本語のコメントやドキュメントストリングがそれぞれ別々に含まれています。
|
53 |
|
54 |
+
## How to Load Dataset
|
|
|
|
|
55 |
|
56 |
```python
|
57 |
+
from datasets import load_dataset
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
58 |
|
59 |
+
dataset = load_dataset("kogi-jwu/jhumaneval")['test']
|
|
|
60 |
```
|
61 |
|
62 |
+
|
63 |
## Dataset Structure
|
64 |
|
65 |
```python
|
|
|
99 |
## Data Splits
|
100 |
The dataset only consists of a test split with 164 samples.
|
101 |
|
102 |
+
## How to Use
|
103 |
+
|
104 |
+
参照コードでpass@1を算出する例:
|
105 |
+
|
106 |
+
```python
|
107 |
+
import os
|
108 |
+
from datasets import load_dataset
|
109 |
+
from evaluate import load
|
110 |
+
|
111 |
+
os.environ["HF_ALLOW_CODE_EVAL"] = "1"
|
112 |
+
|
113 |
+
ds = load_dataset("kogi-jwu/jhumaneval")
|
114 |
+
|
115 |
+
code_eval = load("code_eval")
|
116 |
+
|
117 |
+
candidates = []
|
118 |
+
test_cases = []
|
119 |
+
|
120 |
+
for d in ds:
|
121 |
+
# FIXME: 参照コードをそのまま入れているが、予測コードに置き換えるべき
|
122 |
+
candidates.append([d['prompt']+d['canonical_solution']])
|
123 |
+
# テストケースを実行可能な形式にする
|
124 |
+
text_cases.append([d['test']+f"\n\ncheck({d['entry_point']})\n"v])
|
125 |
+
|
126 |
+
pass_at_k, results = code_eval.compute(references=test_cases, predictions=candidates, k=[1])
|
127 |
+
print(pass_at_k)
|
128 |
+
```
|
129 |
+
|
130 |
## Additional Information
|
131 |
|
132 |
## Licensing Information
|