artms007 commited on
Commit
c25a7dd
1 Parent(s): 8dae608

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +32 -20
README.md CHANGED
@@ -51,31 +51,15 @@ The programming problems are written in Python and contain English and Japanese
51
 
52
  Pythonで書かれたプログラミング問題のデータセットには、英語と日本語のコメントやドキュメントストリングがそれぞれ別々に含まれています。
53
 
54
- ## How to use
55
-
56
- 参照コードでpass@1を算出する例:
57
 
58
  ```python
59
- import os
60
- from evaluate import load
61
-
62
- os.environ["HF_ALLOW_CODE_EVAL"] = "1"
63
-
64
- code_eval = load("code_eval")
65
-
66
- candidates = []
67
- test_cases = []
68
-
69
- for d in ds:
70
- # FIXME: 参照コードをそのまま入れているが、予測コードに置き換えるべき
71
- candidates.append([d['prompt']+d['canonical_solution']])
72
- # テストケースを実行可能な形式にする
73
- text_cases.append([d['test']+f"\n\ncheck({d['entry_point']})\n"v])
74
 
75
- pass_at_k, results = code_eval.compute(references=test_cases, predictions=candidates, k=[1])
76
- print(pass_at_k)
77
  ```
78
 
 
79
  ## Dataset Structure
80
 
81
  ```python
@@ -115,6 +99,34 @@ An example of a dataset instance:
115
  ## Data Splits
116
  The dataset only consists of a test split with 164 samples.
117
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
118
  ## Additional Information
119
 
120
  ## Licensing Information
 
51
 
52
  Pythonで書かれたプログラミング問題のデータセットには、英語と日本語のコメントやドキュメントストリングがそれぞれ別々に含まれています。
53
 
54
+ ## How to Load Dataset
 
 
55
 
56
  ```python
57
+ from datasets import load_dataset
 
 
 
 
 
 
 
 
 
 
 
 
 
 
58
 
59
+ dataset = load_dataset("kogi-jwu/jhumaneval")['test']
 
60
  ```
61
 
62
+
63
  ## Dataset Structure
64
 
65
  ```python
 
99
  ## Data Splits
100
  The dataset only consists of a test split with 164 samples.
101
 
102
+ ## How to Use
103
+
104
+ 参照コードでpass@1を算出する例:
105
+
106
+ ```python
107
+ import os
108
+ from datasets import load_dataset
109
+ from evaluate import load
110
+
111
+ os.environ["HF_ALLOW_CODE_EVAL"] = "1"
112
+
113
+ ds = load_dataset("kogi-jwu/jhumaneval")
114
+
115
+ code_eval = load("code_eval")
116
+
117
+ candidates = []
118
+ test_cases = []
119
+
120
+ for d in ds:
121
+ # FIXME: 参照コードをそのまま入れているが、予測コードに置き換えるべき
122
+ candidates.append([d['prompt']+d['canonical_solution']])
123
+ # テストケースを実行可能な形式にする
124
+ text_cases.append([d['test']+f"\n\ncheck({d['entry_point']})\n"v])
125
+
126
+ pass_at_k, results = code_eval.compute(references=test_cases, predictions=candidates, k=[1])
127
+ print(pass_at_k)
128
+ ```
129
+
130
  ## Additional Information
131
 
132
  ## Licensing Information