Hugging Face's logo

Datasets:
weitianwen
/
cmath

Modalities:
Tabular
Text
Formats:
json
Languages:
Chinese
Size:
1K - 10K
ArXiv:
Tags:
mathematics
Libraries:
Datasets
pandas
License:
Dataset card Viewer Files Community
1
Dataset Viewer
Auto-converted to Parquet
Viewer
grade
int64
1
6
question
stringlengths
10
117
golden
stringlengths
1
8
reasoning_step
int64
1
5
num_digits
int64
1
7
1
芳芳买了一本书有99页，看了90页，她还剩多少页没有看？
9
1
2
1
小勇拍皮球，第一次拍了77下，第二次比第一次少了9下，第二次拍了多少下？
68
1
2
1
妈妈带了30元，买了一条鱼，剩6元，这条鱼多少钱？
24
2
2
1
一年级有84人去郊游，二年级比一年级多去8人，二年级有多少人去郊游？
92
1
2
1
同学们要种18棵树，第一组种了8棵，第二组种了7棵树，还有多少棵需要种？
3
2
2
1
妈妈和小丽在家包饺子，妈妈包了15个，丽丽包了3个。丽丽还要包几个饺子才与妈妈一样多？
12
1
2
1
小强原来有4辆小汽车。爸爸送给他一辆新车作为生日礼物。小强现在有几辆小汽车？
5
1
1
1
草坪上有灰鸽子19只，白鸽子比灰鸽子多9只。草坪上有白鸽子多少只？
28
1
2
1
学校有菊花30盆，兰花70盆，一共有多少盆花？
100
1
3
1
马路两边各种40棵树，一共种树多少棵？
80
1
2
1
教室里有42把椅子，拿走一些，还剩8把，拿走了多少把？
34
1
2
1
一个皮球60元，一个毽子10元，毽子比皮球便宜多少元？
50
1
2
1
学校原有25瓶胶水，又买回9瓶，现在有多少瓶？
34
1
2
1
琪琪买零食花了17元，妹妹花了7元，琪琪比妹妹多花了几元？
10
1
2
1
公共汽车上有7个人，第一站上来6个人，第二站上来3个人，现在车上有几个人？
16
2
2
1
小明家住五楼，每上一层楼要用1分钟，小明从一楼走到五楼，要走多少分钟？
4
1
1
1
娜娜有23个糖果，婷婷有30个，两人一共有多少个糖果？
53
1
2
1
学校里有58盆黄菊花，50盆红菊花，黄菊花比红菊花多多少盆？
8
1
2
1
丽丽借给3位好朋友各4本故事书，她一共借出了多少本故事书？
12
1
2
1
一盘花生有48颗，梅梅拿出几颗后，还剩下40颗？
8
1
2
1
喜羊羊和灰太狼比赛骑木马，喜羊羊骑了50下，灰太狼骑了40下。喜羊羊比灰太狼多骑了多少下？
10
1
2
1
妈妈买了一些梨，小刚吃了3个，妈妈吃了2个，小刚和妈妈一共吃了多少个？
5
1
1
1
小苹种7盆红花，又种了同样多的黄花，两种花共多少盆？
14
1
2
1
光明小区棋牌院有69副象棋，60副跳棋，象棋比跳棋多多少副？
9
1
2
1
有67颗五角星，第一大组发了14颗，第二大组发了6颗，还剩多少颗五角星？
47
2
2
1
妈妈买来18个鸡蛋，吃了5个后，还剩多少个鸡蛋？
13
1
2
1
小明有9只纸飞机，比小军多3只。小军有多少只纸飞机？
6
1
1
1
汽车站有40辆汽车，第一次开走20辆，第二次开走10辆，还剩多少辆？
10
2
2
1
学雷锋小组上午修了20把椅子，下午修了10把，一天总共修了多少把椅子？
30
1
2
1
老师买回14盒白粉笔和2盒彩粉笔，上课用了1盒粉笔，还剩几盒粉笔？
15
2
2
1
同学们要做29个灯笼，已经做好了9个，还要做多少个？
20
1
2
1
森林运动会上，小狐狸比小狗多跑9米，小兔比小狗多跑4米，小狐狸比小兔多跑多少米？
5
2
1
1
小灰兔拔了9个萝卜，小白兔拔的是小灰兔的2倍。它们一共拔了多少个萝卜？
27
2
2
1
树上有21只小松鼠，树下有8只，一共有多少只小松鼠？
29
1
2
1
小红已经写了8个字，还差5个字没写，小红要多少个字？
13
1
2
1
杉杉捡了20个贝壳，还要捡39个，一共要捡多少个贝壳？
59
1
2
1
学校体育室里有23个足球，被人借走了10个，还有多少个？
13
1
2
1
小兔拔了26个萝卜，比小猪少6个，小猪拔了多少个？
32
1
2
1
商店里有16个蛋糕，卖出去5个，还剩多少个？
11
1
2
1
一艘船可以坐50人，船上已经有30人，还可以坐几人？
20
1
2
1
马场上有20匹马，又来了21匹，现在马场上有多少匹？
41
1
2
1
节日里，欢欢买了7个气球，回家路上爆了3个，他带回家几个气球？
4
1
1
1
乐乐有19枚邮票，文文有8枚邮票，一共有多少枚邮票？
27
1
2
1
农民伯伯上午摘了16筐番茄，运送到食堂3筐后，下午又摘了6筐。现在农民伯伯需要把多少筐番茄运到市场上卖？
19
2
2
1
亮亮有15张画片，送给弟弟5张，还剩下几张画片？
10
1
2
1
电饭锅卖了8个，还剩下7个，原来一共有多少个？
15
1
2
1
从前面数，贝贝排9，从后面数他排12，这一排一共有几人？
20
1
2
1
阳阳有102张1元的纸币，他最多能换几张50元的纸币？
2
1
3
1
活动课上打乒乓球的有8人，做操的有24人。打乒乓球球和做操的同学共有多少人？
32
1
2
1
苗苗家里有50个苹果，有30个梨，有20个桃。桃比苹果少多少个？
30
1
2
1
小明有8本书，小丽有9本书，小强有6本书。小明和小丽的书总数比小强多几本？
11
2
2
1
爸爸买一条毛巾要付4元，买一支笔用去同样多的钱，一共要付多少元钱?
8
1
1
1
婷婷买了12只气球，娜娜买了10只，她们一共买了多少只气球？
22
1
2
1
商店新进了79台电脑，卖出9台后，还剩多少台电脑？
70
1
2
1
弟弟今年4岁，哥哥比弟弟大8岁，2年前哥哥多少岁？
10
2
2
1
修一条99米的路，第一天修了22米，第二天修了8米，还要修多少米才能修完？
69
2
2
1
学校运动会中，参加游泳的有32名同学，参加跑步的有30名，参加这两项比赛的一共有多少名同学？
62
1
2
1
伟伟现在身高98厘米，比去年长高了7厘米，伟伟去年身高多少厘米?
91
1
2
1
停车场里有4辆小轿车，后来又开来3辆，停车场里一共有多少辆小轿车？
7
1
1
1
有2个小猴子各摘了8个桃子，一个小猴子吃了2个后，他们把剩下的都放进盒子里。盒子里有几个桃子？
14
2
2
1
晚上停电，小文在家点了8支蜡烛，先被风吹灭了1支蜡烛，后来又被风吹灭了2支，最后还剩多少支蜡烛？
5
2
1
1
李伯伯家养了33只鸡，30只鸭，9只鹅。鸭和鹅一共多少只？
39
1
2
1
一列火车的第10号车厢原有85人，到下一站后有23人下车，又到一站后有7人下车。再开车时，这节车厢有多少人？
55
2
2
1
飞机场上有75架飞机，飞走了50架，现在机场上有飞机多少架？
25
1
2
1
妈咪带了98元，买菜花了23元，买水果花了7元，还剩多少元？
68
2
2
1
果园有96棵梨树，90棵桃树。果园里梨树比桃树多多少棵？
6
1
2
1
水果店运进19个西瓜，卖出7个后，又运进了5个，水果店现在有多少个西瓜？
17
2
2
1
小路要买一本书，要付13元，他只有4元，还差多少元钱？
9
1
2
1
小红有7本新书，又买了4本。一共有多少本？
11
1
2
1
狗妈妈生了9只小狗，这9只小狗分别住宅3个小房子里，最小的房子里住了2只小狗，稍大些的房子里住了3只小狗，那么最大的房子里住几只小狗？
4
2
1
1
一根彩带长67米，第一次用去14米，第二次用去6米，现在还剩多少米？
47
2
2
1
幼儿园小朋友叠纸鹤，小刚叠了7个，小丽叠了5个，小红叠了6个，三个小朋友共叠多少个？
18
2
2
1
一个饭盒7元，一条毛巾4元，妈妈只带了10元，买这两样东西还差多少元钱？
1
2
2
1
一次上体育课排队，从左边开始报数，明明报了“7”，林林报了“10”;从右边开始报数，明明报了“7”，林林应该报几？
3
4
1
1
妈妈买来30个苹果，吃了一些，还剩下20个，那么妈妈吃了多少个苹果？
10
1
2
1
买一个书包需要30元，买一本书需要20元，买一个玩具小汽车需要40元。买一个书包和一本书一共用多少元？
50
1
2
1
树上一共有32个桃子，猴哥哥摘了13个，猴弟弟摘了7个，树上还剩多少个桃子？
12
2
2
1
豆豆买一个羊肉串用了4元，买一瓶汽水用了2元，一共用了多少元钱？
6
1
1
1
我和小朋友玩捉迷藏的游戏。一共有16个小朋友藏起来了，我已经找到了5个，还有几个小朋友没找到？
11
1
2
1
王叔叔家有白兔70只，黑兔20只，灰兔40只。白兔和黑兔共有多少只？
90
1
2
1
一个贝壳37元，一个海螺20元，各买一个需要多少钱？
57
1
2
1
小狮子今年8岁，狮妈妈是小狮子年龄的3倍，狮妈妈今年多少岁？
24
1
2
1
小红爸爸给她买了4支铅笔，妈妈又给她买了一盒，小红现在有16支铅笔，妈妈买的那一盒铅笔有多少根？
12
1
2
1
老师奖励小红花，小红有4朵，王利有6朵，张鹏有5朵，他们三人一共有多少朵？
15
2
2
1
妈咪有39元，买梨子用了8元，还剩多少元？
31
1
2
1
一只羽毛球要2元，波波付了50元，应找回多少元？
48
1
2
1
学校舞蹈小组有33人，其中女生有20人，男生有多少人？
13
1
2
1
同学们参加劳动，摘黄瓜46筐，摘的白瓜比黄瓜少10筐，摘白瓜多少筐？
36
1
2
1
一（1）班上男生有26人，女生有20人。女生比男生少多少人？
6
1
2
1
小苹种7盆红花，又种了同样多的黄花和紫花，三种花共多少盆？
21
1
2
1
玩具飞机价格是30元，玩具汽车价格是15元，布娃娃价格是20元。一架飞机比一辆汽车贵多少钱？
15
1
2
1
公交车上原来有10名乘客，到站后下来4个人，又上去8个人，现在车上有多少人？
14
2
2
1
菲菲书包有15本书，我书包有10本，菲菲书包里的书比我的多多少本?
5
1
2
1
鸟巢里有10只小鸟，先飞走了7只，又飞来了2只，鸟巢现在有几只小鸟？
5
2
2
1
一双球鞋29元，一双布鞋比一双球鞋便宜9元。买一双球鞋和一双布鞋一共要用多少元?
49
2
2
1
欣欣上午吃了26块饼干，下午吃了6块，一天一共吃了多少块饼干？
32
1
2
1
一共有14个足球，小熊抱走了4，小狗抱来了3个，现在有多少个？
13
2
2
1
奇奇和美美一共拍了80下篮球，其中奇奇拍了50下，那么美美拍了多少下？
30
1
2
1
姐姐今年8岁，姐姐比弟弟大2岁，哥哥比弟弟大5岁，哥哥今年几岁？
11
2
2
1
一（1）班有男生23人，女生20人，一共有多少人？
43
1
2
End of preview. Expand in Dataset Viewer.

CMATH

Introduction

We present the Chinese Elementary School Math Word Problems (CMATH) dataset, comprising 1.7k elementary school-level math word problems with detailed annotations, source from actual Chinese workbooks and exams. This dataset aims to provide a benchmark tool for assessing the following question: to what grade level of elementary school math do the abilities of popular large language models (LLMs) correspond? We evaluate a variety of popular LLMs, including both commercial and open-source options, and discover that only GPT-4 achieves success (accuracy >= 60%) across all six elementary school grades, while other models falter at different grade levels. Furthermore, we assess the robustness of LLMs by augmenting the original problems in the CMATH dataset with distracting information. Our findings reveal that GPT-4 is the sole model that maintains robustness, further distinguishing its performance from competing models. We anticipate that our CMATH dataset will expose limitations in LLMs' capabilities and promote their ongoing development and advancement.

Datasets

cmath_dev

Initial release of 600 examples from CMATH dataset, with 100 problems from each elementary school grade.
We will release the remaining portion of the dataset by the end of the year.

Examples and Annotations

Examples

Evaluation Results

Model Performance

distractor

To assess the robustness of LLMs against "irrelevant" information, we manually created a small ``distractor dataset'' comprising 60 examples, 10 for each grade level. Each example consists of an original problem and five associated problems augmented with 1 ~ 5 piece(s) of irrelevant information which we refer to as distractor(s).

Examples

Examples

Evaluation Results

Model Performance

Script

We provide a script eval.py that implements automated evaluation.

License

CC BY 4.0

Citation 

@misc{wei2023cmath,
      title={CMATH: Can Your Language Model Pass Chinese Elementary School Math Test?}, 
      author={Tianwen Wei and Jian Luan and Wei Liu and Shuang Dong and Bin Wang},
      year={2023},
      eprint={2306.16636},
      archivePrefix={arXiv},
      primaryClass={cs.CL}
}

Visit our git repository for more details. You may also read our paper.

Downloads last month
3,558
Edit dataset card
Size of downloaded dataset files:
342 kB
Size of the auto-converted Parquet files:
142 kB
Number of rows:
1,698