input stringlengths 115 213 | target stringclasses 4
values | extra_data dict |
|---|---|---|
<image_1>基于当前界面，如果用户点击了 [0, 127, 718, 262] 区域会发生什么？请从下列选项中选择一个回答：
A. 立即购买“¥35.8 特惠包 | 全天任选3小时|3/4/5小时套餐”
B. 跳转到地图页面，显示“四个朋友·自助棋牌”的位置
C. 进入“四个朋友·自助棋牌(迎泽火车站店)”的商家详情页面
D. 筛选出所有“棋牌室”类型的商家 | C | {
"ability": "action_anticipation",
"bbox": [
0,
127,
718,
262
],
"devices": "iPadOS",
"step_id": 2,
"task_id": 556,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1766025351031_1797844e_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [474, 1416, 678, 1531] 区域会发生什么？请从下列选项中选择一个回答：
A. 选择L码作为商品的尺码
B. 将款式切换为蓝色
C. 显示L码商品的详情图片
D. 将白色L码的商品加入购物车 | A | {
"ability": "action_anticipation",
"bbox": [
474,
1416,
678,
1531
],
"devices": "Android",
"step_id": 3,
"task_id": 297,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/297-3.png"
}
} |
<image_1>基于当前界面，如果用户点击了 [877, 207, 964, 232] 区域会发生什么？请从下列选项中选择一个回答：
A. 会切换到“性能”设置页面
B. 会开始创建一个新的剪辑草稿
C. 会保存当前“草稿”页面的设置并关闭窗口
D. 会切换到“剪辑”设置页面 | D | {
"ability": "action_anticipation",
"bbox": [
877,
207,
964,
232
],
"devices": "Windows",
"step_id": 4,
"task_id": 965,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1767088532534_0298d98e_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [286, 298, 355, 340] 区域会发生什么？请从下列选项中选择一个回答：
A. 会取消所有已选中的商品
B. 会弹出确认框，询问是否删除选中的商品
C. 会将选中的商品移入收藏夹
D. 会清空购物车内的所有商品，无论是否选中 | B | {
"ability": "action_anticipation",
"bbox": [
286,
298,
355,
340
],
"devices": "macOS",
"step_id": 6,
"task_id": 112,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/112-6.png"
}
} |
<image_1>基于当前界面，如果用户点击了 [805, 246, 865, 303] 区域会发生什么？请从下列选项中选择一个回答：
A. 在右侧打开该置顶联系人的聊天窗口
B. 取消该联系人的置顶状态
C. 弹出包含“取消置顶”、“删除聊天”等选项的菜单
D. 查看该置顶联系人的个人资料 | A | {
"ability": "action_anticipation",
"bbox": [
805,
246,
865,
303
],
"devices": "macOS",
"step_id": 1,
"task_id": 580,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1766544060211_b6831357_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [25, 414, 139, 554] 区域会发生什么？请从下列选项中选择一个回答：
A. 跳转到在线问诊页面，咨询感冒发烧相关问题
B. 进入感冒发烧药品的分类页面
C. 跳转到“白云山小柴胡颗粒”的商品详情页
D. 在搜索框中输入“感冒发烧”并开始搜索 | B | {
"ability": "action_anticipation",
"bbox": [
25,
414,
139,
554
],
"devices": "Android",
"step_id": 3,
"task_id": 652,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1766629625138_d12c0a50_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [573, 572, 696, 613] 区域会发生什么？请从下列选项中选择一个回答：
A. 进入“待映电影”的完整列表页面
B. 进入“热门电影演出”的完整列表页面
C. 查看电影《阿凡达3》的详细信息
D. 刷新当前页面的“热门电影演出”推荐 | B | {
"ability": "action_anticipation",
"bbox": [
573,
572,
696,
613
],
"devices": "iOS",
"step_id": 3,
"task_id": 611,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1766554853513_00cd1857_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [1420, 306, 1437, 322] 区域会发生什么？请从下列选项中选择一个回答：
A. 将正文内容设置为两栏显示
B. 增加正文内容的段落缩进
C. 增加栏与栏之间的间距
D. 增加正文内容的字体大小 | A | {
"ability": "action_anticipation",
"bbox": [
1420,
306,
1437,
322
],
"devices": "macOS",
"step_id": 6,
"task_id": 50,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1767944905532_d56296c1_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [504, 599, 634, 647] 区域会发生什么？请从下列选项中选择一个回答：
A. 自动将金额范围上限设置为100元
B. 弹出交易分类的下拉菜单以选择“缴费”
C. 激活金额范围的上限输入框，以便输入数字100
D. 立即开始搜索金额在0元以上的交易记录 | C | {
"ability": "action_anticipation",
"bbox": [
504,
599,
634,
647
],
"devices": "Windows",
"step_id": 7,
"task_id": 194,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1764041335563_3c4ac512_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [734, 748, 1186, 812] 区域会发生什么？请从下列选项中选择一个回答：
A. 将选中的“OneDrive”邮件移动到垃圾邮件文件夹
B. 将选中的“OneDrive”邮件移动到收件箱
C. 将选中的“OneDrive”邮件永久删除
D. 打开收件箱文件夹，显示其中的所有邮件 | B | {
"ability": "action_anticipation",
"bbox": [
734,
748,
1186,
812
],
"devices": "Android",
"step_id": 5,
"task_id": 955,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1767162473030_58df77b4_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [27, 2117, 1056, 2280] 区域会发生什么？请从下列选项中选择一个回答：
A. 将预约用车时间更改为“今天”的当前时间
B. 确认时间并立即开始呼叫车辆
C. 关闭时间选择弹窗，不保存已选的“明天17:40”
D. 确认预约用车时间为“明天17:40”并关闭时间选择弹窗 | D | {
"ability": "action_anticipation",
"bbox": [
27,
2117,
1056,
2280
],
"devices": "Android",
"step_id": 5,
"task_id": 562,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1766144114062_f16e817e_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [72, 310, 299, 712] 区域会发生什么？请从下列选项中选择一个回答：
A. 进入“海澜优选专享店”的店铺首页
B. 收藏该羽绒服商品
C. 将该羽绒服以默认款式和尺码加入购物车
D. 进入该羽绒服的商品详情页 | D | {
"ability": "action_anticipation",
"bbox": [
72,
310,
299,
712
],
"devices": "Windows",
"step_id": 4,
"task_id": 825,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1766387588360_d2dd16cc_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [1180, 347, 1219, 386] 区域会发生什么？请从下列选项中选择一个回答：
A. 切换到扫码登录方式
B. 最小化抖音应用程序窗口
C. 关闭整个抖音应用程序
D. 关闭登录弹窗 | D | {
"ability": "action_anticipation",
"bbox": [
1180,
347,
1219,
386
],
"devices": "Windows",
"step_id": 2,
"task_id": 254,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1764047360044_b1e2d0e2_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [450, 743, 873, 1153] 区域会发生什么？请从下列选项中选择一个回答：
A. 进入神枪手频道页面
B. 进入蜜雪冰城店铺页面
C. 进入拼好饭精选页面
D. 直接进入神枪手频道内的超倍补页面 | A | {
"ability": "action_anticipation",
"bbox": [
450,
743,
873,
1153
],
"devices": "iOS",
"step_id": 1,
"task_id": 500,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1765960560409_6ddf893e_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [95, 197, 676, 283] 区域会发生什么？请从下列选项中选择一个回答：
A. 进入搜索页面，准备输入搜索关键词
B. 启动相机或相册，以进行图片搜索
C. 直接搜索“林氏家居大床”，并展示搜索结果
D. 启动应用的扫码功能，用于扫描商品条形码 | A | {
"ability": "action_anticipation",
"bbox": [
95,
197,
676,
283
],
"devices": "Android",
"step_id": 1,
"task_id": 482,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1765956673860_ec38ba48_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [605, 269, 1055, 418] 区域会发生什么？请从下列选项中选择一个回答：
A. 进入选择联系人以创建群聊的页面
B. 弹出一个包含所有群聊的列表
C. 跳转到添加朋友的页面
D. 直接进入面对面建群并输入数字的页面 | A | {
"ability": "action_anticipation",
"bbox": [
605,
269,
1055,
418
],
"devices": "Android",
"step_id": 2,
"task_id": 77,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/77-2.png"
}
} |
<image_1>基于当前界面，如果用户点击了 [228, 287, 824, 427] 区域会发生什么？请从下列选项中选择一个回答：
A. 清除已选择的“奥迪”品牌，筛选条件变回“不限品牌”
B. 将品牌筛选条件设置为“奥迪-奥迪A6L”
C. 页面刷新，但筛选条件和页面状态保持不变
D. 将品牌筛选条件设置为“奥迪-不限”，并返回二手车列表页面 | D | {
"ability": "action_anticipation",
"bbox": [
228,
287,
824,
427
],
"devices": "iOS",
"step_id": 5,
"task_id": 472,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1766136703267_e3660ce5_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [802, 856, 955, 1058] 区域会发生什么？请从下列选项中选择一个回答：
A. 查找并显示附近的中医馆地图
B. 立即咨询在线中医医生
C. 筛选当前“看病买药”页面的商品，只显示中医药品
D. 进入“中医/养生”分类页面，查看相关商户和服务 | D | {
"ability": "action_anticipation",
"bbox": [
802,
856,
955,
1058
],
"devices": "iOS",
"step_id": 3,
"task_id": 885,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1766474713247_6085dea6_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [23, 547, 138, 581] 区域会发生什么？请从下列选项中选择一个回答：
A. 会弹出“行高”设置对话框，可以手动输入行高数值。
B. 会弹出“列宽”设置对话框，可以手动输入列宽数值。
C. 会自动将选中行的行高调整为最适合内容的高度。
D. 会弹出“设置单元格格式”对话框，可以设置字体、对齐、边框等多种格式。 | A | {
"ability": "action_anticipation",
"bbox": [
23,
547,
138,
581
],
"devices": "Windows",
"step_id": 8,
"task_id": 951,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1767084891464_9dabbe1c_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [68, 99, 578, 154] 区域会发生什么？请从下列选项中选择一个回答：
A. 会激活搜索框，并弹出键盘，以便输入想要查找的药品
B. 会返回到“看病买药”的主页面
C. 会直接显示“川贝枇杷止咳糖浆”的搜索结果
D. 会跳转到美团全局搜索页面，搜索所有商家和商品 | A | {
"ability": "action_anticipation",
"bbox": [
68,
99,
578,
154
],
"devices": "iOS",
"step_id": 4,
"task_id": 651,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1766629011392_06ca9af9_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [2514, 1058, 2964, 1129] 区域会发生什么？请从下列选项中选择一个回答：
A. 会打开一个包含更多详细选项的事件编辑窗口
B. 会弹出一个迷你日历视图，以便用户直接点选新的日期
C. 将日期和时间区域变为可编辑状态，允许用户通过键盘修改
D. 会立即保存“Q2项目会议”事件，并将其固定在12月16日的日历上 | C | {
"ability": "action_anticipation",
"bbox": [
2514,
1058,
2964,
1129
],
"devices": "macOS",
"step_id": 5,
"task_id": 451,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1766049311773_dbd20c2c_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [548, 76, 605, 113] 区域会发生什么？请从下列选项中选择一个回答：
A. 会直接打开文件浏览器，以选择要插入的附件
B. 会在当前工作簿中新建一个名为“Sheet2”的空白工作表
C. 会切换到‘插入’功能区，显示用于插入图片、图表、附件等对象的工具
D. 会将剪贴板中的内容粘贴到选中的单元格A1中 | C | {
"ability": "action_anticipation",
"bbox": [
548,
76,
605,
113
],
"devices": "macOS",
"step_id": 6,
"task_id": 357,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1765783095873_ee7a12d9_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [330, 817, 439, 869] 区域会发生什么？请从下列选项中选择一个回答：
A. 在输入框中的文字末尾换行
B. 将输入法切换为大写锁定模式
C. 将输入框中的文本“给我一条15字以内描写云朵的句子”发送给Deepseek
D. 打开相册，准备上传图片 | C | {
"ability": "action_anticipation",
"bbox": [
330,
817,
439,
869
],
"devices": "iOS",
"step_id": 3,
"task_id": 717,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1766124556817_88207467_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [91, 334, 183, 367] 区域会发生什么？请从下列选项中选择一个回答：
A. 将弹出区域筛选菜单，如“高新路”、“唐延路”等
B. 将按距离由近到远排序KTV列表
C. 将筛选出带有“神券”的商家
D. 将弹出排序方式选择菜单，如“好评优先”、“离我最近”等 | D | {
"ability": "action_anticipation",
"bbox": [
91,
334,
183,
367
],
"devices": "Android",
"step_id": 4,
"task_id": 855,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1766395072689_70b53367_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [478, 676, 529, 714] 区域会发生什么？请从下列选项中选择一个回答：
A. 将光标移动到“预估商品费”输入框
B. 提交帮买订单
C. 收起键盘
D. 将“塔斯汀招牌汉堡”保存为常用购买项 | C | {
"ability": "action_anticipation",
"bbox": [
478,
676,
529,
714
],
"devices": "Android",
"step_id": 5,
"task_id": 630,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1766565321614_fc265042_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [36, 782, 1043, 1072] 区域会发生什么？请从下列选项中选择一个回答：
A. 进入该笔“发普通红包”的交易详情页面
B. 跳转到发红包的页面，再发一个红包
C. 显示12月份的收支分析报告
D. 筛选出所有红包相关的记录 | A | {
"ability": "action_anticipation",
"bbox": [
36,
782,
1043,
1072
],
"devices": "iOS",
"step_id": 7,
"task_id": 895,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1766478062083_5fddbdc3_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [783, 689, 889, 709] 区域会发生什么？请从下列选项中选择一个回答：
A. 允许用户选择另一个Excel文件作为数据源
B. 在新工作表中创建一个空白的数据透视表
C. 将数据透视表的放置位置选项更改为“现有工作表”
D. 确认创建数据透视表并将其放置在A18单元格 | C | {
"ability": "action_anticipation",
"bbox": [
783,
689,
889,
709
],
"devices": "Windows",
"step_id": 7,
"task_id": 950,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1767162801850_f9f30de3_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [190, 332, 316, 405] 区域会发生什么？请从下列选项中选择一个回答：
A. 开始搜索宝鸡市的民宿
B. 页面会切换到钟点房搜索频道
C. 页面会跳转到景点游玩频道
D. 页面会切换到民宿搜索频道 | D | {
"ability": "action_anticipation",
"bbox": [
190,
332,
316,
405
],
"devices": "iOS",
"step_id": 3,
"task_id": 140,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1763717165596_7bedd7dd_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [621, 1076, 736, 1185] 区域会发生什么？请从下列选项中选择一个回答：
A. 确认选择“今天”作为演出筛选时间，并以“距离最近”的方式对结果进行排序
B. 确认时间选择后，直接进入按“距离”排序的筛选页面
C. 以“全部时间”为筛选条件，返回演出列表页面
D. 确认选择“今天”作为演出筛选时间，并返回演出列表页面 | D | {
"ability": "action_anticipation",
"bbox": [
621,
1076,
736,
1185
],
"devices": "iOS",
"step_id": 6,
"task_id": 874,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1766471700612_9efd94c4_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [1233, 807, 1333, 838] 区域会发生什么？请从下列选项中选择一个回答：
A. 打开文件选择窗口以发送文件
B. 将输入框中的小红书链接发送给联系人“饼干”
C. 将已复制的小红书链接再次粘贴到输入框中
D. 切换回谷歌浏览器的小红书界面 | B | {
"ability": "action_anticipation",
"bbox": [
1233,
807,
1333,
838
],
"devices": "Windows",
"step_id": 8,
"task_id": 981,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1768292012826_c3a755b1_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [16, 562, 869, 670] 区域会发生什么？请从下列选项中选择一个回答：
A. 进入总资产页面，显示用户的资产明细
B. 进入账单页面，显示用户的交易记录
C. 显示本月账单的汇总统计图表
D. 进入还款页面，显示所有待还款项 | B | {
"ability": "action_anticipation",
"bbox": [
16,
562,
869,
670
],
"devices": "iOS",
"step_id": 3,
"task_id": 780,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1766110662349_97144c7c_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [254, 171, 437, 251] 区域会发生什么？请从下列选项中选择一个回答：
A. 跳转到地图页面以选择购买地点
B. 确认订单类型为“帮我买”并下单
C. 切换到“帮我买”服务页面
D. 刷新页面，重新获取附近的骑手信息 | C | {
"ability": "action_anticipation",
"bbox": [
254,
171,
437,
251
],
"devices": "Android",
"step_id": 1,
"task_id": 621,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1766562521606_88154d8a_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [2502, 525, 2521, 594] 区域会发生什么？请从下列选项中选择一个回答：
A. 选中“《菜根谭》”这个词语
B. 打开“段落”设置对话框
C. 选中正文第一行“《菜根谭》有言：‘处世让一步为高...’”的全部内容
D. 将文本光标定位在正文第一行“《菜根谭》”之前 | D | {
"ability": "action_anticipation",
"bbox": [
2502,
525,
2521,
594
],
"devices": "macOS",
"step_id": 2,
"task_id": 941,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1767080715302_41893a9a_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [914, 864, 1037, 910] 区域会发生什么？请从下列选项中选择一个回答：
A. 将已选好规格的“无骨炸鸡汤咖喱+米饭”加入购物车
B. 将“雪野家手工猪肉丸”加入购物车
C. 关闭当前弹窗，并弹出数量选择窗口
D. 直接跳转到订单支付页面 | A | {
"ability": "action_anticipation",
"bbox": [
914,
864,
1037,
910
],
"devices": "iPadOS",
"step_id": 11,
"task_id": 847,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1766394865902_601e7a83_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [136, 888, 422, 936] 区域会发生什么？请从下列选项中选择一个回答：
A. 弹出路线分享的选项
B. 显示当前路线的详细文字步骤列表
C. 开始当前选择的电动车路线的实时导航
D. 切换到另一条'荫凉多'的电动车路线方案 | C | {
"ability": "action_anticipation",
"bbox": [
136,
888,
422,
936
],
"devices": "Android",
"step_id": 6,
"task_id": 155,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1763962719152_b8fb5db2_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [362, 44, 422, 93] 区域会发生什么？请从下列选项中选择一个回答：
A. 返回到上一个页面。
B. 清空搜索框中的文字“秋冬美甲”。
C. 搜索列表中的第一个建议“秋冬美甲中长款”。
D. 执行对“秋冬美甲”的搜索，并显示搜索结果页面。 | D | {
"ability": "action_anticipation",
"bbox": [
362,
44,
422,
93
],
"devices": "Android",
"step_id": 4,
"task_id": 96,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1763718791102_f23acbac_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [623, 273, 918, 590] 区域会发生什么？请从下列选项中选择一个回答：
A. 直接进入添加银行卡的页面
B. 进入充值页面，为钱包余额充值
C. 进入“收付款”页面，显示付款码
D. 进入钱包页面，可以管理银行卡或查看余额 | D | {
"ability": "action_anticipation",
"bbox": [
623,
273,
918,
590
],
"devices": "iOS",
"step_id": 4,
"task_id": 766,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1766055454484_7c97a2c5_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [1290, 250, 1360, 297] 区域会发生什么？请从下列选项中选择一个回答：
A. 将在浏览器中搜索关键词“马蜂窝”，并跳转到搜索结果页面
B. 将直接跳转到“马蜂窝”官网首页
C. 将清除搜索框中的文字“马蜂窝”
D. 将收起搜索建议的下拉列表，但页面不发生跳转 | A | {
"ability": "action_anticipation",
"bbox": [
1290,
250,
1360,
297
],
"devices": "Windows",
"step_id": 3,
"task_id": 655,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1766630296391_baa7bcaf_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [509, 247, 592, 290] 区域会发生什么？请从下列选项中选择一个回答：
A. 刷新当前的娱乐新闻列表
B. 在当前页面下方弹出电影分类的筛选菜单
C. 打开腾讯视频APP并进入电影频道
D. 进入“娱乐”下的“电影”频道 | D | {
"ability": "action_anticipation",
"bbox": [
509,
247,
592,
290
],
"devices": "iOS",
"step_id": 2,
"task_id": 418,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1765938809243_b0547acb_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [362, 699, 487, 729] 区域会发生什么？请从下列选项中选择一个回答：
A. 将筛选条件增加“浦东国际机场”，并刷新航班列表以仅显示从该机场出发的航班
B. 按照起飞机场对现有航班列表进行排序，但不会移除任何航班
C. 将航班列表中从“浦东国际机场”出发的航班信息高亮显示
D. 收起“起飞机场”的下拉筛选菜单，不应用任何筛选条件 | A | {
"ability": "action_anticipation",
"bbox": [
362,
699,
487,
729
],
"devices": "macOS",
"step_id": 15,
"task_id": 214,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1763620781314_2dbadf2f_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [175, 251, 771, 273] 区域会发生什么？请从下列选项中选择一个回答：
A. 删除“New folder”文件夹
B. 选中“New folder”文件夹
C. 打开“New folder”文件夹
D. 重命名“New folder”文件夹 | B | {
"ability": "action_anticipation",
"bbox": [
175,
251,
771,
273
],
"devices": "Windows",
"step_id": 2,
"task_id": 338,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1765422813729_41e3df13_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [1172, 897, 1320, 925] 区域会发生什么？请从下列选项中选择一个回答：
A. 将买入币种选择为“欧元”，并自动在“买入金额”处填入“1000”
B. 将买入币种选择为“欧元”
C. 将卖出币种选择为“欧元”
D. 将买入币种选择为“日元” | B | {
"ability": "action_anticipation",
"bbox": [
1172,
897,
1320,
925
],
"devices": "Windows",
"step_id": 10,
"task_id": 202,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1763956261236_374aea0b_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [205, 290, 412, 324] 区域会发生什么？请从下列选项中选择一个回答：
A. 直接跳转到渣打银行的个人房地产抵押贷款申请页面。
B. 进入渣打银行（中国）的官方网站。
C. 在当前页面重新搜索“渣打银行（中国）官网”。
D. 打开关于渣打银行的百度百科页面。 | B | {
"ability": "action_anticipation",
"bbox": [
205,
290,
412,
324
],
"devices": "macOS",
"step_id": 4,
"task_id": 773,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1766110620288_0cca1845_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [869, 581, 1003, 614] 区域会发生什么？请从下列选项中选择一个回答：
A. 将关闭此弹窗并返回地图主界面
B. 将打开“系统设置”，并跳转到“隐私与安全性”的定位服务页面
C. 将尝试使用网络进行粗略定位，并在地图上显示大致位置
D. 将在地图应用内直接开启定位服务 | B | {
"ability": "action_anticipation",
"bbox": [
869,
581,
1003,
614
],
"devices": "macOS",
"step_id": 2,
"task_id": 252,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1763626285069_53871a92_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [1003, 660, 1090, 710] 区域会发生什么？请从下列选项中选择一个回答：
A. 确认将垃圾箱的自动清理时间更改为“每次退出邮箱自动清空”，并关闭弹窗
B. 将“已删除”文件夹的自动清理时间更改为“每次退出邮箱自动清空”
C. 关闭弹窗，但不会保存已选择的设置
D. 立即清空垃圾箱内的所有邮件 | A | {
"ability": "action_anticipation",
"bbox": [
1003,
660,
1090,
710
],
"devices": "macOS",
"step_id": 5,
"task_id": 363,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1765781901115_5f1c9093_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [1649, 1445, 1848, 1545] 区域会发生什么？请从下列选项中选择一个回答：
A. 将搜索结果筛选为仅显示天猫商城的商品
B. 将商品按照天猫推荐度进行排序
C. 跳转到天猫APP或天猫首页
D. 搜索名为'天猫'的店铺 | A | {
"ability": "action_anticipation",
"bbox": [
1649,
1445,
1848,
1545
],
"devices": "Windows",
"step_id": 4,
"task_id": 834,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1766388671159_92f1a1ec_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [232, 2005, 375, 2211] 区域会发生什么？请从下列选项中选择一个回答：
A. 跳转到微信授权页面，绑定菜鸟好友
B. 复制该快递的运单号到剪贴板
C. 将快递信息保存为图片并发送到微信
D. 将快递信息以卡片形式分享到微信 | D | {
"ability": "action_anticipation",
"bbox": [
232,
2005,
375,
2211
],
"devices": "iOS",
"step_id": 4,
"task_id": 238,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1763953330718_e6f8a537_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [33, 533, 708, 664] 区域会发生什么？请从下列选项中选择一个回答：
A. 展开下拉菜单显示历史搜索城市
B. 直接开始搜索位于秦皇岛的酒店
C. 自动将城市定位到用户当前所在位置
D. 进入城市选择页面 | D | {
"ability": "action_anticipation",
"bbox": [
33,
533,
708,
664
],
"devices": "iOS",
"step_id": 1,
"task_id": 517,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1765963411942_78867e9b_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [409, 429, 558, 448] 区域会发生什么？请从下列选项中选择一个回答：
A. 选中名为《长津湖》观后感.docx的文档
B. 打开名为《长津湖》观后感.docx的文档
C. 打开文件所在的文件夹 D:\
D. 弹出包含打开、删除等选项的菜单 | B | {
"ability": "action_anticipation",
"bbox": [
409,
429,
558,
448
],
"devices": "Windows",
"step_id": 2,
"task_id": 440,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1765940798825_72da3766_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [1116, 549, 1398, 601] 区域会发生什么？请从下列选项中选择一个回答：
A. 收藏“香槟色 涂鸦热带鱼 (深粉)”这一款式
B. 选择地毯的颜色为“香槟色 涂鸦热带鱼 (深粉)”
C. 将左侧的商品主图切换为“香槟色 涂鸦热带鱼 (深粉)”款式
D. 将“香槟色 涂鸦热带鱼 (深粉)”款式的地毯加入购物车 | B | {
"ability": "action_anticipation",
"bbox": [
1116,
549,
1398,
601
],
"devices": "macOS",
"step_id": 4,
"task_id": 693,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1767665482054_3686b1d8_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [1746, 419, 1881, 450] 区域会发生什么？请从下列选项中选择一个回答：
A. 将查询日期自动设置为近一个月
B. 导出当前页面的收支明细为Excel文件
C. 页面将跳转至收支分析界面
D. 在当前页面以图表形式展示2025年的收支分析 | C | {
"ability": "action_anticipation",
"bbox": [
1746,
419,
1881,
450
],
"devices": "Windows",
"step_id": 3,
"task_id": 897,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1767676040372_b165af53_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [1, 1201, 1075, 1331] 区域会发生什么？请从下列选项中选择一个回答：
A. 进入账号与安全页面
B. 进入隐私设置页面
C. 直接关闭“允许评论带图”功能
D. 开启或关闭微博的隐私保护模式 | B | {
"ability": "action_anticipation",
"bbox": [
1,
1201,
1075,
1331
],
"devices": "Android",
"step_id": 4,
"task_id": 216,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1764220198404_8b84f625_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [21, 1234, 1059, 1651] 区域会发生什么？请从下列选项中选择一个回答：
A. 进入“蜜雪冰城 | 黑糖珍珠撞奶”的团购详情页面
B. 进入“蜜雪冰城（桥东街店）”的店铺主页，查看该店所有团购
C. 打开地图并开始导航至“蜜雪冰城（桥东街店）”
D. 直接进入“黑糖珍珠撞奶”的下单支付页面 | A | {
"ability": "action_anticipation",
"bbox": [
21,
1234,
1059,
1651
],
"devices": "Android",
"step_id": 2,
"task_id": 530,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1765966253587_bfc2c8d0_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [270, 327, 337, 345] 区域会发生什么？请从下列选项中选择一个回答：
A. 展开高级查询选项，以便按金额范围进行筛选
B. 查询并显示尾号为4697的账户最近三个月的交易记录
C. 仅将日期范围设置为最近三个月，需手动点击查询才会刷新结果
D. 筛选并仅显示最近三个月内的支出交易记录 | B | {
"ability": "action_anticipation",
"bbox": [
270,
327,
337,
345
],
"devices": "Windows",
"step_id": 3,
"task_id": 770,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1766110494857_fab6c1fb_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [456, 1167, 862, 1265] 区域会发生什么？请从下列选项中选择一个回答：
A. 会进入下一步筛选流程，让用户选择酒店设施如'健身房'
B. 会应用当前已选的'价格¥300-400'筛选条件，并返回更新后的酒店列表页面
C. 会重置所有筛选条件，并返回未筛选的酒店列表页面
D. 会保留'价格¥300-400'的筛选条件，但仅关闭当前筛选弹窗，不更新酒店列表 | B | {
"ability": "action_anticipation",
"bbox": [
456,
1167,
862,
1265
],
"devices": "iOS",
"step_id": 10,
"task_id": 142,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1764037388115_82abd86c_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [1395, 398, 1640, 422] 区域会发生什么？请从下列选项中选择一个回答：
A. 会使用默认的图片查看器打开名为“壁纸”的图片
B. 会弹出一个新窗口，显示名为“壁纸”的图片的详细信息
C. 会通过“快速查看”功能预览名为“壁纸”的图片
D. 会进入重命名模式，允许用户修改“壁纸”这个文件名 | B | {
"ability": "action_anticipation",
"bbox": [
1395,
398,
1640,
422
],
"devices": "macOS",
"step_id": 2,
"task_id": 40,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1763615791949_3b727f75_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [112, 70, 169, 119] 区域会发生什么？请从下列选项中选择一个回答：
A. 成功加载百度热搜“全球首款水运‘高铁’来了”的页面
B. 返回到上一个成功加载的页面
C. 尝试重新加载当前显示“未连接到互联网”的百度页面
D. 打开Windows网络诊断工具来检查网络问题 | C | {
"ability": "action_anticipation",
"bbox": [
112,
70,
169,
119
],
"devices": "Windows",
"step_id": 3,
"task_id": 271,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/271-3.png"
}
} |
<image_1>基于当前界面，如果用户点击了 [303, 53, 419, 82] 区域会发生什么？请从下列选项中选择一个回答：
A. 进入账单页面，查看交易记录
B. 直接生成并下载2020年的年度账单报告
C. 切换钱包视图，显示所有交易的汇总图表
D. 打开支付设置页面，管理交易限额 | A | {
"ability": "action_anticipation",
"bbox": [
303,
53,
419,
82
],
"devices": "Android",
"step_id": 5,
"task_id": 900,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1766652649755_4557ee31_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [32, 1702, 848, 1809] 区域会发生什么？请从下列选项中选择一个回答：
A. 弹出窗口，要求用户为新模版输入一个自定义名称
B. 将当前页面的信息保存为草稿，以便后续继续编辑
C. 将当前填写的取/收件地址及物品类型等信息保存为一个新的发单模版
D. 使用当前填写的地址和物品信息直接创建一个新的跑腿订单 | C | {
"ability": "action_anticipation",
"bbox": [
32,
1702,
848,
1809
],
"devices": "iOS",
"step_id": 11,
"task_id": 636,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1766569260540_70884352_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [1540, 1129, 1592, 1177] 区域会发生什么？请从下列选项中选择一个回答：
A. 将结束日期（Ending Date）选择为2025年12月1日
B. 将日历切换到上一个月（11月）
C. 选择12月1日并立即开始查询交易明细
D. 将起始日期（Starting Date）选择为2025年12月1日 | D | {
"ability": "action_anticipation",
"bbox": [
1540,
1129,
1592,
1177
],
"devices": "macOS",
"step_id": 3,
"task_id": 757,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1767065652853_2c8124dc_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [2956, 645, 3070, 724] 区域会发生什么？请从下列选项中选择一个回答：
A. 将个人主页设为私密
B. 进入账号与安全设置页面
C. 进入应用的设置页面
D. 进入编辑个人资料页面 | C | {
"ability": "action_anticipation",
"bbox": [
2956,
645,
3070,
724
],
"devices": "iPadOS",
"step_id": 3,
"task_id": 969,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1767089744762_7b666c1d_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [562, 1019, 711, 1181] 区域会发生什么？请从下列选项中选择一个回答：
A. 在搜索框中输入“果味酒”并进行搜索
B. 跳转到页面第一个商家“美团自营”的店铺主页
C. 筛选出“15分钟达”的果味酒商家
D. 筛选并显示售卖“果味酒”的商家列表 | D | {
"ability": "action_anticipation",
"bbox": [
562,
1019,
711,
1181
],
"devices": "iPadOS",
"step_id": 4,
"task_id": 135,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1763722157114_aacce861_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [37, 1952, 1037, 2131] 区域会发生什么？请从下列选项中选择一个回答：
A. 会打开一个包含多种系统字体的列表供选择
B. 会直接将字体大小恢复默认
C. 会放大整个页面的显示内容
D. 会进入“显示和字体大小”的设置页面 | D | {
"ability": "action_anticipation",
"bbox": [
37,
1952,
1037,
2131
],
"devices": "Android",
"step_id": 3,
"task_id": 727,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1766115573013_11acd28f_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [1, 357, 180, 474] 区域会发生什么？请从下列选项中选择一个回答：
A. 将搜索结果按价格从低到高排序
B. 弹出商品成色的筛选菜单，例如“全新”、“几乎全新”
C. 重置所有已选的筛选条件，并刷新搜索结果
D. 弹出排序方式的选项菜单，包含“综合排序”、“离我最近”等选项 | D | {
"ability": "action_anticipation",
"bbox": [
1,
357,
180,
474
],
"devices": "Android",
"step_id": 5,
"task_id": 491,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1766136754059_9c234b79_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [402, 1140, 472, 1171] 区域会发生什么？请从下列选项中选择一个回答：
A. 重新发送主题为“我们在等你”的邮件
B. 将当前邮件保存到草稿箱
C. 关闭当前邮件编辑窗口
D. 设置邮件的定时发送时间 | A | {
"ability": "action_anticipation",
"bbox": [
402,
1140,
472,
1171
],
"devices": "macOS",
"step_id": 4,
"task_id": 276,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/276-4.png"
}
} |
<image_1>基于当前界面，如果用户点击了 [49, 541, 181, 732] 区域会发生什么？请从下列选项中选择一个回答：
A. 直接进入汪峰的相关演唱会列表
B. 进入演唱会列表页面，以浏览和选择各类演唱会
C. 显示当前城市（长沙）所有即将开始的演唱会日历
D. 切换到底部导航栏的“演出”标签页 | B | {
"ability": "action_anticipation",
"bbox": [
49,
541,
181,
732
],
"devices": "iOS",
"step_id": 1,
"task_id": 608,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1766554036429_4b80b96a_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [321, 399, 423, 444] 区域会发生什么？请从下列选项中选择一个回答：
A. 将关注列表按最新关注时间排序
B. 弹出排序方式菜单，可选择按“最早关注”或“最新关注”等方式排序
C. 将关注列表按最早关注时间排序
D. 刷新“我的关注”列表 | B | {
"ability": "action_anticipation",
"bbox": [
321,
399,
423,
444
],
"devices": "Android",
"step_id": 4,
"task_id": 93,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1764039605052_4ff904a3_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [619, 911, 709, 949] 区域会发生什么？请从下列选项中选择一个回答：
A. 进入与卖家“冥王星修行的鲨鱼”的聊天界面
B. 查看其他用户对该商品的评论
C. 立即下单购买此款手机云台
D. 将此款手机云台加入收藏夹 | A | {
"ability": "action_anticipation",
"bbox": [
619,
911,
709,
949
],
"devices": "iPadOS",
"step_id": 6,
"task_id": 477,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1765956562303_bd6b642f_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [50, 1359, 1570, 1551] 区域会发生什么？请从下列选项中选择一个回答：
A. 进入余额收支明细的完整列表页面
B. 弹出筛选选项，可以按收入或支出筛选明细
C. 显示第一条“扫收钱码付款”交易的详细信息
D. 刷新当前的余额变动明细列表 | A | {
"ability": "action_anticipation",
"bbox": [
50,
1359,
1570,
1551
],
"devices": "iPadOS",
"step_id": 3,
"task_id": 762,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1766054910813_7432163e_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [208, 859, 346, 1023] 区域会发生什么？请从下列选项中选择一个回答：
A. 将当前的商品列表按好评度从高到低排序
B. 切换到“美食”分类，并刷新下方的商品列表以显示美食相关的团购
C. 展开美食的子分类菜单，如“火锅”、“小吃快餐”等
D. 在顶部的搜索框中自动填充“美食”并进行搜索 | B | {
"ability": "action_anticipation",
"bbox": [
208,
859,
346,
1023
],
"devices": "iOS",
"step_id": 3,
"task_id": 857,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1766396181196_6dc713e2_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [481, 506, 844, 537] 区域会发生什么？请从下列选项中选择一个回答：
A. 查询从杭州到长沙，2025年12月31日出发的高铁/动车车票
B. 查询从长沙到杭州，2025年12月31日出发的所有类型车票
C. 查询从长沙到杭州，2025年12月31日出发的高铁/动车车票
D. 查询从长沙到杭州，2025年12月31日出发的学生票 | C | {
"ability": "action_anticipation",
"bbox": [
481,
506,
844,
537
],
"devices": "Windows",
"step_id": 10,
"task_id": 656,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1767062678551_f960b974_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [1203, 355, 1342, 420] 区域会发生什么？请从下列选项中选择一个回答：
A. 页面将筛选出与“巧克力”口味相关的曲奇饼干
B. 在搜索框的“曲奇饼干”后添加“巧克力”并重新搜索
C. 跳转到“巧克力”品类的专属页面
D. 将商品列表按与“巧克力”口味的相关度进行排序 | A | {
"ability": "action_anticipation",
"bbox": [
1203,
355,
1342,
420
],
"devices": "macOS",
"step_id": 3,
"task_id": 836,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1767679867513_d534aba2_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [187, 107, 275, 123] 区域会发生什么？请从下列选项中选择一个回答：
A. 切换到“一卡通”功能页面
B. 退出当前账户并返回登录界面
C. 直接打开“一卡通”交易记录的高级查询功能
D. 切换到“信用卡”功能页面 | A | {
"ability": "action_anticipation",
"bbox": [
187,
107,
275,
123
],
"devices": "Windows",
"step_id": 1,
"task_id": 771,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1766381860598_55ef4711_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [547, 1586, 1050, 1719] 区域会发生什么？请从下列选项中选择一个回答：
A. 将商家列表按“15分钟达”的配送速度从快到慢排序
B. 应用“美团专送”和“15分钟达”的筛选条件，并更新商家列表
C. 重置所有筛选条件，显示全部商家
D. 筛选后直接进入“水果地带”商家的点单页 | B | {
"ability": "action_anticipation",
"bbox": [
547,
1586,
1050,
1719
],
"devices": "iOS",
"step_id": 7,
"task_id": 134,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/134-7.png"
}
} |
<image_1>基于当前界面，如果用户点击了 [595, 629, 654, 685] 区域会发生什么？请从下列选项中选择一个回答：
A. 打开“淘宝双12”活动的主会场页面
B. 打开“淘宝”应用程序
C. 直接进入“淘宝直播”页面
D. 进入主屏幕编辑模式，可以移动“淘宝”应用 | B | {
"ability": "action_anticipation",
"bbox": [
595,
629,
654,
685
],
"devices": "iPadOS",
"step_id": 1,
"task_id": 480,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1765956467182_76b7a45c_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [351, 765, 619, 840] 区域会发生什么？请从下列选项中选择一个回答：
A. 弹出“单人票”的详细信息，如座位区域说明
B. 将已选的“2025-12-22 周一 20:00”场次取消选择
C. 直接跳转到“确认购票”页面
D. 选中“单人票”，底部的“请选择票档”按钮将变为可点击状态 | D | {
"ability": "action_anticipation",
"bbox": [
351,
765,
619,
840
],
"devices": "iPadOS",
"step_id": 7,
"task_id": 875,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1766564169170_626dc5db_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [1392, 233, 1485, 269] 区域会发生什么？请从下列选项中选择一个回答：
A. 将搜索结果按照发布时间从新到旧进行排序
B. 将搜索结果按照点赞数量从高到低进行排序
C. 筛选出视频时长在1分钟以下的内容
D. 关闭筛选菜单，搜索结果不发生变化 | B | {
"ability": "action_anticipation",
"bbox": [
1392,
233,
1485,
269
],
"devices": "macOS",
"step_id": 5,
"task_id": 796,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1765451378175_dbd2d607_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [34, 356, 852, 471] 区域会发生什么？请从下列选项中选择一个回答：
A. 将蜂窝数据的使用切换为副卡
B. 开启“允许切换蜂窝数据”功能
C. 停用副卡的蜂窝网络功能
D. 进入副卡的详细设置页面 | A | {
"ability": "action_anticipation",
"bbox": [
34,
356,
852,
471
],
"devices": "iOS",
"step_id": 5,
"task_id": 681,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1766127066703_1aa0537f_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [665, 663, 827, 858] 区域会发生什么？请从下列选项中选择一个回答：
A. 弹出包含“果切”、“蔬菜”等子分类的菜单
B. 在搜索框中自动输入并搜索“蔬菜水果”
C. 在“附近商家”列表中筛选出蔬菜水果店
D. 进入蔬菜水果频道页面 | D | {
"ability": "action_anticipation",
"bbox": [
665,
663,
827,
858
],
"devices": "iOS",
"step_id": 2,
"task_id": 134,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/134-2.png"
}
} |
<image_1>基于当前界面，如果用户点击了 [599, 1027, 760, 1068] 区域会发生什么？请从下列选项中选择一个回答：
A. 将“可售状态”筛选条件设置为“在售”，并更新符合条件的基金数量
B. 同时筛选出所有“在售”且风险等级为“R3中等风险”的基金
C. 将“可售状态”设置为“在售”，但需点击“快速查询”按钮后才会更新基金列表
D. 完成“可售状态”的选择并自动展开“风险等级”的选项供用户选择 | A | {
"ability": "action_anticipation",
"bbox": [
599,
1027,
760,
1068
],
"devices": "Windows",
"step_id": 8,
"task_id": 203,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1763964893557_efbd9b70_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [459, 345, 620, 545] 区域会发生什么？请从下列选项中选择一个回答：
A. 进入酒店民宿的搜索预订页面
B. 在首页顶部的搜索框中自动输入“酒店民宿”
C. 直接展示当前位置（腾讯成都大厦-B楼）附近的酒店列表
D. 进入酒店搜索页面，并自动筛选出“钟点房” | A | {
"ability": "action_anticipation",
"bbox": [
459,
345,
620,
545
],
"devices": "iOS",
"step_id": 1,
"task_id": 525,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1768288843749_4dc949c0_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [486, 290, 802, 368] 区域会发生什么？请从下列选项中选择一个回答：
A. 查看好友“Y.who”的个人资料
B. 弹出菜单，可选择“取消置顶”、“删除会话”等选项
C. 向好友“Y.who”发起语音通话
D. 进入与好友“Y.who”的聊天界面 | D | {
"ability": "action_anticipation",
"bbox": [
486,
290,
802,
368
],
"devices": "macOS",
"step_id": 2,
"task_id": 803,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1767665080681_9496cd92_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [687, 392, 834, 422] 区域会发生什么？请从下列选项中选择一个回答：
A. 复制该条地址信息到剪贴板
B. 在微信聊天记录中搜索包含该地址的所有消息
C. 弹出转发窗口，将该地址信息转发给其他联系人
D. 直接在地图（Maps）应用中打开并定位该地址 | A | {
"ability": "action_anticipation",
"bbox": [
687,
392,
834,
422
],
"devices": "macOS",
"step_id": 2,
"task_id": 788,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1765448549852_cb1d03a7_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [981, 258, 1051, 283] 区域会发生什么？请从下列选项中选择一个回答：
A. 会将文件列表直接按照修改日期的先后顺序进行排列。
B. 会弹出一个菜单，提供按名称、修改日期、类型等多种排序方式的选项。
C. 会将文件列表按名称从 Z 到 A 的顺序进行降序排列。
D. 会将文件列表的视图切换为大图标模式。 | B | {
"ability": "action_anticipation",
"bbox": [
981,
258,
1051,
283
],
"devices": "Windows",
"step_id": 4,
"task_id": 438,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1765940346025_ce62c384_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [1236, 99, 1419, 164] 区域会发生什么？请从下列选项中选择一个回答：
A. 会打开微博故事的拍摄和编辑界面
B. 会发布一条纯文字微博，内容为“你好十月”
C. 会进入微博的发布编辑页面
D. 会直接打开手机相册，选择图片发布 | C | {
"ability": "action_anticipation",
"bbox": [
1236,
99,
1419,
164
],
"devices": "iPadOS",
"step_id": 2,
"task_id": 92,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1763973370903_ce4eec7f_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [1272, 32, 1329, 81] 区域会发生什么？请从下列选项中选择一个回答：
A. 清除搜索框中已输入的文字“鸡尾酒教程”。
B. 在Bilibili应用中执行对“鸡尾酒教程”的搜索，并跳转到搜索结果页面。
C. 刷新当前的Bilibili首页内容。
D. 将Bilibili应用窗口最小化到任务栏。 | B | {
"ability": "action_anticipation",
"bbox": [
1272,
32,
1329,
81
],
"devices": "Windows",
"step_id": 3,
"task_id": 262,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/262-3.png"
}
} |
<image_1>基于当前界面，如果用户点击了 [876, 320, 1224, 422] 区域会发生什么？请从下列选项中选择一个回答：
A. 将收货地址更改为“陕西 西安市 新城区 西一路街道 民生百货”
B. 确认订单并跳转到支付页面
C. 进入“民生百货”地址的编辑页面
D. 弹出新增收货地址的窗口 | A | {
"ability": "action_anticipation",
"bbox": [
876,
320,
1224,
422
],
"devices": "Windows",
"step_id": 7,
"task_id": 833,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1767584378507_9f83ffeb_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [1904, 1109, 2321, 1150] 区域会发生什么？请从下列选项中选择一个回答：
A. 在备忘录中创建一个指向“秋日山林”文档位置的超链接
B. 将备忘录中已有的“小故事”文档替换为“秋日山林”文档
C. 使用默认应用程序打开“秋日山林”文档
D. 将“秋日山林”文档作为附件插入到备忘录中 | D | {
"ability": "action_anticipation",
"bbox": [
1904,
1109,
2321,
1150
],
"devices": "macOS",
"step_id": 12,
"task_id": 936,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1767161603062_187a56a4_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [1, 1658, 1079, 1981] 区域会发生什么？请从下列选项中选择一个回答：
A. 进入电影《疯狂动物城2》的详情页
B. 筛选并展示所有评分为9.7分的电影
C. 直接跳转至《得闲谨制》的购票选座页面
D. 进入电影《得闲谨制》的详情页 | D | {
"ability": "action_anticipation",
"bbox": [
1,
1658,
1079,
1981
],
"devices": "iOS",
"step_id": 3,
"task_id": 615,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1767677396250_65d63e12_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [332, 270, 469, 311] 区域会发生什么？请从下列选项中选择一个回答：
A. 会弹出评分界面，可以对电影《得闲谨制》进行星级评分
B. 会显示已看过该电影的用户列表
C. 会将电影《得闲谨制》加入“想看”列表
D. 会跳转到电影《得闲谨制》的购票页面 | A | {
"ability": "action_anticipation",
"bbox": [
332,
270,
469,
311
],
"devices": "Android",
"step_id": 3,
"task_id": 614,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1766555079215_c0577051_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [1605, 1116, 1736, 1164] 区域会发生什么？请从下列选项中选择一个回答：
A. 将名为“手机销量”的表格保存到WPS云盘
B. 打开桌面文件夹以查看文件列表
C. 关闭“另存为”窗口，但不保存文件
D. 将名为“手机销量”的表格保存到桌面 | D | {
"ability": "action_anticipation",
"bbox": [
1605,
1116,
1736,
1164
],
"devices": "Windows",
"step_id": 10,
"task_id": 55,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/55-10.png"
}
} |
<image_1>基于当前界面，如果用户点击了 [873, 1837, 1070, 2112] 区域会发生什么？请从下列选项中选择一个回答：
A. 执行搜索，显示关于“北京五环房价”的搜索结果
B. 收起键盘，但不执行搜索
C. 将搜索框中的文字替换为第一条搜索建议“北京五环房价”
D. 清空搜索框中的所有文字 | A | {
"ability": "action_anticipation",
"bbox": [
873,
1837,
1070,
2112
],
"devices": "iOS",
"step_id": 4,
"task_id": 324,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1764567322238_b43c7fd4_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [936, 1335, 1069, 1403] 区域会发生什么？请从下列选项中选择一个回答：
A. 将当前订单信息保存为草稿
B. 立即开始呼叫骑手，并从默认支付方式中扣款
C. 提交跑腿订单并进入订单交易确认页面
D. 向好友发送代付请求 | C | {
"ability": "action_anticipation",
"bbox": [
936,
1335,
1069,
1403
],
"devices": "iPadOS",
"step_id": 12,
"task_id": 882,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1766473319765_c6fb831a_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [708, 844, 1045, 1264] 区域会发生什么？请从下列选项中选择一个回答：
A. 将粉色款iPad加入购物车
B. 查看粉色款iPad的放大图片
C. 切换到粉色款iPad的商品详情页
D. 选择“粉色”作为商品的机身颜色 | D | {
"ability": "action_anticipation",
"bbox": [
708,
844,
1045,
1264
],
"devices": "iOS",
"step_id": 8,
"task_id": 117,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1764037573779_310cdc23_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [24, 478, 128, 513] 区域会发生什么？请从下列选项中选择一个回答：
A. 查看小说《上上禧》的详情页
B. 将小说《上上禧》从浏览历史中移除
C. 将小说《上上禧》加入书架
D. 继续阅读小说《上上禧》 | C | {
"ability": "action_anticipation",
"bbox": [
24,
478,
128,
513
],
"devices": "iPadOS",
"step_id": 4,
"task_id": 8,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1763960985816_42cf25af_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [396, 137, 439, 177] 区域会发生什么？请从下列选项中选择一个回答：
A. 弹出订单筛选菜单，可按时间等条件筛选订单
B. 将订单列表按时间倒序排列
C. 刷新当前订单列表，获取最新订单信息
D. 取消“已完成”的订单状态筛选，显示所有状态的订单 | A | {
"ability": "action_anticipation",
"bbox": [
396,
137,
439,
177
],
"devices": "Android",
"step_id": 4,
"task_id": 775,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1766382399651_f74b6da1_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [158, 967, 267, 1013] 区域会发生什么？请从下列选项中选择一个回答：
A. 切换到“超倍补”分类，并筛选出相关商品
B. 刷新当前页面，以显示最新的商品列表
C. 打开一个弹窗，详细介绍“超倍补”活动规则
D. 在搜索框中输入“超倍补”，并开始搜索 | A | {
"ability": "action_anticipation",
"bbox": [
158,
967,
267,
1013
],
"devices": "iOS",
"step_id": 2,
"task_id": 500,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1765960674991_48cbf928_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [229, 977, 436, 1169] 区域会发生什么？请从下列选项中选择一个回答：
A. 将图片分享给好友一天炫八顿
B. 收藏该笔记到用户的收藏夹
C. 将当前显示的图片保存到手机本地相册
D. 使用搜图功能搜索图片中的连衣裙 | C | {
"ability": "action_anticipation",
"bbox": [
229,
977,
436,
1169
],
"devices": "iOS",
"step_id": 11,
"task_id": 244,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1763970948346_c3f0f502_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [23, 458, 1062, 1072] 区域会发生什么？请从下列选项中选择一个回答：
A. 将“大包子品质素馅【尝鲜价】”加入购物车
B. 将“古城包子（紫城一店）”收藏到“我的收藏”
C. 进入“古城包子（紫城一店）”的店铺主页
D. 调用地图应用，开始导航至“古城包子（紫城一店）” | C | {
"ability": "action_anticipation",
"bbox": [
23,
458,
1062,
1072
],
"devices": "iOS",
"step_id": 6,
"task_id": 509,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1765962398543_cd59d6cc_video_capture_frame.jpeg"
}
} |
<image_1>基于当前界面，如果用户点击了 [114, 591, 170, 631] 区域会发生什么？请从下列选项中选择一个回答：
A. 将选择的商品颜色切换为“黑色”
B. 查看该款单肩包黑色的商品详情
C. 关闭商品规格选择弹窗
D. 将黑色的蔻驰单肩包加入购物车 | A | {
"ability": "action_anticipation",
"bbox": [
114,
591,
170,
631
],
"devices": "Android",
"step_id": 8,
"task_id": 694,
"url": {
"<image_1>": "screenshots/abilities/action_anticipation/1766131992363_125acb69_video_capture_frame.jpeg"
}
} |
End of preview. Expand in Data Studio
UniGUI-Bench
A comprehensive benchmark for evaluating GUI agents across 11 capability dimensions.
Dataset Structure
System Evaluation
- trajectory: 1,200 complete GUI task trajectories with step-by-step screenshots
- gui_system: 7,108 individual step evaluation samples
Process Evaluation (11 Abilities, 200 samples each)
| Ability | Description |
|---|---|
| element_grounding | Locating UI elements given instructions |
| action_understanding | Understanding what action was performed |
| page_understanding | Comprehending page content and layout |
| action_anticipation | Predicting the next action |
| intent_reasoning | Inferring user intent from actions |
| action_execution | Executing the correct action |
| dynamic_adaptation | Adapting to changing interfaces |
| task_planning | Planning multi-step tasks |
| task_progress_awareness | Tracking task completion progress |
| task_completion_detection | Detecting when a task is done |
| intern_state_memory | Remembering internal states |
File Structure
├── data/
│ ├── system_eval/
│ │ ├── trajectory.json
│ │ └── gui_system.json
│ └── process_eval/
│ ├── element_grounding.json
│ ├── action_understanding.json
│ └── ... (11 ability files)
├── screenshots/
│ ├── tasks/{task_id}/step_XX.png
│ └── abilities/{ability_name}/
└── manifest.json
Usage
from datasets import load_dataset
# Load a specific ability
ds = load_dataset("AGI-Eval/UniGUI-Bench", "element_grounding")
# Access samples
for sample in ds["test"]:
print(sample["input"])
print(sample["target"])
print(sample["extra_data"])
- Downloads last month
- 5