doc_id int64 0 1.17k | doc dict | target stringclasses 4
values | arguments dict | resps sequencelengths 3 5 | filtered_resps sequencelengths 3 5 | filter stringclasses 1
value | metrics sequencelengths 2 2 | doc_hash stringlengths 64 64 | prompt_hash stringlengths 64 64 | target_hash stringclasses 4
values | acc float64 0 1 | acc_norm float64 0 1 |
|---|---|---|---|---|---|---|---|---|---|---|---|---|
0 | {
"id": "ARC-Challenge/test/Mercury_SC_415719",
"answer": "A",
"instruction": "Анна держит ледяной кубик. Почему ледяной кубик тает в ее руке?",
"option_a": "Тепло переходит из ее руки в ледяной кубик.",
"option_b": "Холод переходит из ее руки в ледяной кубик.",
"option_c": "Тепло переходит из ледяного куби... | 0 | {
"gen_args_0": {
"arg_0": "Question: Химический символ для ниобия - это Nb. Исходя из его символа, что можно заключить о ниобии?\nAnswer: Ниобий является элементом.\n\nQuestion: Кожа человека играет важную роль во многих системах органов. Какая система органов наименее вероятно имеет прямое взаимодействие с коже... | [
[
[
"-15.578125",
"False"
]
],
[
[
"-24.25",
"False"
]
],
[
[
"-17.40625",
"False"
]
],
[
[
"-20.03125",
"False"
]
]
] | [
[
"-15.578125",
"False"
],
[
"-24.25",
"False"
],
[
"-17.40625",
"False"
],
[
"-20.03125",
"False"
]
] | none | [
"acc",
"acc_norm"
] | 1984aeb005bb66079a98b82db183bd3a153a933a21f98250bdd79c3279a26be3 | 7e2dbec3dbc2d28c5bf59e853653d4b5014bf63011c37db65f22ad2204b5eaf3 | 5feceb66ffc86f38d952786c6d696c79c2dbc239dd4e91b46729d73a27fb57e9 | 1 | 1 |
1 | {
"id": "ARC-Challenge/test/Mercury_7005005",
"answer": "C",
"instruction": "Ветры, дующие от океанов в сторону суши, обычно имеют большую влажность, чем ветры, дующие над сушей. Как высокое содержание влаги влияет на климат прибрежной области?",
"option_a": "Конденсации происходит меньше.",
"option_b": "Быва... | 2 | {
"gen_args_0": {
"arg_0": "Question: Какая деятельность прямо регулируется нейронами?\nAnswer: сокращение сердца\n\nQuestion: Большая часть объема Вселенной находится в пространстве между галактиками. Объекты, найденные в областях между галактиками, вероятнее всего наиболее близки по размеру к чему из следующего... | [
[
[
"-24.640625",
"False"
]
],
[
[
"-22.359375",
"False"
]
],
[
[
"-13.8515625",
"False"
]
],
[
[
"-50.5625",
"False"
]
]
] | [
[
"-24.640625",
"False"
],
[
"-22.359375",
"False"
],
[
"-13.8515625",
"False"
],
[
"-50.5625",
"False"
]
] | none | [
"acc",
"acc_norm"
] | 618f6ab33a70538f950a447ace23a31ea617926c870405446b777e01e0918e37 | a8300b16696989577dfd84221db378c17a84839c26b44cab0165ef7a115f042e | d4735e3a265e16eee03f59718b9b5d03019c07d8b6c51f90da3a666eec13ab35 | 1 | 1 |
2 | {
"id": "ARC-Challenge/test/Mercury_7038028",
"answer": "C",
"instruction": "Какое из нижеперечисленных правил является важным для безопасного использования химических веществ?",
"option_a": "Завязать длинные волосы.",
"option_b": "Хранить все химические вещества в холодильнике.",
"option_c": "Правильно мар... | 2 | {
"gen_args_0": {
"arg_0": "Question: Какая форма земли является результатом конструктивной силы ледника?\nAnswer: кучи камней, оставленные таянием ледника\n\nQuestion: На каком уровне организации повреждение компрометирует функцию всей системы?\nAnswer: орган\n\nQuestion: Боулинговый шар массой 8.0 кг катится по... | [
[
[
"-26.359375",
"False"
]
],
[
[
"-16.21875",
"False"
]
],
[
[
"-28.671875",
"False"
]
],
[
[
"-56.09375",
"False"
]
]
] | [
[
"-26.359375",
"False"
],
[
"-16.21875",
"False"
],
[
"-28.671875",
"False"
],
[
"-56.09375",
"False"
]
] | none | [
"acc",
"acc_norm"
] | fa951ef24caf01ad38ad3d7267f6dcb60a25d6a03ba4972fde4a508447c69207 | f58f98aa4fec6be373cb34e334f34cffdb5cb8be6eccbd593b58c0665d1438ed | d4735e3a265e16eee03f59718b9b5d03019c07d8b6c51f90da3a666eec13ab35 | 0 | 0 |
3 | {
"id": "ARC-Challenge/test/Mercury_7084665",
"answer": "A",
"instruction": "Что вероятнее всего можно увидеть невооруженным глазом в ясную ночь?",
"option_a": "галактику Млечный Путь",
"option_b": "спутники других планет",
"option_c": "астероиды",
"option_d": "Плутон",
"option_e": null,
"query": "Que... | 0 | {
"gen_args_0": {
"arg_0": "Question: Джоэнн тестирует почвы, чтобы определить, какая из них лучше всего подходит для выращивания алых цветов. Что из следующего она должна сделать?\nAnswer: Вырастить алые цветы в трех видах почвы и давать им одинаковое количество воды и солнца.\n\nQuestion: Какой из описанных ниж... | [
[
[
"-13.7109375",
"False"
]
],
[
[
"-11.4609375",
"False"
]
],
[
[
"-7.4765625",
"False"
]
],
[
[
"-9.1328125",
"False"
]
]
] | [
[
"-13.7109375",
"False"
],
[
"-11.4609375",
"False"
],
[
"-7.4765625",
"False"
],
[
"-9.1328125",
"False"
]
] | none | [
"acc",
"acc_norm"
] | 764a8582c8c6a0669451c0dc649c678e3ee59c7982a897ed57c05305cc52045e | 122796a9a569c1d3fccc508c0c779d1f55faa984a15ec17e79bba1e9e4792996 | 5feceb66ffc86f38d952786c6d696c79c2dbc239dd4e91b46729d73a27fb57e9 | 0 | 0 |
4 | {
"id": "ARC-Challenge/test/Mercury_7082758",
"answer": "B",
"instruction": "Какой из этих фраз лучше описывает атомы?",
"option_a": "два или более объединенных элемента",
"option_b": "наименьшие единицы элемента",
"option_c": "частицы внутри ядра",
"option_d": "различные формы элемента",
"option_e": nu... | 1 | {
"gen_args_0": {
"arg_0": "Question: Как слишком большая рыбалка в районе влияет на его экосистему?\nAnswer: Организмы, которые питаются рыбой, могут стать на грани исчезновения из-за голода.\n\nQuestion: Какой из этих инструментов лучше всего использовать при наблюдении за насекомыми в поле?\nAnswer: лупа\n\nQu... | [
[
[
"-28.046875",
"False"
]
],
[
[
"-21.421875",
"False"
]
],
[
[
"-14.4375",
"False"
]
],
[
[
"-18.140625",
"False"
]
]
] | [
[
"-28.046875",
"False"
],
[
"-21.421875",
"False"
],
[
"-14.4375",
"False"
],
[
"-18.140625",
"False"
]
] | none | [
"acc",
"acc_norm"
] | ec80271f96f2a6decc123e42343357dc6bfc1e1f0bb95dd97417fb77f60295cf | 36aa2fdca77b86cdbc7009618de5e9edec39dd1caa3fea49cbbade1269fa53c1 | 6b86b273ff34fce19d6b804eff5a3f5747ada4eaa22f1d49c01e52ddb7875b4b | 0 | 0 |
5 | {
"id": "ARC-Challenge/test/Mercury_401728",
"answer": "D",
"instruction": "Какой из перечисленных этапов является шагом в жизненном цикле яблони?",
"option_a": "Яйца растут из сеянцев.",
"option_b": "Фрукты образуются из цветов.",
"option_c": "Сеянцы растут из листьев.",
"option_d": "Опыленные цветы обра... | 3 | {
"gen_args_0": {
"arg_0": "Question: Культура кукурузных растений была генетически модифицирована таким образом, чтобы они производили естественный пестицид. Люди опасаются, что эти кукурузные растения могут передавать измененный генетический материал другим растениям. Какой из следующих вариантов является наилу... | [
[
[
"-33.25",
"False"
]
],
[
[
"-17.734375",
"False"
]
],
[
[
"-21.828125",
"False"
]
],
[
[
"-20.4375",
"False"
]
]
] | [
[
"-33.25",
"False"
],
[
"-17.734375",
"False"
],
[
"-21.828125",
"False"
],
[
"-20.4375",
"False"
]
] | none | [
"acc",
"acc_norm"
] | 2acbe9c70e1bd21ca37d853d8d39e043f777f27d327402382d982e94a3cc3390 | e5a20583656115c8c4c94b773bae87cb8d7b0b11dc8ce521cc7fe164a482f538 | 4e07408562bedb8b60ce05c1decfe3ad16b72230967de01f640b7e4729b49fce | 0 | 0 |
6 | {
"id": "ARC-Challenge/test/Mercury_SC_409171",
"answer": "B",
"instruction": "Группа инженеров захотела узнать, как различные дизайны зданий реагируют на землетрясение. Они сделали несколько моделей зданий и протестировали каждое из них на способность выдерживать условия землетрясения. Что наиболее вероятно буде... | 1 | {
"gen_args_0": {
"arg_0": "Question: Четыре студента исследуют влияние силы удара бейсбольной биты на мяч. Они отметили четыре различных точки на бите, где каждый мяч сделал контакт после каждого удара каждым из четырех студентов. Какое из нижеперечисленных описывает ошибку в экспериментальном дизайне?\nAnswer: ... | [
[
[
"-18.96875",
"False"
]
],
[
[
"-26.40625",
"False"
]
],
[
[
"-30.40625",
"False"
]
],
[
[
"-21.484375",
"False"
]
]
] | [
[
"-18.96875",
"False"
],
[
"-26.40625",
"False"
],
[
"-30.40625",
"False"
],
[
"-21.484375",
"False"
]
] | none | [
"acc",
"acc_norm"
] | 76020b402145b5b4e4bf8b93d9736e3423e48ac99a369b07c2b5a05e94054e33 | 2669ca9e45fff61c85c53143c0a677cc52c6076caf24ccf0d018ef8f9e156e6a | 6b86b273ff34fce19d6b804eff5a3f5747ada4eaa22f1d49c01e52ddb7875b4b | 0 | 0 |
7 | {
"id": "ARC-Challenge/test/Mercury_SC_400052",
"answer": "B",
"instruction": "Какая адаптация помогает червяку двигаться в почве?",
"option_a": "влажная кожа",
"option_b": "трубчатое тело",
"option_c": "кожа, дышащая",
"option_d": "очень маленький рот",
"option_e": null,
"query": "Question: Какая ада... | 1 | {
"gen_args_0": {
"arg_0": "Question: Электричество имеет множество применений. Какое устройство предназначено для превращения электрической энергии в полезную тепловую энергию?\nAnswer: электрическая плита\n\nQuestion: Какой вид изменения энергии происходит, когда батарея управляет игрушкой на пульте?\nAnswer: П... | [
[
[
"-13.0703125",
"False"
]
],
[
[
"-10.46875",
"False"
]
],
[
[
"-18.53125",
"False"
]
],
[
[
"-14.8515625",
"False"
]
]
] | [
[
"-13.0703125",
"False"
],
[
"-10.46875",
"False"
],
[
"-18.53125",
"False"
],
[
"-14.8515625",
"False"
]
] | none | [
"acc",
"acc_norm"
] | dd66033f8ec0167b8bd1ad91b9e1e5c4c03a2951c00d94856ca66393936b3551 | 9b0366ae9b2ccce89b386d2eae32e229864e141ffeecd8e634bd9b29c24076a1 | 6b86b273ff34fce19d6b804eff5a3f5747ada4eaa22f1d49c01e52ddb7875b4b | 1 | 1 |
8 | {
"id": "ARC-Challenge/test/Mercury_7037555",
"answer": "C",
"instruction": "Из перечисленных ниже вариантов безопасной лабораторной практики выберите тот, который НЕ соответствует.",
"option_a": "поддержание аккуратного порядка на столе.",
"option_b": "ношение защитных очков во время экспериментов.",
"opti... | 2 | {
"gen_args_0": {
"arg_0": "Question: 10 грамм сахара растворяются в 100 граммах (г) воды. Какова масса раствора сахара и воды?\nAnswer: 110 г\n\nQuestion: Какой является лучшим доказательством того, что клеточное деление происходит постоянно в наших телах?\nAnswer: Человеческие существа сбрасывают миллионы клето... | [
[
[
"-28.890625",
"False"
]
],
[
[
"-23.6875",
"False"
]
],
[
[
"-26.96875",
"False"
]
],
[
[
"-25.484375",
"False"
]
]
] | [
[
"-28.890625",
"False"
],
[
"-23.6875",
"False"
],
[
"-26.96875",
"False"
],
[
"-25.484375",
"False"
]
] | none | [
"acc",
"acc_norm"
] | 83853dab774b900d9dfa6f643b2b489769c996a12327fcf405bf7eb02c634b16 | 95da408fb0b38353510d7af69436f5162b7b0b256a1f58b3f9575a2c6caac531 | d4735e3a265e16eee03f59718b9b5d03019c07d8b6c51f90da3a666eec13ab35 | 0 | 1 |
9 | {
"id": "ARC-Challenge/test/Mercury_7190120",
"answer": "B",
"instruction": "Холм в тропическом лесу когда-то полностью покрыт деревьями. Лесозаготовительная компания срубила все деревья. Какое наиболее вероятное последствие рубки деревьев в этом случае является формой экологического ухудшения? ",
"option_a": "... | 1 | {
"gen_args_0": {
"arg_0": "Question: Какой из перечисленных ниже признаков собака НЕ наследует от своих родителей?\nAnswer: размер аппетита\n\nQuestion: При повышении температуры медной проволоки происходит следующее:\nAnswer: увеличение движения частиц меди\n\nQuestion: Птолемей – это древний астроном, который ... | [
[
[
"-20.46875",
"False"
]
],
[
[
"-56.46875",
"False"
]
],
[
[
"-24.015625",
"False"
]
],
[
[
"-25.484375",
"False"
]
]
] | [
[
"-20.46875",
"False"
],
[
"-56.46875",
"False"
],
[
"-24.015625",
"False"
],
[
"-25.484375",
"False"
]
] | none | [
"acc",
"acc_norm"
] | 1597f3e43888a8363b41ef37f8467a481a529aee3c0589caea81cf7a9e99345c | b90ff4f046e9bc4f5bb6bab44e8934a319365d54438d02bea4d9afd96917ca83 | 6b86b273ff34fce19d6b804eff5a3f5747ada4eaa22f1d49c01e52ddb7875b4b | 0 | 0 |
10 | {
"id": "ARC-Challenge/test/OHAT_2009_8_34",
"answer": "D",
"instruction": "Какова роль митохондрии в клетках?",
"option_a": "Она преобразует солнечный свет в энергию.",
"option_b": "Она контролирует все функции клетки.",
"option_c": "Она транспортирует воду по всей клетке.",
"option_d": "Она расщепляет с... | 3 | {
"gen_args_0": {
"arg_0": "Question: В какой таксономической группе находятся организмы, которые имеют общую характеристику хранения наследственного материала в единственной петле ДНК?\nAnswer: бактерии\n\nQuestion: Для защиты ученика при каком виде исследования следует использовать защитный шлем?\nAnswer: в исс... | [
[
[
"-18.453125",
"False"
]
],
[
[
"-18.84375",
"False"
]
],
[
[
"-24.078125",
"False"
]
],
[
[
"-22.203125",
"False"
]
]
] | [
[
"-18.453125",
"False"
],
[
"-18.84375",
"False"
],
[
"-24.078125",
"False"
],
[
"-22.203125",
"False"
]
] | none | [
"acc",
"acc_norm"
] | dfb91c1e048b5dde4f3dd2f402344bc1bbeddcc83821a0f97adc6783bc9d0197 | 991a2fa4117f02fdcfa72b7db3bfaecc403309909f8bb5252f2faa49210655ce | 4e07408562bedb8b60ce05c1decfe3ad16b72230967de01f640b7e4729b49fce | 0 | 0 |
11 | {
"id": "ARC-Challenge/test/Mercury_7017045",
"answer": "B",
"instruction": "Все эти типы волн перемещаются от Солнца к Земле, кроме",
"option_a": "световых волн.",
"option_b": "звуковых волн.",
"option_c": "инфракрасных волн.",
"option_d": "ультрафиолетовых волн.",
"option_e": null,
"query": "Questio... | 1 | {
"gen_args_0": {
"arg_0": "Question: Человеческое тело имеет сложную структуру, которая обеспечивает рост и выживание. Какова самая основная структура человеческого тела, обеспечивающая рост и выживание?\nAnswer: клетка\n\nQuestion: Большое твердое сферическое тело в Солнечной системе классифицируется как луна. ... | [
[
[
"-7.35546875",
"False"
]
],
[
[
"-6.51953125",
"False"
]
],
[
[
"-6.23828125",
"False"
]
],
[
[
"-6.078125",
"False"
]
]
] | [
[
"-7.35546875",
"False"
],
[
"-6.51953125",
"False"
],
[
"-6.23828125",
"False"
],
[
"-6.078125",
"False"
]
] | none | [
"acc",
"acc_norm"
] | fd6df7c6ade58042fd47112f21b69ab8efac1f83c0b119716752557fba88f8b1 | 24cae4ce436e19a5c57adeb8c6c29ed4dfc9c2e73d02bb0a62d2e0c88ced2746 | 6b86b273ff34fce19d6b804eff5a3f5747ada4eaa22f1d49c01e52ddb7875b4b | 0 | 0 |
End of preview. Expand in Data Studio
Dataset Card for Evaluation run of JalilH/gemma-2-2b
Dataset automatically created during the evaluation run of model JalilH/gemma-2-2b The dataset is composed of 0 configuration(s), each one corresponding to one of the evaluated task.
The dataset has been created from 2 run(s). Each run can be found as a specific split in each configuration, the split being named using the timestamp of the run.The "train" split is always pointing to the latest results.
An additional configuration "results" store all the aggregated results of the run.
To load the details from a run, you can for instance do the following:
from datasets import load_dataset
data = load_dataset(
"JalilH/original_gemma_arc_ru_results",
name="JalilH__gemma-2-2b__arc_ru",
split="latest"
)
Latest results
These are the latest results from run 2025-01-14T20-35-56.022887 (note that there might be results for other tasks in the repos if successive evals didn't cover the same tasks. You find each in the results and the "latest" split for each eval):
{
"all": {
"arc_ru": {
"alias": "arc_ru",
"acc,none": 0.360136869118905,
"acc_stderr,none": 0.014046105119359263,
"acc_norm,none": 0.38751069289991447,
"acc_norm_stderr,none": 0.0142550806788696
}
},
"arc_ru": {
"alias": "arc_ru",
"acc,none": 0.360136869118905,
"acc_stderr,none": 0.014046105119359263,
"acc_norm,none": 0.38751069289991447,
"acc_norm_stderr,none": 0.0142550806788696
}
}
Dataset Details
Dataset Description
- Curated by: [More Information Needed]
- Funded by [optional]: [More Information Needed]
- Shared by [optional]: [More Information Needed]
- Language(s) (NLP): [More Information Needed]
- License: [More Information Needed]
Dataset Sources [optional]
- Repository: [More Information Needed]
- Paper [optional]: [More Information Needed]
- Demo [optional]: [More Information Needed]
Uses
Direct Use
[More Information Needed]
Out-of-Scope Use
[More Information Needed]
Dataset Structure
[More Information Needed]
Dataset Creation
Curation Rationale
[More Information Needed]
Source Data
Data Collection and Processing
[More Information Needed]
Who are the source data producers?
[More Information Needed]
Annotations [optional]
Annotation process
[More Information Needed]
Who are the annotators?
[More Information Needed]
Personal and Sensitive Information
[More Information Needed]
Bias, Risks, and Limitations
[More Information Needed]
Recommendations
Users should be made aware of the risks, biases and limitations of the dataset. More information needed for further recommendations.
Citation [optional]
BibTeX:
[More Information Needed]
APA:
[More Information Needed]
Glossary [optional]
[More Information Needed]
More Information [optional]
[More Information Needed]
Dataset Card Authors [optional]
[More Information Needed]
Dataset Card Contact
[More Information Needed]
- Downloads last month
- 6