Datasets:
task_text
stringclasses 5
values | option_1_name
stringclasses 3
values | option_1
stringclasses 5
values | option_2_name
stringclasses 5
values | option_2
stringclasses 5
values | answer
stringclasses 5
values |
---|---|---|---|---|---|
Установите соответствие между тремя названиями произведений, в которых, как и в «Бежином луге», изображена жизнь крестьян, и их авторами. К каждой позиции первого столбца подберите соответствующую позицию из второго столбца. Ответ запишите цифрами в таблице.Прочитайте приведённый ниже фрагмент произведения и выполните задание.Я ошибся, приняв людей, сидевших вокруг тех огней, за гуртовщиков. Это просто были крестьянские ребятишки из соседних деревень, которые стерегли табун. В жаркую летнюю пору лошадей выгоняют у нас на ночь кормиться в поле: днём мухи и оводы не дали бы им покоя. Выгонять перед вечером и пригонять на утренней заре табун — большой праздник для крестьянских мальчиков. Сидя без шапок и в старых полушубках на самых бойких клячонках, мчатся они с весёлым гиканьем и криком, болтая руками и ногами, высоко подпрыгивают, звонко хохочут. Лёгкая пыль жёлтым столбом поднимается и несётся по дороге; далеко разносится дружный топот, лошади бегут, навострив уши; впереди всех, задравши хвост и беспрестанно меняя ногу, скачет какой-нибудь рыжий космач, с репейником в спутанной гриве.Я сказал мальчикам, что заблудился, и подсел к ним. Они спросили меня, откуда я, помолчали, посторонились. Мы немного поговорили. Я прилёг под обглоданный кустик и стал глядеть кругом. Картина была чудесная: около огней дрожало и как будто замирало, упираясь в темноту, круглое красноватое отражение; пламя, вспыхивая, изредка забрасывало за черту того круга быстрые отблески; тонкий язык света лизнет голые сучья лозника и разом исчезнет; острые, длинные тени, врываясь на мгновенье, в свою очередь, добегали до самых огоньков: мрак боролся со светом. Иногда, когда пламя горело слабее и кружок света суживался, из надвинувшейся тьмы внезапно выставлялась лошадиная голова, гнедая, с извилистой проточиной, или вся белая, внимательно и тупо смотрела на нас, проворно жуя длинную траву, и, снова опускаясь, тотчас скрывалась. Только слышно было, как она продолжала жевать и отфыркивалась. Из освещённого места трудно разглядеть, что делается в потёмках, и потому вблизи всё казалось задёрнутым почти чёрной завесой; но далее к небосклону длинными пятнами смутно виднелись холмы и леса. Тёмное чистое небо торжественно и необъятно высоко стояло над нами со всем своим таинственным великолепием. Сладко стеснялась грудь, вдыхая тот особенный, томительный и свежий запах — запах русской летней ночи. Кругом не слышалось почти никакого шума... Лишь изредка в близкой реке с внезапной звучностью плеснёт большая рыба и прибрежный тростник слабо зашумит, едва поколебленный набежавшей волной... Одни огоньки тихонько потрескивали.Мальчики сидели вокруг их; тут же сидели и те две собаки, которым так было захотелось меня съесть. Они ещё долго не могли примириться с моим присутствием и, сонливо щурясь и косясь на огонь, изредка рычали с необыкновенным чувством собственного достоинства; сперва рычали, а потом слегка визжали, как бы сожалея о невозможности исполнить своё желание. Всех мальчиков было пять: Федя, Павлуша, Ильюша, Костя и Ваня. | НАЗВАНИЕ ПРОИЗВЕДЕНИЯ | ['А) «Путешествие из Петербурга в Москву»', 'Б) «Мёртвые души»', 'В) «Кому на Руси жить хорошо»'] | АВТОР ПРОИЗВЕДЕНИЯ | ['1) И. А. Гончаров', '2) Н. А. Некрасов', '3) А. Н. Радищев', '4) Н. В. Гоголь'] | 342 |
Установите соответствие между персонажами «На дне» и их высказываниями. К каждой позиции первого столбца подберите соответствующую позицию из второго столбца.Прочитайте приведенный ниже фрагмент текста и выполните задание. | ПЕРСОНАЖИ | ['А) Сатин', 'Б) Актер', 'В) Бубнов'] | ВЫСКАЗЫВАНИЯ | ['1) «Всё люди на земле — лишние»', '2) «Не всегда правдой душу вылечишь»', '3) «Без имени — нет человека»', '4) «Чело-век! Это — великолепно!»'] | 431 |
Установите соответствие между персонажами, фигурирующими в данном фрагменте, и их поступками: к каждой позиции первого столбца подберите соответствующую позицию из второго столбца.Прочитайте приведённый ниже фрагмент произведения и выполните задание.Кабанова. Ну, Тихон, пора! Поезжай с богом! (Садится.) Садитесь все!Все садятся. Молчание.Ну, прощай! (Встает, и все встают.) Кабанов (подходя к матери). Прощайте, маменька! Кабанова (жестом показывает на землю). В ноги, в ноги!Кабанов кланяется в ноги, потом целуется с матерью.Прощайся с женою!Кабанов. Прощай, Катя!Катерина кидается ему на шею.Кабанова. Что на шею-то виснешь, бесстыдница! Не с любовником прощаешься! Он тебе муж — глава! Аль порядку не знаешь? В ноги кланяйся!Катерина кланяется в ноги.Кабанов. Прощай, сестрица! (Целуется с Варварой.) Прощай, Глаша! (Целуется, с Глашей.) Прощайте, маменька! (Кланяется.) Кабанова. Прощай! Дальние проводы — лишние слезы.Кабанов уходит, за ним Катерина, Варвара и Глаша.Кабанова (одна). Молодость-то что значит! Смешно смотреть-то даже на них! Кабы не свои, насмеялась бы досыта. Ничего-то не знают, никакого порядка. Проститься-то путем не умеют. Хорошо еще, у кого в доме старшие есть, ими дом-то и держится, пока живы. А ведь тоже, глупые, на свою волю хотят, а выдут на волю-то, так и путаются на покор да смех добрым людям. Конечно, кто и пожалеет, а больше все смеются. Да не смеяться-то нельзя; гостей позовут, посадить не умеют, да еще, гляди, позабудут кого из родных. Смех, да и только! Так-то вот старина-то и выводится. В другой дом и взойти-то не хочется. А и взойдешь-то, так плюнешь да вон скорее. Что будет, как старики перемрут, как будет свет стоять, уж и не знаю. Ну, да уж хоть то хорошо, что не увижу ничего.Входят Катерина и Варвара.Кабанова, Катерина и Варвара.Кабанова. Ты вот похвалялась, что мужа очень любишь; вижу я теперь твою любовь-то. Другая хорошая жена, проводивши мужа-то, часа полтора воет, лежит на крыльце; а тебе, видно, ничего. Катерина. Не к чему! Да и не умею. Что народ-то смешить! Кабанова. Хитрость-то не великая. Кабы любила, так бы выучилась. Коли порядком не умеешь, ты хоть бы пример-то этот сделала; все-таки пристойнее; а то, видно, на словах-то только. Ну, я богу молиться пойду; не мешайте мне. Варвара. Я со двора пойду. Кабанова (ласково). А мне что! Поди! Гуляй, пока твоя пора придет. Еще насидишься! | ПЕРСОНАЖИ | ['А) Варвара Кабанова', 'Б) Катерина', 'В) Марфа Игнатьевна Кабанова', 'Г) Тихон Кабанов'] | ПОСТУПКИ | ['1) не может и не хочет противостоять деспотизму матери', '2) убегает из дома', '3) бросает вызов «тёмному царству»', '4) усердно молится Богу, но при этом каждый день грешит, обижая своих близких'] | 2341 |
Установите соответствие между тремя персонажами произведений И. С. Тургенева и названиями этих произведений. К каждой позиции первого столбца подберите соответствующую позицию из второго столбца. Ответ запишите цифрами в таблице.…Самым замечательным лицом был дворник Герасим, мужчина двенадцати вершков роста, сложённый богатырем и глухонемой от рожденья. Барыня взяла его из деревни, где он жил один, в небольшой избушке, отдельно от братьев, и считался едва ли не самым исправным тягловым мужиком. Одарённый необычайной силой, он работал за четверых – дело спорилось в его руках, и весело было смотреть на него, когда он либо пахал и, налегая огромными ладонями на соху, казалось, один, без помощи лошадёнки, взрезывал упругую грудь земли, либо о Петров день так сокрушительно действовал косой, что хоть бы молодой берёзовый лесок смахивать с корней долой, либо проворно и безостановочно молотил трёхаршинным цепом, и как рычаг опускались и поднимались продолговатые и твёрдые мышцы его плечей. Постоянное безмолвие придавало торжественную важность его неистомной работе. Славный он был мужик, и не будь его несчастье, всякая девка охотно пошла бы за него замуж… Но вот Герасима привезли в Москву, купили ему сапоги, сшили кафтан на лето, на зиму тулуп, дали ему в руки метлу и лопату и определили его дворником.Крепко не полюбилось ему сначала его новое житье. С детства привык он к полевым работам, к деревенскому быту. Отчуждённый несчастьем своим от сообщества людей, он вырос немой и могучий, как дерево растёт на плодородной земле… Переселённый в город, он не понимал, что с ним такое деется, – скучал и недоумевал, как недоумевает молодой, здоровый бык, которого только что взяли с нивы, где сочная трава росла ему по брюхо, взяли, поставили на вагон железной дороги – и вот, обдавая его тучное тело то дымом с искрами, то волнистым паром, мчат его теперь, мчат со стуком и визгом, а куда мчат – бог весть! Занятия Герасима по новой его должности казались ему шуткой после тяжких крестьянских работ; в полчаса всё у него было готово, и он опять то останавливался посреди двора и глядел, разинув рот, на всех проходящих, как бы желая добиться от них решения загадочного своего положения, то вдруг уходил куда-нибудь в уголок и, далеко швырнув метлу и лопату, бросался на землю лицом и целые часы лежал на груди неподвижно, как пойманный зверь. Но ко всему привыкает человек, и Герасим привык наконец к городскому житью. Дела у него было немного; вся обязанность его состояла в том, чтобы двор содержать в чистоте…(И. С. Тургенев, «Муму») | ПЕРСОНАЖИ | ['А) охотник (повествователь)', 'Б) Базаров', 'В) Татьяна'] | ПРОИЗВЕДЕНИЯ | ['1) «Муму»', '2) «Русский язык»', '3) «Бежин луг»', '4) «Отцы и дети»'] | 341 |
Установите соответствие между тремя персонажами, фигурирующими в данном фрагменте, и присущими им качествами личности. Прочитайте приведённое ниже произведение и выполните задание.— Вот мы и дома, — промолвил Николай Петрович, снимая картуз и встряхивая волосами. — Главное, надо теперь поужинать и отдохнуть. — Поесть действительно не худо, — заметил, потягиваясь, Базаров и опустился на диван.— Да, да, ужинать давайте, ужинать поскорее. — Николай Петрович без всякой видимой причины потопал ногами. — Вот кстати и Прокофьич.Вошёл человек лет шестидесяти, беловолосый, худой и смуглый, в коричневом фраке с медными пуговицами и в розовом платочке на шее. Он осклабился, подошёл к ручке к Аркадию и, поклонившись гостю, отступил к двери и положил руки за спину.— Вот он, Прокофьич, — начал Николай Петрович, — приехал к нам наконец... Что? как ты его находишь?— В лучшем виде-с, — проговорил старик и осклабился опять, но тотчас же нахмурил свои густые брови. — На стол накрывать прикажете? — проговорил он внушительно.— Да, да, пожалуйста. Но не пройдёте ли вы сперва в вашу комнату, Евгений Васильич?— Нет, благодарствуйте, незачем. Прикажите только чемоданишко мой туда стащить да вот эту одежонку, — прибавил он, снимая с себя свой балахон.— Очень хорошо. Прокофьич, возьми же их шинель. (Прокофьич, как бы с недоумением, взял обеими руками базаровскую «одежонку» и, высоко подняв её над головою, удалился на цыпочках.) А ты, Аркадий, пойдёшь к себе на минутку?— Да, надо почиститься, — отвечал Аркадий и направился было к дверям, но в это мгновение вошёл в гостиную человек среднего роста, одетый в тёмный английский сьют, модный низенький галстух и лаковые полусапожки, Павел Петрович Кирсанов. На вид ему было лет сорок пять: его коротко остриженные седые волосы отливали тёмным блеском, как новое серебро; лицо его, желчное, но без морщин, необыкновенно правильное и чистое, словно выведенное тонким и лёгким резцом, являло следы красоты замечательной; особенно хороши были светлые, чёрные, продолговатые глаза. Весь облик Аркадиева дяди, изящный и породистый, сохранил юношескую стройность и то стремление вверх, прочь от земли, которое большею частью исчезает после двадцатых годов.Павел Петрович вынул из кармана панталон свою красивую руку с длинными розовыми ногтями, — руку, казавшуюся ещё красивей от снежной белизны рукавчика, застёгнутого одиноким крупным опалом, и подал её племяннику. Совершив предварительно европейское «shake hands», он три раза, по-русски, поцеловался с ним, то есть три раза прикоснулся своими душистыми усами до его щёк, и проговорил: «Добро пожаловать».Николай Петрович представил его Базарову: Павел Петрович слегка наклонил свой гибкий стан и слегка улыбнулся, но руки не подал и даже положил её обратно в карман.— Я уже думал, что вы не приедете сегодня, — заговорил он приятным голосом, любезно покачиваясь, подёргивая плечами и показывая прекрасные белые зубы. — Разве что на дороге случилось?— Ничего не случилось, — отвечал Аркадий, — так, замешкались немного. | КАЧЕСТВА ЛИЧНОСТИ | ['A) Евгений Базаров', 'Б) Павел Петрович', 'B) Николай Петрович'] | ПЕРСОНАЖИ | ['1) мягкость, поэтичность,', '2) гордость, вспыльчивость', '3) неуверенность, тщеславие', '4) «самоломанность», цинизм'] | 421 |
🐐 GOAT
Generalized Occupational Aptitude Test (GOAT) is a dataset based on questions from Russian government exams that is required for every person graduated from school. Currently, the dataset cover questions from Literature, Sociology and Russian language subjects.
All questions are divided by expected output format:
- Single choice. In such tasks, there is a set of possible answers from which you need to choose the right one. The answer to such tasks is one digit, which is the number of correct answer to the task.
- Multiple choice. In such tasks, there is a set of possible answers from which you need to choose multiple correct answers. The answer to such tasks is a set of digits, which are the numbers of correct answers to the task. Note that the order of digits is not important.
- Word generation. The answer to such tasks is a word or a phrase (multiple concrete words). The answer should not include spaces. Ground truth may include more than one correct word, in this case, they are concatenated with comma.
- Matching. In such tasks, for each object in the given list property from the second list should be selected. The answer to such tasks is a sequence of digits, which represents the matching. Position of the digit represents object number in the list of objects and the digit itself is a number of corresponding property in the list of properties.
- Text generation. These tasks require a detailed text answer, i.e. essay. There is no ground truth answer, only evaluation criteria and maximum possible score.
Navigate to dataset structure section for more details and examples.
Dataset Creation
All tasks from this dataset were parsed from sdamgia.ru website. Each task was normalized, i.e.:
- All tables, lists, and other HTML structures were converted to plain text.
- Based on task type, corresponding fields like
input
oranswer
were extracted. - Manual validation of samples
Parser's code is located in the deepvk/goat
repo on GitHub.
Dataset statistic
For each task, except text generation, we provide dev
and test
splits.
dev
split consist of exactly 5 samples and can be used as few-shots.
test
statistic is represented in table:
Subject | Single Choice | Multiple Choice | Word Generation | Matching | Text Generation | Total |
---|---|---|---|---|---|---|
Literature | ❌ | 103 | 416 | 59 | 959 | 1537 |
Russian | ❌ | 3021 | 1008 | 57 | 430 | 4516 |
Sociology | 1124 | 1624 | 29 | 638 | 826 | 4241 |
Dataset Structure
Single choice
input
: a string questionA
,B
,C
,D
: four strings with possible answersanswer
: Letter of correct answer
An example from sociology single choice tasks looks as follows:
{
"input": "В отличие от природы, общество",
"A": "обусловлено деятельностью человека",
"B": "находится в постоянном развитии",
"C": "состоит из взаимосвязанных элементов",
"D": "является частью материального мира",
"answer": "A"
}
Multiple choice and word generation
input
: a string questionanswer
: correct answers concatenated with comma
An example from sociology multiple choice tasks looks as follows:
{
"input": "В стране Z глава государства получает власть по наследству. Какие признаки позволяют сделать вывод о том, что в стране Z существует абсолютная монархия? Запишите соответствующие цифры. 1. Глава государства получает власть по наследству. 2. Граждане не обладают политическими правами и свободами. 3. Власть главы государства не ограничена законом. 4. Глава государства осуществляет свои полномочия пожизненно. 5. В стране отсутствует парламент. 6. Местные власти назначаются главой государства.",
"answer": "2,3,5"
}
An example from literature word generation tasks looks as follows:
{
"input": "Назовите художественное средство, усиливающее эмоциональное звучание строки «О жизни тленной, тленной и прекрасной». Прочитайте приведённое ниже произведение и выполните задание. Я научилась просто, мудро жить, Смотреть на небо и молиться Богу, И долго перед вечером бродить, Чтоб утомить ненужную тревогу. Когда шуршат в овраге лопухи И никнет гроздь рябины жёлто-красной, Слагаю я весёлые стихи О жизни тленной, тленной и прекрасной. Я возвращаюсь. Лижет мне ладонь Пушистый кот, мурлыкает умильней, И яркий загорается огонь На башенке озерной лесопильни. Лишь изредка прорезывает тишь Крик аиста, слетевшего на крышу. И если в дверь мою ты постучишь, Мне кажется, я даже не услышу. А. А. Ахматова, 1912."
"answer": "повтор,лексическийповтор"
}
Matching
task_text
: a string questionoption_1_name
: name of objects in the option_1 listoption_1
: list of stringsoption_2_name
: name of properties in the option_2 listoption_2
: list of stringsanswer
: sequence of digits
An example from sociology matching tasks looks as follows:
{
"task_text": "Установите соответствие между примерами и видами налогов: к каждой позиции, данной в первом столбце, подберите соответствующую позицию из второго столбца.",
"option_1_name": "ПРИМЕР",
"option_1": ["А) налог на добавленную стоимость", "Б) налог на прибыль", "В) налог на имущество физических лиц", "Г) земельный налог", "Д) акцизы"],
"option_2_name": "ВИД НАЛОГА",
"option_2": ["1) прямые налоги", "2) косвенные налоги"],
"answer": "21112"
}
Text generation
input
: list consisting of one string that is a task text.criteria_table
: list of criteria to properly grade the task.task_points
: maximum points for the task.
An example from sociology text generation tasks looks as follows:
{
"input": "Какие два из перечисленных понятий используются в первую очередь при описании экономической сферы общества? Государство; акционерное общество; предпринимательство; тоталитаризм; социальная мобильность. Выпишите соответствующие понятия и раскройте смысл любого одного из них.",
"criteria_table": "Критерии оценивания:
Правильно выписаны два верных понятия, и раскрыт смысл любого одного из них - 2 балла.
Наряду с верными понятиями выписано(ы) одно или более «лишних» понятий, раскрыт смысл верного понятия.ИЛИ Правильно выписаны только два верных понятия.ИЛИ Правильно выписано только одно верное понятие, раскрыт его смысл - 1 балл.
Наряду с верными понятиями выписано(ы) одно или более «лишних» понятий, раскрыт только смысл «лишнего» понятия.ИЛИ Наряду с верными понятиями выписано(ы) одно или более «лишних» понятий, смысл понятия не раскрыт или раскрыт неверно.ИЛИ Выписано только одно верное понятие.ИЛИ Приведены рассуждения общего характера, не соответствующие требованию задания.ИЛИ Ответ неправильный - 0 баллов.
Максимальный балл - 2 балла."
"task_points": 2
}
Usage
Possible uses of the dataset include integration into popular LLM evaluation frameworks.
LM Evaluation Harness
This framework is useful for single choice
, multiple choice
, matching
, and word generation
tasks.
See examples of integration, including custom metrics, in deepvk/lm-evaluation-harness
fork on GitHub.
For example:
accelerate launch -m lm_eval --model hf --model_args <YOUR_MODEL_NAME> --tasks sociology_single_choice
Will run evaluation of specified model on sociology single choice task.
LLM as Judge
Another option is to use LLM to evaluate produced answers, i.e. for text generation
task.
See example of integration in deepvk/FastChat
fork on GitHub.
Citation
@misc{deepvk2024goat,
title={GOAT: Generalized Occupational Aptitude Test},
author={Vyrodov, Mikhail and Spirin, Egor},
url={https://huggingface.co/datasets/deepvk/goat},
publisher={Hugging Face}
year={2024},
}
- Downloads last month
- 1