Dataset Preview Go to dataset viewer
sentence1 (string)sentence2 (string)knowledge (string)lexical-semantics (string)logic (string)predicate-argument-structure (string)idx (int)label (class label)
Кошка сидела на коврике.
Кошка не сидела на коврике.
Negation
0
1 (not_entailment)
Кошка не сидела на коврике.
Кошка сидела на коврике.
Negation
1
1 (not_entailment)
Когда у вас нет снега, очень сложно обучиться зимним видам спорта, так что мы искали все способы изучить без снега то, что я мог бы потом повторить на снегу.
Когда у вас есть снег, очень сложно обучиться зимним видам спорта, так что мы искали все способы изучить без снега то, что я мог бы потом повторить на снегу.
Negation
2
1 (not_entailment)
Когда у вас есть снег, очень сложно обучиться зимним видам спорта, так что мы искали все способы изучить без снега то, что я мог бы потом повторить на снегу.
Когда у вас нет снега, очень сложно обучиться зимним видам спорта, так что мы искали все способы изучить без снега то, что я мог бы потом повторить на снегу.
Negation
3
1 (not_entailment)
Сразу же после распаковки Ouya поддерживает мультимедийные приложения, такие как Twitch.tv и XBMC-медиаплеер.
Сразу же после распаковки Ouya не поддерживает мультимедийные приложения, такие как Twitch.tv и XBMC-медиаплеер.
Negation
4
1 (not_entailment)
Сразу же после распаковки Ouya не поддерживает мультимедийные приложения, такие как Twitch.tv и XBMC-медиаплеер.
Сразу же после распаковки Ouya поддерживает мультимедийные приложения, такие как Twitch.tv и XBMC-медиаплеер.
Negation
5
1 (not_entailment)
Сразу же после распаковки Ouya поддерживает мультимедийные приложения, такие как Twitch.tv и XBMC медиа-плеер.
Сразу же после распаковки Ouya поддерживает Twitch.tv и XBMC медиа-плеер.
Anaphora/Coreference
6
0 (entailment)
Сразу же после распаковки Ouya поддерживает Twitch.tv и XBMC медиа-плеер.
Сразу же после распаковки Ouya поддерживает мультимедийные приложения, такие как Twitch.tv и XBMC медиа-плеер.
Anaphora/Coreference
7
0 (entailment)
Учитывая это определение, удивительно, что сарказм часто находят в контенте, созданном самоуверенными пользователями.
Учитывая это определение, не удивительно, что сарказм часто находят в контенте, созданном самоуверенными пользователями.
Negation
8
1 (not_entailment)
Учитывая это определение, не удивительно, что сарказм часто находят в контенте, созданном самоуверенными пользователями.
Учитывая это определение, удивительно, что сарказм часто находят в контенте, созданном самоуверенными пользователями.
Negation
9
1 (not_entailment)
Новая игровая консоль доступна по цене.
Новая игровая консоль недоступна по цене.
Morphological negation
Negation
10
1 (not_entailment)
Новая игровая консоль недоступна по цене.
Новая игровая консоль доступна по цене.
Morphological negation
Negation
11
1 (not_entailment)
Выход Великобритании из ЕС – необратимое решение; сэр Майк Рейк, председатель компании Worldpay и экс-председатель BT Group, рассказал, как призывы ко второму референдуму разгорелись на прошлой неделе.
Выход Великобритании из ЕС – обратимое решение; сэр Майк Рейк, председатель компании Worldpay и экс-председатель BT Group, рассказал, как призывы ко второму референдуму разгорелись на прошлой неделе.
Morphological negation
Negation
12
1 (not_entailment)
Выход Великобритании из ЕС – обратимое решение; сэр Майк Рейк, председатель компании Worldpay и экс-председатель BT Group, рассказал, как призывы ко второму референдуму разгорелись на прошлой неделе.
Выход Великобритании из ЕС – необратимое решение; сэр Майк Рейк, председатель компании Worldpay и экс-председатель BT Group, рассказал, как призывы ко второму референдуму разгорелись на прошлой неделе.
Morphological negation
Negation
13
1 (not_entailment)
Мы построили наше общество на неэкологичной энергии.
Мы построили наше общество на экологичной энергии.
Morphological negation
Negation
14
1 (not_entailment)
Мы построили наше общество на экологичной энергии.
Мы построили наше общество на неэкологичной энергии.
Morphological negation
Negation
15
1 (not_entailment)
Применяя стратегию ненасильственного протеста, Ганди застал администрацию врасплох и получил уступки от властей.
Применяя стратегию насильственного протеста, Ганди застал администрацию врасплох и получил уступки от властей.
Morphological negation
Negation
16
1 (not_entailment)
Применяя стратегию насильственного протеста, Ганди застал администрацию врасплох и получил уступки от властей.
Применяя стратегию ненасильственного протеста, Ганди застал администрацию врасплох и получил уступки от властей.
Morphological negation
Negation
17
1 (not_entailment)
Применяя стратегию ненасильственного протеста, Ганди застал администрацию врасплох и получил уступки от властей.
Применяя стратегию протеста, Ганди застал администрацию врасплох и получил уступки от властей.
Intersectivity
18
0 (entailment)
Применяя стратегию протеста, Ганди застал администрацию врасплох и получил уступки от властей.
Применяя стратегию ненасильственного протеста, Ганди застал администрацию врасплох и получил уступки от властей.
Intersectivity
19
1 (not_entailment)
И если оба применяются, они, по сути, невозможны.
И если оба применяются, они, по сути, возможны.
Morphological negation
Negation;Conditionals
20
1 (not_entailment)
И если оба применяются, они, по сути, возможны.
И если оба применяются, они, по сути, невозможны.
Morphological negation
Negation;Conditionals
21
1 (not_entailment)
Написание кода на Java не слишком отличается от программирования в наручниках.
Написание кода на Java подобно программированию в наручниках.
Morphological negation
Double negation
22
0 (entailment)
Написание кода на Java подобно программированию в наручниках.
Написание кода на Java не слишком отличается от программирования в наручниках.
Morphological negation
Double negation
23
0 (entailment)
Рынок станет сложнее, но на нём не будет невозможно ориентироваться.
Рынок станет сложнее, но на нём будет возможно ориентироваться.
Morphological negation
Double negation
24
0 (entailment)
Рынок станет сложнее, но на нём будет возможно ориентироваться.
Рынок станет сложнее, но на нём не будет невозможно ориентироваться.
Morphological negation
Double negation
25
0 (entailment)
Даже после того как узнал, что это корм для животных, я не перестану когда-либо обожать Flamin' Hot Cheetos.
Даже после того как узнал, что это корм для животных, я никогда не перестану обожать Flamin' Hot Cheetos.
Morphological negation
Double negation
26
0 (entailment)
Даже после того как узнал, что это корм для животных, я никогда не перестану обожать Flamin' Hot Cheetos.
Даже после того как узнал, что это корм для животных, я не перестану когда-либо обожать Flamin' Hot Cheetos.
Morphological negation
Double negation
27
0 (entailment)
Он не был несогласен с позицией партии, но чувствовал, что если бы он ушел в отставку, его популярность среди индейцев перестала бы душить членство в партии.
Он согласился с позицией партии, но чувствовал, что если бы он ушел в отставку, его популярность среди индейцев перестала бы душить членство в партии.
Morphological negation
Double negation
28
0 (entailment)
Он согласился с позицией партии, но чувствовал, что если бы он ушел в отставку, его популярность среди индейцев перестала бы душить членство в партии.
Он не был несогласен с позицией партии, но чувствовал, что если бы он ушел в отставку, его популярность среди индейцев перестала бы душить членство в партии.
Morphological negation
Double negation
29
0 (entailment)
Если схема токенизации пайплайна не соответствует той, которая использовалась при создании модели, негативное влияние на результаты пайплайна должно быть ожидаемым.
Если схема токенизации пайплайна не соответствует той, которая использовалась при создании модели, негативное влияние на результаты пайплайна не должно быть неожиданным.
Morphological negation
Double negation
30
0 (entailment)
Если схема токенизации пайплайна не соответствует той, которая использовалась при создании модели, негативное влияние на результаты пайплайна не должно быть неожиданным.
Если схема токенизации пайплайна не соответствует той, которая использовалась при создании модели, негативное влияние на результаты пайплайна должно быть ожидаемым.
Morphological negation
Double negation
31
0 (entailment)
Если схема токенизации пайплайна не соответствует той, которая использовалась при создании модели, негативное влияние на результаты пайплайна ожидаемо.
Если схема токенизации пайплайна не соответствует той, которая использовалась при создании модели, ожидаемо негативное влияние на результаты пайплайна.
Nominalization
32
0 (entailment)
Если схема токенизации пайплайна не соответствует той, которая использовалась при создании модели, ожидаемо негативное влияние на результаты пайплайна.
Если схема токенизации пайплайна не соответствует той, которая использовалась при создании модели, негативное влияние на результаты пайплайна ожидаемо.
Nominalization
33
0 (entailment)
Если схема токенизации пайплайна не соответствует той, которая использовалась при создании модели, негативное влияние на результаты пайплайна должно быть ожидаемым.
Если схема токенизации пайплайна не соответствует той, которая использовалась при создании модели, не должно быть неожиданным негативное влияние на результаты пайплайна.
Morphological negation
Double negation
Nominalization
34
0 (entailment)
Если схема токенизации пайплайна не соответствует той, которая использовалась при создании модели, не должно быть неожиданным негативное влияние на результаты пайплайна.
Если схема токенизации пайплайна не соответствует той, которая использовалась при создании модели, негативное влияние на результаты пайплайна должно быть ожидаемым.
Morphological negation
Double negation
Nominalization
35
0 (entailment)
Вода слишком горячая.
Вода слишком холодная.
Lexical entailment
36
1 (not_entailment)
Вода слишком холодная.
Вода слишком горячая.
Lexical entailment
37
1 (not_entailment)
Falcon Heavy – это самая большая ракета со времён ракеты-носителя NASA "Сатурн V", которая использовалась для полет на Луну в 1970-е годы.
Falcon Heavy – это самая маленькая ракета со времён ракеты-носителя NASA "Сатурн V", которая использовалась для полет на Луну в 1970-е годы.
Lexical entailment
38
1 (not_entailment)
Falcon Heavy – это самая маленькая ракета со времён ракеты-носителя NASA "Сатурн V", которая использовалась для полет на Луну в 1970-е годы.
Falcon Heavy – это самая большая ракета со времён ракеты-носителя NASA "Сатурн V", которая использовалась для полет на Луну в 1970-е годы.
Lexical entailment
39
1 (not_entailment)
Симптомы аденоидита часто сохраняются в течение десяти или более дней, и часто включают в себя гнойные выделения из носа.
Симптомы аденоидита часто проходят в течение десяти дней или меньше, и часто включают в себя гнойные выделения из носа.
Lexical entailment
40
1 (not_entailment)
Симптомы аденоидита часто проходят в течение десяти дней или меньше, и часто включают в себя гнойные выделения из носа.
Симптомы аденоидита часто сохраняются в течение десяти или более дней, и часто включают в себя гнойные выделения из носа.
Lexical entailment
41
1 (not_entailment)
В примере (1) достаточно просто увидеть преувеличенный позитивный настрой, используемый для того, чтобы передать сильные негативные чувства.
В примере (1) достаточно сложно увидеть преувеличенный позитивный настрой, используемый для того, чтобы передать сильные негативные чувства.
Lexical entailment
42
1 (not_entailment)
В примере (1) достаточно сложно увидеть преувеличенный позитивный настрой, используемый для того, чтобы передать сильные негативные чувства.
В примере (1) достаточно просто увидеть преувеличенный позитивный настрой, используемый для того, чтобы передать сильные негативные чувства.
Lexical entailment
43
1 (not_entailment)
В примере (1) достаточно просто увидеть преувеличенный позитивный настрой, используемый для того, чтобы передать сильные негативные чувства.
В примере (1) достаточно легко увидеть преувеличенный позитивный настрой, используемый для того, чтобы передать сильные негативные чувства.
Lexical entailment
44
0 (entailment)
В примере (1) достаточно легко увидеть преувеличенный позитивный настрой, используемый для того, чтобы передать сильные негативные чувства.
В примере (1) достаточно просто увидеть преувеличенный позитивный настрой, используемый для того, чтобы передать сильные негативные чувства.
Lexical entailment
45
0 (entailment)
В примере (1) очень легко увидеть преувеличенный позитивный настрой, используемый для того, чтобы передать сильные негативные чувства.
В примере (1) очень важно увидеть преувеличенный позитивный настрой, используемый для того, чтобы передать сильные негативные чувства.
Lexical entailment
46
1 (not_entailment)
В примере (1) очень важно увидеть преувеличенный позитивный настрой, используемый для того, чтобы передать сильные негативные чувства.
В примере (1) очень легко увидеть преувеличенный позитивный настрой, используемый для того, чтобы передать сильные негативные чувства.
Lexical entailment
47
1 (not_entailment)
Некоторые собаки любят чесать свои уши.
Некоторые животные любят чесать свои уши.
Lexical entailment
Upward monotone
48
0 (entailment)
Некоторые животные любят чесать свои уши.
Некоторые собаки любят чесать свои уши.
Lexical entailment
Upward monotone
49
1 (not_entailment)
Круз неоднократно высмеивал как "амнистию" различные планы, призванные дать правовой статус или гражданство людям, живущим в стране незаконно.
Круз неоднократно высмеивал как "амнистию" различные законопроекты, призванные дать правовой статус или гражданство людям, живущим в стране незаконно.
World knowledge
Upward monotone
50
1 (not_entailment)
Круз неоднократно высмеивал как "амнистию" различные законопроекты, призванные дать правовой статус или гражданство людям, живущим в стране незаконно.
Круз неоднократно высмеивал как "амнистию" различные планы, призванные дать правовой статус или гражданство людям, живущим в стране незаконно.
World knowledge
Upward monotone
51
0 (entailment)
Большинство выпускников моей программы переключились на другие вещи, потому что работа отстой.
Некоторые из выпускников моей программы переключились на другие вещи, потому что работа отстой.
Quantifiers
52
0 (entailment)
Некоторые из выпускников моей программы переключились на другие вещи, потому что работа отстой.
Большинство выпускников моей программы переключились на другие вещи, потому что работа отстой.
Quantifiers
53
1 (not_entailment)
Во многих развитых районах деятельность человека изменила форму русла рек, влияя на масштаб и частоту наводнений.
Во многих областях деятельность человека изменила форму русла рек, влияя на масштаб и частоту наводнений.
Upward monotone
Intersectivity
54
0 (entailment)
Во многих областях деятельность человека изменила форму русла рек, влияя на масштаб и частоту наводнений.
Во многих развитых районах деятельность человека изменила форму русла рек, влияя на масштаб и частоту наводнений.
Upward monotone
Intersectivity
55
1 (not_entailment)
Рассмотрим некоторые слова из контекста как положительные примеры – и несколько негативных наугад из словаря.
Рассмотрим некоторые слова как положительные примеры – и несколько негативных наугад из словаря.
Upward monotone
Intersectivity
56
0 (entailment)
Рассмотрим некоторые слова как положительные примеры – и несколько негативных наугад из словаря.
Рассмотрим некоторые слова из контекста как положительные примеры – и несколько негативных наугад из словаря.
Upward monotone
Intersectivity
57
1 (not_entailment)
Рассмотрим некоторые слова из контекста как положительные примеры – и несколько негативных наугад из словаря.
Рассмотрим все слова из контекста как положительные примеры – и много негативных наугад из словаря.
Quantifiers
58
1 (not_entailment)
Рассмотрим все слова из контекста как положительные примеры – и много негативных наугад из словаря.
Рассмотрим некоторые слова из контекста как положительные примеры – и несколько негативных наугад из словаря.
Quantifiers
59
1 (not_entailment)
Рассмотрим некоторые слова из контекста как положительные примеры – и несколько негативных наугад из словаря.
Мы рассматриваем многие контекстные слова как положительные примеры и образец негативы наугад из словаря.
Quantifiers
60
1 (not_entailment)
Рассмотрим многие слова из контекста как положительные примеры – и несколько негативных наугад из словаря.
Рассмотрим некоторые слова из контекста как положительные примеры – и несколько негативных наугад из словаря.
Quantifiers
61
0 (entailment)
Рассмотрим все слова из контекста как положительные примеры – и несколько негативных наугад из словаря.
Рассмотрим все слова как положительные примеры – и несколько негативных наугад из словаря.
Downward monotone
Intersectivity
62
1 (not_entailment)
Рассмотрим все слова как положительные примеры – и несколько негативных наугад из словаря.
Рассмотрим все слова из контекста как положительные примеры – и несколько негативных наугад из словаря.
Downward monotone
Intersectivity
63
0 (entailment)
Все собаки любят чесать свои уши.
Все животные любят чесать свои уши.
Lexical entailment
Downward monotone
64
1 (not_entailment)
Все животные любят чесать свои уши.
Все собаки любят чесать свои уши.
Lexical entailment
Downward monotone
65
0 (entailment)
Круз неоднократно высмеивал как "амнистию" любые планы, призванные дать правовой статус или гражданство людям, живущим в стране незаконно.
Круз неоднократно высмеивал как "амнистию" любые законопроекты, призванные дать правовой статус или гражданство людям, живущим в стране незаконно.
World knowledge
Downward monotone
66
0 (entailment)
Круз неоднократно высмеивал как "амнистию" любые законопроекты, призванные дать правовой статус или гражданство людям, живущим в стране незаконно.
Круз неоднократно высмеивал как "амнистию" любые планы, призванные дать правовой статус или гражданство людям, живущим в стране незаконно.
World knowledge
Downward monotone
67
1 (not_entailment)
Большинство выпускников моей программы переключились на другие вещи потому, что работа отстой.
Ни один из выпускников моей программы не переключился на другие вещи потому, что работа отстой.
Quantifiers
68
1 (not_entailment)
Ни один из выпускников моей программы не переключился на другие вещи потому, что работа отстой.
Большинство выпускников моей программы переключились на другие вещи, потому что работа отстой.
Quantifiers
69
1 (not_entailment)
Большинство выпускников моей программы переключились на другие вещи, потому что работа отстой.
Все выпускники моей программы переключились на другие вещи, потому что работа отстой.
Quantifiers
70
1 (not_entailment)
Все выпускники моей программы переключились на другие вещи, потому что работа отстой.
Большинство выпускников моей программы переключились на другие вещи, потому что работа отстой.
Quantifiers
71
1 (not_entailment)
На всех территориях деятельность человека изменила форму русла рек, влияя на масштаб и частоту наводнений.
На всех развитых территориях деятельность человека изменила форму русла рек, влияя на масштаб и частоту наводнений.
Downward monotone
Intersectivity
72
0 (entailment)
На всех развитых территориях деятельность человека изменила форму русла рек, влияя на масштаб и частоту наводнений.
На всех территориях деятельность человека изменила форму русла рек, влияя на масштаб и частоту наводнений.
Downward monotone
Intersectivity
73
1 (not_entailment)
Том и Адам шептались в театре.
Том и Адам тихо шептались в театре.
Redundancy
74
0 (entailment)
Том и Адам тихо шептались в театре.
Том и Адам шептались в театре.
Redundancy
75
0 (entailment)
Том и Адам шептались в театре.
Том и Адам громко шептались в театре.
Redundancy
76
1 (not_entailment)
Том и Адам громко шептались в театре.
Том и Адам шептались в театре.
Redundancy
77
0 (entailment)
До начала танца, который является добровольным, студентам сказали заполнить карточку, выбрав пять человек, с кем они хотят танцевать.
До начала танца, который является добровольным, студентам сказали заполнить карточку, выбрав пять разных людей, с кем они хотят танцевать.
Redundancy
78
0 (entailment)
До начала танца, который является добровольным, студентам сказали заполнить карточку, выбрав пять разных людей, с кем они хотят танцевать.
До начала танца, который является добровольным, студентам сказали заполнить карточку, выбрав пять человек, с кем они хотят танцевать.
Redundancy
79
0 (entailment)
Уведомления про FarmVille и прочий трэш стали невыносимыми, затем произошёл сдвиг в сторону нехронологической ленты новостей, и контент от ваших друзей начал сменяться рекламой и другими мерзкими типа-вирусными кампаниями.
Уведомления про FarmVille и прочий трэш-контент стали невыносимыми, затем произошёл сдвиг в сторону нехронологической ленты новостей, и контент от ваших друзей начал сменяться рекламой и другими мерзкими типа-вирусными кампаниями.
Redundancy
80
0 (entailment)
Уведомления про FarmVille и прочий трэш-контент стали невыносимыми, затем произошёл сдвиг в сторону нехронологической ленты новостей, и контент от ваших друзей начал сменяться рекламой и другими мерзкими типа-вирусными кампаниями.
Уведомления про FarmVille и прочий трэш стали невыносимыми, затем произошёл сдвиг в сторону нехронологической ленты новостей, и контент от ваших друзей начал сменяться рекламой и другими мерзкими типа-вирусными кампаниями.
Redundancy
81
0 (entailment)
Мэрия Чикаго является официальной резиденцией правительства города Чикаго.
Мэрия Чикаго является официальной резиденцией правительства Чикаго.
Redundancy
82
0 (entailment)
Мэрия Чикаго является официальной резиденцией правительства Чикаго.
Мэрия Чикаго является официальной резиденцией правительства города Чикаго.
Redundancy
83
0 (entailment)
Аспект генерации вопроса уникален для нашей формулировки и примерно соответствует определению того, какие метки семантической роли присутствуют в предыдущих формулировках задачи.
Аспект генерации вопроса уникален для нашей формулировки и примерно соответствует определению того, какие метки семантической роли присутствуют в других предыдущих формулировках задачи.
Redundancy
84
0 (entailment)
Аспект генерации вопроса уникален для нашей формулировки и примерно соответствует определению того, какие метки семантической роли присутствуют в других предыдущих формулировках задачи.
Аспект генерации вопроса уникален для нашей формулировки и примерно соответствует определению того, какие метки семантической роли присутствуют в предыдущих формулировках задачи.
Redundancy
85
0 (entailment)
Джон ужинал макаронами.
Джон ел макароны на ужин.
Lexical entailment
86
0 (entailment)
Джон ел макароны на ужин.
Джон ужинал макаронами.
Lexical entailment
87
0 (entailment)
Джон ел макароны на ужин.
Джон завтракал макаронами.
Lexical entailment
88
1 (not_entailment)
Джон завтракал макаронами.
Джон ел макароны на ужин.
Lexical entailment
89
1 (not_entailment)
Спикер палаты Пол Райан сталкивался с проблемами со стороны коллег-республиканцев, недовольных стилем его руководства.
Спикер палаты Пол Райан сталкивался с проблемами со стороны коллег-республиканцев, возмущённых стилем его руководства.
Lexical entailment
90
0 (entailment)
Спикер палаты Пол Райан сталкивался с проблемами со стороны коллег-республиканцев, возмущённых стилем его руководства.
Спикер палаты Пол Райан сталкивался с проблемами со стороны коллег-республиканцев, недовольных стилем его руководства.
Lexical entailment
91
0 (entailment)
Спикер палаты Пол Райан сталкивался с проблемами только со стороны коллег-республиканцев, недовольных стилем его руководства.
Спикер палаты Пол Райан сталкивался с проблемами со стороны коллег-республиканцев, поддержавших стиль его руководства.
Lexical entailment
92
1 (not_entailment)
Спикер палаты Пол Райан сталкивался с проблемами со стороны коллег-республиканцев, поддержавших стиль его руководства.
Спикер палаты Пол Райан сталкивался с проблемами только со стороны коллег-республиканцев, недовольных стилем его руководства.
Lexical entailment
93
1 (not_entailment)
Я прямо вижу, как он забирался в «линкольн», говоря это.
Я прямо вижу, как он садился в «линкольн», говоря это.
Lexical entailment
94
0 (entailment)
Я прямо вижу, как он садился в «линкольн», говоря это.
Я прямо вижу, как он забирался в «линкольн», говоря это.
Lexical entailment
95
0 (entailment)
Я прямо вижу, как он забирался в «линкольн», говоря это.
Я прямо вижу, как он забирался в «мазду», говоря это.
Lexical entailment
96
1 (not_entailment)
Я прямо вижу, как он забирался в «мазду», говоря это.
Я прямо вижу, как он забирался в «линкольн», говоря это.
Lexical entailment
97
1 (not_entailment)
Злодей – это персонаж, который, как правило, оказывает негативное влияние на других персонажей.
Злодей – это персонаж, который, как правило, оказывает негативное воздействие на других персонажей.
Lexical entailment
98
0 (entailment)
Злодей – это персонаж, который, как правило, оказывает негативное воздействие на других персонажей.
Злодей – это персонаж, который, как правило, оказывает негативное влияние на других персонажей.
Lexical entailment
99
0 (entailment)
End of preview (truncated to 100 rows)

Dataset Card for [Russian SuperGLUE]

Dataset Summary

Modern universal language models and transformers such as BERT, ELMo, XLNet, RoBERTa and others need to be properly compared and evaluated. In the last year, new models and methods for pretraining and transfer learning have driven striking performance improvements across a range of language understanding tasks.

We offer testing methodology based on tasks, typically proposed for “strong AI” — logic, commonsense, reasoning. Adhering to the GLUE and SuperGLUE methodology, we present a set of test tasks for general language understanding and leaderboard models.

For the first time a complete test for Russian language was developed, which is similar to its English analog. Many datasets were composed for the first time, and a leaderboard of models for the Russian language with comparable results is also presented.

Supported Tasks and Leaderboards

Supported tasks, barring a few additions, are equivalent to the original SuperGLUE tasks.

Task Name Equiv. to
Linguistic Diagnostic for Russian Broadcoverage Diagnostics (AX-b)
Russian Commitment Bank (RCB) CommitmentBank (CB)
Choice of Plausible Alternatives for Russian language (PARus) Choice of Plausible Alternatives (COPA)
Russian Multi-Sentence Reading Comprehension (MuSeRC) Multi-Sentence Reading Comprehension (MultiRC)
Textual Entailment Recognition for Russian (TERRa) Recognizing Textual Entailment (RTE)
Russian Words in Context (based on RUSSE) Words in Context (WiC)
The Winograd Schema Challenge (Russian) The Winograd Schema Challenge (WSC)
Yes/no Question Answering Dataset for the Russian (DaNetQA) BoolQ
Russian Reading Comprehension with Commonsense Reasoning (RuCoS) Reading Comprehension with Commonsense Reasoning (ReCoRD)

Languages

All tasks are in Russian.

Dataset Structure

Data Instances

Note that there are no labels in the test splits. This is signified by the -1 value.

LiDiRus

  • Size of downloaded dataset files: 0.047 MB
  • Size of the generated dataset: 0.47 MB
  • Total amount of disk used: 0.517 MB

An example of 'test' looks as follows

{
    "sentence1": "Новая игровая консоль доступна по цене.",
    "sentence2": "Новая игровая консоль недоступна по цене.",
    "knowledge": "",
    "lexical-semantics": "Morphological negation",
    "logic": "Negation",
    "predicate-argument-structure": "",
    "idx": 10,
    "label": 1
}

RCB

  • Size of downloaded dataset files: 0.134 MB
  • Size of the generated dataset: 0.504 MB
  • Total amount of disk used: 0.641 MB

An example of 'train'/'dev' looks as follows

{
    "premise": "— Пойдём пообедаем. Я с утра ничего не ел. Отель, как видишь, весьма посредственный, но мне сказали,
     что в здешнем ресторане отлично готовят.",
    "hypothesis": "В здешнем ресторане отлично готовят.",
    "verb": "сказать",
    "negation": "no_negation",
    "idx": 10,
    "label": 2
}

An example of 'test' looks as follows

{
    "premise": "Я уверен, что вместе мы победим. Да, парламентское большинство думает иначе.",
    "hypothesis": "Вместе мы проиграем.",
    "verb": "думать",
    "negation": "no_negation",
    "idx": 10,
    "label": -1
}

PARus

  • Size of downloaded dataset files: 0.057 MB
  • Size of the generated dataset: 0.187 MB
  • Total amount of disk used: 0.245 MB

An example of 'train'/'dev' looks as follows

{
    "premise": "Женщина чинила кран.",
    "choice1": "Кран подтекал.",
    "choice2": "Кран был выключен.",
    "question": "cause",
    "idx": 10,
    "label": 0
}

An example of 'test' looks as follows

{
    "premise": "Ребятам было страшно.",
    "choice1": "Их вожатый рассказал им историю про призрака.",
    "choice2": "Они жарили маршмеллоу на костре.",
    "question": "cause",
    "idx": 10,
    "label": -1
}

MuSeRC

  • Size of downloaded dataset files: 1.2 MB
  • Size of the generated dataset: 57 MB
  • Total amount of disk used: 59 MB

An example of 'train'/'dev' looks as follows

{
    "paragraph": "(1) Но люди не могут существовать без природы, поэтому в парке стояли железобетонные скамейки —
     деревянные моментально ломали. (2) В парке бегали ребятишки, водилась шпана, которая развлекалась игрой в карты,
     пьянкой, драками, «иногда насмерть». (3) «Имали они тут и девок...» (4) Верховодил шпаной Артемка-мыло, с
     вспененной белой головой. (5) Людочка сколько ни пыталась усмирить лохмотья на буйной голове Артемки, ничего у
     неё не получалось. (6) Его «кудри, издали напоминавшие мыльную пену, изблизя оказались что липкие рожки из
     вокзальной столовой — сварили их, бросили комком в пустую тарелку, так они, слипшиеся, неподъёмно и лежали.
     (7) Да и не ради причёски приходил парень к Людочке. (8) Как только её руки становились занятыми ножницами
     и расчёской, Артемка начинал хватать её за разные места. (9) Людочка сначала увёртывалась от хватких рук Артемки,
     а когда не помогло, стукнула его машинкой по голове и пробила до крови, пришлось лить йод на голову «ухажористого
     человека». (10) Артемка заулюлюкал и со свистом стал ловить воздух. (11) С тех пор «домогания свои хулиганские
     прекратил», более того, шпане повелел Людочку не трогать.",
    "question": "Как развлекались в парке ребята?",
    "answer": "Развлекались игрой в карты, пьянкой, драками, снимали они тут и девок.",
    "idx":
    {
        "paragraph": 0,
        "question": 2,
        "answer": 10
    },
    "label": 1
}

An example of 'test' looks as follows


{
    "paragraph": "\"(1) Издательство Viking Press совместно с компанией TradeMobile выпустят мобильное приложение,
     посвященное Анне Франк, передает The Daily Telegraph. (2) Программа будет включать в себя фрагменты из дневника
     Анны, озвученные британской актрисой Хеленой Бонэм Картер. (3) Помимо этого, в приложение войдут фотографии
     и видеозаписи, документы из архива Фонда Анны Франк, план здания в Амстердаме, где Анна с семьей скрывались от
     нацистов, и факсимильные копии страниц дневника. (4) Приложение, которое получит название Anne Frank App, выйдет
     18 октября. (5) Интерфейс программы будет англоязычным. (6) На каких платформах будет доступно Anne Frank App,
     не уточняется. Анна Франк родилась в Германии в 1929 году. (7) Когда в стране начались гонения на евреев, Анна с
     семьей перебрались в Нидерланды. (8) С 1942 года члены семьи Франк и еще несколько человек скрывались от нацистов
     в потайных комнатах дома в Амстердаме, который занимала компания отца Анны. (9) В 1944 году группу по доносу
     обнаружили гестаповцы. (10) Обитатели \"Убежища\" (так Анна называла дом в дневнике) были отправлены в концлагеря;
     выжить удалось только отцу девочки Отто Франку. (11) Находясь в \"Убежище\", Анна вела дневник, в котором описывала
     свою жизнь и жизнь своих близких. (12) После ареста книгу с записями сохранила подруга семьи Франк и впоследствии
     передала ее отцу Анны. (13) Дневник был впервые опубликован в 1947 году. (14) Сейчас он переведен более
     чем на 60 языков.\"",
    "question": "Какая информация войдет в новой мобильное приложение?",
    "answer": "Видеозаписи Анны Франк.",
    "idx":
    {
        "paragraph": 0,
        "question": 2,
        "answer": 10
    },
    "label": -1
}

TERRa

  • Size of downloaded dataset files: 0.887 MB
  • Size of the generated dataset: 3.28 MB
  • Total amount of disk used: 4.19 MB

An example of 'train'/'dev' looks as follows

{
    "premise": "Музей, расположенный в Королевских воротах, меняет экспозицию. На смену выставке, рассказывающей об
     истории ворот и их реставрации, придет «Аптека трех королей». Как рассказали в музее, посетители попадут в 
     традиционный интерьер аптеки.",
    "hypothesis": "Музей закроется навсегда.",
    "idx": 10,
    "label": 1
}

An example of 'test' looks as follows

{
    "premise": "Маршрутка полыхала несколько минут. Свидетели утверждают, что приезду пожарных салон «Газели» выгорел полностью. К счастью, пассажиров внутри не было, а водитель успел выскочить из кабины.",
    "hypothesis": "Маршрутка выгорела.",
    "idx": 10,
    "label": -1
}

RUSSE

  • Size of downloaded dataset files: 3.7 MB
  • Size of the generated dataset: 20 MB
  • Total amount of disk used: 24 MB

An example of 'train'/'dev' looks as follows

{
    "word": "дух",
    "sentence1": "Завертелась в доме веселая коловерть: праздничный стол, праздничный дух, шумные разговоры",
    "sentence2": "Вижу: духи собралися / Средь белеющих равнин. // Бесконечны, безобразны, / В мутной месяца игре / Закружились бесы разны, / Будто листья в ноябре",
    "start1": 68,
    "start2": 6,
    "end1": 72,
    "end2": 11,
    "gold_sense1": 3,
    "gold_sense2": 4,
    "idx": 10,
    "label": 0
}

An example of 'test' looks as follows

{
    "word": "доска",
    "sentence1": "На 40-й день после трагедии в переходе была установлена мемориальная доска, надпись на которой гласит: «В память о погибших и пострадавших от террористического акта 8 августа 2000 года».",
    "sentence2": "Фото с 36-летним миллиардером привлекло сеть его необычной фигурой при стойке на доске и кремом на лице.",
    "start1": 69,
    "start2": 81,
    "end1": 73,
    "end2": 85,
    "gold_sense1": -1,
    "gold_sense2": -1,
    "idx": 10,
    "label": -1
}

RWSD

  • Size of downloaded dataset files: 0.04 MB
  • Size of the generated dataset: 0.279 MB
  • Total amount of disk used: 0.320 MB

An example of 'train'/'dev' looks as follows

{
    "text": "Женя поблагодарила Сашу за помощь, которую она оказала.",
    "span1_index": 0,
    "span2_index": 6,
    "span1_text": "Женя",
    "span2_text": "она оказала",
    "idx": 10,
    "label": 0
}

An example of 'test' looks as follows

{
    "text": "Мод и Дора видели, как через прерию несутся поезда, из двигателей тянулись клубы черного дыма. Ревущие 
    звуки их моторов и дикие, яростные свистки можно было услышать издалека. Лошади убежали, когда они увидели 
    приближающийся поезд.",
    "span1_index": 22,
    "span2_index": 30,
    "span1_text": "свистки",
    "span2_text": "они увидели",
    "idx": 10,
    "label": -1
}

DaNetQA

  • Size of downloaded dataset files: 1.3 MB
  • Size of the generated dataset: 4.6 MB
  • Total amount of disk used: 5.9 MB

An example of 'train'/'dev' looks as follows

{
    "question": "Вреден ли алкоголь на первых неделях беременности?",
    "passage": "А Бакингем-Хоуз и её коллеги суммировали последствия, найденные в обзорных статьях ранее. Частые случаи
     задержки роста плода, результатом чего является укороченный средний срок беременности и сниженный вес при рождении.
     По сравнению с нормальными детьми, дети 3-4-недельного возраста демонстрируют «менее оптимальную»  двигательную 
     активность, рефлексы, и ориентацию в пространстве, а дети 4-6 лет показывают низкий уровень работы 
     нейроповеденческих функций, внимания, эмоциональной экспрессии, и развития речи и языка. Величина этих влияний 
     часто небольшая, частично в связи с независимыми переменными: включая употребление во время беременности 
     алкоголя/табака, а также факторы среды . У детей школьного возраста проблемы с устойчивым вниманием и контролем 
     своего поведения, а также незначительные с ростом, познавательными и языковыми способностями.",
    "idx": 10,
    "label": 1
}

An example of 'test' looks as follows

{
    "question": "Вредна ли жесткая вода?",
    "passage": "Различают временную  жёсткость, обусловленную гидрокарбонатами кальция и магния Са2; Mg2, и постоянную
     жёсткость, вызванную присутствием других солей, не выделяющихся при кипячении воды: в основном, сульфатов и 
     хлоридов Са и Mg. Жёсткая вода при умывании сушит кожу, в ней плохо образуется пена при использовании мыла.
     Использование жёсткой воды вызывает появление осадка  на стенках котлов, в трубах и т. п. В то же время, 
     использование слишком мягкой воды может приводить к коррозии труб, так как, в этом случае отсутствует 
     кислотно-щелочная буферность, которую обеспечивает гидрокарбонатная  жёсткость. Потребление жёсткой или мягкой 
     воды обычно не является опасным для здоровья, однако есть данные о том, что высокая жёсткость способствует 
     образованию мочевых камней, а низкая — незначительно увеличивает риск сердечно-сосудистых заболеваний. Вкус 
     природной питьевой воды, например, воды родников, обусловлен именно присутствием солей жёсткости.",
    "idx": 100,
    "label": -1
}

RuCoS

  • Size of downloaded dataset files: 54 MB
  • Size of the generated dataset: 193 MB
  • Total amount of disk used: 249 MB

An example of 'train'/'dev' looks as follows

{
    "passage": "В Абхазии 24 августа на досрочных выборах выбирают нового президента. Кто бы ни стал победителем,
     возможности его будут ограничены, говорят эксперты, опрошенные DW. В Абхазии 24 августа проходят досрочные выборы
     президента не признанной международным сообществом республики. Толчком к их проведению стали массовые протесты в 
     конце мая 2014 года, в результате которых со своего поста был вынужден уйти действующий президент Абхазии Александр
     Анкваб. Эксперты называют среди наиболее перспективных кандидатов находящегося в оппозиции политика Рауля Хаджимбу,
     экс-главу службы безопасности Аслана Бжанию и генерала Мираба Кишмарию, исполняющего обязанности министра обороны.
     У кого больше шансов\n\"Ставки делаются на победу Хаджимбы.\n@highlight\nВ Швеции задержаны двое граждан РФ в связи
     с нападением на чеченского блогера\n@highlight\nТуризм в эпоху коронавируса: куда поехать? И ехать ли 
     вообще?\n@highlight\nКомментарий: Россия накануне эпидемии - виноватые назначены заранее",
    "query": "Несмотря на то, что Кремль вложил много денег как в @placeholder, так и в Южную Осетию, об экономическом
     восстановлении данных регионов говорить не приходится, считает Хальбах: \"Многие по-прежнему живут в 
     полуразрушенных домах и временных жилищах\".",
    "entities":
    [
        "DW.",
        "Абхазии ",
        "Александр Анкваб.",
        "Аслана Бжанию ",
        "Мираба Кишмарию,",
        "РФ ",
        "Рауля Хаджимбу,",
        "Россия ",
        "Хаджимбы.",
        "Швеции "
    ],
    "answers":
    [
        "Абхазии"
    ],
    "idx":
    {
        "passage": 500,
        "query": 500
    }
}

An example of 'test' looks as follows

{
    "passage": "Почему и как изменится курс белорусского рубля? Какие инструменты следует предпочесть населению, чтобы 
    сохранить сбережения, DW рассказали финансовые аналитики Беларуси. На последних валютных торгах БВФБ 2015 года в 
    среду, 30 декабря, курс белорусского рубля к доллару - 18569, к евро - 20300, к российскому рублю - 255. В 2016 
    году белорусскому рублю пророчат падение как минимум на 12 процентов к корзине валют, к которой привязан его курс. 
    А чтобы избежать потерь, белорусам советуют диверсифицировать инвестиционные портфели. Чем обусловлены прогнозные 
    изменения котировок белорусского рубля, и какие финансовые инструменты стоит предпочесть, чтобы минимизировать риск
    потерь?\n@highlight\nВ Германии за сутки выявлено более 100 новых заражений коронавирусом\n@highlight\nРыночные цены
    на нефть рухнули из-за провала переговоров ОПЕК+\n@highlight\nВ Италии за сутки произошел резкий скачок смертей от
    COVID-19",
    "query": "Последнее, убежден аналитик, инструмент для узкого круга профессиональных инвесторов, культуры следить за
     финансовым состоянием предприятий - такой, чтобы играть на рынке корпоративных облигаций, - в @placeholder пока нет.",
    "entities":
    [
        "DW ",
        "Беларуси.",
        "Германии ",
        "Италии ",
        "ОПЕК+"
    ],
    "answers": [],
    "idx":
    {
        "passage": 500,
        "query": 500
    }
}

Data Fields

LiDiRus

  • idx: an int32 feature
  • label: a classification label, with possible values entailment (0), not_entailment (1)
  • sentence1: a string feature
  • sentence2: a string feature
  • knowledge: a string feature with possible values '', 'World knowledge', 'Common sense'
  • lexical-semantics: a string feature
  • logic: a string feature
  • predicate-argument-structure: a string feature

RCB

  • idx: an int32 feature
  • label: a classification label, with possible values entailment (0), contradiction (1), neutral (2)
  • premise: a string feature
  • hypothesis: a string feature
  • verb: a string feature
  • negation: a string feature with possible values 'no_negation', 'negation', '', 'double_negation'

PARus

  • idx: an int32 feature
  • label: a classification label, with possible values choice1 (0), choice2 (1)
  • premise: a string feature
  • choice1: a string feature
  • choice2: a string feature
  • question: a string feature with possible values 'cause', 'effect'

MuSeRC

  • idx: an int32 feature
  • label : a classification label, with possible values false (0) , true (1) (does the provided answer contain a factual response to the question)
  • paragraph: a string feature
  • question: a string feature
  • answer: a string feature

TERRa

  • idx: an int32 feature
  • label: a classification label, with possible values entailment (0), not_entailment (1)
  • premise: a string feature
  • hypothesis: a string feature

RUSSE

  • idx: an int32 feature
  • label : a classification label, with possible values false (0), true (1) (whether the given word used in the same sense in both sentences)
  • word: a string feature
  • sentence1: a string feature
  • sentence2: a string feature
  • gold_sense1: an int32 feature
  • gold_sense2: an int32 feature
  • start1: an int32 feature
  • start2: an int32 feature
  • end1: an int32 feature
  • end2: an int32 feature

RWSD

  • idx: an int32 feature
  • label : a classification label, with possible values false (0), true (1) (whether the given spans are coreferential)
  • text: a string feature
  • span1_index: an int32 feature
  • span2_index: an int32 feature
  • span1_text: a string feature
  • span2_text: a string feature

DaNetQA

  • idx: an int32 feature
  • label : a classification label, with possible values false (0), true (1) (yes/no answer to the question found in the passage)
  • question: a string feature
  • passage: a string feature

RuCoS

  • idx: an int32 feature
  • passage: a string feature
  • query: a string feature
  • entities: a list of strings feature
  • answers: a list of strings feature

[More Information Needed]

Data Splits

LiDiRus

test
LiDiRus 1104

RCB

train validation test
RCB 438 220 438

PARus

train validation test
PARus 400 100 500

MuSeRC

train validation test
MuSeRC 500 100 322

TERRa

train validation test
TERRa 2616 307 3198

RUSSE

train validation test
RUSSE 19845 8508 18892

RWSD

train validation test
RWSD 606 204 154

DaNetQA

train validation test
DaNetQA 1749 821 805

RuCoS

train validation test
RuCoS 72193 7577 7257

Dataset Creation

Curation Rationale

[More Information Needed]

Source Data

Initial Data Collection and Normalization

[More Information Needed]

Who are the source language producers?

[More Information Needed]

Annotations

Annotation process

[More Information Needed]

Who are the annotators?

[More Information Needed]

Personal and Sensitive Information

[More Information Needed]

Considerations for Using the Data

Social Impact of Dataset

[More Information Needed]

Discussion of Biases

[More Information Needed]

Other Known Limitations

[More Information Needed]

Additional Information

Dataset Curators

[More Information Needed]

Licensing Information

All our datasets are published by MIT License.

Citation Information

@article{shavrina2020russiansuperglue,
                  title={RussianSuperGLUE: A Russian Language Understanding Evaluation Benchmark},
                  author={Shavrina, Tatiana and Fenogenova, Alena and Emelyanov, Anton and Shevelev, Denis and Artemova, Ekaterina and Malykh, Valentin and Mikhailov, Vladislav and Tikhonova, Maria and Chertok, Andrey and Evlampiev, Andrey},
                  journal={arXiv preprint arXiv:2010.15925},
                  year={2020}
                  }

Contributions

Thanks to @slowwavesleep for adding this dataset.

Update on GitHub