UTLLM-Eval
Collection
phase1の評価に使用したデータセット
•
4 items
•
Updated
This repository is publicly accessible, but you have to accept the conditions to access its files and content.
以下の条件に同意したうえで、公開されたモデル及びデータセット等(以下「本コンテンツ」)といいます)をダウンロードします。
Log in or Sign Up to review the conditions and access this dataset content.
BIG-Bench-Hardの23のサブセットから4サンプル、計92サンプルをランダムに抽出し、日本語に翻訳したものです。
BIG-Bench-Hardではサブセットごとにデータセットファイルが分割されていますが、本データセットでは、その情報をsubset
カラムに記載しています。
ファイルサイズ: 60.6 kB
サンプルの例は以下のようになります。
{
"id": 42,
"subset": "movie_recommendation",
"input": "レイダース/失われたアーク、ショーシャンクの空に、インセプション、パルプ・フィクションに似た映画を見つけてください。\n選択肢:\nA ポセイドン・アドベンチャー2\nB コーラス\nC フォレスト・ガンプ\nD ゾンビワールドへようこそ",
"target": "C",
}
id
: int64
型subset
: string
型input
: string
型target
: string
型MIT
@article{suzgun2022challenging,
title={Challenging BIG-Bench Tasks and Whether Chain-of-Thought Can Solve Them},
author={Suzgun, Mirac and Scales, Nathan and Sch{\"a}rli, Nathanael and Gehrmann, Sebastian and Tay, Yi and Chung, Hyung Won and Chowdhery, Aakanksha and Le, Quoc V and Chi, Ed H and Zhou, Denny and and Wei, Jason},
journal={arXiv preprint arXiv:2210.09261},
year={2022}
}