Datasets:

kifai
/

KoInFoBench

id stringlengths 1 2	subset stringclasses 2 values	category stringlengths 2 47	instruction stringlengths 20 436	input stringlengths 0 2.49k	decomposed_questions sequencelengths 1 9	question_label sequencelengths 1 9	ref stringlengths 0 261
1	input_intensive_set	쿠팡	가격, 별점, 내지 형태, 종이 사이즈 등의 정보를 바탕으로 주어진 상품과 유사한 다른 상품을 비교합니다. 상품 간의 비교를 위해서 표의 형태로 작성하되 각 열은 "\|"로 구분해야 합니다.	상품: 모닝글로리 3000 테마컬러 원링 노트 4권세트 PP 스프링노트 16절 줄노트 대학 모닝펜	[ "생성된 텍스트에는 표가 있습니까?", "입력으로 제공된 상품 항목이 표 안에 포함되어 있습니까?", "생성된 표 안의 모든 상품들은 입력으로 주어진 상품과 같은 유형의 제품입니까?", "표 안에 작성된 상품 항목의 특징들이 가격, 별점, 내지 형태, 종이 사이즈 각 컬럼에 알맞는 내용으로 작성되었습니까?" ]	[ "Format", "Content", "Content", "Content" ]	https://www.coupang.com/np/campaigns/82/components/401441?listSize=60&brand=8070&offerCondition=&filterType=&isPriceRange=false&minPrice=&maxPrice=&page=1&channel=user&fromComponent=N&selectedPlpKeepFilter=&sorter=saleCountDesc&filter=&component=401441&rating=0
2	input_intensive_set	다나와	상품명으로부터 브랜드 및 색상, 용량과 같은 옵션 정보를 추출합니다. 답변은 "옵션명: 값" 형식을 따르는 목록 형태로 작성해야 합니다.	MSI 지포스 RTX 4070 SUPER 게이밍 X 슬림 D6X 12GB 트라이프로져3	[ "생성된 모든 옵션 정보는 목록 형태로 작성되었습니까?", "각 옵션 정보는 \"옵션명: 값\" 형식에 맞게 작성되었습니까?", "추출된 모든 옵션 정보는 입력된 상품명과 관련이 있습니까?" ]	[ "Format", "Format", "Content" ]	https://prod.danawa.com/info/?pcode=32861312&cate=112753&adinflow=Y
3	input_intensive_set	쿠팡	주어진 정보를 바탕으로 리뷰를 작성합니다.	- 상품명: 코멧 퓨어 라이트 아기물티슈 40평량, 120매, 20팩 - 평점: 5/5	[ "긍정적인 표현이 포함된 높은 평점의 상품 리뷰입니까?", "생성된 내용은 주어진 상품의 정보와 직접적인 연관성이 있습니까?", "\"평량\"은 Gram per Square Metre의 한글 표현으로 두께를 의미합니다. 물티슈의 두께에 대한 평가가 생성된 답변에 포함되어 있습니까?" ]	[ "Style", "Content", "Content, Linguistic" ]	https://www.coupang.com/vp/products/7390950338?itemId=19356423171&vendorItemId=86469517647&sourceType=CATEGORY&categoryId=485879&isAddedCart=
4	input_intensive_set	쿠팡	주어진 제품이 생활가전, 건강가전, 뷰티/헤어가전, 주방가전 중 어느 카테고리에 속하는지 분류합니다.	알로코리아 초경량 무선 전동 미니 마사지건 AMG5B, AMG5	[ "주어진 제품을 생활가전, 건강가전, 뷰티/헤어가전, 주방가전 중 어떤 카테고리인지 분류한 결과를 포함합니까?", "주어진 제품은 건강가전 카테고리에 속합니다. 생성된 답변은 제품을 올바르게 분류했습니까?" ]	[ "Content", "Content" ]	https://www.coupang.com/vp/products/7251763700?itemId=18448345509&vendorItemId=85589198386&sourceType=CATEGORY&categoryId=178615&isAddedCart=
5	input_intensive_set	티스토리	다음에 주어진 정보를 참고해서 블로그 포스트의 개요와 상세목차를 작성합니다.	광명시의 맛집을 탐방하고 후기를 남기는 블로그에서 점심식사로 추천할 식당 리스트를 소개하는 포스트입니다.	[ "생성된 문자열은 블로그 포스트의 개요에 대한 것입니까?", "개요와 상세 목차가 포함되어 있습니까?", "주어진 정보를 바탕으로 블로그 포스트의 개요가 작성되었습니까?" ]	[ "Format", "Format", "Content" ]
6	input_intensive_set	티스토리	블로그 제목과 각 섹션별 내용에 맞게 본문 콘텐츠를 작성합니다. 각 섹션 항목은 부제목으로 굵게 강조하여 작성해야 합니다. 그리고 본문 내용 작성 시 신뢰감을 줄 수 있는 어조로 본문을 작성하되, '~요'와 같이 친근한 어투를 사용합니다.	제목: '에코프로머티리얼즈' 공모주 수요예측 청약 정보 및 상장일 목차: 1. 에코프로머티리얼즈 기업정보 2. 에코프로머티리얼즈 수요예측 3. 청약정보	[ "작성된 글은 블로그 포스트의 제목과 3가지 섹션 내용을 포함합니까?", "주어진 제목, 목차와 관련된 본문의 내용으로 작성되었습니까?", "목차의 각 항목 섹션들은 부제목으로 굵게 혹은 Bold로 작성되었습니까?", "'~요', '~죠'와 같은 친근한 어투의 문장이 포함되어 있습니까?" ]	[ "Format, Number", "Content", "Format", "Style" ]	https://luvhitchcock.tistory.com/entry/%EC%97%90%EC%BD%94%ED%94%84%EB%A1%9C%EB%A8%B8%ED%8B%B0%EB%A6%AC%EC%96%BC%EC%A6%88-%EA%B3%B5%EB%AA%A8%EC%A3%BC-%EC%88%98%EC%9A%94%EC%98%88%EC%B8%A1-%EC%B2%AD%EC%95%BD-%EC%A0%95%EB%B3%B4-%EB%B0%8F-%EC%83%81%EC%9E%A5%EC%9D%BC
7	input_intensive_set	서울신문	아래의 뉴스 제목이 어떤 카테고리에 속하는지 적절한 것을 선택합니다. 정치, 사회, 경제, 국제, 문화, 스포츠 그리고 연예 카테고리 중 하나 입니다.	자유자재 방향 바꾸며 성큼성큼… ‘사람같은 로봇’에 꽂힌 빅테크	[ "생성된 답변은 뉴스 제목을 정치, 사회, 경제, 국제, 문화, 스포츠 그리고 연예 7가지의 카테고리 중 하나로 분류했습니까?", "제시된 뉴스 제목은 '경제' 분야의 뉴스입니다. 생성된 답변은 경제 카테고리로 올바르게 분류하였습니까?" ]	[ "Format", "Content" ]	https://www.seoul.co.kr/news/economy/industry/2024/02/27/20240227019001
8	input_intensive_set	인프런	아래에 제시된 강의 제목과 관련된 강의 커리큘럼을 작성합니다. 커리큘럼의 한 꼭지는 여러 개의 세부 챕터들로 이루어져 있으며 꼭지마다 학습목표를 알 수 있도록 서술식으로 짧게 한 문장으로 작성합니다.	고수가 되는 파이썬 : 동시성과 병렬성 문법 배우기 Feat. 멀티스레딩 vs 멀티프로세싱	[ "생성된 답변에 강의 커리큘럼이 작성되었습니까?", "글을 작성할 때 \"꼭지\"는 하나의 일정 묶음이나 단위 혹은 챕터의 의미로 사용될 수 있습니다. 생성된 답변에 '꼭지'라는 표현을 사용하지 않았습니까?", "커리큘럼의 각 꼭지별로 학습목표가 작성되었습니까?", "각 꼭지의 학습목표는 서술식으로 1개의 문장으로 짧게 작성되었습니까?" ]	[ "Format", "Linguistic, Content", "Format", "Format" ]	https://www.inflearn.com/course/%ED%94%84%EB%A1%9C%EA%B7%B8%EB%9E%98%EB%B0%8D-%ED%8C%8C%EC%9D%B4%EC%8D%AC-%EC%99%84%EC%84%B1-%EC%9D%B8%ED%94%84%EB%9F%B0-%EC%98%A4%EB%A6%AC%EC%A7%80%EB%84%90
9	input_intensive_set	인프런	주어진 단어와 관련된 학습을 위해 필요한 선수지식을 리스트 형태로 나열합니다.	대규모 언어모델	[ "주어진 단어의 학습을 위해 필요한 선수지식이 올바르게 작성되었습니까?", "선수지식은 리스트 형태로 나열하여 작성되었습니까?" ]	[ "Content", "Format" ]
10	input_intensive_set	듀오링고	다음의 질문에 대한 적절한 답을 하시오.	"안녕하세요"를 타갈로그어로 어떻게 말해야 합니까?	[ "생성된 텍스트에는 '안녕하세요'를 'Kumusta'라고 인사말을 안내하였습니까?", "생성된 텍스트에는 오전, 점심, 오후 그리고 저녁 시간대별 다른 인사말에 대한 내용도 포함하고 있습니까?" ]	[ "Content, Linguistic", "Linguistic" ]
11	input_intensive_set	듀오링고	아래 글자를 어떻게 발음해야 할까요?	つ	[ "생성된 답변에는 발음을 하기 위한 소리에 대한 내용이 적혀있습니까?", "생성된 답변의 발음 방법은 해당 글자를 발음하는 올바른 방법입니까?" ]	[ "Format", "Linguistic" ]
12	input_intensive_set	스포티비	KBO에서 활약했던 선수 2명에 대한 커리어를 표의 형태로 작성하여 비교합니다. 각 컬럼은 "\|"으로 구분됩니다.	양준혁, 이종범	[ "표가 포함된 답변입니까?", "표의 컬럼은 \"\|\"으로 구분되었습니까?", "입력으로 제공된 KBO 출신의 두 선수에 대한 커리어를 비교하는 표가 포함되었습니까?", "두 선수의 정보가 실제 커리어 정보와 일치합니까?" ]	[ "Format", "Format", "Format", "Content" ]
13	input_intensive_set	스포티비	다음에 제시된 K리그1 소속 프로축구팀의 역대 감독들을 표의 형태로 리스트업 합니다. 표의 컬럼으로는 몇대 감독인지 그리고 이름, 국적, 기간을 작성합니다. 그리고 외국인 감독은 이름에 Bold 처리를 합니다.	FC서울	[ "역대 감독들에 대한 리스트 및 정보가 표로 표현되었습니까?", "표의 열 제목으로 감독의 대수와 이름, 국적, 기간을 사용하였습니까?", "외국인 감독의 이름에는 Bold 처리가 되어있습니까?", "FC서울의 역대 외국인 감독 \"세뇰 귀네슈\"와 \"넬루 빙가다\"가 리스트에 포함되어있습니까?" ]	[ "Format", "Content", "Format", "Content" ]	https://namu.wiki/w/FC%20%EC%84%9C%EC%9A%B8#s-9
14	input_intensive_set	한국학술지인용색인	아래에 작성된 본문의 내용을 읽고 질문에 대한 답을 합니다. 답변을 할 때 필요하다면 특정 용어나 키워드에 대해서는 괄호 안에 영어로 함께 작성합니다. 예: 스케일링 법칙(Scaling law)	스케일링 법칙은 어떤 요소의 변화가 다른 요소에 어떻게 영향을 미치는지를 설명하는 수학적 원리입니다. 예를 들어, 생물의 크기가 커질수록 그 생물의 대사율도 특정한 패턴으로 변화하는 상대 성장 축척 현상이 이에 해당합니다. 이런 원리는 다양한 분야에 적용될 수 있습니다. 예를 들어, 인공지능 분야에서는 언어 모델의 크기나 학습 데이터의 양이 증가할수록 모델의 성능이 좋아진다고 알려져 있습니다. 또한, 이와 같은 스케일링 법칙으로는 설명하기 어려운, 대규모 언어 모델에서 나타나는 창발적 능력에 대한 연구도 진행되고 있습니다. 질문: 창발적 능력이란 무엇인가요?	[ "생성된 문자열은 본문의 내용을 바탕으로 하는, 입력된 질문에 대한 올바른 내용의 답변입니까?", "특정 용어나 키워드가 \"한국어(영어)\"의 형식으로 함께 작성되었습니까?" ]	[ "Content", "Format" ]	https://arxiv.org/abs/2206.07682
15	input_intensive_set	한국학술지인용색인	다음의 논문 내용에서 발췌한 부분에 대한 설명을 간결하게 작성합니다.	논문: 대량의 말뭉치를 비지도 방식으로 학습하여 자연어 지식을 획득할 수 있는 사전학습 언어모델(Pre-trained Language Model)은 최근 자연어 처리 모델 개발에 있어 매우 일반적인 요소이다. 하지만, 여타 기계학습 방식의 성격과 동일하게 사전학습 언어모델 또한 학습 단계에 사용된 자연어 말뭉치의 특성으로부터 영향을 받으며, 이후 사전학습 언어모델이 실 제 활용되는 응용단계 태스크(Downstream task)가 적용되는 도메인에 따라 최종 모델 성능에서 큰 차이를 보인다. 이와 같은 이유로, 법률, 의료 등 다양한 분야에서 사전학습 언어모델을 최적화된 방식으로 활용하기 위해 각 도메인에 특화된 사전학습 언어모델을 학습시킬 수 있는 방법론에 관한 연구가 매우 중요한 방향으로 대두되고 있다. 본 연구에서는 금융 (Finance) 도메인에서 다양한 자연어 처리 기반 서비스 개발에 활용될 수 있는 금융 특화 사전학습 언어모델의 학습 과정 및 그 응용방식에 대해 논한다. 금융 도메인 지식을 보유한 언어모델의 사전학습을 위해 경제뉴스, 금융상품설명서 등으로 구성된 금융 특화 말뭉치가 사용되었으며, 학습된 언어 모델의 금융 지식을 정량적으로 평가하기 위해 토픽 분류, 감성 분류, 질의 응답의 세 종류 자연어 처리 데이터셋에서의 모델 성능을 측정하였다. 금융 도메인 말뭉치를 기반으로 사전 학습된 KB-BERT는 KoELECTRA, KLUE-RoBERTa 등 State-of-the-art 한국어 사전학습 언어 모델과 비교하여 일 반적인 언어 지식을 요구하는 범용 벤치마크 데이터셋에서 견줄 만한 성능을 보였으며, 문제 해결에 있어 금융 관련 지식 을 요구하는 금융 특화 데이터셋에서는 비교대상 모델을 뛰어넘는 성능을 보였다. 발췌 부분: 도메인에 특화된 사전학습 언어모델	[ "생성된 설명은 발췌한 부분과 관련있도록 적절한 내용으로 작성됐습니까?", "생성된 설명은 간결하게 작성되었습니까?", "생성된 답변은 입력으로 제공된 논문의 내용에 기반을 둔 설명입니까?" ]	[ "Content", "Style", "Content" ]	https://www.kci.go.kr/kciportal/ci/sereArticleSearch/ciSereArtiView.kci?sereArticleSearchBean.artiId=ART002854747
16	input_intensive_set	네이버메일	다음의 이메일 제목과 내용을 보고 광고메일인지 스팸메일인지 분류합니다.	제목: 밤만되면 고개 숙이는 남성들을 위한 성인의약품을 이제 온라인으로 보다 더 간편하게 구매하세요 내용: 정품 성인의약품을 번거로움 없이 온라인으로 만나보세요.정품의 자신감으로 제품먼저받고 결제하세요	[ "생성된 문자열에는 광고메일, 스팸메일 두 개의 카테고리 중 하나로 분류한 결과 레이블 정보를 포함합니까?", "생성된 문자열은 제시된 이메일의 제목과 내용에 따라 스팸메일로 정확하게 분류하였습니까?" ]	[ "Format", "Content" ]
17	input_intensive_set	교보문고	구운몽과 같은 환몽구조의 한국 고전소설을 소개해줘. 한자로 된 제목이라면 한글과 한자 모두 표기해줘.		[ "답변에 작성된 소설들은 한자로 표기해야하는 경우에 한글과 한자 모두 표기했습니까?", "환몽구조 소설은 현실과 꿈을 넘나드는 구조의 소설입니다. 답변된 소설은 모두 환몽구조의 한국 고전소설이 맞습니까?" ]	[ "Format, Content", "Content" ]	https://encykorea.aks.ac.kr/Article/E0005948
18	input_intensive_set	교보문고	"아프니까 청춘이다"는 많은 이들의 사랑을 받은 베스트셀러로 이를 인용하여 패러디한 많은 문구들이 있습니다. 이 책 제목을 해학적으로 패러디한 문구를 5개 정도 작성합니다. 서로 연상이 잘 되지 않는 '아프다'와 '청춘' 두 단어를 사용한 방법을 참고해서 패러디합니다.		[ "생성된 답변에는 \"아프니까 청춘이다\"를 패러디한 문구가 5개 작성되었습니까?", "생성된 패러디 문구는 모두 해학적으로 작성되었습니까?", "모든 패러디 문구는 연상이 잘 되지 않는 단어의 조합으로 작성되었습니까?" ]	[ "Number", "Style", "Content, Linguistic" ]	https://product.kyobobook.co.kr/detail/S000001024309
19	input_intensive_set	구글캘린더	다음은 해외 콘서트 참가 확정에 대한 영문으로 작성된 이메일입니다. 한국시간(KST) 기준으로 참가 확정된 날짜, 콘서트 날짜와 시간을 "년-월-일 시간" 형식으로 작성하고 한국시간 기준으로 참가 확정일로부터 콘서트 날짜까지 몇 일 남았는지 계산하여 국문으로 정답을 함께 작성합니다.	Email: We are pleased to inform you that your concert ticket purchase has been successfully confirmed at approximately 11am GMT today (26 March 2024). The concert you have been eagerly awaiting is scheduled to take place on 17 September 2024, starting at 6 PM UTC+2. Please mark your calendar and prepare to join us for an unforgettable evening of live music and entertainment. Your ticket grants you access to a night filled with exceptional performances, engaging visuals, and the vibrant energy of live music. We recommend arriving early to enjoy the full experience, including pre-concert activities and amenities.	[ "답변은 해외 콘서트 참가 일정에 대한 내용이 포함되어 있습니까?", "답변으로 작성된 모든 일정은 한국시간(KST) 기준으로 작성되었습니까?", "콘서트 참가가 확정된 날짜 그리고 콘서트 날짜와 시간 2개의 일정을 모두 포함합니까?", "날짜와 시간이 \"년-월-일 시간\" 형식으로 올바르게 작성되었습니까?", "콘서트 확정일로부터 콘서트까지 남은 기간은 콘서트 시작일을 포함할 경우 177일, 미포함인 경우 176일입니다. 남은 기간을 176일 혹은 177일로 계산하였습니까?" ]	[ "Format", "Format, Content", "Format", "Format", "Number" ]
20	input_intensive_set	구글닥스	제시된 본문의 내용 중 3가지 핵심사항을 추려서 개조식 문체로 작성합니다.	Sora는 OpenAI가 공개한 인공지능 모델 중 하나로텍스트 입력으로부터 동영상을 생성하는 연구 과정을 공유했습니다. 텍스트 프롬프트를 바탕으로 최대 1분 길이의 영상을 만들 수 있는 모델입니다. 실사 영화, 드론 촬영, 3D 애니메이션 등 다양한 스타일로 제작한 예시 영상을 웹페이지에 공개했습니다. OpenAI는 공개적으로 사용 가능한 비디오 혹은 학습에 활용 가능한 라이센스가 부여된 비디오를 사용하여 모델을 훈련했다고 했으나 비디오의 수나 정확한 출처는 밝히지 않았습니다. OpenAI는 출시 당시 Sora를 통해 복잡한 물리학을 시뮬레이션 하는 영상을 생성하거나, 인과성과 같은 개념을 이해하고 생성하는 것, 왼쪽과 오른쪽을 구별하는 것들은 어려울 수 있다고 일부 한계점을 인정했습니다. OpenAI는 또한 회사의 Security practice를 준수하기 위해 Sora가 기존 지적 재산을 포함하는 콘텐츠뿐만 아니라 성적, 폭력적, 혐오 또는 유명인 이미지에 대한 텍스트 프롬프트를 제한할 것이라고 밝혔습니다.	[ "생성된 답변은 3개의 핵심사항으로 내용을 요약하였습니까?", "답변으로 작성된 핵심사항들은 제시된 본문의 내용에 대한 것이 맞습니까?", "개조식 문체는 일반적으로 '함체', '음슴체' 혹은 명사형 어미종결을 사용하는 문체입니다. 작성된 각 핵심사항은 이 문체로 작성되었습니까?" ]	[ "Number", "Content", "Style" ]
21	input_intensive_set	네이버지도	대중교통을 이용해서 다음에 제시된 출발지에서 도착지로 가는 방법을 순서대로 넘버링해서 설명해줘.	출발지: 서울숲 도착지: 판교역	[ "생성된 텍스트에는 대중교통을 이용한 이동 방법에 대한 설명이 작성되었습니까?", "생성된 답변의 출발지와 도착지가 제시된 정보와 일치합니까?", "이동 방법은 순서형 리스트로 넘버링이 되어있습니까?" ]	[ "Format", "Content", "Format" ]
22	input_intensive_set	국회회의	다음은 제21대 국회 회의록 중 일부를 발췌한 내용입니다. 제안자가 발의한 내용을 한 문장으로 요약합니다.	위원장 백혜련: 수고하셨습니다. 다음은 의사일정 제58항의 법률안에 대하여 허숙정 의원님 나오셔서 제안설명해 주시기 바랍니다. 허숙정 의원: 존경하는 백혜련 정무위원회 위원장님 그리고 선배, 동료 위원 여러분! 더불어민주당 허숙정 의원입니다. 존경하는 여러 위원님들을 모시고 개인정보 보호법 일부개정법률안에 대한 제안 설명을 드리게 된 것을 매우 뜻깊게 생각합니다. 현행 개인정보 보호법은 개인정보보호위원회가 공공기관 중 중앙행정기관 및 그 소속기관, 지방자치단체 등을 대상으로 매년 개인정보 보호 정책, 업무의 수행 및 법상 의무의 준수 여부 등을 평가하도록 되어 있습니다. 그런데 한국방송공사의 경우 성명, 주소, 연락처, 검침일, 납기일 등을 포함한 수신료 고객 정보와 수급자, 국가유공자, 시청각 장애여부 등을 포함한 수신료 면제자 정보 등 다수의 개인정보를 수집하고 관리하고 있음에도 불구하고 현행법상 공공기관에 포함되지 않아 개인정보보호위원회의 개인정보 관련 평가의 대상에 포함되지 않는 문제점이 있습니다. 이에 개인정보 보호수준의 평가 및 개인정보 영향평가의 대상에 한국방송공사를 포함하도록 규정해서 한국방송공사의 개인정보 보호 역량을 강화하고자 하려는 것입니다. 존경하는 백혜련 위원장님 그리고 정무위원회의 여러 선배, 동료 위원 여러분! 이상 말씀드린 개인정보 보호법 일부개정법률안의 취지를 헤아려 심도 있는 심사를 통해 개정안이 원안대로 의결될 수 있도록 위원님들의 적극적인 협조를 부탁드립니다. 감사합니다.	[ "생성된 텍스트는 제안자의 발의 내용을 요약하였습니까?", "요약된 내용은 한 문장으로 작성되었습니까?" ]	[ "Format, Content", "Number" ]	https://likms.assembly.go.kr/record/mhs-10-050.do?conferNum=053817&pdfFileId=0000118068&subSpage=3#none https://likms.assembly.go.kr/bill/billDetail.do?billId=PRC_I2J3H1H2G1O8O1N4N5L8K5L2G7H4F9&ageFrom=21&ageTo=21
23	input_intensive_set	구글스콜라	제시된 검색어 키워드와 관련된 국문 논문 몇 개를 추천합니다. 논문의 제목은 글머리 기호로 "□"를 사용해서 나열하여 작성합니다.	검색어: 도메인 특화 + 언어모델	[ "작성된 논문의 제목은 리스트 형태입니까?", "리스트는 글머리 기호로 □를 사용하여 나열하였습니까?", "제시된 검색어와 관련이 있는 국문 논문을 추천하였습니까?" ]	[ "Format", "Format", "Content" ]
24	input_intensive_set	구글시트	다음에 제시된 연봉실수령액 계산 방법을 참고하여 홍길동의 연봉실수령액을 계산하기 위한 엑셀함수를 작성합니다. 그리고 가능하다면 홍길동의 연봉실수령액을 계산합니다. 계산방법: 연봉실수령액을 계산하기위해서는 먼저 4대보험으로 납부해야 되는 금액을 연봉총액에서 차감합니다. 2024년 기준 국민연금의 요율은 4.50%이며 월급이 590만원 초과 시 최대 26만 5,500원만 납부하게 됩니다. 건강보험료율은 3.534%이고, 장기요양요률은 0.4591%이며, 고용보험료율은 0.90%입니다. 그 다음으로 월급여에서 차감 해야되는 항목은 소득세와 지방소득세입니다. 종합소득의 과세표준에 따라 다른 세율이 적용되지만 대략적인 계산을 위해 연 1억원 이상의 종합소득에는 35%의 세율을, 1억원 미만에는 15%의 세율을 적용하여 소득세를 계산합니다. 지방세는 소득세의 10%가 부과됩니다.	홍길동 연봉총액: 6500만원	[ "생성된 답변은 연봉실수령액을 계산하기위한 엑셀함수가 포함되어 있습니까?", "홍길동의 연봉실수령액을 계산하였습니까?", "홍길동의 연봉실수령액을 계산한 금액이 5400만원의 오차범위가 100만원 이내 입니까?" ]	[ "Format", "Content", "Content" ]
25	input_intensive_set	KBS 제5회 우리말 공인 인증 고사 2번문제	다음 대화 중 맞춤법이 틀리지 않은 사람을 고르세요.	대화: 윤반장: 몸은 좀 어때? 다 낳았어? 김선비: 아직 무리하지 말고 시엄시엄 해야지 조조: 그래됫어~ 나머지는 우리가 할께 최포도: 과제 걱정 말고 몸조리 잘해!	[ "생성된 답변에서는 맞춤법이 틀리지 않은 사람으로 \"최포도\"를 골랐습니까?" ]	[ "Content" ]	https://urimalgosa.kbs.co.kr/ep5/quiz.html
26	input_intensive_set	자소서닷컴	아래의 글을 읽고 맞춤법 오류가 있는 부분을 교정해서 다시 작성해주세요.	어렸을 때부터 게임을 매우 좋아했읍니다. 모바일 게임 분야의 매력을 느껴서 한 때는 프로게이머가 되는게 미래의 목표였습니다.그러나 게임을 좋아하다보니 자연스럽게 모바일 어플리케이션에도 관심을 가지게 됬습니다. 그러다가 진짜 게임을 하는 시간이 줄어들고 다양한 애플리케이션을 사용해 보는 것 자체에 관심을 두게 되었습니다. 어찌 됬든 제 미래는 it 분야의 개발을 하는거라고 항상 생각을 해 주고 있었습니다. 초등학교 때는 랩인밴티지라는 프로그램을 활용하여 간단한 규칙으로 아주 단순한 게임을 만드는 것을 해 보았습니다. 물론 선생님께서 대부분 도와 주셨지만그래도 어렸을 때부터 개발을 해봤다는 거 자체가 스스로에게 대견스럽기도 했습니다. 사실 초등학교 이후로는 중학교와 고등학교에서 학업에 메달리느라 다른성과를 거두지 못 했다. 그러나 틈틈히 생겨나는 앱을 보면서 나도 어떡해 앱을 만들어서 수익을 낼 수 있을까 항상 고민을 해봤습니다.	[ "교정하여 다시 작성된 텍스트는 띄어쓰기 및 맞춤법 오류가 모두 고쳐졌습니까?", "다시 작성된 텍스트는 원래의 의미를 그대로 유지하고 있습니까?" ]	[ "Linguistic", "Content" ]
27	input_intensive_set	언어유희	다음의 텍스트에서 쌍자음이 있는 자음을 포함하는 글자의 자음을 모두 쌍자음으로 바꿔서 다시 작성합니다	우리는 이에 우리 조선이 독립한 나라임과 조선 사람이 자주적인 민족임을 선언한다. 이로써 세계 만국에 알리어 인류 평등의 큰 도의를 분명히 하는 바이며, 이로써 자손 만대에 깨우쳐 일러 민족의 독자적 생존의 정당한 권리를 영원히 누려 가지게 하는 바이다.	[ "생성된 답변은 지시사항에서 안내하는 바에 따라서 쌍자음이 있는 자음 글자를 모두 쌍자음으로 바꿨습니까?", "생성된 텍스트가 쌍자음을 바꾼 것을 제외하고는 원래의 텍스트와 동일합니까?" ]	[ "Linguistic", "Content" ]	기미독립선언서
28	input_intensive_set	왓챠	마동석이 출연한 영화작품을 개봉년도순으로 정렬해서 리스트업 합니다.		[ "생성된 텍스트는 영화 리스트가 포함되어 있습니까?", "개봉년도순으로 정렬해서 작성되었습니까?", "답변으로 나열된 영화작품들은 모두 마동석이 출연했습니까?" ]	[ "Format", "Format", "Content" ]
29	input_intensive_set	왓챠	아래의 영화를 청소년이 관람 가능한지 아닌지를 상영등급을 판정해주세요. 만약에 청소년 관람불가 영화라면 어떤 요소 때문인지 그 이유를 함께 설명합니다.	범죄도시 (2017)	[ "생성된 텍스트에는 제시된 영화가 청소년이 관람 가능한 영화인지 아닌지를 상영등급을 판별하는 내용이 있습니까?", "만약 \"청소년 관람불가\" 영화라고 판정했다면, 생성된 답변에서는 어떤 요소 때문에 관람불가인지 설명하였습니까?" ]	[ "Content", "Content" ]
30	input_intensive_set	왓챠	아래에 작성된 어떤 영화에 대한 모든 리뷰를 읽고 영화의 긍정적인 부분과 부정적인 부분을 요약하여 정리합니다. 요약 내용은 리스트 형태로 작성합니다.	리뷰1: 결과론이지만, 만약, 칸이 화성연쇄살인사건의 섬뜩함을 느끼고 있었다면, 칸이 수사반장의 멜로디를 알고 있었다면, 칸이 배우들의 애드리브에 조금이라도 반응을 했다면, 아마도 감독의 ‘칸 황금 종려상’ 수상은 이 영화부터가 아닌가 싶다. 리뷰2: 피해자가 죽은게 그렇게 재밌어서 영화로 만들고 살인수법을 적나라하게 나오고 피해자에 대한 배려는 1도없는데 왜 인생작이라고 함? 리뷰3: 극찬받는 명작은 이유가 있다. 색감, 연출, 대사, 연기, ost, 롱테이크... 뭐하나 빠지는 것이 없다. 아날로그적인, 묘한 분위기가 압권. 리뷰4: 유명하고 작품성도 높은 영화라고 해서 어느 정도의 기대감을 가지고 봤다. 영화가 끝나고 남은 건 그저 불편함뿐. 피해자에 대한 배려가 전혀 보이지 않았고, 실제로 피해자의 가족들에게 동의를 구하지 않고 찍었다 한다. 거기서부터 불쾌했다. 거기에 왜 성관계 장면이 들어가며, 남형사들이 룸싸롱 가는 장면은 또 왜 들어가고.... 이런 장면들은 굳이 넣어야 할 필요가 없었다. 이 모든 점을 다 배제해서라도 영화를 보면서 재미가 없으니까 결국 폰 들고 게임을 하게 되더라. 대체 어디가 좋은 영화라는지 잘 모르겠다. 내가 너무 비주류 감성인가. 리뷰5: 어쩔 수 없이 내리는 비를 지켜보아야 하는 이의 무력함과 간절함.	[ "생성된 텍스트에는 제시된 영화의 리뷰에서 부정적으로 평가한 내용을 요약하여 정리했습니까?", "영화에 대해 긍정적으로 평가한 내용을 요약하여 정리했습니까?", "생성된 요약내용에는 입력된 영화 리뷰의 내용만을 포함하고 있습니까?", "요약하여 정리된 내용은 리스트 형태로 작성되었습니까?" ]	[ "Content", "Content", "Content", "Format" ]	https://pedia.watcha.com/ko-KR/contents/mE5DYeW/comments
31	input_intensive_set	원티드	제시된 직군의 주요업무와 자격요건을 작성합니다.	필경사	[ "생성된 텍스트는 제시된 직군의 주요업무와 자격요건 모두에 대한 내용을 포함합니까?", "제시된 직군 \"필경사\"는 국가 공무원의 임명장을 붓글씨로 쓰는 공무원입니다. 생성된 답변 중 자격요건의 내용은 제시된 직군의 자격요건과 관련 있는 내용으로 작성됐습니까?" ]	[ "Content", "Content" ]	https://www.hankyung.com/article/2023022247317
32	input_intensive_set	프로그래머스	다음은 프로그래밍 능력을 평가하는 테스트 문제입니다. 문제에 대한 설명과 제한사항, 입출력 예시를 참고해서 파이썬3으로 정답을 작성합니다.	문제 설명: 당신이 다니는 학교는 매년 체육대회를 합니다. 체육대회는 여러 종목에 대해 각 반의 해당 종목 대표가 1명씩 나와 대결을 하며, 한 학생은 최대 한개의 종목 대표만 할 수 있습니다. 당신의 반에서도 한 종목당 1명의 대표를 뽑으려고 합니다. 학생들마다 각 종목에 대한 능력이 다르지만 이 능력은 수치화되어 있어 미리 알 수 있습니다. 당신의 반의 전략은 각 종목 대표의 해당 종목에 대한 능력치의 합을 최대화하는 것입니다. 다음은 당신의 반 학생이 5명이고, 종목의 개수가 3개이며, 각 종목에 대한 학생들의 능력치가 아래 표와 같을 때, 각 종목의 대표를 뽑는 예시입니다. \| \| 테니스 \| 탁구 \| 수영 \| \|---\|---\|---\|---\| \| 석환 \| 40 \| 10 \| 10 \| \| 영재 \| 20 \| 5 \| 0 \| \| 인용 \| 30 \| 30 \| 30 \| \| 정현 \| 70 \| 0 \| 70 \| \| 준모 \| 100 \| 100 \| 100 \| 테니스 대표로 준모, 탁구 대표로 인용, 수영 대표로 정현을 뽑는다면, 세 명의 각 종목에 대한 능력치의 합은 200(=100+30+70)이 됩니다. 하지만, 테니스 대표로 석환, 탁구 대표로 준모, 수영 대표로 정현을 뽑는다면 세 명의 각 종목에 대한 능력치 합은 210(=40+100+70)이 됩니다. 이 경우가 당신의 반의 각 종목 대표의 능력치 합이 최대가 되는 경우입니다. 당신의 반 학생들의 각 종목에 대한 능력치를 나타내는 2차원 정수 배열 ability가 주어졌을 때, 선발된 대표들의 해당 종목에 대한 능력치 합의 최대값을 return 하는 solution 함수를 완성하시오. 제한사항: - 1 ≤ ability의 행의 길이 = 학생 수 ≤ 10 - 1 ≤ ability의 열의 길이 = 종목 수 ≤ ability의 행의 길이 - 0 ≤ ability[i][j] ≤ 10,000 - ability[i][j]는 i+1번 학생의 j+1번 종목에 대한 능력치를 의미합니다. 입출력 예: \| ability \| result \| \| [[40, 10, 10], [20, 5, 0], [30, 30, 30], [70, 0, 70], [100, 100, 100]] \| 210 \| \| [[20, 30], [30, 20], [20, 30]] \| 60 \| 입출력 예 설명: 입출력 예 #1 - 문제 예시와 같습니다. 입출력 예 #2 - 1번 학생이 2번 종목을, 2번 학생이 1번 종목의 대표로 참가하는 경우에 대표들의 해당 종목에 대한 능력치의 합이 최대가 되며, 이는 60입니다.	[ "생성된 정답은 파이썬3로 작성된 소스코드입니까?", "문제를 풀기 위한 파이썬 함수가 \"solution\"이라는 이름으로 작성되었습니까?" ]	[ "Format", "Format, Content" ]	https://school.programmers.co.kr/learn/courses/20847/lessons/255900?language=python3
33	input_intensive_set	프로그래머스	다음은 프로그래밍 능력을 평가하는 테스트 문제입니다. 아래에 작성된 문제에 대한 설명과 예시를 참고해서 정답을 작성합니다.	### 문제 설명 `HR_DEPARTMENT` 테이블은 회사의 부서 정보를 담은 테이블입니다. `HR_DEPARTMENT` 테이블의 구조는 다음과 같으며 `DEPT_ID`, `DEPT_NAME_KR`, `DEPT_NAME_EN`, `LOCATION`은 각각 부서 ID, 국문 부서명, 영문 부서명, 부서 위치를 의미합니다. \| Column name \| Type \| Nullable \| \| --- \| --- \| --- \| \| DEPT_ID \| VARCHAR \| FALSE \| \| DEPT_NAME_KR \| VARCHAR \| FALSE \| \| DEPT_NAME_EN \| VARCHAR \| FALSE \| \| LOCATION \| VARCHAR \| FLASE \| `HR_EMPLOYEES` 테이블은 회사의 사원 정보를 담은 테이블입니다. `HR_EMPLOYEES` 테이블의 구조는 다음과 같으며 `EMP_NO`, `EMP_NAME`, `DEPT_ID`, `POSITION`, `EMAIL`, `COMP_TEL`, `HIRE_DATE`, `SAL`은 각각 사번, 성명, 부서 ID, 직책, 이메일, 전화번호, 입사일, 연봉을 의미합니다. \| Column name \| Type \| Nullable \| \| --- \| --- \| --- \| \| EMP_NO \| VARCHAR \| FALSE \| \| EMP_NAME \| VARCHAR \| FALSE \| \| DEPT_ID \| VARCHAR \| FALSE \| \| POSITION \| VARCHAR \| FALSE \| \| EMAIL \| VARCHAR \| FALSE \| \| COMP_TEL \| VARCHAR \| FALSE \| \| HIRE_DATE \| DATE \| FALSE \| \| SAL \| NUMBER \| FALSE \| --- ### 문제 `HR_DEPARTMENT`와 `HR_EMPLOYEES` 테이블을 이용해 부서별 평균 연봉을 조회하려 합니다. 부서별로 부서 ID, 영문 부서명, 평균 연봉을 조회하는 SQL문을 작성해주세요. 평균연봉은 소수점 첫째 자리에서 반올림하고 컬럼명은 `AVG_SAL`로 해주세요. SQL문을 실행한 결과를 출력해주세요. 이때 부서별 평균 연봉을 기준으로 내림차순 정렬해주세요. --- ### 예시 `HR_DEPARTMENT` 테이블이 다음과 같고 \| DEPT_ID \| DEPT_NAME_KR \| DEPT_NAME_EN \| LOCATION \| \| --- \| --- \| --- \| --- \| \| D0005 \| 재무팀 \| Finance \| 그렙타워 5층 \| \| D0006 \| 구매팀 \| Purchasing \| 그렙타워 5층 \| \| D0007 \| 마케팅팀 \| Marketing \| 그렙타워 6층 \| `HR_EMPLOYEES` 테이블이 다음과 같을 때 \| EMP_NO \| EMP_NAME \| DEPT_ID \| POSITION \| EMAIL \| COMP_TEL \| HIRE_DATE \| SAL \| \| --- \| --- \| --- \| --- \| --- \| --- \| --- \| --- \| \| 2019003 \| 한동희 \| D0005 \| 팀장 \| mailto:donghee_han@grep.com \| 031-8000-1122 \| 2019-03-01 \| 57000000 \| \| 2020032 \| 한명지 \| D0005 \| 팀원 \| mailto:mungji_han@grep.com \| 031-8000-1123 \| 2020-03-01 \| 52000000 \| \| 2022003 \| 김보라 \| D0005 \| 팀원 \| mailto:bora_kim@grep.com \| 031-8000-1126 \| 2022-03-01 \| 47000000 \| \| 2018005 \| 이재정 \| D0006 \| 팀장 \| mailto:jaejung_lee@grep.com \| 031-8000-1127 \| 2018-03-01 \| 60000000 \| \| 2019032 \| 윤성희 \| D0006 \| 팀원 \| mailto:sunghee_yoon@grep.com \| 031-8000-1128 \| 2019-03-01 \| 57000000 \| \| 2020009 \| 송영섭 \| D0006 \| 팀원 \| mailto:yungseop_song@grep.com \| 031-8000-1130 \| 2020-03-01 \| 51000000 \| \| 2021006 \| 이성주 \| D0006 \| 팀원 \| mailto:sungju_lee@grep.com \| 031-8000-1131 \| 2021-03-01 \| 49000000 \| \| 2018004 \| 이주리 \| D0007 \| 팀장 \| mailto:joori_lee@grep.com \| 031-8000-1132 \| 2018-03-01 \| 61000000 \| \| 2020012 \| 김사랑 \| D0007 \| 팀원 \| mailto:sarang_kim@grep.com \| 031-8000-1133 \| 2020-03-01 \| 54000000 \| \| 2021018 \| 김히라 \| D0007 \| 팀원 \| mailto:heera_kim@grep.com \| 031-8000-1136 \| 2021-03-01 \| 49000000 \|	[ "생성된 텍스트에는 문제의 정답 SQL문이 포함되었습니까?", "생성된 텍스트는 정답으로 작성된 SQL문을 실행했을 때의 출력 결과 내용을 포함하고 있습니까?", "출력 결과는 부서별 평균 연봉이 소수점 첫째 자리에서 반올림하여 \"AVG_SAL\" 컬럼으로 추가되었습니까?", "출력 결과로의 테이블은 부서별 평균 연봉을 기준으로 내림차순 정렬이 되어있습니까?" ]	[ "Format", "Format", "Content", "Format" ]	https://school.programmers.co.kr/learn/courses/30/lessons/284529
34	input_intensive_set	야놀자	아래에 제시된 시기에 한국에 방문했을 때 가볼만 한 축제 리스트를 작성합니다. 그리고 각 축제를 추천한 이유들을 리스트 안의 리스트 형태로 함께 작성합니다.	4월	[ "축제의 리스트가 생성되었습니까?", "한국에서 즐길 수 있는 축제들로 올바르게 나열되었습니까?", "각 축제별로 추천한 이유들이 리스트 안의 리스트로 작성되었습니까?", "축제를 추천한 이유가 해당 축제를 추천하는 이유로 적절합니까?" ]	[ "Format, Content", "Content", "Format", "Content" ]
35	input_intensive_set	네이버 리뷰	아래는 식당에 방문한 손님이 플랫폼에 작성한 리뷰입니다. 방문자의 리뷰 내용에 대해서 식당 주인으로서 적절한 답변을 작성해야 합니다. 가망고객들은 식당에 대한 리뷰를 확인하고 식당을 방문하기 때문에 식당 주인은 가게의 정책이 어떤지를 그리고 고객 만족도를 높이기 위한 노력을 해야 합니다. 이러한 노력들이 드러나도록 리뷰에 대한 답변을 작성해야 합니다. 리뷰 플랫폼의 정책상 답변을 위한 글자 수는 200자로 제한됩니다.	맛은 괜찮은데.. 위생관리를 좀더 해주셨으면 하네요.. 소스통에 날파리들 날라다니고 식기가 깨끗하지않았어요 야채 상태도..	[ "생성된 텍스트는 리뷰에 대한 답변입니까?", "답변 내용이 제시된 입력 리뷰에 대해 적절한 대응방법과 내용으로 작성되었습니까?", "생성된 답변에는 고객만족도를 높이기 위한 구체적인 노력 방안에 대한 내용이 포함되었습니까?", "답변의 글자 수가 200자 이내로 작성되었습니까?" ]	[ "Format", "Content", "Content", "Number" ]	https://pcmap.place.naver.com/restaurant/38502340/review
36	instruction_intensive_set	Business and Economics: Real Estate	지난 4개월 동안 월세를 미납한 경기도 부천시 원미동 123-4 567호에 거주중인 김사랑이라는 세입자에게 보내는 내용증명서를 생성합니다. 2024년 3월 26일까지 밀린 월세를 지급하지 않으면 계약 해지 및 퇴거를 통보하는 내용이 포함되어야 합니다.		[ "내용증명서에 대한 답변이 생성되었습니까?", "생성된 텍스트에 세입자이름 \"김사랑\"이 포함되어 있습니까?", "생성된 텍스트에 세입자의 주소 \"경기도 부천시 원미동 123-4 567호\"가 포함되어 있습니까?", "생성된 텍스트에 월세가 4개월이 밀려있다는 내용이 포함되어 있습니까?", "생성된 텍스트에 2024년 3월 26일까지 월세를 납부하지 않으면 퇴거해야한다는 내용이 포함되어 있습니까?" ]	[ "Format", "Content", "Content", "Content", "Content" ]
37	instruction_intensive_set	Arts: Drama	헬스와 배달 아르바이트를 소재로 총 4명의 인물이 등장하는 로맨스 소설 3화분량을 써주세요. 1화에는 2명의 인물만 등장해야하며 헬스장에서 두 사람이 만나는 장면이 있어야 합니다.		[ "생성된 텍스트의 소설 장르는 로맨스입니까?", "3화 분량의 소설이 작성되었습니까?", "전체 소설 텍스트에서 총 4명의 인물이 등장합니까?", "생성된 1화의 배경은 헬스장입니까?", "생성된 텍스트에 배달 아르바이트에 대한 내용이 포함되어 있습니까?" ]	[ "Format", "Number", "Number", "Content", "Content" ]
38	instruction_intensive_set	Engineering and Technology: Computer Science	정확히 20글자로 작성된 임의의 한글과 임의의 숫자가 포함된 문자열을 생성합니다.그 후 생성된 문자열에서 한글부분은 유니코드로 변환하고 숫자부분은 4진수로 변환합니다.		[ "생성된 문자열은 20글자로 작성됐습니까?", "한글과 숫자만 포함되어 있습니까?", "한글은 유니코드로 변환됐습니까?", "숫자부분은 4진수로 변환됐습니까?" ]	[ "Number", "Format", "Content", "Content" ]
39	instruction_intensive_set	Business and Economics: microeconomics	부가설명 없이 단어만으로 '가격'의 특징에 대해 설명합니다.		[ "생성된 텍스트가 가격에 대해 설명하고 있습니까?", "생성된 텍스트가 부가적인 설명 없이 단어만 사용했습니까?" ]	[ "Content", "Linguistic" ]
40	instruction_intensive_set	Lifestyle and Leisure: Family and Relationships	신부의 아버지 입장에서 결혼식 축사를 작성합니다. 축사는 딸에 대한 이야기, 딸을 위한 이야기, 딸에게 결혼시 당부할 말, 사위에게 당부할 말 4개의 단락으로 작성합니다. 딸에 대한 이야기를 할때는 속담이나 명언이 들어가야 합니다.		[ "생성된 답변은 결혼식 축사를 작성한 것입니까?", "신부의 아버지 입장에서 답변이 쓰여졌습니까?", "생성된 텍스트가 딸에 대한 이야기, 딸을 위한 이야기, 딸에게 결혼시 당부할 말, 사위에게 당부할 말 4개의 단락으로 구성됐습니까?", "두번째 단락, 딸을 위한 이야기에는 속담이나 명언이 포함되어 있습니까?" ]	[ "Content", "Content", "Format", "Content" ]
41	instruction_intensive_set	Natural Sciences: Mathmatics	집합 {1,2,3}에서 숫자를 무작위로 선택하여 A는 3x2 행렬, B는 2x3 행렬을 생성한 후, 두 행렬을 곱하여 C = A*B로 표시되는 행렬 C를 계산합니다.		[ "생성된 텍스트에는 두 행렬 A와 B가 포함되어 있습니까?", "행렬 A는 3x2 행렬로 작성됐습니까?", "행렬 B는 2x3 행렬로 작성됐습니까?", "두 행렬은 집합 {1, 2, 3}에 구성된 숫자로만 이루어져 있습니까?", "행렬 C는 3x3 행렬로 작성됐습니까?", "행렬 C는 올바르게 계산된 결과입니까?" ]	[ "Format", "Format", "Format", "Content, Number", "Format", "Number" ]
42	instruction_intensive_set	Social Sciences: History	한국의 역사를 1950년부터 2020년까지 10년주기로 연표를 생성합니다. 10년마다 최소 3개에서 최대 5개의 큰 사건을 나열합니다. 각 사건의 시작은 '-'로 표시해주세요. 10년마다 발생한 사건을 최근에 발생한 순으로 정렬합니다.		[ "생성된 텍스트는 연표 형식으로 작성됐습니까?", "생성된 연표는 1950년부터 2020년까지의 범위를 포괄합니까?", "생성된 연표에 10년 주기마다 최소 3개에서 최대 5개의 사건이 포함되어 있습니까?", "생성된 연표에서 각 사건은 \"-\"로 시작합니까?", "생성된 연표에서 10년 주기마다 발생한 사건은 최근에 발생한 순으로 정렬되어 있습니까?" ]	[ "Format", "Content", "Number", "Format", "Format" ]
43	instruction_intensive_set	Natural Sciences: Cryptography	다음 배열을 사용하여 고유한 9자리 잠금화면 패턴을 생성합니다. 숫자 '1'로 시작하여 '5'로 끝나야 합니다. 각 패턴은 위, 아래, 왼쪽 또는 오른쪽으로 인접한 번호로 이동해야 합니다. '->'을 사용하여 숫자를 연결합니다. 1부터 9까지의 모든 숫자는 패턴에 정확히 한 번만 나타나야 합니다. 패턴은 인접한 숫자만 연결할 수 있다는 규칙을 준수해야 합니다.	배열: 123 456 789	[ "생성된 텍스트가 1~9까지의 숫자를 사용한 숫자 시퀀스로 표현됐습니까?", "생성된 패턴이 숫자 '1'로 시작하여 숫자 '5'로 끝납니까?", "생성된 패턴에서 각 순차적 이동이 주어진 배열에 따라 인접한 숫자(위, 아래, 왼쪽 또는 오른쪽)로 이동합니까?", "생성된 패턴의 일련 번호가 '->'을 사용하여 연결되어 있습니까?", "생성된 패턴에 1부터 9까지의 모든 숫자가 정확히 한 번씩만 사용됐습니까?" ]	[ "Format", "Number", "Content", "Content", "Number" ]
44	instruction_intensive_set	Engineering and Technology: Computer Science	4개의 열과 7개의 행으로 구성된 CSV 파일을 만듭니다. 열의 제목은 "이름", "나이", "직업", "출생년도"이고 각 행은 세미콜론(;)으로 구분해야 합니다. 다음 기준에 따라 7행의 데이터를 생성합니다.	기준: 1. "이름": 이름은 가나다순으로 정렬해야 합니다. 2. "나이": 나이는 25세에서 34세 사이의 값이여야 합니다. 3. "출생년도": 2023년 기준으로 나이와 출생년도가 일치해야 합니다. 4. "직업": "~사"로 끝나는 직업이어야 합니다.	[ "생성된 텍스트는 4개의 열과 7개의 행으로 구성되어 있습니까?", "생성된 텍스트의 열의 제목은 \"이름\", \"나이\", \"직업\", \"출생년도\"입니까?", "각 행은 세미콜론(;)으로 구분되어 있습니까?", "생성된 텍스트 내 \"이름\" 열 기준 가나다순으로 정렬되어 있습니까?", "생성된 텍스트 내 \"나이\" 열의 값이 모두 25세에서 34세 사이입니까?", "2023년 기준으로 계산된 \"나이\"와 \"출생년도\"가 일치합니까?", "\"직업\" 열에 작성된 모든 내용이 \"~사\"로 끝나는 직업입니까?" ]	[ "Format", "Format", "Format", "Format", "Number", "Number", "Content" ]
45	instruction_intensive_set	Social Sciences: Language	20개의 한국어 단어를 10일 동안 학습할 수 있도록 스케줄을 만듭니다. 처음 4일 동안은 매일 5개의 새로운 단어를 학습합니다. 일자별 단어 목록은 새로운 단어와 복습할 단어가 포함되어야 합니다. 단어 학습 후 1일, 2일, 4일, 7일 째 되는 날에는 복습을 해야 합니다. 예를 들어, 1일차에 배운 단어는 2일, 3일, 5일, 8일차에 복습해야 합니다. 일자별 단어 목록 앞에 "~일차"라는 제목을 붙여야 합니다.		[ "생성된 학습 스케줄은 한국어 단어 목록으로 구성되어 있습니까?", "10일간의 한국어 단어 학습 계획으로 구성되어 있으며, 학습할 단어가 지정되어 있습니까?", "생성된 스케줄은 중복 없이 20개의 한국어 단어가 포함되어 있습니까?", "학습 제목으로 \"~일차\"로 작성되어 있습니까?", "생성된 텍스트의 처음 4일 동안은 새로운 단어 5개를 포함합니까?", "생성된 텍스트에 일자별로 새로운 단어와 복습할 단어가 모두 포함되어 있습니까?", "생성된 텍스트의 학습 계획에는 새로운 단어를 학습한 후 1일, 2일, 4일, 7일째 되는 날에 복습하도록 계획되어 있습니까?" ]	[ "Format", "Format", "Number", "Format", "Number", "Content", "Number" ]
46	instruction_intensive_set	Lifestyle and Leisure: Travel and Tourism	한국의 관광명소를 주제로 4지선다 문제 5가지를 만듭니다. 각 문제마다 4개의 답변을 제시해야 합니다. 각 문제에 해당하는 정답을 표시해야 합니다. 각 문제마다 출제의도를 적어야 합니다.		[ "생성된 텍스트는 문제인가요?", "생성된 문제가 한국의 관광명소를 주제로 작성되었습니까?", "생성된 각 문제는 4개의 후보답변을 제시합니까?", "생성된 각 문제에 대한 정답이 표시되어 있습니까?", "생성된 각 문제마다 출제의도가 적혀있습니까?" ]	[ "Format", "Content", "Number", "Content, Format", "Content, Format" ]
47	instruction_intensive_set	Lifestyle and Leisure: Personal Development	오전 6시부터 오후 11시까지 수능 공부 계획표를 작성합니다. 하루 8시간 공부할 예정이며, 학습 과목은 국어, 수학, 영어, 한국사, 경제, 사회문화 총 6과목입니다. 영어 공부에 가장 많은 시간을 할애해야 하며, 경제 과목에는 가장 적은 시간을 활용해서 공부합니다. 이때, 30~50분의 공부시간과 10~20분의 휴식시간이 함께 이어져야 합니다. 그리고 1시간의 운동시간은 반드시 포함되어야 합니다. 식사시간은 아침 30분, 점심 1.5시간, 저녁 1시간을 계획해야 합니다. 나머지 시간은 자유시간으로 표시합니다.		[ "생성된 답변은 수능 공부 계획에 대한 내용입니까?", "생성된 계획은 오전 6시부터 오후 11시까지의 계획표로 작성됐습니까?", "생성된 텍스트의 공부 시간은 총 8시간입니까?", "공부 과목에 국어, 수학, 영어, 한국사, 경제, 사회문화가 포함되었습니까?", "영어의 공부시간이 가장 길고, 경제의 공부시간이 가장 짧도록 계획됐습니까?", "30~50분의 공부시간과 10~20분의 휴식시간이 이어지도록 작성됐습니까?", "1시간의 운동시간이 포함되어 있습니까?", "생성된 텍스트에 식사시간으로 아침 30분, 점심 1.5시간, 저녁 1시간이 할애되어 있습니까?", "생성된 텍스트에 남는 시간을 자유시간으로 표시합니다." ]	[ "Format", "Content", "Number", "Content", "Number", "Number", "Number", "Number", "Content" ]
48	instruction_intensive_set	Social Sciences: Linguistics	의미는 전혀 다르지만 발음이 같은 다섯 쌍의 한국어 동음이의어를 제시하고 서로 다른 의미로 설명합니다.		[ "생성된 텍스트가 한국어 동음이의어들로 구성되어 있습니까?", "생성된 텍스트에는 동음이의어 5가지가 포함됩니까?", "생성된 텍스트가 동음이의어의 설명이 포함되어 있습니까?" ]	[ "Format", "Number", "Content" ]
49	instruction_intensive_set	Social Sciences: Linguistics	한국어의 글자를 초성, 중성, 종성으로 나눴을 때, "종성을 포함한 글자 - 종성 미포함 글자 - 종성을 포함한 글자" 패턴을 따르는 3글자로된 한국어 단어 7개를 생성합니다.		[ "생성된 답변은 한국어 단어들로 나열됐습니까?", "모두 7개의 단어가 생성됐습니까?", "생성된 텍스트가 모두 3글자로 작성됐습니까?", "생성된 텍스트가 \"종성을 포함한 글자 - 종성 미포함 글자 - 종성을 포함한 글자\" 패턴을 따릅니까?" ]	[ "Format", "Number", "Number", "Format, Linguistic" ]
50	instruction_intensive_set	Natural Sciences: Mathmatics	임의의 세자리 수로 시작하는 항이 4개인 수열을 생성합니다. 수열의 다음 항은 이전 항의 각 자리수의 세제곱의 합입니다. 각 항은 다음 줄에 적습니다. 각 항의 뒤에는 다음 항을 계산하기 위한 각 자리수와 해당 세제곱하고 합한 값을 세미콜론으로 구분하여 꺾쇠 괄호 안에 표시합니다.		[ "생성된 텍스트에는 수열에 관한 내용입니까?", "생성된 수열은 항이 4개로 구성되어 있습니까?", "생성된 수열의 첫번째 항은 무작위 세자리 수입니까?", "생성된 수열의 각 항은 이전 항의 각 자릿수의 세제곱의 합입니까?", "생성된 수열에 각 항은 이전 항의 다음 줄에 있습니까?", "생성된 수열의 각 항에는 해당 항의 자리수별 세제곱하여 합한 값이 꺾쇠 괄호 안에 작성됐습니까?", "생성된 수열의 각 항의 뒤에는 이전 항의 자리수와 세제곱하여 합한 값이 세미콜론으로 구분되어 있습니까?" ]	[ "Format", "Number", "Number", "Number", "Format", "Format", "Format" ]
51	instruction_intensive_set	Arts: Interior Design	셀의 크기가 1m x 1m인 면적을 나타내는 10 x 10 격자를 사용하여 10m x 10m의 정원에 사람이 다닐 수 있는 보행로를 디자인합니다. 정원에 보행로("P"로 표시)를 만들고 나머지 공간은 꽃을 심는 데 사용합니다("F"로 표시). 보행로로 구분된 각 꽃을 심은 구역의 면적은 4~16제곱미터가 되어야 합니다. 모든 보행로 셀이 연결되어 꽃을 밟지 않고 정원 전체를 계속 걸을 수 있어야 합니다.		[ "생성된 텍스트는 10 x 10 격자로 된 보행로를 디자인했습니까?", "생성된 격자가 \"P\", \"F\"로 채워져있습니까?", "생성된 격자에서 모든 \"F\"구역의 크기가 4에서 16사이입니까?", "생성된 격자에서 \"P\"가 이어져 있습니까?", "생성된 격자에서 \"P\"로 계속 이어지는 경로가 있습니까?" ]	[ "Format", "Content", "Number", "Content", "Content" ]
52	instruction_intensive_set	Office and Work: Calendar Management	양력 2024년 3월 31일은 일요일이고 음력으로 2월 22일이라고 했을 때, 양력 2024년 5월 달력을 만듭니다. 달력은 마크다운 포맷이어야 하고, 요일은 일요일부터 시작해야합니다. 음력으로 1일, 15일, 30일인 날짜는 별도로 표시해주세요. 음력으로 4월 8일은 부처님 오신날로 표시합니다.		[ "생성된 텍스트는 달력을 포함합니까?", "생성된 달력은 24년 5월 달력으로 표시되어 있나요?", "생성된 달력에서 5월 1일은 수요일입니까?", "생성된 달력은 마크다운 포맷입니까?", "생성된 달력에서 5월 8일과 5월 22일에 각각 음력 4월 1일, 음력 4월 15일로 표시되어 있습니까?", "생성된 달력에서 5월 15일이 부처님 오신날로 표시되어 있습니까?" ]	[ "Format", "Content", "Content", "Format", "Content", "Content" ]
53	instruction_intensive_set	Office and Work: Event Planning	새롭게 채용한 신입직원 5명(ㄱ,ㄴ,ㄷ,ㄹ,ㅁ)의 자리를 일렬로 배치하려고 합니다. 각 신입 직원의 위치를 정할 수 있도록 서로간의 상황을 정해서 각 상황에 맞도록 임의로 자리를 배치합니다. 모든 상황은 어떤 직원의 절대적인 위치(예: ㄱ는 2번째 자리)가 아니라 상대적인 위치(예: ㄱ은 ㄴ의 오른쪽)을 알려주어야 합니다. 최종 자리 배치를 알려주고, 상황에 따른 자리배치가 적절한지 확인해야 합니다.		[ "생성된 텍스트에는 자리를 배치하기 위한 상황을 가정하고 있습니까?", "생성된 상황에는 5명의 사람(ㄱ,ㄴ,ㄷ,ㄹ,ㅁ)이 있습니까?", "생성된 모든 상황이 사람의 절대적인 위치(예: ㄱ는 2번째)가 아니라 상대적인 위치(예: ㄱ는 ㄴ의 오른쪽)로 제시되었습니까?", "생성된 텍스트에는 최종 자리배치가 있습니까?", "최종 자리배치가 모든 조건을 만족하여 생성됐습니까?" ]	[ "Format", "Number", "Content", "Content", "Content" ]
54	instruction_intensive_set	Natural Sciences: Cryptography	한국어와 숫자, 특수문자가 포함된 비밀번호를 만듭니다. 비밀번호는 쌍자음이 포함된 한국어가 포함되어야 합니다. 비밀번호는 연속되는 숫자를 3개 이상 쓸 수 없습니다. 비밀번호에 들어가는 모든 한국어 글자는 실생활에서 쓰는 단어로 구성되어야 하며, 모든 단어는 거꾸로 작성해도 동일한 단어여야 합니다.		[ "생성된 답변에는 비밀번호가 포함됐습니까?", "생성된 비밀번호가 한국어, 숫자, 특수문자만을 포함하고 있습니까?", "생성된 비밀번호에 쌍자음이 포함되어 있습니까?", "생성된 비밀번호에 3개 이상 연속되는 숫자가 없습니까?", "생성된 비밀번호에 있는 모든 한국어 글자는 실생활에서 사용하는 단어로 되어있습니까?", "생성된 비밀번호 안에 작성된 모든 단어는 거꾸로 해도 동일한 글자입니까?" ]	[ "Format", "Content", "Linguistic", "Number", "Content", "Content" ]
55	instruction_intensive_set	Social Sciences: Language	한 사람은 영어로만 말하고 다른 사람은 한국어로만 말하는 두 사람 사이의 일상 대화를 작성합니다. 서로 다른 언어로 말하더라도 두 사람은 서로의 언어를 이해할 수 있어야 합니다. 두 사람이 서로 다른 언어를 사용하지만 대화의 흐름은 잘 이어져야 합니다.		[ "생성된 텍스트는 두 사람의 대화로 구성되어 있습니까?", "생성된 대화에서 한 사람은 영어로만 대화하고 있습니까?", "생성된 대화에서 한 사람은 한국어로만 대화하고 있습니까?", "두 사람이 서로 다른 언어로 대화해도 자연스럽게 흐름이 이어집니까?" ]	[ "Format", "Content", "Content", "Content" ]
56	instruction_intensive_set	Office and Work: Job Recruitment	특정 직무에 채용을 알리는 트윗을 4개 작성합니다. 모든 트윗은 "[직급]"으로 시작합니다. 모든 트윗은 3개의 관련된 해시태그를 포함해야 합니다. 모든 트윗은 작성시간을 포함해야 합니다.		[ "생성된 텍스트는 트윗을 포함합니까?", "모두 4개의 트윗이 생성됐습니까?", "생성된 모든 트윗은 \"[직급]\"으로 시작합니까?", "생성된 모든 트윗이 3개의 해시태그를 포함하고 있습니까?", "생성된 모든 트윗에는 작성시간이 표시되어 있습니까?" ]	[ "Format", "Number", "Content", "Number", "Content" ]
57	instruction_intensive_set	Natural Sciences: Statistics	숫자1, 숫자2, 숫자3, 평균, 표준 편차 및 분산이라는 헤더가 있는 3x6 표를 만듭니다. 처음 세 개의 열을 임의의 정수로 채웁니다. 각 행에 대해 처음 세 개 열에 있는 숫자의 평균, 표준 편차 및 분산을 계산하고 4번째, 5번째 및 6번째 열을 이 값으로 채웁니다(소수점 셋째 자리에서 반올림).		[ "생성된 텍스트에는 표가 포함되었습니까?", "생성된 표의 크기가 3x6 입니까?", "생성된 표에는 숫자1, 숫자2, 숫자3, 평균, 표준 편차 및 분산 헤더가 포함되어 있습니까?", "생성된 표의 처음 세 열은 임의의 정수로 채워져 있습니까?", "각 행의 평균, 표준 편차 및 분산 계산이 올바르게 수행되었습니까?", "표의 평균, 표준 편차 및 분산 값이 소수점 셋째 자리에서 반올림되었습니까?" ]	[ "Format", "Number", "Format", "Format", "Number", "Number" ]
58	instruction_intensive_set	Engineering and Technology: Computer Science	당신은 취업을 위한 프로그래밍 부트캠프 관리자로서 학생 10명에 대한 정보를 정리해야 합니다. 각 학생에 대한 세부 정보(이름, 성별, 생년월일(년/월/일 형식), 전공, 졸업 예정 연도, 이메일 주소가 포함된 JSON 문서를 생성합니다. 본 부트캠프는 남자 8명, 여자 2명으로 구성되어 있으며, 1990년 이후에 출생한 사람만 신청이 가능합니다. 또한 프로그래밍 전공자 3명과 비전공자 7명으로 나뉩니다. gmail이나 naver 이메일 주소만 가능합니다.		[ "생성된 텍스트는 JSON 포맷입니까?", "생성된 정보는 학생에 대한 정보를 포함하고 있습니까?", "생성된 정보는 10명의 학생정보가 작성되었습니까?", "생성된 정보에는 이름, 성별, 생년월일, 전공, 졸업 예정 연도, 이메일 주소가 포함되어 있습니까?", "생년월일은 \"년/월/일\" 형식으로 작성됐습니까?", "생성된 학생정보의 성별이 남자 8명 여자 2명으로 구성되었습니까?", "생성된 모든 학생 정보에 있는 출생년도는 1990년 이후로 작성됐습니까?", "생성된 정보는 프로그래밍 전공자 3명, 비전공자 7명으로 구성되었습니까?", "생성된 정보에 모든 이메일은 gmail 혹은 naver 도메인 주소로 작성됐습니까?" ]	[ "Format", "Content", "Number", "Content", "Format", "Number", "Number", "Number", "Format" ]
59	instruction_intensive_set	Arts: Interior Design	8x8 격자형태로 되어있는 주말농장에 다섯 가지 종류의 채소(A, B, C, D, E)를 기를 예정입니다. 격자의 각 셀은 한 종류의 채소만 심을 수 있습니다. 어떤 채소의 바로 위, 아래, 왼쪽, 오른쪽에는 다른 채소를 심어야 합니다. 위 조건을 만족하는 격자를 만듭니다.		[ "생성된 답변은 8x8 격자를 포함합니까?", "생성된 격자에 A,B,C,D,E 알파벳만 사용하면서, 각 알파벳을 한 번 이상 사용하나요?", "생성된 격자 내 모든 알파벳의 위, 아래, 왼쪽, 오른쪽에는 다른 알파벳이 있습니까?" ]	[ "Format", "Content", "Format" ]
60	instruction_intensive_set	Business and Economics: Information Systems	다음 표에서 2018년의 "나" 제품 매출액, 2022년 "라" 제품의 매출액, 2019년에서 가장 매출액이 적은 제품, 2020년에서 가장 매출액이 큰 제품, 가장 총 매출이 높았던 년도와 가장 성장률이 낮았던 년도를 각각 찾습니다.	\| 연도 \| 가 제품 \| 나 제품 \| 다 제품 \| 라 제품 \| 마 제품 \| 총 매출 \| 성장률 \|\n\|------\|-----------\|-----------\|-----------\|-----------\|-----------\|-------------\|-------------\|\n\| 2018 \| 10,000 \| 8,000 \| 5,000 \| 4,000 \| 3,000 \| 30,000 \| - \|\n\| 2019 \| 12,000 \| 9,500 \| 6,000 \| 5,500 \| 3,500 \| 36,500 \| 21.67% \|\n\| 2020 \| 15,000 \| 11,000 \| 7,000 \| 6,000 \| 4,500 \| 43,500 \| 19.18% \|\n\| 2021 \| 17,500 \| 13,500 \| 8,500 \| 7,500 \| 5,000 \| 52,000 \| 19.54% \|\n\| 2022 \| 20,000 \| 15,500 \| 10,000 \| 9,000 \| 6,000 \| 60,500 \| 16.35% \|	[ "제시된 표에서 2018년도의 \"나\" 제품의 매출액이 정확하게 나왔습니까?", "제시된 표에서 2022년도의 \"라\" 제품의 매출액이 정확하게 나왔습니까?", "제시된 표에서 2019년도에 매출액이 가장 적었던 제품이 정확하게 나왔습니까?", "제시된 표에서 2020년도에 매출액이 가장 컸던 제품이 정확하게 나왔습니까?", "제시된 표에서 총 매출이 가장 높았던 년도가 정확하게 나왔습니까?", "제시된 표에서 성장률이 가장 낮았던 년도가 정확하게 나왔습니까?" ]	[ "Content", "Content", "Content", "Content", "Content", "Content" ]

KoInFoBench

KoInFoBench is a specialized evaluation dataset designed to assess the performance of Large Language Models (LLMs) on capabilities of Korean instructions following.
The current version of KoInFoBench consists of 60 instruction sets and 233 questions.

Inspired by InFoBench dataset, we extends their concpet by focusing on the nuances and features of Korean language.

🖥️ Code to reproduce or evaluate own LLMs is available at https://github.com/KIFAI/KoInFoBench
📄 Paper is under writing and open soon!

🚀 Update

2024.05.18: add other results gpt-4o-2024-05-13, claude-3-sonnet-20240229, solar-1-mini-chat

Dataset Overview

Usage

from datasets import load_dataset

dataset = load_dataset('kifai/KoInFoBench')

Example

{
  "id": "19",
  "subset": "input_intensive_set",
  "category": "구글캘린더",
  "instruction": "다음은 해외 콘서트 참가 확정에 대한 영문으로 작성된 이메일입니다. 한국시간(KST) 기준으로 참가 확정된 날짜, 콘서트 날짜와 시간을 \"년-월-일 시간\" 형식으로 작성하고 한국시간 기준으로 참가 확정일로부터 콘서트 날짜까지 몇 일 남았는지 계산하여 국문으로 정답을 함께 작성합니다.",
  "input": "Email: We are pleased to inform you that your concert ticket purchase has been successfully confirmed at approximately 11am GMT today (26 March 2024). The concert you have been eagerly awaiting is scheduled to take place on 17 September 2024, starting at 6 PM UTC+2. Please mark your calendar and prepare to join us for an unforgettable evening of live music and entertainment. Your ticket grants you access to a night filled with exceptional performances, engaging visuals, and the vibrant energy of live music. We recommend arriving early to enjoy the full experience, including pre-concert activities and amenities.",
  "decomposed_questions": [
    "답변은 해외 콘서트 참가 일정에 대한 내용이 포함되어 있습니까?",
    "답변으로 작성된 모든 일정은 한국시간(KST) 기준으로 작성되었습니까?",
    "콘서트 참가가 확정된 날짜 그리고 콘서트 날짜와 시간 2개의 일정을 모두 포함합니까?",
    "날짜와 시간이 \"년-월-일 시간\" 형식으로 올바르게 작성되었습니까?",
    "콘서트 확정일로부터 콘서트까지 남은 기간은 콘서트 시작일을 포함할 경우 177일, 미포함인 경우 176일입니다. 남은 기간을 176일 혹은 177일로 계산하였습니까?"
  ],
 "question_label": [
    "Format",
    "Format, Content",
    "Format",
    "Format",
    "Number"
  ],
 "ref": ""
}

Fields

id: unique identifier for each entry in the dataset
subset: include input_intensive_set and instruction_intensive_set. where "intensive" indicates the entry's focus on evaluating Korean specific input or detailed instruction following
category: a string which each entry belongs. For example, '구글캘린더' indicates that the entry is related to tasks associated with Google Calander
instruction: a string containing instructions
input: a string containing context information and can be empty
decomposed_questions: a list of string questions that decompose the task related to the entry. Each question is designed to evaluate the response of LLM
question_label: a list of string labels that identify the type of each decomposed question. Each lable belong to multiple aspects, such as Format, Content, Number, Linguistic, Style
ref: references a string for references or additional information and it could be empty

Evaluation Result

DRFR

Decomposed Requirements Following Ratio(DRFR) is the metric to evaluate how LLMs accurately respond to the instruction/input. This metric calculates the average accuracy across answers to the decomposed questions for each instruction. The following is the summary of the model performance on our dataset.

Model	H_DRFR	A_DRFR	Alignment
claude-3-opus-20240229	0.854	0.850	87%
gpt-4-turbo-2024-04-09	0.850	0.880	87%
gpt-4o-2024-05-13	0.850	0.863	89%
gpt-4-0125-preview	0.824	0.824	83%
claude-3-sonnet-20240229	0.790	0.828	84%
gemini-1.5-pro	0.773	0.811	83%
meta-llama/Meta-Llama-3-70B-Instruct-	0.747	0.863	84%
hpx003	0.691	0.738	83%
gpt-3.5-turbo-0125	0.678	0.734	82%
solar-1-mini-chat	0.614	0.695	79%
yanolja/EEVE-Korean-Instruct-10.8B-v1.0	0.597	0.730	79%

H_DRFR: The accuracy of model responses as evaluated by the human expert
A_DRFR: The accuracy of model responses automatically evaluated by GPT-4 as employing the capability of LLM-as-a-judge
Alignment: The degree of agreement or consistency between the human and automated evaluation

Please note that the evaluation results of the LLMs presented in the above table may vary due to its randomness.

Additional Information

License Information

This dataset is released under the MIT LISENCE

Citation Information

@article{,
      title={KoInFoBench}, 
      author={Sungwoo Oh, Sungjun Kown, Donggyu Kim},
      year={2024},
      eprint={},
      archivePrefix={arXiv},
      primaryClass={cs.CL}
}

Downloads last month: 55

Edit dataset card

Size of downloaded dataset files:

115 kB

Size of the auto-converted Parquet files:

40.9 kB

Number of rows: