Dca

This dataset was generated using YourBench (v0.6.0), an open-source framework for generating domain-specific benchmarks from document collections.

Pipeline Steps

• ingestion: Read raw source documents, convert them to normalized markdown and save for downstream steps
• summarization: Perform hierarchical summarization: chunk-level LLM summaries followed by combine-stage reduction
• chunking: Split texts into token-based single-hop and multi-hop chunks
• single_shot_question_generation: Generate standalone question-answer pairs per chunk using LLM
• lighteval: Merge QA pairs and chunk metadata into a lighteval compatible dataset for quick model-based scoring
• citation_score_filtering: Compute overlap-based citation scores and filter QA pairs accordingly

Reproducibility

To reproduce this dataset, use YourBench v0.6.0 with the following configuration:

hf_configuration:
  hf_dataset_name: DCA
  hf_organization: alekgomez
  hf_token: $HF_TOKEN
  local_dataset_dir: data/saved_dataset
  jsonl_export_dir: data/jsonl_export
pipeline_config:
  ingestion:
    source_documents_dir: example/generate_questions_from_docs/data
    output_dir: example/generate_questions_from_docs/processed
    pdf_llm_prompt: yourbench/prompts/ingestion/pdf_llm_prompt.md
  summarization:
    max_tokens: 14000
    summarization_user_prompt: yourbench/prompts/summarization/summarization_user_prompt.md
    combine_summaries_user_prompt: yourbench/prompts/summarization/combine_summaries_user_prompt.md
  chunking:
    l_max_tokens: 512
    token_overlap: 64
  single_shot_question_generation:
    question_mode: multi-choice
    additional_instructions: "G\xE9n\xE8re des questions \xE0 choix multiples difficiles\
      \ pour un examen destin\xE9 aux \xE9tudiants universitaires de derni\xE8re ann\xE9\
      e en fran\xE7ais. Voici des examples de questions : Les quatre Conventions de\
      \ Gen\xE8ve s'appliquent en cas d'... \u2022\tUn conflit arm\xE9 entre deux\
      \ ou plusieurs \xC9tats mais uniquement si un certain degr\xE9 d'intensit\xE9\
      \ a \xE9t\xE9 atteint. \u2022\tUne occupation totale ou partielle. (correct)\
      \ \u2022\tToutes les r\xE9ponses sont correctes. \u2022\tAucune r\xE9ponse n'est\
      \ correcte. Un conflit arm\xE9 se d\xE9roule dans l'Etat X, qui a ratifi\xE9\
      \ toutes les conventions et tous les protocoles pertinent(e)s. Les forces arm\xE9\
      es r\xE9guli\xE8res de l\u2019\xC9tat m\xE8nent une bataille acharn\xE9e contre\
      \ un groupe arm\xE9 organis\xE9 dissident. Gr\xE2ce \xE0 la fourniture d\u2019\
      armes par l\u2019\xC9tat Y, le groupe arm\xE9 parvient \xE0 contr\xF4ler une\
      \ partie du territoire, y compris la Province Z d'o\xF9 les chefs rebelles planifient\
      \ et coordonnent les op\xE9rations militaires du mouvement. Quelle r\xE9ponse\
      \ est compl\xE8tement correcte? Le droit applicable est ... \u2022\tL'Article\
      \ 3 commun aux quatre Conventions de Gen\xE8ve, les autres trait\xE9s et coutumes\
      \ applicable lors d'un CANI, les droits de l'Homme, le droit national. \u2022\
      \tLes quatre Conventions de Gen\xE8ve, le Protocole Additionnel I, les autres\
      \ trait\xE9s et coutumes applicable lors d'un CAI, les droits de l'Homme, le\
      \ droit national. \u2022\tLe Protocole Additionnel II, les autres trait\xE9\
      s et coutumes applicable lors d'un CANI, les droits de l'Homme, le droit national.\
      \ \u2022\tAucune des r\xE9ponses propos\xE9es n'est correcte. (correct) Un conflit\
      \ arm\xE9 entre deux groupes arm\xE9s organis\xE9s (GAO 1 et GAO 2) se d\xE9\
      roule sur le territoire de l'Etat X, qui a ratifi\xE9 toutes les conventions\
      \ et tous les protocoles pertinent(e)s. GAO 1 a son centre de commandement en\
      \ Province 1, GAO 2 en Province 2. L'Etat Y fournit une quantit\xE9 importante\
      \ d'armes au GAO 1, ce qui lui donne actuellement l'avantage dans le conflit.\
      \ N\xE9anmoins, GAO 2 parvient \xE9galement \xE0 tenir le coup grace au soutien\
      \ financier de membres influents de la population. Les deux groupes ont r\xE9\
      ussi \xE0 contr\xF4ler une partie du territoire. Quelle r\xE9ponse est compl\xE8\
      tement correcte? Le droit applicable est ... \u2022\tLes quatre Conventions\
      \ de Gen\xE8ve, le Protocole Additionnel I, les autres trait\xE9s et coutumes\
      \ applicable lors d'un CAI, les droits de l'Homme, le droit national. \u2022\
      \tL'Article 3 commun aux Conventions de Gen\xE8ve, le Protocole Additionnel\
      \ II, les autres trait\xE9s et coutumes applicable lors d'un CANI, les droits\
      \ de l'Homme, le droit national. \u2022\tl'Article 3 commun aux Conventions\
      \ de Gen\xE8ve, les autres trait\xE9s et coutumes applicable lors d'un CANI,\
      \ les droits de l'Homme, le droit national. (correct) \u2022\tAucune des r\xE9\
      ponses propos\xE9es n'est correcte. Lors d'un conflit arm\xE9 non-international\
      \ dans l'Etat X, un groupe arm\xE9 organis\xE9 a r\xE9ussi \xE0 prendre le contr\xF4\
      le de Ville V, o\xF9 ils installent leur centre de commandement. Ils positionnent\
      \ ce centre d\xE9lib\xE9r\xE9ment dans une \xE9cole secondaire. Apr\xE8s une\
      \ discussion intense avec sa femme, le directeur de l'\xE9cole d\xE9cide de\
      \ dormir dans son bureau. A minuit, les forces arm\xE9es r\xE9guli\xE8res d'Etat\
      \ X attaquent l'\xE9cole. Le directeur ne survit pas \xE0 l'attaque. Quel principe\
      \ est viol\xE9 par l'Etat X? \u2022\tLe principe de distinction. \u2022\tLe\
      \ principe de proportionnalit\xE9. \u2022\tLe principe de pr\xE9caution. \u2022\
      \tAucun des principes n'est viol\xE9. (correct) Dans le cadre d\u2019un conflit\
      \ arm\xE9 international, les services de renseignement indiquent avec une certitude\
      \ absolue le centre principal de commandement et de communication des forces\
      \ arm\xE9es ennemies, qui se trouve dans les caves d\u2019une villa. Cette villa\
      \ moderne et luxueuse est encore habit\xE9e \xE0 ce jour par deux s\u0153urs\
      \ \xE2g\xE9es, qui chaque apr\xE8s-midi participent en plein air aux activit\xE9\
      s de l\u2019association locale de femmes. La villa est situ\xE9e dans le centre\
      \ d\u2019un domaine vaste et bois\xE9, sans qu\u2019il n\u2019y ait d\u2019\
      autres citoyens ou de biens civils \xE0 proximit\xE9. La villa ... \u2022\t\
      Doit \xEAtre retir\xE9e de la liste des objectifs militaires puisque l\u2019\
      attaque de cette cible pourrait \xE9ventuellement causer des victimes parmi\
      \ la population civile. \u2022\tPeut \xEAtre attaqu\xE9e sans plus puisqu\u2019\
      il s\u2019agit d\u2019un objectif militaire l\xE9gitime par son utilisation.\
      \ \u2022\tPeut \xEAtre attaqu\xE9e si certaines mesures de pr\xE9caution sont\
      \ prises. (correct) \u2022\tAucune des r\xE9ponses propos\xE9es n'est correcte.\
      \ Un mus\xE9e est utilis\xE9 comme d\xE9pot d'armes par les forces ennemies.\
      \ Le Soldat Y peut ... \u2022\tJamais d\xE9truire le mus\xE9e quand il a \xE9\
      t\xE9 marqu\xE9 par trois boucliers bleus-blancs. \u2022\tEliminer le mus\xE9\
      e sans plus en l'absence d'un bouclier bleu-blanc. \u2022\tD\xE9cider d'\xE9\
      liminer le mus\xE9e quand il, apr\xE8s avoir pes\xE9 l'avantage militaire contre\
      \ le dommage collat\xE9ral, conclut que l'attaque est proportionnelle. \u2022\
      \tAucune r\xE9ponse n'est correcte. (correct) Lors d'un conflit arm\xE9 international,\
      \ le symbole des trois cercles oranges sur fond blanc ... \u2022\tSignifie que\
      \ l'installation ne peut pas \xEAtre attaqu\xE9e. \u2022\tSignifie que l'installation\
      \ ne peut \xEAtre attaqu\xE9 sauf si le commandant d'un bataillon le d\xE9cide\
      \ apr\xE8s avoir constat\xE9 qu'il y a une n\xE9cessit\xE9 militaire imp\xE9\
      rative. \u2022\tEst obligatoire pour l'identification de barrages, de digues\
      \ et de centrales nucl\xE9aires comportant des produits dangereux. \u2022\t\
      Aucune des r\xE9ponses propos\xE9es n'est correcte. (correct) Dans un conflit\
      \ international, un soldat commet de la perfidie quand \u2026 \u2022\tIl participe\
      \ dans une op\xE9ration militaire en portant le signe distinctif de la Croix-Rouge.\
      \ \u2022\tIl tue un combattant ennemi apr\xE8s l'avoir attir\xE9 en lui montrant\
      \ le drapeau blanc. (correct) \u2022\tIl tend une embuscade \xE0 l'ennemi en\
      \ lui faisant croire, par des signaux radio militaires erron\xE9s, qu'une concentration\
      \ de troupes est en cours dans une zone donn\xE9e. \u2022\tToutes les r\xE9\
      ponses propos\xE9es sont correctes. Les r\xE8gles d'engagement (ROE) ... \u2022\
      \tSont des lois obligeant l'usage de la force dans des circonstances d\xE9termin\xE9\
      es. \u2022\tD\xE9terminent les objectifs d'une op\xE9ration. \u2022\tSont des\
      \ r\xE8gles autorisant l'usage de la force dans des circonstances d\xE9termin\xE9\
      es. (correct) \u2022\tAucune des r\xE9ponses n'est correcte."
    single_shot_system_prompt: yourbench/prompts/question_generation/single_shot_system_prompt.md
    single_shot_system_prompt_multi: yourbench/prompts/question_generation/single_shot_system_prompt_multi.md
    single_shot_user_prompt: yourbench/prompts/question_generation/single_shot_user_prompt.md
  lighteval: {}
  citation_score_filtering:
    subset: prepared_lighteval
    alpha: 0.7
    beta: 0.3
model_list:
- model_name: Qwen/Qwen2.5-72B-Instruct
  api_key: $API_KEY
  max_concurrent_requests: 12
  encoding_name: cl100k_base
  provider: nebius
- model_name: qwen/qwen-2.5-72b-instruct:free
  base_url: https://openrouter.ai/api/v1
  api_key: $API_KEY
  max_concurrent_requests: 1
  encoding_name: cl100k_base
- model_name: qwen/qwen2.5-vl-32b-instruct:free
  base_url: https://openrouter.ai/api/v1
  api_key: $API_KEY
  max_concurrent_requests: 1
  encoding_name: cl100k_base
model_roles:
  ingestion:
  - Qwen/Qwen2.5-72B-Instruct
  summarization:
  - Qwen/Qwen2.5-72B-Instruct
  chunking:
  - intfloat/multilingual-e5-large-instruct
  single_shot_question_generation:
  - Qwen/Qwen2.5-72B-Instruct
  question_generation:
  - Qwen/Qwen2.5-72B-Instruct
  multi_hop_question_generation:
  - Qwen/Qwen2.5-72B-Instruct
  cross_document_question_generation:
  - Qwen/Qwen2.5-72B-Instruct
  question_rewriting:
  - Qwen/Qwen2.5-72B-Instruct
  prepare_lighteval:
  - Qwen/Qwen2.5-72B-Instruct
  lighteval:
  - Qwen/Qwen2.5-72B-Instruct
  citation_score_filtering:
  - Qwen/Qwen2.5-72B-Instruct

(This dataset card was automatically generated by YourBench)