Wp2

This dataset was generated using YourBench (v0.6.0), an open-source framework for generating domain-specific benchmarks from document collections.

Pipeline Steps

• ingestion: Read raw source documents, convert them to normalized markdown and save for downstream steps
• summarization: Perform hierarchical summarization: chunk-level LLM summaries followed by combine-stage reduction
• chunking: Split texts into token-based single-hop and multi-hop chunks
• single_shot_question_generation: Generate standalone question-answer pairs per chunk using LLM
• lighteval: Merge QA pairs and chunk metadata into a lighteval compatible dataset for quick model-based scoring

Reproducibility

To reproduce this dataset, use YourBench v0.6.0 with the following configuration:

hf_configuration:
  hf_dataset_name: WP2
  hf_organization: alekgomez
  hf_token: $HF_TOKEN
  local_dataset_dir: data/saved_dataset
  jsonl_export_dir: data/jsonl_export
pipeline_config:
  ingestion:
    source_documents_dir: example/generate_questions_from_docs/data
    output_dir: example/generate_questions_from_docs/processed
    pdf_llm_prompt: yourbench/prompts/ingestion/pdf_llm_prompt.md
  summarization:
    max_tokens: 14000
    summarization_user_prompt: yourbench/prompts/summarization/summarization_user_prompt.md
    combine_summaries_user_prompt: yourbench/prompts/summarization/combine_summaries_user_prompt.md
  chunking:
    l_max_tokens: 256
    token_overlap: 64
  single_shot_question_generation:
    question_mode: multi-choice
    additional_instructions: "G\xE9n\xE8re des questions \xE0 choix multiples difficiles\
      \ pour un examen destin\xE9 aux \xE9tudiants universitaires de derni\xE8re ann\xE9\
      e en fran\xE7ais. Voici des examples de questions : Dans le cadre de sa strat\xE9\
      gie de s\xE9curit\xE9 globale, comment la Belgique conjugue-t-elle ses leviers\
      \ d'action politique et militaire ? En privil\xE9giant une approche exclusivement\
      \ politique, n\xE9gligeant la dimension militaire. En s\u2019appuyant sur une\
      \ diplomatie de neutralit\xE9, sans recourir \xE0 des interventions militaires\
      \ actives. En harmonisant sa strat\xE9gie politique avec la g\xE9n\xE9ration\
      \ de force, en se concentrant sur des alliances militaires, la promotion de\
      \ la s\xE9curit\xE9 collective et le renforcement des capacit\xE9s militaires\
      \ (correcte) En d\xE9l\xE9guant sa s\xE9curit\xE9 \xE0 des organismes internationaux\
      \ sans jouer de r\xF4le actif de premier plan sur le plan militaire. Quels int\xE9\
      r\xEAts sont prot\xE9g\xE9s par la mission de s\xE9curit\xE9 collective de la\
      \ d\xE9fense belge? La promotion du multilat\xE9ralisme et le renforcement des\
      \ alliances. La libert\xE9 des flux commerciaux et d'information. La stabilisation\
      \ du voisinage imm\xE9diat de la Belgique. Toutes les r\xE9ponses ci-dessus\
      \ sont correctes. (correcte) Pourquoi la r\xE9silience a-t-elle \xE9t\xE9 identifi\xE9\
      e comme un int\xE9r\xEAt vital pour la Belgique, et en quoi les missions de\
      \ la d\xE9fense sont-elles adapt\xE9es pour d\xE9fendre cet int\xE9r\xEAt ?\
      \ La r\xE9silience garantit une prosp\xE9rit\xE9 \xE9conomique stable, et les\
      \ missions de la d\xE9fense permettent d\u2019\xE9tablir des partenariats commerciaux\
      \ s\xE9curis\xE9s. La r\xE9silience renforce l\u2019\xE9tat de droit et la d\xE9\
      mocratie, et la d\xE9fense assure la protection des ressortissants belges \xE0\
      \ l\u2019\xE9tranger. La r\xE9silience permet \xE0 la Belgique de se pr\xE9\
      parer et de r\xE9pondre aux crises. Les missions de d\xE9fense, telles que la\
      \ d\xE9fense collective et la s\xE9curit\xE9 collective, renforcent cette capacit\xE9\
      \ en dissuadant les menaces et en contribuant au maintien de l\u2019ordre international.\
      \ (correcte) La r\xE9silience favorise le fonctionnement optimal de l\u2019\
      UE, et les missions de la d\xE9fense suivent cela gr\xE2ce \xE0 la diplomatie\
      \ de d\xE9fense et \xE0 la collaboration avec les alli\xE9s de l\u2019UE. La\
      \ Belgique est-elle exempte de risques s\xE9curitaires existentiels ? Oui, car\
      \ sa structure f\xE9d\xE9rale complexe garantit la stabilit\xE9 int\xE9rieure.\
      \ Non, car elle aussi est confront\xE9e \xE0 des menaces pouvant remettre en\
      \ cause son existence comme les tensions entre les communaut\xE9s ou encore\
      \ des enjeux environnementaux. (correcte) Oui, car sa position centrale en Europe\
      \ la prot\xE8ge de tous les dangers. Non, car son syst\xE8me \xE9conomique est\
      \ ind\xE9pendant des fluctuations mondiales. Parmi les responsabilit\xE9s s\xE9\
      curitaires \xE9num\xE9r\xE9es ci-dessous, laquelle est sp\xE9cifiquement attribu\xE9\
      e \xE0 l\u2019Union Europ\xE9enne (UE) et non \xE0 l\u2019OTAN ou \xE0 l\u2019\
      ONU ? Superviser les accords de d\xE9sarmement internationaux. (OTAN/ONU) Faire\
      \ respecter les sanctions internationales contre les \xC9tats qui violent le\
      \ droit international. (ONU/OTAN/UE, mais pas sp\xE9cifique \xE0 l'UE) Mettre\
      \ en \u0153uvre une politique commune de s\xE9curit\xE9 et de d\xE9fense, y\
      \ compris des op\xE9rations de gestion de crises. (Sp\xE9cifique \xE0 l'UE :\
      \ Politique de S\xE9curit\xE9 et de D\xE9fense Commune - PSDc) (correcte) Intervenir\
      \ militairement en cas d\u2019aggression contre l\u2019un de ses membres. (OTAN,\
      \ via l\u2019article 5)."
    single_shot_system_prompt: yourbench/prompts/question_generation/single_shot_system_prompt.md
    single_shot_system_prompt_multi: yourbench/prompts/question_generation/single_shot_system_prompt_multi.md
    single_shot_user_prompt: yourbench/prompts/question_generation/single_shot_user_prompt.md
  lighteval: {}
model_list:
- model_name: Qwen/Qwen2.5-72B-Instruct
  api_key: $API_KEY
  max_concurrent_requests: 12
  encoding_name: cl100k_base
  provider: nebius
- model_name: qwen/qwen-2.5-72b-instruct:free
  base_url: https://openrouter.ai/api/v1
  api_key: $API_KEY
  max_concurrent_requests: 1
  encoding_name: cl100k_base
- model_name: qwen/qwen2.5-vl-32b-instruct:free
  base_url: https://openrouter.ai/api/v1
  api_key: $API_KEY
  max_concurrent_requests: 1
  encoding_name: cl100k_base
model_roles:
  ingestion:
  - qwen/qwen-2.5-72b-instruct:free
  summarization:
  - qwen/qwen-2.5-72b-instruct:free
  chunking:
  - intfloat/multilingual-e5-large-instruct
  single_shot_question_generation:
  - Qwen/Qwen2.5-72B-Instruct
  question_generation:
  - Qwen/Qwen2.5-72B-Instruct
  multi_hop_question_generation:
  - Qwen/Qwen2.5-72B-Instruct
  cross_document_question_generation:
  - Qwen/Qwen2.5-72B-Instruct
  question_rewriting:
  - Qwen/Qwen2.5-72B-Instruct
  prepare_lighteval:
  - Qwen/Qwen2.5-72B-Instruct
  lighteval:
  - Qwen/Qwen2.5-72B-Instruct
  citation_score_filtering:
  - Qwen/Qwen2.5-72B-Instruct

(This dataset card was automatically generated by YourBench)