Earlychildhoodeducation/Learning-Stories-Benchmark

🧸 EleMo-Pedagogy-Bench-DE (Dataset & Tool)

Dieses Repository bietet ein Lerngeschichten-Benchmark-Tool, um pädagogische Lerngeschichten nach der Methodik von Margaret Carr miteinander zu vergleichen. Das Skript ist an ein lokales LLM als Juror (via LM Studio) angebunden. Zusätzlich gibt es eine leere Vorlage für die Batch-Verarbeitung, um viele Lerngeschichten gleichzeitig auszuwerten.

Warum ist das so wichtig?
An Künstlicher Intelligenz führt heute kein Weg mehr vorbei – auch nicht in der frühkindlichen Bildung. Genau deshalb müssen wir jetzt die Weichen stellen und diese technologische Entwicklung in die richtigen, pädagogisch wertvollen Bahnen lenken. Es ist essenziell geworden, KI-generierte Texte systematisch zu untersuchen und zu vergleichen, um fachliche Standards zu wahren und Halluzinationen vorzubeugen.

Ich stelle dieses Tool und Dataset online, weil es mir ein wichtiges Anliegen ist, dass wir die Qualität in der Elementarpädagogik gemeinsam und transparent verbessern.

Ein spannendes Learning aus aktuellen Tests mit diesem Benchmark: Das speziell auf diesen Bereich feingetunte, lokale EleMo-Modell V2 (28B) schneidet bei der Bewertung und Erstellung minimal besser ab als riesige Cloud-Modelle wie Gemini 3.1 Pro Extended Thinking. Das zeigt deutlich: Die schiere Größe eines KI-Modells hat nicht zwingend etwas mit der Ausgabequalität zu tun – Spezialisierung schlägt oft Parameter-Masse! :)

Aktuelle Funktionen des Skripts:

1. A/B-Vergleich: Vergleich zweier Lerngeschichten nach Carr.
2. Batch-Verarbeitung: A/B-Vergleich für eine große Anzahl an Lerngeschichten (Stapelverarbeitung).
3. Einzelanalyse: Analyse einer einzelnen Lerngeschichte nach den Carr-Kriterien.

WICHTIG: Es ist an LM Studio auf der lokalen Hardware angebunden. Dieses Script läuft ohne dies nicht. Bei Nutzung einer Online API muss die ONLINE-VERSION genutzt werden.

🇩🇪 Deutsch

Dieses Dataset enthält die Evaluierungsdaten für den EleMo-Pedagogy-Bench-DE, einen Benchmark zur objektiven Bewertung von pädagogischen Lerngeschichten nach der Methodik von Margaret Carr.

📊 Inhalt des Datasets

Das Dataset umfasst 11 diverse, pädagogische Szenarien (u.a. Konflikte, Risky Play, Inklusion, minimale Rohdaten). Für jedes Szenario enthält es:

• Die Rohdaten (stichpunktartige Beobachtung).
• Den Output von EleMo-V2 (28B, lokal, spezialisiert).
• Den Output von Gemini 3.1 Pro (Cloud, Generalist).
• Die strukturierte Bewertung durch einen neutralen Judge (Llama 3.3 70B).
• Das Skript für die persönliche Nutzung zum Vergleichen von Lerngeschichten nach Carr (A/B-Vergleich).
• Die leere Vorlage für eine größere Stapelverarbeitung von Lerngeschichten nach Carr (A/B Batch-Vergleich).

🎯 Anwendungsfälle

• LLM-as-a-Judge Evaluation: Teste, wie gut andere Modelle pädagogische Texte bewerten.
• DPO / RLHF Training: Nutze die EleMo-Outputs als "Chosen" und die Gemini-Outputs als "Rejected", um Modelle auf pädagogische Guardrails zu trainieren.
• Prompt Engineering: Analysiere, welche Prompts zu besserer "Epistemischer Disziplin" (Vermeidung von Halluzinationen) führen.

💻 Python-Script zur Anwendung

GitHub: Unter github.com/kita-digital finden Sie das Skript einsatzbereit für Ihre eigenen Benchmarks.

⚖️ Lizenz & Datenschutz

Dieses Dataset steht unter der CC BY-NC 4.0 Lizenz (Namensnennung, Nicht-Kommerziell). Wichtig: Alle Beobachtungsdaten in diesem Dataset sind synthetisch generiert oder stark anonymisierte Beispielszenarien. Es enthält keine echten, personenbezogenen Daten von Kindern.

---

🇬🇧 English

This repository provides a Learning Story Benchmark Tool to objectively compare pedagogical learning stories based on Margaret Carr's methodology. The script connects to a local LLM acting as a judge (via LM Studio). Additionally, it includes a blank template for large-scale batch processing to evaluate many learning stories simultaneously.

Why is this so important today?
There is no way around Artificial Intelligence anymore – and that includes early childhood education. That is exactly why we need to set the course now and steer this technological development in the right, pedagogically sound direction. It has become essential to systematically analyze and compare AI-generated texts to maintain professional standards and prevent hallucinations.

I am making this tool and dataset publicly available because it is deeply important to me that we collaboratively and transparently improve the quality of early childhood education.

An exciting takeaway from recent tests using this benchmark: The specifically fine-tuned, local EleMo model V2 (28B) performs slightly better than massive cloud models like Gemini 3.1 Pro Extended Thinking. This clearly demonstrates that the sheer size of an AI model does not necessarily correlate with output quality – specialization often beats parameter count! :)

IMPORTANT: It is connected to LM Studio on the local hardware. This script will not run without this connection. If you are using an online API, you must use the ONLINE VERSION.

📊 Dataset Contents

The dataset comprises 11 diverse, pedagogical scenarios (including conflicts, risky play, inclusion, and minimal raw data). For each scenario, it contains:

• The raw observation data (bullet-point notes from educators).
• The output from EleMo-V2 (28B, local, specialized model).
• The output from Gemini 3.1 Pro (cloud-based generalist model).
• The structured evaluation by a neutral judge (Llama 3.3 70B).
• The script for personal use to compare learning stories according to Carr (A/B comparison).
• The blank template for large-scale batch processing of learning stories according to Carr (A/B batch comparison).

🎯 Use Cases

• LLM-as-a-Judge Evaluation: Test how well other models evaluate pedagogical texts.
• DPO / RLHF Training: Use the EleMo outputs as "chosen" responses and the Gemini outputs as "rejected" responses to train models on pedagogical guardrails.
• Prompt Engineering: Analyze which prompts lead to better "epistemic discipline" (avoiding hallucinations of children's inner states).

💻 Python Script

GitHub: At github.com/kita-digital, you'll find the script ready to use for your own benchmarks.

⚖️ License & Privacy

This dataset is licensed under Apache 2.0 with Commons Clause. Important: All observation data in this dataset is synthetically generated or consists of heavily anonymized example scenarios. It contains no real, personally identifiable data from children.

---

📚 Citation / Zitierung

@dataset{elemo_pedagogy_bench_de,
  title = {EleMo-Pedagogy-Bench-DE: A Benchmark Dataset for Evaluating Learning Stories in Early Childhood Education},
  author = {Sebastian Götz / Kita Digital},
  year = {2026},
  publisher = {Hugging Face},
  url = {https://huggingface.co/datasets/Earlychildhoodeducation/EleMo-Pedagogy-Bench-DE-Dataset}
}