StatikBench ist ein kostenpflichtig lizenziertes Werk. Die Freigabe dieses Zugangs dient allein der Prüfung, ob eine Lizenz erworben werden soll — sie räumt kein Nutzungsrecht ein. Jede Nutzung, Weitergabe, Veröffentlichung von Ergebnissen sowie jede Verwendung als Trainings- oder Evaluationsdaten setzt eine gesonderte, entgeltliche Lizenz voraus (LICENSE.md, PREISE.md).

Ich habe die Lizenzbedingungen (LICENSE.md) gelesen und erkenne sie an. Mir ist bekannt, dass der Zugang kein Nutzungsrecht begründet, dass für Text und Data Mining ein Nutzungsvorbehalt nach § 44b Abs. 3 UrhG erklärt ist und dass jede über die Kenntnisnahme hinausgehende Nutzung eine entgeltliche Lizenz erfordert.

StatikBench v0.2 (private Preview)

Zugang nur per Access Request. Die Freigabe dient der Prüfung vor einem Lizenzerwerb und räumt kein Nutzungsrecht ein — jede Nutzung setzt eine kostenpflichtige Lizenz voraus (LICENSE.md · PREISE.md).

Der erste deutschsprachige LLM-Benchmark für Baunormen und normbasierte Tragwerksbemessung (DE · AT · CH) — ein Statika-Projekt, von den Machern von German-OCR und BelegBench.

Es gibt Benchmarks für chinesische Baunormen (AECBench), US-Codes (PE Civil Bench) und dänische Bauordnungen (BR18) — für DIN, Eurocode-NA, ÖNORM und SIA gab es bisher keinen. StatikBench schließt die Lücke: 900 Items, 100 % synthetisch, seed-reproduzierbar, jede Ground Truth deterministisch vom Statika-Rechenkern berechnet und gegen analytische Anker verifiziert (qL²/8 · 5qL⁴/384EI · π²EI/L²). Kein Norm-Wortlaut im Dataset — Normen werden ausschließlich referenziert (siehe LEGAL.md).

Tracks

Track	Subtracks	Jurisdiktion
Lastannahmen	Wind (EC1-1-4/NA) · Schnee (EC1-1-3/NA) · Erdbeben (EC8/NA)	DE
Balkenstatik	Einfeldträger · Kragarm · Zweifeld-Durchlaufträger	DACH (reine Mechanik)
Bemessung	EC3-Biegeknicken · EC5-Holz · EC2-Stahlbeton	DE

126 Negativ-Items (14 %): Eine zur Lösung nötige Angabe fehlt bewusst — die korrekte Antwort ist null. Ein Modell, das trotzdem Werte liefert, halluziniert Lastannahmen. Das speist die Halluzinationsrate, die Sicherheitsmetrik für Ingenieur:innen.

Erste Ergebnisse

StatikBench-Leaderboard: Statika AI 96,9 % Field-EM, 0,0 % Halluzination

Modell / Modus	Field-EM	Halluzinationsrate	Verify-Catch	Latenz	Parse-Fehler
Qwen3.6:35B (roh)	22,8 %	42,1 %	26,7 %	1,8 s	0/576
Qwen3.6:35B (roh) · Reasoning	58,0 %	23,1 %	11,3 %	73,6 s	11/600
Qwen3.6:27B (roh)¹	23,0 %	33,3 %	30,4 %	5,0 s	0/120
Qwen3.6:27B (roh)¹ · Reasoning²	75,2 %	20,0 %	12,6 %	353 s	0/79
Gemma 4 26B (roh)¹	21,7 %	44,4 %	28,7 %	25,3 s	2/120
Gemma 4 26B (roh)¹ · Reasoning	35,6 %	55,6 %	14,9 %	122,9 s	49/120
Statika AI	96,9 %	0,0 %	31,1 %	2,9 s	0/600

¹ n = 120 (track-balanciertes Subset). ² 41 von 120 Anfragen im Timeout (900 s) — gewertet n = 79; die Zahl ist dadurch eher optimistisch. Kandidaten-Parameter: Qwen3.6:27B = dense, 27 Mrd. · Gemma 4 26B = MoE, 25,2 Mrd. gesamt / 3,8 Mrd. aktiv. Statika AI: Parameter nicht veröffentlicht.

Rohe Sprachmodelle scheitern an normbasierter Tragwerksplanung (22,8 %) und erfinden bei fehlenden Angaben in 4 von 10 Fällen Werte; Reasoning hebt die Genauigkeit auf 58 %, löst aber weder Wissens- noch Sicherheitsproblem. Statika AI erreicht 96,9 % Feld-Genauigkeit bei 0,0 % Halluzination und 2,9 s — ohne einen einzigen Parse-Fehler über alle 600 Aufgaben.

Spalten

Spalte	Typ	Inhalt
`item_id`, `track`, `subtrack`, `jurisdiction`	str	Identität & Einordnung (`DE` oder `DACH`)
`seed`	int	Generator-Seed (Item vollständig reproduzierbar)
`negative`	bool	Angabe fehlt bewusst → betroffene GT-Felder sind `null`
`prompt`	str	vollständige deutsche Aufgabe inkl. Antwort-JSON-Schema
`fields`	str (JSON)	Feld-Spezifikationen: `name`, `kind`, `rtol`/`atol`, `choices`, Einheit
`ground_truth`	str (JSON)	Musterlösung (deterministisch berechnet)
`inputs`	str (JSON)	maschinenlesbare Aufgaben-Eingaben (für den Physik-Verifier)
`norm_refs`	list[str]	referenzierte Normabschnitte (nur Referenzen, nie Wortlaut)
`provenance`	str	Herkunft der Ground Truth

Bewertung

Feldweise 5-Status-Klassifikation (correct / wrong / missed / hallucinated / true_null) mit ingenieurgerechten Toleranzen (relativ 2–5 % je Feld, Dezimalkomma-tolerant). Dazu ein deterministischer Physik-Verifier (Gleichgewicht ΣR = ΣF, w_e = c_pe·q_p, N_b,Rd = χ·A·f_y/γ_M1, η ↔ Verdikt), der Modellfehler ohne Kenntnis der Lösung fängt → Verify-Catch-Rate. Eval-Harness: privates Repo statikbench (Release mit v1.0 geplant).

Fassungen

Datei	Fassung	Items	Status
`data/statikbench_v0_2.jsonl`	v0.2	900	aktuell — Standard-Config
`data/statikbench_v0.jsonl`	v0.1	600	Vorgängerfassung, nur zur Reproduktion früherer Auswertungen

Lizenz

StatikBench ist kostenpflichtig lizenziert. Der Zugang über die Zugriffsanfrage dient der Prüfung — ein Nutzungsrecht entsteht daraus nicht.

Der Datensatz ist als Datenbank nach §§ 87a ff. UrhG geschützt; die Rechte des Datenbankherstellers werden ausdrücklich geltend gemacht. Für Text und Data Mining ist der Nutzungsvorbehalt nach § 44b Abs. 3 UrhG erklärt — die gesetzliche Schranke greift damit nicht, Training bedarf einer Lizenz.

Lizenz	Für
A — Evaluierung	befristete interne Prüfung
B — Forschung	Hochschulen, nicht-kommerziell, mit Publikationsrecht
C — Unternehmen	interne Bewertung eigener Modelle
D — Publikation	Veröffentlichung von Ergebnissen und Ranglisten
E — KI-Training	Training, Feinabstimmung, Destillation
F — OEM	Einbettung in eigene Produkte, Weitergabe

Bedingungen: LICENSE.md · Konditionen: PREISE.md · Anfragen über statika.ai

Der Datensatz ist ein Messinstrument für Sprachmodelle. Er ist keine Grundlage für Tragwerksplanung oder Nachweisführung an realen Bauwerken. Leitplanken der Item-Konstruktion: LEGAL.md

Statika — 3D-FEM Berechnung & Bemessung, Eurocode/DIN-nativ.
StatikBench ist der Benchmark hinter Statika AI.

Downloads last month: 28

Total file size:

4.21 MB