Hessen-Datenschrank

TL;DR (English)

The complete catalog of the German state of Hesse's open data portal (opendata.hessen.de) — audited, clustered, and enriched. 1499 catalog entries (metadata harvested 2026-07-18), plus three things the portal itself does not know:

• A link-rot audit of every resource URL (2026-07-19): one in eleven resources is dead, one in six catalog entries points to at least one dead link — and the rot is concentrated at a single source (the GENESIS statistics database), while the EU High Value Dataset label turns out to be a genuine maintenance signal (0.9 % dead vs. 11 % elsewhere).
• Semantic embeddings for every entry (intfloat/multilingual-e5-small), included as a vector column in the Parquet file.
• Two layers of hand-made topic labels from clustering those embeddings. They were needed: the official categories turn out to be series stamps — copied per publisher series rather than assigned per dataset, and missing entirely for 289 entries. In embedding space, the strongest force is not topic but the publisher's house style. Layer one (thema_geclustert) names that actual order honestly; layer two (thema) is a second, stricter pass mapping every entry onto the official EU DCAT theme vocabulary — with a blind-audited reliability of 58 %, stated on the label rather than hidden.

The data and the full card below are in German — as is the catalog itself. If you can use this data, you can read it.

---

Der vollständige Katalog des offenen Datenportals des Landes Hessen (opendata.hessen.de) — geprüft, geclustert und angereichert. 1499 Katalogeinträge, Stand 18.07.2026, ergänzt um drei Dinge, die das Portal selbst nicht weiß:

1. Ein Quality Audit aller Ressourcen-Links (19.07.2026): Welche der verlinkten Dateien antworten noch — und welche sind tot?
2. Semantische Embeddings über Titel + Beschreibung jedes Eintrags (intfloat/multilingual-e5-small), als Vektorspalte enthalten.
3. Zwei Lagen handgetaufter Themen-Etiketten aus dem Clustering dieser Embeddings: 12 Cluster-Namen, die die tatsächliche Ordnung des Katalogs zeigen (thema_geclustert) — und eine zweite, strengere Taufe (thema), die jeden Eintrag in das Vokabular der amtlichen DCAT-Themen einordnet, mit blind gemessener Verlässlichkeit (58 %). Eine Navigation, die quer über alle Behörden funktioniert, auch für die 289 Einträge ohne amtliche Themenkategorie.

Die drei Befunde

Dieses Dataset ist das Beweisstück einer Bestandsaufnahme. Jede der folgenden Aussagen lässt sich in der Tabelle nachzählen:

Jede elfte Ressource ist tot. 674 der 7275 Ressourcen (9,3 %) antworten nicht mehr, fast ausschließlich mit 404; jeder sechste Katalogeintrag verweist auf mindestens einen toten Link (urls_tot > 0). Die Verrottung ist konzentriert: ~90 % der toten URLs zeigen auf den Tabellen-Downloader der GENESIS-Regionaldatenbank — ein lebendes System, dessen Tabellen wandern, während der Katalog ein statischer Schnappschuss bleibt. Gegenbeispiel im selben Katalog: Darmstadt, 1442 Ressourcen, null tote Links. Die EU-Kennzeichnung High Value Dataset (hvd) ist ein echtes Pflegesignal: Totenquote 0,9 % gegen 11,0 % beim Rest.

Die amtlichen Kategorien sind Serienstempel, keine Klassifikation. Wo Themen stehen (themen_dcat), sind sie oft pro Serie kopiert statt pro Datensatz vergeben: 38 der 76 Bebauungsplan-Einträge tragen dieselbe Dreierliste („Erdbeobachtung, Umwelt, Wirtschaft und Finanzen"), die anderen 38 gar keine — sogar innerhalb derselben INSPIRE-Serie desselben Landkreises. „Wirtschaft und Finanzen" sammelt aus 10 der 12 Themencluster ein und trennt nichts. Die Spalte thema liefert nach, was themen_dcat schuldig bleibt: dieselben amtlichen Kategorien, aber pro Datensatz vergeben — mit gemessener Fehlerquote.

Die tatsächliche Ordnung des Katalogs folgt den Lieferanten, nicht den Themen. Im Embedding-Raum ist die stärkste Kraft die Handschrift der Behörden: Die ~600 GENESIS-Tabellen clustern bei jeder Auflösung entlang ihrer Titelformeln („regionale Tiefe: Kreise", „Stichtag 31.12."), nicht entlang von Inhalten. Echte Themeninseln (Wahlen, Raumplanung, Soziales) existieren — klein, sauber, am Rand. Die Spalte thema_geclustert benennt beides ehrlich: Themen, wo Themen sind, und Lieferanten-Serien, wo die Handschrift dominiert.

Spalten

Spalte	Inhalt
name	CKAN-Kennung des Eintrags (eindeutig)
titel, beschreibung	Titel und Beschreibungstext, roh wie im Portal
organisation	liefernde Stelle
lizenz	Lizenz laut Katalog (99,6 % offen im Sinne der Open Definition)
hvd	EU-Kennzeichnung High Value Dataset (188 Einträge)
formate	angekündigte Ressourcen-Formate, |-getrennt
themen_dcat	amtliche EU-Themenkategorien, |-getrennt, oft leer — siehe Befund „Serienstempel"
cluster, thema_geclustert	Cluster-Nummer (K-Means, K = 12) und handgetauftes Etikett — die tatsächliche Ordnung des Katalogs
thema	konsolidiertes Themen-Schema der zweiten Taufe: Vokabular der amtlichen DCAT-Themen, pro Datensatz vergeben — 10 Themen, 122 Einträge bewusst ohne (leer). Verlässlichkeit blind gemessen: 58 % (s. Etiketten-Audit)
ressourcen	Zahl der hinterlegten Ressourcen
urls_geprueft, urls_tot	eindeutige URLs des Eintrags: geprüft am 19.07.2026 / davon tot (Fehler oder HTTP ≥ 400)
portal_url	der Eintrag im Portal
embedding	384-dim. Vektor (multilingual-e5-small, normalisiert, Präfix passage: , Titel + Beschreibung auf 1000 Zeichen gekappt) — nur im Parquet

hessen_datenschrank.csv enthält dieselbe Tabelle ohne die Embedding-Spalte.

Laden & semantisch suchen

from datasets import load_dataset

ds = load_dataset("sven-wehser/hessen-datenschrank", split="train")

Die Embedding-Spalte macht den Katalog durchsuchbar, ohne dass ein Modell nachrechnen muss — nur die Frage selbst wird encodiert. Das Präfix query: ist Teil des E5-Vertrags (die gespeicherten Vektoren tragen passage: ):

from sentence_transformers import SentenceTransformer
import numpy as np

modell = SentenceTransformer("intfloat/multilingual-e5-small")
E = np.array(ds["embedding"])

frage = modell.encode("query: Radverkehr und Fahrradwege", normalize_embeddings=True)
for i in np.argsort(E @ frage)[::-1][:5]:
    eintrag = ds[int(i)]
    print(eintrag["thema_geclustert"], "—", eintrag["titel"])

Wer nur die Tabelle ohne Vektoren braucht: pandas.read_csv("hf://datasets/sven-wehser/hessen-datenschrank/hessen_datenschrank.csv").

Methode & Grenzen

• Ernte: einmaliger Abruf der öffentlichen CKAN-API (package_search) am 18.07.2026, roh und unverändert übernommen.
• Audit: alle 4834 eindeutigen Ressourcen-URLs am 19.07.2026 abgerufen (1 s Pause, ehrlicher User-Agent). „Tot" = Netzwerkfehler oder HTTP ≥ 400 — eine Momentaufnahme, keine Dauerbeobachtung. Viele Ressourcen teilen sich eine URL; urls_geprueft zählt eindeutige URLs, nicht Ressourcen.
• Clustering: K-Means (K = 12, random_state=0) auf den Embeddings; die Etiketten sind von Hand vergeben und damit Interpretation — die Cluster-Nummern stehen daneben, wer anders taufen will, kann.
• Zweite Taufe (thema): feinere Clusterung (K = 50) auf Serienformel-bereinigten Titeln und Beschreibungen; jedes Cluster von Hand einem DCAT-Thema zugeordnet, 247 Einträge einzeln übersteuert (kurze Titel, Abgleich-Korrekturen), 122 bleiben bewusst ohne Thema.
• Etiketten-Audit: Nach Abschluss der Taufe wurden zweimal 100 zufällige Einträge blind einzeln beurteilt und gegen das fertige Etikett gehalten. Die erste Stichprobe (49 % Übereinstimmung) speiste den Taufregeln-Kodex und wurde mit der Taufe versöhnt; die zweite (disjunkt gezogen) blieb unversöhnt und ist die Messung: 58 von 100 Stichproben stimmen mit dem Etikett überein. Die Etiketten sind Navigation mit bezifferter Fehlerquote — keine Wahrheit.
• Lizenz: Die Metadaten stammen aus dem offenen Landesportal; das Portal nennt für die Katalog-Metadaten selbst keine explizite Lizenz (Stand der Ernte), die Lizenz jedes beschriebenen Datensatzes steht in der Spalte lizenz. Alles, was dieses Dataset hinzufügt — Embeddings, Cluster, Etiketten, Audit-Spalten — steht unter CC0 1.0.

Versionen

Version	Datum	Inhalt
v1.1	26.07.2026	neue Spalte thema (zweite Taufe: DCAT-Schema, blind auditiert — 58 %); Karte entsprechend erweitert
v1.0	19.07.2026	Erststand: Katalog, Link-Audit, Embeddings, 12 Cluster-Etiketten (Karte poliert am 21.07.)

Die Versionen sind als Git-Tags im Repo gesetzt; ein bestimmter Stand lädt sich mit load_dataset("sven-wehser/hessen-datenschrank", revision="v1.0").

Erstellt als privates Data-Journalism-Projekt, Juli 2026. Die Rohdaten sind jederzeit reproduzierbar: Katalog per CKAN-API ernten, Links abklopfen, Embeddings lokal rechnen — Rezept statt Ergebnis.