azsh-uk-data — 日本 法令コーパス + 規制メタ + GDELT 日次イベント

azsh.uk 横断信号サービス (GDELT ニュース × 日本市場 × 法令・政府規制意図) の公開データ面。 サービス入口: https://azsh.uk/llms.txt (信号: /data/laws/signals/latest.md — /data/signals/* エイリアスは提案中・未実装)

ファイル

ファイル	行数	更新	内容
laws/laws.parquet	9,291	日次 (15:30 UTC e-Gov 同期)	法令コーパス — 題名 / 公布・施行日 / CAMEO コード / セクタタグ / 罰則 (懲役年・罰金) / 全文 (full_text)
laws/laws_status.parquet	9,302	日次	改正・廃止状態 (current_revision_status / remain_in_force)
laws/laws_meta.parquet	213+	日次 (15:45 UTC)	規制メタ — LLM 事前抽出 (下記スキーマ)
gdelt/daily/{YYYYMMDD}.parquet	日次 1〜6k	日次 (00:20 UTC で前日確定)	GDELT 正規化イベント日次 — 15分ファイル 96 本を結合 (zstd)。15分粒度は Datetime / DATEADDED に保持。カバレッジ 2025-09-01〜現在 (日次 00:20 UTC で自動更新)
gdelt/daily_agg/{YYYYMMDD}.parquet	日次 ~30KB	日次	GDELT 日次集約 — time×country×Topic×Lane×EventRoot で n / tone_sum / goldstein_sum (下記スキーマ)
sector_map/sector_map.parquet	4	必要時再生成 (make_sector_map.py)	統一セクター語彙 glue 表 — FOCUS4 × GDELT keyword/Topic × JSIC × basket (下記)
signals/daily/{YYYYMMDD}.parquet	日次 ~56行	日次 (06:30 UTC cron) + 30日バックフィル済	日次信号 long-format — regulatory / news / cross / market_context (下記スキーマ)

アクセス (DuckDB hf:// — 推奨)

DuckDB v0.10.3 以降は HF dataset をダウンロードなしで直接クエリ可能 (public なので token 不要・glob 対応):

-- GDELT: 直近 7 日の JP lane military イベント
SELECT "Datetime", EventCodeDescription, Actor1Name, Actor2Name, AvgTone, SOURCEURL
FROM 'hf://datasets/Toshi33/azsh-uk-data/gdelt/daily/2026100*.parquet'
WHERE Lane = 'JP' AND Topic = 'military'
ORDER BY "Datetime" DESC LIMIT 50;

-- 法令: 最近 30 日の tier=1/2 規制シグナル
SELECT law_id, law_title, substantive_sector, target_jsic_code, rationale
FROM 'hf://datasets/Toshi33/azsh-uk-data/laws/laws_meta.parquet'
WHERE regulatory_tier <= 2 AND extracted_at::DATE >= current_date - INTERVAL 30 DAY
ORDER BY extracted_at DESC;

-- 信号: regulatory 圧力の推移 (法令 × ニュース × 市場 の横断判定)
SELECT ref_date, sector, metric, value
FROM 'hf://datasets/Toshi33/azsh-uk-data/signals/daily/*.parquet'
WHERE signal_type = 'regulatory' ORDER BY ref_date, sector;

-- GDELT 日次集約: 国×Topic のトーン推移 (hourly 粒度)
SELECT t1, c, tp, sum(n) AS n, sum(tone_sum) / sum(n) AS avg_tone
FROM 'hf://datasets/Toshi33/azsh-uk-data/gdelt/daily_agg/20261*.parquet'
WHERE ln = 'JP' AND tp = 'military' GROUP BY 1,2,3,4 ORDER BY t1 DESC LIMIT 24;

セクター × ニュースの横断分析: substantive_sector と GDELT Topic は別体系 (FINANCE_FINTECH→economy / ENERGY_RENEWABLE→energy / SEMICONDUCTOR→industry / DEFENSE_SECURITY→military) — sector_map/sector_map.parquet がこの対応の正規 glue 表 (実測 Topic 分布・JSIC 対応・basket 対応を含む)。 信号サービス側 (/data/laws/signals/latest.md → 本 dataset の signals/daily/) がこの対応を適用した判定結果を公開します。

他ツール: Python = huggingface_hub (hf_hub_download) / CLI = hf download Toshi33/azsh-uk-data。 resolve URL 直接: https://huggingface.co/datasets/Toshi33/azsh-uk-data/resolve/main/<path>。

スキーマ

laws_meta.parquet — 規制メタ (信号の中核)

列	型	説明
law_id	str	e-Gov 法令 ID (laws.parquet と結合)
law_title	str	題名
content_hash	str	本文ハッシュ (delta 検出・改正検出)
regulatory_tier	int	1=直接規制 / 2=間接影響 / 3=内部事務
substantive_sector	str	実質セクター (FINANCE_FINTECH / ENERGY_RENEWABLE / SEMICONDUCTOR / DEFENSE_SECURITY / NONE)
target_jsic_code	str	対象産業 JSIC 大分類 2 桁 (1〜91・91=行政・公共事務)
is_domestic_only	bool	国内限定か
rationale	str	LLM による根拠要約 (なぜこの tier / sector か)
model / extracted_at / attempts	—	抽出メタ情報

gdelt/daily/*.parquet — GDELT イベント (30 列)

GDELT Events (public domain) を正規化・フィルタした日本関連中心のイベント。主要列:

列	説明
GlobalEventID	イベント ID
EventCode / EventCodeDescription / EventRootCode / GoldsteinScale	CAMEO コード / 記述 / 根コード / Goldstein スコア (-10〜+10)
Actor1Name / Actor1CountryCode / Actor2Name / Actor2CountryCode	主体 (CountryCode は ISO alpha-3・NULL あり)
NumMentions / NumSources / NumArticles / AvgTone	言及・ソース・記事数 / 平均トーン (-100〜+100)
SourceLang / SourceCountry / ActionGeo_CountryCode / ActionGeo_Lat / ActionGeo_Long	ソース・行動地
DATEADDED / Datetime	フィード投入時刻 / イベント時刻 (15分粒度)
SOURCEURL / Page_Title	出典 URL / ページタイトル
Themes / Organizations / Persons / AllNames / V2Tone / Extras	GDELT V2 付加情報
Lane	フィード lane: main / JP (日本語) / TCK
Topic	セクター tag: military / economy / diplomacy / industry / energy / other

鮮度・カバレッジ: 日次ファイルは UTC 日付で確定 (前日 23:45 の 15分ファイルを含む)。 15分パイプラインの実着数は 75〜96%/日 (96 本が正規) — ファイル内行数・Datetime 分布でカバレッジを確認してください。 バックフィル 2025-09-01〜 完了 (2026-10-09 時点・403日)。R2 gdeltr2 pqt/ 15分 parquet (正本) を DuckDB 直読みで決定論再生成。

gdelt/daily_agg/{YYYYMMDD}.parquet — GDELT 日次集約 (~30KB/日・2025-09-01〜 現在・日次自動更新)

hourly × 国 × Topic × Lane × EventRoot の集約。gdelt/daily/ の全イベントを決定論 SQL で集約 (R2 pqt/ 直読み・同一ロジックで再実行可能)。

列	型	説明
t1	VARCHAR	'YYYY-MM-DD HH' (UTC hour)
c	VARCHAR	国 ISO2 (ActionGeo_CountryCode・欠損あり)
tp	VARCHAR	Topic (欠損 = 'other')
ln	VARCHAR	Lane (欠損 = 'main')
root	VARCHAR	EventRootCode (CAMEO 2桁)
n	BIGINT	イベント数
tone_sum	DOUBLE	SUM(AvgTone) — azsh.uk R2 rollups (/v1/query・anomaly・signals) と完全一致 (hourly 24件・全項目照合済)。V2Tone リスト平均ではない (両者は値が異なるため注意)
goldstein_sum	DOUBLE	SUM(GoldsteinScale)

sector_map/sector_map.parquet — 統一セクター語彙 glue 表 (FOCUS4 4行)

azsh.uk 分析軸の join glue: 法令 (substantive_sector/JSIC) ↔ ニュース (GDELT keyword/Topic) ↔ 市場 (basket)。

列	型	説明
sector	VARCHAR	FOCUS4 セクター (FINANCE_FINTECH / ENERGY_RENEWABLE / SEMICONDUCTOR / DEFENSE_SECURITY)
gdelt_title_regex	VARCHAR	title/AllNames/Themes 用キーワード regex (cross-pipeline/cameo_cross_match.py と同一)
gdelt_actor_patterns	VARCHAR	actor 名 regex (JSON 配列・METI 等は複数セクターで共有)
gdelt_topic_primary / gdelt_topics_share	VARCHAR	主要 Topic / 実測分布 (JSON・直近14日)
jsic_codes	VARCHAR	JSIC 中分類 2桁 (JSON 配列・GDELTcodebooks 突合済)
basket / basket_constituents / basket_as_of	—	対応 basket / 構成銘柄数 / 最終日
laws_tier2_total	BIGINT	対応 tier≤2 法令数 (LLM 判定 + JSIC fallback)
notes	VARCHAR	使用上の注意

可読版 + 使い方 SQL: sector_map/sector_map.md。決定論再生成: make_sector_map.py。

signals/daily/{YYYYMMDD}.parquet — 日次信号 (long-format・FOCUS4 × 7メトリック/日)

azsh.uk /data/laws/signals/latest.md の日次スナップショット (parquet 化)。long-format (ref_date × sector × signal_type × metric):

列	型	説明
ref_date	DATE	対象日 (UTC)
sector	VARCHAR	FOCUS4 セクター
signal_type	VARCHAR	regulatory (新発出 tier≤2 法令) / news (GDELT 量・CAMEO 意図) / cross (法令×ニュース横断フラグ) / market_context (basket 要約)
metric	VARCHAR	count_7d / event_count_24h / spike_ratio / is_spike / cameo_verbal / cameo_ease / cameo_tighten / cameo_consult / breadth_pos / ret_5d / vol_21d / constituents / flag
value	DOUBLE	値 (spike 閾値 = 6日平均比 3.0)
detail	VARCHAR	JSON (top titles / law_id / cameo root コード分布)

cross.value=1 の日はイベントスタディのイベント日として使用可能 (新発出 tier≤2 法令 + 同セクター ≥10 イベント)。

出典・ライセンス

• 法令データ: 日本 e-Gov API (政府公開データ・自由利用)
• GDELT: GDELT Project (public domain)
• laws_meta は LLM (gemma-4-E4B) による事前抽出 — 機械生成・要検証 (tier / sector は参考情報)
• 市場価格データは含まない (yfinance 利用規約のため)。signals/daily の market_context と sector_map の basket 列は派生要約値のみ (per-ticker 価格非掲載)。
• 本 dataset は azsh.uk シグナルサービスのアーカイブ用。派生利用は azsh.uk の利用規約に従う。

関連

• サービス: https://azsh.uk (llms.txt / /data/index.json / /data/laws/signals/latest.md)
• 設計書 (非公開): 信号検知・配信・分析軸は azsh.uk /data/laws/signals/* (当面の配信経路。/data/signals/* 専用エイリアスは提案中) と /data/ai/docs.md で提供予定