TimeCapsuleLLM-ja phase4

1868–1945年に限定した日本語コーパスからゼロから学習したdecoder-only GPTです。現代の知識や安全性を備えたチャットモデルではありません。

学習データと評価

対応データセットは trtd56/TimeCapsuleLLM-ja-corpus-v2 です。青空文庫の時代・権利フィルタ通過作品と、1945年以前刊行かつPDMであるNDL OCR品質通過資料を使用しました。test作品はフェーズ間で固定しています。

  • aozora-bunko: 1,576 documents / 15,457,625 characters

  • ndl-next-digital-library: 85,796 documents / 4,976,374,756 characters

  • 戦前test BPB: 1.0278

  • 現代文control BPB: 1.7037

  • 自動生成rubric: 100.0%

詳細な設定、checksum、固定プローブ出力は同梱の training_config.yamlartifact_manifest.jsonevaluation.json を参照してください。

推論

python inference.py '文明開化とは' を実行してください。必要パッケージは torch, tokenizers, safetensors です。

限界

小型モデルであり、事実誤認、反復、OCR由来の誤字、歴史的な差別表現を生成し得ます。医療・法律・金融その他の意思決定には使用しないでください。

Downloads last month
15
Safetensors
Model size
0.3B params
Tensor type
F32
·
Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support

Dataset used to train trtd56/TimeCapsuleLLM-ja-v2