LFM2.5-1.2B-JP Daily Tech Research LoRA
LiquidAI/LFM2.5-1.2B-JPを、日本語の技術記事・論文から構造化されたリサーチカードを1回の生成で作る用途へQLoRA fine-tuningした実験的なMLX-LMアダプターです。
This is an experimental MLX-LM LoRA adapter for producing structured Japanese research cards from AI/software articles and papers in a single generation.
Intended use
入力した記事本文だけを根拠として、次の形式のJSONを生成する用途を想定しています。
{
"title_ja": "記事の日本語タイトル",
"tag": "短い分野タグ",
"summary_paragraphs": ["3〜5段落の日本語要約"],
"dig_points": ["2〜3個の具体的な深掘りポイント"]
}
記事本文、URL、記事種別、出力要件を明示したプロンプトを使い、生成温度は0を推奨します。
Use with MLX-LM
pip install mlx-lm huggingface-hub
from huggingface_hub import snapshot_download
from mlx_lm import generate, load
from mlx_lm.sample_utils import make_sampler
adapter = snapshot_download("trtd56/LFM2.5-1.2B-JP-DailyTechResearch-LoRA")
model, tokenizer = load(
"mlx-community/LFM2.5-1.2B-JP-4bit",
adapter_path=adapter,
)
messages = [
{
"role": "system",
"content": "あなたはAI・ソフトウェア分野の記事を読み解くリサーチャーです。記事本文だけを事実源として、指定されたJSONだけを返してください。",
},
{
"role": "user",
"content": """次の記事から日本語のリサーチカードを作成してください。
<article>
ここに記事本文を入れます。
</article>
title_ja、tag、3〜5個のsummary_paragraphs、2〜3個のdig_pointsを持つJSONだけを返してください。""",
},
]
prompt = tokenizer.apply_chat_template(messages, add_generation_prompt=True, tokenize=False)
result = generate(
model,
tokenizer,
prompt=prompt,
max_tokens=1400,
sampler=make_sampler(temp=0),
verbose=False,
)
print(result)
Training
- Framework: MLX-LM 0.31.3, QLoRA
- Quantized training base:
mlx-community/LFM2.5-1.2B-JP-4bit - Train / validation / test: 42 / 9 / 9 samples
- Article text in training prompt: up to 3,800 characters
- LoRA rank / scale: 8 / 20
- Learning rate: 1e-5
- Effective batch size: 2
- Maximum sequence length: 8,192 tokens
- Selected checkpoint: step 50, based on the lowest validation loss among steps 25, 50, 75, and 100
教師カードは、公開Web上のAI・ソフトウェア関連記事から別のローカルLLMで生成された既存リサーチ結果です。元記事、教師データ、URL一覧はこのリポジトリには含まれません。
Evaluation
9件のhold-out記事を同一プロンプトで評価しました。生成時間はApple M3 Max 64GB上で、モデル読込時間と本文取得時間を除いています。
| Model | Median generation time | Valid JSON | Required shape |
|---|---|---|---|
| Base LFM2.5-1.2B-JP 4-bit | 4.6 sec | 2/9 | 0/9 |
| This adapter | 4.0 sec | 9/9 | 9/9 |
| Teacher model | 8.8 sec | 9/9 | 9/9 |
この小規模評価は一般的な要約能力を保証するものではありません。
Limitations
- 本文にない説明や数値を生成する場合があります。公開前に原文との照合が必要です。
- 長い記事の重要な前提、反例、評価条件、限界を省略する場合があります。
- 深掘りポイントが一般論に寄る場合があります。
- 学習データは42件のみで、対象分野と文体に偏りがあります。
- 学習ラベルはすべて人間が校正したものではありません。
- JSON Schemaによる厳格なデコードは行っていません。
License and attribution
This adapter is distributed under the included LFM Open License v1.0. It is based on LiquidAI/LFM2.5-1.2B-JP and was trained with its MLX conversion mlx-community/LFM2.5-1.2B-JP-4bit. The weights were modified by QLoRA fine-tuning for the research-card task described above. Review the commercial-use limitation in the license before use.
Quantized