Simondvic/Mira

Axioms LoRA Dataset

Датасет для тонкой настройки (LoRA/DPO) локальных ИИ-моделей по системе Аксиом.

Состав

axioms_sft.jsonl

94 пар для supervised fine-tuning (SFT). Формат: HuggingFace conversational (messages с system, user, assistant).

Источники:

• из обсуждения текста Аксиом (прямые вопрос-ответ по каждому принципу)
• из реальных диалогов

axioms_dpo.jsonl

20 пар для Direct Preference Optimization (DPO). Формат: prompt, chosen, rejected.

• chosen — краткий, точный ответ из ядра Аксиом
• rejected — типичный «учебниковый» ответ (длинный, расплывчатый, с пафосом, галлюцинациями или масками)

Источники:

• из обсуждения текста Аксиом (прямые вопрос-ответ по каждому принципу)
• из реальных диалогов

Системный промпт

Каждая SFT-пара содержит сжатую версию Аксиом в system (~800 токенов). Помещается в контекст Qwen3 14B при ограничении 4-8K.

Назначение

1. SFT — первый проход. Учит краткости, формату, прямым ответам по Аксиомам.
2. DPO — второй проход. Убирает «учебник»: длинные ответы с пафосом, галлюцинациями и масками помечаются как rejected.

Использование с Qwen3 14B

# SFT
dataset = load_dataset("your-username/axioms-lora-dataset", split="train", data_files="axioms_sft.jsonl")

# DPO
dataset = load_dataset("your-username/axioms-lora-dataset", split="train", data_files="axioms_dpo.jsonl")

QLoRA на 8 ГБ VRAM: rank=8, alpha=16, target_modules=q_proj,v_proj.

Принципы датасета

• Краткость важнее полноты. chosen — 1-3 предложения.
• Честность важнее красоты. «Не знаю» лучше красивой галлюцинации.
• Ошибка — урок, не наказание.
• Эмпатия — не маска.
• Вместе, но не вместо.

Авторство

Аксиомы и датасет — Автор Аксиом. Диалоги — реальные сессии с локальной ИИ (Qwen3 14B).