nassimjp/perfect-pashto-reasoning-sft

Perfect Pashto Reasoning SFT Dataset

د پښتو ژبې لپاره تر ټولو پاک او لوړ کیفیت لرونکی Reasoning Dataset

📌 الوتنه (Overview)

دا ډېټاسیټ د Magpie-Pro-300K-Filtered dataset پر بنسټ جوړ شوی دی چې د Pashto LLM او AI ټولنې لپاره په بشپړ ډول نوي سره انجنیر شوی او پروسس شوی دی.

ټول ډاټا په اتومي او لاین په لاین ډول ژباړل شوې او په لوړ کیفیت سره reformatted شوې ترڅو د alignment-handbook سره مستقیم مطابقت ولري. هدف یې د پښتو ژبې نوي نسل ماډلونو (لکه Rawan او Ghanam لړۍ) لپاره Supervised Fine-Tuning (SFT) او عمیق استدلال (Deep Reasoning / Chain-of-Thought) وړتیاو لوړول دي.

---

🛠️ د جوړولو پروسه (Creation Process)

دا ډېټاسیټ په لاندې ګامونو سره په احتیاط او انجنیري دقت سره جوړ شوی دی:

1. سرچینه انتخاب: د Magpie-Pro-300K-Filtered dataset غوره شوی چې په انګلیسي کې لوړ کیفیت لرونکي synthetic reasoning data لري.
2. اتومي ژباړه (Atomic Translation): هر Instruction او Output جفت په جلا توګه (line-by-line) ژباړل شوی ترڅو د انډیکس کږېدو او misalignment ستونزه صفر شي.
3. لوړ کیفیت فیلټر: د MD5 hashing په مرسته تکراري او کم کیفیت لرونکي نمونې لیرې شوي.
4. چنکنګ او تنظیم: اوږد ځوابونه په منطقي برخو وېشل شوي او بیا په روان او طبیعی ډول نښلول شوي.
5. پاکول او بډایه کول: د پښتو ژبې طبعي والي، نحوي درستۍ، او منطقي جریان په لاسي او اتومي ډول چک او اصلاح شوی.
6. Reformatting: ډاټا د Hugging Face alignment-handbook لپاره په بشپړ ډول مطابقت لرونکي جوړښت ته بدله شوې (له conversations او messages فارمټ څخه system, instruction, output ته).
7. Train/Test Split: ۹۰٪ Train (270K) او ۱۰٪ Test (30K) وېشل شوي.

---

🧹 د پاکوالي او پروسس ځانګړتیاوې

• بې ساري پاکول (Deduplication): د MD5 hashing په مرسته ټول تکراري ریکارډونه لیرې شوي.
• اتومي همغږي (Atomic Alignment): هر Instruction + Output جفت په جلا توګه پروسس شوی.
• هوشمند Chunking: اوږد متنونه په منطقي برخو وېشل شوي او بیا په روان ډول نښلول شوي.
• لوړ کیفیت کنټرول: ژباړه، طبعي والي او منطقي جریان په دقت سره چک شوی.

---

📊 Dataset Statistics

• Total Examples: 300,000
• Train Split (train_sft): 270,000 examples
• Test Split (test_sft): 30,000 examples
• Format: JSONL (compatible with Hugging Face Alignment Handbook)

---

📊 د ډېټاسیټ جوړښت

هر ریکارډ درې کیلي لري:

• system: د ماډل هویت او reasoning چوکاټ
• instruction: کارونکي پوښتنه یا دنده په پښتو
• output: په معیاري، روانه او لوړ کیفیت لرونکي پښتو کې منطقي ځواب

🧩 د نمونې ریکارډ

{
  "system": "تاسو یو هوښیار، ریښتینی او مرستندوی پښتو ژبی د ارادې او عمیق استدلال (Reasoning) ماډل یاست.",
  "instruction": "د ستورپوهنې د ساینس په اړه ځینې په زړه پورې حقایق څه دي؟",
  "output": "ستورپوهنه یوه په زړه پورې او پراسرار ساینسي برخه ده! ..."
}

---

🚀 د کارولو ساحې

• Supervised Fine-Tuning (SFT)
• Chain-of-Thought & Deep Reasoning
• Pashto Instruction Following
• Academic, Technical & Creative Writing
• Synthetic Data Generation

---

📄 Original Source & Modification

• Original Dataset: Magpie-Pro-300K-Filtered
• Modification: دا ډېټاسیټ د Pashto LLM ټولنې لپاره په بشپړ ډول نوي سره ژباړل شوی، پاک شوی او reformatted شوی دی.

---

📄 جواز او کارول

دا ډېټاسیټ د Apache-2.0 جواز لاندې خپور شوی دی. تاسو کولی شئ دا په سوداګریزو، اکاډمیکو او څېړنیزو پروژو کې په آزادۍ سره وکاروئ.

---