text stringlengths 0 193k | title stringlengths 1 132 | topic stringlengths 0 404 | article_url stringlengths 31 718 | website_url stringclasses 1
value | author stringclasses 1
value |
|---|---|---|---|---|---|
مقاله‌های برگزیده – مقالهٔ امروز
بیشتر… – پیشنهاد یک مقاله
امروز:، میلادی برابر هجری خورشیدی و (UTC)
→ روز قبل – روز بعد ←یادبودهای – یادبودهای بیشتر…
نگاره‌های برگزیدهٔ بیشتر
__ __ | صفحهٔ اصلی | https://fa.wikipedia.org/wiki/%D8%B5%D9%81%D8%AD%D9%87%D9%94_%D8%A7%D8%B5%D9%84%DB%8C | https://fa.wikipedia.org/ | ||
ویکی‌پدیا، یک دانشنامه برخط چندزبانه بر پایهٔ وب با محتوای آزاد و همکاری باز است که با همکاری داوطلب‌ها نوشته می‌شود و هر کسی که به اینترنت و وب دسترسی داشته باشد می‌تواند مقاله‌های آن را ببیند و ویرایش کند. نام ویکی‌پدیا از پیوند واژه «ویکی» (به معنی وبگاه مشارکتی) با «پدیا» (برگرفته از پسوند واژهٔ encyclopedia به معن... | ویکی‌پدیا | اختراع‌های آمریکایی | https://fa.wikipedia.org/wiki/%D9%88%DB%8C%DA%A9%DB%8C%E2%80%8C%D9%BE%D8%AF%DB%8C%D8%A7 | https://fa.wikipedia.org/ | |
سالنامه‌ها یا وقایع‌نامه‌ها (به انگلیسی: Annals، به، از ریشهٔ کلمهٔ به معنی "سال") سندی برای ثبت مختصر تاریخ بود که در آن وقایع سال به سال بر اساس گاهشماری مرتباً نوشته می‌شد، اگرچه این اصطلاح برای هر تاریخ مکتوبی می‌تواند استفاده شود.
محدوده ماهیت تمایزی بین سالنامه و تاریخ موضوعی وجود دارد که توسط رومیان باستان دسته... | سالنامه | آموزش | https://fa.wikipedia.org/wiki/%D8%B3%D8%A7%D9%84%D9%86%D8%A7%D9%85%D9%87 | https://fa.wikipedia.org/ | |
اِطّلاعات، اَزدایش در کوتاه‌ترین تعریف، «داده‌های پردازش‌شده» است. داده‌ها مواد خام بِالقوه معنی‌داری هستند که ما آن‌ها را در راستای شناخت و فهم هر مفهوم مادی یا غیرمادی، به واسطهٔ روش‌های پژوهشی، و با استفاده از ابزارهای شناختی به دست می‌آوریم. داده، یک شرح مقدماتی از یک پدیده، اتفاق، فعالیت یا تعاملات است که ثبت‌شده،... | اطلاعات | اطلاعات | https://fa.wikipedia.org/wiki/%D8%A7%D8%B7%D9%84%D8%A7%D8%B9%D8%A7%D8%AA | https://fa.wikipedia.org/ | |
محتوای آزاد یا اطلاعات آزاد یا محتوای باز هر اثر عملی، هنری یا آثار خلاقانه دیگر است که مطابق با تعریف آثار فرهنگی آزاد و تحت اجازه‌نامه‌ای منتشر شده باشند که محدودیت قانونی چشمگیری بر آزادی افراد در کاربرد، توزیع، تغییر و توزیع کارهای منتج‌شده از محتوا اعمال نکنند. این مفهوم، برگرفته از مفهوم نرم‌افزار آزاد و متن‌باز ... | محتوای آزاد | اجازه‌نامه‌های متن‌باز | https://fa.wikipedia.org/wiki/%D9%85%D8%AD%D8%AA%D9%88%D8%A7%DB%8C_%D8%A2%D8%B2%D8%A7%D8%AF | https://fa.wikipedia.org/ | |
ویکی به وبگاه‌هایی گفته می‌شود که به تمام بازدیدکننده‌هایش (حتی گاه، بدون نیاز به نام‌نویسی در تارنما)، اجازهٔ ویرایش، افزودن یا حذف نوشته‌ها را می‌دهد. معمولاً در ویکی‌ها متن‌ها با استفاده از یک زبان نشانه‌گذاری ساده نوشته می‌شوند و با کمک یک ویرایشگر متن غنی قابل ویرایش است.
به نرم‌افزارهای ویکی که پایهٔ چنین تارنما... | ویکی | ابرمتن | https://fa.wikipedia.org/wiki/%D9%88%DB%8C%DA%A9%DB%8C | https://fa.wikipedia.org/ | |
نرم‌افزارهای مشارکت‌گرا (Collaborative software) یا گروه‌افزار (Groupware) یا ابزار گروهی، نرم‌افزارهایی هستند که امکان انجام کارهای گروهی در یک زمینه ویژه یا زمینه‌های گوناگون را می‌دهند. | نرم‌افزارهای مشارکت‌گرا | نرم‌افزارهای مشارکت‌گرا | https://fa.wikipedia.org/wiki/%D9%86%D8%B1%D9%85%E2%80%8C%D8%A7%D9%81%D8%B2%D8%A7%D8%B1%D9%87%D8%A7%DB%8C_%D9%85%D8%B4%D8%A7%D8%B1%DA%A9%D8%AA%E2%80%8C%DA%AF%D8%B1%D8%A7 | https://fa.wikipedia.org/ | |
"ابومحمّدْ مُشرف‌الدینْ مُصلِح بن عبدالله بن مشرّف (بی(...TRUNCATED) | سعدی | اهالی ایران در سده ۱۳ (میلادی) | https://fa.wikipedia.org/wiki/%D8%B3%D8%B9%D8%AF%DB%8C | https://fa.wikipedia.org/ | |
"نورالدین عبدالرحمن بن نظام‌الدین احمد جامی (۲۳ شعبان (...TRUNCATED) | جامی | اهالی خراسان | https://fa.wikipedia.org/wiki/%D8%AC%D8%A7%D9%85%DB%8C | https://fa.wikipedia.org/ | |
"سِر آیزاک نیوتُن (؛ ۲۵ دسامبر ۱۶۴۲ – ۲۰ مارس ۱۷۲۶/۲۷) ری(...TRUNCATED) | آیزاک نیوتن | آیزاک نیوتن | https://fa.wikipedia.org/wiki/%D8%A2%DB%8C%D8%B2%D8%A7%DA%A9_%D9%86%DB%8C%D9%88%D8%AA%D9%86 | https://fa.wikipedia.org/ |
Persian Pretraining Dataset — Full Persian Wikipedia (Clean Edition 2)
معرفی
این دیتاست شامل تمام مقالات فارسی ویکی‌پدیا به‌صورت متن پاک‌سازی‌شده و آماده برای پیش‌آموزش مدل‌های زبانی بزرگ (LLM) است. این نسخه (v3)، جایگزین کامل نسخه قبلی است که در راستی‌آزمایی کامل، نشانه‌گذاری‌های جاماندهٔ ویکی و نویسه‌های معیوب در آن یافت شد؛ تمام آن اشکال در این نسخه رفع و راستی‌آزمایی شده و حتی یک مقاله هم حذف نشده است.
آمار کلیدی (راستی‌آزمایی‌شده با اسکن ۱۰۰٪ کل رکوردها)
| شاخص | مقدار |
|---|---|
| تعداد رکورد (مقاله) | ۱,۰۶۸,۴۹۱ (دقیقاً برابر نسخه قبل — صفر حذف) |
| حجم کل (UTF-8) | 2,242,189,295 بایت (~۲.۲۴ گیگابایت) |
| تعداد فایل JSONL | ۴۶ فایل (هر کدام ≤ ۵۰,۰۰۰,۰۰۰ بایت) |
| نسخه فشرده | persian_pretraining_dataset_full.zip (~۵۳۶ مگابایت) |
| منبع | دمپ رسمی ویکی‌مدیا (۲۰۲۶-۱۰-۰۱)، تمام فضای‌نام ۰ |
| خطای JSON / فیلد / انکودینگ | ۰ |
| نشانه‌گذاری ویکی باقی‌مانده | ۰ (اسکن کامل: ''، [[File:]]، [[پرونده:]]، {}، <ref>، == و…) |
ساختار هر رکورد (دقیقاً ۶ فیلد)
{
"text": "متن پاک‌سازی‌شده کامل مقاله",
"title": "عنوان دقیق مقاله",
"topic": "نام ردهٔ اصلی مقاله",
"article_url": "https://fa.wikipedia.org/wiki/...",
"website_url": "https://fa.wikipedia.org/",
"author": ""
}
فیلد author برای همه رکوردها خالی است؛ مقالات ویکی‌پدیا به‌صورت مشارکتی نوشته می‌شوند و طبق سیاست منع جعل، نام نویسنده‌ای ساخته نمی‌شود.
چه چیزهایی در v3 نسبت به نسخه قبلی اصلاح شد؟
- حذف کامل نشانه‌گذاری ایتالیک/بولد ویکی (
''…'') — از ۱۴۸,۱۰۰ رکورد (۱.۸ میلیون مورد) - حذف کامل لینک‌های تصویر (
[[File:…]]،[[پرونده:…]]و همه اشکال، حتی چندخطی و ناقص) — از ۵۲,۷۶۱ رکورد - حذف لینک‌های رده، بین‌ویکی، الگوها و بازمانده‌های
<ref> - پاکسازی موجیبیک (نویسه‌های دوبار انکودشدهٔ جامانده از قالب‌های ارجاع) در ۸ رکورد — با محافظت اسامی اروپایی معتبر (Müller-Ötvös و مشابه)
- تبدیل جداکننده‌های خام U+2028/U+2029 به خط جدید و حذف نویسه‌های نامعتبر (NEL و…) — اکنون حتی با خواننده‌های سادهٔ خطی هم فایل‌ها امن‌اند
- تبدیل نشانه‌گذاری ریاضی به یونیکد خوانا (
^{63}Cu→⁶³Cu) - حذف نویسهٔ جایگزین �، اصلاح فاصله‌گذاری علائم سجاوندی و «»، بهداشت نیم‌فاصله
- اصلاح ترتیب پردازش تا لینک‌های داخل ایتالیک (
''[[…]]'') هم کامل تبدیل شوند
جزئیات کامل در collection_report.json و error_report.json.
پردازش (خلاصه)
استخراج از دمپ multistream رسمی با ایندکس تصادفی ← پاکسازی کامل wikitext (الگوها، جدول‌ها، لینک‌ها، بخش‌های منابع/ارجاع/پیوند به بیرون) ← نرمال‌سازی فارسی (یکسان‌سازی ی/ک، بهداشت ZWNJ، اتصال «می» و «-ها»، اصلاح فاصله‌گذاری علائم) ← حذف تکراری چندسطحی ← اعتبارسنجی کامل ← تمیزکاری دومرحله‌ای v3 ← اسکن ۱۰۰٪ نهایی (صفر یافته)
فایل‌ها
persian_pretraining_articles_0001.jsonl…persian_pretraining_articles_0046.jsonl— داده اصلیpersian_pretraining_dataset_full.zip— نسخه فشرده همه فایل‌های بالاcollection_report.json— گزارش کامل (آمار، روش، اصلاحات v3، MD5 هر فایل)error_report.json— گزارش رخدادها و رکوردهای ترمیم‌شدهdataset_preview.png— پیش‌نمایش نمونه رکوردها
مجوز
متن ویکی‌پدیا تحت CC BY-SA 4.0 منتشر می‌شود. در صورت استفاده، ارجاع به ویکی‌پدیا فارسی و مجوز مذکور الزامی است.
English Summary
Complete text of all Persian Wikipedia articles (official Wikimedia dump of 2026-10-01), cleaned for LLM pretraining: 1,068,491 records / 2,242,189,295 bytes / 46 JSONL files (each ≤ 50 MB) + ZIP (~536 MB). Exactly 6 fields per record: text, title, topic, article_url, website_url, author (empty — no fabrication). v3 (Clean Edition 2) removes every residual wiki-markup artifact found by a 100% corpus audit: all ''italic'' runs (1.8M), all file/image links (incl. multi-line & unterminated forms), category/interwiki links, <ref> fragments, mojibake junk from mangled citation URLs (8 records, with European diacritic names protected), raw U+2028/U+2029 separators, replacement chars, and re-applies Persian spacing/ZWNJ hygiene. Zero records dropped — record count is identical to the previous version. Full-corpus validation: 0 JSON errors, 0 wrong keys, 0 duplicate URLs, 0 oversize files, 0 markup leftovers. Licensed CC BY-SA 4.0.
- Downloads last month
- 78