Datasets:

Reza2kn
/

persian-asr-text-2.69M-deduped

text stringlengths 11 3.09k	source stringclasses 19 values	cluster_id int64 0 499	dist_to_centroid float64 -0 0.66	nn_sim float64 0.42 1
آقا اگه شما مدیر عاملی هستی که بقات اوکیه جا داره به این فکر کنی که خب آقا	MohammadGholizadeh/Tabaghe16_dataset_persian	202	0.361612	0.635294
حالا من هر سال سه برابرم نشم من میگم نمی تونی به این فکر کنی چون	MohammadGholizadeh/Tabaghe16_dataset_persian	451	0.297014	0.666354
واقعاً شرایط ایران اینطوریه که باید سه چهار پنج شش سال جلوتو جنگ کنی	MohammadGholizadeh/Tabaghe16_dataset_persian	220	0.273199	0.70955
چون سال دیگه ممکنه جنگ بشه تأثیری تو این نداره که الان پروداکتمو	MohammadGholizadeh/Tabaghe16_dataset_persian	124	0.332443	0.681482
بهتر کنم یا برم تف مال یه چیزی بیارم بالا جنگ بشه چه تف مال چه متعالیش میفته	MohammadGholizadeh/Tabaghe16_dataset_persian	115	0.280994	0.999734
تجربه که تو داشتی تو این مدت توی یکتانت و توی دیجیکالا فکر می کنی اگر چطوری بود	MohammadGholizadeh/Tabaghe16_dataset_persian	359	0.309928	0.722647
بهتر می بود و فکر می کنی چه جاهایی اشتباه بود چه کارایی درست بود	MohammadGholizadeh/Tabaghe16_dataset_persian	24	0.287775	0.875252
دیجیکالا می دونی چه مسئله های فنی ی داره که میشه از روش Paper نوشت چون داره تو اون	MohammadGholizadeh/Tabaghe16_dataset_persian	374	0.410259	0.783832
Scale کار می کنه خب باید واردش بشی نمی تونی اینطوری نگاه کنی من یه چیزی به	MohammadGholizadeh/Tabaghe16_dataset_persian	435	0.315495	0.655254
تو میدم ۳ ماهه قول میدی به من یه جوری این System بسازی که من دیگه بتونم هر	MohammadGholizadeh/Tabaghe16_dataset_persian	298	0.39236	0.773884
هفته Feature بزنم اصلاً نگاهت غلطه به خاطر اینکه به این نتیجه رسیده که آقا	MohammadGholizadeh/Tabaghe16_dataset_persian	377	0.374348	0.77425
من اصلاً تو رو بخوام درکت بکنم سودآور نیست من تو رو درکت کردم ولی نمی تونم با	MohammadGholizadeh/Tabaghe16_dataset_persian	290	0.377879	0.698261
تو این طوری Communicate کنم من باید بیام ۱۰ دقیقه به تو بگم آقا اینی که تو میگی	MohammadGholizadeh/Tabaghe16_dataset_persian	118	0.321827	0.851498
فهمیدم شنیدم تصمیمم چیز دیگریست شرکتو تو باید فعالانه آری از Politics ولش کنی	MohammadGholizadeh/Tabaghe16_dataset_persian	246	0.337606	0.677535
میره طرف این که هر مدیری می خواد واسه تیم خودش Optimize کنه نه واسه کل سازمان	MohammadGholizadeh/Tabaghe16_dataset_persian	287	0.432874	0.962573
تو ایران هنوز تو داری برا بقا می جنگی خیلی Mindset برای بقا جنگیدن با مایندست	MohammadGholizadeh/Tabaghe16_dataset_persian	393	0.3377	0.840699
برای Optimize کردن متفاوته و من توش بودم که دارم اینو میگم	MohammadGholizadeh/Tabaghe16_dataset_persian	290	0.331734	0.633987
نقش Product Manager مدیر محصول یکی از پر اصطکاک ترین سطوح سازمانه که در بهترین	MohammadGholizadeh/Tabaghe16_dataset_persian	350	0.509665	0.661564
حالت نتیجهش میشه کندی ما رفتیم Company محصول درست کردیم ولی	MohammadGholizadeh/Tabaghe16_dataset_persian	377	0.347454	0.628394
اتفاقاً چیزی که نداریم محصولسازه تفاوت موقعی که محصول بالاتر از Business یا	MohammadGholizadeh/Tabaghe16_dataset_persian	383	0.374144	0.712681
Business بالاتر از محصوله اینجاست سؤال اینه که آدما می دونستن چه اتفاقی	MohammadGholizadeh/Tabaghe16_dataset_persian	264	0.369283	0.728762
داره تو اون شرکت میفته و همچنان توش بودن یا نه	MohammadGholizadeh/Tabaghe16_dataset_persian	243	0.291417	0.699916
آخه تو اون شرکت داره چه اتفاقی میفته بذار الان بهش می رسم که تو اون شرکت داره	MohammadGholizadeh/Tabaghe16_dataset_persian	268	0.284443	0.859819
چه اتفاقی میفته ببین تو دنیای فیلترینگ	MohammadGholizadeh/Tabaghe16_dataset_persian	166	0.316422	0.705342
آب پوشیدنی چیزی لازم ن من اینجا چای سر خودم	MohammadGholizadeh/Tabaghe16_dataset_persian	266	0.281196	0.745754
چایی با خودت آوردی یعنی من همیشه همرامه	MohammadGholizadeh/Tabaghe16_dataset_persian	266	0.309055	0.706714
از آها اونجوری فکر کردم مثلاً یعنی Tea Bag آوردی با خودت	MohammadGholizadeh/Tabaghe16_dataset_persian	417	0.328568	0.657221
نه ما کپسول ما یه بار تو همون Ontario تو قطار	MohammadGholizadeh/Tabaghe16_dataset_persian	453	0.519789	0.588446
کپسول گاز روشن کردیم بعد برای اینکه ما رو زندانی نکنن چون خیلی کار خطر	MohammadGholizadeh/Tabaghe16_dataset_persian	75	0.37513	0.6132
می خواستیم چایی درست حواس چایی کرده بودیم	MohammadGholizadeh/Tabaghe16_dataset_persian	73	0.319174	0.709448
یکی رفت اینور آره اون خیلی فله دیگه داداش	MohammadGholizadeh/Tabaghe16_dataset_persian	182	0.375131	0.651246
نه در اون حد نه این Mug همراه چطوری خوبی	MohammadGholizadeh/Tabaghe16_dataset_persian	159	0.379933	0.658955
شکر خدا خودت چطوری چقدر BetterMode هنوز کارت	MohammadGholizadeh/Tabaghe16_dataset_persian	369	0.338724	0.670386
من آره من هنوز کارم BetterMode البته الان تقریباً از زمانی که من رفتم دبی که یه سه	MohammadGholizadeh/Tabaghe16_dataset_persian	177	0.383155	0.650254
چ ماه پیش بود تا الان من دیگه تو Day to day توی BetterMode اومدم بیرون که حالا راجعش صحبت	MohammadGholizadeh/Tabaghe16_dataset_persian	86	0.294498	0.70495
می کنیم ولی ولی خیلی خوشحالم دارم باهات صحبت	MohammadGholizadeh/Tabaghe16_dataset_persian	86	0.283152	0.845897
می کنم که دانش من فکر کنم ما دقیقاً پارسال صحبت کردیم با هم یه سال دقیقاً	MohammadGholizadeh/Tabaghe16_dataset_persian	86	0.339928	0.673817
الان گذشته حالا الان اگه December اون موقع October بود یکم بیشتر از نه ببین ما	MohammadGholizadeh/Tabaghe16_dataset_persian	200	0.462984	0.576331
پارسال تو اینو می دونی من چرا یادمه تو فاصله بین وعده صادق یک و وعده صادق ۲	MohammadGholizadeh/Tabaghe16_dataset_persian	216	0.434946	0.642559
صحبت کردیم بعد تو گذاشتی صحبتمونو بعد از وعده صادق ۲ منتشر کردی بعد توش من یه	MohammadGholizadeh/Tabaghe16_dataset_persian	276	0.371613	0.632116
اشاره ای کرده بودم به این قضیه موشک و اینا و مثلاً الان ایرانیا خیلی بی خیالن	MohammadGholizadeh/Tabaghe16_dataset_persian	81	0.347903	0.694452
اد همزمانم شده بود با وعده صادق ۲ که خیلی جدی تر بود بعد همه می گفتن این	MohammadGholizadeh/Tabaghe16_dataset_persian	276	0.333839	0.632116
مثلاً روش اسکی رفته بودن و این ارزشیا گفته بودن این چون نمی دونم ما خیلی قوی	MohammadGholizadeh/Tabaghe16_dataset_persian	153	0.427032	0.619406
این خیالش انقدر راحته اون یکی خیلی داستان شد برای من تو اینستاگرام پر شده	MohammadGholizadeh/Tabaghe16_dataset_persian	488	0.330901	0.658289
بود اون تیکه کلیپی که درباره موشکها حرف می زدم	MohammadGholizadeh/Tabaghe16_dataset_persian	150	0.388116	0.646971
داداش این چه Bookmark Time تو تو ذهنته وعده صادقه یک وعده صادقه د من اصلاً روزا	MohammadGholizadeh/Tabaghe16_dataset_persian	228	0.38374	0.585478
اینطوری تو ذهنم نیست ولی آره بعد پادکستی که من و تو با هم ضبط کردیم یادمه که خب	MohammadGholizadeh/Tabaghe16_dataset_persian	345	0.324782	0.679263
من بچه ها وقتی مثلاً تو تیم من و اینا کمک می کنن مثلاً مخصوصاً اون موقع که	MohammadGholizadeh/Tabaghe16_dataset_persian	200	0.400204	0.682826
هنوز اولین بار بود داشتم با صحبت می کردم نمیشناختمت و اینا خب من با آدمای مختلف	MohammadGholizadeh/Tabaghe16_dataset_persian	86	0.274483	0.784231
میام صحبت می کنم تقریباًم چون کارای مثلاً سیاسی اونطوری نمیکنه	MohammadGholizadeh/Tabaghe16_dataset_persian	246	0.328596	0.702954
مثلاً اینجوری نیست که یه مهمونی بیاد که ممکنه خیلی داستان دارد باشه که بعد از	MohammadGholizadeh/Tabaghe16_dataset_persian	164	0.389306	0.63626
اینکه من با تو صحبت کردم و پادکست ضبط شد تو توییتر و اینا این داستانا این بود که	MohammadGholizadeh/Tabaghe16_dataset_persian	345	0.33991	0.712033
آقا چرا راجع به فیلترینگ با کیانوش صحبت نکردی چرا راجع به Sahapardaz صحبت نکردی	MohammadGholizadeh/Tabaghe16_dataset_persian	86	0.396391	0.721456
بعد من با پیمان که اون موقع کمکم می کرد مهمونا رو مثلاً هماهنگ می کردیم و اینا	MohammadGholizadeh/Tabaghe16_dataset_persian	407	0.360488	0.617254
گفتم آقا اینا چی میگن من اصلاً خبر ندارم بعداً من از تو کامنتها فهمیدم که	MohammadGholizadeh/Tabaghe16_dataset_persian	74	0.377244	0.672126
تو مثلی که تو یه شرکتی بودی که کار فیلترینگ می کرد به Sahapardaz و از این	MohammadGholizadeh/Tabaghe16_dataset_persian	243	0.368692	0.591092
داستانا و منم واقعاً بی خبر بودم حالا درسته که یه وظیفه ای بر دوش من هست که	MohammadGholizadeh/Tabaghe16_dataset_persian	384	0.349772	0.666326
برم بگردم ولی خب من که ژورنالیست چیز نیستم بخوام برم بخوام یکیو مثلاً بیارم	MohammadGholizadeh/Tabaghe16_dataset_persian	231	0.404368	0.680923
این وسط مثلاً براش مچشو بگیرم و از این داستانا رو بکنم منم بعداً فهمیدم	MohammadGholizadeh/Tabaghe16_dataset_persian	6	0.290826	0.688758
و حالا اصلاً من دوست دارم امروزم دربار	MohammadGholizadeh/Tabaghe16_dataset_persian	28	0.3339	0.725259
شرکتی که کارش فیلترینگ بود نه شرکتی که پروژه فیلترینگ هم تو اون برهه انجام میده	MohammadGholizadeh/Tabaghe16_dataset_persian	218	0.281142	0.666843
دوست دارم امروز هم درباره اون صحبت بکنیم ولی حالا چون مسائل مهم تری داریم	MohammadGholizadeh/Tabaghe16_dataset_persian	86	0.278793	0.750236
احتمالاً به اونا برسیم تهش بذاریم درباره همین مسائل توییتری و اینا صحبت کنیم	MohammadGholizadeh/Tabaghe16_dataset_persian	390	0.311317	0.733549
حتماً حتماً حالا من چیزی که یادمه آخرین بار تو	MohammadGholizadeh/Tabaghe16_dataset_persian	429	0.402956	0.701027
اینور توی هم توی امریکا هم تو کانادا با Google کار می کردی با شرکت های بزرگ کار	MohammadGholizadeh/Tabaghe16_dataset_persian	299	0.455619	0.602323
کرده بودی و علاقه داشتی و دوست داشتی برگردی ایران و اون موقع که من با تو صحبت	MohammadGholizadeh/Tabaghe16_dataset_persian	81	0.329724	0.715179
کردم فکر می کنم تو اون بازی زمانی تو CTO Yektanet بودی و بعدش مثل که رفتی	MohammadGholizadeh/Tabaghe16_dataset_persian	451	0.339784	0.646732
Digikala و اون موقع تو اون بازی زمانی خب خیلی	MohammadGholizadeh/Tabaghe16_dataset_persian	200	0.46454	0.669631
خوشحال بودی دیگه اینطوری بودی که آقا من برگشتم ایران و به هر حال خانواده برام	MohammadGholizadeh/Tabaghe16_dataset_persian	158	0.295411	0.745417
خیلی مهمه خیلی معیارای دیگه ای برام مهمه همه چی که کار و نمی دونم اینا نیست	MohammadGholizadeh/Tabaghe16_dataset_persian	44	0.30184	0.717372
و خب خیلی دوست دارم ببینم الان بعد یه سال چه احساسی داری	MohammadGholizadeh/Tabaghe16_dataset_persian	311	0.314754	0.710846
آره من CTO Yektanet بودم و همزمان مشاور CTO Digikala بودم بعدش نبود	MohammadGholizadeh/Tabaghe16_dataset_persian	17	0.53964	0.691718
اتفاقاً زودتر از پایان Yektanet دیجیکالا تموم شد یک تان نت رو	MohammadGholizadeh/Tabaghe16_dataset_persian	112	0.461638	0.66117
پای تقریباً از اسفند اینا دیگه صحبتها رو شروع کردیم که جدا بشیم پایان اردیبهشت	MohammadGholizadeh/Tabaghe16_dataset_persian	86	0.269516	0.720846
من از یک تانه جدا شدم یعنی از اول خرداد آزادم تا الان یعنی دارم یه جورایی کیف	MohammadGholizadeh/Tabaghe16_dataset_persian	256	0.361037	0.631436
اضطرا اولش فکر می کردم که چیز میشم خسته میشم هی به خودم می گفتم حواست باشه مثلاً	MohammadGholizadeh/Tabaghe16_dataset_persian	371	0.314751	0.722538
خر نشی زود برگردی سر کار حداقل به خودت دو سه ماه Break بده آخه یه بکگراندی هم	MohammadGholizadeh/Tabaghe16_dataset_persian	228	0.332954	0.645069
داشت حالا علاوه بر اختلاف نظر تو Yektanet و اینا این بود که یه دکترمم به من گفت که	MohammadGholizadeh/Tabaghe16_dataset_persian	65	0.344171	0.686084
یه کمی فاصله بگیر از هرجور فشار شاری هست چون گوارشم یهکم به هم ریخته بود گفتم آره	MohammadGholizadeh/Tabaghe16_dataset_persian	241	0.386035	0.625425
بذار یه دو سه ماه فاصله بگیرم اون یک یه یه ماه یکی دو ماه اولش خیلی تنم می خارید	MohammadGholizadeh/Tabaghe16_dataset_persian	228	0.344128	0.72826
که برگردم سر کار ولی الان دیگه اینطوری شده که نمی خوام یعنی اگه نیاز مالی و	MohammadGholizadeh/Tabaghe16_dataset_persian	177	0.385718	0.645982
اینا نبود دوست داشتم همین الان بازنشسته بشم خیلی خوش گذشته	MohammadGholizadeh/Tabaghe16_dataset_persian	310	0.296172	0.727343
ولی خب کار می کنم الان من کار مشاوره ای انجام میدم اینجور نیست که حالا کامل از	MohammadGholizadeh/Tabaghe16_dataset_persian	435	0.331648	0.671001
جیپ بخورم ولی خب اونجوری سر کار نمیرم دیگه خب کلاً تجربت چطور بود اصلاً از این	MohammadGholizadeh/Tabaghe16_dataset_persian	128	0.395351	0.594579
تصمیم برگشته الان بعد از گذشته این مدت چطور میتونی بررسیش بکنی به به هر حال که	MohammadGholizadeh/Tabaghe16_dataset_persian	489	0.319708	0.697484
من خودم چیزایی رو اینجا از دست دادم که الان خیلی	MohammadGholizadeh/Tabaghe16_dataset_persian	73	0.327141	0.746265
به سرعت منتظرم که بهش دوباره برسم مثل خانواده مثل مادرم مثل خواهرم مثل کشورم	MohammadGholizadeh/Tabaghe16_dataset_persian	306	0.304952	0.670911
توش بودن و این داستانا ولی خب من هیچوقت خودمو به عنوان یک مهاجرت کرده نمی بینم	MohammadGholizadeh/Tabaghe16_dataset_persian	132	0.350433	0.65217
می دونی دیگه انقدر دنیا کوچیک شده و سفر می کنی و هر جا بخوای بری حالا می پری با	MohammadGholizadeh/Tabaghe16_dataset_persian	140	0.287465	0.692744
هواپیما میری و جمع و جور می کنی و سرویسا هستن و نمی دونم خیلی به هر حال نسبتاً	MohammadGholizadeh/Tabaghe16_dataset_persian	132	0.411048	0.726145
راحت شده یعنی به نظر من این مغز انسانه که این قضیه رو چقدر برای خودش گنده و	MohammadGholizadeh/Tabaghe16_dataset_persian	463	0.349644	0.644511
بزرگ می کنه چون من دوستایی اینجا دارم که خیلی مثلاً براشون حرکت کردن و تکون خوردن	MohammadGholizadeh/Tabaghe16_dataset_persian	357	0.326992	0.681609
و اینا کار عجیب غریب سختیه می دونی ولی خب من خودمو یه مقداری البته سبک ترم نگه	MohammadGholizadeh/Tabaghe16_dataset_persian	177	0.34971	0.668633
داشتم نسبت به بقیه دیگه یعنی خیلی Commitment عجیب غریبی نسبت به مکان و جا و	MohammadGholizadeh/Tabaghe16_dataset_persian	134	0.482083	0.595613
اینا فعلاً در حال حاضر ندارم یعنی هنوز من یه من خودم اینطوریم که من توی Asaluyeh	MohammadGholizadeh/Tabaghe16_dataset_persian	266	0.34753	0.64269
تو کانادا میدونی اینجا اینجا محل کاره و اومدیم فعلاً کار کنیم و پول داریم و تکفه	MohammadGholizadeh/Tabaghe16_dataset_persian	177	0.351409	0.696264
معلوم بشه و بعداً حالا تصمیم می گیریم که چیکار می خوایم بکنیم ولی در مجموع آره	MohammadGholizadeh/Tabaghe16_dataset_persian	435	0.254441	0.793788
منم خودم هنوز جای اصلیمو انتخاب نکردم یعنی که از من پرسیدی که گفتی الان BetterMode	MohammadGholizadeh/Tabaghe16_dataset_persian	266	0.314768	0.707303
چیکار داری می کنی خب من خیلی وقته که مثلا از روز اولی که پام رسید به کانادا	MohammadGholizadeh/Tabaghe16_dataset_persian	50	0.399118	0.712355
همون سال ۲۰۶ من خیلی حال نکردم اینجا می دونی و	MohammadGholizadeh/Tabaghe16_dataset_persian	95	0.39771	0.658913

End of preview. Expand in Data Studio

🗂️ persian-asr-text-2.69M-deduped

English + فارسی · Part of Shenava 1.0 · Project hub · SLT paper submission

🌟 At a glance | معرفی سریع

	English	فارسی
🎯 Purpose	Deduplicated Persian ASR text dataset used by the training stack.	پیکرهٔ متنی فارسیِ حذف‌تکرارشده برای ساخت واژگان، مدل‌سازی زبانی و پشتیبانی از آموزش ASR.
🧩 Role	Persian text and linguistic asset	مصنوع متنی و زبانی فارسی
📦 Snapshot	4 files; approximately 109.64 MB	4 فایل؛ حدود 109.64 MB
🧱 Packaging	1 Parquet files and 0 standalone audio files	1 فایل Parquet و 0 فایل صوتی مستقل
🗣️ Language	Persian / Farsi	فارسی
⚖️ License	Apache License 2.0	مجوز Apache 2.0

🇬🇧 English dataset card

🧭 Dataset description

Deduplicated Persian ASR text dataset used by the training stack. It is published as one component of the Shenava-1 open Persian speech stack. The collection separates training corpora, relabels, active-learning queues, calibration sets, and held-out evaluation assets so that each repository has a clear operational role.

This card documents the repository snapshot rather than claiming that every file is an interchangeable training example. Consumers must distinguish raw media, manifests, pipeline state, labels, benchmark outputs, and model-generated annotations. Preserve source identifiers and consult retained technical notes for artifact-specific fields.

🎯 Intended uses

Reproduce the specific Shenava/VisualEars pipeline stage named by this repository.
Train, filter, calibrate, review, or evaluate Persian speech systems according to the role above.
Study Persian ASR data quality, acoustic conditions, text normalization, hard words, and semantic error behavior.
Build documented derivatives while retaining source revision, row identifiers, provenance, and transformation logs.

🚫 Uses to avoid

Do not merge evaluation or gold sets into training data.
Do not assume machine-generated labels are equivalent to human-verified ground truth.
Do not use uncertain, non-Persian, raw, or calibration queues as clean training data without applying their review decision.
Do not use speech content to infer sensitive personal attributes or to identify speakers.
Do not publish private information found in audio or transcripts; downstream users remain responsible for privacy review.

📁 Repository structure

Audited snapshot: 4 files, approximately 109.64 MB. Common file groups: no extension × 2, .md × 1, .parquet × 1.

Representative or largest paths:

data/data.parquet

Parquet repositories should be read by shard. Audio-folder repositories may require their metadata/manifests to pair media with labels. Pipeline-state and result repositories can contain JSON, JSONL, CSV, or checkpoint artifacts rather than a conventional train table.

🚀 Loading and inspection

from datasets import load_dataset

repo_id = "Reza2kn/persian-asr-text-2.69M-deduped"
dataset = load_dataset(repo_id, split="train", streaming=True)
first = next(iter(dataset))
print(first.keys())

If the repository is an artifact archive rather than a directly loadable dataset script, use snapshot_download(repo_id=repo_id, repo_type="dataset") and read its manifests or media files explicitly. Always inspect features, split names, and the card revision before launching a long job.

For audio, confirm the decoded sampling rate and channel count rather than trusting filename extensions. For text, preserve Persian Unicode, ZWNJ/half-space, digits, and original text before applying a normalized view. Never overwrite the source transcript during normalization.

🧬 Provenance and processing

The repository name and collection note define its stage in the Shenava pipeline. Derived labels, confidence signals, curriculum decisions, and quality buckets should be treated as versioned annotations. When creating a derivative, record the source repository revision, selection rule, normalization version, model revision used for pseudo-labeling, and human-review status.

✅ Quality checks

At minimum, validate file readability, unique/stable identifiers, audio duration, transcript emptiness, language, sampling rate, clipping, duplicated content, and manifest/media correspondence. For evaluation data, verify that reference text and sample membership have not changed. For generated labels, manually inspect stratified samples across confidence, duration, source, and acoustic condition.

⚠️ Biases and limitations

The data may unevenly represent accents, regions, ages, genders, speaking styles, recording devices, noise conditions, and formal versus conversational Persian. Filtering can improve average label quality while removing difficult but important speakers. Pseudo-labels inherit model errors. Literary recitation, telephony, far-field audio, and spontaneous speech are distinct domains and should not be treated as interchangeable.

🇮🇷 کارت مجموعه‌داده به فارسی

🧭 معرفی مجموعه‌داده

پیکرهٔ متنی فارسیِ حذف‌تکرارشده برای ساخت واژگان، مدل‌سازی زبانی و پشتیبانی از آموزش ASR. این مخزن بخشی از زنجیرهٔ باز و فارسی‌محور Shenava-1 است. مجموعه، پیکرهٔ آموزش، بازبرچسب‌گذاری، صف یادگیری فعال، دادهٔ کالیبراسیون و معیارهای نگه‌داشته‌شده را جدا می‌کند تا نقش هر مخزن روشن بماند.

این کارت وضعیت یک نسخهٔ مشخص از مخزن را توضیح می‌دهد و ادعا نمی‌کند که همهٔ فایل‌ها نمونهٔ آموزشی هم‌نوع هستند. رسانهٔ خام، manifest، وضعیت خط لوله، برچسب، خروجی بنچمارک و annotation تولیدشده با مدل باید بر اساس نقش واقعی خود مصرف شوند.

🎯 کاربردهای پیشنهادی

بازتولید همان مرحله از خط لولهٔ Shenava/VisualEars که در نام و توضیح مخزن آمده است.
آموزش، پالایش، کالیبراسیون، بازبینی یا ارزیابی سامانهٔ گفتار فارسی متناسب با نقش داده.
مطالعهٔ کیفیت داده، شرایط صوتی، نرمال‌سازی متن، واژه‌های دشوار و خطاهای معنایی.
ساخت مشتق مستند همراه با حفظ نسخهٔ مبدأ، شناسهٔ ردیف، منشأ و گزارش تبدیل.

🚫 کاربردهای نامناسب

دادهٔ ارزیابی یا طلایی را وارد آموزش نکنید.
برچسب تولیدشده با مدل را بدون بازبینی معادل حقیقت انسانی ندانید.
صف نامطمئن، غیرفارسی، خام یا کالیبراسیون را پیش از اعمال تصمیم بازبینی، دادهٔ پاک فرض نکنید.
از محتوا برای شناسایی گوینده یا استنباط ویژگی حساس استفاده نکنید.
اطلاعات خصوصی احتمالی در صوت یا متن را بازنشر نکنید و ارزیابی حریم خصوصی را انجام دهید.

📁 ساختار مخزن

نسخهٔ ممیزی‌شده شامل 4 فایل با حجم تقریبی 109.64 MB است. گروه‌های رایج فایل: no extension × 2, .md × 1, .parquet × 1.

مسیرهای شاخص یا بزرگ:

data/data.parquet

مخزن Parquet را به‌صورت شاردی بخوانید. در مخزن audio-folder، manifest یا فراداده برای اتصال صوت و برچسب لازم است. مخزن وضعیت خط لوله یا نتایج ممکن است به‌جای جدول train شامل JSON، JSONL، CSV یا چک‌پوینت باشد.

🚀 بارگذاری و بررسی

در بارگذاری با datasets ابتدا نام split و features را بررسی کنید. اگر مخزن آرشیو مصنوع است، با snapshot_download فایل‌های لازم را انتخابی دریافت کنید. نرخ نمونه‌برداری و تعداد کانال را پس از decode تأیید کنید. در متن، نسخهٔ اصلی فارسی، نیم‌فاصله و رقم‌ها را نگه دارید و نمای نرمال‌شده را در ستونی جدا بسازید.

🧬 منشأ و پردازش

نام مخزن و توضیح مجموعه، جایگاه داده را در خط لوله مشخص می‌کند. برچسب مشتق، confidence، تصمیم curriculum و سطل کیفیت را annotation نسخه‌دار بدانید. در ساخت مشتق، revision مبدأ، قاعدهٔ انتخاب، نسخهٔ نرمال‌سازی، مدل تولیدکنندهٔ pseudo-label و وضعیت بازبینی انسانی را ثبت کنید.

✅ کنترل کیفیت

خوانایی فایل، یکتایی شناسه، مدت صوت، متن خالی، زبان، نرخ نمونه، clipping، تکرار محتوا و تطابق manifest با رسانه را بررسی کنید. در دادهٔ ارزیابی، ثابت‌بودن اعضا و متن مرجع ضروری است. برای برچسب ماشینی، نمونه‌گیری لایه‌بندی‌شده بر اساس confidence، مدت، منشأ و شرایط صوتی انجام دهید.

⚠️ سوگیری‌ها و محدودیت‌ها

ممکن است لهجه، منطقه، سن، جنسیت، سبک گفتار، دستگاه ضبط، نویز و گفتار رسمی/محاوره‌ای به‌طور نامتوازن پوشش داده شوند. پالایش شدید می‌تواند میانگین کیفیت را بالا ببرد ولی گویندگان دشوار و مهم را حذف کند. pseudo-label خطای مدل را به ارث می‌برد و حوزه‌هایی مانند شعرخوانی، تلفن، دورمیدان و گفتار خودانگیخته قابل جایگزینی با یکدیگر نیستند.

🔬 Reproducibility | بازتولیدپذیری

Pin the dataset revision and record selected files or shards. | نسخهٔ مخزن و شاردهای انتخابی را ثبت کنید.
Keep immutable IDs and provenance columns. | شناسهٔ پایدار و ستون منشأ را حفظ کنید.
Publish accepted/rejected counts for every filter. | شمارش پذیرش و رد هر فیلتر را منتشر کنید.
Separate original, normalized, and model-generated text. | متن اصلی، نرمال‌شده و تولیدشده با مدل را جدا نگه دارید.
Audit train/eval overlap by content, speaker when available, and source. | هم‌پوشانی آموزش و ارزیابی را بر اساس محتوا، گویندهٔ موجود و منشأ بررسی کنید.

📚 Citation, links, and license | استناد، پیوندها و مجوز

@dataset{shenava1_persian_asr_text_2_69m_deduped,
  title  = {persian-asr-text-2.69M-deduped: a Shenava-1 Persian data artifact},
  author = {Reza2kn},
  year   = {2026},
  url    = {https://huggingface.co/datasets/Reza2kn/persian-asr-text-2.69M-deduped}
}

Released under the Apache License 2.0. این مخزن با مجوز Apache 2.0 منتشر شده است.

📎 Retained technical notes | یادداشت‌های فنی پیشین

The pre-existing technical card is retained below for revision-specific commands, measurements, and artifact details. The bilingual sections above define the common Shenava-1 documentation contract.

یادداشت فنی قبلی برای فرمان‌ها، اندازه‌گیری‌ها و جزئیات همان نسخه در ادامه حفظ شده است. بخش‌های دوزبانهٔ بالا قرارداد مستندسازی مشترک Shenava-1 را تعریف می‌کنند.

Persian ASR Text — Aggregated & Deduplicated (~2.69 M rows)

Text-only aggregation of 19 Persian audio-dataset transcripts on Hugging Face, deduplicated with Qwen3-Embedding-0.6B cosine ≥ 0.92.

Pipeline

Pulled transcripts (text columns / CSV manifests / SQLite data.db / .txt members of .tar.gz) from 22 Persian audio datasets covering Common Voice, FLEURS, filimo, YouTube ASR, podcasts, ganjoor poetry, TTS corpora, etc.
Normalized: NFKC + ZWNJ→space + ي→ی / ك→ک + punctuation strip.
Embedded with Qwen/Qwen3-Embedding-0.6B (last-token pooling, L2-normalized) — actually computed via drawais/Qwen3-Embedding-0.6B-AWQ-INT4 quant on 8× V100.
FAISS Flat IP (exact, sharded across 8 V100s): each row's nearest neighbour; marked as duplicate if cosine ≥ 0.92.
Mini-batch k-means (k=500) for distribution analysis.
Dropped:
- facebook/2M-Belebele (turned out to be multilingual passages, not Persian)
- MohammadGholizadeh/filimo-farsi and PerSets/filimo-persian-asr (redundant copies of MohammadGholizadeh/filimo-farsi-raw)
- Shortest 187,782 rows (single-word fragments and interjections like آآآی, ای جان)
Final: 2,690,000 rows.

Fields

field	type	desc
text	string	normalized Persian transcript
source	string	originating HF dataset repo id
cluster_id	int32	0–499 from mini-batch k-means (semantic cluster)
dist_to_centroid	float	cosine distance to assigned cluster's centroid
nn_sim	float	cosine similarity to nearest-neighbour row (for traceability)

Per-source row counts

source	rows
farsi-asr/farsi-asr-dataset	392,692
farsi-asr/ganjoor-chunked-asr-dataset	351,887
PerSets/youtube-persian-asr	350,558
MohammadGholizadeh/filimo-farsi-raw	331,262
Reza2kn/Common-Voice-25-Persian-Raw	282,692
MohammadGholizadeh/bplus_podcast_persian	192,346
srezas/farsi_voice_dataset	164,223
farsi-asr/farsi-youtube-asr-dataset	161,657
MohammadGholizadeh/Tabaghe16_dataset_persian	155,909
MohammadGholizadeh/youtube-farsi	140,397
MohammadGholizadeh/kouman_dataset_persian	66,267
pourmand1376/asr-farsi-youtube-chunked-30-seconds	33,014
MohammadGholizadeh/movarekhpodcast_dataset_persian	25,512
Thomcles/YodaLingua-Farsi	23,257
pymmdrza/persian-pro-tts	7,813
MohammadGholizadeh/fleurs-farsi-full	3,964
MohammadGholizadeh/channelbpodcast_dataset_persian	2,926
aliyzd95/modified_shemo	2,773
MohammadGholizadeh/costumer-service-persian-1	851

Caveats

Text-only — audio files are NOT here. Use the source field to fetch audio.
Heavy register skew: ~25 % filimo movie dialogue + ~30 % YouTube/podcast + ~10 % ganjoor classical poetry. News, formal broadcast, technical/educational Persian, and dialects (Tajik / Dari) are under-represented.
Duplicates were defined as cosine sim ≥ 0.92 to nearest neighbour after embedding by Qwen3-Embedding-0.6B. This catches paraphrases too aggressively for some downstream tasks — re-run dedup at a higher threshold if you need near-exact duplicates only.

License

This compiled dataset artifact is released under the Apache License 2.0. Source attribution and provenance are retained in the dataset metadata.

Downloads last month: 53

Collection including Reza2kn/persian-asr-text-2.69M-deduped

Shenava 1.0: Open Streaming Persian ASR and Captioning

Collection

Public Shenava 1.0 release: Persian ASR models, Phase A/B datasets, AL corrections, eval artifacts, and demos. • 60 items • Updated Jul 8 • 6