Upload folder using huggingface_hub

README.md

@@ -1,26 +1,13 @@
 ---
+license: mit
+base_model: UmarRamzan/w2v2-bert-urdu
 tags:
 - generated_from_trainer
-datasets:
-- common_voice_17_0
 metrics:
 - wer
 model-index:
 - name: w2v2-bert-urdu
-  results:
-  - task:
-      name: Automatic Speech Recognition
-      type: automatic-speech-recognition
-    dataset:
-      name: common_voice_17_0
-      type: common_voice_17_0
-      config: ur
-      split: test[:100]
-      args: ur
-    metrics:
-    - name: Wer
-      type: wer
-      value: 0.2502732240437158
+  results: []
 ---
 
 <!-- This model card has been generated automatically according to the information the Trainer had access to. You
@@ -28,10 +15,10 @@ should probably proofread and complete it, then remove this comment. -->
 
 # w2v2-bert-urdu
 
-This model was trained from scratch on the common_voice_17_0 dataset.
+This model is a fine-tuned version of [UmarRamzan/w2v2-bert-urdu](https://huggingface.co/UmarRamzan/w2v2-bert-urdu) on an unknown dataset.
 It achieves the following results on the evaluation set:
-- Loss: 0.4246
-- Wer: 0.2502
+- Loss: 0.3681
+- Wer: 0.2929
 
 ## Model description
 
@@ -59,24 +46,18 @@ The following hyperparameters were used during training:
 - optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
 - lr_scheduler_type: linear
 - lr_scheduler_warmup_steps: 100
-- num_epochs: 2
+- num_epochs: 1
 - mixed_precision_training: Native AMP
 
 ### Training results
 
 | Training Loss | Epoch  | Step | Validation Loss | Wer    |
 |:-------------:|:------:|:----:|:---------------:|:------:|
-| 0.8145        | 0.1695 | 50   | 0.4620          | 0.3421 |
-| 0.4364        | 0.3390 | 100  | 0.3969          | 0.2874 |
-| 0.418         | 0.5085 | 150  | 0.3697          | 0.2820 |
-| 0.402         | 0.6780 | 200  | 0.3627          | 0.2842 |
-| 0.3698        | 0.8475 | 250  | 0.3314          | 0.2710 |
-| 0.3779        | 1.0169 | 300  | 0.3292          | 0.2852 |
-| 0.3167        | 1.1864 | 350  | 0.3230          | 0.2820 |
-| 0.3578        | 1.3559 | 400  | 0.3825          | 0.2940 |
-| 0.4189        | 1.5254 | 450  | 0.4225          | 0.3104 |
-| 0.4803        | 1.6949 | 500  | 0.4248          | 0.3311 |
-| 0.4612        | 1.8644 | 550  | 0.4246          | 0.3301 |
+| 0.4362        | 0.1695 | 50   | 0.4144          | 0.3213 |
+| 0.3776        | 0.3390 | 100  | 0.4029          | 0.3137 |
+| 0.3918        | 0.5085 | 150  | 0.4095          | 0.3060 |
+| 0.3968        | 0.6780 | 200  | 0.3961          | 0.3060 |
+| 0.3685        | 0.8475 | 250  | 0.3681          | 0.2929 |
 
 
 ### Framework versions

added_tokens.json

@@ -1,4 +1,4 @@
 {
-  "</s>": 64,
-  "<s>": 63
+  "</s>": 48,
+  "<s>": 47
 }

alphabet.json

@@ -1 +1 @@
-{"labels": [" ", "\u0623", "\u0624", "\u0626", "\u0627", "\u0628", "\u062a", "\u062b", "\u062c", "\u062d", "\u062e", "\u062f", "\u0630", "\u0631", "\u0632", "\u0633", "\u0634", "\u0635", "\u0636", "\u0637", "\u0638", "\u0639", "\u063a", "\u0641", "\u0642", "\u0643", "\u0644", "\u0645", "\u0646", "\u0647", "\u0648", "\u064a", "\u0679", "\u067e", "\u0686", "\u0688", "\u0691", "\u0698", "\u06a9", "\u06af", "\u06ba", "\u06be", "\u06c1", "\u06c2", "\u06c3", "\u06cc", "\u06d2", "\u06d3", "\ufb68", "\ufbad", "\ufbaf", "\ufbfe", "\ufdf2", "\ufdfa", "\ufe85", "\ufe97", "\ufe98", "\ufea9", "\ufeb2", "\ufee7", "\ufeee", "\u2047", "", "<s>", "</s>"], "is_bpe": false}
+{"labels": [" ", "\u0623", "\u0624", "\u0626", "\u0627", "\u0628", "\u062a", "\u062b", "\u062c", "\u062d", "\u062e", "\u062f", "\u0630", "\u0631", "\u0632", "\u0633", "\u0634", "\u0635", "\u0636", "\u0637", "\u0638", "\u0639", "\u063a", "\u0641", "\u0642", "\u0644", "\u0645", "\u0646", "\u0648", "\u0679", "\u067e", "\u0686", "\u0688", "\u0691", "\u0698", "\u06a9", "\u06af", "\u06ba", "\u06be", "\u06c1", "\u06c2", "\u06c3", "\u06cc", "\u06d2", "\u06d3", "\u2047", "", "<s>", "</s>"], "is_bpe": false}

config.json

@@ -1,5 +1,5 @@
 {
-  "_name_or_path": "w2v2-bert-urdu",
+  "_name_or_path": "UmarRamzan/w2v2-bert-urdu",
   "activation_dropout": 0.0,
   "adapter_act": "relu",
   "adapter_kernel_size": 3,
@@ -47,7 +47,7 @@
   "num_hidden_layers": 24,
   "num_negatives": 100,
   "output_hidden_size": 1024,
-  "pad_token_id": 62,
+  "pad_token_id": 46,
   "position_embeddings_type": "relative_key",
   "proj_codevector_dim": 768,
   "right_max_position_embeddings": 8,
@@ -77,6 +77,6 @@
   "transformers_version": "4.40.2",
   "use_intermediate_ffn_before_adapter": false,
   "use_weighted_layer_sum": false,
-  "vocab_size": 65,
+  "vocab_size": 49,
   "xvector_output_dim": 512
 }

language_model/5gram.bin

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:1e5454facbffe62a26c6781b6b779953e12aad7815b5eb3b03bdd7082f17181a
-size 6366106
+oid sha256:2124926db0c62d63b3b1c5d20d7f2365c7c6a547cfdf1d3cf6755bc5e9033eea
+size 6363255

language_model/unigrams.txt

@@ -10,6 +10,7 @@ wafa
 ؤجاؤ
 ئرلینڈ
 ئرلینڈمتوقع
+ئرن
 ئل
 ئلینڈ
 ئلینڈز
@@ -34,29 +35,24 @@ wafa
 ئے
 ا
 ائرلینڈ
-ائرن
 ائل
-ائن
 ائندہ
 ائی
 ائیر
 ائیرپورٹ
 ائیسویں
-ائیں
 ائے
+االلہ
 اانسان
 اب
 اباد
 ابادمیںیوم
-ابادنیو
-ابادی
 ابتدا
 ابتدائی
 ابد
 ابر
 ابراھیم
 ابراہیم
-ابروئے
 ابستر
 ابصار
 ابلاغ
@@ -94,7 +90,6 @@ wafa
 اتھارٹی
 اتھارٹیز
 اتی
-اتے
 اثاثہ
 اثاثے
 اثبات
@@ -236,8 +231,6 @@ wafa
 اروبا
 ارڈرز
 ارڑان
-ارہی
-ارہے
 اری
 اریٹیریا
 ارے
@@ -437,7 +430,6 @@ wafa
 اغاز
 اغیار
 اف
-افتاب
 افتتاح
 افتخار
 افراتفریح
@@ -536,7 +528,6 @@ wafa
 الفت
 الفیل
 القادری
-الله
 اللہ
 الم
 المبارک
@@ -548,7 +539,6 @@ wafa
 النجوم
 الو
 الواقع
-الود
 الوداع
 الوطنی
 الوقت
@@ -586,7 +576,6 @@ wafa
 امراض
 امرالہی
 امرتسر
-امريکا
 امریکا
 امریکہ
 امریکی
@@ -737,7 +726,6 @@ wafa
 انکشاف
 انکم
 انکو
-انکھ
 انکھوں
 انکھیں
 انکی
@@ -892,10 +880,6 @@ wafa
 اوکھے
 اوگرا
 اویس
-ايجاد
-ايسے
-ايشيا
-اينڈرائيڈ
 اٹ
 اٹالو
 اٹالین
@@ -937,7 +921,6 @@ wafa
 اپر
 اپریشن
 اپریل
-اپس
 اپلائنسز
 اپلے
 اپن
@@ -962,7 +945,6 @@ wafa
 اچھی
 اچھے
 اڈہ
-اڈیشنزمیں
 اڑ
 اڑا
 اڑانے
@@ -982,7 +964,6 @@ wafa
 اکثریت
 اکجا
 اکرم
-اکسائیڈ
 اکسایا
 اکستان
 اکشے
@@ -1006,7 +987,6 @@ wafa
 اگائے
 اگاتے
 اگانے
-اگاہ
 اگر
 اگرغیر
 اگرچہ
@@ -1095,6 +1075,7 @@ wafa
 اینٹلیجنس
 اینٹی
 اینڈ
+اینڈرائیڈ
 اینڈرسن
 اینکر
 اینیمیٹیڈ
@@ -1141,7 +1122,6 @@ wafa
 ایکڑبحریہ
 ایگزیکٹو
 اے
-اﷲ
 ب
 با
 بائبل
@@ -1167,6 +1147,7 @@ wafa
 بادبان
 بادشاہ
 بادل
+بادنیو
 بادہ
 بادۂ
 بادی
@@ -1220,7 +1201,7 @@ wafa
 باغات
 باغبانی
 باغی
-بافيا
+بافیا
 باقاعدگی
 باقاعدہ
 باقی
@@ -2404,7 +2385,6 @@ wafa
 جایے
 جاے
 جاۓ
-جاﺅ
 جب
 جبر
 جبری
@@ -3344,6 +3324,7 @@ wafa
 دھک
 دھکا
 دھیان
+دھے
 دھےگھنٹے
 دہ
 دہائی
@@ -3552,7 +3533,6 @@ wafa
 رسنل
 رسوائی
 رسول
-رسولﷺ
 رسی
 رسیدہ
 رسیوں
@@ -3894,7 +3874,6 @@ wafa
 زون
 زونز
 زونگ
-زينت
 زپر
 زڈیسک
 زڈیسکپورا
@@ -3917,6 +3896,7 @@ wafa
 زیرو
 زیریں
 زینب
+زینت
 زیورات
 زیورخ
 زیڈ
@@ -5572,10 +5552,6 @@ wafa
 قیمتی
 قیمتیں
 قیو
-كرنے
-كو
-كوعطیہ
-كے
 ل
 لؤ
 لئیے
@@ -5682,8 +5658,8 @@ wafa
 لفظوں
 لفظیات
 لقب
-لله
 للکار
+للہ
 لمبی
 لمبے
 لمحات
@@ -5704,6 +5680,7 @@ wafa
 لواحقین
 لواری
 لوح
+لود
 لودگی
 لودھی
 لودہ
@@ -5973,6 +5950,7 @@ wafa
 مایوس
 مایوسی
 مایہ
+مب
 مباحث
 مبادل
 مبادلہ
@@ -5987,7 +5965,6 @@ wafa
 مبہم
 مبہوت
 مبینہ
-مبﷺ
 مت
 متاثر
 متاثرہ
@@ -6047,10 +6024,10 @@ wafa
 مجموعہ
 مجموعی
 مجنوں
-مجهے
 مجھ
 مجھے
 مجھےلگتا
+مجہے
 مجیب
 مجید
 مجیدکامفہوم
@@ -6678,8 +6655,6 @@ wafa
 موڈ
 موڈرچ
 موڑ
-ميٹر
-ميں
 مٹا
 مٹانے
 مٹھائی
@@ -7370,7 +7345,6 @@ wafa
 ووٹنگ
 ووڈ
 وویمن
-ويئر
 وٹ
 وٹامن
 وٹو
@@ -7389,6 +7363,7 @@ wafa
 وہی
 وہیں
 وی
+ویئر
 ویب
 ویبسائٹ
 ویتنام
@@ -7504,7 +7479,6 @@ wafa
 ٹوک
 ٹوکیو
 ٹویٹ
-ٹيکنالوجی
 ٹپ
 ٹپکتا
 ٹک
@@ -7531,6 +7505,7 @@ wafa
 ٹھنڈی
 ٹھنڈے
 ٹھوس
+ٹھونس
 ٹھکانہ
 ٹھکانے
 ٹھگنی
@@ -7893,11 +7868,11 @@ wafa
 پٹھوں
 پٹے
 پچاس
-پچيس
 پچھاڑدیا
 پچھتاوا
 پچھلی
 پچھلے
+پچیس
 پڑ
 پڑا
 پڑاو
@@ -8120,7 +8095,6 @@ wafa
 پیکج
 پیہم
 پے
-پﷺ
 چ
 چاؤ
 چائنہ
@@ -8255,7 +8229,6 @@ wafa
 چوک
 چوں
 چوہدری
-چينی
 چپ
 چڑ
 چڑا
@@ -8461,9 +8434,9 @@ wafa
 ڈور
 ڈوس
 ڈومنیکا
-ڈومينيکن
 ڈومیلینڈ
 ڈومین
+ڈومینیکن
 ڈونلڈ
 ڈوپ
 ڈوڈل
@@ -8517,6 +8490,7 @@ wafa
 ڈیسکا
 ڈیسکبرطانیہ
 ڈیسکگوگل
+ڈیشنزمیں
 ڈیل
 ڈیلن
 ڈیلپوٹرو
@@ -9000,6 +8974,7 @@ wafa
 کوشش
 کوششوں
 کوششیں
+کوعطیہ
 کول
 کولاراڈو
 کولر
@@ -9039,7 +9014,6 @@ wafa
 کویت
 کویتی
 کویٹکوسکی
-کيا
 کٹ
 کٹاکانا
 کٹس
@@ -9799,7 +9773,6 @@ wafa
 ہوہے
 ہوے
 ہوۓ
-ہيں
 ہٹ
 ہٹا
 ہٹانا
@@ -9952,6 +9925,3 @@ wafa
 یے
 ے
 ۓ
-ﭨﮭﻮﻧﺲ
-ﺗﮭﮯ
-ﺩﯾﺘﮯ

model.safetensors

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:17747e10300fac022a134b42d307ebdfd5b00ee0b2b350da2fd17ec67ff66fab
-size 2423081060
+oid sha256:b84f6a62596d999a4c9cb8f813aa5cd259ef737cbe422a7031a40d81f225095e
+size 2423015460

runs/May13_11-47-53_46d74bf08513/events.out.tfevents.1715601028.46d74bf08513.381.0

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:b902b3ddffd8d82c93f612f465e4f4d8d6fdd1cf28b655b4e5ae1d7e82c54ae3
+size 12090

runs/May13_12-54-01_46d74bf08513/events.out.tfevents.1715604999.46d74bf08513.381.1

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:1d689a4f6b7fe90d995042c28483b1ad7fc0cd3490ad1059b7d414f275103756
+size 8921

runs/May13_13-36-09_46d74bf08513/events.out.tfevents.1715607526.46d74bf08513.381.2

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:c43f1c451d00cf42a553b8bef8d2153ecdadbc7d39836ed18830a647804f73a2
+size 8921

tokenizer_config.json

@@ -1,6 +1,6 @@
 {
   "added_tokens_decoder": {
-    "61": {
+    "45": {
       "content": "[UNK]",
       "lstrip": true,
       "normalized": false,
@@ -8,7 +8,7 @@
       "single_word": false,
       "special": false
     },
-    "62": {
+    "46": {
       "content": "[PAD]",
       "lstrip": true,
       "normalized": false,
@@ -16,7 +16,7 @@
       "single_word": false,
       "special": false
     },
-    "63": {
+    "47": {
       "content": "<s>",
       "lstrip": false,
       "normalized": false,
@@ -24,7 +24,7 @@
       "single_word": false,
       "special": true
     },
-    "64": {
+    "48": {
       "content": "</s>",
       "lstrip": false,
       "normalized": false,

training_args.bin

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:9a14a5c3359637bb1b3e9fd4d16f8e63f99e460411687da64ccb77020ddd1d84
+oid sha256:abb49419e4927f07be4606193f5306a381e0aa131c3565a6ed2a790470c4cabc
 size 4984

vocab.json

@@ -1,6 +1,6 @@
 {
-  "[PAD]": 62,
-  "[UNK]": 61,
+  "[PAD]": 46,
+  "[UNK]": 45,
   "|": 0,
   "أ": 1,
   "ؤ": 2,
@@ -26,40 +26,24 @@
   "غ": 22,
   "ف": 23,
   "ق": 24,
-  "ك": 25,
-  "ل": 26,
-  "م": 27,
-  "ن": 28,
-  "ه": 29,
-  "و": 30,
-  "ي": 31,
-  "ٹ": 32,
-  "پ": 33,
-  "چ": 34,
-  "ڈ": 35,
-  "ڑ": 36,
-  "ژ": 37,
-  "ک": 38,
-  "گ": 39,
-  "ں": 40,
-  "ھ": 41,
-  "ہ": 42,
-  "ۂ": 43,
-  "ۃ": 44,
-  "ی": 45,
-  "ے": 46,
-  "ۓ": 47,
-  "ﭨ": 48,
-  "ﮭ": 49,
-  "ﮯ": 50,
-  "ﯾ": 51,
-  "ﷲ": 52,
-  "ﷺ": 53,
-  "ﺅ": 54,
-  "ﺗ": 55,
-  "ﺘ": 56,
-  "ﺩ": 57,
-  "ﺲ": 58,
-  "ﻧ": 59,
-  "ﻮ": 60
+  "ل": 25,
+  "م": 26,
+  "ن": 27,
+  "و": 28,
+  "ٹ": 29,
+  "پ": 30,
+  "چ": 31,
+  "ڈ": 32,
+  "ڑ": 33,
+  "ژ": 34,
+  "ک": 35,
+  "گ": 36,
+  "ں": 37,
+  "ھ": 38,
+  "ہ": 39,
+  "ۂ": 40,
+  "ۃ": 41,
+  "ی": 42,
+  "ے": 43,
+  "ۓ": 44
 }