Datasets:
Tasks:
Text Generation
Modalities:
Text
Formats:
parquet
Languages:
Bodo (India)
Size:
100K - 1M
License:
Update README.md
Browse files
README.md
CHANGED
@@ -49,3 +49,33 @@ print(test['text'][:5])
|
|
49 |
'बे बिथांखिखौ फिन फोथांफिन्नो सरकारआ बे समाव गोनांथार राहा लादों ।', 'जायनि थाखाय बे बिथांखिनि मुडाव आसाम सरकारआ गासै 1000 कौटि रां बाहायगोन ।',
|
50 |
'बे बिथांखिनि सिङाव राइज्योनि सा 2 लाख सेंग्रा - सिख्ला लाइमोनफोरनो नोगोद 50 रोजा रां होनायनि हाबाफारि लादों ।']
|
51 |
```
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
49 |
'बे बिथांखिखौ फिन फोथांफिन्नो सरकारआ बे समाव गोनांथार राहा लादों ।', 'जायनि थाखाय बे बिथांखिनि मुडाव आसाम सरकारआ गासै 1000 कौटि रां बाहायगोन ।',
|
50 |
'बे बिथांखिनि सिङाव राइज्योनि सा 2 लाख सेंग्रा - सिख्ला लाइमोनफोरनो नोगोद 50 रोजा रां होनायनि हाबाफारि लादों ।']
|
51 |
```
|
52 |
+
|
53 |
+
# Use with training scripts
|
54 |
+
In order to use this dataset along with other models you can use as the following
|
55 |
+
|
56 |
+
```
|
57 |
+
# cd transformers/examples/pytorch/language-modelling
|
58 |
+
python run_mlm.py \
|
59 |
+
--output_dir="./bodo-roberta-base" \
|
60 |
+
--model_type="roberta" \
|
61 |
+
--do_train \
|
62 |
+
--do_eval \
|
63 |
+
--config_name="alayaran/bodo-roberta-base" \
|
64 |
+
--tokenizer_name="alayaran/bodo-roberta-base" \
|
65 |
+
--dataset_name="alayaran/bodo-monolingual-dataset" \ # <--- This is the dataset
|
66 |
+
--max_seq_length="128" \
|
67 |
+
--weight_decay="0.01" \
|
68 |
+
--per_device_train_batch_size="128" \
|
69 |
+
--per_device_eval_batch_size="128" \
|
70 |
+
--learning_rate="3e-4" \
|
71 |
+
--warmup_steps="1000" \
|
72 |
+
--overwrite_output_dir \
|
73 |
+
--num_train_epochs="18" \
|
74 |
+
--adam_beta1="0.9" \
|
75 |
+
--adam_beta2="0.98" \
|
76 |
+
--logging_steps="500" \
|
77 |
+
--save_steps="2500" \
|
78 |
+
--eval_steps="2500" \
|
79 |
+
--push_to_hub
|
80 |
+
|
81 |
+
```
|