alayaran commited on
Commit
ac6d670
1 Parent(s): bb75cac

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +30 -0
README.md CHANGED
@@ -49,3 +49,33 @@ print(test['text'][:5])
49
  'बे बिथांखिखौ फिन फोथांफिन्नो सरकारआ बे समाव गोनांथार राहा लादों ।', 'जायनि थाखाय बे बिथांखिनि मुडाव आसाम सरकारआ गासै 1000 कौटि रां बाहायगोन ।',
50
  'बे बिथांखिनि सिङाव राइज्योनि सा 2 लाख सेंग्रा - सिख्ला लाइमोनफोरनो नोगोद 50 रोजा रां होनायनि हाबाफारि लादों ।']
51
  ```
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
49
  'बे बिथांखिखौ फिन फोथांफिन्नो सरकारआ बे समाव गोनांथार राहा लादों ।', 'जायनि थाखाय बे बिथांखिनि मुडाव आसाम सरकारआ गासै 1000 कौटि रां बाहायगोन ।',
50
  'बे बिथांखिनि सिङाव राइज्योनि सा 2 लाख सेंग्रा - सिख्ला लाइमोनफोरनो नोगोद 50 रोजा रां होनायनि हाबाफारि लादों ।']
51
  ```
52
+
53
+ # Use with training scripts
54
+ In order to use this dataset along with other models you can use as the following
55
+
56
+ ```
57
+ # cd transformers/examples/pytorch/language-modelling
58
+ python run_mlm.py \
59
+ --output_dir="./bodo-roberta-base" \
60
+ --model_type="roberta" \
61
+ --do_train \
62
+ --do_eval \
63
+ --config_name="alayaran/bodo-roberta-base" \
64
+ --tokenizer_name="alayaran/bodo-roberta-base" \
65
+ --dataset_name="alayaran/bodo-monolingual-dataset" \ # <--- This is the dataset
66
+ --max_seq_length="128" \
67
+ --weight_decay="0.01" \
68
+ --per_device_train_batch_size="128" \
69
+ --per_device_eval_batch_size="128" \
70
+ --learning_rate="3e-4" \
71
+ --warmup_steps="1000" \
72
+ --overwrite_output_dir \
73
+ --num_train_epochs="18" \
74
+ --adam_beta1="0.9" \
75
+ --adam_beta2="0.98" \
76
+ --logging_steps="500" \
77
+ --save_steps="2500" \
78
+ --eval_steps="2500" \
79
+ --push_to_hub
80
+
81
+ ```