End of training

README.md

@@ -1,4 +1,6 @@
 ---
+language:
+- id
 license: apache-2.0
 base_model: LazarusNLP/IndoNanoT5-base
 tags:
@@ -18,10 +20,10 @@ should probably proofread and complete it, then remove this comment. -->
 This model is a fine-tuned version of [LazarusNLP/IndoNanoT5-base](https://huggingface.co/LazarusNLP/IndoNanoT5-base) on an unknown dataset.
 It achieves the following results on the evaluation set:
 - Loss: 1.7899
-- Rouge1: 0.7126
+- Rouge1: 0.4275
 - Rouge2: 0.0
-- Rougel: 0.7147
-- Rougelsum: 0.7153
+- Rougel: 0.4237
+- Rougelsum: 0.4238
 - Gen Len: 1.0
 
 ## Model description

all_results.json

@@ -0,0 +1,29 @@
+{
+    "epoch": 5.0,
+    "eval_gen_len": 1.0,
+    "eval_loss": 1.7898668050765991,
+    "eval_rouge1": 0.4275,
+    "eval_rouge2": 0.0,
+    "eval_rougeL": 0.4237,
+    "eval_rougeLsum": 0.4238,
+    "eval_runtime": 465.4165,
+    "eval_samples": 747,
+    "eval_samples_per_second": 1.605,
+    "eval_steps_per_second": 0.052,
+    "predict_gen_len": 1.0,
+    "predict_loss": 1.8003004789352417,
+    "predict_rouge1": 0.4781,
+    "predict_rouge2": 0.0,
+    "predict_rougeL": 0.479,
+    "predict_rougeLsum": 0.4785,
+    "predict_runtime": 2076.4563,
+    "predict_samples": 3737,
+    "predict_samples_per_second": 1.8,
+    "predict_steps_per_second": 0.056,
+    "total_flos": 5.54115403874304e+16,
+    "train_loss": 2.8434070015380315,
+    "train_runtime": 5671.2718,
+    "train_samples": 14290,
+    "train_samples_per_second": 12.599,
+    "train_steps_per_second": 0.788
+}

eval_results.json

@@ -0,0 +1,13 @@
+{
+    "epoch": 5.0,
+    "eval_gen_len": 1.0,
+    "eval_loss": 1.7898668050765991,
+    "eval_rouge1": 0.4275,
+    "eval_rouge2": 0.0,
+    "eval_rougeL": 0.4237,
+    "eval_rougeLsum": 0.4238,
+    "eval_runtime": 465.4165,
+    "eval_samples": 747,
+    "eval_samples_per_second": 1.605,
+    "eval_steps_per_second": 0.052
+}

generated_predictions.txt

@@ -0,0 +1,3737 @@
+4
+jika
+sangat
+
+online
+untuk
+hal
+
+
+saat
+tersebut
+akan
+yang
+cara
+
+permainan
+e
+untuk
+dengan
+
+tidak
+untuk
+itu
+2
+nya
+memiliki
+akan
+secara
+.
+kan
+anda
+,
+orang
+"
+itu
+hal
+kamu
+.
+?
+dapat
+.
+bisa
+
+dan
+orang
+u
+cara
+pada
+yang
+kita
+yang
+,
+satu
+itu
+an
+s
+,
+sudah
+0
+untuk
+.
+,
+lebih
+yang
+adalah
+adalah
+(
+ada
+bahwa
+tidak
+.
+tersebut
+1
+4
+hal
+5
+
+tersebut
+adalah
+cara
+(
+ini
+i
+yang
+permainan
+saja
+
+pada
+baik
+anda
+sebagai
+dan
+tersebut
+dalam
+pada
+adalah
+online
+pada
+situs
+
+hal
+bahwa
+seperti
+kita
+
+indonesia
+9
+.
+.
+namun
+1
+dengan
+untuk
+sudah
+tahun
+:
+ini
+akan
+orang
+di
+itu
+2
+dari
+permainan
+satu
+permainan
+,
+
+oleh
+untuk
+)
+pada
+?
+judi
+untuk
+yang
+tersebut
+sangat
+jika
+
+bisa
+ini
+.
+untuk
+lebih
+dalam
+5
+karena
+0
+bahwa
+online
+lebih
+
+lebih
+dapat
+a
+,
+ada
+"
+lebih
+menjadi
+1
+
+dari
+(
+,
+,
+ke
+anda
+adalah
+s
+dalam
+,
+ada
+,
+e
+,
+:
+anda
+s
+sudah
+bisa
+anda
+5
+4
+yang
+adalah
+untuk
+bahwa
+anda
+a
+pada
+mereka
+9
+dan
+t
+pada
+pada
+
+dengan
+
+dengan
+saya
+sangat
+anda
+an
+e
+,
+.
+,
+situs
+membuat
+poker
+9
+
+anda
+sudah
+dan
+indonesia
+e
+pada
+hanya
+untuk
+5
+yang
+atau
+juga
+ini
+atau
+maka
+i
+bisa
+bisa
+secara
+situs
+,
+dan
+ada
+anda
+s
+1
+anda
+seperti
+satu
+i
+juga
+?
+hal
+lebih
+tersebut
+-
+kami
+saya
+dan
+beberapa
+memiliki
+atau
+0
+(
+anda
+"
+untuk
+)
+
+saat
+yang
+sebagai
+di
+1
+kan
+karena
+1
+0
+oleh
+untuk
+0
+0
+8
+atau
+0
+9
+di
+
+0
+memiliki
+bahwa
+4
+:
+membuat
+
+.
+:
+adalah
+judi
+bermain
+a
+ini
+k
+karena
+akan
+"
+adalah
+kita
+lebih
+menjadi
+ada
+juga
+baik
+
+karena
+anda
+dalam
+/
+untuk
+dapat
+anda
+kami
+1
+(
+yang
+dan
+t
+1
+(
+8
+
+ada
+:
+situs
+slot
+saja
+mereka
+online
+itu
+s
+untuk
+
+ini
+nya
+
+-
+
+k
+.
+dan
+an
+hal
+banyak
+lebih
+
+
+
+
+indonesia
+tidak
+ini
+di
+2
+pada
+
+pada
+ada
+7
+sangat
+2
+anda
+tidak
+
+anda
+saat
+ada
+6
+0
+t
+)
+
+1
+k
+.
+k
+atau
+anda
+banyak
+cara
+untuk
+nya
+anda
+.
+saja
+akan
+ini
+tidak
+bisa
+
+atau
+-
+judi
+satu
+anda
+4
+online
+1
+8
+nya
+kami
+9
+bahwa
+dan
+memiliki
+i
+cara
+
+indonesia
+ini
+1
+judi
+
+sudah
+yang
+menjadi
+dapat
+mereka
+dari
+permainan
+dan
+judi
+ini
+ini
+s
+kamu
+di
+ke
+lebih
+atau
+sebagai
+seperti
+kita
+dengan
+cara
+
+kita
+membuat
+online
+dalam
+
+juga
+nya
+
+)
+banyak
+4
+9
+nya
+:
+menjadi
+ini
+akan
+dalam
+sudah
+saya
+dan
+t
+judi
+
+ini
+ke
+saat
+
+banyak
+
+-
+,
+saya
+tersebut
+judi
+2
+di
+ini
+besar
+1
+
+dengan
+8
+dan
+dari
+dapat
+ada
+yang
+an
+.
+untuk
+an
+dengan
+t
+dalam
+permainan
+s
+satu
+0
+
+i
+maka
+kita
+dan
+juga
+cara
+0
+dan
+untuk
+untuk
+harus
+untuk
+kami
+4
+permainan
+tersebut
+sangat
+
+2
+nya
+ke
+7
+-
+bisa
+1
+,
+nya
+dan
+ada
+i
+0
+hanya
+1
+nya
+beberapa
+i
+i
+-
+salah
+banyak
+(
+
+.
+dalam
+untuk
+5
+untuk
+
+dan
+"
+kami
+itu
+"
+di
+"
+bisa
+bahwa
+akan
+karena
+)
+saya
+orang
+lebih
+i
+.
+
+akan
+)
+yang
+
+0
+kita
+bagi
+pada
+anda
+kamu
+.
+"
+menggunakan
+:
+d
+itu
+secara
+
+sudah
+di
+cara
+ini
+
+akan
+3
+banyak
+.
+di
+bermain
+saya
+)
+
+kan
+juga
+dari
+
+a
+dengan
+secara
+bermain
+i
+banyak
+kita
+dalam
+memiliki
+.
+
+tidak
+-
+akan
+1
+u
+baik
+,
+
+yang
+memiliki
+5
+sangat
+harus
+-
+bisa
+saya
+1
+0
+saja
+,
+/
+dari
+beberapa
+yang
+harus
+bahwa
+kami
+dan
+8
+i
+4
+dalam
+
+bisa
+sudah
+nya
+0
+oleh
+dengan
+dan
+atau
+(
+
+anda
+
+maka
+kita
+pada
+sangat
+8
+dari
+beberapa
+atau
+bisa
+dengan
+5
+
+indonesia
+0
+bisa
+ke
+lebih
+2
+,
+yang
+2
+sebagai
+pada
+secara
+)
+dalam
+i
+:
+menjadi
+nya
+dalam
+sudah
+-
+
+ini
+:
+tersebut
+
+lebih
+-
+untuk
+
+-
+banyak
+saja
+.
+di
+dapat
+yang
+4
+di
+beberapa
+anda
+ke
+dapat
+situs
+online
+dari
+itu
+permainan
+mereka
+melakukan
+"
+
+satu
+permainan
+
+bahwa
+karena
+dapat
+ini
+hal
+?
+memiliki
+yang
+-
+i
+di
+karena
+pada
+seperti
+banyak
+dengan
+ini
+ini
+
+di
+membuat
+3
+(
+"
+hanya
+di
+di
+ke
+tersebut
+atau
+beberapa
+hal
+menjadi
+nya
+6
+ini
+kamu
+oleh
+mereka
+dan
+a
+yang
+sudah
+
+ini
+yang
+dengan
+juga
+cara
+harus
+online
+membuat
+online
+
+itu
+ini
+kamu
+
+0
+jika
+dan
+
+online
+kami
+dalam
+
+dan
+dalam
+saat
+-
+yang
+pada
+situs
+e
+
+untuk
+orang
+
+cara
+bahwa
+di
+nya
+adalah
+.
+saja
+dari
+baik
+pada
+permainan
+di
+1
+(
+
+ada
+s
+
+pada
+1
+dalam
+baik
+bahwa
+untuk
+e
+i
+online
+2
+situs
+di
+k
+tidak
+orang
+,
+8
+
+poker
+
+menjadi
+banyak
+membuat
+seperti
+nya
+/
+/
+s
+.
+bisa
+tidak
+tersebut
+hal
+?
+
+mereka
+i
+/
+dan
+online
+seperti
+situs
+situs
+4
+2
+5
+dalam
+di
+untuk
+,
+(
+8
+dengan
+dalam
+anda
+situs
+"
+karena
+dengan
+mereka
+9
+an
+harus
+?
+6
+oleh
+mereka
+,
+bisa
+dan
+dengan
+.
+.
+dalam
+satu
+kamu
+t
+"
+atau
+pada
+anda
+ada
+an
+i
+adalah
+s
+(
+tersebut
+akan
+dan
+untuk
+nya
+akan
+
+,
+sudah
+di
+pada
+beberapa
+tersebut
+2
+permainan
+2
+dapat
+pada
+di
+2
+
+pada
+mereka
+kita
+nya
+memiliki
+)
+ini
+nya
+:
+sebagai
+
+i
+situs
+tidak
+di
+judi
+dan
+9
+memiliki
+indonesia
+untuk
+satu
+dapat
+2
+di
+banyak
+:
+)
+kan
+saat
+cara
+bisa
+ada
+bisa
+situs
+dalam
+dengan
+bisa
+i
+dari
+dapat
+ada
+membuat
+judi
+
+untuk
+di
+dalam
+u
+ini
+4
+lebih
+kita
+e
+satu
+ini
+itu
+ke
+
+an
+ada
+memiliki
+dengan
+
+sudah
+tersebut
+,
+ada
+ke
+sangat
+kan
+bisa
+kami
+lebih
+bisa
+orang
+
+
+bisa
+adalah
+baik
+:
+ini
+.
+anda
+.
+online
+ini
+ini
+/
+?
+?
+
+lain
+orang
+dapat
+anda
+saya
+online
+i
+hanya
+(
+an
+3
+karena
+9
+8
+situs
+untuk
+sangat
+)
+melakukan
+mereka
+e
+sudah
+,
+yang
+"
+pada
+saya
+jika
+,
+satu
+atau
+itu
+dari
+dan
+banyak
+menjadi
+ini
+ada
+online
+atau
+dari
+k
+sudah
+yang
+
+4
+di
+satu
+dengan
+/
+"
+
+dan
+banyak
+s
+bagi
+bahwa
+itu
+di
+d
+5
+tersebut
+untuk
+di
+banyak
+/
+dari
+itu
+/
+situs
+ada
+dengan
+karena
+menjadi
+ke
+:
+sebagai
+1
+
+anda
+ini
+dapat
+hanya
+dari
+saat
+seperti
+dapat
+ada
+bahwa
+dengan
+di
+atau
+tidak
+yang
+dari
+adalah
+,
+beberapa
+0
+memiliki
+cara
+juga
+juga
+jika
+permainan
+ini
+itu
+
+saat
+ini
+i
+anda
+0
+nya
+permainan
+?
+atau
+5
+
+kan
+s
+e
+beberapa
+orang
+)
+sebagai
+e
+dapat
+kamu
+seperti
+besar
+-
+judi
+sangat
+banyak
+,
+sangat
+ada
+menjadi
+
+4
+ini
+menjadi
+s
+karena
+kita
+
+permainan
+dalam
+untuk
+i
+)
+2
+:
+yang
+untuk
+
+,
+memiliki
+"
+akan
+membuat
+-
+sebagai
+-
+dengan
+menjadi
+secara
+memiliki
+di
+2
+,
+2
+adalah
+dan
+itu
+,
+
+
+karena
+situs
+
+untuk
+jika
+8
+dalam
+(
+dan
+4
+8
+saya
+an
+untuk
+2
+ada
+dapat
+banyak
+bisa
+di
+(
+indonesia
+atau
+adalah
+untuk
+anda
+oleh
+.
+bahwa
+itu
+hanya
+ini
+dapat
+
+kami
+dapat
+i
+ini
+juga
+
+beberapa
+"
+saya
+ke
+online
+yang
+nya
+tidak
+saat
+oleh
+4
+-
+atau
+4
+dari
+i
+dengan
+secara
+ke
+atau
+pada
+1
+online
+mereka
+orang
+dari
+melakukan
+(
+e
+anda
+dan
+saya
+)
+yang
+5
+saja
+nya
+saat
+2
+
+2
+menjadi
+s
+hanya
+di
+2
+memiliki
+ada
+pada
+judi
+,
+anda
+akan
+karena
+akan
+karena
+
+untuk
+tidak
+dari
+
+2
+membuat
+adalah
+
+ini
+
+cara
+nya
+8
+1
+dengan
+kami
+permainan
+:
+banyak
+:
+.
+dari
+kami
+)
+i
+k
+ini
+sangat
+s
+dalam
+akan
+.
+.
+anda
+kami
+0
+online
+1
+juga
+bisa
+atau
+namun
+ini
+saat
+online
+bahwa
+atau
+.
+3
+mereka
+i
+
+s
+akan
+.
+dan
+apa
+sangat
+seperti
+.
+,
+di
+,
+u
+karena
+.
+juga
+k
+yang
+slot
+7
+1
+adalah
+
+7
+orang
+cara
+.
+
+para
+
+1
+saya
+dengan
+dalam
+
+dapat
+.
+
+situs
+ke
+
+3
+hal
+bahwa
+sudah
+di
+dengan
+di
+
+atau
+6
+bisa
+k
+,
+.
+3
+
+dalam
+membuat
+yang
+dan
+hanya
+dalam
+,
+saya
+sangat
+/
+baik
+kami
+i
+bahwa
+karena
+tidak
+e
+oleh
+online
+karena
+jika
+situs
+adalah
+kita
+akan
+tersebut
+
+9
+bisa
+nya
+orang
+tersebut
+7
+permainan
+
+itu
+-
+saja
+kan
+
+)
+atau
+di
+anda
+anda
+5
+ada
+dan
+atau
+,
+i
+dari
+pada
+an
+"
+saja
+:
+-
+besar
+dan
+online
+akan
+:
+akan
+1
+akan
+
+kan
+tidak
+yang
+4
+/
+dengan
+yang
+besar
+atau
+untuk
+secara
+-
+bahwa
+"
+
+
+ini
+satu
+anda
+sangat
+akan
+harus
+bermain
+"
+6
+
+atau
+anda
+9
+tidak
+adalah
+tersebut
+akan
+)
+i
+0
+dari
+tersebut
+online
+di
+
+
+i
+bagi
+salah
+2
+bahwa
+
+sudah
+karena
+
+dari
+3
+9
+dapat
+di
+di
+)
+judi
+baik
+juga
+anda
+satu
+.
+4
+adalah
+-
+saat
+permainan
+
+sudah
+/
+s
+dan
+karena
+
+saat
+5
+tidak
+beberapa
+s
+
+membuat
+-
+nya
+slot
+8
+,
+online
+
+satu
+s
+adalah
+2
+harus
+.
+
+satu
+karena
+?
+adalah
+.
+akan
+)
+
+anda
+adalah
+2
+satu
+tersebut
+pada
+cara
+s
+.
+mereka
+adalah
+ada
+,
+banyak
+0
+untuk
+untuk
+adalah
+1
+
+4
+?
+game
+nya
+juga
+0
+1
+untuk
+sudah
+
+baik
+orang
+1
+
+beberapa
+online
+dan
+nya
+nya
+d
+seperti
+sebagai
+dan
+-
+e
+,
+0
+saja
+situs
+1
+dalam
+memiliki
+kami
+dari
+jika
+
+dan
+
+.
+di
+kami
+anda
+2
+4
+bahwa
+dapat
+adalah
+dapat
+/
+banyak
+slot
+untuk
+nya
+
+seperti
+
+oleh
+nya
+di
+
+harus
+yang
+
+oleh
+a
+tidak
+dan
+kamu
+harus
+adalah
+dan
+tersebut
+itu
+pada
+untuk
+(
+ke
+
+nya
+di
+satu
+kami
+di
+.
+3
+oleh
+tidak
+anda
+ada
+s
+1
+
+ada
+nya
+dengan
+di
+apa
+secara
+(
+k
+
+nya
+dan
+saat
+adalah
+
+-
+jika
+tersebut
+uang
+satu
+dapat
+satu
+i
+anda
+tersebut
+an
+3
+lebih
+.
+:
+,
+0
+atau
+:
+bahwa
+memiliki
+ini
+7
+-
+,
+akan
+9
+juga
+4
+juga
+judi
+anda
+untuk
+tidak
+ini
+(
+saat
+sudah
+indonesia
+atau
+ke
+permainan
+7
+ini
+
+kita
+dari
+ada
+bisa
+sebagai
+.
+.
+ke
+
+yang
+dapat
+secara
+bermain
+orang
+beberapa
+.
+yang
+untuk
+)
+:
+0
+tersebut
+juga
+
+
+0
+cara
+online
+a
+saja
+saya
+dan
+bahwa
+dari
+1
+memiliki
+ada
+harus
+-
+pada
+
+)
+7
+ini
+s
+karena
+dengan
+
+.
+secara
+.
+saya
+1
+bisa
+1
+memiliki
+:
+
+,
+anda
+ini
+kita
+u
+hal
+judi
+atau
+adalah
+yang
+
+jika
+nya
+7
+2
+akan
+dengan
+kita
+judi
+bahwa
+dan
+sebagai
+orang
+dengan
+dengan
+slot
+nya
+3
+3
+3
+4
+ada
+dapat
+2
+atau
+s
+di
+sudah
+banyak
+
+lain
+yang
+judi
+anda
+anda
+tersebut
+tersebut
+atau
+)
+membuat
+dan
+ada
+baik
+untuk
+an
+bahwa
+)
+satu
+itu
+lebih
+0
+adalah
+:
+anda
+e
+
+9
+nya
+dan
+
+,
+,
+di
+banyak
+
+s
+9
+-
+i
+4
+mereka
+ada
+hanya
+di
+permainan
+judi
+0
+6
+0
+menjadi
+.
+
+bisa
+jika
+
+k
+3
+akan
+yang
+yang
+anda
+juga
+ini
+dapat
+situs
+,
+bahwa
+0
+di
+dengan
+pada
+itu
+oleh
+satu
+,
+situs
+tidak
+an
+dan
+seperti
+
+kita
+,
+5
+adalah
+?
+.
+saya
+anda
+
+baik
+sangat
+ke
+7
+.
+secara
+3
+mendapatkan
+untuk
+pada
+harus
+dapat
+
+cara
+9
+pada
+untuk
+"
+kita
+:
+untuk
+tidak
+3
+membuat
+bahwa
+apa
+.
+
+.
+4
+6
+,
+orang
+.
+nya
+0
+harus
+dan
+judi
+dan
+untuk
+s
+di
+
+"
+yang
+nya
+
+0
+memiliki
+pada
+beberapa
+sudah
+)
+ini
+(
+jika
+
+untuk
+atau
+lebih
+tidak
+-
+1
+ada
+kamu
+8
+1
+bisa
+ada
+orang
+tersebut
+anda
+i
+tersebut
+akan
+,
+ada
+1
+9
+cara
+
+0
+,
+dalam
+dan
+untuk
+,
+sangat
+,
+tersebut
+dari
+"
+membuat
+7
+dengan
+
+pada
+oleh
+d
+atau
+di
+
+membuat
+hanya
+.
+di
+maka
+s
+/
+9
+hanya
+seperti
+e
+.
+adalah
+indonesia
+anda
+saat
+tidak
+orang
+saya
+hal
+bahwa
+bisa
+.
+1
+kami
+seperti
+e
+e
+-
+)
+itu
+
+.
+yang
+an
+dalam
+untuk
+
+satu
+atau
+dari
+ini
+banyak
+kami
+indonesia
+judi
+akan
+0
+banyak
+
+bisa
+anda
+untuk
+oleh
+yang
+dalam
+dan
+dari
+permainan
+k
+ada
+0
+itu
+dan
+3
+adalah
+saja
+jika
+)
+(
+itu
+secara
+dalam
+dalam
+8
+4
+karena
+-
+dapat
+2
+dengan
+hal
+)
+karena
+,
+untuk
+kan
+tersebut
+online
+adalah
+
+karena
+saat
+dan
+
+i
+situs
+-
+juga
+an
+tidak
+
+untuk
+cara
+saat
+e
+permainan
+lebih
+hal
+saat
+ke
+mereka
+(
+situs
+
+sangat
+sebagai
+dari
+
+baik
+lebih
+untuk
+-
+tersebut
+saya
+kita
+itu
+karena
+membuat
+
+dari
+memiliki
+
+0
+,
+jika
+saya
+-
+anda
+online
+.
+yang
+di
+oleh
+
+ada
+t
+baik
+lebih
+i
+membuat
+hanya
+mereka
+karena
+telah
+akan
+ada
+dengan
+dan
+hanya
+itu
+sangat
+bisa
+2
+-
+dan
+beberapa
+judi
+bahwa
+tersebut
+(
+i
+9
+situs
+s
+banyak
+atau
+itu
+pada
+menjadi
+hal
+nya
+indonesia
+2
+an
+1
+"
+2
+untuk
+hal
+orang
+dapat
+,
+dalam
+anda
+atau
+dan
+atau
+permainan
+lebih
+online
+
+(
+di
+1
+i
+dari
+4
+akan
+anda
+3
+harus
+6
+0
+dalam
+1
+"
+8
+baik
+untuk
+,
+1
+dapat
+dalam
+2
+online
+hal
+dapat
+
+:
+dan
+ini
+ke
+sangat
+0
+sebagai
+tidak
+pada
+2
+/
+dapat
+saja
+di
+
+saja
+dan
+ini
+seperti
+untuk
+5
+hal
+dan
+7
+satu
+
+pada
+harus
+2
+saat
+menjadi
+kita
+untuk
+i
+
+juga
+juga
+6
+ini
+
+,
+.
+1
+ini
+kamu
+untuk
+permainan
+-
+
+dalam
+
+karena
+situs
+harus
+an
+itu
+bisa
+5
+)
+dan
+menjadi
+situs
+karena
+-
+
+dengan
+untuk
+untuk
+ke
+"
+mereka
+yang
+bahwa
+saja
+.
+0
+besar
+
+banyak
+atau
+di
+kita
+yang
+1
+3
+
+untuk
+untuk
+dalam
+di
+7
+,
+situs
+semua
+oleh
+menjadi
+
+ini
+untuk
+di
+ke
+membuat
+ada
+ini
+,
+
+tidak
+banyak
+sangat
+tidak
+)
+"
+
+salah
+hal
+adalah
+baik
+saja
+.
+untuk
+bermain
+e
+
+nya
+3
+2
+online
+s
+i
+banyak
+5
+jika
+(
+adalah
+
+kami
+dengan
+lebih
+"
+dapat
+
+yang
+dan
+a
+dalam
+4
+karena
+2
+di
+dan
+hanya
+tidak
+harus
+dalam
+cara
+kita
+memiliki
+ini
+orang
+"
+karena
+7
+ini
+dan
+ke
+banyak
+?
+banyak
+ini
+situs
+yang
+orang
+saat
+.
+pada
+
+dan
+,
+baik
+itu
+dari
+di
+dapat
+i
+yang
+juga
+:
+hanya
+dan
+di
+ini
+)
+tidak
+situs
+-
+
+0
+nya
+u
+hanya
+dengan
+bahwa
+akan
+online
+
+membuat
+mereka
+orang
+0
+di
+i
+saja
+di
+
+saat
+anda
+seperti
+-
+online
+akan
+yang
+)
+untuk
+bisa
+sangat
+yang
+(
+
+dapat
+s
+i
+baik
+harus
+ini
+s
+ada
+situs
+adalah
+untuk
+
+-
+mereka
+yang
+banyak
+ini
+)
+2
+.
+8
+,
+saja
+/
+ini
+-
+banyak
+(
+yang
+beberapa
+orang
+online
+jika
+yang
+
+0
+,
+untuk
+slot
+orang
+yang
+hal
+s
+tidak
+dengan
+di
+lebih
+ini
+banyak
+saja
+anda
+kita
+dan
+an
+pada
+8
+juga
+
+ke
+1
+pada
+sudah
+saya
+
+ini
+:
+nya
+kan
+nya
+nya
+
+anda
+atau
+akan
+a
+di
+bisa
+adalah
+bahwa
+,
+dan
+judi
+dan
+online
+
+.
+adalah
+5
+judi
+untuk
+yang
+anda
+(
+dari
+2
+ini
+situs
+akan
+.
+yang
+5
+dengan
+kamu
+
+satu
+yang
+s
+itu
+dan
+oleh
+2
+menjadi
+kita
+i
+
+kita
+pada
+yang
+akan
+bahwa
+dan
+4
+0
+dan
+yang
+nya
+harus
+
+dan
+
+banyak
+
+
+judi
+pada
+,
+di
+ada
+sudah
+0
+kamu
+yang
+mereka
+9
+.
+
+dan
+harus
+yang
+(
+anda
+ini
+itu
+pada
+adalah
+ini
+e
+2
+online
+1
+"
+maka
+saya
+
+yang
+itu
+itu
+1
+beberapa
+?
+untuk
+adalah
+oleh
+1
+a
+anda
+saat
+i
+an
+i
+tersebut
+7
+
+
+:
+ada
+2
+,
+adalah
+(
+dan
+untuk
+saya
+)
+ini
+k
+0
+dengan
+
+
+kami
+yang
+seperti
+atau
+3
+dengan
+dapat
+4
+di
+atau
+dalam
+karena
+bisa
+anda
+untuk
+oleh
+:
+i
+juga
+
+yang
+
+dan
+sudah
+
+indonesia
+)
+s
+jika
+
+lebih
+akan
+dalam
+k
+ini
+saya
+untuk
+i
+anda
+dan
+para
+untuk
+9
+situs
+anda
+beberapa
+tidak
+adalah
+hanya
+pada
+bahwa
+kita
+online
+3
+dan
+kamu
+untuk
+di
+pada
+ada
+
+slot
+
+sebagai
+akan
+seperti
+-
+ada
+
+bisa
+juga
+sudah
+indonesia
+telah
+5
+kamu
+tidak
+banyak
+e
+oleh
+uang
+2
+nya
+jika
+s
+besar
+8
+
+:
+itu
+kami
+dengan
+
+.
+3
+sebagai
+ini
+atau
+di
+a
+-
+kita
+an
+
+dapat
+di
+3
+sebagai
+pada
+-
+1
+bisa
+"
+ke
+bisa
+tidak
+baik
+kita
+lebih
+
+-
+0
+di
+e
+di
+atau
+akan
+/
+0
+,
+beberapa
+:
+juga
+untuk
+permainan
+yang
+memiliki
+4
+,
+di
+juga
+.
+0
+kita
+nya
+dari
+dengan
+online
+3
+untuk
+ini
+banyak
+online
+8
+1
+0
+
+k
+saat
+lain
+mereka
+dari
+kami
+karena
+5
+orang
+?
+.
+-
+0
+
+0
+seperti
+permainan
+lebih
+dengan
+dari
+hal
+beberapa
+,
+)
+"
+untuk
+bagi
+pada
+hanya
+
+dengan
+sudah
+itu
+-
+judi
+hanya
+,
+5
+1
+7
+dengan
+2
+juga
+
+atau
+6
+3
+3
+lebih
+untuk
+tidak
+ada
+orang
+-
+,
+pada
+
+dari
+besar
+banyak
+nya
+
+lebih
+t
+
+membuat
+atau
+besar
+ke
+i
+untuk
+)
+,
+?
+kamu
+)
+anda
+judi
+mereka
+
+9
+e
+dan
+untuk
+cara
+di
+kami
+banyak
+dalam
+yang
+dari
+juga
+memiliki
+(
+situs
+sudah
+di
+tersebut
+6
+sudah
+jika
+
+ke
+cara
+dapat
+yang
+atau
+
+,
+anda
+dengan
+,
+-
+dari
+
+anda
+yang
+nya
+salah
+
+dengan
+/
+bisa
+lebih
+
+di
+t
+anda
+indonesia
+anda
+e
+banyak
+"
+7
+
+mereka
+judi
+
+juga
+saja
+kita
+,
+mereka
+itu
+anda
+yang
+yang
+dengan
+-
+dan
+2
+karena
+hal
+
+sebagai
+
+8
+orang
+itu
+e
+untuk
+
+
+kita
+yang
+saya
+)
+permainan
+dapat
+1
+t
+,
+membuat
+i
+dari
+.
+juga
+(
+banyak
+k
+adalah
+0
+5
+dan
+untuk
+akan
+dari
+"
+yang
+dapat
+nya
+saat
+,
+0
+/
+akan
+pada
+mereka
+dapat
+sudah
+.
+-
+nya
+"
+sudah
+anda
+dapat
+sangat
+3
+memiliki
+dengan
+jika
+di
+oleh
+:
+-
+atau
+dari
+itu
+
+ke
+0
+bisa
+t
+sudah
+dari
+anda
+5
+adalah
+anda
+juga
+anda
+ini
+a
+secara
+:
+kami
+pada
+oleh
+dengan
+yang
+adalah
+nya
+satu
+lebih
+sangat
+satu
+(
+bisa
+banyak
+itu
+a
+banyak
+yang
+kan
+cara
+
+an
+an
+oleh
+(
+bahwa
+dalam
+0
+tidak
+dapat
+nya
+bisa
+.
+hal
+orang
+di
+dari
+
+
+di
+ada
+tidak
+bisa
+9
+dengan
+kamu
+2
+/
+/
+itu
+memiliki
+untuk
+
+-
+dengan
+
+adalah
+
+anda
+online
+i
+dalam
+,
+dan
+an
+
+dapat
+0
+,
+sangat
+secara
+itu
+di
+
+akan
+anda
+dengan
+k
+dengan
+8
+d
+nya
+dalam
+tidak
+banyak
+apa
+seperti
+oleh
+satu
+akan
+dapat
+menjadi
+yang
+ke
+juga
+8
+akan
+akan
+-
+e
+hanya
+
+.
+anda
+sangat
+beberapa
+:
+.
+orang
+dalam
+juga
+,
+itu
+ke
+saya
+dengan
+online
+juga
+3
+banyak
+.
+kamu
+t
+sangat
+karena
+tidak
+dapat
+dan
+.
+itu
+dari
+adalah
+0
+dalam
+judi
+yang
+situs
+3
+dan
+
+1
+
+jika
+s
+
+harus
+akan
+kita
+,
+/
+5
+oleh
+-
+kita
+(
+)
+itu
+telah
+satu
+bisa
+memiliki
+0
+1
+6
+akan
+bisa
+harus
+a
+untuk
+karena
+dengan
+mereka
+ini
+yang
+s
+t
+cara
+dan
+dalam
+
+:
+-
+
+yang
+pada
+,
+u
+dalam
+dalam
+anda
+,
+s
+untuk
+1
+-
+lebih
+jika
+t
+.
+-
+yang
+yang
+(
+judi
+
+tersebut
+dengan
+banyak
+nya
+8
+anda
+dengan
+dengan
+cara
+situs
+indonesia
+
+5
+
+game
+banyak
+saat
+cara
+judi
+-
+seperti
+lebih
+yang
+adalah
+dari
+juga
+tidak
+juga
+.
+
+nya
+,
+menjadi
+dan
+lebih
+mereka
+pada
+dengan
+harus
+hal
+nya
+:
+saja
+8
+anda
+2
+poker
+
+-
+ini
+an
+
+
+1
+jika
+bahwa
+di
+tersebut
+atau
+untuk
+tersebut
+ada
+0
+satu
+maka
+yang
+saya
+cara
+hanya
+karena
+sangat
+
+nya
+lebih
+juga
+mereka
+,
+2
+yang
+anda
+
+:
+membuat
+itu
+dan
+bisa
+permainan
+sangat
+nya
+sudah
+sangat
+dan
+2
+nya
+saya
+harus
+)
+nya
+d
+membuat
+2
+1
+yang
+salah
+e
+a
+bisa
+sudah
+:
+-
+7
+maka
+satu
+dengan
+-
+mereka
+dengan
+online
+anda
+saat
+
+
+s
+8
+6
+akan
+-
+tidak
+5
+banyak
+baik
+dan
+
+an
+juga
+
+kan
+nya
+yang
+adalah
+juga
+
+di
+0
+anda
+beberapa
+nya
+banyak
+secara
+membuat
+judi
+dan
+menggunakan
+banyak
+banyak
+anda
+0
+akan
+baik
+untuk
+judi
+i
+)
+di
+besar
+e
+-
+9
+bahwa
+5
+:
+banyak
+situs
+
+sudah
+di
+online
+yang
+tersebut
+dan
+dan
+beberapa
+hanya
+0
+bisa
+1
+
+i
+?
+-
+0
+yang
+dari
+1
+akan
+0
+dengan
+
+di
+dan
+dari
+oleh
+saat
+,
+dalam
+sangat
+a
+sudah
+
+yang
+dan
+memiliki
+1
+dari
+situs
+anda
+dalam
+karena
+:
+harus
+adalah
+2
+untuk
+
+3
+s
+memiliki
+4
+bahwa
+i
+bahwa
+oleh
+jika
+satu
+adalah
+s
+karena
+dan
+.
+
+untuk
+sebagai
+4
+e
+3
+judi
+untuk
+itu
+dapat
+dapat
+jika
+kan
+adalah
+di
+a
+
+orang
+.
+sudah
+tidak
+hanya
+.
+/
+akan
+adalah
+dan
+judi
+nya
+akan
+3
+.
+7
+itu
+0
+(
+orang
+di
+untuk
+dengan
+e
+/
+saat
+5
+bermain
+di
+
+hal
+5
+jika
+akan
+nya
+saja
+ke
+itu
+saat
+untuk
+juga
+atau
+permainan
+i
+4
+orang
+dapat
+8
+permainan
+4
+anda
+bisa
+:
+dan
+hanya
+ke
+4
+oleh
+ada
+0
+dapat
+
+2
+cara
+dengan
+ke
+saya
+saya
+banyak
+adalah
+ke
+harus
+yang
+
+atau
+.
+dengan
+secara
+saja
+nya
+oleh
+"
+t
+bahwa
+online
+lebih
+yang
+di
+ke
+3
+lebih
+ini
+
+akan
+s
+kamu
+(
+bermain
+an
+
+8
+kami
+banyak
+,
+adalah
+menggunakan
+juga
+nya
+4
+an
+
+kamu
+
+
+dengan
+hal
+2
+ke
+a
+an
+dari
+salah
+ini
+tidak
+online
+seperti
+tidak
+
+ke
+untuk
+ada
+baik
+2
+sudah
+nya
+besar
+anda
+saja
+sudah
+7
+.
+ke
+6
+4
+orang
+8
+
+
+e
+/
+9
+dapat
+5
+kita
+3
+)
+dan
+d
+tersebut
+
+)
+oleh
+yang
+online
+ini
+saya
+.
+dengan
+hal
+2
+bisa
+8
+hal
+pada
+permainan
+banyak
+tidak
+di
+cara
+an
+akan
+
+dengan
+ke
+anda
+dan

predict_results.json

@@ -0,0 +1,12 @@
+{
+    "predict_gen_len": 1.0,
+    "predict_loss": 1.8003004789352417,
+    "predict_rouge1": 0.4781,
+    "predict_rouge2": 0.0,
+    "predict_rougeL": 0.479,
+    "predict_rougeLsum": 0.4785,
+    "predict_runtime": 2076.4563,
+    "predict_samples": 3737,
+    "predict_samples_per_second": 1.8,
+    "predict_steps_per_second": 0.056
+}

train_results.json

@@ -0,0 +1,9 @@
+{
+    "epoch": 5.0,
+    "total_flos": 5.54115403874304e+16,
+    "train_loss": 2.8434070015380315,
+    "train_runtime": 5671.2718,
+    "train_samples": 14290,
+    "train_samples_per_second": 12.599,
+    "train_steps_per_second": 0.788
+}

trainer_state.json

@@ -0,0 +1,130 @@
+{
+  "best_metric": null,
+  "best_model_checkpoint": null,
+  "epoch": 5.0,
+  "eval_steps": 500,
+  "global_step": 4470,
+  "is_hyper_param_search": false,
+  "is_local_process_zero": true,
+  "is_world_process_zero": true,
+  "log_history": [
+    {
+      "epoch": 1.0,
+      "grad_norm": 1.865365743637085,
+      "learning_rate": 0.0008,
+      "loss": 3.36,
+      "step": 894
+    },
+    {
+      "epoch": 1.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 2.5705883502960205,
+      "eval_rouge1": 0.5429,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.5401,
+      "eval_rougeLsum": 0.543,
+      "eval_runtime": 50.2388,
+      "eval_samples_per_second": 14.869,
+      "eval_steps_per_second": 0.478,
+      "step": 894
+    },
+    {
+      "epoch": 2.0,
+      "grad_norm": 1.507298469543457,
+      "learning_rate": 0.0006,
+      "loss": 2.9941,
+      "step": 1788
+    },
+    {
+      "epoch": 2.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 2.295980453491211,
+      "eval_rouge1": 0.6505,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.6527,
+      "eval_rougeLsum": 0.6516,
+      "eval_runtime": 59.2074,
+      "eval_samples_per_second": 12.617,
+      "eval_steps_per_second": 0.405,
+      "step": 1788
+    },
+    {
+      "epoch": 3.0,
+      "grad_norm": 1.8497850894927979,
+      "learning_rate": 0.0004,
+      "loss": 2.7929,
+      "step": 2682
+    },
+    {
+      "epoch": 3.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 2.085458993911743,
+      "eval_rouge1": 0.6409,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.6407,
+      "eval_rougeLsum": 0.643,
+      "eval_runtime": 50.4173,
+      "eval_samples_per_second": 14.816,
+      "eval_steps_per_second": 0.476,
+      "step": 2682
+    },
+    {
+      "epoch": 4.0,
+      "grad_norm": 2.0270817279815674,
+      "learning_rate": 0.0002,
+      "loss": 2.6099,
+      "step": 3576
+    },
+    {
+      "epoch": 4.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 1.9073562622070312,
+      "eval_rouge1": 0.6946,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.6969,
+      "eval_rougeLsum": 0.6972,
+      "eval_runtime": 50.2978,
+      "eval_samples_per_second": 14.852,
+      "eval_steps_per_second": 0.477,
+      "step": 3576
+    },
+    {
+      "epoch": 5.0,
+      "grad_norm": 1.8942012786865234,
+      "learning_rate": 0.0,
+      "loss": 2.4602,
+      "step": 4470
+    },
+    {
+      "epoch": 5.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 1.7898668050765991,
+      "eval_rouge1": 0.7126,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.7147,
+      "eval_rougeLsum": 0.7153,
+      "eval_runtime": 51.6668,
+      "eval_samples_per_second": 14.458,
+      "eval_steps_per_second": 0.465,
+      "step": 4470
+    },
+    {
+      "epoch": 5.0,
+      "step": 4470,
+      "total_flos": 5.54115403874304e+16,
+      "train_loss": 2.8434070015380315,
+      "train_runtime": 5671.2718,
+      "train_samples_per_second": 12.599,
+      "train_steps_per_second": 0.788
+    }
+  ],
+  "logging_steps": 500,
+  "max_steps": 4470,
+  "num_input_tokens_seen": 0,
+  "num_train_epochs": 5,
+  "save_steps": 500,
+  "total_flos": 5.54115403874304e+16,
+  "train_batch_size": 16,
+  "trial_name": null,
+  "trial_params": null
+}