End of training

README.md

@@ -1,4 +1,6 @@
 ---
+language:
+- id
 license: apache-2.0
 base_model: LazarusNLP/IndoNanoT5-base
 tags:
@@ -18,10 +20,10 @@ should probably proofread and complete it, then remove this comment. -->
 This model is a fine-tuned version of [LazarusNLP/IndoNanoT5-base](https://huggingface.co/LazarusNLP/IndoNanoT5-base) on an unknown dataset.
 It achieves the following results on the evaluation set:
 - Loss: 1.8044
-- Rouge1: 0.7344
+- Rouge1: 0.5062
 - Rouge2: 0.0
-- Rougel: 0.7304
-- Rougelsum: 0.7303
+- Rougel: 0.5064
+- Rougelsum: 0.5047
 - Gen Len: 1.0
 
 ## Model description

all_results.json

@@ -0,0 +1,29 @@
+{
+    "epoch": 5.0,
+    "eval_gen_len": 1.0,
+    "eval_loss": 1.8043779134750366,
+    "eval_rouge1": 0.5062,
+    "eval_rouge2": 0.0,
+    "eval_rougeL": 0.5064,
+    "eval_rougeLsum": 0.5047,
+    "eval_runtime": 589.649,
+    "eval_samples": 749,
+    "eval_samples_per_second": 1.27,
+    "eval_steps_per_second": 0.041,
+    "predict_gen_len": 1.0,
+    "predict_loss": 1.823923945426941,
+    "predict_rouge1": 0.4701,
+    "predict_rouge2": 0.0,
+    "predict_rougeL": 0.47,
+    "predict_rougeLsum": 0.4703,
+    "predict_runtime": 2300.5519,
+    "predict_samples": 3762,
+    "predict_samples_per_second": 1.635,
+    "predict_steps_per_second": 0.051,
+    "total_flos": 5.530684398501888e+16,
+    "train_loss": 2.8264982351807735,
+    "train_runtime": 5651.47,
+    "train_samples": 14263,
+    "train_samples_per_second": 12.619,
+    "train_steps_per_second": 0.789
+}

eval_results.json

@@ -0,0 +1,13 @@
+{
+    "epoch": 5.0,
+    "eval_gen_len": 1.0,
+    "eval_loss": 1.8043779134750366,
+    "eval_rouge1": 0.5062,
+    "eval_rouge2": 0.0,
+    "eval_rougeL": 0.5064,
+    "eval_rougeLsum": 0.5047,
+    "eval_runtime": 589.649,
+    "eval_samples": 749,
+    "eval_samples_per_second": 1.27,
+    "eval_steps_per_second": 0.041
+}

generated_predictions.txt

@@ -0,0 +1,3761 @@
+:
+dalam
+hanya
+a
+dapat
+dari
+seperti
+dalam
+1
+akan
+)
+yang
+kamu
+2
+saya
+slot
+akan
+memiliki
+nya
+1
+1
+a
+
+seperti
+
+pada
+s
+"
+ini
+judi
+ada
+anda
+tidak
+ada
+orang
+
+k
+3
+.
+?
+anda
+karena
+e
+.
+dalam
+baik
+
+
+memiliki
+mereka
+
+dari
+adalah
+dapat
+kita
+1
+dalam
+dengan
+5
+cara
+dan
+bisa
+itu
+juga
+dan
+4
+
+permainan
+kita
+ke
+anda
+
+adalah
+1
+untuk
+
+anda
+akan
+tersebut
+atau
+dan
+
+mereka
+seperti
+menggunakan
+permainan
+indonesia
+atau
+
+adalah
+tidak
+saat
+sebagai
+tidak
+2
+
+
+dapat
+bahwa
+kamu
+d
+.
+4
+:
+,
+jika
+bisa
+beberapa
+s
+harus
+satu
+8
+saja
+dengan
+yang
+atau
+karena
+5
+harus
+tidak
+kamu
+dengan
+,
+dengan
+)
+ini
+sebagai
+1
+atau
+bisa
+kami
+akan
+saya
+1
+,
+dengan
+(
+dari
+"
+?
+kita
+dan
+seperti
+kita
+s
+8
+atau
+8
+
+atau
+3
+saat
+3
+
+s
+harus
+dalam
+nya
+beberapa
+
+-
+yang
+s
+beberapa
+hanya
+dalam
+orang
+membuat
+bahwa
+s
+indonesia
+1
+itu
+kita
+yang
+atau
+tidak
+3
+s
+sudah
+dengan
+itu
+
+besar
+.
+mereka
+k
+untuk
+juga
+a
+hanya
+sangat
+kita
+
+kan
+jika
+"
+0
+dalam
+
+anda
+tersebut
+mereka
+banyak
+kamu
+adalah
+kita
+dalam
+mereka
+itu
+
+-
+nya
+5
+pada
+satu
+0
+online
+0
+online
+
+oleh
+1
+
+7
+saja
+5
+
+maka
+?
+1
+sebagai
+u
+jika
+yang
+situs
+di
+dan
+untuk
+pada
+-
+dan
+seperti
+.
+k
+permainan
+7
+6
+bahwa
+.
+akan
+?
+juga
+yang
+anda
+1
+dan
+t
+bisa
+9
+2
+3
+kami
+memiliki
+e
+atau
+ini
+,
+.
+banyak
+di
+menjadi
+yang
+situs
+tidak
+baik
+,
+-
+4
+a
+karena
+3
+
+cara
+di
+adalah
+sebagai
+ada
+mereka
+saja
+kami
+dapat
+di
+saja
+di
+situs
+untuk
+memiliki
+orang
+saya
+yang
+atau
+
+memiliki
+lebih
+,
+dalam
+d
+dapat
+saya
+bisa
+8
+
+situs
+
+situs
+sudah
+
+tidak
+tersebut
+dari
+jika
+pada
+a
+:
+juga
+harus
+ini
+i
+:
+menjadi
+di
+beberapa
+5
+pada
+2
+saya
+itu
+bisa
+,
+tidak
+ini
+dengan
+ada
+
+
+
+pada
+untuk
+atau
+itu
+adalah
+0
+untuk
+untuk
+8
+dan
+menggunakan
+nya
+,
+6
+anda
+yang
+tidak
+,
+di
+anda
+secara
+online
+kami
+0
+dengan
+an
+
+yang
+online
+jika
+bahwa
+u
+2
+banyak
+lain
+saya
+juga
+dapat
+1
+:
+beberapa
+(
+lebih
+untuk
+hal
+(
+
+anda
+untuk
+7
+
+mereka
+yang
+:
+kita
+akan
+.
+baik
+
+yang
+saja
+
+.
+e
+baik
+jika
+bisa
+bisa
+yang
+indonesia
+situs
+itu
+.
+)
+
+mereka
+banyak
+jika
+8
+karena
+sudah
+8
+a
+orang
+itu
+(
+juga
+.
+satu
+besar
+yang
+
+-
+akan
+tidak
+nya
+7
+dapat
+semua
+:
+"
+-
+0
+juga
+bisa
+kamu
+dengan
+,
+k
+
+dari
+
+dengan
+permainan
+:
+harus
+0
+
+mereka
+juga
+
+karena
+menjadi
+nya
+jika
+judi
+saat
+dan
+permainan
+/
+0
+ada
+orang
+cara
+kita
+i
+
+
+1
+sebagai
+judi
+)
+oleh
+dan
+di
+yang
+,
+t
+,
+yang
+3
+saat
+orang
+.
+
+bagi
+ada
+9
+banyak
+lebih
+,
+i
+untuk
+dengan
+dapat
+(
+bahwa
+sudah
+nya
+"
+pada
+tidak
+judi
+tersebut
+harus
+/
+0
+i
+seperti
+dalam
+7
+k
+tersebut
+dari
+,
+
+cara
+anda
+karena
+ke
+adalah
+dan
+untuk
+yang
+"
+ada
+kita
+kami
+ini
+online
+
+
+
+jika
+sangat
+dan
+dari
+hal
+8
+an
+beberapa
+di
+atau
+bermain
+untuk
+
+an
+kita
+memiliki
+/
+cara
+lebih
+bisa
+.
+bahwa
+orang
+indonesia
+
+karena
+mereka
+dalam
+e
+sangat
+juga
+-
+,
+juga
+tidak
+adalah
+saat
+)
+3
+judi
+k
+mereka
+
+
+anda
+adalah
+mereka
+2
+:
+3
+,
+kita
+seperti
+pada
+menjadi
+1
+ini
+cara
+-
+0
+banyak
+membuat
+:
+
+bisa
+an
+(
+sangat
+judi
+saat
+5
+an
+adalah
+"
+s
+bahwa
+?
+itu
+t
+ada
+oleh
+jika
+e
+ke
+saat
+semua
+lain
+banyak
+
+juga
+,
+
+hal
+karena
+harus
+hanya
+
+atau
+tidak
+yang
+besar
+akan
+membuat
+untuk
+8
+hanya
+5
+dari
+:
+bisa
+0
+adalah
+s
+k
+hal
+banyak
+seperti
+sangat
+itu
+
+dalam
+nya
+bahwa
+i
+0
+2
+untuk
+jika
+dalam
+online
+ada
+7
+e
+juga
+juga
+
+i
+di
+tersebut
+sangat
+bisa
+.
+tersebut
+mereka
+secara
+menjadi
+1
+oleh
+mereka
+
+dari
+,
+dari
+kamu
+tidak
+.
+-
+sangat
+s
+hanya
+nya
+,
+kami
+
+kami
+5
+,
+dapat
+banyak
+
+,
+-
+nya
+adalah
+sebagai
+-
+tidak
+online
+yang
+cara
+6
+1
+indonesia
+satu
+sebagai
+i
+0
+karena
+tersebut
+jika
+t
+
+.
+juga
+0
+.
+menjadi
+
+kami
+4
+memiliki
+kami
+an
+akan
+tidak
+atau
+nya
+s
+untuk
+dalam
+apa
+atau
+t
+s
+akan
+
+yang
+(
+hanya
+atau
+anda
+untuk
+
+s
+e
+0
+u
+i
+.
+6
+kamu
+)
+oleh
+dengan
+dapat
+ini
+orang
+5
+untuk
+permainan
+yang
+e
+memiliki
+dapat
+di
+ini
+baik
+.
+sangat
+slot
+bisa
+"
+
+0
+orang
+akan
+atau
+"
+
+ke
+secara
+an
+tidak
+di
+untuk
+
+tidak
+
+menjadi
+sangat
+tidak
+yang
+besar
+sudah
+9
+0
+situs
+
+a
+(
+6
+-
+kamu
+/
+i
+i
+akan
+yang
+tersebut
+akan
+
+anda
+anda
+juga
+3
+pada
+
+bisa
+beberapa
+bisa
+3
+s
+oleh
+harus
+/
+yang
+
+tersebut
+situs
+akan
+pada
+seperti
+situs
+dengan
+,
+lebih
+"
+dan
+yang
+
+pada
+tidak
+nya
+beberapa
+
+anda
+anda
+-
+hal
+an
+i
+ada
+e
+2
+orang
+dengan
+seperti
+di
+
+
+orang
+dari
+adalah
+akan
+lain
+5
+s
+online
+tidak
+0
+adalah
+kamu
+akan
+
+6
+baik
+yang
+nya
+atau
+-
+6
+itu
+untuk
+
+lebih
+bisa
+:
+baik
+kan
+s
+
+lebih
+membuat
+dalam
+
+8
+itu
+atau
+k
+di
+adalah
+2
+,
+indonesia
+akan
+akan
+.
+bisa
+dan
+juga
+ini
+
+an
+memiliki
+
+dapat
+sebagai
+juga
+,
+nya
+s
+secara
+s
+ada
+online
+i
+ke
+ini
+anda
+sangat
+memiliki
+oleh
+pada
+anda
+untuk
+dan
+beberapa
+adalah
+permainan
+hal
+4
+juga
+i
+untuk
+untuk
+indonesia
+dalam
+k
+juga
+menjadi
+
+satu
+kami
+indonesia
+kami
+-
+untuk
+anda
+.
+cara
+1
+karena
+dengan
+.
+ini
+bermain
+itu
+dapat
+dengan
+(
+dengan
+8
+)
+9
+anda
+kan
+orang
+saja
+0
+-
+di
+8
+kita
+
+ke
+
+
+untuk
+e
+dalam
+s
+sudah
+itu
+membuat
+ke
+
+secara
+e
+
+ini
+4
+yang
+itu
+anda
+.
+s
+online
+
+bisa
+"
+mereka
+
+kita
+itu
+kamu
+s
+ini
+indonesia
+kamu
+lain
+hal
+yang
+pada
+anda
+uang
+dengan
+akan
+kita
+membuat
+5
+s
+sangat
+banyak
+kami
+yang
+5
+di
+nya
+s
+:
+,
+1
+saat
+kami
+
+bisa
+di
+(
+permainan
+8
+an
+
+(
+dari
+untuk
+akan
+0
+oleh
+
+s
+
+memiliki
+saat
+harus
+,
+harus
+i
+
+dari
+
+dan
+membuat
+ini
+anda
+)
+atau
+karena
+seperti
+untuk
+dengan
+)
+kita
+di
+cara
+k
+dengan
+(
+a
+untuk
+dalam
+untuk
+dalam
+besar
+"
+dengan
+u
+tersebut
+pada
+anda
+kamu
+.
+pada
+s
+4
+hanya
+8
+,
+sudah
+bahwa
+
+
+dan
+karena
+membuat
+karena
+jika
+
+k
+bahwa
+s
+3
+tidak
+-
+lebih
+:
+untuk
+akan
+d
+dapat
+bisa
+hal
+
+.
+di
+dari
+salah
+kita
+salah
+hal
+akan
+:
+3
+atau
+yang
+adalah
+adalah
+melakukan
+4
+baik
+bisa
+akan
+k
+orang
+anda
+kamu
+
+bagi
+dapat
+.
+untuk
+,
+dengan
+
+dapat
+sangat
+2
+.
+-
+
+1
+mereka
+saja
+:
+dengan
+ini
+online
+situs
+.
+.
+juga
+sebagai
+.
+
+untuk
+situs
+/
+7
+dengan
+yang
+7
+dari
+pada
+dengan
+orang
+anda
+
+nya
+ada
+i
+t
+untuk
+dalam
+an
+untuk
+e
+dengan
+:
+dan
+
+nya
+saat
+7
+di
+adalah
+di
+besar
+saat
+5
+sebagai
+.
+3
+akan
+tidak
+adalah
+dapat
+atau
+0
+dan
+
+akan
+menjadi
+dengan
+sebagai
+5
+dari
+s
+dalam
+membuat
+,
+adalah
+
+dengan
+ke
+kita
+-
+8
+hal
+d
+dengan
+lebih
+akan
+besar
+i
+anda
+)
+
+dapat
+e
+
+3
+t
+
+yang
+online
+untuk
+)
+itu
+menjadi
+kan
+
+juga
+juga
+
+memiliki
+menjadi
+s
+dan
+saja
+ini
+tidak
+s
+dengan
+akan
+adalah
+jika
+pada
+ini
+,
+yang
+hal
+,
+untuk
+?
+(
+:
+dan
+bahwa
+akan
+2
+juga
+dan
+nya
+0
+juga
+untuk
+ini
+ada
+2
+lebih
+harus
+5
+"
+tidak
+ada
+juga
+menjadi
+yang
+cara
+
+bisa
+
+,
+anda
+8
+akan
+k
+?
+,
+yang
+membuat
+pada
+dari
+indonesia
+menjadi
+untuk
+
+
+
+8
+oleh
+3
+kami
+1
+bisa
+semua
+juga
+anda
+pada
+oleh
+dan
+atau
+karena
+9
+an
+tersebut
+di
+.
+"
+bahwa
+beberapa
+yang
+di
+nya
+yang
+0
+beberapa
+.
+tidak
+
+)
+
+adalah
+banyak
+memiliki
+dalam
+)
+situs
+,
+1
+
+mereka
+.
+nya
+2
+.
+ini
+ada
+dengan
+di
+dengan
+akan
+pada
+3
+(
+t
+hal
+dengan
+ini
+i
+dan
+
+ini
+dalam
+sangat
+0
+dalam
+)
+online
+online
+adalah
+7
+hal
+bisa
+anda
+bisa
+dan
+-
+pada
+ada
+banyak
+saja
+lain
+1
+4
+a
+bisa
+karena
+juga
+ada
+dalam
+0
+tersebut
+lebih
+dengan
+dalam
+9
+(
+dapat
+bisa
+kita
+mereka
+adalah
+bisa
+satu
+ini
+itu
+banyak
+
+membuat
+dan
+untuk
+2
+s
+tidak
+.
+)
+oleh
+ini
+saya
+.
+semua
+i
+nya
+sebagai
+an
+tidak
+
+
+9
+tersebut
+hal
+jika
+sebagai
+adalah
+untuk
+sudah
+cara
+,
+,
+
+
+di
+adalah
+lebih
+dengan
+nya
+ada
+,
+untuk
+4
+1
+3
+akan
+dari
+
+sudah
+dan
+oleh
+)
+hal
+s
+2
+atau
+
+3
+anda
+itu
+
+seperti
+:
+dalam
+dan
+
+"
+satu
+membuat
+membuat
+
+bisa
+dari
+(
+bisa
+dengan
+ini
+cara
+dari
+0
+adalah
+2
+satu
+anda
+saja
+orang
+kita
+ada
+tidak
+pada
+judi
+s
+
+anda
+kami
+dengan
+dalam
+tidak
+itu
+/
+lebih
+adalah
+maka
+nya
+dengan
+2
+
+e
+satu
+
+a
+akan
+maka
+ke
+dapat
+s
+
+0
+0
+di
+di
+saya
+dan
+itu
+ini
+hanya
+ada
+tersebut
+adalah
+2
+yang
+cara
+kami
+sudah
+kita
+
+adalah
+0
+situs
+di
+yang
+s
+adalah
+
+"
+orang
+yang
+
+yang
+
+?
+juga
+
+.
+an
+anda
+
+t
+dalam
+maka
+bisa
+ini
+menjadi
+)
+/
+yang
+-
+/
+membuat
+besar
+0
+
+dapat
+kan
+untuk
+u
+untuk
+di
+karena
+tidak
+,
+judi
+s
+ke
+1
+hal
+
+satu
+bisa
+menjadi
+untuk
+baik
+.
+ini
+juga
+0
+kamu
+"
+pada
+cara
+itu
+slot
+anda
+,
+d
+ini
+tidak
+atau
+bahwa
+anda
+dapat
+saja
+yang
+ini
+situs
+permainan
+4
+saat
+
+saat
+dengan
+nya
+nya
+adalah
+saya
+seperti
+judi
+dan
+itu
+kamu
+jika
+judi
+s
+5
+
+
+di
+yang
+)
+juga
+yang
+judi
+dengan
+atau
+juga
+
+maka
+besar
+:
+banyak
+sangat
+tersebut
+k
+salah
+0
+0
+saja
+ini
+anda
+judi
+dalam
+s
+jika
+saya
+adalah
+
+t
+saya
+2
+secara
+bahwa
+anda
+ada
+menjadi
+juga
+atau
+mereka
+permainan
+saat
+an
+di
+satu
+dan
+sangat
+online
+ada
+kita
+(
+saat
+yang
+i
+beberapa
+yang
+.
+anda
+dalam
+kita
+uang
+memiliki
+anda
+tidak
+mereka
+8
+beberapa
+3
+2
+juga
+a
+i
+1
+e
+dan
+"
+anda
+itu
+
+a
+oleh
+bisa
+hal
+tersebut
+lebih
+online
+cara
+anda
+online
+dan
+
+oleh
+ke
+online
+8
+4
+yang
+di
+
+ada
+anda
+-
+indonesia
+itu
+e
+atau
+:
+)
+oleh
+)
+dalam
+kami
+ada
+
+"
+s
+,
+dapat
+"
+
+8
+di
+-
+permainan
+dan
+karena
+2
+jika
+tersebut
+menjadi
+dari
+para
+lebih
+"
+(
+"
+-
+bisa
+jika
+pada
+kita
+dari
+
+lebih
+dalam
+4
+tersebut
+membuat
+lebih
+
+0
+"
+.
+kami
+adalah
+itu
+dari
+banyak
+
+u
+atau
+di
+nya
+itu
+?
+7
+sebagai
+mereka
+sudah
+di
+nya
+yang
+dalam
+:
+9
+secara
+(
+beberapa
+satu
+9
+di
+
+oleh
+satu
+sebagai
+
+s
+satu
+di
+itu
+?
+ini
+hanya
+d
+an
+i
+di
+situs
+9
+t
+-
+dan
+tersebut
+hanya
+
+3
+maka
+judi
+i
+orang
+salah
+menjadi
+satu
+itu
+satu
+bahwa
+bahwa
+s
+akan
+d
+saya
+tidak
+hanya
+juga
+oleh
+1
+untuk
+-
+juga
+semua
+1
+(
+(
+banyak
+u
+u
+nya
+0
+ini
+,
+di
+s
+akan
+hanya
+-
+adalah
+9
+cara
+sudah
+saja
+
+itu
+jika
+satu
+adalah
+permainan
+8
+bisa
+sangat
+2
+cara
+di
+online
+banyak
+2
+s
+
+anda
+
+anda
+dapat
+kita
+atau
+indonesia
+tersebut
+k
+akan
+9
+menjadi
+
+8
+bisa
+seperti
+untuk
+banyak
+:
+anda
+a
+dengan
+hal
+atau
+mereka
+jika
+indonesia
+
+yang
+i
+bisa
+:
+
+tersebut
+2
+ini
+0
+saat
+dan
+bisa
+
+tersebut
+3
+satu
+satu
+adalah
+itu
+4
+sebagai
+yang
+seperti
+dengan
+itu
+ini
+.
+adalah
+yang
+saja
+dengan
+)
+dapat
+lebih
+dari
+karena
+bisa
+e
+online
+di
+dan
+dapat
+saat
+6
+anda
+yang
+saya
+dari
+2
+untuk
+saya
+nya
+hanya
+s
+k
+banyak
+mereka
+t
+ada
+dari
+nya
+:
+dengan
+secara
+
+)
+,
+mereka
+
+yang
+sebagai
+
+di
+
+an
+dengan
+/
+dari
+
+nya
+beberapa
+jika
+dapat
+nya
+9
+yang
+/
+kita
+
+tersebut
+sangat
+nya
+saya
+online
+cara
+cara
+u
+
+,
+orang
+banyak
+t
+karena
+0
+karena
+
+1
+t
+2
+9
+untuk
+yang
+.
+juga
+satu
+saat
+3
+akan
+i
+banyak
+kami
+,
+dan
+hal
+
+5
+kami
+ke
+anda
+ini
+baik
+8
+nya
+harus
+poker
+hal
+lebih
+bahwa
+/
+tidak
+online
+sudah
+
+untuk
+dan
+"
+saat
+beberapa
+pada
+dengan
+akan
+i
+di
+t
+ini
+anda
+secara
+dalam
+satu
+memiliki
+kami
+atau
+
+untuk
+ada
+
+pada
+online
+kan
+anda
+membuat
+ini
+juga
+di
+8
+online
+"
+dari
+saja
+-
+.
+anda
+membuat
+/
+akan
+d
+?
+dan
+an
+dan
+-
+
+pada
+
+/
+untuk
+untuk
+di
+adalah
+akan
+
+jika
+kita
+saja
+dengan
+)
+2
+secara
+dengan
+4
+juga
+akan
+online
+akan
+yang
+kita
+itu
+kan
+hanya
+sudah
+t
+.
+dan
+7
+di
+3
+?
+online
+
+judi
+ini
+untuk
+
+pada
+yang
+?
+3
+)
+saja
+dapat
+ini
+5
+oleh
+sangat
+untuk
+(
+bisa
+0
+atau
+1
+harus
+sudah
+2
+karena
+dan
+jika
+satu
+saja
+/
+yang
+k
+kami
+di
+bahwa
+-
+di
+ini
+4
+:
+itu
+beberapa
+e
+saat
+saya
+nya
+oleh
+
+.
+orang
+dalam
+,
+"
+0
+dan
+(
+baik
+
+karena
+di
+juga
+kami
+.
+situs
+anda
+ada
+kami
+
+
+kita
+8
+harus
+di
+lebih
+secara
+-
+(
+dengan
+(
+untuk
+,
+yang
+memiliki
+.
+1
+bisa
+hal
+1
+yang
+.
+harus
+mendapatkan
+tidak
+menjadi
+dan
+kamu
+?
+0
+3
+ke
+.
+
+adalah
+satu
+hal
+
+harus
+ada
+untuk
+
+online
+online
+lain
+
+e
+akan
+2
+dengan
+mereka
+karena
+kami
+1
+
+permainan
+
+4
+dengan
+ke
+
+seperti
+kita
+-
+itu
+beberapa
+satu
+lebih
+dengan
+di
+menjadi
+:
+permainan
+7
+harus
+satu
+jika
+2
+judi
+d
+/
+yang
+"
+yang
+0
+,
+bisa
+online
+pada
+jika
+untuk
+,
+mereka
+dan
+cara
+saya
+)
+
+pada
+"
+-
+saja
+dalam
+
+(
+untuk
+d
+0
+e
+ada
+e
+harus
+kami
+tidak
+k
+dan
+saya
+mereka
+sebagai
+s
+saat
+juga
+3
+e
+k
+
+ini
+anda
+slot
+harus
+permainan
+
+judi
+2
+permainan
+e
+kami
+.
+saat
+ini
+?
+2
+sudah
+sebagai
+-
+
+memiliki
+dan
+anda
+
+juga
+di
+pada
+0
+dari
+sudah
+atau
+dan
+juga
+memiliki
+kamu
+atau
+ini
+,
+
+
+
+s
+
+salah
+ini
+itu
+atau
+tersebut
+hanya
+kamu
+untuk
+dengan
+8
+
+jika
+juga
+(
+-
+3
+dan
+2
+-
+8
+sangat
+
+adalah
+2
+adalah
+3
+hanya
+besar
+beberapa
+saat
+
+saat
+a
+ke
+
+juga
+3
+sangat
+ke
+k
+
+/
+itu
+-
+
+karena
+2
+1
+dalam
+bisa
+"
+:
+s
+sangat
+1
+saja
+hal
+e
+akan
+-
+sudah
+2
+sudah
+s
+di
+satu
+ada
+orang
+
+a
+situs
+dapat
+beberapa
+
+
+dan
+untuk
+mereka
+sangat
+"
+t
+.
+4
+t
+s
+ini
+,
+memiliki
+anda
+adalah
+mereka
+game
+tersebut
+(
+3
+akan
+i
+5
+membuat
+untuk
+adalah
+hanya
+e
+dari
+?
+)
+.
+a
+,
+untuk
+-
+dengan
+banyak
+untuk
+saya
+hal
+ini
+s
+4
+bermain
+anda
+dalam
+memiliki
+memiliki
+2
+3
+,
+(
+
+-
+bahwa
+situs
+,
+dan
+indonesia
+harus
+k
+kami
+situs
+-
+(
+(
+baik
+/
+dengan
+tidak
+,
+
+:
+2
+judi
+.
+saya
+sangat
+hal
+
+
+sudah
+/
+juga
+untuk
+sudah
+pada
+nya
+dan
+satu
+dan
+"
+
+kan
+yang
+-
+tidak
+anda
+4
+tidak
+untuk
+1
+0
+5
+itu
+indonesia
+online
+i
+4
+ke
+
+bisa
+slot
+karena
+jika
+
+(
+0
+ke
+dapat
+semua
+t
+dari
+ini
+untuk
+lain
+dalam
+/
+cara
+anda
+saat
+juga
+hanya
+juga
+anda
+(
+beberapa
+seperti
+/
+
+tidak
+bisa
+kan
+5
+dan
+
+(
+di
+2
+dan
+itu
+cara
+ke
+di
+lebih
+hanya
+-
+yang
+tersebut
+online
+dalam
+,
+1
+untuk
+?
+1
+dengan
+lebih
+baik
+.
+untuk
+yang
+baik
+untuk
+juga
+seperti
+k
+lebih
+ini
+seperti
+
+/
+tersebut
+tersebut
+1
+jika
+
+
+mereka
+pada
+"
+menjadi
+6
+anda
+4
+ini
+sangat
+kami
+0
+di
+judi
+1
+:
+dalam
+pada
+-
+
+saat
+-
+
+a
+5
+?
+orang
+k
+dengan
+game
+lebih
+pada
+9
+)
+di
+anda
+.
+sudah
+seperti
+kami
+ke
+maka
+untuk
+-
+karena
+adalah
+tidak
+untuk
+memiliki
+situs
+di
+cara
+ini
+kan
+harus
+oleh
+:
+telah
+1
+yang
+kita
+6
+yang
+dalam
+2
+itu
+kita
+tidak
+sebagai
+8
+s
+salah
+dalam
+adalah
+"
+
+2
+)
+bahwa
+.
+6
+i
+indonesia
+a
+3
+satu
+hanya
+2
+ke
+-
+dari
+.
+:
+,
+s
+tidak
+1
+atau
+indonesia
+1
+.
+kami
+
+saja
+,
+8
+harus
+t
+kita
+d
+lebih
+kita
+secara
+akan
+situs
+yang
+untuk
+ini
+dapat
+9
+)
+0
+bisa
+7
+adalah
+karena
+karena
+sangat
+?
+4
+?
+nya
+
+kita
+lebih
+memiliki
+untuk
+online
+judi
+ini
+hanya
+untuk
+tersebut
+i
+sangat
+lain
+8
+
+1
+oleh
+hanya
+di
+sangat
+membuat
+dalam
+-
+3
+9
+ini
+5
+di
+e
+hanya
+baik
+di
+sudah
+juga
+cara
+t
+dengan
+2
+-
+
+dalam
+para
+orang
+sudah
+dari
+-
+
+sangat
+sudah
+.
+mereka
+"
+3
+para
+mereka
+judi
+mereka
+9
+9
+ini
+tersebut
+.
+itu
+sangat
+kita
+memiliki
+yang
+yang
+hal
+
+i
+?
+oleh
+dari
+ada
+2
+an
+di
+telah
+)
+dan
+nya
+orang
+di
+dalam
+5
+
+karena
+7
+hanya
+dapat
+k
+i
+
+pada
+
+t
+namun
+anda
+judi
+akan
+untuk
+4
+baik
+i
+adalah
+3
+yang
+1
+2
+dan
+seperti
+
+u
+i
+)
+sudah
+situs
+itu
+dalam
+cara
+s
+anda
+i
+saja
+pada
+karena
+k
+adalah
+saya
+untuk
+di
+yang
+1
+"
+banyak
+.
+nya
+dari
+d
+1
+
+menjadi
+online
+saya
+nya
+e
+orang
+permainan
+para
+
+itu
+permainan
+dan
+karena
+ke
+
+0
+
+situs
+pada
+
+ke
+a
+dari
+kita
+tidak
+4
+?
+ini
+hanya
+karena
+nya
+,
+
+2
+dari
+tersebut
+:
+e
+-
+3
+saya
+yang
+?
+,
+oleh
+saat
+
+
+nya
+
+,
+kita
+i
+dengan
+saya
+saat
+4
+nya
+anda
+1
+permainan
+3
+harus
+
+menjadi
+menjadi
+atau
+e
+
+sebagai
+"
+permainan
+s
+untuk
+akan
+anda
+kami
+i
+
+sudah
+)
+seperti
+0
+
+seperti
+4
+memiliki
+dapat
+karena
+yang
+beberapa
+bisa
+s
+dapat
+-
+kan
+3
+beberapa
+(
+baik
+.
+e
+judi
+dari
+5
+bisa
+nya
+anda
+,
+harus
+dapat
+kita
+.
+dan
+
+.
+salah
+dan
+dengan
+pada
+ini
+besar
+4
+orang
+karena
+i
+bermain
+saat
+dari
+hal
+juga
+2
+itu
+bisa
+ini
+bisa
+
+
+a
+cara
+dalam
+:
+adalah
+dalam
+kami
+?
+-
+anda
+kita
+,
+-
+an
+karena
+nya
+/
+dan
+
+2
+tersebut
+saja
+
+dengan
+online
+online
+baik
+di
+online
+dapat
+hal
+akan
+
+
+dan
+situs
+anda
+yang
+permainan
+anda
+pada
+di
+ini
+ini
+banyak
+1
+.
+hal
+1
+dengan
+saya
+,
+akan
+bisa
+:
+"
+pada
+
+seperti
+bermain
+atau
+semua
+0
+t
+atau
+
+
+adalah
+sangat
+,
+e
+t
+,
+.
+di
+hanya
+
+t
+(
+?
+?
+
+kami
+e
+sudah
+.
+.
+adalah
+
+akan
+.
+e
+3
+i
+i
+.
+juga
+kita
+3
+itu
+cara
+untuk
+cara
+
+itu
+untuk
+dengan
+4
+-
+untuk
+
+juga
+8
+permainan
+satu
+-
+di
+.
+0
+permainan
+
+tidak
+/
+bahwa
+t
+
+lebih
+saat
+oleh
+
+online
+lebih
+saat
+/
+7
+3
+5
+1
+3
+yang
+,
+kita
+
+0
+i
+bermain
+nya
+dari
+atau
+i
+u
+ini
+s
+satu
+2
+8
+0
+,
+online
+nya
+dengan
+tersebut
+yang
+nya
+itu
+e
+akan
+di
+k
+pada
+kami
+karena
+dari
+harus
+menjadi
+dan
+tidak
+i
+anda
+oleh
+1
+permainan
+8
+,
+,
+tidak
+dapat
+atau
+banyak
+5
+jika
+t
+online
+hanya
+u
+6
+adalah
+harus
+karena
+a
+membuat
+lebih
+3
+kan
+memiliki
+)
+akan
+itu
+bisa
+(
+1
+
+atau
+dan
+maka
+bisa
+satu
+
+)
+
+anda
+pada
+)
+
+akan
+)
+dalam
+bisa
+1
+3
+atau
+
+anda
+,
+saat
+sebagai
+juga
+cara
+saat
+)
+bisa
+5
+seperti
+yang
+akan
+/
+lebih
+permainan
+bahwa
+dengan
+anda
+saja
+cara
+2
+a
+9
+
+sudah
+cara
+dari
+cara
+lebih
+tersebut
+6
+"
+karena
+an
+5
+akan
+jika
+,
+satu
+dapat
+0
+,
+
+
+u
+juga
+0
+,
+slot
+
+
+7
+)
+-
+akan
+banyak
+:
+kita
+k
+di
+dari
+"
+,
+menjadi
+-
+situs
+satu
+2
+dengan
+untuk
+
+ini
+karena
+dari
+anda
+permainan
+sebagai
+pada
+situs
+dan
+memiliki
+permainan
+4
+saya
+online
+
+lebih
+?
+di
+dengan
+2
+online
+dapat
+2
+nya
+membuat
+saat
+harus
+-
+judi
+:
+karena
+0
+dan
+)
+kita
+bahwa
+,
+
+4
+i
+ke
+situs
+jika
+
+situs
+situs
+dengan
+d
+,
+saya
+banyak
+orang
+saja
+3
+saya
+bahwa
+tidak
+dalam
+dalam
+hanya
+memiliki
+,
+k
+0
+pada
+ada
+s
+i
+anda
+,
+pada
+karena
+seperti
+maka
+tidak
+yang
+satu
+.
+memiliki
+lebih
+hanya
+sangat
+anda
+adalah
+bahwa
+dapat
+-
+
+di
+(
+di
+memiliki
+0
+itu
+5
+2
+mereka
+dari
+i
+mereka
+0
+seperti
+lain
+4
+dalam
+dari
+oleh
+nya
+juga
+"
+ke
+kamu
+jadi
+nya
+cara
+yang
+untuk
+itu
+dari
+sudah
+mereka
+untuk
+dalam
+di
+online
+adalah
+,
+sangat
+situs
+bisa
+-
+yang
+hanya
+beberapa
+cara
+dari
+ada
+cara
+0
+4
+bahwa
+hanya
+i
+9
+-
+)
+?
+ini
+(
+e
+ini
+oleh
+bisa
+,
+hanya
+atau
+0
+anda
+memiliki
+itu
+banyak
+dengan
+/
+"
+saya
+dapat
+
+bahwa
+,
+adalah
+dan
+i
+beberapa
+karena
+lebih
+oleh
+sudah
+salah
+orang
+tersebut
+dan
+mereka
+i
+
+mereka
+7
+9
+menjadi
+akan
+sudah
+anda
+itu
+s
+dapat
+cara
+tidak
+kita
+dari
+dan
+3
+harus
+lebih
+yang
+mereka
+di
+situs
+
+untuk
+seperti
+u
+dari
+8
+/
+-
+nya
+di
+dan
+
+9
+saja
+pada
+
+menjadi
+juga
+2
+baik
+a
+juga
+atau
+bisa
+judi
+indonesia
+8
+sebagai
+1
+juga
+dengan
+dengan
+
+oleh
+i
+atau
+di
+
+baik
+dengan
+permainan
+dapat
+besar
+6
+memiliki
+satu
+2
+adalah
+-
+jika
+-
+hanya
+beberapa
+anda
+yang
+membuat
+(
+sebagai
+1
+mereka
+anda
+dari
+
+dengan
+
+0
+9
+satu
+k
+dan
+lebih
+k
+
+dalam
+7
+s
+kita
+cara
+dalam
+oleh
+ini
+
+"
+bahwa
+ini
+dan
+kita
+,
+menjadi
+cara
+tersebut
+beberapa
+3
+sudah
+akan
+untuk
+0
+indonesia
+hal
+

predict_results.json

@@ -0,0 +1,12 @@
+{
+    "predict_gen_len": 1.0,
+    "predict_loss": 1.823923945426941,
+    "predict_rouge1": 0.4701,
+    "predict_rouge2": 0.0,
+    "predict_rougeL": 0.47,
+    "predict_rougeLsum": 0.4703,
+    "predict_runtime": 2300.5519,
+    "predict_samples": 3762,
+    "predict_samples_per_second": 1.635,
+    "predict_steps_per_second": 0.051
+}

train_results.json

@@ -0,0 +1,9 @@
+{
+    "epoch": 5.0,
+    "total_flos": 5.530684398501888e+16,
+    "train_loss": 2.8264982351807735,
+    "train_runtime": 5651.47,
+    "train_samples": 14263,
+    "train_samples_per_second": 12.619,
+    "train_steps_per_second": 0.789
+}

trainer_state.json

@@ -0,0 +1,130 @@
+{
+  "best_metric": null,
+  "best_model_checkpoint": null,
+  "epoch": 5.0,
+  "eval_steps": 500,
+  "global_step": 4460,
+  "is_hyper_param_search": false,
+  "is_local_process_zero": true,
+  "is_world_process_zero": true,
+  "log_history": [
+    {
+      "epoch": 1.0,
+      "grad_norm": 0.7554452419281006,
+      "learning_rate": 0.0008,
+      "loss": 3.3628,
+      "step": 892
+    },
+    {
+      "epoch": 1.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 2.439711570739746,
+      "eval_rouge1": 0.6547,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.6528,
+      "eval_rougeLsum": 0.6482,
+      "eval_runtime": 52.9937,
+      "eval_samples_per_second": 14.134,
+      "eval_steps_per_second": 0.453,
+      "step": 892
+    },
+    {
+      "epoch": 2.0,
+      "grad_norm": 0.7860782742500305,
+      "learning_rate": 0.0006,
+      "loss": 2.9712,
+      "step": 1784
+    },
+    {
+      "epoch": 2.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 2.168884515762329,
+      "eval_rouge1": 0.7523,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.7469,
+      "eval_rougeLsum": 0.7499,
+      "eval_runtime": 54.6896,
+      "eval_samples_per_second": 13.695,
+      "eval_steps_per_second": 0.439,
+      "step": 1784
+    },
+    {
+      "epoch": 3.0,
+      "grad_norm": 0.9390321373939514,
+      "learning_rate": 0.0004,
+      "loss": 2.7587,
+      "step": 2676
+    },
+    {
+      "epoch": 3.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 2.0106146335601807,
+      "eval_rouge1": 0.7036,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.6976,
+      "eval_rougeLsum": 0.6976,
+      "eval_runtime": 49.5777,
+      "eval_samples_per_second": 15.108,
+      "eval_steps_per_second": 0.484,
+      "step": 2676
+    },
+    {
+      "epoch": 4.0,
+      "grad_norm": 0.9664363265037537,
+      "learning_rate": 0.0002,
+      "loss": 2.5869,
+      "step": 3568
+    },
+    {
+      "epoch": 4.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 1.8910845518112183,
+      "eval_rouge1": 0.7054,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.7046,
+      "eval_rougeLsum": 0.6985,
+      "eval_runtime": 50.4626,
+      "eval_samples_per_second": 14.843,
+      "eval_steps_per_second": 0.476,
+      "step": 3568
+    },
+    {
+      "epoch": 5.0,
+      "grad_norm": 1.0675299167633057,
+      "learning_rate": 0.0,
+      "loss": 2.4529,
+      "step": 4460
+    },
+    {
+      "epoch": 5.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 1.8043779134750366,
+      "eval_rouge1": 0.7344,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.7304,
+      "eval_rougeLsum": 0.7303,
+      "eval_runtime": 50.1443,
+      "eval_samples_per_second": 14.937,
+      "eval_steps_per_second": 0.479,
+      "step": 4460
+    },
+    {
+      "epoch": 5.0,
+      "step": 4460,
+      "total_flos": 5.530684398501888e+16,
+      "train_loss": 2.8264982351807735,
+      "train_runtime": 5651.47,
+      "train_samples_per_second": 12.619,
+      "train_steps_per_second": 0.789
+    }
+  ],
+  "logging_steps": 500,
+  "max_steps": 4460,
+  "num_input_tokens_seen": 0,
+  "num_train_epochs": 5,
+  "save_steps": 500,
+  "total_flos": 5.530684398501888e+16,
+  "train_batch_size": 16,
+  "trial_name": null,
+  "trial_params": null
+}