End of training

README.md

@@ -1,4 +1,6 @@
 ---
+language:
+- id
 license: apache-2.0
 base_model: LazarusNLP/IndoNanoT5-base
 tags:

all_results.json

@@ -0,0 +1,29 @@
+{
+    "epoch": 5.0,
+    "eval_gen_len": 1.0,
+    "eval_loss": 2.2596616744995117,
+    "eval_rouge1": 0.4544,
+    "eval_rouge2": 0.0,
+    "eval_rougeL": 0.4545,
+    "eval_rougeLsum": 0.4552,
+    "eval_runtime": 162.4456,
+    "eval_samples": 750,
+    "eval_samples_per_second": 4.617,
+    "eval_steps_per_second": 0.148,
+    "predict_gen_len": 1.0,
+    "predict_loss": 2.2949817180633545,
+    "predict_rouge1": 0.503,
+    "predict_rouge2": 0.0,
+    "predict_rougeL": 0.503,
+    "predict_rougeLsum": 0.5015,
+    "predict_runtime": 793.8989,
+    "predict_samples": 3762,
+    "predict_samples_per_second": 4.739,
+    "predict_steps_per_second": 0.149,
+    "total_flos": 8.512744818393907e+16,
+    "train_loss": 3.0636178162682275,
+    "train_runtime": 5809.9425,
+    "train_samples": 14262,
+    "train_samples_per_second": 12.274,
+    "train_steps_per_second": 1.534
+}

eval_results.json

@@ -0,0 +1,13 @@
+{
+    "epoch": 5.0,
+    "eval_gen_len": 1.0,
+    "eval_loss": 2.2596616744995117,
+    "eval_rouge1": 0.4544,
+    "eval_rouge2": 0.0,
+    "eval_rougeL": 0.4545,
+    "eval_rougeLsum": 0.4552,
+    "eval_runtime": 162.4456,
+    "eval_samples": 750,
+    "eval_samples_per_second": 4.617,
+    "eval_steps_per_second": 0.148
+}

generated_predictions.txt

@@ -0,0 +1,3762 @@
+k
+1
+0
+untuk
+itu
+itu
+itu
+dan
+a
+/
+"
+sudah
+dengan
+i
+2
+
+jika
+harus
+dan
+)
+akan
+
+ke
+memiliki
+adalah
+hal
+
+di
+9
+ini
+.
+
+dan
+juga
+orang
+0
+untuk
+
+0
+adalah
+-
+0
+e
+2
+dapat
+
+sudah
+saat
+harus
+dan
+di
+.
+2
+ke
+1
+
+menjadi
+hanya
+
+dalam
+0
+online
+tersebut
+saya
+atau
+ini
+dapat
+1
+dari
+beberapa
+anda
+
+:
+online
+,
+.
+.
+itu
+tidak
+2
+ini
+di
+kami
+saat
+
+
+dari
+9
+dengan
+baik
+
+hal
+baik
+cara
+cara
+cara
+di
+ke
+itu
+2
+dan
+nya
+i
+dan
+1
+tidak
+s
+.
+dari
+ini
+:
+0
+
+
+0
+4
+online
+kita
+.
+situs
+dari
+ke
+bisa
+k
+0
+beberapa
+dari
+lebih
+seperti
+dan
+dan
+a
+nya
+kamu
+,
+
+anda
+0
+yang
+i
+ini
+anda
+0
+:
+.
+atau
+kamu
+akan
+u
+yang
+anda
+situs
+sudah
+
+sangat
+oleh
+tersebut
+sudah
+menggunakan
+ini
+)
+yang
+anda
+,
+lebih
+3
+dapat
+untuk
+saya
+secara
+judi
+kamu
+sudah
+dalam
+yang
+hal
+nya
+"
+tidak
+dari
+
+
+sangat
+untuk
+yang
+1
+
+
+0
+akan
+ini
+ada
+di
+untuk
+oleh
+saat
+atau
+
+:
+
+sudah
+1
+karena
+t
+-
+sangat
+2
+
+
+
+banyak
+melakukan
+-
+secara
+:
+
+dalam
+di
+adalah
+,
+dan
+mereka
+
+
+-
+lebih
+2
+dan
+untuk
+atau
+adalah
+-
+itu
+dan
+harus
+dan
+cara
+5
+.
+untuk
+9
+)
+:
+di
+
+dengan
+pada
+karena
+:
+nya
+dari
+kita
+,
+judi
+(
+s
+banyak
+jika
+hanya
+akan
+.
+ini
+beberapa
+hal
+,
+,
+yang
+tidak
+pada
+
+9
+sebagai
+di
+3
+juga
+e
+i
+dapat
+pada
+tersebut
+
+adalah
+saya
+anda
+secara
+t
+dapat
+dengan
+hanya
+
+
+di
+jika
+kamu
+ada
+,
+lebih
+kamu
+sudah
+dan
+dari
+.
+indonesia
+di
+tersebut
+atau
+1
+-
+untuk
+
+nya
+
+
+9
+
+bahwa
+mereka
+2
+online
+adalah
+dengan
+dengan
+,
+.
+
+adalah
+dan
+oleh
+di
+bisa
+:
+
+jika
+yang
+di
+dengan
+
+di
+1
+ini
+akan
+ke
+permainan
+judi
+sudah
+k
+sudah
+ada
+dengan
+dalam
+,
+-
+dengan
+saja
+e
+saya
+dari
+memiliki
+yang
+
+adalah
+nya
+kami
+bisa
+/
+)
+(
+0
+2
+/
+yang
+8
+atau
+t
+.
+itu
+
+,
+ini
+beberapa
+anda
+dapat
+anda
+
+untuk
+nya
+beberapa
+pada
+adalah
+:
+:
+
+anda
+jika
+yang
+-
+dan
+di
+juga
+dari
+i
+anda
+5
+menjadi
+(
+dan
+
+
+atau
+
+
+adalah
+harus
+jika
+
+mereka
+juga
+mereka
+akan
+yang
+.
+
+
+)
+.
+itu
+di
+untuk
+untuk
+-
+.
+pada
+akan
+saat
+pada
+terbaik
+di
+karena
+membuat
+untuk
+karena
+yang
+yang
+(
+jika
+membuat
+judi
+itu
+
+"
+3
+
+lebih
+karena
+/
+i
+2
+i
+dan
+8
+judi
+atau
+tidak
+dan
+(
+,
+.
+anda
+kita
+sangat
+mereka
+.
+satu
+menjadi
+secara
+atau
+0
+s
+
+8
+5
+ke
+atau
+9
+kita
+e
+/
+
+besar
+seperti
+jika
+
+,
+-
+bahwa
+juga
+sangat
+sangat
+:
+juga
+4
+dengan
+menjadi
+,
+0
+0
+
+1
+tidak
+di
+
+tidak
+s
+,
+6
+jika
+yang
+
+t
+0
+
+telah
+.
+pada
+dengan
+yang
+pada
+atau
+,
+tidak
+oleh
+seperti
+orang
+
+k
+membuat
+
+dengan
+,
+satu
+.
+4
+5
+s
+
+mereka
+secara
+
+di
+di
+
+saya
+
+"
+sangat
+atau
+pada
+anda
+dalam
+kita
+menjadi
+1
+ke
+0
+yang
+5
+nya
+dari
+
+secara
+?
+itu
+seperti
+
+bisa
+seperti
+ini
+:
+1
+dan
+untuk
+-
+ada
+t
+harus
+mereka
+?
+"
+bisa
+2
+0
+bermain
+
+:
+membuat
+untuk
+saat
+situs
+memiliki
+dengan
+lebih
+an
+
+adalah
+/
+tersebut
+dapat
+juga
+cara
+kamu
+itu
+permainan
+permainan
+kita
+1
+untuk
+banyak
+anda
+
+
+i
+
+dari
+jika
+harus
+0
+dalam
+5
+dengan
+1
+di
+/
+anda
+harus
+
+kan
+saat
+5
+
+sangat
+
+cara
+sudah
+s
+mereka
+
+dan
+hal
+,
+dari
+s
+kita
+)
+-
+
+hal
+1
+memiliki
+game
+s
+anda
+harus
+yang
+dan
+
+dan
+1
+tersebut
+game
+.
+bisa
+yang
+hal
+memiliki
+lebih
+0
+akan
+tersebut
+orang
+lebih
+
+2
+juga
+dan
+kami
+,
+pada
+atau
+.
+-
+untuk
+akan
+dengan
+.
+(
+satu
+menjadi
+jika
+judi
+ada
+1
+baik
+uang
+
+-
+orang
+sangat
+
+kita
+uang
+adalah
+ini
+0
+dan
+
+itu
+
+juga
+.
+satu
+-
+kami
+situs
+-
+a
+
+adalah
+judi
+nya
+dengan
+dan
+di
+dalam
+
+juga
+anda
+anda
+sangat
+online
+1
+ada
+
+akan
+
+orang
+jika
+memiliki
+pada
+memiliki
+
+lebih
+ini
+bisa
+)
+lebih
+yang
+untuk
+yang
+untuk
+judi
+-
+ada
+bisa
+hanya
+saat
+dengan
+e
+1
+anda
+harus
+di
+jika
+menjadi
+dengan
+
+nya
+beberapa
+untuk
+oleh
+-
+game
+online
+3
+beberapa
+saja
+itu
+di
+
+3
+orang
+dengan
+permainan
+kami
+bisa
+pada
+itu
+
+anda
+tidak
+,
+bahwa
+:
+yang
+
+dengan
+0
+)
+an
+akan
+ke
+.
+5
+
+dapat
+dari
+itu
+jika
+s
+dalam
+
+saya
+.
+saya
+ini
+,
+9
+.
+bisa
+yang
+saja
+adalah
+2
+di
+ini
+dalam
+
+di
+di
+nya
+menjadi
+
+permainan
+judi
+.
+juga
+
+
+slot
+
+dan
+
+bisa
+dengan
+pada
+bahwa
+pada
+judi
+harus
+
+permainan
+tidak
+-
+kita
+
+
+kamu
+adalah
+judi
+saat
+judi
+i
+,
+kan
+membuat
+k
+5
+seperti
+saya
+online
+ke
+1
+oleh
+dari
+di
+menjadi
+anda
+saya
+,
+kita
+4
+saya
+ke
+seperti
+2
+
+.
+memiliki
+5
+dan
+untuk
+sebagai
+judi
+saya
+online
+untuk
+an
+dalam
+s
+9
+
+adalah
+0
+akan
+game
+anda
+0
+yang
+
+6
+karena
+)
+tidak
+.
+bahwa
+tersebut
+-
+0
+
+indonesia
+
+dapat
+s
+5
+
+juga
+yang
+saat
+itu
+sudah
+banyak
+
+harus
+-
+dengan
+7
+
+atau
+online
+
+lebih
+1
+hal
+hanya
+oleh
+8
+oleh
+
+9
+0
+ke
+dengan
+0
+nya
+
+oleh
+
+)
+bermain
+ada
+0
+mereka
+ada
+-
+
+dalam
+orang
+an
+ke
+untuk
+e
+hanya
+ini
+4
+(
+i
+
+memiliki
+saya
+saat
+untuk
+yang
+juga
+9
+hanya
+e
+permainan
+baik
+bisa
+beberapa
+bisa
+ke
+harus
+oleh
+ini
+ini
+3
+oleh
+8
+dan
+mungkin
+7
+1
+cara
+9
+di
+sebagai
+t
+untuk
+,
+.
+lebih
+
+
+
+,
+itu
+
+menjadi
+dan
+harus
+permainan
+di
+an
+atau
+saya
+dengan
+jika
+dan
+hal
+lebih
+bisa
+,
+ini
+
+oleh
+kita
+)
+
+sangat
+karena
+sudah
+dengan
+1
+harus
+)
+dapat
+sudah
+dengan
+
+3
+tidak
+nya
+1
+.
+lebih
+3
+beberapa
+)
+yang
+harus
+di
+,
+"
+s
+4
+
+.
+di
+karena
+dapat
+dengan
+)
+
+dari
+"
+,
+untuk
+dalam
+untuk
+
+ada
+menjadi
+yang
+sangat
+dengan
+beberapa
+,
+akan
+karena
+orang
+0
+itu
+karena
+/
+orang
+harus
+online
+,
+satu
+
+)
+?
+para
+,
+"
+adalah
+memiliki
+untuk
+pada
+akan
+dengan
+
+?
+anda
+
+online
+nya
+2
+juga
+
+bahwa
+1
+bisa
+.
+menjadi
+dalam
+an
+
+jika
+menjadi
+harus
+
+dapat
+kamu
+yang
+
+pada
+tersebut
+an
+
+dan
+9
+dalam
+dengan
+bagi
+-
+s
+
+
+bermain
+ke
+sudah
+i
+-
+,
+sudah
+ini
+dari
+untuk
+
+
+seperti
+juga
+dan
+-
+ada
+
+)
+di
+
+lebih
+tidak
+orang
+saja
+
+e
+
+adalah
+dalam
+an
+memiliki
+"
+atau
+mereka
+banyak
+dengan
+bisa
+di
+)
+yang
+hanya
+,
+mereka
+satu
+
+2
+)
+dengan
+i
+
+e
+s
+kamu
+saja
+s
+yang
+dari
+permainan
+ke
+1
+anda
+
+1
+saja
+.
+(
+.
+situs
+
+dan
+dari
+dan
+dengan
+kita
+ada
+saja
+9
+
+situs
+salah
+memiliki
+
+
+
+ke
+para
+lebih
+i
+itu
+sudah
+untuk
+,
+4
+seperti
+
+mereka
+hanya
+
+bahwa
+0
+dapat
+1
+pada
+bahwa
+yang
+hanya
+yang
+hanya
+s
+yang
+sebagai
+)
+di
+5
+
+dapat
+i
+
+orang
+dari
+akan
+ke
+0
+.
+.
+dari
+untuk
+,
+dengan
+orang
+
+hanya
+.
+sangat
+8
+atau
+itu
+2
+ini
+ke
+jika
+orang
+sebagai
+5
+s
+hanya
+dari
+karena
+karena
+tersebut
+
+/
+dan
+yang
+dan
+
+1
+pada
+0
+
+jika
+"
+untuk
+kami
+seperti
+i
+/
+dengan
+)
+yang
+online
+dari
+.
+jika
+kami
+harus
+
+kan
+di
+ada
+
+e
+4
+8
+itu
+5
+9
+untuk
+,
+ke
+saja
+cara
+bisa
+oleh
+
+bisa
+jika
+tersebut
+anda
+cara
+bisa
+
+1
+tidak
+an
+lebih
+,
+yang
+bisa
+cara
+dalam
+ada
+beberapa
+i
+untuk
+an
+2
+karena
+.
+,
+0
+bisa
+harus
+nya
+
+.
+menggunakan
+yang
+bisa
+
+a
+5
+dalam
+nya
+
+.
+karena
+banyak
+nya
+/
+nya
+karena
+,
+
+cara
+
+beberapa
+,
+,
+kami
+1
+banyak
+permainan
+:
+memiliki
+untuk
+karena
+oleh
+:
+dan
+yang
+0
+di
+dengan
+9
+k
+saya
+
+karena
+secara
+1
+,
+dengan
+-
+juga
+.
+(
+seperti
+atau
+yang
+
+k
+yang
+tidak
+satu
+adalah
+,
+t
+
+karena
+dari
+juga
+karena
+dapat
+,
+memiliki
+yang
+adalah
+kan
+cara
+-
+dengan
+ada
+banyak
+hanya
+akan
+memiliki
+.
+
+5
+dalam
+
+baik
+.
+
+untuk
+2
+0
+dan
+
+9
+)
+ada
+8
+anda
+atau
+
+,
+nya
+pada
+juga
+bisa
+ini
+juga
+
+ini
+lebih
+cara
+dengan
+sangat
+
+8
+situs
+,
+dengan
+untuk
+dan
+
+ada
+
+yang
+yang
+,
+harus
+
+pada
+kami
+anda
+ke
+
+kita
+pada
+sangat
+bisa
+-
+
+ada
+anda
+2
+bahwa
+judi
+ini
+pada
+e
+itu
+banyak
+2
+dengan
+kan
+menjadi
+kamu
+beberapa
+1
+?
+nya
+akan
+dan
+dan
+ke
+
+
+
+i
+3
+0
+
+:
+memiliki
+ke
+nya
+(
+anda
+anda
+saya
+slot
+-
+2
+bisa
+dari
+0
+online
+anda
+karena
+dari
+atau
+karena
+tidak
+permainan
+,
+tidak
+sudah
+t
+tidak
+sangat
+tidak
+.
+2
+satu
+hanya
+"
+.
+atau
+:
+-
+tersebut
+cara
+pada
+.
+akan
+(
+itu
+tidak
+sebagai
+sangat
+juga
+yang
+adalah
+pada
+0
+atau
+permainan
+dari
+anda
+,
+
+sangat
+5
+-
+di
+di
+bisa
+ini
+atau
+/
+seperti
+
+:
+1
+
+dari
+yang
+ini
+dan
+adalah
+online
+oleh
+ada
+
+judi
+atau
+saja
+k
+
+atau
+hanya
+akan
+akan
+"
+tahun
+,
+game
+sangat
+situs
+i
+-
+dengan
+2
+(
+dengan
+online
+satu
+bisa
+mereka
+k
+
+
+8
+di
+sebagai
+
+ke
+cara
+
+
+.
+:
+3
+judi
+-
+yang
+dapat
+sangat
+kami
+adalah
+,
+akan
+:
+1
+,
+satu
+2
+akan
+kita
+5
+
+menjadi
+ada
+juga
+atau
+4
+dalam
+ini
+.
+untuk
+,
+
+saja
+
+
+seperti
+
+
+dan
+menjadi
+banyak
+e
+pada
+lebih
+nya
+tidak
+akan
+adalah
+
+(
+atau
+tersebut
+.
+pada
+dan
+3
+pada
+.
+di
+adalah
+banyak
+sangat
+
+anda
+memiliki
+s
+5
+ini
+
+karena
+itu
+menjadi
+orang
+karena
+,
+tidak
+0
+dengan
+seperti
+kamu
+i
+,
+:
+-
+nya
+i
+untuk
+adalah
+yang
+.
+jika
+nya
+:
+bahwa
+.
+oleh
+akan
+online
+0
+akan
+dan
+karena
+bisa
+online
+dengan
+"
+3
+s
+atau
+di
+atau
+untuk
+untuk
+di
+-
+yang
+/
+dalam
+ini
+an
+bahwa
+baik
+dalam
+.
+akan
+nya
+ada
+karena
+bisa
+ini
+ini
+secara
+bisa
+dengan
+dari
+pada
+?
+)
+1
+2
+untuk
+sudah
+pada
+
+
+anda
+untuk
+dari
+nya
+saya
+tidak
+saat
+tidak
+:
+:
+sangat
+
+lebih
+orang
+dan
+yang
+jika
+sangat
+bahwa
+1
+9
+anda
+0
+u
+bahwa
+akan
+salah
+0
+jika
+akan
+,
+
+i
+memiliki
+orang
+beberapa
+9
+yang
+lebih
+pada
+
+
+tidak
+(
+dapat
+ini
+orang
+0
+saat
+anda
+ada
+tidak
+juga
+,
+.
+dan
+bisa
+2
+namun
+anda
+kami
+an
+banyak
+e
+hal
+,
+
+8
+juga
+2
+5
+atau
+yang
+oleh
+
+pada
+di
+ada
+
+ada
+dapat
+1
+banyak
+dan
+dengan
+sangat
+tersebut
+i
+,
+bisa
+di
+orang
+online
+untuk
+saya
+pada
+,
+
+
+menjadi
+dan
+8
+/
+s
+juga
+permainan
+kita
+
+
+atau
+(
+anda
+dan
+dari
+dapat
+situs
+itu
+dengan
+1
+satu
+karena
+tersebut
+jika
+permainan
+satu
+2
+yang
+seperti
+anda
+hanya
+orang
+bisa
+bisa
+oleh
+poker
+nya
+sebagai
+saat
+memiliki
+di
+permainan
+online
+dalam
+anda
+)
+di
+
+satu
+
+t
+
+dan
+permainan
+:
+saat
+untuk
+e
+ini
+yang
+s
+,
+2
+.
+.
+situs
+anda
+baik
+ada
+dan
+dari
+dengan
+8
+membuat
+kan
+saya
+situs
+atau
+kita
+memiliki
+.
+anda
+situs
+hanya
+dari
+ini
+ke
+1
+.
+itu
+anda
+oleh
+banyak
+0
+dan
+
+nya
+sudah
+"
+cara
+kita
+2
+7
+harga
+yang
+dalam
+e
+mereka
+an
+8
+s
+an
+di
+untuk
+dan
+yang
+bisa
+pada
+
+1
+
+beberapa
+a
+.
+
+banyak
+mereka
+an
+dengan
+adalah
+4
+u
+,
+adalah
+
+
+itu
+karena
+akan
+harus
+atau
+sangat
+hal
+orang
+k
+mereka
+bisa
+yang
+sebagai
+dari
+orang
+karena
+dari
+.
+.
+saat
+harus
+beberapa
+"
+yang
+dengan
+dan
+2
+dari
+juga
+1
+.
+karena
+tersebut
+9
+2
+itu
+nya
+yang
+mereka
+0
+anda
+di
+0
+di
+tidak
+
+dengan
+s
+dengan
+dalam
+s
+9
+3
+
+yang
+0
+permainan
+judi
+)
+:
+banyak
+.
+
+
+lebih
+
+,
+k
+dapat
+jika
+
+
+t
+tidak
+
+0
+
+banyak
+juga
+,
+9
+hal
+tidak
+s
+banyak
+di
+4
+tidak
+
+-
+
+dengan
+i
+sudah
+
+
+4
+3
+dan
+.
+judi
+beberapa
+
+/
+,
+
+dan
+mereka
+dan
+(
+dari
+satu
+untuk
+anda
+menjadi
+nya
+tersebut
+kamu
+s
+bahwa
+atau
+sudah
+anda
+sebagai
+permainan
+7
+adalah
+an
+2
+dari
+e
+orang
+sudah
+anda
+untuk
+permainan
+banyak
+untuk
+
+1
+di
+di
+permainan
+lebih
+-
+bisa
+salah
+atau
+4
+kan
+
+tidak
+anda
+orang
+an
+yang
+adalah
+untuk
+9
+
+
+di
+t
+dan
+anda
+
+yang
+ada
+ini
+yang
+di
+saat
+untuk
+nya
+1
+harus
+indonesia
+
+kita
+dengan
+/
+atau
+dalam
+atau
+online
+di
+pada
+satu
+dan
+tidak
+nya
+
+-
+
+sangat
+ini
+akan
+s
+jika
+,
+kita
+banyak
+semua
+kami
+juga
+
+k
+membuat
+dan
+an
+di
+akan
+)
+3
+s
+anda
+1
+atau
+,
+5
+mereka
+
+sudah
+-
+,
+dengan
+
+kamu
+1
+.
+dengan
+dalam
+,
+u
+jika
+.
+permainan
+
+juga
+saya
+memiliki
+nya
+karena
+bisa
+
+pada
+
+,
+bisa
+yang
+harus
+dengan
+mereka
+online
+s
+menjadi
+permainan
+sudah
+cara
+judi
+atau
+dengan
+dengan
+ada
+lebih
+anda
+itu
+.
+nya
+
+
+menjadi
+
+kita
+
+dengan
+-
+nya
+
+ada
+satu
+hal
+i
+adalah
+harus
+hal
+harus
+cara
+.
+2
+satu
+anda
+2
+yang
+lebih
+saat
+0
+.
+sangat
+membuat
+pada
+permainan
+hanya
+saat
+seperti
+
+ke
+ini
+beberapa
+akan
+satu
+dengan
+adalah
+
+anda
+bahwa
+
+ini
+:
+adalah
+uang
+atau
+mereka
+
+ini
+s
+yang
+
+
+sebagai
+.
+dapat
+online
+nya
+yang
+sebagai
+tersebut
+untuk
+0
+tidak
+dengan
+2
+dapat
+e
+dari
+-
+
+e
+tidak
+/
+beberapa
+/
+sangat
+
+t
+secara
+ini
+saat
+i
+pada
+menjadi
+harus
+yang
+
+saat
+itu
+nya
+dalam
+dari
+,
+bagi
+itu
+itu
+,
+setiap
+
+lebih
+beberapa
+ini
+untuk
+
+2
+"
+di
+
+akan
+)
+ada
+i
+hal
+nya
+di
+bisa
+4
+adalah
+
+situs
+sangat
+menjadi
+
+saya
+yang
+dan
+a
+
+)
+ke
+.
+yang
+sangat
+1
+harus
+pada
+ke
+anda
+
+nya
+-
+bisa
+0
+kita
+anda
+bahwa
+-
+saya
+i
+nya
+juga
+5
+yang
+maka
+an
+
+ke
+di
+)
+
+permainan
+dan
+
+u
+ke
+yang
+e
+di
+menjadi
+waktu
+pada
+
+jika
+beberapa
+hal
+ada
+ada
+mereka
+
+dalam
+-
+an
+tidak
+juga
+dari
+itu
+seperti
+karena
+yang
+seperti
+
+atau
+
+orang
+anda
+mereka
+2
+nya
+nya
+dari
+akan
+akan
+ada
+yang
+-
+ke
+anda
+beberapa
+8
+dari
+dari
+.
+dan
+di
+dalam
+sebagai
+ada
+
+orang
+dalam
+judi
+orang
+3
+untuk
+
+orang
+oleh
+beberapa
+2
+cara
+judi
+akan
+oleh
+(
+kan
+seperti
+di
+0
+membuat
+bisa
+menjadi
+
+anda
+ini
+.
+kamu
+di
+
+.
+
+tidak
+lebih
+6
+online
+(
+untuk
+jika
+.
+di
+di
+0
+2
+tersebut
+:
+dan
+situs
+-
+seperti
+banyak
+dengan
+online
+pada
+mereka
+5
+kita
+
+2
+bahwa
+dan
+8
+.
+maka
+
+orang
+bisa
+4
+ada
+harus
+,
+sebagai
+:
+dan
+yang
+dari
+
+juga
+saja
+karena
+
+9
+anda
+anda
+-
+saat
+.
+sangat
+2
+i
+i
+k
+sebagai
+an
+pada
+dan
+dengan
+.
+/
+game
+bermain
+tersebut
+yang
+di
+tersebut
+4
+
+
+
+i
+0
+2
+jika
+
+hanya
+kita
+untuk
+2
+8
+
+
+8
+di
+kamu
+di
+e
+0
+juga
+
+
+1
+a
+t
+akan
+sebagai
+kamu
+an
+yang
+)
+sudah
+nya
+situs
+0
+8
+5
+,
+mereka
+
+3
+menjadi
+juga
+.
+ke
+ke
+?
+.
+"
+nya
+8
+dengan
+
+tersebut
+untuk
+yang
+ini
+7
+banyak
+memiliki
+situs
+bisa
+yang
+ke
+akan
+harus
+0
+atau
+membuat
+bisa
+,
+satu
+adalah
+ini
+1
+yang
+nya
+saya
+-
+tersebut
+bahwa
+
+8
+
+karena
+bisa
+atau
+yang
+harus
+,
+di
+akan
+dengan
+permainan
+bisa
+saja
+slot
+6
+pada
+hal
+ke
+dengan
+ini
+"
+.
+indonesia
+itu
+membuat
+orang
+dan
+.
+satu
+untuk
+anda
+1
+5
+4
+untuk
+seperti
+dan
+memiliki
+untuk
+
+ini
+cara
+hal
+jika
+itu
+k
+/
+kamu
+)
+adalah
+di
+ini
+membuat
+
+1
+online
+9
+untuk
+dan
+2
+.
+adalah
+dari
+,
+1
+ini
+untuk
+cara
+-
+untuk
+i
+:
+e
+salah
+:
+hal
+
+
+ini
+,
+satu
+dengan
+jika
+)
+.
+
+anda
+
+a
+2
+)
+atau
+dan
+beberapa
+atau
+
+jika
+.
+0
+hanya
+
+di
+dan
+akan
+lain
+cara
+online
+yang
+bahwa
+dapat
+sangat
+,
+nya
+memiliki
+,
+indonesia
+:
+baik
+dan
+di
+bisa
+tersebut
+bisa
+seperti
+d
+ke
+juga
+i
+harus
+di
+di
+3
+online
+
+3
+saat
+2
+5
+dan
+untuk
+dan
+8
+.
+dengan
+tidak
+adalah
+4
+1
+2
+)
+1
+
+memiliki
+e
+menjadi
+dengan
+kita
+cara
+anda
+sebagai
+harus
+situs
+
+untuk
+dari
+-
+
+/
+bisa
+,
+/
+
+satu
+
+e
+banyak
+,
+0
+9
+,
+i
+?
+maka
+bahwa
+
+akan
+6
+adalah
+judi
+juga
+seperti
+dari
+?
+banyak
+dalam
+menjadi
+0
+saja
+i
+
+,
+/
+-
+pada
+dari
+kami
+e
+
+e
+(
+,
+yang
+beberapa
+sebagai
+
+
+(
+itu
+ke
+dan
+kita
+permainan
+dan
+atau
+dan
+dan
+saya
+orang
+yang
+e
+-
+,
+online
+memiliki
+tidak
+akan
+tersebut
+pada
+i
+di
+untuk
+menjadi
+lebih
+ke
+:
+5
+situs
+i
+dari
+s
+poker
+
+,
+
+dari
+dan
+telah
+salah
+dan
+k
+
+indonesia
+secara
+hanya
+orang
+hal
+itu
+di
+karena
+memiliki
+i
+
+
+sebagai
+juga
+3
+1
+dalam
+adalah
+tidak
+s
+o
+i
+/
+tidak
+sangat
+5
+dan
+dari
+4
+satu
+adalah
+0
+ada
+(
+dengan
+harus
+:
+ini
+kita
+o
+,
+,
+bahwa
+oleh
+ini
+yang
+orang
+pada
+
+,
+0
+saat
+tidak
+akan
+9
+
+"
+permainan
+karena
+banyak
+bahwa
+.
+oleh
+pada
+s
+saya
+5
+ada
+)
+akan
+tidak
+permainan
+bagi
+di
+di
+/
+pada
+kami
+sangat
+
+
+dalam
+jika
+dalam
+hal
+baik
+indonesia
+sangat
+ada
+sebagai
+ini
+lebih
+dengan
+d
+
+di
+
+bahwa
+dengan
+dan
+beberapa
+
+ke
+permainan
+dengan
+dan
+2
+anda
+di
+2
+:
+
+saat
+s
+:
+i
+2
+"
+
+adalah
+1
+,
+dapat
+adalah
+.
+anda
+untuk
+tidak
+kita
+satu
+pada
+
+2
+banyak
+.
+,
+i
+
+s
+
+tidak
+.
+
+cara
+itu
+anda
+jika
+saat
+1
+,
+sudah
+orang
+
+
+/
+
+,
+.
+seperti
+
+:
+.
+:
+adalah
+dari
+(
+karena
+adalah
+satu
+
+4
+di
+untuk
+pada
+orang
+i
+4
+5
+online
+bisa
+banyak
+tersebut
+-
+dapat
+permainan
+dalam
+di
+4
+:
+anda
+seperti
+saja
+nya
+bahwa
+tidak
+saat
+
+di
+judi
+0
+untuk
+sebagai
+memiliki
+tidak
+anda
+"
+permainan
+dan
+online
+oleh
+.
+1
+anda
+untuk
+dalam
+untuk
+?
+dan
+anda
+
+memiliki
+(
+akan
+ke
+permainan
+sudah
+5
+nya
+saja
+bahwa
+lebih
+untuk
+jika
+.
+nya
+mereka
+di
+
+beberapa
+atau
+kamu
+1
+anda
+satu
+dapat
+pada
+ada
+yang
+i
+yang
+
+banyak
+
+nya
+k
+
+hal
+5
+dan
+5
+(
+semua
+yang
+menjadi
+kita
+
+judi
+-
+,
+2
+dan
+saja
+situs
+bisa
+5
+slot
+dan
+ada
+kita
+tersebut
+memiliki
+saja
+banyak
+yang
+menjadi
+yang
+sudah
+secara
+akan
+karena
+"
+dapat
+sebagai
+permainan
+tidak
+judi
+)
+tidak
+.
+
+yang
+anda
+hal
+1
+permainan
+kan
+akan
+
+harus
+bisa
+4
+dan
+indonesia
+pada
+anda
+adalah
+itu
+online
+di
+dengan
+ini
+dari
+telah
+.
+?
+secara
+ke
+untuk
+satu
+,
+anda
+ini
+
+dengan
+(
+
+
+situs
+
+hal
+seperti
+banyak
+nya
+situs
+satu
+untuk
+tidak
+
+,
+saat
+0
+nya
+jika
+menjadi
+dengan
+s
+
+apa
+
+bisa
+
+
+satu
+(
+adalah
+
+pada
+dapat
+permainan
+dari
+sudah
+dalam
+ada
+tersebut
+kamu
+-
+e
+,
+mereka
+yang
+cara
+harus
+karena
+-
+memiliki
+.
+itu
+tidak
+anda
+2
+dan
+dan
+harus
+dan
+.
+,
+)
+di
+di
+orang
+bagi
+.
+
+untuk
+situs
+.
+dapat
+adalah
+saya
+
+
+untuk
+kami
+adalah
+ada
+ini
+itu
+judi
+7
+a
+kita
+saja
+karena
+nya
+hanya
+i
+e
+saat
+akan
+sudah
+atau
+
+yang
+
+tersebut
+dan
+adalah
+saya
+telah
+
+a
+pada
+-
+juga
+saja
+
+nya
+.
+harus
+bahwa
+menjadi
+anda
+yang
+beberapa
+untuk
+dari
+permainan
+online
+untuk
+s
+tidak
+dengan
+2
+untuk
+-
+besar
+karena
+sangat
+situs
+s
+di
+juga
+
+"
+orang
+ke
+ini
+membuat
+adalah
+situs
+ini
+adalah
+untuk
+harus
+tersebut
+3
+akan
+anda
+dan
+nya
+.
+dengan
+memiliki
+akan
+3
+pada
+.
+(
+sudah
+,
+itu
+9
+dengan
+d
+dengan
+akan
+itu
+itu
+banyak
+
+satu
+pada
+
+5
+situs
+kami
+harus
+dengan
+dalam
+3
+1
+,
+di
+atau
+.
+
+atau
+dan
+.
+e
+untuk
+online
+
+nya
+dalam
+3
+itu
+an
+untuk
+i
+adalah
+jika
+jika
+3
+i
+saat
+(
+yang
+akan
+untuk
+dan
+juga
+adalah
+bisa
+besar
+
+online
+dengan
+an
+,
+bisa
+1
+dan
+0
+s
+ada
+.
+bisa
+
+untuk
+online
+.
+mereka
+hanya
+.
+0
+di
+situs
+yang
+.
+jika
+anda
+,
+2
+lebih
+tidak
+secara
+
+nya
+itu
+ada
+:
+
+mereka
+tidak
+,
+,
+pada
+di
+,
+adalah
+ini
+0
+,
+5
+untuk
+2
+mereka
+0
+hal
+bisa
+untuk
+di
+permainan
+beberapa
+saat
+.
+di
+tersebut
+tidak
+menjadi
+(
+bisa
+online
+untuk
+akan
+kami
+menjadi
+hanya
+e
+sangat
+online
+mereka
+lain
+nya
+0
+beberapa
+dapat
+dengan
+pada
+
+nya
+besar
+bisa
+sangat
+untuk
+yang
+adalah
+anda
+besar
+yang
+.
+untuk
+
+d
+bahwa
+
+hal
+besar
+1
+sudah
+banyak
+dari
+ini
+pada
+/
+
+ini
+cara
+s
+cara
+2
+oleh
+kami
+lebih
+atau
+banyak
+2
+
+dan
+)
+bahwa
+2
+
+akan
+tersebut
+2
+bisa
+"
+
+tersebut
+4
+2
+8
+tidak
+kita
+akan
+-
+:
+kita
+saat
+saja
+
+3
+di
+"
+untuk
+di
+2
+ini
+
+-
+i
+orang
+sudah
+
+2
+akan
+jika
+
+dengan
+an
+
+tidak
+dengan
+juga
+pada
+bisa
+ke
+untuk
+pada
+dengan
+atau
+2
+anda
+
+kan
+7
+atau
+i
+1
+pada
+nya
+di
+adalah
+?
+lain
+kita
+lebih
+9
+di
+dengan
+s
+i
+cara
+
+karena
+adalah
+saja
+jika
+seperti

predict_results.json

@@ -0,0 +1,12 @@
+{
+    "predict_gen_len": 1.0,
+    "predict_loss": 2.2949817180633545,
+    "predict_rouge1": 0.503,
+    "predict_rouge2": 0.0,
+    "predict_rougeL": 0.503,
+    "predict_rougeLsum": 0.5015,
+    "predict_runtime": 793.8989,
+    "predict_samples": 3762,
+    "predict_samples_per_second": 4.739,
+    "predict_steps_per_second": 0.149
+}

train_results.json

@@ -0,0 +1,9 @@
+{
+    "epoch": 5.0,
+    "total_flos": 8.512744818393907e+16,
+    "train_loss": 3.0636178162682275,
+    "train_runtime": 5809.9425,
+    "train_samples": 14262,
+    "train_samples_per_second": 12.274,
+    "train_steps_per_second": 1.534
+}

trainer_state.json

@@ -0,0 +1,130 @@
+{
+  "best_metric": null,
+  "best_model_checkpoint": null,
+  "epoch": 5.0,
+  "eval_steps": 500,
+  "global_step": 8915,
+  "is_hyper_param_search": false,
+  "is_local_process_zero": true,
+  "is_world_process_zero": true,
+  "log_history": [
+    {
+      "epoch": 1.0,
+      "grad_norm": 1.4032909870147705,
+      "learning_rate": 4e-05,
+      "loss": 3.5583,
+      "step": 1783
+    },
+    {
+      "epoch": 1.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 2.600463628768921,
+      "eval_rouge1": 0.4848,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.4883,
+      "eval_rougeLsum": 0.4866,
+      "eval_runtime": 162.5937,
+      "eval_samples_per_second": 4.613,
+      "eval_steps_per_second": 0.148,
+      "step": 1783
+    },
+    {
+      "epoch": 2.0,
+      "grad_norm": 1.3332852125167847,
+      "learning_rate": 3e-05,
+      "loss": 3.0833,
+      "step": 3566
+    },
+    {
+      "epoch": 2.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 2.4166650772094727,
+      "eval_rouge1": 0.4635,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.4663,
+      "eval_rougeLsum": 0.4673,
+      "eval_runtime": 160.1776,
+      "eval_samples_per_second": 4.682,
+      "eval_steps_per_second": 0.15,
+      "step": 3566
+    },
+    {
+      "epoch": 3.0,
+      "grad_norm": 1.7508715391159058,
+      "learning_rate": 2e-05,
+      "loss": 2.9538,
+      "step": 5349
+    },
+    {
+      "epoch": 3.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 2.343231439590454,
+      "eval_rouge1": 0.5124,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.5075,
+      "eval_rougeLsum": 0.5087,
+      "eval_runtime": 163.6671,
+      "eval_samples_per_second": 4.582,
+      "eval_steps_per_second": 0.147,
+      "step": 5349
+    },
+    {
+      "epoch": 4.0,
+      "grad_norm": 1.3061054944992065,
+      "learning_rate": 1e-05,
+      "loss": 2.8804,
+      "step": 7132
+    },
+    {
+      "epoch": 4.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 2.2963712215423584,
+      "eval_rouge1": 0.4384,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.4392,
+      "eval_rougeLsum": 0.4405,
+      "eval_runtime": 163.1032,
+      "eval_samples_per_second": 4.598,
+      "eval_steps_per_second": 0.147,
+      "step": 7132
+    },
+    {
+      "epoch": 5.0,
+      "grad_norm": 1.440184235572815,
+      "learning_rate": 0.0,
+      "loss": 2.8424,
+      "step": 8915
+    },
+    {
+      "epoch": 5.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 2.2596616744995117,
+      "eval_rouge1": 0.4544,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.4545,
+      "eval_rougeLsum": 0.4552,
+      "eval_runtime": 162.5791,
+      "eval_samples_per_second": 4.613,
+      "eval_steps_per_second": 0.148,
+      "step": 8915
+    },
+    {
+      "epoch": 5.0,
+      "step": 8915,
+      "total_flos": 8.512744818393907e+16,
+      "train_loss": 3.0636178162682275,
+      "train_runtime": 5809.9425,
+      "train_samples_per_second": 12.274,
+      "train_steps_per_second": 1.534
+    }
+  ],
+  "logging_steps": 500,
+  "max_steps": 8915,
+  "num_input_tokens_seen": 0,
+  "num_train_epochs": 5,
+  "save_steps": 500,
+  "total_flos": 8.512744818393907e+16,
+  "train_batch_size": 8,
+  "trial_name": null,
+  "trial_params": null
+}