End of training

README.md

@@ -1,4 +1,6 @@
 ---
+language:
+- id
 license: apache-2.0
 base_model: LazarusNLP/IndoNanoT5-base
 tags:

all_results.json

@@ -0,0 +1,29 @@
+{
+    "epoch": 5.0,
+    "eval_gen_len": 1.0,
+    "eval_loss": 0.5532283186912537,
+    "eval_rouge1": 0.3696,
+    "eval_rouge2": 0.0,
+    "eval_rougeL": 0.3694,
+    "eval_rougeLsum": 0.3713,
+    "eval_runtime": 112.3113,
+    "eval_samples": 747,
+    "eval_samples_per_second": 6.651,
+    "eval_steps_per_second": 0.214,
+    "predict_gen_len": 1.0,
+    "predict_loss": 0.5728267431259155,
+    "predict_rouge1": 0.4618,
+    "predict_rouge2": 0.0,
+    "predict_rougeL": 0.4613,
+    "predict_rougeLsum": 0.4613,
+    "predict_runtime": 556.0875,
+    "predict_samples": 3737,
+    "predict_samples_per_second": 6.72,
+    "predict_steps_per_second": 0.21,
+    "total_flos": 7.502224981312512e+16,
+    "train_loss": 0.9166960628191452,
+    "train_runtime": 5169.5099,
+    "train_samples": 14290,
+    "train_samples_per_second": 13.821,
+    "train_steps_per_second": 1.728
+}

eval_results.json

@@ -0,0 +1,13 @@
+{
+    "epoch": 5.0,
+    "eval_gen_len": 1.0,
+    "eval_loss": 0.5532283186912537,
+    "eval_rouge1": 0.3696,
+    "eval_rouge2": 0.0,
+    "eval_rougeL": 0.3694,
+    "eval_rougeLsum": 0.3713,
+    "eval_runtime": 112.3113,
+    "eval_samples": 747,
+    "eval_samples_per_second": 6.651,
+    "eval_steps_per_second": 0.214
+}

generated_predictions.txt

@@ -0,0 +1,3737 @@
+karena
+3
+sudah
+pemain
+kami
+anda
+semua
+u
+)
+permainan
+saja
+tidak
+yang
+saya
+
+?
+atau
+di
+s
+
+kamu
+cara
+4
+hanya
+bisa
+0
+bisa
+saja
+.
+satu
+seperti
+,
+4
+sangat
+ada
+membuat
+dengan
+.
+hal
+ada
+.
+bisa
+,
+dan
+permainan
+lebih
+tersebut
+8
+yang
+tersebut
+yang
+,
+oleh
+juga
+9
+dengan
+,
+:
+ini
+melakukan
+-
+,
+maka
+yang
+pada
+saya
+adalah
+dapat
+9
+tidak
+.
+di
+mereka
+kami
+sebagai
+sudah
+
+baik
+atau
+8
+(
+telah
+orang
+yang
+juga
+maka
+dari
+cara
+menjadi
+0
+baik
+2
+sebagai
+2
+dalam
+oleh
+lebih
+itu
+hal
+
+kami
+hanya
+di
+oleh
+memiliki
+dan
+harus
+.
+.
+namun
+1
+dengan
+untuk
+hal
+sebagai
+tersebut
+ini
+adalah
+harus
+situs
+i
+2
+dari
+oleh
+juga
+lebih
+,
+
+cara
+untuk
+banyak
+pada
+"
+"
+melakukan
+yang
+sudah
+/
+5
+
+dalam
+a
+.
+untuk
+ke
+baik
+nya
+3
+beberapa
+lebih
+s
+cara
+juga
+besar
+online
+menggunakan
+,
+0
+tersebut
+ke
+game
+nya
+
+tidak
+lebih
+,
+,
+(
+dengan
+itu
+tidak
+itu
+,
+itu
+,
+hanya
+-
+satu
+banyak
+s
+kita
+bisa
+hal
+slot
+?
+kamu
+cara
+untuk
+hal
+anda
+dan
+atau
+oleh
+nya
+dan
+saya
+adalah
+banyak
+satu
+ini
+
+ini
+"
+6
+anda
+orang
+beberapa
+,
+.
+,
+9
+1
+waktu
+an
+
+anda
+sudah
+an
+para
+9
+atau
+saat
+1
+sudah
+e
+itu
+juga
+ini
+atau
+0
+i
+dalam
+adalah
+dalam
+anda
+yang
+dan
+ke
+ini
+dalam
+bisa
+8
+d
+sangat
+dapat
+kami
+semua
+beberapa
+lebih
+cara
+ke
+(
+/
+dan
+lebih
+8
+atau
+9
+nya
+anda
+membuat
+untuk
+satu
+
+beberapa
+4
+banyak
+di
+9
+6
+)
+dari
+2
+adalah
+untuk
+-
+0
+beberapa
+ada
+0
+beberapa
+untuk
+,
+7
+:
+besar
+seperti
+oleh
+baik
+/
+saja
+bagi
+poker
+permainan
+d
+tersebut
+ini
+
+1
+nya
+dalam
+uang
+sudah
+di
+-
+juga
+banyak
+maka
+
+?
+-
+bisa
+kan
+3
+ini
+anda
+3
+dari
+3
+yang
+
+bisa
+9
+jika
+namun
+di
+harus
+ada
+situs
+o
+juga
+jika
+banyak
+itu
+tersebut
+untuk
+
+ini
+satu
+
+0
+membuat
+satu
+.
+dan
+kami
+hanya
+membuat
+5
+
+
+9
+satu
+9
+?
+dengan
+di
+dari
+i
+
+dengan
+u
+itu
+situs
+2
+membuat
+tidak
+di
+1
+i
+memiliki
+apa
+2
+adalah
+kita
+
+pada
+secara
+.
+t
+ada
+sebagai
+3
+judi
+untuk
+bisa
+anda
+.
+-
+bisa
+ini
+tidak
+bisa
+
+7
+-
+hanya
+an
+untuk
+sangat
+para
+dari
+telah
+tidak
+:
+saya
+beberapa
+untuk
+tersebut
+i
+9
+oleh
+sangat
+saat
+besar
+7
+
+bisa
+yang
+harus
+mendapatkan
+d
+tidak
+?
+
+sangat
+-
+besar
+juga
+harus
+di
+bisa
+lebih
+banyak
+dari
+harus
+:
+dengan
+hanya
+
+satu
+membuat
+online
+akan
+saya
+juga
+an
+
+baik
+(
+t
+seperti
+lain
+(
+jika
+ini
+akan
+game
+dengan
+sebagai
+dan
+e
+yang
+
+ini
+u
+1
+,
+)
+
+lebih
+dapat
+/
+1
+permainan
+.
+di
+ini
+namun
+saya
+
+dengan
+oleh
+dan
+4
+itu
+lebih
+yang
+tersebut
+.
+untuk
+kita
+melakukan
+bisa
+akan
+5
+online
+tersebut
+0
+tahun
+i
+–
+memiliki
+kami
+juga
+oleh
+1
+dan
+untuk
+yang
+para
+untuk
+dan
+dengan
+7
+8
+saya
+
+dari
+nya
+ke
+secara
+baik
+2
+nya
+,
+tidak
+dan
+4
+slot
+ini
+permainan
+e
+nya
+ke
+s
+s
+sudah
+kamu
+jika
+kita
+mereka
+.
+nya
+untuk
+ke
+anda
+sebagai
+dan
+kami
+bisa
+dari
+seperti
+di
+harus
+akan
+u
+pada
+3
+oleh
+t
+6
+7
+online
+.
+salah
+itu
+mereka
+yang
+
+dari
+memiliki
+8
+i
+anda
+,
+.
+"
+mereka
+cara
+beberapa
+ada
+8
+
+oleh
+untuk
+)
+ini
+
+a
+1
+ada
+tahun
+melakukan
+ini
+saya
+hal
+
+"
+online
+nya
+hanya
+baik
+dengan
+nya
+mereka
+satu
+(
+membuat
+i
+situs
+.
+lebih
+akan
+0
+adalah
+1
+karena
+situs
+,
+7
+indonesia
+4
+:
+"
+juga
+-
+tidak
+orang
+1
+2
+p
+yang
+apa
+9
+lebih
+5
+orang
+waktu
+permainan
+dan
+saja
+jika
+bahwa
+pada
+
+slot
+para
+tersebut
+2
+sangat
+dengan
+kamu
+?
+mereka
+o
+:
+secara
+baik
+kita
+tentang
+maka
+sebagai
+bisa
+bahwa
+s
+tidak
+-
+menjadi
+salah
+indonesia
+-
+9
+mereka
+0
+u
+,
+secara
+bagi
+sebagai
+adalah
+bermain
+kita
+dalam
+itu
+lebih
+kita
+dalam
+dalam
+indonesia
+adalah
+
+tidak
+dengan
+situs
+
+mereka
+0
+uang
+,
+0
+(
+s
+.
+di
+ke
+yang
+akan
+di
+membuat
+anda
+kita
+menjadi
+baik
+online
+nya
+bermain
+beberapa
+karena
+?
+mudah
+
+kita
+:
+
+online
+lebih
+bermain
+ini
+sebagai
+u
+poker
+yang
+-
+i
+bahwa
+(
+itu
+juga
+5
+dengan
+-
+dalam
+
+para
+kamu
+juga
+mereka
+orang
+tidak
+di
+di
+jika
+harus
+ke
+bisa
+indonesia
+:
+judi
+saat
+u
+nya
+e
+mereka
+"
+kami
+yang
+4
+
+hal
+yang
+ini
+s
+"
+permainan
+?
+lain
+lebih
+uang
+juga
+2
+kan
+
+1
+yang
+yang
+di
+3
+kami
+satu
+
+kami
+pemain
+(
+-
+di
+itu
+untuk
+game
+
+untuk
+ini
+sangat
+2
+lebih
+di
+bisa
+itu
+.
+orang
+poker
+7
+s
+k
+untuk
+1
+atau
+k
+jika
+e
+
+adalah
+namun
+atau
+i
+
+o
+dari
+n
+akan
+1
+7
+di
+sangat
+dalam
+(
+,
+di
+,
+perlu
+apa
+2
+kita
+orang
+satu
+dari
+s
+beberapa
+online
+9
+hanya
+adalah
+9
+bahwa
+8
+
+)
+nya
+sangat
+4
+indonesia
+saya
+4
+4
+an
+2
+an
+online
+untuk
+untuk
+,
+mereka
+"
+
+ini
+(
+,
+saya
+:
+memiliki
+tersebut
+bahwa
+.
+harus
+?
+lain
+e
+3
+beberapa
+tidak
+dan
+6
+hal
+a
+saat
+oleh
+bagi
+kan
+hal
+akan
+dari
+,
+s
+memiliki
+i
+atau
+online
+5
+1
+o
+dan
+anda
+bisa
+akan
+dalam
+,
+dapat
+untuk
+baik
+online
+banyak
+1
+dari
+1
+karena
+itu
+an
+1
+"
+di
+)
+t
+nya
+seperti
+sangat
+ini
+tidak
+:
+:
+pada
+poker
+jika
+tidak
+di
+?
+di
+ini
+sudah
+k
+anda
+,
+/
+1
+di
+lebih
+satu
+)
+juga
+orang
+e
+bisa
+ada
+akan
+secara
+adalah
+dengan
+nya
+s
+4
+online
+telah
+
+1
+membuat
+anda
+di
+bahwa
+8
+ini
+satu
+melakukan
+ingin
+/
+e
+ini
+juga
+lebih
+
+a
+ke
+juga
+8
+seperti
+orang
+8
+,
+online
+online
+salah
+beberapa
+tidak
+9
+dapat
+bisa
+dari
+
+
+akan
+dari
+bagi
+o
+ini
+.
+nya
+9
+0
+ini
+ini
+t
+tahun
+k
+
+atau
+/
+itu
+e
+9
+jika
+ada
+t
+3
+6
+apa
+menjadi
+bahwa
+bermain
+pada
+untuk
+/
+/
+a
+ke
+bahwa
+banyak
+.
+yang
+bisnis
+ada
+dapat
+ada
+,
+jika
+adalah
+juga
+dari
+dan
+karena
+waktu
+0
+i
+ada
+atau
+tidak
+u
+sebagai
+
+
+/
+.
+saat
+-
+semua
+untuk
+
+cara
+3
+dapat
+banyak
+judi
+atau
+harus
+saat
+jika
+pada
+(
+di
+banyak
+8
+akan
+atau
+e
+
+ke
+dengan
+sebagai
+5
+sebagai
+mereka
+permainan
+nya
+mereka
+dengan
+dengan
+lebih
+/
+bisa
+namun
+?
+banyak
+ada
+
+satu
+untuk
+judi
+tidak
+yang
+dalam
+adalah
+,
+kami
+dapat
+saat
+sangat
+juga
+setiap
+kita
+a
+-
+1
+
+e
+ini
+ke
+dengan
+0
+bisa
+memiliki
+orang
+atau
+saat
+
+secara
+ke
+harus
+u
+9
+menjadi
+kan
+9
+:
+hal
+i
+menggunakan
+0
+t
+)
+jika
+,
+para
+ada
+(
+kami
+hanya
+ini
+itu
+s
+banyak
+lain
+waktu
+4
+atau
+"
+atau
+:
+online
+8
+yang
+untuk
+
+,
+"
+hanya
+kita
+adalah
+hanya
+-
+dari
+untuk
+oleh
+u
+"
+di
+1
+indonesia
+secara
+dalam
+0
+i
+,
+
+
+ke
+menjadi
+
+untuk
+t
+saat
+d
+kita
+dan
+hal
+0
+?
+bermain
+anda
+2
+)
+online
+a
+akan
+akan
+dengan
+–
+atau
+adalah
+dengan
+anda
+kami
+.
+maka
+itu
+membuat
+
+atau
+
+untuk
+i
+s
+kamu
+atau
+
+saja
+"
+ada
+seperti
+dapat
+yang
+(
+dalam
+adalah
+slot
+salah
+0
+juga
+satu
+7
+online
+baik
+di
+(
+poker
+satu
+menggunakan
+situs
+kita
+"
+dari
+t
+karena
+(
+anda
+dan
+bahwa
+)
+yang
+memiliki
+akan
+satu
+4
+sudah
+a
+1
+namun
+karena
+tersebut
+di
+dari
+orang
+banyak
+judi
+memiliki
+k
+anda
+dalam
+-
+dalam
+mereka
+hal
+anda
+nya
+bisa
+nya
+1
+menggunakan
+atau
+ada
+di
+
+orang
+tidak
+saja
+1
+dengan
+hanya
+orang
+:
+maka
+sangat
+.
+1
+kami
+menggunakan
+s
+adalah
+bisa
+baik
+online
+juga
+o
+
+.
+harus
+9
+0
+sangat
+bermain
+itu
+orang
+s
+-
+dengan
+sangat
+baik
+dengan
+s
+
+:
+3
+kami
+saya
+s
+pada
+.
+di
+yang
+7
+k
+s
+,
+di
+di
+k
+banyak
+.
+s
+besar
+yang
+menggunakan
+kamu
+jika
+juga
+/
+adalah
+akan
+"
+.
+0
+bisnis
+
+2
+saya
+dengan
+bisa
+
+dapat
+untuk
+
+"
+ke
+secara
+menjadi
+saja
+cara
+saat
+untuk
+dengan
+di
+
+online
+atau
+nya
+bagi
+semua
+.
+uang
+
+itu
+(
+bagi
+dari
+game
+akan
+-
+oleh
+)
+"
+1
+kamu
+untuk
+sangat
+ke
+adalah
+sudah
+sangat
+karena
+ke
+:
+:
+i
+5
+tidak
+7
+para
+secara
+adalah
+bisa
+cara
+orang
+kami
+
+
+s
+dengan
+a
+6
+
+menjadi
+6
+untuk
+dengan
+hal
+o
+secara
+dan
+jika
+,
+adalah
+2
+pada
+kan
+3
+secara
+satu
+-
+"
+yang
+dapat
+pada
+sudah
+adalah
+dari
+menggunakan
+
+dengan
+kan
+semua
+di
+"
+bisa
+yang
+maka
+satu
+untuk
+nya
+-
+beberapa
+judi
+
+
+ini
+baik
+,
+k
+itu
+(
+kami
+seperti
+ini
+
+adalah
+seperti
+permainan
+di
+i
+harus
+bisa
+tersebut
+cara
+2
+,
+harus
+tahun
+di
+
+
+dapat
+poker
+baik
+kan
+indonesia
+
+:
+0
+)
+nya
+ke
+saya
+1
+di
+di
+kami
+seperti
+"
+i
+salah
+tersebut
+.
+nya
+akan
+2
+cara
+lebih
+
+sudah
+seperti
+karena
+dan
+sangat
+
+salah
+kita
+mereka
+0
+anda
+d
+kan
+-
+bisa
+u
+9
+,
+karena
+
+(
+ada
+baru
+dari
+situs
+.
+
+oleh
+bermain
+nya
+atau
+.
+dalam
+"
+,
+anda
+itu
+dari
+adalah
+slot
+juga
+anda
+ada
+.
+3
+adalah
+ada
+,
+0
+0
+
+ini
+atau
+dari
+an
+hanya
+cara
+beberapa
+satu
+telah
+salah
+1
+untuk
+oleh
+
+dengan
+seperti
+bisa
+
+saja
+saat
+dan
+
+oleh
+uang
+adalah
+situs
+dan
+-
+membuat
+,
+-
+hanya
+secara
+
+satu
+:
+bisa
+nya
+atau
+
+t
+
+2
+?
+an
+anda
+2
+/
+e
+memiliki
+online
+i
+akan
+pada
+harus
+untuk
+dari
+3
+menggunakan
+s
+0
+cara
+dengan
+adalah
+4
+yang
+
+3
+
+pada
+di
+0
+oleh
+itu
+lebih
+akan
+adalah
+itu
+slot
+slot
+lebih
+
+bisa
+judi
+sudah
+
+hal
+.
+pada
+apa
+tahun
+dengan
+lebih
+bahwa
+1
+
+i
+tidak
+dengan
+di
+semua
+bagi
+mereka
+indonesia
+bahwa
+dari
+untuk
+.
+i
+ada
+-
+juga
+ke
+anda
+sebagai
+dengan
+e
+sebagai
+anda
+harus
+beberapa
+menjadi
+dapat
+?
+tersebut
+bagi
+0
+s
+game
+7
+orang
+judi
+anda
+ini
+banyak
+bisa
+harus
+atau
+a
+online
+seperti
+orang
+namun
+ke
+-
+jika
+satu
+saat
+bahwa
+s
+beberapa
+t
+membuat
+ini
+
+cara
+2
+ada
+ada
+kami
+.
+.
+sangat
+"
+yang
+nya
+d
+hal
+"
+situs
+.
+adalah
+untuk
+nya
+sudah
+4
+bermain
+s
+itu
+
+1
+"
+online
+hanya
+judi
+k
+sangat
+kan
+online
+dari
+memiliki
+dan
+telah
+mereka
+1
+hal
+)
+dalam
+a
+permainan
+ke
+dengan
+
+.
+u
+permainan
+4
+kamu
+bisa
+u
+e
+memiliki
+karena
+bermain
+t
+tersebut
+menjadi
+namun
+?
+kamu
+/
+pada
+
+
+oleh
+nya
+jadi
+dari
+bahwa
+dengan
+permainan
+salah
+hal
+dan
+0
+orang
+dengan
+2
+itu
+4
+online
+online
+3
+kamu
+ke
+karena
+2
+atau
+6
+dalam
+tersebut
+mereka
+
+poker
+yang
+"
+anda
+anda
+saya
+kamu
+8
+1
+atau
+
+lebih
+banyak
+judi
+:
+situs
+s
+yang
+itu
+ke
+?
+6
+tidak
+baik
+1
+
+yang
+untuk
+dan
+bahwa
+tidak
+,
+di
+i
+tidak
+hanya
+"
+-
+7
+dengan
+memiliki
+online
+saya
+saja
+,
+saja
+0
+telah
+anda
+oleh
+.
+
+menjadi
+tersebut
+
+menggunakan
+1
+atau
+kamu
+yang
+salah
+online
+ini
+maka
+akan
+4
+5
+permainan
+di
+dengan
+adalah
+t
+tersebut
+seperti
+,
+sebagai
+dalam
+1
+bermain
+anda
+
+1
+baik
+besar
+i
+baik
+.
+
+dengan
+
+)
+hal
+2
+situs
+.
+
+menjadi
+melakukan
+indonesia
+pada
+/
+mereka
+
+orang
+
+0
+untuk
+4
+memiliki
+(
+namun
+tidak
+mereka
+hanya
+kamu
+u
+.
+
+semua
+anda
+tersebut
+lain
+menggunakan
+.
+tidak
+dalam
+bahwa
+,
+saat
+
+game
+dapat
+di
+"
+harus
+"
+nya
+
+dari
+an
+atau
+4
+tersebut
+ke
+ini
+)
+lebih
+harga
+saja
+s
+oleh
+kamu
+-
+1
+ke
+7
+sebagai
+
+bisa
+)
+dengan
+sangat
+kami
+atau
+harus
+adalah
+memiliki
+9
+1
+"
+orang
+
+-
+di
+akan
+kamu
+untuk
+,
+
+akan
+kita
+nya
+saya
+kami
+7
+dengan
+
+akan
+"
+3
+pada
+di
+
+juga
+hal
+6
+di
+sudah
+s
+u
+ada
+2
+i
+e
+.
+pada
+k
+dengan
+kamu
+nya
+sangat
+1
+membuat
+adalah
+tidak
+uang
+nya
+e
+4
+9
+mereka
+0
+ke
+adalah
+
+.
+yang
+besar
+ke
+untuk
+
+saya
+besar
+apa
+ini
+yang
+6
+i
+a
+u
+2
+satu
+4
+1
+anda
+untuk
+
+yang
+mendapatkan
+dan
+cara
+kan
+saya
+ada
+anda
+itu
+dan
+e
+lebih
+itu
+mereka
+permainan
+jika
+permainan
+ini
+dari
+5
+orang
+harus
+kan
+dengan
+online
+1
+untuk
+i
+jika
+(
+.
+untuk
+an
+seperti
+ke
+pada
+slot
+3
+kita
+mereka
+
+baik
+u
+-
+
+-
+adalah
+,
+untuk
+5
+memiliki
+/
+an
+online
+namun
+seperti
+ke
+)
+jika
+seperti
+
+harus
+d
+nya
+
+bisa
+mereka
+
+-
+"
+mendapatkan
+5
+lebih
+mereka
+maka
+
+untuk
+)
+
+0
+,
+menjadi
+saya
+-
+untuk
+.
+.
+yang
+saat
+memiliki
+melakukan
+lebih
+baru
+untuk
+"
+ada
+besar
+hanya
+mereka
+ada
+poker
+banyak
+ada
+dengan
+dan
+?
+juga
+,
+nya
+dari
+-
+di
+s
+:
+menjadi
+yang
+mereka
+s
+bermain
+
+jika
+7
+tidak
+m
+tidak
+5
+indonesia
+1
+8
+u
+atau
+adalah
+0
+2
+untuk
+,
+saat
+mereka
+telah
+dari
+ini
+dalam
+dan
+atau
+a
+0
+mereka
+
+:
+seperti
+dalam
+para
+dari
+/
+.
+dengan
+menjadi
+saya
+ke
+0
+dalam
+online
+saya
+2
+lain
+untuk
+,
+1
+dapat
+?
+a
+online
+an
+k
+
+?
+dan
+0
+banyak
+adalah
+0
+ingin
+akan
+pada
+2
+menjadi
+dapat
+dan
+di
+
+u
+dan
+anda
+"
+untuk
+sudah
+online
+dan
+
+orang
+7
+adalah
+satu
+nya
+slot
+online
+8
+untuk
+ada
+
+s
+juga
+atau
+ini
+
+jika
+untuk
+dari
+memiliki
+itu
+untuk
+sangat
+0
+
+akan
+
+jika
+?
+bahwa
+online
+4
+bisa
+e
+)
+dan
+oleh
+bisa
+lebih
+0
+
+dengan
+untuk
+-
+4
+jika
+5
+yang
+hanya
+k
+kamu
+)
+kita
+
+"
+online
+di
+sudah
+yang
+1
+dari
+8
+untuk
+untuk
+pada
+untuk
+saya
+,
+judi
+mendapatkan
+satu
+online
+
+bahwa
+k
+untuk
+dalam
+7
+5
+oleh
+,
+
+n
+ada
+bisa
+akan
+karena
+saya
+
+online
+baik
+atau
+an
+6
+.
+indonesia
+anda
+8
+
+nya
+lebih
+2
+anda
+ke
+juga
+jika
+:
+kita
+memiliki
+adalah
+
+kami
+dengan
+)
+anda
+i
+"
+yang
+,
+k
+adalah
+situs
+8
+dari
+baik
+dan
+judi
+5
+hal
+juga
+online
+para
+:
+ini
+sangat
+2
+bisa
+d
+untuk
+dan
+4
+(
+lain
+(
+secara
+dapat
+yang
+saja
+oleh
+.
+atau
+satu
+untuk
+waktu
+ada
+itu
+nya
+adalah
+2
+atau
+yang
+i
+menjadi
+mereka
+e
+
+ini
+dapat
+nya
+oleh
+-
+
+0
+adalah
+adalah
+2
+-
+?
+dalam
+dapat
+
+atau
+memiliki
+cara
+ini
+di
+setiap
+memiliki
+di
+
+dalam
+dengan
+3
+dapat
+lebih
+akan
+yang
+seperti
+untuk
+(
+kami
+yang
+ke
+
+4
+lebih
+karena
+menjadi
+kita
+-
+ada
+maka
+s
+an
+untuk
+lebih
+8
+di
+yang
+sangat
+
+5
+anda
+.
+kan
+,
+?
+salah
+ini
+-
+3
+menjadi
+yang
+sebagai
+melakukan
+saat
+5
+yang
+
+1
+,
+untuk
+
+permainan
+yang
+
+.
+orang
+0
+jika
+bisa
+atau
+)
+bahwa
+anda
+memiliki
+hanya
+mereka
+"
+bahwa
+"
+hal
+ada
+9
+jika
+tersebut
+9
+1
+-
+)
+besar
+maka
+s
+dalam
+
+anda
+karena
+tidak
+jadi
+di
+akan
+tidak
+indonesia
+,
+di
+d
+dan
+s
+
+orang
+-
+bisa
+9
+untuk
+di
+:
+sudah
+dari
+1
+
+/
+hal
+.
+yang
+tersebut
+sangat
+saja
+
+harus
+yang
+saja
+para
+dan
+oleh
+namun
+tersebut
+sebagai
+waktu
+3
+karena
+adalah
+yang
+akan
+permainan
+.
+.
+karena
+saya
+yang
+tidak
+beberapa
+s
+
+
+mereka
+
+hanya
+kami
+pada
+,
+dan
+i
+situs
+0
+an
+yang
+"
+di
+.
+
+menggunakan
+d
+yang
+menjadi
+anda
+satu
+atau
+atau
+adalah
+permainan
+hal
+1
+karena
+0
+7
+a
+kamu
+
+i
+itu
+atau
+1
+beberapa
+bermain
+untuk
+juga
+4
+bisa
+game
+dengan
+ada
+ada
+hanya
+karena
+sudah
+poker
+
+r
+"
+online
+2
+,
+ada
+mereka
+ini
+3
+.
+(
+ini
+kita
+apa
+judi
+sangat
+e
+dalam
+yang
+7
+s
+menjadi
+ini
+
+banyak
+di
+i
+e
+jika
+saat
+ini
+untuk
+dalam
+:
+(
+seperti
+
+yang
+
+karena
+cara
+
+untuk
+seperti
+dapat
+3
+
+i
+dalam
+adalah
+ini
+ini
+"
+dalam
+oleh
+dengan
+dan
+e
+untuk
+ke
+jika
+anda
+
+tidak
+pada
+mereka
+pada
+juga
+3
+kita
+memiliki
+di
+sebagai
+pada
+tahun
+maka
+mendapatkan
+
+u
+,
+1
+semua
+menjadi
+2
+i
+nya
+bisa
+oleh
+:
+slot
+bagi
+(
+ada
+tidak
+karena
+e
+para
+dan
+bisa
+bisa
+tidak
+dalam
+ini
+5
+
+tersebut
+ke
+menggunakan
+jadi
+
+beberapa
+memiliki
+membuat
+ini
+pada
+pada
+.
+2
+e
+?
+
+atau
+di
+jika
+membuat
+kita
+-
+1
+bisa
+untuk
+banyak
+tidak
+2
+/
+oleh
+online
+
+anda
+jika
+tidak
+dari
+di
+(
+dalam
+beberapa
+salah
+,
+seperti
+judi
+tidak
+anda
+lebih
+yang
+telah
+harus
+,
+di
+atau
+.
+0
+memiliki
+dari
+tidak
+dengan
+karena
+:
+untuk
+oleh
+satu
+beberapa
+e
+dari
+2
+
+salah
+"
+dari
+tentang
+dari
+9
+banyak
+anda
+u
+lain
+kamu
+yang
+pada
+
+2
+saya
+semua
+?
+dalam
+sudah
+saat
+karena
+orang
+dapat
+s
+di
+yang
+dalam
+kami
+
+ini
+karena
+s
+ini
+baik
+namun
+,
+3
+juga
+hanya
+online
+ini
+itu
+indonesia
+dalam
+besar
+mereka
+anda
+lebih
+untuk
+akan
+dapat
+7
+ini
+,
+4
+)
+nya
+6
+online
+dari
+
+ke
+0
+uang
+saya
+satu
+tahun
+a
+atau
+untuk
+pada
+,
+kamu
+saat
+jika
+dengan
+seperti
+memiliki
+bahwa
+kami
+sangat
+dan
+untuk
+dengan
+para
+kan
+akan
+itu
+yang
+nya
+atau
+orang
+saat
+9
+7
+yang
+orang
+besar
+5
+jika
+
+ke
+sangat
+ke
+
+dapat
+
+anda
+apa
+ini
+sangat
+an
+dari
+e
+anda
+yang
+dari
+sudah
+
+jadi
+bahwa
+pada
+banyak
+
+indonesia
+a
+anda
+salah
+anda
+/
+ada
+ada
+d
+
+indonesia
+e
+masih
+ada
+baik
+di
+,
+menjadi
+s
+anda
+yang
+hanya
+sudah
+ini
+kami
+karena
+kan
+
+
+an
+juga
+dengan
+karena
+atau
+5
+kamu
+
+akan
+sangat
+yang
+mereka
+2
+:
+ada
+nya
+saya
+kami
+membuat
+1
+tidak
+cara
+s
+menjadi
+banyak
+
+lebih
+ini
+5
+baik
+indonesia
+nya
+bisa
+hal
+yang
+untuk
+1
+beberapa
+,
+2
+sebagai
+tidak
+s
+
+0
+hanya
+.
+"
+dengan
+4
+sudah
+/
+s
+8
+dengan
+sebagai
+ini
+)
+di
+kita
+:
+2
+i
+)
+pada
+tersebut
+online
+seperti
+tidak
+3
+dapat
+s
+kan
+kita
+juga
+anda
+cara
+untuk
+ini
+)
+kamu
+harus
+permainan
+itu
+maka
+ada
+yang
+bahwa
+tidak
+dapat
+yang
+.
+8
+dapat
+dari
+harus
+atau
+situs
+kita
+yang
+menggunakan
+lain
+
+a
+?
+oleh
+kita
+permainan
+bisa
+hanya
+tidak
+untuk
+nya
+)
+.
+/
+0
+di
+saya
+di
+saat
+di
+ada
+apa
+a
+:
+5
+poker
+bisa
+beberapa
+situs
+melakukan
+saya
+orang
+
+-
+dengan
+an
+atau
+para
+anda
+banyak
+itu
+nya
+adalah
+dan
+s
+kamu
+karena
+besar
+baik
+ke
+online
+adalah
+untuk
+
+dalam
+dengan
+dengan
+cara
+dengan
+an
+slot
+8
+dalam
+orang
+ke
+5
+di
+orang
+7
+–
+saja
+indonesia
+k
+game
+6
+dengan
+akan
+nya
+hal
+4
+8
+
+.
+kami
+itu
+a
+cara
+.
+"
+tidak
+s
+,
+nya
+karena
+permainan
+dengan
+(
+4
+banyak
+kita
+.
+i
+secara
+k
+4
+ini
+karena
+banyak
+saja
+atau
+nya
+adalah
+2
+bisnis
+9
+yang
+kamu
+tersebut
+adalah
+
+nya
+lebih
+(
+online
+
+salah
+akan
+memiliki
+a
+saya
+kami
+:
+2
+memiliki
+:
+orang
+menjadi
+yang
+oleh
+akan
+satu
+kamu
+hal
+sebagai
+tidak
+dalam
+oleh
+lain
+untuk
+memiliki
+
+jika
+,
+yang
+ada
+1
+saat
+dan
+itu
+
+kita
+untuk
+
+yang
+adalah
+,
+poker
+u
+akan
+dengan
+mereka
+ada
+jadi
+1
+0
+ke
+kita
+slot
+.
+-
+yang
+yang
+poker
+permainan
+
+mereka
+dengan
+ke
+nya
+orang
+k
+dengan
+"
+secara
+an
+hanya
+
+jika
+
+t
+sudah
+adalah
+ke
+beberapa
+0
+a
+m
+yang
+itu
+dari
+situs
+jika
+e
+.
+
+membuat
+1
+4
+dan
+lebih
+ke
+akan
+memiliki
+saya
+4
+bisa
+kita
+ada
+online
+cara
+2
+apa
+
+0
+situs
+tidak
+
+telah
+2
+5
+/
+apa
+
+lebih
+oleh
+menjadi
+baik
+0
+8
+
+satu
+e
+
+judi
+menjadi
+5
+
+"
+(
+i
+hal
+,
+dalam
+yang
+anda
+
+satu
+a
+pada
+
+akan
+4
+cara
+bisa
+sudah
+5
+dan
+dari
+bisa
+e
+sangat
+(
+bisa
+poker
+/
+bisa
+-
+yang
+6
+bahwa
+baru
+tidak
+di
+8
+-
+mereka
+bermain
+adalah
+dengan
+salah
+saja
+anda
+s
+anda
+cara
+9
+sebagai
+salah
+cara
+besar
+judi
+-
+cara
+menjadi
+5
+9
+dan
+
+5
+8
+kan
+besar
+bisa
+yang
+:
+atau
+
+di
+1
+dengan
+cara
+saya
+online
+bisa
+karena
+game
+bagi
+uang
+jika
+(
+dengan
+0
+anda
+sudah
+untuk
+pada
+saya
+kita
+karena
+bermain
+situs
+-
+3
+cara
+1
+satu
+lebih
+bahwa
+
+e
+di
+online
+6
+sangat
+harus
+di
+bermain
+3
+0
+bisa
+dari
+
+dapat
+permainan
+,
+0
+yang
+nya
+akan
+dalam
+oleh
+1
+memiliki
+untuk
+dan
+dari
+8
+satu
+dan
+dalam
+/
+baik
+oleh
+
+dan
+dan
+bermain
+bisa
+uang
+dapat
+dengan
+e
+hanya
+dari
+saat
+kamu
+nya
+untuk
+
+m
+bisa
+permainan
+banyak
+(
+an
+hanya
+sangat
+adalah
+ini
+adalah
+5
+mereka
+dan
+.
+judi
+pada
+a
+situs
+seperti
+i
+i
+untuk
+pada
+lebih
+atau
+:
+d
+pada
+di
+lebih
+
+seperti
+online
+5
+dari
+4
+.
+kita
+akan
+juga
+dan
+t
+
+akan
+bahwa
+ingin
+
+i
+2
+banyak
+hanya
+di
+untuk
+
+/
+9
+sudah
+harus
+tidak
+untuk
+
+9
+banyak
+:
+saya
+a
+mudah
+kita
+juga
+di
+untuk
+s
+lebih
+permainan
+sangat
+seperti
+"
+)
+hal
+harus
+?
+anda
+5
+cara
+3
+k
+?
+tersebut
+oleh
+ada
+0
+s
+oleh
+1
+dari
+dengan
+judi
+seperti
+satu
+(
+adalah
+banyak
+dari
+yang
+4
+online
+,
+1
+kami
+jika
+kamu
+cara
+oleh
+kami
+secara
+banyak
+ke
+ke
+di
+banyak
+s
+3
+5
+
+akan
+itu
+sangat
+sangat
+telah
+k
+
+seperti
+bahwa
+ke
+bisa
+pada
+maka
+ada
+bisa
+7
+banyak
+perlu
+tahun
+
+ini
+dengan
+sebagai
+dari
+memiliki
+sangat
+sebagai
+dalam
+menggunakan
+di
+t
+dapat
+cara
+pada
+slot
+)
+
+s
+online
+dari
+e
+bisa
+bagi
+a
+6
+,
+maka
+.
+)
+kamu
+kami
+orang
+slot
+situs
+i
+harus
+dapat
+sebagai
+s
+cara
+menjadi
+jika
+a
+dan
+dan
+cara
+
+banyak
+
+yang
+(
+dengan
+e
+poker
+bahwa
+karena
+0
+sudah
+hanya
+sebagai
+pada
+k
+mereka
+bisa
+di
+seperti
+-
+dari
+sangat
+kamu
+mereka
+anda
+dan

predict_results.json

@@ -0,0 +1,12 @@
+{
+    "predict_gen_len": 1.0,
+    "predict_loss": 0.5728267431259155,
+    "predict_rouge1": 0.4618,
+    "predict_rouge2": 0.0,
+    "predict_rougeL": 0.4613,
+    "predict_rougeLsum": 0.4613,
+    "predict_runtime": 556.0875,
+    "predict_samples": 3737,
+    "predict_samples_per_second": 6.72,
+    "predict_steps_per_second": 0.21
+}

train_results.json

@@ -0,0 +1,9 @@
+{
+    "epoch": 5.0,
+    "total_flos": 7.502224981312512e+16,
+    "train_loss": 0.9166960628191452,
+    "train_runtime": 5169.5099,
+    "train_samples": 14290,
+    "train_samples_per_second": 13.821,
+    "train_steps_per_second": 1.728
+}

trainer_state.json

@@ -0,0 +1,130 @@
+{
+  "best_metric": null,
+  "best_model_checkpoint": null,
+  "epoch": 5.0,
+  "eval_steps": 500,
+  "global_step": 8935,
+  "is_hyper_param_search": false,
+  "is_local_process_zero": true,
+  "is_world_process_zero": true,
+  "log_history": [
+    {
+      "epoch": 1.0,
+      "grad_norm": 5.201539516448975,
+      "learning_rate": 4e-05,
+      "loss": 1.3998,
+      "step": 1787
+    },
+    {
+      "epoch": 1.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 0.6384263634681702,
+      "eval_rouge1": 0.3848,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.3845,
+      "eval_rougeLsum": 0.3857,
+      "eval_runtime": 115.2126,
+      "eval_samples_per_second": 6.484,
+      "eval_steps_per_second": 0.208,
+      "step": 1787
+    },
+    {
+      "epoch": 2.0,
+      "grad_norm": 1.993088722229004,
+      "learning_rate": 3e-05,
+      "loss": 0.8601,
+      "step": 3574
+    },
+    {
+      "epoch": 2.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 0.5792745351791382,
+      "eval_rouge1": 0.391,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.391,
+      "eval_rougeLsum": 0.3923,
+      "eval_runtime": 112.3658,
+      "eval_samples_per_second": 6.648,
+      "eval_steps_per_second": 0.214,
+      "step": 3574
+    },
+    {
+      "epoch": 3.0,
+      "grad_norm": 1.5980020761489868,
+      "learning_rate": 2e-05,
+      "loss": 0.7972,
+      "step": 5361
+    },
+    {
+      "epoch": 3.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 0.5575756430625916,
+      "eval_rouge1": 0.3776,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.3767,
+      "eval_rougeLsum": 0.3768,
+      "eval_runtime": 112.6817,
+      "eval_samples_per_second": 6.629,
+      "eval_steps_per_second": 0.213,
+      "step": 5361
+    },
+    {
+      "epoch": 4.0,
+      "grad_norm": 3.543159246444702,
+      "learning_rate": 1e-05,
+      "loss": 0.7698,
+      "step": 7148
+    },
+    {
+      "epoch": 4.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 0.5619614720344543,
+      "eval_rouge1": 0.3579,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.3565,
+      "eval_rougeLsum": 0.3592,
+      "eval_runtime": 112.2967,
+      "eval_samples_per_second": 6.652,
+      "eval_steps_per_second": 0.214,
+      "step": 7148
+    },
+    {
+      "epoch": 5.0,
+      "grad_norm": 3.1870193481445312,
+      "learning_rate": 0.0,
+      "loss": 0.7566,
+      "step": 8935
+    },
+    {
+      "epoch": 5.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 0.5532283186912537,
+      "eval_rouge1": 0.3696,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.3694,
+      "eval_rougeLsum": 0.3713,
+      "eval_runtime": 112.5191,
+      "eval_samples_per_second": 6.639,
+      "eval_steps_per_second": 0.213,
+      "step": 8935
+    },
+    {
+      "epoch": 5.0,
+      "step": 8935,
+      "total_flos": 7.502224981312512e+16,
+      "train_loss": 0.9166960628191452,
+      "train_runtime": 5169.5099,
+      "train_samples_per_second": 13.821,
+      "train_steps_per_second": 1.728
+    }
+  ],
+  "logging_steps": 500,
+  "max_steps": 8935,
+  "num_input_tokens_seen": 0,
+  "num_train_epochs": 5,
+  "save_steps": 500,
+  "total_flos": 7.502224981312512e+16,
+  "train_batch_size": 8,
+  "trial_name": null,
+  "trial_params": null
+}