End of training

README.md

@@ -1,4 +1,6 @@
 ---
+language:
+- id
 license: apache-2.0
 base_model: LazarusNLP/IndoNanoT5-base
 tags:

all_results.json

@@ -0,0 +1,29 @@
+{
+    "epoch": 5.0,
+    "eval_gen_len": 1.0,
+    "eval_loss": 0.4922512173652649,
+    "eval_rouge1": 0.3905,
+    "eval_rouge2": 0.0,
+    "eval_rougeL": 0.3898,
+    "eval_rougeLsum": 0.3916,
+    "eval_runtime": 332.1441,
+    "eval_samples": 747,
+    "eval_samples_per_second": 2.249,
+    "eval_steps_per_second": 0.283,
+    "predict_gen_len": 1.0,
+    "predict_loss": 0.5068754553794861,
+    "predict_rouge1": 0.3931,
+    "predict_rouge2": 0.0,
+    "predict_rougeL": 0.3924,
+    "predict_rougeLsum": 0.3917,
+    "predict_runtime": 1681.7484,
+    "predict_samples": 3761,
+    "predict_samples_per_second": 2.236,
+    "predict_steps_per_second": 0.28,
+    "total_flos": 6.557265830209536e+16,
+    "train_loss": 0.37884998882989906,
+    "train_runtime": 9312.1131,
+    "train_samples": 14266,
+    "train_samples_per_second": 7.66,
+    "train_steps_per_second": 1.915
+}

eval_results.json

@@ -0,0 +1,13 @@
+{
+    "epoch": 5.0,
+    "eval_gen_len": 1.0,
+    "eval_loss": 0.4922512173652649,
+    "eval_rouge1": 0.3905,
+    "eval_rouge2": 0.0,
+    "eval_rougeL": 0.3898,
+    "eval_rougeLsum": 0.3916,
+    "eval_runtime": 332.1441,
+    "eval_samples": 747,
+    "eval_samples_per_second": 2.249,
+    "eval_steps_per_second": 0.283
+}

generated_predictions.txt

@@ -0,0 +1,3761 @@
+dan
+di
+
+0
+situs
+saya
+9
+"
+saat
+
+telah
+dapat
+lebih
+1
+atau
+adalah
+pada
+d
+k
+
+yang
+,
+hanya
+ke
+yang
+akan
+
+7
+bisa
+dengan
+di
+indonesia
+dengan
+.
+
+situs
+dan
+besar
+
+itu
+
+di
+di
+bahwa
+8
+1
+cara
+bisnis
+tidak
+:
+.
+mereka
+situs
+
+akan
+lebih
+hal
+seperti
+anda
+anda
+sudah
+nya
+3
+(
+sudah
+namun
+dengan
+yang
+di
+-
+t
+atau
+situs
+membuat
+online
+jika
+0
+maka
+untuk
+online
+8
+di
+bermain
+sangat
+adalah
+untuk
+banyak
+orang
+memiliki
+n
+itu
+di
+dan
+dari
+atau
+dari
+0
+indonesia
+1
+u
+situs
+(
+u
+0
+satu
+kan
+banyak
+kita
+9
+s
+,
+bisa
+dapat
+besar
+t
+ini
+bermain
+maka
+sebagai
+3
+e
+lebih
+kan
+namun
+untuk
+6
+bisa
+2
+t
+:
+.
+pada
+slot
+i
+adalah
+membuat
+beberapa
+
+dari
+
+
+kita
+5
+dari
+adalah
+bisa
+ada
+pada
+
+saat
+1
+lebih
+"
+bisa
+indonesia
+lain
+s
+dan
+
+,
+
+anda
+
+dan
+yang
+menjadi
+oleh
+yang
+bisa
+besar
+4
+7
+adalah
+sebagai
+satu
+memiliki
+i
+?
+secara
+bisa
+bisnis
+yang
+harus
+adalah
+
+dan
+permainan
+
+saja
+itu
+
+banyak
+pada
+0
+0
+mereka
+pada
+baik
+e
+karena
+pada
+ini
+-
+/
+dengan
+atau
+?
+ini
+orang
+dapat
+karena
+itu
+t
+i
+2
+6
+lebih
+mereka
+1
+dengan
+,
+salah
+
+.
+1
+2
+anda
+ini
+dengan
+saja
+
+itu
+d
+salah
+.
+ini
+game
+memiliki
+,
+d
+tahun
+
+
+indonesia
+"
+lain
+permainan
+maka
+ada
+.
+sudah
+.
+untuk
+bahwa
+hanya
+besar
+5
+bahwa
+sangat
+"
+
+sangat
+online
+hanya
+tidak
+anda
+3
+cara
+
+
+an
+saat
+anda
+tidak
+melakukan
+8
+juga
+di
+secara
+dan
+indonesia
+an
+2
+.
+kan
+permainan
+e
+0
+juga
+adalah
+5
+9
+
+saat
+saat
+namun
+/
+oleh
+membuat
+karena
+permainan
+lebih
+sebagai
+5
+mereka
+situs
+untuk
+:
+ke
+dan
+an
+banyak
+juga
+"
+
+ini
+bisa
+/
+tersebut
+banyak
+menjadi
+tersebut
+di
+dalam
+,
+u
+atau
+di
+kami
+sudah
+anda
+judi
+ini
+yang
+,
+3
+situs
+tersebut
+online
+a
+n
+8
+0
+e
+i
+oleh
+
+9
+mereka
+itu
+sangat
+i
+akan
+saja
+mudah
+e
+dari
+an
+?
+hanya
+tidak
+
+saat
+-
+an
+mereka
+ke
+hanya
+-
+
+yang
+,
+)
+kita
+-
+jika
+
+
+bisa
+lain
+karena
+memiliki
+sudah
+a
+.
+2
+di
+mereka
+?
+untuk
+hal
+ke
+dengan
+cara
+yang
+untuk
+-
+
+)
+saya
+
+satu
+beberapa
+a
+pada
+4
+di
+saya
+saya
+
+akan
+atau
+saja
+pada
+ini
+5
+oleh
+itu
+itu
+.
+jika
+kamu
+itu
+)
+
+bisa
+bahwa
+besar
+1
+jadi
+harus
+akan
+oleh
+anda
+
+dengan
+atau
+tidak
+"
+7
+lebih
+akan
+nya
+yang
+oleh
+kami
+besar
+setiap
+dari
+a
+nya
+nya
+tersebut
+
+itu
+"
+orang
+2
+kita
+:
+dalam
+)
+jika
+game
+yang
+besar
+mereka
+uang
+indonesia
+.
+:
+atau
+saat
+itu
+
+salah
+
+s
+-
+)
+
+memiliki
+hal
+
+saya
+)
+tersebut
+kami
+sudah
+-
+hal
+permainan
+9
+dapat
+m
+harus
+itu
+tersebut
+indonesia
+ini
+ada
+nya
+yang
+untuk
+s
+namun
+jika
+
+tersebut
+e
+nya
+lebih
+apa
+anda
+-
+saja
+hanya
+seperti
+.
+atau
+bisa
+2
+di
+melakukan
+dengan
+kita
+adalah
+tidak
+
+memiliki
+tersebut
+nya
+bisa
+bermain
+beberapa
+9
+1
+-
+memiliki
+s
+3
+i
+dari
+lain
+atau
+menggunakan
+bahwa
+dapat
+bisa
+maka
+menjadi
+)
+para
+e
+i
+9
+atau
+indonesia
+ini
+di
+kami
+dan
+,
+.
+membuat
+nya
+namun
+dengan
+pada
+
+
+bahwa
+(
+uang
+anda
+di
+pemain
+yang
+secara
+untuk
+sebagai
+saat
+terbaik
+anda
+itu
+dapat
+itu
+kami
+0
+oleh
+lain
+seperti
+1
+jika
+harus
+tidak
+dengan
+
+mereka
+u
+:
+?
+tersebut
+/
+itu
+a
+oleh
+menjadi
+saat
+harus
+dengan
+di
+kami
+akan
+9
+untuk
+"
+d
+s
+bagi
+dari
+4
+juga
+d
+menjadi
+tidak
+s
+s
+dan
+0
+tersebut
+menjadi
+beberapa
+)
+adalah
+kita
+yang
+tidak
+dengan
+dalam
+u
+cara
+(
+
+dan
+baik
+online
+orang
+di
+beberapa
+lebih
+baik
+online
+,
+"
+-
+menjadi
+9
+tidak
+baik
+hal
+judi
+satu
+1
+
+pada
+)
+atau
+/
+:
+orang
+adalah
+maka
+saja
+ada
+kami
+orang
+
+adalah
+secara
+3
+atau
+yang
+bisa
+menjadi
+
+dengan
+dengan
+tidak
+8
+bermain
+dapat
+/
+juga
+dan
+juga
+-
+
+kamu
+4
+untuk
+e
+sebagai
+situs
+?
+bisa
+seperti
+nya
+baik
+(
+:
+bisa
+an
+memiliki
+di
+
+mereka
+.
+2
+dapat
+
+0
+nya
+yang
+ini
+t
+6
+bermain
+k
+saat
+akan
+sudah
+ini
+bagi
+lebih
+pada
+bisa
+kan
+dengan
+lain
+1
+5
+ini
+juga
+menjadi
+a
+untuk
+i
+adalah
+ini
+:
+adalah
+dan
+orang
+)
+juga
+yang
+baik
+salah
+untuk
+kami
+
+:
+,
+p
+untuk
+0
+karena
+banyak
+dengan
+telah
+menjadi
+s
+harus
+dalam
+i
+di
+bahwa
+bermain
+sudah
+sudah
+dan
+di
+juga
+
+kan
+orang
+hal
+lain
+satu
+,
+tersebut
+slot
+dalam
+"
+membuat
+ke
+pada
+kita
+kamu
+
+9
+untuk
+hanya
+dari
+harus
+ini
+-
+ke
+sebagai
+pada
+membuat
+situs
+1
+
+yang
+sebagai
+dari
+semua
+salah
+mereka
+akan
+di
+
+cara
+anda
+6
+k
+orang
+slot
+.
+itu
+baik
+.
+kami
+kamu
+untuk
+lebih
+0
+
+saat
+adalah
+7
+
+menggunakan
+0
+bisa
+yang
+secara
+tidak
+beberapa
+dari
+ke
+1
+online
+:
+untuk
+u
+e
+orang
+
+bisa
+ada
+harus
+kita
+7
+membuat
+an
+
+dan
+saat
+cara
+sudah
+kan
+slot
+tersebut
+
+(
+akan
+?
+di
+4
+bahwa
+dari
+
+ada
+game
+kamu
+seperti
+untuk
+oleh
+/
+sangat
+memiliki
+dari
+bisa
+anda
+
+dari
+i
+tidak
+4
+t
+permainan
+
+cara
+menjadi
+memiliki
+salah
+telah
+banyak
+d
+,
+.
+adalah
+akan
+1
+ke
+d
+anda
+,
+mudah
+a
+sangat
+tersebut
+a
+7
+0
+salah
+d
+
+itu
+mereka
+6
+/
+banyak
+4
+k
+adalah
+online
+9
+pada
+dan
+akan
+(
+u
+dalam
+seperti
+oleh
+2
+dalam
+ada
+
+oleh
+anda
+n
+0
+indonesia
+kita
+judi
+kamu
+kamu
+banyak
+
+5
+dan
+4
+melakukan
+4
+0
+6
+dan
+saat
+2
+)
+kan
+(
+satu
+ke
+maka
+banyak
+/
+
+kita
+0
+banyak
+yang
+harus
+sebagai
+s
+harus
+
+orang
+4
+bagi
+kami
+menjadi
+dapat
+hal
+(
+k
+/
+online
+ke
+kita
+game
+?
+adalah
+bisa
+e
+menjadi
+sangat
+tidak
+jadi
+yang
+saat
+4
+ini
+:
+0
+2
+akan
+judi
+ini
+menjadi
+-
+jika
+lebih
+mereka
+atau
+lebih
+dalam
+permainan
+telah
+)
+hal
+a
+
+ada
+dari
+an
+akan
+menggunakan
+membuat
+an
+(
+itu
+adalah
+:
+3
+-
+a
+,
+baik
+tersebut
+anda
+satu
+pada
+membuat
+bisa
+lebih
+yang
+tidak
+memiliki
+ingin
+1
+akan
+kita
+harus
+sangat
+-
+jadi
+dapat
+karena
+saya
+
+anda
+dalam
+dalam
+
+sudah
+dan
+pada
+untuk
+harus
+tersebut
+lebih
+7
+?
+anda
+
+bisa
+untuk
+k
+
+nya
+dalam
+i
+dan
+mereka
+sangat
+i
+menjadi
+telah
+u
+a
+situs
+yang
+menjadi
+adalah
+judi
+indonesia
+dalam
+7
+bisa
+di
+8
+bagi
+itu
+harus
+untuk
+
+satu
+
+u
+/
+
+saja
+adalah
+kita
+menjadi
+dan
+judi
+9
+dapat
+akan
+hal
+:
+kamu
+salah
+bisa
+satu
+oleh
+:
+bahwa
+sudah
+saat
+hal
+?
+dan
+k
+dengan
+,
+2
+
+indonesia
+slot
+di
+an
+kamu
+
+
+mereka
+beberapa
+online
+nya
+e
+cara
+.
+0
+saja
+jika
+akan
+ke
+1
+
+.
+ini
+bisa
+dan
+i
+dengan
+saya
+hal
+situs
+-
+2
+memiliki
+itu
+poker
+secara
+kan
+sebagai
+hal
+memiliki
+ada
+anda
+
+d
+1
+hal
+m
+
+ke
+dari
+para
+saya
+dengan
+hal
+d
+hal
+hanya
+adalah
+dengan
+indonesia
+dalam
+nya
+0
+
+pada
+:
+lebih
+anda
+
+"
+-
+dan
+akan
+cara
+membuat
+dengan
+
+dari
+5
+dan
+tidak
+saat
+k
+i
+.
+.
+karena
+banyak
+,
+
+i
+slot
+?
+4
+7
+
+untuk
+dapat
+-
+seperti
+itu
+.
+pada
+bisa
+orang
+"
+pada
+s
+dari
+anda
+e
+sebagai
+jika
+1
+permainan
+cara
+pada
+salah
+satu
+m
+sangat
+1
+bagi
+m
+lebih
+indonesia
+hanya
+juga
+untuk
+3
+kita
+juga
+,
+4
+online
+s
+ini
+kami
+banyak
+/
+anda
+dalam
+1
+sebagai
+u
+cara
+hal
+itu
+-
+.
+)
+kita
+kami
+untuk
+bahwa
+tidak
+adalah
+sebagai
+yang
+judi
+besar
+harus
+mereka
+membuat
+s
+4
+membuat
+7
+melakukan
+ini
+a
+kamu
+1
+baik
+namun
+9
+secara
+kan
+.
+2
+mereka
+dan
+1
+4
+maka
+di
+
+anda
+cara
+ada
+.
+6
+sudah
+juga
+untuk
+untuk
+salah
+besar
+slot
+tahun
+seperti
+dengan
+6
+)
+kita
+hal
+2
+atau
+
+sangat
+dengan
+dapat
+tersebut
+oleh
+yang
+cara
+apa
+
+
+
+tersebut
+?
+tidak
+saat
+yang
+
+-
+.
+(
+online
+
+indonesia
+saat
+maka
+uang
+akan
+r
+t
+banyak
+atau
+satu
+s
+
+judi
+saja
+4
+dari
+permainan
+u
+i
+melakukan
+.
+dengan
+waktu
+tidak
+kan
+namun
+)
+slot
+secara
+secara
+yang
+lebih
+satu
+jika
+harus
+dari
+hal
+satu
+dengan
+di
+-
+untuk
+lebih
+kamu
+waktu
+(
+bisnis
+yang
+akan
+online
+memiliki
+untuk
+dengan
+i
+s
+"
+lain
+permainan
+saat
+ke
+dari
+
+8
+/
+banyak
+bisa
+(
+3
+untuk
+satu
+ada
+yang
+saat
+tersebut
+harus
+sebagai
+di
+melakukan
+8
+:
+i
+i
+satu
+sangat
+k
+permainan
+atau
+memiliki
+oleh
+-
+yang
+kami
+akan
+dan
+bisa
+,
+ada
+kamu
+3
+atau
+a
+dalam
+2
+tidak
+setiap
+)
+
+/
+orang
+bisa
+saja
+sebagai
+sangat
+an
+a
+besar
+,
+di
+jika
+online
+hanya
+k
+6
+7
+di
+pada
+ini
+akan
+ini
+slot
+baik
+
+3
+tersebut
+dan
+anda
+harus
+dengan
+dapat
+saat
+bahwa
+ada
+:
+yang
+m
+mereka
+yang
+o
+,
+5
+untuk
+dan
+
+banyak
+.
+nya
+uang
+?
+an
+memiliki
+maka
+
+ke
+dalam
+orang
+judi
+juga
+pada
+-
+
+/
+–
+juga
+hal
+dalam
+3
+s
+membuat
+ke
+judi
+
+o
+secara
+menjadi
+waktu
+dari
+u
+ada
+cara
+dan
+kamu
+
+an
+juga
+sangat
+7
+5
+?
+atau
+kami
+.
+:
+memiliki
+dengan
+"
+.
+untuk
+sebagai
+
+atau
+-
+tidak
+oleh
+mereka
+nya
+tidak
+jika
+/
+banyak
+
+memiliki
+4
+orang
+
+nya
+dari
+yang
+2
+memiliki
+menjadi
+akan
+
+1
+anda
+juga
+mereka
+judi
+adalah
+9
+kan
+
+bisa
+dan
+3
+mereka
+8
+ke
+
+sudah
+)
+dalam
+dan
+n
+pada
+6
+satu
+sangat
+,
+kami
+0
+
+dari
+situs
+
+saja
+baru
+game
+kami
+oleh
+dapat
+beberapa
+tidak
+judi
+(
+banyak
+orang
+harus
+yang
+.
+/
+dari
+memiliki
+hal
+p
+
+dalam
+7
+dari
+dalam
+anda
+menggunakan
+indonesia
+beberapa
+kami
+nya
+-
+9
+0
+lebih
+beberapa
+.
+ada
+mereka
+dengan
+,
+anda
+oleh
+melakukan
+bagi
+tidak
+saya
+1
+
+0
+di
+dan
+beberapa
+2
+akan
+telah
+6
+-
+bisa
+1
+saya
+jika
+seperti
+ke
+menjadi
+
+an
+bisa
+,
+9
+telah
+hal
+t
+game
+adalah
+permainan
+
+
+kami
+
+sangat
+ingin
+banyak
+cara
+ada
+lain
+pada
+)
+karena
+tersebut
+k
+,
+.
+tersebut
+pada
+0
+ke
+lebih
+atau
+,
+menjadi
+1
+0
+,
+menjadi
+akan
+kamu
+adalah
+tersebut
+untuk
+
+9
+saya
+permainan
+0
+bermain
+anda
+satu
+kita
+
+di
+besar
+apa
+sudah
+
+0
+2
+mereka
+maka
+lebih
+cara
+adalah
+5
+menjadi
+.
+9
+bahwa
+oleh
+online
+tahun
+6
+hanya
+yang
+pada
+di
+lebih
+
+judi
+4
+dengan
+e
+
+)
+memiliki
+jika
+s
+,
+yang
+.
+satu
+tidak
+anda
+harus
+(
+oleh
+kami
+maka
+menggunakan
+ini
+harga
+bisa
+anda
+bisa
+banyak
+yang
+membuat
+.
+0
+saat
+.
+yang
+karena
+1
+ke
+atau
+-
+k
+an
+kamu
+dan
+jika
+secara
+dari
+oleh
+itu
+?
+sangat
+saja
+
+1
+
+baik
+anda
+saat
+tersebut
+s
+adalah
+7
+5
+online
+.
+
+(
+di
+lebih
+tidak
+juga
+apa
+kamu
+itu
+k
+"
+di
+banyak
+pada
+satu
+
+5
+
+
+u
+maka
+(
+
+a
+untuk
+,
+
+banyak
+permainan
+i
+d
+s
+dalam
+harus
+:
+permainan
+apa
+menjadi
+itu
+k
+,
+itu
+dari
+judi
+online
+besar
+i
+sangat
+karena
+menjadi
+ke
+memiliki
+bisa
+pada
+mendapatkan
+1
+a
+2
+dalam
+i
+"
+kamu
+,
+pada
+slot
+baik
+bisnis
+d
+dari
+
+
+
+jika
+
+dan
+9
+bisnis
+dengan
+8
+karena
+)
+:
+3
+2
+dalam
+di
+saat
+"
+itu
+kami
+a
+adalah
+cara
+hal
+hal
+semua
+3
+juga
+tersebut
+2
+d
+harus
+o
+?
+,
+9
+online
+online
+satu
+maka
+.
+itu
+.
+tidak
+bisa
+i
+karena
+online
+bahwa
+dengan
+saat
+permainan
+nya
+tidak
+harga
+hanya
+saja
+(
+bahwa
+hanya
+dapat
+sangat
+r
+lebih
+yang
+ini
+
+satu
+,
+menjadi
+kan
+hal
+i
+jika
+2
+lebih
+yang
+dapat
+kamu
+.
+)
+akan
+7
+2
+situs
+.
+e
+mereka
+situs
+cara
+
+permainan
+harus
+mudah
+-
+bahwa
+membuat
+secara
+6
+di
+:
+sudah
+di
+
+s
+2
+baik
+jika
+dari
+karena
+memiliki
+lain
+harus
+k
+besar
+besar
+judi
+poker
+
+"
+baik
+2
+dapat
+anda
+,
+anda
+kan
+game
+2
+s
+0
+1
+8
+juga
+hal
+ke
+kan
+s
+slot
+lebih
+indonesia
+
+,
+)
+)
+juga
+seperti
+sudah
+sudah
+9
+yang
+dalam
+4
+akan
+untuk
+
+sangat
+dapat
+untuk
+bisa
+nya
+kamu
+akan
+karena
+
+dengan
+di
+online
+hal
+permainan
+"
+melakukan
+dapat
+orang
+
+4
+nya
+menjadi
+ke
+5
+7
+
+bahwa
+di
+juga
+2
+8
+i
+di
+lain
+lebih
+/
+memiliki
+.
+beberapa
+anda
+orang
+kami
+
+maka
+1
+6
+di
+bagi
+
+banyak
+anda
+
+pemain
+banyak
+dari
+oleh
+ada
+,
+?
+salah
+kamu
+hal
+4
+dapat
+.
+ke
+permainan
+hanya
+melakukan
+i
+kami
+untuk
+dengan
+s
+1
+sebagai
+mudah
+slot
+mudah
+tidak
+i
+
+2
+situs
+bahwa
+slot
+?
+sangat
+ada
+dalam
+s
+tersebut
+hal
+menjadi
+satu
+yang
+8
+2
+bagi
+,
+)
+e
+sudah
+saya
+itu
+jika
+semua
+pada
+beberapa
+yang
+,
+saja
+kami
+satu
+untuk
+bisa
+2
+hal
+dengan
+dalam
+dapat
+itu
+mereka
+
+yang
+nya
+
+saja
+s
+beberapa
+bagi
+r
+para
+cara
+tidak
+/
+seperti
+atau
+saat
+harus
+3
+e
+,
+baik
+1
+1
+dalam
+bermain
+.
+1
+game
+0
+0
+anda
+orang
+lebih
+1
+
+k
+akan
+,
+dengan
+lain
+telah
+an
+2
+:
+/
+karena
+anda
+.
+permainan
+banyak
+ke
+para
+yang
+akan
+an
+bisa
+
+beberapa
+
+3
+d
+adalah
+akan
+atau
+nya
+menjadi
+dari
+7
+dan
+dengan
+poker
+orang
+adalah
+untuk
+
+namun
+
+,
+hal
+9
+a
+1
+(
+
+online
+adalah
+tersebut
+salah
+judi
+an
+indonesia
+akan
+tersebut
+di
+dari
+:
+e
+
+ada
+9
+satu
+dengan
+bisa
+(
+s
+dalam
+ada
+lain
+beberapa
+ingin
+
+s
+online
+banyak
+2
+ke
+
+seperti
+untuk
+a
+adalah
+"
+satu
+bahwa
+
+anda
+an
+semua
+dan
+8
+saja
+9
+telah
+kita
+untuk
+bermain
+:
+memiliki
+ada
+game
+)
+s
+lain
+
+karena
+online
+
+u
+lain
+bisa
+nya
+mereka
+atau
+di
+yang
+saat
+satu
+setiap
+
+-
+semua
+i
+jika
+a
+indonesia
+karena
+k
+
+d
+0
+yang
+0
+
+
+
+(
+banyak
+para
+menjadi
+juga
+untuk
+dan
+pada
+
+untuk
+dengan
+oleh
+jika
+dan
+situs
+memiliki
+dalam
+tentang
+4
+s
+menjadi
+tersebut
+permainan
+karena
+6
+ini
+9
+akan
+d
+situs
+bermain
+dalam
+)
+/
+dan
+n
+maka
+0
+beberapa
+kami
+permainan
+3
+,
+bisa
+?
+online
+banyak
+game
+sudah
+juga
+2
+
+2
+yang
+beberapa
+jika
+lebih
+banyak
+situs
+(
+cara
+saat
+sangat
+kami
+-
+yang
+yang
+saya
+yang
+atau
+adalah
+karena
+judi
+indonesia
+permainan
+situs
+1
+juga
+anda
+kamu
+.
+game
+oleh
+
+i
+/
+:
+-
+indonesia
+2
+ini
+i
+(
+
+
+situs
+yang
+tentang
+seperti
+ini
+membuat
+anda
+judi
+telah
+,
+online
+an
+dari
+atau
+6
+harus
+nya
+yang
+:
+4
+4
+adalah
+hal
+ada
+8
+6
+nya
+dengan
+u
+kita
+sudah
+situs
+untuk
+menjadi
+mereka
+p
+
+itu
+orang
+dan
+tidak
+pemain
+i
+ada
+
+i
+
+1
+uang
+
+2
+menjadi
+dalam
+:
+itu
+ini
+-
+lebih
+4
+
+"
+
+mereka
+harus
+t
+adalah
+untuk
+uang
+juga
+bahwa
+saja
+0
+hanya
+s
+adalah
+nya
+sudah
+
+an
+nya
+kita
+juga
+yang
+an
+ada
+i
+
+dengan
+melakukan
+saat
+yang
+,
+bisnis
+beberapa
+dengan
+tersebut
+atau
+untuk
+.
+.
+online
+4
+ke
+dengan
+baik
+6
+di
+saya
+itu
+mereka
+anda
+pada
+.
+akan
+dapat
+satu
+
+)
+:
+e
+saja
+-
+i
+hanya
+melakukan
+1
+9
+kita
+
+/
+
+untuk
+bisa
+oleh
+karena
+saya
+,
+lain
+uang
+memiliki
+(
+
+kami
+ada
+seperti
+itu
+tidak
+hanya
+e
+0
+nya
+anda
+9
+kami
+mereka
+yang
+)
+yang
+"
+dengan
+5
+tersebut
+atau
+adalah
+secara
+yang
+tidak
+dengan
+?
+:
+beberapa
+tidak
+dengan
+0
+6
+s
+0
+-
+kamu
+dan
+secara
+.
+game
+dalam
+u
+saja
+jika
+anda
+harus
+sangat
+0
+judi
+1
+anda
+saat
+besar
+cara
+memiliki
+3
+bisnis
+seperti
+(
+kita
+jika
+ada
+di
+an
+s
+2
+,
+
+atau
+salah
+sangat
+untuk
+atau
+namun
+menggunakan
+3
+di
+
+cara
+dengan
+satu
+adalah
+situs
+yang
+anda
+para
+0
+dan
+ini
+di
+9
+pada
+1
+oleh
+.
+cara
+dan
+lain
+5
+ke
+:
+saya
+telah
+di
+2
+-
+adalah
+ke
+5
+akan
+di
+mereka
+dengan
+hal
+dari
+permainan
+i
+4
+akan
+yang
+9
+8
+ini
+akan
+bahwa
+online
+para
+ada
+yang
+-
+ke
+dalam
+)
+ke
+ini
+5
+dan
+ini
+dalam
+lebih
+saja
+"
+
+saya
+0
+-
+indonesia
+sebagai
+anda
+2
+anda
+atau
+oleh
+u
+dan
+itu
+tersebut
+indonesia
+tidak
+dan
+s
+8
+indonesia
+/
+oleh
+s
+online
+9
+bisa
+hal
+adalah
+0
+ini
+saja
+untuk
+ini
+)
+.
+1
+t
+bahwa
+d
+4
+yang
+mereka
+i
+?
+)
+saat
+i
+
+saya
+dan
+untuk
+dengan
+
+dapat
+e
+akan
+,
+
+di
+juga
+dalam
+jika
+0
+untuk
+satu
+jika
+u
+0
+(
+tersebut
+kamu
+.
+anda
+satu
+online
+ini
+adalah
+baik
+8
+ini
+?
+saat
+apa
+semua
+ada
+:
+,
+saja
+dan
+anda
+satu
+tidak
+kamu
+untuk
+pada
+,
+sebagai
+
+0
+k
+s
+/
+-
+untuk
+dengan
+banyak
+banyak
+)
+"
+8
+dalam
+
+kita
+oleh
+bermain
+saat
+sudah
+d
+kami
+dengan
+permainan
+tersebut
+.
+bisa
+hanya
+indonesia
+akan
+hanya
+?
+jika
+
+0
+3
+memiliki
+6
+itu
+sangat
+0
+6
+seperti
+mereka
+indonesia
+pada
+untuk
+1
+harus
+i
+secara
+
+
+sebagai
+baik
+s
+adalah
+dapat
+satu
+-
+jika
+dalam
+ke
+adalah
+2
+tidak
+secara
+sebagai
+membuat
+2
+indonesia
+hal
+untuk
+0
+saya
+oleh
+3
+pada
+kamu
+dan
+
+saja
+menjadi
+banyak
+sudah
+saat
+akan
+seperti
+akan
+atau
+i
+d
+baik
+nya
+menjadi
+5
+uang
+jadi
+harus
+,
+lain
+orang
+beberapa
+akan
+e
+2
+ini
+u
+uang
+mereka
+an
+namun
+s
+apa
+dan
+mendapatkan
+2
+3
+di
+-
+menjadi
+tersebut
+cara
+ke
+telah
+itu
+situs
+o
+4
+hanya
+seperti
+d
+u
+baru
+t
+0
+hanya
+bisa
+menjadi
+/
+cara
+harus
+.
+dengan
+seperti
+
+di
+itu
+karena
+pada
+adalah
+a
+hanya
+:
+9
+s
+tidak
+(
+hal
+akan
+harus
+lebih
+poker
+?
+nya
+indonesia
+akan
+pada
+adalah
+salah
+u
+banyak
+)
+secara
+dan
+an
+lebih
+masih
+4
+5
+menjadi
+5
+p
+.
+hal
+nya
+/
+0
+anda
+adalah
+5
+permainan
+online
+
+ini
+.
+pada
+namun
+s
+dan
+
+yang
+secara
+karena
+situs
+e
+lebih
+)
+sebagai
+dari
+orang
+,
+4
+untuk
+nya
+slot
+6
+hal
+,
+mendapatkan
+kamu
+dapat
+di
+permainan
+:
+:
+dengan
+dan
+5
+orang
+baik
+anda
+2
+.
+an
+akan
+p
+
+cara
+kita
+slot
+seperti
+
+.
+tahun
+3
+kami
+dan
+melakukan
+0
+bisa
+dalam
+sebagai
+situs
+"
+8
+-
+3
+pemain
+dengan
+saja
+online
+p
+dengan
+
+
+5
+dari
+juga
+nya
+karena
+saya
+adalah
+an
+membuat
+saat
+sudah
+dengan
+dapat
+?
+dengan
+,
+karena
+game
+banyak
+t
+akan
+s
+2
+
+lain
+sangat
+baik
+)
+beberapa
+
+
+,
+3
+tentang
+1
+0
+lebih
+banyak
+judi
+masih
+saya
+pada
+mereka
+sudah
+pada
+ke
+indonesia
+
+menggunakan
+jika
+"
+memiliki
+
+jika
+untuk
+orang
+
+"
+yang
+
+
+saja
+anda
+
+satu
+ini
+secara
+karena
+3
+besar
+
+permainan
+saat
+atau
+karena
+orang
+-
+dengan
+
+bisa
+saja
+bahwa
+2
+di
+4
+tidak
+p
+8
+online
+t
+karena
+?
+hal
+3
+6
+t
+bisnis
+bahwa
+saat
+?
+8
+0
+lebih
+dari
+atau
+sangat
+/
+/
+ini
+saya
+.
+satu
+
+tahun
+dan
+indonesia
+hanya
+)
+bahwa
+di
+atau
+kamu
+untuk
+hal
+ada
+kamu
+
+adalah
+saya
+cara
+ke
+,
+secara
+yang
+s
+2
+
+saja
+yang
+lebih
+,
+tidak
+k
+7
+telah
+1
+e
+saat
+,
+secara
+an
+hanya
+untuk
+lain
+oleh
+mungkin
+,
+
+3
+r
+salah
+hal
+kita
+4
+banyak
+t
+?
+5
+judi
+tidak
+1
+?
+adalah
+dengan
+mereka
+pada
+permainan
+0
+adalah
+kan
+karena
+4
+atau
+memiliki
+saat
+nya
+pada
+saya
+oleh
+a
+-
+
+k
+(
+dan
+situs
+/
+kan
+bagi
+ini
+karena
+bisa
+ini
+,
+tidak
+untuk
+itu
+jika
+situs
+nya
+membuat
+tersebut
+di
+menjadi
+orang
+a
+beberapa
+
+ke
+e
+s
+jika
+5
+pada
+kami
+semua
+online
+ke
+3
+hal
+indonesia
+5
+2
+satu
+ada
+situs
+
+satu
+saja
+4
+3
+anda
+tidak
+anda
+)
+jadi
+ini
+4
+bisa
+ini
+nya
+oleh
+untuk
+i
+dari
+
+dapat
+tidak
+d
+akan
+dapat
+akan
+sebagai
+orang
+satu
+
+satu
+
+juga
+"
+saya
+secara
+5
+ini
+
+kita
+an
+kan
+lebih
+
+
+dari
+nya
+seperti
+dan
+lebih
+2
+s
+nya
+untuk
+nya
+di
+sangat
+harus
+di
+cara
+hal
+saat
+sebagai
+yang
+
+sebagai
+s
+,
+adalah
+5
+
+yang
+ada
+lebih
+,
+tersebut
+situs
+/
+s
+anda
+anda
+o
+nya
+7
+saat
+sudah
+saja
+.
+tentang
+maka
+di
+memiliki
+seperti
+juga
+baik
+kami
+r
+4
+karena
+9
+saya
+
+di
+kita
+ini
+
+ke
+5
+6
+baik
+bagi
+membuat
+online
+karena
+
+
+menjadi
+situs
+hanya
+oleh
+satu
+ada
+bahwa
+k
+dari
+ada
+menjadi
+indonesia
+
+memiliki
+
+k
+3
+e
+/
+4
+tersebut
+seperti
+situs
+harus
+membuat
+dan
+1
+judi
+3
+ke
+cara
+6
+)
+judi
+lain
+u
+akan
+pada
+seperti
+saat
+akan
+kami
+untuk
+nya
+kita
+juga
+baru
+menjadi
+
+hal
+juga
+mereka
+dengan
+dari
+cara
+anda
+lebih
+harus
+satu
+para
+9
+7
+dalam
+i
+saya
+jadi
+bisa
+
+namun
+)
+(
+saja
+dengan
+4
+/
+secara
+mereka
+0
+indonesia
+kami
+anda
+dari
+ini
+ke
+secara
+banyak
+dari
+bahwa
+indonesia
+ini
+3
+untuk
+adalah
+di
+atau
+maka
+satu
+k
+maka
+baik
+besar
+salah
+online
+poker
+saya
+7
+0
+online
+8
+kita
+pada
+oleh
+dengan
+memiliki
+saja
+ini
+.
+s
+dari
+ini
+di
+di
+sangat
+slot
+9
+7
+harus
+0
+tersebut
+,
+bahwa
+nya
+seperti
+maka
+judi
+mendapatkan
+sebagai
+.
+bisa
+di
+u
+dan
+kamu
+2
+mereka
+saja
+beberapa
+orang
+hanya
+judi
+ada
+judi
+5
+namun
+/
+bisa
+ada
+.
+dan
+oleh
+dengan
+situs
+kamu
+:
+dan
+dan
+dalam
+permainan
+0
+dengan
+karena
+poker
+ada
+2
+sebagai
+harus
+dan
+oleh
+dari
+anda
+)
+/
+online
+ke
+a
+yang
+.
+adalah
+5
+atau
+yang
+memiliki
+karena
+menggunakan
+-
+sudah
+"
+t
+e
+nya
+game
+banyak
+0
+adalah
+lebih
+"
+2
+atau
+juga
+di
+itu
+karena
+dengan
+dan
+kami
+k
+orang
+7
+karena
+d
+di
+s
+slot
+lebih
+harus
+namun
+satu
+menggunakan
+bisa
+"
+6
+0
+lebih
+menggunakan
+t
+ada
+an
+
+e
+baik
+akan
+t
+membuat
+slot
+anda
+menjadi
+pada
+satu
+yang
+kita
+
+tidak
+online
+memiliki
+9
+dari
+oleh
+:
+:
+ada
+oleh
+menjadi
+akan
+saja
+dengan
+juga
+saja
+harus
+dari
+a
+salah
+beberapa
+,
+:
+game
+dan
+jika
+
+
+1

predict_results.json

@@ -0,0 +1,12 @@
+{
+    "predict_gen_len": 1.0,
+    "predict_loss": 0.5068754553794861,
+    "predict_rouge1": 0.3931,
+    "predict_rouge2": 0.0,
+    "predict_rougeL": 0.3924,
+    "predict_rougeLsum": 0.3917,
+    "predict_runtime": 1681.7484,
+    "predict_samples": 3761,
+    "predict_samples_per_second": 2.236,
+    "predict_steps_per_second": 0.28
+}

train_results.json

@@ -0,0 +1,9 @@
+{
+    "epoch": 5.0,
+    "total_flos": 6.557265830209536e+16,
+    "train_loss": 0.37884998882989906,
+    "train_runtime": 9312.1131,
+    "train_samples": 14266,
+    "train_samples_per_second": 7.66,
+    "train_steps_per_second": 1.915
+}

trainer_state.json

@@ -0,0 +1,130 @@
+{
+  "best_metric": null,
+  "best_model_checkpoint": null,
+  "epoch": 5.0,
+  "eval_steps": 500,
+  "global_step": 17835,
+  "is_hyper_param_search": false,
+  "is_local_process_zero": true,
+  "is_world_process_zero": true,
+  "log_history": [
+    {
+      "epoch": 1.0,
+      "grad_norm": 4.056117534637451,
+      "learning_rate": 4e-05,
+      "loss": 0.6327,
+      "step": 3567
+    },
+    {
+      "epoch": 1.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 0.4634159207344055,
+      "eval_rouge1": 0.3795,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.3806,
+      "eval_rougeLsum": 0.3802,
+      "eval_runtime": 331.4212,
+      "eval_samples_per_second": 2.254,
+      "eval_steps_per_second": 0.284,
+      "step": 3567
+    },
+    {
+      "epoch": 2.0,
+      "grad_norm": 3.9469492435455322,
+      "learning_rate": 3e-05,
+      "loss": 0.4349,
+      "step": 7134
+    },
+    {
+      "epoch": 2.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 0.45409438014030457,
+      "eval_rouge1": 0.3596,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.3615,
+      "eval_rougeLsum": 0.3631,
+      "eval_runtime": 336.4749,
+      "eval_samples_per_second": 2.22,
+      "eval_steps_per_second": 0.279,
+      "step": 7134
+    },
+    {
+      "epoch": 3.0,
+      "grad_norm": 2.7169110774993896,
+      "learning_rate": 2e-05,
+      "loss": 0.3376,
+      "step": 10701
+    },
+    {
+      "epoch": 3.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 0.4561801552772522,
+      "eval_rouge1": 0.4121,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.4123,
+      "eval_rougeLsum": 0.4116,
+      "eval_runtime": 332.2435,
+      "eval_samples_per_second": 2.248,
+      "eval_steps_per_second": 0.283,
+      "step": 10701
+    },
+    {
+      "epoch": 4.0,
+      "grad_norm": 5.345052719116211,
+      "learning_rate": 1e-05,
+      "loss": 0.2683,
+      "step": 14268
+    },
+    {
+      "epoch": 4.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 0.474356472492218,
+      "eval_rouge1": 0.3886,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.3869,
+      "eval_rougeLsum": 0.388,
+      "eval_runtime": 329.9317,
+      "eval_samples_per_second": 2.264,
+      "eval_steps_per_second": 0.285,
+      "step": 14268
+    },
+    {
+      "epoch": 5.0,
+      "grad_norm": 3.9704811573028564,
+      "learning_rate": 0.0,
+      "loss": 0.2208,
+      "step": 17835
+    },
+    {
+      "epoch": 5.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 0.4922512173652649,
+      "eval_rouge1": 0.3905,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.3898,
+      "eval_rougeLsum": 0.3916,
+      "eval_runtime": 332.1945,
+      "eval_samples_per_second": 2.249,
+      "eval_steps_per_second": 0.283,
+      "step": 17835
+    },
+    {
+      "epoch": 5.0,
+      "step": 17835,
+      "total_flos": 6.557265830209536e+16,
+      "train_loss": 0.37884998882989906,
+      "train_runtime": 9312.1131,
+      "train_samples_per_second": 7.66,
+      "train_steps_per_second": 1.915
+    }
+  ],
+  "logging_steps": 500,
+  "max_steps": 17835,
+  "num_input_tokens_seen": 0,
+  "num_train_epochs": 5,
+  "save_steps": 500,
+  "total_flos": 6.557265830209536e+16,
+  "train_batch_size": 4,
+  "trial_name": null,
+  "trial_params": null
+}