End of training

README.md

@@ -1,4 +1,6 @@
 ---
+language:
+- id
 license: apache-2.0
 base_model: LazarusNLP/IndoNanoT5-base
 tags:

all_results.json

@@ -0,0 +1,29 @@
+{
+    "epoch": 5.0,
+    "eval_gen_len": 1.0,
+    "eval_loss": 0.5102769732475281,
+    "eval_rouge1": 0.4427,
+    "eval_rouge2": 0.0,
+    "eval_rougeL": 0.4423,
+    "eval_rougeLsum": 0.4403,
+    "eval_runtime": 336.8915,
+    "eval_samples": 749,
+    "eval_samples_per_second": 2.223,
+    "eval_steps_per_second": 0.279,
+    "predict_gen_len": 1.0,
+    "predict_loss": 0.5186858773231506,
+    "predict_rouge1": 0.3965,
+    "predict_rouge2": 0.0,
+    "predict_rougeL": 0.3973,
+    "predict_rougeLsum": 0.395,
+    "predict_runtime": 1676.8581,
+    "predict_samples": 3762,
+    "predict_samples_per_second": 2.243,
+    "predict_steps_per_second": 0.281,
+    "total_flos": 6.531382403512013e+16,
+    "train_loss": 0.37723224017303175,
+    "train_runtime": 9322.5764,
+    "train_samples": 14263,
+    "train_samples_per_second": 7.65,
+    "train_steps_per_second": 1.913
+}

eval_results.json

@@ -0,0 +1,13 @@
+{
+    "epoch": 5.0,
+    "eval_gen_len": 1.0,
+    "eval_loss": 0.5102769732475281,
+    "eval_rouge1": 0.4427,
+    "eval_rouge2": 0.0,
+    "eval_rougeL": 0.4423,
+    "eval_rougeLsum": 0.4403,
+    "eval_runtime": 336.8915,
+    "eval_samples": 749,
+    "eval_samples_per_second": 2.223,
+    "eval_steps_per_second": 0.279
+}

generated_predictions.txt

@@ -0,0 +1,3761 @@
+memiliki
+tersebut
+sudah
+a
+lebih
+dari
+judi
+dalam
+1
+bisnis
+5
+yang
+lebih
+atau
+hal
+menjadi
+karena
+sudah
+nya
+1
+dari
+telah
+
+bagi
+
+"
+cara
+tahun
+hanya
+an
+7
+anda
+ada
+an
+:
+karena
+menggunakan
+sudah
+.
+secara
+
+(
+"
+a
+membuat
+?
+d
+
+tersebut
+sudah
+4
+kita
+atau
+dapat
+judi
+1
+a
+baik
+kan
+oleh
+1
+maka
+adalah
+ke
+dan
+seperti
+
+cara
+hanya
+)
+dengan
+
+atau
+d
+kan
+
+mereka
+bagi
+:
+ada
+tidak
+judi
+orang
+nya
+dapat
+6
+?
+beberapa
+
+adalah
+akan
+e
+para
+dalam
+1
+
+
+lebih
+hanya
+
+kita
+hal
+kami
+bisa
+ingin
+sudah
+
+di
+ada
+4
+saat
+harus
+9
+dengan
+dengan
+1
+)
+kita
+(
+tidak
+7
+dengan
+,
+dengan
+(
+-
+saat
+game
+juga
+k
+dan
+nya
+-
+permainan
+,
+dengan
+masih
+saya
+harus
+a
+pemain
+dan
+satu
+satu
+ada
+oleh
+0
+harus
+hanya
+dapat
+
+memiliki
+3
+
+ada
+2
+itu
+nya
+kami
+anda
+-
+hanya
+online
+hanya
+seperti
+atau
+orang
+membuat
+kami
+karena
+di
+9
+d
+satu
+yang
+membuat
+orang
+sudah
+lebih
+4
+ini
+di
+
+menggunakan
+kami
+adalah
+"
+untuk
+atau
+7
+saya
+e
+jika
+6
+saat
+.
+seperti
+untuk
+pada
+
+anda
+apa
+
+online
+2
+atau
+lebih
+ini
+a
+telah
+
+-
+nya
+memiliki
+untuk
+sudah
+1
+ke
+2
+ke
+
+saat
+di
+
+tidak
+bahwa
+memiliki
+namun
+dari
+secara
+0
+?
+namun
+indonesia
+a
+lain
+di
+a
+anda
+adalah
+terbaik
+dan
+saat
+indonesia
+anda
+saja
+juga
+4
+kamu
+.
+bisa
+permainan
+7
+yang
+anda
+1
+dan
+situs
+tidak
+seperti
+2
+)
+tersebut
+(
+4
+atau
+ini
+,
+.
+3
+.
+memiliki
+yang
+kami
+akan
+8
+,
+,
+4
+e
+menjadi
+5
+
+banyak
+di
+adalah
+sudah
+ada
+kita
+harus
+oleh
+itu
+untuk
+o
+di
+membuat
+jika
+seperti
+harus
+hal
+yang
+ada
+semua
+2
+)
+,
+ada
+n
+dapat
+e
+tidak
+sangat
+
+9
+
+dalam
+oleh
+
+indonesia
+kamu
+bisa
+mereka
+atau
+1
+
+atau
+banyak
+0
+judi
+menjadi
+:
+1
+t
+dapat
+pada
+2
+1
+i
+(
+kan
+bermain
+ini
+bahwa
+dapat
+
+
+
+tidak
+untuk
+atau
+9
+atau
+semua
+untuk
+/
+cara
+menjadi
+salah
+4
+besar
+memiliki
+tentang
+membuat
+akan
+,
+indonesia
+bahwa
+secara
+kamu
+hanya
+2
+dengan
+kamu
+
+yang
+karena
+:
+online
+indonesia
+bisa
+,
+adalah
+situs
+ada
+juga
+saat
+sudah
+"
+
+ke
+dengan
+4
+3
+
+anda
+untuk
+s
+saya
+sudah
+saja
+
+bahwa
+pada
+.
+kami
+/
+yang
+membuat
+
+
+"
+kan
+saat
+nya
+judi
+dan
+saat
+bisa
+atau
+dengan
+8
+terbaik
+banyak
+3
+kamu
+permainan
+akan
+memiliki
+saya
+salah
+5
+ada
+menjadi
+itu
+.
+/
+kamu
+yang
+
+2
+bermain
+adalah
+2
+terbaik
+itu
+u
+8
+situs
+9
+0
+ada
+dalam
+hal
+
+,
+semua
+
+nya
+yang
+game
+besar
+8
+m
+-
+,
+mereka
+ada
+9
+(
+e
+nya
+judi
+,
+jika
+dan
+membuat
+sebagai
+0
+dapat
+situs
+dapat
+saat
+uang
+2
+
+lebih
+saja
+hanya
+3
+saya
+dan
+m
+yang
+,
+t
+,
+yang
+kita
+oleh
+harus
+.
+
+memiliki
+online
+9
+judi
+s
+,
+mudah
+a
+untuk
+online
+9
+saja
+oleh
+e
+dapat
+permainan
+tidak
+5
+oleh
+situs
+"
+0
+besar
+secara
+anda
+0
+8
+hal
+dari
+,
+
+6
+yang
+mereka
+3
+itu
+beberapa
+untuk
+kami
+sangat
+tidak
+kami
+ini
+-
+ini
+
+permainan
+
+menjadi
+4
+i
+u
+saya
+)
+5
+para
+dan
+3
+salah
+tahun
+
+9
+saat
+:
+saja
+sebagai
+bermain
+pada
+8
+juga
+juga
+lebih
+
+seperti
+itu
+dalam
+lebih
+judi
+atau
+pada
+,
+i
+ke
+atau
+satu
+atau
+semua
+oleh
+judi
+k
+
+bermain
+
+pada
+jika
+kan
+e
+3
+,
+e
+bahwa
+atau
+kita
+nya
+ini
+"
+yang
+0
+(
+pada
+oleh
+atau
+tidak
+saja
+0
+"
+membuat
+saya
+5
+"
+pada
+oleh
+judi
+sudah
+beberapa
+itu
+7
+membuat
+a
+4
+saja
+oleh
+membuat
+ini
+para
+,
+)
+online
+,
+?
+hal
+)
+/
+i
+hal
+jika
+bahwa
+a
+indonesia
+juga
+baik
+0
+karena
+tidak
+.
+dari
+
+hal
+
+i
+cara
+dari
+kami
+.
+,
+orang
+s
+an
+akan
+1
+hanya
+bermain
+0
+harus
+untuk
+?
+dalam
+banyak
+dengan
+bermain
+orang
+adalah
+k
+
+s
+untuk
+sudah
+tidak
+bisa
+.
+oleh
+mereka
+adalah
+sudah
+adalah
+saat
+(
+k
+tidak
+salah
+satu
+indonesia
+pada
+.
+ini
+saja
+online
+telah
+nya
+dari
+judi
+
+4
+kita
+k
+d
+:
+
+,
+menggunakan
+t
+adalah
+online
+-
+semua
+nya
+i
+hal
+
+1
+k
+)
+kamu
+menjadi
+
+mereka
+tersebut
+5
+membuat
+akan
+.
+juga
+-
+.
+sudah
+/
+di
+atau
+"
+hanya
+semua
+itu
+tidak
+?
+anda
+k
+untuk
+dalam
+0
+k
+hanya
+s
+dalam
+
+cara
+:
+adalah
+2
+n
+untuk
+
+ada
+sudah
+judi
+di
+i
+
+6
+s
+kita
+5
+dapat
+memiliki
+secara
+"
+dapat
+bahwa
+salah
+yang
+:
+tersebut
+ke
+di
+cara
+kamu
+.
+1
+permainan
+membuat
+r
+4
+0
+sangat
+hal
+pada
+6
+
+)
+ke
+bermain
+kan
+di
+untuk
+
+tidak
+
+ada
+an
+dalam
+yang
+game
+tersebut
+mereka
+dari
+k
+
+6
+adalah
+o
+cara
+a
+4
+lebih
+salah
+lebih
+yang
+e
+pada
+kita
+anda
+indonesia
+juga
+banyak
+mereka
+
+akan
+beberapa
+u
+tersebut
+(
+:
+/
+4
+yang
+
+satu
+–
+tidak
+dalam
+e
+9
+
+3
+ke
+seperti
+dan
+hanya
+tahun
+dapat
+akan
+baru
+kamu
+
+anda
+anda
+dengan
+tersebut
+sudah
+online
+lebih
+atau
+2
+?
+dengan
+saja
+di
+
+
+saya
+dari
+i
+bahwa
+ada
+banyak
+dapat
+uang
+dalam
+0
+juga
+7
+bisa
+game
+dapat
+o
+yang
+dari
+banyak
+0
+dari
+i
+permainan
+
+semua
+dari
+anda
+telah
+salah
+maka
+bermain
+banyak
+cara
+dalam
+9
+tersebut
+"
+ada
+maka
+di
+adalah
+2
+,
+lebih
+memiliki
+akan
+.
+tidak
+
+atau
+ini
+
+dalam
+kita
+saat
+lebih
+3
+oleh
+,
+1
+u
+
+dalam
+)
+banyak
+s
+banyak
+ini
+anda
+nya
+1
+harus
+dalam
+anda
+untuk
+dan
+secara
+itu
+ada
+ada
+saya
+juga
+atau
+untuk
+untuk
+banyak
+e
+dan
+tidak
+tersebut
+
+sudah
+para
+7
+:
+harus
+untuk
+anda
+itu
+hal
+ini
+(
+dengan
+.
+ini
+cara
+atau
+bisa
+dengan
+sudah
+yang
+saat
+3
+saja
+dengan
+menggunakan
+orang
+besar
+saya
+0
+besar
+sudah
+karena
+
+banyak
+
+yang
+untuk
+2
+e
+dapat
+cara
+i
+saya
+online
+
+u
+saja
+
+ini
+salah
+dan
+itu
+4
+.
+-
+online
+bermain
+nya
+sangat
+anda
+bahwa
+kan
+atau
+membuat
+kan
+judi
+u
+an
+mudah
+sebagai
+yang
+karena
+anda
+?
+dalam
+adalah
+/
+kan
+6
+juga
+dengan
+secara
+membuat
+ini
+tersebut
+tersebut
+nya
+dapat
+satu
+bagi
+1
+oleh
+bahwa
+-
+nya
+untuk
+memiliki
+hanya
+8
+mendapatkan
+7
+dan
+baik
+3
+dalam
+lain
+sudah
+
+ada
+
+sangat
+atau
+namun
+satu
+0
+juga
+u
+0
+anda
+dan
+kan
+pemain
+anda
+itu
+i
+,
+seperti
+nya
+slot
+maka
+8
+harus
+8
+bahwa
+dengan
+cara
+9
+untuk
+)
+tersebut
+dalam
+uang
+dari
+dengan
+banyak
+"
+pada
+anda
+para
+.
+tidak
+ke
+situs
+u
+an
+,
+oleh
+cara
+an
+
+dan
+apa
+menjadi
+atau
+"
+anda
+m
+judi
+dapat
+:
+salah
+-
+online
+/
+memiliki
+karena
+o
+mungkin
+mudah
+2
+
+.
+permainan
+dari
+menggunakan
+oleh
+k
+
+2
+satu
+tersebut
+itu
+yang
+o
+adalah
+seperti
+oleh
+baik
+bisa
+itu
+sudah
+bisa
+anda
+ini
+
+m
+ini
+.
+untuk
+atau
+juga
+
+lebih
+d
+2
+kamu
+dan
+
+1
+banyak
+t
+3
+dengan
+0
+menggunakan
+salah
+memiliki
+saat
+i
+judi
+
+k
+untuk
+3
+bahwa
+tersebut
+pada
+yang
+1
+dengan
+dalam
+dan
+harus
+.
+
+dari
+online
+ada
+8
+untuk
+tidak
+dalam
+
+para
+dengan
+5
+sudah
+membuat
+oleh
+saat
+salah
+
+0
+di
+ingin
+oleh
+sudah
+hanya
+tersebut
+menjadi
+-
+bisa
+itu
+u
+untuk
+terbaik
+hanya
+
+akan
+salah
+dengan
+9
+)
+karena
+bisnis
+akan
+t
+kita
+adalah
+
+r
+3
+memiliki
+-
+e
+kami
+akan
+dengan
+karena
+pada
+baik
+ada
+dalam
+jika
+
+i
+2
+t
+(
+besar
+melakukan
+seperti
+dapat
+untuk
+3
+dapat
+kita
+k
+8
+namun
+"
+
+sudah
+e
+ke
+dan
+saja
+ini
+0
+i
+salah
+akan
+n
+permainan
+orang
+i
+6
+yang
+bahwa
+banyak
+untuk
+judi
+?
+satu
+baik
+situs
+bisa
+dari
+a
+bermain
+s
+ini
+memiliki
+permainan
+ini
+atau
+1
+i
+e
+kita
+-
+lebih
+lebih
+jika
+9
+7
+online
+
+maka
+mereka
+,
+anda
+tersebut
+tidak
+saja
+kan
+,
+di
+s
+pada
+saja
+baik
+8
+situs
+bisa
+
+semua
+saya
+.
+memiliki
+mereka
+bisa
+u
+menggunakan
+adalah
+sangat
+salah
+harus
+.
+i
+karena
+beberapa
+dapat
+satu
+di
+.
+/
+satu
+bahwa
+yang
+di
+akan
+4
+melakukan
+9
+.
+dalam
+lain
+mereka
+menjadi
+cara
+3
+0
+adalah
+mereka
+salah
+,
+1
+
+s
+(
+tidak
+nya
+ada
+-
+an
+seperti
+waktu
+dengan
+tidak
+adalah
+3
+mereka
+t
+4
+dengan
+ini
+ke
+baik
+
+tersebut
+dalam
+bisa
+1
+adalah
+mereka
+banyak
+sangat
+adalah
+saya
+tidak
+dalam
+anda
+dalam
+dari
+tersebut
+dalam
+dengan
+membuat
+e
+dengan
+1
+8
+t
+dalam
+i
+atau
+dapat
+akan
+0
+seperti
+oleh
+dengan
+pada
+
+5
+oleh
+dalam
+pada
+:
+membuat
+bisa
+7
+ini
+juga
+k
+
+6
+dan
+untuk
+
+i
+tidak
+.
+(
+tersebut
+ini
+/
+.
+banyak
+itu
+nya
+setiap
+9
+hal
+
+
+kami
+orang
+situs
+saat
+hanya
+itu
+dalam
+seperti
+satu
+,
+,
+lebih
+
+hanya
+4
+online
+permainan
+nya
+karena
+8
+pemain
+satu
+an
+i
+tidak
+dari
+
+karena
+dan
+oleh
+salah
+ke
+sudah
+hal
+adalah
+,
+menjadi
+banyak
+itu
+
+9
+menjadi
+3
+dan
+
+an
+t
+jadi
+seperti
+sudah
+u
+dari
+3
+?
+satu
+dengan
+adalah
+)
+dengan
+d
+saat
+hal
+anda
+p
+beberapa
+"
+dalam
+akan
+hanya
+membuat
+ada
+
+para
+hanya
+beberapa
+anda
+akan
+juga
+3
+anda
+adalah
+kami
+akan
+sangat
+2
+
+sebagai
+e
+
+cara
+akan
+?
+banyak
+:
+ke
+
+0
+bermain
+di
+di
+dari
+cara
+0
+dengan
+orang
+lebih
+8
+s
+-
+untuk
+sangat
+situs
+8
+orang
+6
+bisa
+harga
+bahwa
+untuk
+yang
+-
+bisa
+
+hal
+sebagai
+yang
+sangat
+yang
+hanya
+an
+atau
+menggunakan
+.
+saja
+setiap
+
+k
+pada
+memiliki
+tidak
+ke
+kamu
+(
+sebagai
+online
+dengan
+menjadi
+sangat
+:
+0
+
+karena
+baik
+"
+a
+d
+hanya
+itu
+tidak
+,
+baik
+saya
+tahun
+bisa
+kami
+sebagai
+dalam
+namun
+menjadi
+untuk
+7
+bagi
+ini
+i
+besar
+2
+e
+atau
+atau
+1
+bisnis
+dengan
+,
+a
+ini
+bisa
+untuk
+t
+anda
+lebih
+/
+yang
+ini
+secara
+tidak
+bahwa
+sangat
+besar
+saat
+ini
+nya
+bagi
+d
+4
+ke
+pemain
+kami
+hal
+bisa
+sudah
+sebagai
+telah
+dengan
+mudah
+
+di
+yang
+(
+atau
+
+saja
+dengan
+menjadi
+harus
+
+semua
+kan
+:
+semua
+8
+slot
+8
+u
+oleh
+
+ke
+ini
+memiliki
+k
+e
+1
+jika
+.
+adalah
+bahwa
+i
+e
+juga
+juga
+memiliki
+anda
+ada
+cara
+bisa
+ada
+menjadi
+atau
+8
+judi
+menjadi
+e
+dan
+situs
+saja
+lebih
+kita
+ada
+
+yang
+semua
+hanya
+yang
+karena
+ke
+pada
+7
+tahun
+t
+anda
+judi
+tersebut
+"
+beberapa
+jika
+sebagai
+atau
+semua
+tidak
+situs
+6
+dan
+indonesia
+anda
+itu
+
+6
+s
+-
+"
+kita
+)
+ada
+e
+o
+online
+dan
+hal
+"
+banyak
+(
+e
+/
+bagi
+di
+ini
+online
+ini
+2
+n
+slot
+
+online
+8
+ke
+satu
+karena
+tidak
+dengan
+dari
+terbaik
+hal
+ke
+,
+6
+di
+
+harus
+di
+:
+kami
+untuk
+5
+ke
+sangat
+5
+oleh
+bisa
+besar
+6
+hanya
+dari
+9
+dengan
+akan
+1
+6
+memiliki
+-
+
+s
+pada
+9
+e
+7
+atau
+.
+0
+kamu
+.
+ke
+adalah
+adalah
+
+menjadi
+a
+judi
+ini
+di
+bermain
+pada
+salah
+lebih
+permainan
+saja
+6
+di
+bisa
+8
+dalam
+:
+an
+secara
+mereka
+k
+salah
+poker
+dan
+hanya
+orang
+ada
+lebih
+
+online
+tersebut
+dapat
+itu
+sangat
+ini
+tidak
+harus
+dengan
+6
+di
+.
+tidak
+.
+2
+saja
+harus
+9
+
+baik
+k
+jika
+lebih
+jika
+pada
+banyak
+nya
+i
+
+di
+hanya
+itu
+tidak
+juga
+kami
+itu
+oleh
+adalah
+cara
+maka
+untuk
+-
+adalah
+tahun
+1
+?
+mereka
+-
+kan
+hanya
+menggunakan
+dan
+satu
+,
+di
+juga
+akan
+ke
+kami
+atau
+hanya
+hal
+:
+seperti
+cara
+:
+e
+seperti
+
+hanya
+harus
+tidak
+i
+hal
+saya
+di
+online
+permainan
+kan
+ada
+?
+anda
+
+.
+online
+(
+apa
+membuat
+ini
+an
+akan
+saja
+sudah
+adalah
+/
+bagi
+/
+kan
+banyak
+tersebut
+lain
+di
+dengan
+orang
+ada
+(
+kita
+lain
+
+karena
+i
+tidak
+untuk
+9
+harus
+u
+ini
+0
+baik
+dan
+uang
+
+kamu
+r
+saya
+para
+itu
+maka
+sebagai
+atau
+yang
+besar
+s
+hal
+ini
+kan
+e
+yang
+ini
+dengan
+3
+mereka
+dapat
+online
+banyak
+nya
+permainan
+nya
+2
+dan
+bisa
+4
+kan
+mereka
+.
+9
+dari
+:
+untuk
+/
+tidak
+saya
+i
+anda
+situs
+:
+di
+saja
+dengan
+bisa
+8
+dengan
+?
+1
+3
+,
+banyak
+
+yang
+situs
+(
+di
+judi
+akan
+dengan
+lebih
+(
+situs
+hanya
+a
+3
+s
+nya
+situs
+yang
+9
+menjadi
+
+"
+harus
+tidak
+satu
+tahun
+yang
+indonesia
+menggunakan
+
+,
+4
+akan
+situs
+)
+.
+saya
+juga
+1
+bahwa
+apa
+/
+untuk
+yang
+tidak
+atau
+bermain
+saat
+akan
+4
+)
+:
+kamu
+yang
+dan
+seperti
+
+jadi
+
+)
+harga
+e
+tahun
+sudah
+an
+hal
+adalah
+kamu
+saat
+judi
+kami
+tidak
+banyak
+
+
+yang
+dan
+k
+8
+a
+pada
+membuat
+slot
+s
+di
+6
+0
+ini
+karena
+dalam
+maka
+saya
+jika
+lebih
+situs
+untuk
+dapat
+sudah
+online
+karena
+r
+ini
+permainan
+ini
+secara
+di
+harus
+terbaik
+saat
+nya
+saja
+-
+a
+anda
+a
+kami
+akan
+
+game
+saya
+a
+
+0
+
+orang
+game
+membuat
+
+untuk
+?
+pada
+pada
+
+8
+u
+beberapa
+ini
+(
+sudah
+/
+dengan
+d
+6
+besar
+online
+akan
+yang
+:
+juga
+9
+"
+memiliki
+permainan
+beberapa
+di
+juga
+di
+mereka
+akan
+ke
+
+/
+situs
+untuk
+2
+bermain
+yang
+sebagai
+cara
+kami
+baik
+harus
+ini
+ke
+untuk
+adalah
+saya
+slot
+bisa
+0
+harus
+1
+bermain
+?
+tidak
+karena
+dan
+3
+beberapa
+
+a
+memiliki
+dan
+k
+8
+4
+waktu
+di
+,
+bahwa
+tersebut
+i
+?
+itu
+saat
+harus
+s
+4
+
+sudah
+dari
+pada
+,
+judi
+4
+8
+(
+indonesia
+online
+?
+indonesia
+s
+harus
+.
+0
+2
+lebih
+ada
+waktu
+saya
+poker
+/
+e
+di
+(
+
+bermain
+menjadi
+saya
+jika
+,
+maka
+apa
+harus
+.
+kamu
+kami
+e
+nya
+membuat
+.
+sebagai
+tahun
+tidak
+sudah
+2
+2
+maka
+0
+6
+)
+di
+
+adalah
+sudah
+4
+
+adalah
+lebih
+dengan
+
+lebih
+dapat
+indonesia
+0
+nya
+akan
+jadi
+banyak
+jika
+di
+saja
+hanya
+menjadi
+beberapa
+
+bahwa
+dengan
+banyak
+menjadi
+seperti
+tersebut
+-
+i
+(
+satu
+dapat
+-
+di
+judi
+a
+?
+besar
+juga
+kita
+pemain
+1
+4
+t
+maka
+yang
+situs
+yang
+karena
+indonesia
+bisa
+lebih
+dalam
+ada
+untuk
+1
+5
+dan
+hal
+kita
+4
+
+itu
+judi
+?
+secara
+adalah
+bisa
+jika
+indonesia
+d
+2
+kan
+ke
+sangat
+harus
+hal
+0
+mereka
+)
+9
+5
+situs
+3
+harus
+i
+5
+untuk
+hal
+dan
+seperti
+anda
+ingin
+sebagai
+atau
+
+3
+nya
+judi
+oleh
+kamu
+.
+bermain
+ini
+6
+jika
+salah
+saat
+2
+
+memiliki
+7
+anda
+namun
+t
+ke
+akan
+e
+dari
+itu
+s
+dan
+atau
+oleh
+/
+akan
+judi
+an
+:
+
+
+slot
+saja
+u
+ini
+itu
+dapat
+satu
+oleh
+judi
+1
+ini
+telah
+
+memiliki
+kita
+jika
+-
+mereka
+satu
+di
+0
+1
+/
+e
+dan
+sudah
+dalam
+3
+.
+"
+saja
+besar
+
+ini
+i
+banyak
+slot
+saja
+memiliki
+dapat
+4
+maka
+
+ini
+6
+0
+yang
+ke
+1
+nya
+bisa
+tidak
+hal
+hal
+t
+0
+
+orang
+judi
+baru
+pada
+-
+tersebut
+a
+1
+salah
+di
+4
+sangat
+akan
+
+k
+seperti
+juga
+indonesia
+menggunakan
+dan
+dan
+atau
+:
+bermain
+sebagai
+d
+.
+an
+menggunakan
+juga
+-
+,
+situs
+anda
+bisa
+kita
+dengan
+sudah
+mereka
+situs
+0
+baru
+8
+itu
+permainan
+pada
+membuat
+sangat
+nya
+saat
+6
+.
+u
+k
+adalah
+-
+dengan
+u
+u
+adalah
+orang
+pemain
+tersebut
+bahwa
+u
+anda
+pada
+sangat
+sangat
+4
+:
+tersebut
+jika
+:
+saya
+hanya
+beberapa
+(
+juga
+1
+9
+itu
+mudah
+2
+2
+9
+dan
+hal
+online
+
+pada
+,
+
+satu
+satu
+banyak
+)
+namun
+e
+judi
+
+
+cara
+nya
+"
+u
+satu
+dalam
+bisa
+dan
+saya
+dan
+7
+
+
+yang
+-
+akan
+.
+dan
+akan
+untuk
+melakukan
+u
+sangat
+?
+maka
+karena
+saat
+beberapa
+online
+yang
+akan
+game
+)
+9
+
+mereka
+2
+ada
+uang
+(
+t
+nya
+ini
+melakukan
+game
+itu
+di
+memiliki
+anda
+orang
+atau
+1
+juga
+anda
+s
+membuat
+an
+,
+
+an
+tidak
+,
+oleh
+bahwa
+
+)
+di
+d
+juga
+lebih
+8
+karena
+indonesia
+juga
+jika
+-
+para
+:
+ke
+maka
+semua
+dari
+untuk
+hanya
+situs
+bermain
+banyak
+juga
+lain
+untuk
+"
+u
+untuk
+-
+sebagai
+t
+karena
+:
+/
+yang
+situs
+hal
+indonesia
+-
+menjadi
+judi
+
+poker
+dalam
+dengan
+sudah
+poker
+anda
+jika
+ini
+cara
+menjadi
+7
+menjadi
+an
+2
+dengan
+dalam
+pada
+7
+(
+e
+-
+
+u
+ada
+baik
+sangat
+u
+t
+indonesia
+
+itu
+permainan
+ke
+ini
+anda
+
+dari
+)
+situs
+karena
+lebih
+bahwa
+-
+i
+–
+pada
+untuk
+"
+9
+di
+"
+dengan
+salah
+e
+itu
+:
+akan
+1
+cara
+mereka
+maka
+bisnis
+kami
+2
+lebih
+satu
+
+:
+-
+s
+maka
+itu
+i
+bahwa
+sangat
+t
+memiliki
+(
+.
+(
+i
+karena
+maka
+atau
+tersebut
+besar
+1
+karena
+-
+dari
+t
+cara
+,
+online
+tidak
+dari
+s
+/
+s
+?
+sangat
+,
+beberapa
+5
+kami
+bahwa
+kita
+besar
+besar
+ke
+saat
+itu
+dalam
+kita
+yang
+sangat
+ini
+namun
+sebagai
+mereka
+tahun
+untuk
+permainan
+yang
+game
+8
+?
+oleh
+kan
+lebih
+akan
+akan
+menjadi
+)
+mereka
+an
+)
+5
+ini
+sudah
+?
+saat
+pada
+hal
+dan
+8
+seperti
+saja
+harus
+kamu
+bahwa
+8
+7
+dalam
+-
+online
+mereka
+ini
+2
+sangat
+beberapa
+secara
+bermain
+9
+5
+juga
+harus
+hal
+ini
+untuk
+ini
+
+ada
+dapat
+game
+oleh
+di
+lain
+dan
+hal
+dalam
+.
+3
+apa
+memiliki
+mudah
+menjadi
+judi
+harus
+.
+semua
+sudah
+cara
+uang
+sangat
+hal
+oleh
+3
+yang
+0
+oleh
+secara
+ada
+slot
+kamu
+dari
+hanya
+dari
+oleh
+di
+1
+membuat
+)
+membuat
+(
+dapat
+atau
+-
+
+karena
+bisnis
+a
+karena
+oleh
+satu
+
+menjadi
+-
+memiliki
+hal
+"
+9
+bisa
+untuk
+"
+slot
+s
+juga
+atau
+dan
+nya
+1
+harus
+9
+
+9
+dengan
+banyak
+lain
+sudah
+baru
+pada
+karena
+hal
+dan
+s
+mereka
+dalam
+itu
+sudah
+saat
+orang
+untuk
+sebagai
+yang
+dari
+judi
+mereka
+8
+bisa
+dari
+5
+1
+
+kita
+banyak
+judi
+judi
+harus
+/
+kan
+kita
+
+bisa
+juga
+dan
+anda
+atau
+
+e
+
+dalam
+2
+
+satu
+lebih
+adalah
+saya
+1
+saya
+poker
+d
+9
+hal
+ke
+,
+
+(
+nya
+dapat
+oleh
+"
+-
+banyak
+hal
+yang
+saja
+,
+4
+jika
+
+secara
+0
+bagi
+lebih
+dengan
+di
+dengan
+beberapa
+seperti
+situs
+jika
+anda
+dari
+saat
+(
+orang
+d
+ingin
+.
+bahwa
+situs
+
+kamu
+seperti
+satu
+ada
+untuk
+atau
+anda
+dan
+tersebut
+/
+itu
+7
+membuat
+0
+
+(
+8
+saat
+karena
+yang
+uang
+menggunakan
+judi
+/
+online
+2
+uang
+dan
+membuat
+online
+7
+.
+sangat
+kan
+s
+ke
+tidak
+bisa
+anda
+,
+-
+8
+kita
+.
+0
+
+.
+sangat
+dan
+dengan
+sebagai
+melakukan
+uang
+hanya
+seperti
+akan
+online
+itu
+e
+melakukan
+an
+i
+1
+juga
+bisa
+-
+game
+lebih
+
+d
+e
+kami
+saat
+dan
+dalam
+sebagai
+secara
+dalam
+anda
+lebih
+bisa
+ini
+saja
+5
+bisa
+tersebut
+di
+
+2
+8
+e
+.
+dengan
+i
+atau
+semua
+3
+lebih
+dapat
+seperti
+dapat
+
+
+dan
+saja
+anda
+yang
+secara
+ada
+akan
+untuk
+saja
+ini
+(
+1
+mendapatkan
+juga
+1
+dengan
+atau
+itu
+karena
+dalam
+kita
+?
+itu
+sebagai
+pada
+an
+e
+(
+9
+adalah
+s
+tersebut
+memiliki
+i
+an
+2
+bahwa
+kamu
+t
+.
+di
+baik
+ini
+karena
+a
+beberapa
+maka
+/
+poker
+situs
+saat
+namun
+lain
+itu
+
+akan
+.
+slot
+7
+s
+ada
+t
+bahwa
+kan
+anda
+saja
+8
+untuk
+orang
+mereka
+juga
+
+dan
+nya
+-
+untuk
+an
+dalam
+online
+kami
+game
+ini
+juga
+hanya
+9
+permainan
+
+akan
+kamu
+saya
+an
+
+dapat
+9
+juga
+
+"
+kami
+para
+poker
+menjadi
+kita
+nya
+1
+5
+yang
+
+menjadi
+
+0
+dapat
+maka
+nya
+dari
+s
+i
+k
+-
+satu
+0
+melakukan
+)
+0
+ke
+(
+2
+5
+itu
+
+nya
+atau
+"
+akan
+banyak
+a
+atau
+
+(
+kami
+seperti
+lebih
+dan
+tidak
+juga
+4
+2
+dari
+situs
+,
+
+menjadi
+besar
+lebih
+bisa
+d
+(
+cara
+bisa
+karena
+k
+kan
+indonesia
+itu
+1
+kami
+.
+judi
+o
+kamu
+9
+orang
+saja
+nya
+bermain
+d
+)
+1
+seperti
+atau
+yang
+(
+bisa
+sangat
+
+melakukan
+
+secara
+1
+3
+beberapa
+para
+permainan
+bermain
+i
+dari
+karena
+saya
+u
+t
+online
+hal
+itu
+online
+itu
+satu
+ada
+bisa
+kita
+.
+kami
+bahwa
+k
+online
+yang
+"
+ini
+anda
+kan
+kami
+:
+/
+0
+dan
+kita
+-
+tidak
+k
+uang
+ada
+maka
+.
+)
+,
+8
+baik
+sudah
+,
+memiliki
+dalam
+1
+ada
+
+
+game
+juga
+0
+,
+e
+
+ini
+poker
+ke
+cara
+tidak
+banyak
+apa
+cara
+bahwa
+di
+hal
+kami
+,
+karena
+-
+seperti
+baik
+1
+
+jika
+8
+ini
+menjadi
+dari
+anda
+k
+kami
+adalah
+an
+dan
+u
+/
+hanya
+t
+8
+apa
+online
+sebagai
+di
+lebih
+0
+
+anda
+yang
+nya
+kan
+-
+tidak
+hal
+karena
+membuat
+
+0
+dan
+(
+sudah
+poker
+karena
+
+4
+atau
+seperti
+oleh
+memiliki
+
+dalam
+membuat
+besar
+tahun
+,
+ke
+s
+4
+situs
+adalah
+orang
+lain
+nya
+adalah
+-
+kamu
+poker
+,
+besar
+0
+salah
+tidak
+dapat
+lebih
+para
+judi
+sangat
+/
+4
+besar
+akan
+yang
+t
+.
+k
+"
+secara
+oleh
+anda
+(
+secara
+bahwa
+-
+
+dan
+memiliki
+sebagai
+tersebut
+1
+s
+saat
+1
+(
+dari
+ada
+ini
+2
+beberapa
+orang
+9
+pemain
+situs
+
+saya
+juga
+situs
+beberapa
+kamu
+m
+nya
+p
+terbaik
+untuk
+9
+lain
+saat
+?
+untuk
+pada
+untuk
+dan
+juga
+,
+an
+untuk
+tidak
+-
+yang
+harus
+judi
+harus
+apa
+seperti
+nya
+lebih
+sebagai
+hanya
+kamu
+di
+judi
+1
+lebih
+saya
+ini
+menjadi
+harus
+ini
+orang
+dalam
+a
+banyak
+(
+"
+slot
+mereka
+pada
+jika
+dengan
+bahwa
+sangat
+seperti
+ke
+
+itu
+karena
+atau
+dan
+atau
+waktu
+(
+cara
+permainan
+sudah
+k
+dari
+sudah
+dan
+:
+atau
+
+ada
+dengan
+
+menjadi
+akan
+m
+anda
+nya
+ada
+dapat
+situs
+bisa
+2
+dari
+dan
+mereka
+/
+dapat
+yang
+7
+di
+9
+
+untuk
+3
+/
+1
+kamu
+/
+baik
+nya
+judi
+dan
+
+saat
+p
+pada
+
+secara
+ada
+2
+baik
+namun
+pada
+i
+dalam
+u
+telah
+saya
+4
+nya
+s
+dengan
+dengan
+
+seperti
+para
+an
+di
+
+sudah
+beberapa
+hal
+online
+sudah
+anda
+ini
+anda
+sudah
+an
+nya
+kita
+
+judi
+an
+memiliki
+yang
+a
+kita
+4
+1
+semua
+anda
+tersebut
+apa
+
+
+orang
+sebagai
+orang
+an
+ini
+dapat
+orang
+
+indonesia
+salah
+tersebut
+satu
+"
+pada
+seperti
+sudah
+
+an
+mungkin
+-
+dan
+semua
+,
+oleh
+saya
+9
+permainan
+akan
+saya
+9
+untuk
+2
+menggunakan
+hanya
+

predict_results.json

@@ -0,0 +1,12 @@
+{
+    "predict_gen_len": 1.0,
+    "predict_loss": 0.5186858773231506,
+    "predict_rouge1": 0.3965,
+    "predict_rouge2": 0.0,
+    "predict_rougeL": 0.3973,
+    "predict_rougeLsum": 0.395,
+    "predict_runtime": 1676.8581,
+    "predict_samples": 3762,
+    "predict_samples_per_second": 2.243,
+    "predict_steps_per_second": 0.281
+}

train_results.json

@@ -0,0 +1,9 @@
+{
+    "epoch": 5.0,
+    "total_flos": 6.531382403512013e+16,
+    "train_loss": 0.37723224017303175,
+    "train_runtime": 9322.5764,
+    "train_samples": 14263,
+    "train_samples_per_second": 7.65,
+    "train_steps_per_second": 1.913
+}

trainer_state.json

@@ -0,0 +1,130 @@
+{
+  "best_metric": null,
+  "best_model_checkpoint": null,
+  "epoch": 5.0,
+  "eval_steps": 500,
+  "global_step": 17830,
+  "is_hyper_param_search": false,
+  "is_local_process_zero": true,
+  "is_world_process_zero": true,
+  "log_history": [
+    {
+      "epoch": 1.0,
+      "grad_norm": 2.377143144607544,
+      "learning_rate": 4e-05,
+      "loss": 0.6316,
+      "step": 3566
+    },
+    {
+      "epoch": 1.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 0.48070013523101807,
+      "eval_rouge1": 0.4602,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.4604,
+      "eval_rougeLsum": 0.4565,
+      "eval_runtime": 339.8998,
+      "eval_samples_per_second": 2.204,
+      "eval_steps_per_second": 0.277,
+      "step": 3566
+    },
+    {
+      "epoch": 2.0,
+      "grad_norm": 3.1111056804656982,
+      "learning_rate": 3e-05,
+      "loss": 0.4336,
+      "step": 7132
+    },
+    {
+      "epoch": 2.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 0.47169604897499084,
+      "eval_rouge1": 0.4661,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.466,
+      "eval_rougeLsum": 0.4622,
+      "eval_runtime": 338.0027,
+      "eval_samples_per_second": 2.216,
+      "eval_steps_per_second": 0.278,
+      "step": 7132
+    },
+    {
+      "epoch": 3.0,
+      "grad_norm": 1.34107506275177,
+      "learning_rate": 2e-05,
+      "loss": 0.3363,
+      "step": 10698
+    },
+    {
+      "epoch": 3.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 0.4722852408885956,
+      "eval_rouge1": 0.4799,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.479,
+      "eval_rougeLsum": 0.4762,
+      "eval_runtime": 338.8999,
+      "eval_samples_per_second": 2.21,
+      "eval_steps_per_second": 0.277,
+      "step": 10698
+    },
+    {
+      "epoch": 4.0,
+      "grad_norm": 2.9266836643218994,
+      "learning_rate": 1e-05,
+      "loss": 0.2656,
+      "step": 14264
+    },
+    {
+      "epoch": 4.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 0.48245567083358765,
+      "eval_rouge1": 0.4713,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.4703,
+      "eval_rougeLsum": 0.4666,
+      "eval_runtime": 340.0086,
+      "eval_samples_per_second": 2.203,
+      "eval_steps_per_second": 0.276,
+      "step": 14264
+    },
+    {
+      "epoch": 5.0,
+      "grad_norm": 0.7729974389076233,
+      "learning_rate": 0.0,
+      "loss": 0.219,
+      "step": 17830
+    },
+    {
+      "epoch": 5.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 0.5102769732475281,
+      "eval_rouge1": 0.4427,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.4423,
+      "eval_rougeLsum": 0.4403,
+      "eval_runtime": 336.8192,
+      "eval_samples_per_second": 2.224,
+      "eval_steps_per_second": 0.279,
+      "step": 17830
+    },
+    {
+      "epoch": 5.0,
+      "step": 17830,
+      "total_flos": 6.531382403512013e+16,
+      "train_loss": 0.37723224017303175,
+      "train_runtime": 9322.5764,
+      "train_samples_per_second": 7.65,
+      "train_steps_per_second": 1.913
+    }
+  ],
+  "logging_steps": 500,
+  "max_steps": 17830,
+  "num_input_tokens_seen": 0,
+  "num_train_epochs": 5,
+  "save_steps": 500,
+  "total_flos": 6.531382403512013e+16,
+  "train_batch_size": 4,
+  "trial_name": null,
+  "trial_params": null
+}