End of training

README.md

@@ -1,4 +1,6 @@
 ---
+language:
+- id
 license: apache-2.0
 base_model: LazarusNLP/IndoNanoT5-base
 tags:
@@ -18,10 +20,10 @@ should probably proofread and complete it, then remove this comment. -->
 This model is a fine-tuned version of [LazarusNLP/IndoNanoT5-base](https://huggingface.co/LazarusNLP/IndoNanoT5-base) on an unknown dataset.
 It achieves the following results on the evaluation set:
 - Loss: 0.7342
-- Rouge1: 0.7526
+- Rouge1: 0.4659
 - Rouge2: 0.0
-- Rougel: 0.7508
-- Rougelsum: 0.7516
+- Rougel: 0.4632
+- Rougelsum: 0.4636
 - Gen Len: 1.0
 
 ## Model description

all_results.json

@@ -1,29 +1,29 @@
 {
     "epoch": 5.0,
     "eval_gen_len": 1.0,
-    "eval_loss": 0.5102769732475281,
-    "eval_rouge1": 0.4427,
+    "eval_loss": 0.7342413067817688,
+    "eval_rouge1": 0.4659,
     "eval_rouge2": 0.0,
-    "eval_rougeL": 0.4423,
-    "eval_rougeLsum": 0.4403,
-    "eval_runtime": 336.8915,
+    "eval_rougeL": 0.4632,
+    "eval_rougeLsum": 0.4636,
+    "eval_runtime": 399.2752,
     "eval_samples": 749,
-    "eval_samples_per_second": 2.223,
-    "eval_steps_per_second": 0.279,
+    "eval_samples_per_second": 1.876,
+    "eval_steps_per_second": 0.06,
     "predict_gen_len": 1.0,
-    "predict_loss": 0.5186858773231506,
-    "predict_rouge1": 0.3965,
+    "predict_loss": 0.729216992855072,
+    "predict_rouge1": 0.4016,
     "predict_rouge2": 0.0,
-    "predict_rougeL": 0.3973,
-    "predict_rougeLsum": 0.395,
-    "predict_runtime": 1676.8581,
+    "predict_rougeL": 0.4015,
+    "predict_rougeLsum": 0.4005,
+    "predict_runtime": 2151.1543,
     "predict_samples": 3762,
-    "predict_samples_per_second": 2.243,
-    "predict_steps_per_second": 0.281,
-    "total_flos": 6.531382403512013e+16,
-    "train_loss": 0.37723224017303175,
-    "train_runtime": 9322.5764,
+    "predict_samples_per_second": 1.749,
+    "predict_steps_per_second": 0.055,
+    "total_flos": 4.883347058982912e+16,
+    "train_loss": 0.5770811448717331,
+    "train_runtime": 4315.4414,
     "train_samples": 14263,
-    "train_samples_per_second": 7.65,
-    "train_steps_per_second": 1.913
+    "train_samples_per_second": 16.526,
+    "train_steps_per_second": 1.033
 }

eval_results.json

@@ -1,13 +1,13 @@
 {
     "epoch": 5.0,
     "eval_gen_len": 1.0,
-    "eval_loss": 0.5102769732475281,
-    "eval_rouge1": 0.4427,
+    "eval_loss": 0.7342413067817688,
+    "eval_rouge1": 0.4659,
     "eval_rouge2": 0.0,
-    "eval_rougeL": 0.4423,
-    "eval_rougeLsum": 0.4403,
-    "eval_runtime": 336.8915,
+    "eval_rougeL": 0.4632,
+    "eval_rougeLsum": 0.4636,
+    "eval_runtime": 399.2752,
     "eval_samples": 749,
-    "eval_samples_per_second": 2.223,
-    "eval_steps_per_second": 0.279
+    "eval_samples_per_second": 1.876,
+    "eval_steps_per_second": 0.06
 }

generated_predictions.txt

@@ -1,5 +1,5 @@
 memiliki
-tersebut
+satu
 sudah
 a
 lebih
@@ -8,65 +8,65 @@ judi
 dalam
 1
 bisnis
-5
+slot
 yang
 lebih
 atau
 hal
 menjadi
-karena
-sudah
+tidak
+satu
 nya
 1
 dari
-telah
+.
 
-bagi
+?
 
 "
-cara
-tahun
-hanya
+harus
+saya
+baik
 an
-7
+saja
 anda
-ada
-an
-:
+bisa
+atau
+bisa
 karena
 menggunakan
 sudah
-.
+e
 secara
 
 (
 "
-a
-membuat
+cara
+pada
 ?
 d
 
-tersebut
-sudah
-4
-kita
+oleh
+-
+seperti
+beberapa
 atau
 dapat
-judi
+banyak
 1
 a
-baik
-kan
+dengan
+yang
 oleh
 1
-maka
+uang
 adalah
 ke
 dan
 seperti
 
 cara
-hanya
+memiliki
 )
 dengan
 
@@ -74,35 +74,35 @@ atau
 d
 kan
 
-mereka
-bagi
+bahwa
+ingin
 :
 ada
-tidak
-judi
+e
+poker
 orang
-nya
+satu
 dapat
-6
-?
-beberapa
+a
+5
+secara
 
 adalah
 akan
 e
-para
+sebagai
 dalam
 1
 
 
 lebih
-hanya
-
+kami
+/
 kita
-hal
+.
 kami
-bisa
-ingin
+tersebut
+,
 sudah
 
 di
@@ -110,45 +110,45 @@ ada
 4
 saat
 harus
-9
+sebagai
 dengan
 dengan
-1
+online
 )
 kita
-(
+8
 tidak
-7
+a
 dengan
 ,
 dengan
-(
+anda
 -
-saat
+kita
 game
 juga
 k
-dan
+saat
 nya
--
-permainan
+sangat
+karena
 ,
 dengan
-masih
+rumah
 saya
-harus
+dan
 a
 pemain
 dan
-satu
+dari
 satu
 ada
 oleh
-0
+karena
 harus
 hanya
 dapat
-
+5
 memiliki
 3
 
@@ -156,16 +156,16 @@ ada
 2
 itu
 nya
-kami
-anda
+saja
+bisa
 -
 hanya
 online
 hanya
 seperti
 atau
-orang
-membuat
+saya
+kami
 kami
 karena
 di
@@ -173,107 +173,107 @@ di
 d
 satu
 yang
-membuat
-orang
+baik
+nya
 sudah
 lebih
 4
-ini
-di
+
+(
 
 menggunakan
 kami
-adalah
-"
+itu
+membuat
 untuk
 atau
-7
+baik
 saya
-e
-jika
-6
-saat
-.
+bahwa
+memiliki
+
+8
+5
 seperti
-untuk
-pada
+0
+dalam
 
 anda
-apa
+/
 
 online
-2
+anda
 atau
 lebih
 ini
-a
+tersebut
 telah
 
 -
-nya
+dari
 memiliki
-untuk
+orang
 sudah
 1
-ke
+7
 2
 ke
-
-saat
 di
+saat
+dari
 
-tidak
-bahwa
+seperti
+sangat
 memiliki
 namun
-dari
+melakukan
 secara
 0
-?
+seperti
 namun
 indonesia
 a
 lain
-di
-a
+kita
+anda
 anda
 adalah
-terbaik
+bisa
 dan
 saat
 indonesia
 anda
-saja
-juga
+1
+a
 4
 kamu
 .
-bisa
+para
 permainan
 7
 yang
 anda
 1
 dan
-situs
+indonesia
 tidak
-seperti
 2
-)
-tersebut
+2
+menjadi
+e
 (
 4
-atau
+8
 ini
 ,
 .
-3
+
 .
 memiliki
 yang
-kami
+juga
 akan
-8
+membuat
 ,
 ,
 4
@@ -282,103 +282,103 @@ menjadi
 5
 
 banyak
-di
+yang
 adalah
 sudah
 ada
 kita
 harus
-oleh
+t
 itu
 untuk
 o
 di
 membuat
 jika
-seperti
+cara
 harus
 hal
 yang
 ada
-semua
+
 2
 )
 ,
 ada
-n
+mendapatkan
 dapat
 e
 tidak
-sangat
+tersebut
 
 9
 
 dalam
 oleh
 
-indonesia
+1
 kamu
 bisa
 mereka
-atau
+hal
 1
-
+8
 atau
-banyak
-0
-judi
+oleh
+indonesia
+beberapa
 menjadi
 :
 1
+semua
 t
-dapat
 pada
 2
-1
+saat
 i
-(
-kan
-bermain
+harus
+,
+kamu
 ini
-bahwa
+dengan
 dapat
 
 
 
-tidak
+i
 untuk
-atau
+3
 9
 atau
-semua
+satu
 untuk
-/
-cara
-menjadi
-salah
+(
+kita
+jika
+menggunakan
 4
-besar
-memiliki
+,
+dapat
 tentang
 membuat
 akan
 ,
+anda
 indonesia
-bahwa
 secara
-kamu
+lebih
 hanya
 2
 dengan
 kamu
 
 yang
-karena
+orang
 :
 online
-indonesia
+bermain
 bisa
-,
+mereka
 adalah
 situs
 ada
@@ -386,24 +386,24 @@ juga
 saat
 sudah
 "
-
+dapat
 ke
 dengan
 4
-3
+secara
 
 anda
 untuk
 s
 saya
 sudah
-saja
+t
 
-bahwa
+bisa
 pada
 .
 kami
-/
+r
 yang
 membuat
 
@@ -414,12 +414,12 @@ saat
 nya
 judi
 dan
-saat
-bisa
+sangat
+permainan
 atau
 dengan
+lebih
 8
-terbaik
 banyak
 3
 kamu
@@ -428,36 +428,36 @@ akan
 memiliki
 saya
 salah
-5
+juga
 ada
-menjadi
+5
 itu
 .
 /
 kamu
 yang
 
-2
-bermain
+akan
+akan
 adalah
-2
-terbaik
+t
+6
 itu
-u
+lain
 8
-situs
+memiliki
 9
 0
-ada
+kan
 dalam
-hal
+besar
 
 ,
-semua
+1
 
 nya
 yang
-game
+permainan
 besar
 8
 m
@@ -467,32 +467,32 @@ mereka
 ada
 9
 (
-e
+lebih
 nya
-judi
+oleh
 ,
 jika
 dan
 membuat
-sebagai
+itu
 0
 dapat
 situs
-dapat
+:
 saat
 uang
 2
 
-lebih
+orang
 saja
-hanya
+sangat
 3
-saya
 dan
-m
+dan
+6
 yang
 ,
-t
+kan
 ,
 yang
 kita
@@ -500,110 +500,110 @@ oleh
 harus
 .
 
-memiliki
+4
 online
 9
 judi
-s
+adalah
 ,
 mudah
-a
-untuk
-online
+t
+dengan
+cara
 9
 saja
 oleh
-e
+tidak
 dapat
-permainan
+judi
 tidak
 5
-oleh
+dengan
 situs
-"
+hanya
 0
-besar
-secara
-anda
+s
+permainan
+dalam
 0
 8
 hal
 dari
-,
+beberapa
 
-6
+mereka
 yang
 mereka
 3
 itu
-beberapa
+sebagai
 untuk
 kami
 sangat
 tidak
 kami
-ini
+kamu
 -
-ini
+lebih
 
-permainan
+k
 
 menjadi
 4
 i
-u
+uang
 saya
 )
 5
-para
+maka
 dan
 3
 salah
-tahun
+untuk
 
 9
 saat
 :
-saja
+hanya
 sebagai
 bermain
 pada
-8
+.
 juga
 juga
 lebih
-
-seperti
-itu
-dalam
-lebih
-judi
+pada
+banyak
 atau
+dalam
+ke
+orang
+poker
 pada
 ,
-i
-ke
+an
+bisa
 atau
 satu
-atau
+lebih
 semua
-oleh
-judi
+kan
+u
 k
 
-bermain
-
+menggunakan
+2
 pada
 jika
 kan
 e
-3
+kami
 ,
 e
-bahwa
+situs
 atau
 kita
-nya
+ada
 ini
 "
 yang
@@ -614,39 +614,39 @@ oleh
 atau
 tidak
 saja
-0
+saat
 "
 membuat
-saya
-5
-"
+-
+8
+lebih
 pada
-oleh
-judi
-sudah
-beberapa
+tersebut
+4
+bahwa
+telah
 itu
 7
-membuat
+ini
 a
 4
-saja
+a
 oleh
+game
 membuat
-ini
 para
-,
 )
+
 online
-,
-?
+:
+itu
 hal
 )
 /
-i
+judi
 hal
 jika
-bahwa
+beberapa
 a
 indonesia
 juga
@@ -656,33 +656,33 @@ karena
 tidak
 .
 dari
-
+sudah
 hal
 
 i
-cara
+uang
 dari
 kami
-.
+pada
 ,
 orang
 s
-an
+t
 akan
 1
 hanya
-bermain
+1
 0
-harus
+anda
 untuk
-?
+)
 dalam
-banyak
+/
 dengan
-bermain
-orang
+indonesia
+bahwa
 adalah
-k
+i
 
 s
 untuk
@@ -696,25 +696,25 @@ adalah
 sudah
 adalah
 saat
-(
-k
+:
+0
 tidak
 salah
 satu
-indonesia
+s
 pada
 .
 ini
-saja
+"
 online
-telah
+sebagai
 nya
 dari
 judi
 
-4
+8
 kita
-k
+,
 d
 :
 
@@ -722,108 +722,108 @@ d
 menggunakan
 t
 adalah
-online
+jika
 -
 semua
-nya
-i
+tidak
+sudah
 hal
-
+telah
 1
 k
 )
 kamu
 menjadi
-
+0
 mereka
 tersebut
 5
-membuat
-akan
+i
+atau
 .
 juga
 -
 .
 sudah
-/
+sudah
 di
-atau
-"
+9
+memiliki
 hanya
-semua
+apa
 itu
-tidak
+dalam
 ?
 anda
 k
 untuk
 dalam
-0
-k
-hanya
+-
+t
+karena
 s
 dalam
 
-cara
+satu
 :
 adalah
 2
-n
+anda
 untuk
 
 ada
 sudah
-judi
-di
+dapat
+1
 i
-
+.
 6
-s
+ingin
 kita
-5
-dapat
-memiliki
-secara
+tersebut
+adalah
+:
+7
 "
 dapat
-bahwa
+bagi
 salah
 yang
 :
-tersebut
+maka
 ke
 di
 cara
-kamu
+sudah
 .
-1
+hal
 permainan
-membuat
+9
 r
-4
+an
 0
 sangat
-hal
+bisa
 pada
 6
 
 )
-ke
+jika
 bermain
-kan
+kami
 di
 untuk
 
 tidak
 
-ada
+sudah
 an
 dalam
 yang
 game
 tersebut
-mereka
-dari
+besar
+n
 k
 
 6
@@ -834,20 +834,20 @@ a
 4
 lebih
 salah
-lebih
+/
 yang
 e
-pada
+0
 kita
 anda
 indonesia
 juga
-banyak
-mereka
+7
+tidak
 
-akan
-beberapa
-u
+.
+
+jika
 tersebut
 (
 :
@@ -856,39 +856,39 @@ tersebut
 yang
 
 satu
-–
+o
 tidak
 dalam
 e
-9
-
+saya
+anda
 3
 ke
-seperti
-dan
-hanya
-tahun
-dapat
+8
+tersebut
+.
+
+sebagai
 akan
-baru
+hari
 kamu
-
+dengan
 anda
 anda
 dengan
 tersebut
-sudah
+permainan
 online
 lebih
 atau
 2
 ?
 dengan
-saja
+,
 di
 
-
-saya
+adalah
+an
 dari
 i
 bahwa
@@ -902,8 +902,8 @@ juga
 7
 bisa
 game
-dapat
-o
+lebih
+kamu
 yang
 dari
 banyak
@@ -914,29 +914,29 @@ permainan
 
 semua
 dari
-anda
-telah
+dari
+:
 salah
 maka
 bermain
-banyak
+mereka
 cara
-dalam
+aplikasi
 9
-tersebut
+sangat
 "
 ada
 maka
 di
-adalah
+bagi
 2
 ,
 lebih
 memiliki
-akan
+tidak
 .
 tidak
-
+dan
 atau
 ini
 
@@ -944,15 +944,15 @@ dalam
 kita
 saat
 lebih
-3
+memiliki
 oleh
 ,
-1
+s
 u
-
-dalam
+7
+e
 )
-banyak
+online
 s
 banyak
 ini
@@ -960,13 +960,13 @@ anda
 nya
 1
 harus
-dalam
-anda
+pada
+ingin
 untuk
 dan
-secara
+beberapa
 itu
-ada
+atau
 ada
 saya
 juga
@@ -980,18 +980,18 @@ tidak
 tersebut
 
 sudah
-para
+d
 7
-:
+akan
 harus
 untuk
 anda
 itu
-hal
+8
 ini
 (
 dengan
-.
+slot
 ini
 cara
 atau
@@ -1003,12 +1003,12 @@ saat
 3
 saja
 dengan
-menggunakan
+jika
 orang
 besar
 saya
 0
-besar
+semua
 sudah
 karena
 
@@ -1017,147 +1017,147 @@ banyak
 yang
 untuk
 2
-e
+sangat
 dapat
 cara
 i
-saya
+bisa
 online
 
 u
-saja
+kami
 
 ini
-salah
+sebagai
 dan
 itu
-4
+besar
 .
 -
 online
-bermain
+membuat
 nya
 sangat
-anda
+1
 bahwa
 kan
 atau
 membuat
-kan
-judi
+bisa
+0
 u
-an
+hanya
 mudah
 sebagai
 yang
-karena
+ada
 anda
 ?
-dalam
-adalah
+dengan
+
 /
 kan
-6
+bisa
 juga
-dengan
+anda
 secara
 membuat
 ini
 tersebut
 tersebut
-nya
-dapat
+i
+itu
 satu
-bagi
+,
 1
-oleh
-bahwa
--
-nya
+situs
+kan
+jika
+bagi
 untuk
-memiliki
+kita
 hanya
-8
-mendapatkan
+/
+slot
 7
-dan
-baik
+(
+tidak
 3
 dalam
-lain
+0
 sudah
-
+secara
 ada
 
 sangat
-atau
-namun
 satu
+namun
+,
 0
-juga
-u
+adalah
+baik
 0
 anda
 dan
 kan
 pemain
 anda
-itu
+3
 i
 ,
 seperti
 nya
-slot
-maka
-8
+kita
+banyak
+cara
 harus
 8
 bahwa
 dengan
-cara
-9
+karena
+sangat
 untuk
-)
-tersebut
+memiliki
+atau
 dalam
 uang
-dari
+
 dengan
 banyak
 "
 pada
 anda
-para
+?
 .
-tidak
+saja
 ke
 situs
-u
+"
 an
-,
+
 oleh
-cara
+?
 an
 
-dan
-apa
-menjadi
 atau
-"
+apa
+membuat
+mereka
+bisa
 anda
-m
+waktu
 judi
 dapat
 :
-salah
+akan
 -
 online
 /
 memiliki
 karena
-o
-mungkin
-mudah
+waktu
+hanya
+pemain
 2
 
 .
@@ -1167,25 +1167,25 @@ menggunakan
 oleh
 k
 
-2
+adalah
 satu
 tersebut
 itu
-yang
-o
+sudah
+bisnis
 adalah
-seperti
+salah
 oleh
 baik
 bisa
 itu
-sudah
+lebih
 bisa
-anda
-ini
+judi
+8
 
 m
-ini
+pada
 .
 untuk
 atau
@@ -1194,104 +1194,104 @@ juga
 lebih
 d
 2
-kamu
-dan
+hal
+beberapa
 
 1
 banyak
 t
-3
-dengan
+dapat
+saja
 0
-menggunakan
+mereka
 salah
-memiliki
-saat
+.
+5
 i
 judi
+.
 
-k
 untuk
-3
+kamu
 bahwa
 tersebut
 pada
 yang
 1
-dengan
+bisa
 dalam
-dan
-harus
+
+oleh
 .
 
 dari
 online
 ada
-8
+hari
 untuk
 tidak
 dalam
 
-para
+lain
 dengan
-5
-sudah
+jika
+judi
 membuat
 oleh
 saat
 salah
-
-0
+di
+akan
 di
 ingin
 oleh
 sudah
 hanya
-tersebut
+.
 menjadi
--
+pada
 bisa
 itu
 u
-untuk
+s
 terbaik
-hanya
+kan
 
 akan
-salah
+jika
 dengan
 9
 )
 karena
-bisnis
+ingin
 akan
 t
 kita
 adalah
 
 r
-3
+satu
 memiliki
 -
 e
 kami
-akan
+indonesia
 dengan
 karena
 pada
-baik
-ada
-dalam
-jika
-
+lain
+s
+akan
+ke
+beberapa
 i
-2
+situs
 t
 (
 besar
-melakukan
-seperti
-dapat
+p
+yang
+
 untuk
 3
 dapat
@@ -1302,51 +1302,51 @@ namun
 "
 
 sudah
-e
+:
 ke
 dan
 saja
 ini
 0
-i
-salah
+bahwa
+3
 akan
 n
-permainan
-orang
-i
+jika
+sudah
+saat
 6
 yang
 bahwa
 banyak
 untuk
-judi
-?
+.
+dan
 satu
-baik
-situs
-bisa
-dari
 a
+4
+bisa
+kamu
+t
 bermain
-s
-ini
+sangat
+?
 memiliki
-permainan
+untuk
 ini
 atau
 1
-i
+.
 e
 kita
 -
 lebih
 lebih
-jika
-9
-7
-online
-
+0
+tersebut
+-
+harus
+tentang
 maka
 mereka
 ,
@@ -1354,25 +1354,25 @@ anda
 tersebut
 tidak
 saja
-kan
+menggunakan
 ,
 di
 s
 pada
-saja
+u
 baik
 8
-situs
+sebagai
 bisa
+dari
 
-semua
 saya
-.
-memiliki
+sangat
+saja
 mereka
 bisa
 u
-menggunakan
+namun
 adalah
 sangat
 salah
@@ -1385,51 +1385,51 @@ dapat
 satu
 di
 .
-/
-satu
+sebagai
+akan
 bahwa
 yang
-di
+situs
 akan
 4
 melakukan
-9
+secara
 .
 dalam
-lain
+
 mereka
 menjadi
 cara
 3
 0
 adalah
-mereka
-salah
+online
+besar
 ,
 1
 
-s
-(
+situs
+.
 tidak
 nya
 ada
 -
-an
+karena
 seperti
-waktu
+untuk
 dengan
 tidak
-adalah
+.
 3
 mereka
-t
+kita
 4
 dengan
 ini
 ke
-baik
+permainan
 
-tersebut
+saat
 dalam
 bisa
 1
@@ -1439,95 +1439,95 @@ banyak
 sangat
 adalah
 saya
-tidak
+?
 dalam
 anda
 dalam
 dari
-tersebut
+0
 dalam
-dengan
-membuat
-e
+ada
+kami
+memiliki
 dengan
 1
 8
 t
-dalam
+bisa
 i
-atau
-dapat
+7
+juga
 akan
 0
 seperti
-oleh
+3
 dengan
 pada
 
-5
-oleh
+jika
+6
 dalam
-pada
+0
 :
-membuat
+adalah
 bisa
 7
 ini
 juga
-k
-
+ada
+apa
 6
 dan
 untuk
-
+2
 i
 tidak
-.
+saya
 (
 tersebut
 ini
 /
 .
-banyak
+kamu
 itu
-nya
+besar
 setiap
 9
-hal
+slot
 
 
 kami
-orang
-situs
-saat
-hanya
+d
+8
+/
+hari
 itu
-dalam
-seperti
+di
+e
 satu
 ,
-,
+
 lebih
 
 hanya
 4
 online
-permainan
+
 nya
 karena
 8
-pemain
-satu
-an
-i
-tidak
+untuk
+kan
+hal
+)
+ini
 dari
 
-karena
+lebih
 dan
-oleh
-salah
-ke
+menjadi
+u
+dapat
 sudah
 hal
 adalah
@@ -1537,59 +1537,59 @@ banyak
 itu
 
 9
-menjadi
-3
-dan
+kita
+6
+"
 
 an
-t
+telah
 jadi
 seperti
-sudah
-u
+pemain
+bisa
 dari
-3
-?
+permainan
+hanya
 satu
 dengan
-adalah
-)
-dengan
+seperti
+banyak
+0
 d
-saat
+adalah
 hal
 anda
 p
 beberapa
 "
-dalam
+online
 akan
-hanya
+kami
 membuat
 ada
 
-para
+dia
 hanya
-beberapa
+mereka
 anda
 akan
 juga
 3
 anda
 adalah
-kami
+nya
 akan
-sangat
+memiliki
 2
 
-sebagai
+saya
 e
 
-cara
+baik
 akan
-?
+baik
 banyak
-:
+indonesia
 ke
 
 0
@@ -1600,39 +1600,39 @@ dari
 cara
 0
 dengan
-orang
+beberapa
 lebih
 8
 s
--
+g
 untuk
 sangat
-situs
+judi
 8
-orang
-6
+dari
+u
 bisa
 harga
 bahwa
 untuk
 yang
 -
-bisa
+dalam
 
 hal
 sebagai
 yang
 sangat
 yang
-hanya
-an
+
+membuat
 atau
 menggunakan
 .
-saja
+menjadi
 setiap
 
-k
+seperti
 pada
 memiliki
 tidak
@@ -1642,110 +1642,110 @@ kamu
 sebagai
 online
 dengan
-menjadi
-sangat
-:
+bahwa
+saja
+3
 0
 
 karena
-baik
-"
+tahun
+untuk
 a
-d
-hanya
-itu
+masih
+?
+ini
 tidak
 ,
 baik
 saya
 tahun
-bisa
+jadi
 kami
 sebagai
-dalam
+ini
 namun
 menjadi
-untuk
-7
-bagi
+adalah
+3
+.
 ini
 i
 besar
-2
+ketika
 e
 atau
-atau
+4
 1
 bisnis
 dengan
 ,
-a
+hanya
 ini
 bisa
 untuk
-t
+para
 anda
 lebih
 /
 yang
 ini
-secara
-tidak
+beberapa
+)
 bahwa
 sangat
 besar
 saat
 ini
 nya
-bagi
+bisa
 d
-4
-ke
+u
+
 pemain
-kami
+dan
 hal
 bisa
-sudah
+secara
 sebagai
 telah
-dengan
+atau
 mudah
 
 di
 yang
 (
 atau
-
+hanya
 saja
 dengan
 menjadi
-harus
+sangat
 
 semua
-kan
+saja
 :
-semua
+mereka
 8
 slot
-8
-u
+indonesia
+9
 oleh
-
+0
 ke
-ini
-memiliki
+semua
+untuk
 k
-e
-1
+lebih
+dapat
 jika
-.
+pada
 adalah
-bahwa
-i
+seperti
+7
 e
 juga
 juga
-memiliki
+9
 anda
 ada
 cara
@@ -1753,27 +1753,27 @@ bisa
 ada
 menjadi
 atau
-8
+saat
 judi
 menjadi
 e
 dan
 situs
-saja
+)
 lebih
 kita
 ada
 
 yang
-semua
+baik
 hanya
 yang
-karena
-ke
+ada
+mendapatkan
 pada
 7
-tahun
-t
+dalam
+7
 anda
 judi
 tersebut
@@ -1781,7 +1781,7 @@ tersebut
 beberapa
 jika
 sebagai
-atau
+dan
 semua
 tidak
 situs
@@ -1793,7 +1793,7 @@ itu
 
 6
 s
--
+8
 "
 kita
 )
@@ -1802,172 +1802,172 @@ e
 o
 online
 dan
-hal
-"
-banyak
+
+di
+atau
 (
 e
 /
 bagi
-di
-ini
-online
+tahun
+dan
+9
 ini
 2
 n
-slot
+beberapa
 
 online
 8
-ke
+jika
 satu
 karena
 tidak
 dengan
 dari
-terbaik
+
 hal
 ke
-,
-6
-di
+telah
+akan
+k
 
 harus
-di
-:
-kami
+bermain
+saat
+an
 untuk
 5
 ke
-sangat
-5
+kamu
+orang
 oleh
 bisa
-besar
-6
+untuk
+dapat
 hanya
 dari
-9
+an
 dengan
 akan
-1
-6
+mereka
+pada
 memiliki
 -
-
-s
+menggunakan
+2
 pada
 9
 e
-7
+memiliki
 atau
 .
 0
 kamu
 .
-ke
+/
 adalah
 adalah
 
-menjadi
+3
 a
 judi
 ini
 di
-bermain
-pada
+bisa
+adalah
 salah
 lebih
-permainan
+untuk
 saja
-6
+sangat
 di
 bisa
 8
 dalam
 :
 an
-secara
+permainan
 mereka
 k
-salah
-poker
+sebagai
+saja
 dan
-hanya
-orang
-ada
+situs
+sudah
+indonesia
 lebih
 
 online
 tersebut
-dapat
+:
 itu
-sangat
+k
 ini
-tidak
+1
 harus
-dengan
-6
+"
+s
 di
 .
 tidak
-.
-2
-saja
-harus
+secara
+d
+uang
+3
 9
 
-baik
+3
 k
 jika
-lebih
-jika
+dapat
+5
 pada
 banyak
 nya
 i
 
-di
-hanya
+2
+membuat
 itu
 tidak
-juga
-kami
+bahwa
+bahwa
 itu
 oleh
 adalah
 cara
-maka
-untuk
+dari
+di
 -
 adalah
 tahun
 1
 ?
-mereka
+d
 -
 kan
-hanya
+"
 menggunakan
-dan
-satu
+untuk
+ini
 ,
 di
 juga
 akan
-ke
-kami
-atau
+maka
+8
+lain
 hanya
 hal
 :
-seperti
-cara
+tahun
+mereka
 :
 e
 seperti
-
-hanya
+di
+a
 harus
 tidak
 i
@@ -1975,70 +1975,70 @@ hal
 saya
 di
 online
-permainan
-kan
-ada
+lebih
+slot
+dari
 ?
 anda
 
 .
 online
-(
-apa
-membuat
-ini
+sudah
+i
+permainan
+an
 an
 akan
 saja
 sudah
-adalah
+?
 /
-bagi
+melakukan
 /
 kan
 banyak
-tersebut
-lain
-di
+sudah
+harus
+bisa
 dengan
 orang
 ada
-(
+
 kita
 lain
 
 karena
 i
 tidak
-untuk
-9
+oleh
+baik
 harus
-u
-ini
+saya
+online
 0
-baik
+online
 dan
-uang
+para
 
 kamu
 r
 saya
-para
+melakukan
+itu
 itu
-maka
 sebagai
-atau
+/
 yang
-besar
+.
 s
-hal
+,
 ini
 kan
 e
 yang
-ini
+baik
 dengan
-3
+2
 mereka
 dapat
 online
@@ -2048,10 +2048,10 @@ permainan
 nya
 2
 dan
-bisa
+online
 4
-kan
-mereka
+7
+/
 .
 9
 dari
@@ -2059,12 +2059,12 @@ dari
 untuk
 /
 tidak
-saya
+d
 i
 anda
-situs
+mereka
 :
-di
+para
 saja
 dengan
 bisa
@@ -2078,23 +2078,23 @@ banyak
 
 yang
 situs
-(
+
 di
 judi
-akan
+3
 dengan
 lebih
 (
-situs
-hanya
+d
+nya
 a
 3
-s
+maka
 nya
 situs
 yang
 9
-menjadi
+oleh
 
 "
 harus
@@ -2106,179 +2106,179 @@ indonesia
 menggunakan
 
 ,
-4
+an
 akan
 situs
 )
 .
 saya
-juga
+bisa
+1
+dari
 1
-bahwa
-apa
 /
 untuk
 yang
-tidak
+perlu
 atau
 bermain
-saat
+cara
+akan
 akan
-4
 )
 :
 kamu
 yang
 dan
-seperti
+menjadi
 
-jadi
+ingin
 
 )
 harga
 e
 tahun
-sudah
+lain
 an
 hal
 adalah
-kamu
-saat
-judi
+online
+lebih
+saja
 kami
 tidak
-banyak
-
+dapat
+harus
 
-yang
+:
 dan
-k
+hal
 8
 a
-pada
-membuat
-slot
+6
+ini
+
 s
-di
+yang
 6
 0
 ini
-karena
-dalam
-maka
+(
+tidak
+kami
 saya
-jika
+satu
 lebih
 situs
-untuk
+bisa
 dapat
-sudah
+n
 online
-karena
+
 r
 ini
 permainan
 ini
-secara
-di
+poker
+
 harus
 terbaik
 saat
 nya
 saja
 -
-a
+salah
 anda
 a
 kami
 akan
-
+g
 game
-saya
-a
+dan
+membuat
 
 0
 
 orang
 game
 membuat
-
 untuk
-?
-pada
+untuk
+judi
+semua
 pada
 
-8
+:
 u
 beberapa
 ini
 (
-sudah
+memiliki
 /
 dengan
 d
-6
-besar
+i
+lain
 online
 akan
 yang
 :
 juga
-9
-"
+u
+kan
 memiliki
-permainan
-beberapa
+judi
+.
 di
 juga
-di
+a
 mereka
 akan
 ke
 
 /
 situs
-untuk
+permainan
 2
-bermain
+s
 yang
 sebagai
 cara
 kami
-baik
-harus
+mereka
 ini
-ke
-untuk
+ini
+5
+seperti
 adalah
 saya
 slot
-bisa
+lebih
 0
 harus
 1
 bermain
-?
-tidak
-karena
+satu
+3
+orang
 dan
 3
 beberapa
-
+u
 a
 memiliki
 dan
 k
-8
+indonesia
 4
-waktu
+-
 di
 ,
 bahwa
 tersebut
-i
+dalam
 ?
-itu
+dilakukan
 saat
 harus
 s
@@ -2289,23 +2289,23 @@ dari
 pada
 ,
 judi
-4
+dari
 8
 (
 indonesia
-online
-?
+"
+banyak
 indonesia
-s
-harus
+bisa
+d
 .
 0
 2
 lebih
-ada
-waktu
-saya
-poker
+
+nya
+
+kita
 /
 e
 di
@@ -2313,55 +2313,55 @@ di
 
 bermain
 menjadi
-saya
+(
 jika
-,
+untuk
 maka
-apa
-harus
+d
+seperti
 .
-kamu
+dari
 kami
 e
-nya
-membuat
+dapat
+yang
 .
 sebagai
-tahun
+mungkin
 tidak
 sudah
-2
-2
-maka
+kami
+e
+uang
 0
 6
 )
 di
 
 adalah
-sudah
-4
+menjadi
+t
 
-adalah
+apa
 lebih
 dengan
-
+banyak
 lebih
 dapat
-indonesia
+maka
 0
 nya
 akan
-jadi
+2
 banyak
 jika
-di
+akan
 saja
 hanya
-menjadi
+
 beberapa
 
-bahwa
+hanya
 dengan
 banyak
 menjadi
@@ -2369,93 +2369,93 @@ seperti
 tersebut
 -
 i
-(
+saat
 satu
 dapat
 -
 di
-judi
+secara
 a
 ?
 besar
 juga
 kita
-pemain
+6
 1
 4
 t
-maka
+menjadi
 yang
-situs
+maka
 yang
 karena
 indonesia
-bisa
+di
 lebih
 dalam
 ada
 untuk
-1
+dan
 5
 dan
 hal
-kita
+banyak
 4
 
 itu
 judi
-?
+-
 secara
 adalah
 bisa
 jika
-indonesia
+satu
 d
 2
-kan
+"
 ke
 sangat
 harus
 hal
 0
-mereka
+lebih
 )
 9
-5
+i
 situs
-3
+cara
 harus
 i
 5
-untuk
+saja
 hal
 dan
 seperti
 anda
 ingin
-sebagai
-atau
+juga
+yang
 
-3
+"
 nya
-judi
-oleh
-kamu
+4
+harus
+permainan
 .
-bermain
-ini
+orang
+secara
 6
-jika
+sudah
 salah
-saat
+saja
 2
 
 memiliki
-7
+sebagai
 anda
 namun
 t
-ke
+)
 akan
 e
 dari
@@ -2464,124 +2464,124 @@ s
 dan
 atau
 oleh
-/
-akan
-judi
-an
+kita
+i
+ini
+,
 :
 
 
 slot
 saja
-u
+hanya
 ini
-itu
+8
 dapat
-satu
+:
 oleh
 judi
 1
-ini
+orang
 telah
 
 memiliki
-kita
-jika
+kamu
+menjadi
 -
 mereka
 satu
-di
+2
 0
 1
 /
 e
-dan
+juga
 sudah
 dalam
-3
-.
-"
-saja
+ke
+
+saya
+kami
 besar
 
 ini
 i
 banyak
-slot
-saja
+
+permainan
 memiliki
 dapat
 4
 maka
 
 ini
-6
+sebagai
 0
-yang
+dengan
 ke
 1
 nya
 bisa
 tidak
 hal
-hal
+sebagai
 t
-0
+an
 
-orang
+banyak
 judi
-baru
-pada
+besar
+dalam
 -
-tersebut
-a
+satu
+bagi
 1
-salah
+saat
 di
 4
-sangat
+karena
 akan
 
-k
+beberapa
 seperti
-juga
-indonesia
-menggunakan
+itu
+9
+k
 dan
 dan
 atau
-:
+memiliki
 bermain
 sebagai
-d
+,
 .
 an
-menggunakan
+dengan
 juga
 -
 ,
-situs
+e
 anda
 bisa
 kita
-dengan
+kamu
 sudah
 mereka
 situs
-0
-baru
+saat
+pemain
 8
 itu
-permainan
-pada
-membuat
+bisa
+0
+waktu
 sangat
-nya
+1
 saat
 6
 .
-u
-k
+indonesia
+,
 adalah
 -
 dengan
@@ -2589,14 +2589,14 @@ u
 u
 adalah
 orang
-pemain
-tersebut
+mudah
+secara
 bahwa
 u
 anda
 pada
 sangat
-sangat
+tersebut
 4
 :
 tersebut
@@ -2605,67 +2605,67 @@ jika
 saya
 hanya
 beberapa
-(
+,
 juga
-1
+beberapa
 9
 itu
-mudah
+kamu
 2
 2
-9
-dan
-hal
+saja
+.
+an
 online
-
+dengan
 pada
 ,
 
-satu
-satu
+orang
+d
 banyak
-)
+
 namun
-e
+bahwa
 judi
 
 
 cara
 nya
-"
+s
 u
 satu
 dalam
 bisa
 dan
-saya
+atau
 dan
-7
-
+sudah
 
+situs
 yang
 -
 akan
-.
-dan
+anda
+6
 akan
 untuk
-melakukan
+kamu
 u
 sangat
-?
+kan
 maka
 karena
 saat
-beberapa
-online
+adalah
+memiliki
 yang
 akan
-game
+-
 )
 9
 
-mereka
+3
 2
 ada
 uang
@@ -2673,34 +2673,34 @@ uang
 t
 nya
 ini
-melakukan
+para
 game
 itu
-di
+i
 memiliki
-anda
+sebagai
 orang
 atau
 1
 juga
 anda
-s
-membuat
-an
-,
-
-an
+oleh
+t
+kita
+situs
+hanya
 tidak
-,
+tidak
+
 oleh
-bahwa
+dan
 
 )
 di
-d
-juga
+6
+dan
 lebih
-8
+memiliki
 karena
 indonesia
 juga
@@ -2709,71 +2709,71 @@ jika
 para
 :
 ke
-maka
+cara
 semua
 dari
 untuk
 hanya
 situs
-bermain
+dengan
 banyak
 juga
 lain
-untuk
+beberapa
 "
 u
 untuk
--
-sebagai
-t
+dapat
+kita
+a
 karena
-:
+pada
 /
-yang
+.
 situs
 hal
 indonesia
 -
 menjadi
-judi
+
 
 poker
-dalam
-dengan
-sudah
+melakukan
+anda
+orang
 poker
 anda
 jika
 ini
-cara
-menjadi
-7
-menjadi
-an
+memiliki
+kan
+tetapi
+di
+a
 2
 dengan
 dalam
-pada
-7
+.
+-
 (
-e
+8
 -
 
 u
 ada
 baik
 sangat
-u
-t
-indonesia
-
-itu
+bisa
+dengan
+m
+online
+itu
 permainan
 ke
 ini
 anda
 
-dari
+tersebut
 )
 situs
 karena
@@ -2785,96 +2785,96 @@ i
 pada
 untuk
 "
-9
+saja
 di
-"
-dengan
+6
+ini
 salah
 e
 itu
 :
 akan
 1
-cara
+orang
 mereka
 maka
-bisnis
-kami
+tahun
+/
 2
 lebih
 satu
-
+bisa
 :
--
+saya
 s
 maka
 itu
 i
 bahwa
-sangat
-t
+dalam
+d
 memiliki
 (
 .
-(
-i
+3
+seperti
 karena
 maka
-atau
+saja
 tersebut
 besar
-1
+yang
 karena
 -
 dari
 t
 cara
-,
+1
 online
 tidak
 dari
 s
-/
+judi
 s
-?
-sangat
+game
+menggunakan
 ,
-beberapa
+tersebut
 5
 kami
-bahwa
+seperti
 kita
-besar
+baik
 besar
 ke
 saat
 itu
 dalam
-kita
+memiliki
 yang
-sangat
+e
 ini
-namun
+)
 sebagai
 mereka
 tahun
-untuk
-permainan
-yang
+anda
+secara
+6
 game
 8
 ?
 oleh
 kan
-lebih
+8
 akan
 akan
 menjadi
 )
 mereka
-an
+ini
 )
-5
+dalam
 ini
 sudah
 ?
@@ -2886,51 +2886,51 @@ dan
 seperti
 saja
 harus
-kamu
+ingin
 bahwa
-8
+sangat
 7
 dalam
 -
-online
+itu
 mereka
 ini
-2
+lebih
 sangat
 beberapa
 secara
 bermain
 9
-5
+saya
 juga
 harus
-hal
+beberapa
 ini
-untuk
+a
 ini
-
+nya
 ada
 dapat
-game
+k
 oleh
 di
-lain
+slot
 dan
 hal
-dalam
+harus
 .
 3
 apa
 memiliki
-mudah
+masih
 menjadi
 judi
 harus
-.
-semua
+dan
+akan
 sudah
 cara
-uang
+.
 sangat
 hal
 oleh
@@ -2940,64 +2940,64 @@ yang
 oleh
 secara
 ada
-slot
+secara
 kamu
-dari
+:
 hanya
 dari
 oleh
 di
-1
+ada
 membuat
 )
 membuat
-(
-dapat
+salah
+di
 atau
--
+s
 
 karena
 bisnis
-a
+poker
 karena
 oleh
-satu
+?
 
-menjadi
+bahwa
 -
 memiliki
 hal
-"
-9
+anda
+itu
 bisa
 untuk
 "
 slot
 s
 juga
-atau
+kita
 dan
-nya
+:
 1
 harus
 9
 
 9
-dengan
+s
 banyak
-lain
-sudah
-baru
+melakukan
+satu
+n
 pada
-karena
-hal
-dan
+tersebut
+saat
+kamu
 s
-mereka
+)
 dalam
-itu
+lebih
 sudah
-saat
+kita
 orang
 untuk
 sebagai
@@ -3013,32 +3013,32 @@ dari
 
 kita
 banyak
+hanya
 judi
-judi
-harus
+an
 /
-kan
+d
 kita
 
-bisa
+itu
 juga
 dan
-anda
+lebih
 atau
 
 e
 
 dalam
-2
+dalam
 
 satu
 lebih
 adalah
 saya
-1
-saya
-poker
-d
+pada
+sebagai
+saat
+yang
 9
 hal
 ke
@@ -3046,7 +3046,7 @@ ke
 
 (
 nya
-dapat
+sangat
 oleh
 "
 -
@@ -3056,8 +3056,8 @@ yang
 saja
 ,
 4
-jika
-
+besar
+waktu
 secara
 0
 bagi
@@ -3065,69 +3065,69 @@ lebih
 dengan
 di
 dengan
-beberapa
+judi
 seperti
-situs
-jika
+1
+sudah
 anda
 dari
 saat
 (
 orang
 d
-ingin
+para
 .
-bahwa
+atau
 situs
 
 kamu
 seperti
-satu
+itu
 ada
 untuk
 atau
-anda
-dan
+secara
+game
 tersebut
 /
 itu
 7
-membuat
+hal
 0
 
-(
+tidak
 8
-saat
+memiliki
 karena
 yang
 uang
-menggunakan
-judi
+yang
+kami
 /
 online
 2
-uang
-dan
-membuat
+tidak
+s
+4
 online
 7
-.
-sangat
+satu
+an
 kan
 s
-ke
+hal
 tidak
 bisa
-anda
+harus
 ,
--
+i
 8
-kita
+:
 .
-0
+1
 
 .
-sangat
+beberapa
 dan
 dengan
 sebagai
@@ -3135,25 +3135,25 @@ melakukan
 uang
 hanya
 seperti
-akan
+0
 online
-itu
-e
-melakukan
+s
+sangat
+cara
 an
 i
 1
 juga
-bisa
+tidak
 -
-game
+tidak
 lebih
 
-d
+karena
 e
-kami
+situs
 saat
-dan
+dengan
 dalam
 sebagai
 secara
@@ -3162,36 +3162,36 @@ anda
 lebih
 bisa
 ini
-saja
+kamu
 5
 bisa
-tersebut
+hal
 di
 
 2
 8
-e
-.
+?
+
 dengan
 i
 atau
 semua
 3
 lebih
-dapat
-seperti
-dapat
+5
+5
+di
 
 
 dan
-saja
+jika
 anda
 yang
-secara
+tahun
 ada
 akan
 untuk
-saja
+seperti
 ini
 (
 1
@@ -3205,139 +3205,139 @@ karena
 dalam
 kita
 ?
-itu
-sebagai
-pada
-an
-e
-(
-9
 adalah
+hanya
+"
+saya
+itu
+bisa
+0
+apa
 s
 tersebut
-memiliki
+sebagai
 i
 an
-2
-bahwa
+a
+salah
 kamu
 t
 .
 di
 baik
-ini
+
 karena
 a
-beberapa
-maka
-/
-poker
+melakukan
+sebagai
+dan
+lebih
 situs
 saat
-namun
-lain
+uang
+.
 itu
 
 akan
 .
 slot
-7
-s
+anda
+atau
 ada
 t
-bahwa
+hanya
 kan
-anda
-saja
+5
+atau
 8
-untuk
+
 orang
-mereka
+3
 juga
-
-dan
+e
+ini
 nya
 -
 untuk
 an
 dalam
 online
-kami
+dan
 game
 ini
-juga
-hanya
+di
+e
 9
 permainan
 
-akan
+nya
 kamu
-saya
-an
+sudah
+hanya
 
 dapat
 9
-juga
+(
 
 "
 kami
-para
+harus
 poker
 menjadi
 kita
-nya
+situs
 1
 5
 yang
 
 menjadi
-
+"
 0
 dapat
 maka
 nya
 dari
-s
+
 i
 k
 -
 satu
-0
+cara
 melakukan
 )
 0
 ke
-(
+i
 2
 5
-itu
+orang
 
 nya
 atau
-"
+/
 akan
-banyak
-a
+untuk
+tersebut
 atau
 
 (
 kami
-seperti
-lebih
+(
+jika
 dan
 tidak
 juga
 4
-2
+3
 dari
-situs
+permainan
 ,
-
+anda
 menjadi
-besar
+menggunakan
 lebih
-bisa
-d
+
+s
 (
 cara
 bisa
@@ -3345,17 +3345,17 @@ karena
 k
 kan
 indonesia
-itu
-1
-kami
+2
+"
+indonesia
 .
 judi
-o
+s
 kamu
 9
 orang
 saja
-nya
+karena
 bermain
 d
 )
@@ -3363,95 +3363,95 @@ d
 seperti
 atau
 yang
-(
+lebih
 bisa
 sangat
 
-melakukan
+slot
 
 secara
-1
+pada
 3
 beberapa
 para
 permainan
-bermain
-i
+harus
+untuk
 dari
-karena
-saya
+di
+salah
 u
 t
 online
 hal
-itu
+9
 online
 itu
 satu
 ada
 bisa
-kita
-.
-kami
-bahwa
-k
-online
-yang
-"
-ini
-anda
+satu
+4
 kan
-kami
+4
+beberapa
+dapat
+ke
+adalah
+ini
+hanya
+k
+an
 :
-/
+saya
 0
-dan
+1
 kita
 -
 tidak
-k
-uang
+kan
+m
 ada
 maka
 .
-)
-,
+
+6
 8
-baik
-sudah
+7
+mendapatkan
 ,
-memiliki
+nya
 dalam
 1
-ada
+,
 
 
-game
-juga
+semua
+bisa
 0
 ,
 e
 
-ini
+7
 poker
-ke
-cara
+ada
+memiliki
 tidak
 banyak
 apa
 cara
-bahwa
-di
+poker
+nya
 hal
 kami
 ,
-karena
+seperti
 -
 seperti
-baik
-1
+7
+kamu
 
-jika
+t
 8
 ini
 menjadi
@@ -3460,30 +3460,30 @@ anda
 k
 kami
 adalah
-an
+hal
 dan
-u
-/
+kita
+0
 hanya
 t
-8
+9
 apa
 online
 sebagai
 di
-lebih
+slot
 0
-
+2
 anda
 yang
 nya
 kan
--
+banyak
 tidak
 hal
 karena
-membuat
-
+baik
+lebih
 0
 dan
 (
@@ -3494,81 +3494,81 @@ karena
 4
 atau
 seperti
-oleh
+seperti
 memiliki
-
+kami
 dalam
 membuat
-besar
-tahun
+itu
+yang
 ,
-ke
+online
 s
 4
 situs
 adalah
 orang
-lain
-nya
+sudah
+di
 adalah
--
+dalam
 kamu
 poker
 ,
-besar
+kan
 0
 salah
 tidak
 dapat
 lebih
-para
-judi
+bagi
+kami
 sangat
-/
-4
-besar
+t
+tak
+kami
 akan
 yang
 t
 .
-k
+u
 "
 secara
-oleh
+tersebut
 anda
 (
 secara
-bahwa
+para
 -
 
-dan
+di
 memiliki
 sebagai
 tersebut
 1
-s
+bahwa
 saat
 1
 (
 dari
 ada
-ini
+a
 2
-beberapa
+ini
 orang
 9
-pemain
-situs
+dalam
+0
 
-saya
+tidak
 juga
 situs
 beberapa
-kamu
-m
-nya
+k
+9
+poker
 p
-terbaik
+ketika
 untuk
 9
 lain
@@ -3580,56 +3580,56 @@ untuk
 dan
 juga
 ,
-an
-untuk
+bahwa
+salah
 tidak
--
+)
 yang
 harus
-judi
+membuat
 harus
 apa
-seperti
+5
 nya
 lebih
 sebagai
-hanya
+
+kamu
 kamu
-di
 judi
 1
-lebih
+bahwa
 saya
 ini
 menjadi
-harus
+sangat
 ini
 orang
 dalam
-a
-banyak
+,
+/
 (
-"
-slot
-mereka
+6
+tahun
+/
 pada
 jika
 dengan
-bahwa
+sebagai
 sangat
-seperti
+"
 ke
 
-itu
-karena
+satu
+saat
 atau
 dan
 atau
-waktu
+bermain
 (
-cara
-permainan
-sudah
+,
+indonesia
+memiliki
 k
 dari
 sudah
@@ -3640,122 +3640,123 @@ atau
 ada
 dengan
 
-menjadi
+menggunakan
 akan
-m
+menjadi
 anda
-nya
+adalah
 ada
 dapat
 situs
 bisa
 2
 dari
-dan
+t
 mereka
-/
+besar
 dapat
 yang
-7
+menjadi
 di
-9
+cara
 
-untuk
-3
+dengan
+s
 /
 1
 kamu
-/
-baik
+harus
+?
 nya
 judi
 dan
 
-saat
-p
+bahwa
+menjadi
 pada
 
-secara
+ada
 ada
 2
-baik
-namun
+kan
+para
 pada
 i
 dalam
 u
-telah
-saya
-4
+poker
+karena
+permainan
 nya
 s
-dengan
+game
 dengan
 
 seperti
 para
-an
+kamu
 di
 
 sudah
-beberapa
-hal
+maka
+setiap
 online
 sudah
 anda
-ini
-anda
+tersebut
+sangat
 sudah
 an
 nya
 kita
-
+nya
 judi
 an
 memiliki
 yang
-a
+.
 kita
 4
 1
-semua
+slot
 anda
-tersebut
-apa
+bisa
 
+dengan
 
 orang
 sebagai
 orang
-an
+bahwa
 ini
 dapat
 orang
 
-indonesia
-salah
+t
+hanya
 tersebut
-satu
+kita
 "
 pada
 seperti
 sudah
 
-an
+1
 mungkin
 -
 dan
-semua
+4
 ,
-oleh
+)
 saya
-9
+judi
 permainan
-akan
+oleh
 saya
 9
 untuk
 2
 menggunakan
-hanya
+sebagai
 
+2

predict_results.json

@@ -1,12 +1,12 @@
 {
     "predict_gen_len": 1.0,
-    "predict_loss": 0.5186858773231506,
-    "predict_rouge1": 0.3965,
+    "predict_loss": 0.729216992855072,
+    "predict_rouge1": 0.4016,
     "predict_rouge2": 0.0,
-    "predict_rougeL": 0.3973,
-    "predict_rougeLsum": 0.395,
-    "predict_runtime": 1676.8581,
+    "predict_rougeL": 0.4015,
+    "predict_rougeLsum": 0.4005,
+    "predict_runtime": 2151.1543,
     "predict_samples": 3762,
-    "predict_samples_per_second": 2.243,
-    "predict_steps_per_second": 0.281
+    "predict_samples_per_second": 1.749,
+    "predict_steps_per_second": 0.055
 }

train_results.json

@@ -1,9 +1,9 @@
 {
     "epoch": 5.0,
-    "total_flos": 6.531382403512013e+16,
-    "train_loss": 0.37723224017303175,
-    "train_runtime": 9322.5764,
+    "total_flos": 4.883347058982912e+16,
+    "train_loss": 0.5770811448717331,
+    "train_runtime": 4315.4414,
     "train_samples": 14263,
-    "train_samples_per_second": 7.65,
-    "train_steps_per_second": 1.913
+    "train_samples_per_second": 16.526,
+    "train_steps_per_second": 1.033
 }

trainer_state.json

@@ -3,128 +3,128 @@
   "best_model_checkpoint": null,
   "epoch": 5.0,
   "eval_steps": 500,
-  "global_step": 17830,
+  "global_step": 4460,
   "is_hyper_param_search": false,
   "is_local_process_zero": true,
   "is_world_process_zero": true,
   "log_history": [
     {
       "epoch": 1.0,
-      "grad_norm": 2.377143144607544,
-      "learning_rate": 4e-05,
-      "loss": 0.6316,
-      "step": 3566
+      "grad_norm": 1.1466261148452759,
+      "learning_rate": 0.0008,
+      "loss": 1.1936,
+      "step": 892
     },
     {
       "epoch": 1.0,
       "eval_gen_len": 1.0,
-      "eval_loss": 0.48070013523101807,
-      "eval_rouge1": 0.4602,
+      "eval_loss": 0.7944247126579285,
+      "eval_rouge1": 0.7769,
       "eval_rouge2": 0.0,
-      "eval_rougeL": 0.4604,
-      "eval_rougeLsum": 0.4565,
-      "eval_runtime": 339.8998,
-      "eval_samples_per_second": 2.204,
-      "eval_steps_per_second": 0.277,
-      "step": 3566
+      "eval_rougeL": 0.7776,
+      "eval_rougeLsum": 0.7776,
+      "eval_runtime": 34.2455,
+      "eval_samples_per_second": 21.871,
+      "eval_steps_per_second": 0.701,
+      "step": 892
     },
     {
       "epoch": 2.0,
-      "grad_norm": 3.1111056804656982,
-      "learning_rate": 3e-05,
-      "loss": 0.4336,
-      "step": 7132
+      "grad_norm": 0.6689993739128113,
+      "learning_rate": 0.0006,
+      "loss": 0.678,
+      "step": 1784
     },
     {
       "epoch": 2.0,
       "eval_gen_len": 1.0,
-      "eval_loss": 0.47169604897499084,
-      "eval_rouge1": 0.4661,
+      "eval_loss": 0.6952247023582458,
+      "eval_rouge1": 0.7516,
       "eval_rouge2": 0.0,
-      "eval_rougeL": 0.466,
-      "eval_rougeLsum": 0.4622,
-      "eval_runtime": 338.0027,
-      "eval_samples_per_second": 2.216,
-      "eval_steps_per_second": 0.278,
-      "step": 7132
+      "eval_rougeL": 0.7464,
+      "eval_rougeLsum": 0.7488,
+      "eval_runtime": 34.3119,
+      "eval_samples_per_second": 21.829,
+      "eval_steps_per_second": 0.699,
+      "step": 1784
     },
     {
       "epoch": 3.0,
-      "grad_norm": 1.34107506275177,
-      "learning_rate": 2e-05,
-      "loss": 0.3363,
-      "step": 10698
+      "grad_norm": 0.6889210939407349,
+      "learning_rate": 0.0004,
+      "loss": 0.4823,
+      "step": 2676
     },
     {
       "epoch": 3.0,
       "eval_gen_len": 1.0,
-      "eval_loss": 0.4722852408885956,
-      "eval_rouge1": 0.4799,
+      "eval_loss": 0.6426491141319275,
+      "eval_rouge1": 0.752,
       "eval_rouge2": 0.0,
-      "eval_rougeL": 0.479,
-      "eval_rougeLsum": 0.4762,
-      "eval_runtime": 338.8999,
-      "eval_samples_per_second": 2.21,
-      "eval_steps_per_second": 0.277,
-      "step": 10698
+      "eval_rougeL": 0.7509,
+      "eval_rougeLsum": 0.7499,
+      "eval_runtime": 35.0834,
+      "eval_samples_per_second": 21.349,
+      "eval_steps_per_second": 0.684,
+      "step": 2676
     },
     {
       "epoch": 4.0,
-      "grad_norm": 2.9266836643218994,
-      "learning_rate": 1e-05,
-      "loss": 0.2656,
-      "step": 14264
+      "grad_norm": 0.6657813191413879,
+      "learning_rate": 0.0002,
+      "loss": 0.3348,
+      "step": 3568
     },
     {
       "epoch": 4.0,
       "eval_gen_len": 1.0,
-      "eval_loss": 0.48245567083358765,
-      "eval_rouge1": 0.4713,
+      "eval_loss": 0.665139377117157,
+      "eval_rouge1": 0.7449,
       "eval_rouge2": 0.0,
-      "eval_rougeL": 0.4703,
-      "eval_rougeLsum": 0.4666,
-      "eval_runtime": 340.0086,
-      "eval_samples_per_second": 2.203,
-      "eval_steps_per_second": 0.276,
-      "step": 14264
+      "eval_rougeL": 0.7455,
+      "eval_rougeLsum": 0.7449,
+      "eval_runtime": 36.0479,
+      "eval_samples_per_second": 20.778,
+      "eval_steps_per_second": 0.666,
+      "step": 3568
     },
     {
       "epoch": 5.0,
-      "grad_norm": 0.7729974389076233,
+      "grad_norm": 0.4766407012939453,
       "learning_rate": 0.0,
-      "loss": 0.219,
-      "step": 17830
+      "loss": 0.1967,
+      "step": 4460
     },
     {
       "epoch": 5.0,
       "eval_gen_len": 1.0,
-      "eval_loss": 0.5102769732475281,
-      "eval_rouge1": 0.4427,
+      "eval_loss": 0.7342413067817688,
+      "eval_rouge1": 0.7526,
       "eval_rouge2": 0.0,
-      "eval_rougeL": 0.4423,
-      "eval_rougeLsum": 0.4403,
-      "eval_runtime": 336.8192,
-      "eval_samples_per_second": 2.224,
-      "eval_steps_per_second": 0.279,
-      "step": 17830
+      "eval_rougeL": 0.7508,
+      "eval_rougeLsum": 0.7516,
+      "eval_runtime": 35.5667,
+      "eval_samples_per_second": 21.059,
+      "eval_steps_per_second": 0.675,
+      "step": 4460
     },
     {
       "epoch": 5.0,
-      "step": 17830,
-      "total_flos": 6.531382403512013e+16,
-      "train_loss": 0.37723224017303175,
-      "train_runtime": 9322.5764,
-      "train_samples_per_second": 7.65,
-      "train_steps_per_second": 1.913
+      "step": 4460,
+      "total_flos": 4.883347058982912e+16,
+      "train_loss": 0.5770811448717331,
+      "train_runtime": 4315.4414,
+      "train_samples_per_second": 16.526,
+      "train_steps_per_second": 1.033
     }
   ],
   "logging_steps": 500,
-  "max_steps": 17830,
+  "max_steps": 4460,
   "num_input_tokens_seen": 0,
   "num_train_epochs": 5,
   "save_steps": 500,
-  "total_flos": 6.531382403512013e+16,
-  "train_batch_size": 4,
+  "total_flos": 4.883347058982912e+16,
+  "train_batch_size": 16,
   "trial_name": null,
   "trial_params": null
 }