End of training

README.md

@@ -1,4 +1,6 @@
 ---
+language:
+- id
 license: apache-2.0
 base_model: LazarusNLP/IndoNanoT5-base
 tags:
@@ -18,10 +20,10 @@ should probably proofread and complete it, then remove this comment. -->
 This model is a fine-tuned version of [LazarusNLP/IndoNanoT5-base](https://huggingface.co/LazarusNLP/IndoNanoT5-base) on an unknown dataset.
 It achieves the following results on the evaluation set:
 - Loss: 1.7802
-- Rouge1: 0.696
+- Rouge1: 0.4152
 - Rouge2: 0.0
-- Rougel: 0.6965
-- Rougelsum: 0.6913
+- Rougel: 0.4133
+- Rougelsum: 0.4149
 - Gen Len: 1.0
 
 ## Model description

all_results.json

@@ -1,29 +1,29 @@
 {
     "epoch": 5.0,
     "eval_gen_len": 1.0,
-    "eval_loss": 2.2388505935668945,
-    "eval_rouge1": 0.4284,
+    "eval_loss": 1.780213713645935,
+    "eval_rouge1": 0.4152,
     "eval_rouge2": 0.0,
-    "eval_rougeL": 0.431,
-    "eval_rougeLsum": 0.4286,
-    "eval_runtime": 166.8613,
+    "eval_rougeL": 0.4133,
+    "eval_rougeLsum": 0.4149,
+    "eval_runtime": 538.011,
     "eval_samples": 750,
-    "eval_samples_per_second": 4.495,
-    "eval_steps_per_second": 0.144,
+    "eval_samples_per_second": 1.394,
+    "eval_steps_per_second": 0.045,
     "predict_gen_len": 1.0,
-    "predict_loss": 2.277695417404175,
-    "predict_rouge1": 0.5138,
+    "predict_loss": 1.8085896968841553,
+    "predict_rouge1": 0.4798,
     "predict_rouge2": 0.0,
-    "predict_rougeL": 0.5115,
-    "predict_rougeLsum": 0.5119,
-    "predict_runtime": 814.3256,
+    "predict_rougeL": 0.4804,
+    "predict_rougeLsum": 0.48,
+    "predict_runtime": 2455.6432,
     "predict_samples": 3762,
-    "predict_samples_per_second": 4.62,
-    "predict_steps_per_second": 0.145,
-    "total_flos": 8.512744818393907e+16,
-    "train_loss": 2.9941017925371565,
-    "train_runtime": 5831.7853,
+    "predict_samples_per_second": 1.532,
+    "predict_steps_per_second": 0.048,
+    "total_flos": 5.530296634048512e+16,
+    "train_loss": 2.7770426797225336,
+    "train_runtime": 5662.7265,
     "train_samples": 14262,
-    "train_samples_per_second": 12.228,
-    "train_steps_per_second": 1.529
+    "train_samples_per_second": 12.593,
+    "train_steps_per_second": 0.788
 }

eval_results.json

@@ -1,13 +1,13 @@
 {
     "epoch": 5.0,
     "eval_gen_len": 1.0,
-    "eval_loss": 2.2388505935668945,
-    "eval_rouge1": 0.4284,
+    "eval_loss": 1.780213713645935,
+    "eval_rouge1": 0.4152,
     "eval_rouge2": 0.0,
-    "eval_rougeL": 0.431,
-    "eval_rougeLsum": 0.4286,
-    "eval_runtime": 166.8613,
+    "eval_rougeL": 0.4133,
+    "eval_rougeLsum": 0.4149,
+    "eval_runtime": 538.011,
     "eval_samples": 750,
-    "eval_samples_per_second": 4.495,
-    "eval_steps_per_second": 0.144
+    "eval_samples_per_second": 1.394,
+    "eval_steps_per_second": 0.045
 }

generated_predictions.txt

@@ -1,3762 +1,3762 @@
-an
-nya
-2
-anda
-itu
-itu
-juga
+bahwa
+ini
+1
+dengan
+s
+oleh
+atau
 dan
-lebih
-saat
-
+membuat
 mereka
-dengan
-9
-ini
+satu
+)
+oleh
+saja
+di
 
-telah
-menggunakan
-t
+dari
+harus
+dan
 ,
-pada
+juga
 
-dalam
-sebagai
-akan
-situs
+membuat
+oleh
+beberapa
+adalah
 
-mendapatkan
-hal
+beberapa
+lebih
 dengan
-.
-0
-a
-dalam
-tersebut
-bisa
 untuk
-ada
-ini
-jika
-4
-secara
-cara
--
-dengan
-:
-1
-judi
-0
+2
 dan
+kami
+memiliki
+/
 
-.
-akan
-dapat
+ke
+2
+3
 -
+lain
+hanya
+ini
+beberapa
+kita
+nya
+9
+saya
+dan
+/
+bisnis
+akan
+s
+2
 
-8
+kita
 
 
-adalah
+juga
 dari
+itu
+indonesia
 (
-seperti
-cara
-pada
-bisa
-5
+hal
+itu
+ke
 1
-dari
-besar
-di
-
-menjadi
-)
-yang
+nya
+lain
+ini
+secara
+harus
+lebih
+dan
 .
 .
-dalam
+pada
+kami
+dari
 ini
--
-anda
 sebagai
 kami
+orang
+harus
+
 saat
-sudah
+s
+-
+akan
 
-nya
-besar
-ini
-lain
-tidak
-0
-baik
-adalah
-sangat
-ke
-8
-karena
+banyak
+7
+orang
+"
+"
+e
+lebih
 itu
-0
-yang
-1
-pada
-cara
-pada
+bisa
 untuk
-,
-menjadi
-menjadi
-orang
+saja
+akan
+sangat
+bisa
+adalah
+adalah
+5
+5
+dengan
 
--
+2
 
 
-i
-,
-juga
-"
-.
-adalah
-itu
-dalam
 1
-kamu
-2
--
+saat
+satu
+menjadi
+dan
+akan
+akan
+atau
+dari
+namun
+dari
+7
+nya
 nya
-itu
-kan
 dalam
+yang
 dan
-kan
+k
 dari
+bahwa
 beberapa
-a
-
-,
-situs
-yang
-online
-?
-
-anda
-)
-.
-?
-saja
-karena
 
-mereka
 di
-memiliki
-mereka
-
-dapat
-2
-8
-jika
-nya
-situs
-situs
+dari
 dan
-untuk
-,
-)
-tersebut
-)
-yang
-memiliki
-saya
-sebagai
-
-jika
+online
+k
+"
+-
+lebih
+dalam
+atau
+6
+dapat
+ini
 akan
-,
-tidak
-dari
-dengan
-)
-dari
-
-
-i
 di
 /
--
-
+3
 
--
-itu
--
-juga
+judi
+kita
+harus
+kita
+bisa
+hanya
+mereka
+dan
+untuk
+,
+ke
+(
+karena
+di
 4
 ini
+a
+mereka
+/
+adalah
+secara
 :
-oleh
-s
-yang
+nya
+di
+dalam
+1
+
 5
+sebagai
+dengan
+yang
+1
+
 
+dari
+membuat
+1
+kamu
+anda
+-
 tersebut
+seperti
+juga
+yang
+:
+
+:
 1
-ini
-kami
+memiliki
+membuat
 untuk
-"
+9
 dari
 
-.
-1
-ke
-di
-ada
-lain
-:
+kita
 
-atau
-dan
-dalam
-,
-dan
-sudah
 sudah
-nya
-ini
-dalam
-0
-salah
-anda
-tidak
-adalah
-sangat
+untuk
+lebih
+slot
+harus
 
-,
-8
+i
 di
+ada
+saya
+dan
+satu
+namun
+tidak
+-
+s
 1
-sudah
-.
-5
-semua
-karena
-itu
+6
+anda
+pada
+saya
+e
+atau
+untuk
+
 di
+nya
+akan
 
-0
+8
+judi
+menggunakan
+atau
+di
 
-)
-hanya
-bisa
-0
 2
-,
-k
-permainan
-anda
-)
-ada
-4
+atau
+jika
+satu
+pada
+2
+2
+yang
+adalah
+oleh
+untuk
+5
+lebih
+memiliki
 tidak
-anda
 dengan
-judi
-situs
+ini
+permainan
+saja
 yang
-juga
+,
 yang
 akan
-dalam
-)
-di
+6
+
+sebagai
 yang
-2
-adalah
-itu
-tersebut
-9
-karena
-dalam
-?
-:
-pada
-orang
-sangat
-4
+untuk
+nya
+atau
+bahwa
+judi
+banyak
+juga
+kami
+kita
+atau
+kita
+anda
 tersebut
-i
+situs
+s
 ini
-t
-
-pada
+harus
+an
+dalam
 dan
-saya
-para
-dapat
+memiliki
+k
+online
 dan
-)
-saja
-8
-di
-(
-.
-hanya
+ada
+9
+3
 anda
-saat
-ke
+dari
+cara
+para
+baik
+satu
+juga
+bisa
 0
-2
-di
-
-saat
+untuk
 yang
-oleh
-?
-
-adalah
-ada
 harus
-7
+yang
+
+secara
+
 tidak
-dengan
+ada
+1
+yang
+adalah
+ini
 0
-di
-.
-.
-juga
 dan
-ini
-di
--
-harus
-judi
+,
+an
+atau
+untuk
+sudah
+untuk
+2
+ke
+yang
 yang
 untuk
-.
-
-
 di
-sebagai
 dengan
-adalah
-ke
-yang
-bahwa
-/
-secara
-untuk
-lebih
-anda
-dalam
-hal
+
+di
 2
--
-judi
-harus
-seperti
--
 ini
-mereka
-
+adalah
+karena
 di
-"
-beberapa
-dalam
+ada
 tidak
-secara
-banyak
-2
-0
-online
-yang
-an
+permainan
+anda
+dan
+-
 orang
-9
-.
-pada
-
-.
-dengan
-dapat
+,
+permainan
 dengan
-juga
-anda
-
-2
-bisa
-memiliki
-karena
-itu
+an
+seperti
+s
+tidak
+0
 banyak
-untuk
 
-salah
-itu
-yang
-5
-/
-nya
-dalam
 untuk
-pada
-anda
-menjadi
-t
-:
-di
-k
-
-baik
-
-an
+situs
+situs
 akan
-dari
-memiliki
-
-memiliki
-lebih
-karena
-dalam
+?
+online
+menjadi
+nya
+-
+ke
+situs
 kami
+juga
+9
 .
+juga
 
-anda
-banyak
+yang
+7
 ada
-1
+dengan
+atau
+0
+
 dan
-untuk
-seperti
+bisa
+besar
+jika
+juga
+(
+harus
+harus
+?
+lebih
+yang
+-
+beberapa
+2
+adalah
 1
-.
 pada
-2
-dan
-lebih
-sangat
+anda
 ,
-nya
-membuat
-menjadi
 )
-akan
-.
-saat
-pada
-u
-secara
-itu
+:
+di
+
+orang
+besar
 
 /
-)
-jika
-banyak
-1
-t
-online
-2
-lebih
-dan
-seperti
-kami
-dalam
+tidak
 nya
-oleh
+menjadi
 
-mendapatkan
+sudah
+tidak
+ke
+itu
+seperti
 .
-ini
-oleh
+itu
+dengan
+saja
+itu
+juga
+untuk
+anda
 harus
-3
-"
+2
 hal
-ini
-
-atau
-0
 juga
-
+nya
+dan
 8
-.
-
-adalah
-/
-bahwa
-permainan
-saat
+situs
 tersebut
-6
+bisa
+hal
+bahwa
+menjadi
+tidak
 9
-(
+saya
+dari
+?
 yang
+online
 
-di
--
+k
+dapat
+
+sebagai
+tidak
+baik
 online
-bisa
-0
-banyak
-juga
-salah
-di
+-
 ke
-,
-sangat
-bermain
-
-1
+dan
+"
+e
+adalah
 dalam
--
+banyak
 
-bisa
-.
-1
+semua
 .
-(
-kami
-
-saya
--
-
-atau
+ini
+satu
+"
+mereka
 .
-akan
-anda
-1
-itu
-pada
 ,
-tidak
-5
-kami
-cara
-i
-hal
-sebagai
+)
 
-anda
+s
+2
+itu
 
-dengan
-kita
+:
+seperti
+memiliki
+adalah
+sangat
+akan
 "
+4
+orang
+saja
+membuat
+3
+yang
+
+dengan
+0
+dapat
+cara
+0
+situs
+s
+membuat
+anda
+i
+yang
+4
+bisa
+
+,
+atau
+s
+-
+akan
+baik
+dan
+saat
+jika
+judi
+
+permainan
+saya
+
+s
+anda
 tersebut
+untuk
+yang
 adalah
+ada
+,
+itu
+:
 
-banyak
-6
+saat
 juga
+3
+bahwa
+
+dengan
+
+dengan
+5
 di
 untuk
+s
 
+jika
+lebih
+atau
+di
+untuk
 
-.
-e
-orang
-ada
-seperti
-anda
-oleh
-pada
-situs
-kamu
-dari
-dengan
-dengan
-mereka
-juga
-8
-yang
-secara
-anda
-cara
-judi
-dapat
-adalah
-beberapa
-baik
-sudah
-0
+indonesia
 ,
+sebagai
+cara
+sangat
+2
 anda
+sangat
+itu
+,
+-
 di
-online
-7
+2
+kami
+jika
+juga
+orang
+
+judi
+yang
+ada
+permainan
+s
+bahwa
 saat
+uang
+3
+dari
+dan
+ini
+0
+s
+
+beberapa
 karena
-orang
-harus
-1
+/
+sangat
+tidak
 akan
+4
 kita
-itu
 
 tersebut
-a
-dalam
-
-
-dan
-ini
-banyak
+t
+di
+saat
+,
+orang
+-
+ke
 bahwa
 .
+juga
+a
+mereka
+7
+s
+oleh
+?
 atau
-kami
-satu
 lebih
-jika
-yang
-ini
-juga
-seperti
-bahwa
-kita
-0
-ini
-ke
+sebagai
+mereka
+-
+7
+saja
 anda
-bisa
-permainan
-ke
-adalah
+.
+
+online
+u
+1
+anda
+cara
 0
-7
-tidak
-jika
+atau
+saya
+untuk
+nya
 dengan
-satu
-anda
-2
-oleh
-6
+sebagai
 anda
-
+namun
 ini
-indonesia
-lebih
+k
+"
 online
 yang
+sebagai
+?
 
-hal
-online
-:
-saat
-dengan
+cara
+uang
+anda
 
-untuk
-,
+dengan
+kamu
 ,
+dari
+atau
+situs
+banyak
 0
-adalah
-?
-(
--
 
-membuat
-s
-saya
-kan
-atau
-anda
-dan
-yang
-ada
+menjadi
 dapat
-di
-dari
-memiliki
-slot
-kamu
-1
-an
-/
-yang
-dalam
-juga
-dalam
-lain
-an
-memiliki
-
+karena
+hanya
 tidak
+dengan
+dan
+yang
+,
 adalah
 di
-"
-,
-6
-dapat
-.
-adalah
+nya
+cara
 untuk
+
+nya
+yang
+hal
+yang
+karena
+tidak
+adalah
+oleh
+/
+(
+
 tidak
+sangat
+dengan
+s
+itu
+secara
+)
+yang
+atau
+adalah
+akan
 dengan
 .
-5
-anda
-kita
-4
-e
-sudah
-juga
-anda
-
+mereka
+memiliki
+:
+seperti
+oleh
+secara
+ada
+kan
 
-0
-menjadi
 
+2
+saat
+.
 yang
+harus
+kami
+akan
+dengan
 8
-secara
-pada
-1
-cara
 di
-tidak
-juga
+1
+adalah
 
-(
+ada
 .
-dan
-dengan
-melakukan
-cara
-k
-an
+dalam
+-
+ini
+4
+u
+jika
 
-lebih
+ada
 
-0
-0
-dan
-untuk
-dari
+s
+)
+situs
+kami
+)
 
-,
-3
+yang
+anda
 dengan
-permainan
-banyak
-i
+judi
+ke
+atau
 i
 .
-tidak
-
-pada
-saat
+lain
+uang
+cara
+banyak
 di
-0
-itu
+pada
+kami
 
-an
--
-an
-)
-di
-atau
-di
-dan
+mereka
+0
+i
+dengan
+anda
+dapat
+untuk
+untuk
 untuk
 an
-ini
-i
-dari
-nya
-tersebut
-dan
-lebih
-lebih
-orang
-orang
-tersebut
-hanya
+0
+s
+tidak
+bisa
 jika
--
-
-2
-)
-harus
-tentang
+di
+karena
+online
+kita
+membuat
+7
+saja
+t
+:
+dan
 2
+5
+dengan
 situs
-atau
-sebagai
-
-mereka
-tidak
-dan
+-
+hal
+s
+karena
+hanya
+/
+beberapa
+anda
 ,
-oleh
-nya
-
+lebih
+dari
+0
 di
-mereka
-akan
-ada
-permainan
-
-dapat
-pada
+5
+tidak
+itu
+satu
+4
+online
+atau
+cara
+hanya
 "
-?
-bahwa
-,
+yang
 
-cara
-bisa
 satu
-oleh
-nya
+tidak
+karena
+cara
+adalah
 
 .
-situs
-
-satu
-akan
-pada
-banyak
-atau
-harus
-
-kami
+/
 .
-orang
-0
-di
 tersebut
-.
 bisa
+juga
+bahwa
+dalam
+i
+yang
+judi
+.
+
+0
+,
+beberapa
+
+tidak
 yang
 4
-untuk
+anda
+dari
 hanya
-permainan
 ini
-adalah
+juga
 
-permainan
-untuk
-tidak
+4
+di
 atau
-
-indonesia
-ada
-oleh
-3
-
-dan
-yang
+ini
+hal
+hanya
+kami
+dalam
 hal
-dan
 
-adalah
-dengan
-an
-slot
-atau
-dari
+di
+yang
+,
+hanya
+situs
+juga
 dengan
-dalam
-para
-1
-pada
-satu
+orang
+7
+s
+8
+adalah
+saja
+.
+akan
+tidak
+sudah
 yang
 di
 membuat
-dan
-oleh
+di
 "
-sebagai
+oleh
+slot
 juga
-,
-u
--
-kan
-jika
-sangat
-
-itu
--
 tidak
-untuk
-0
-untuk
-kan
-0
-memiliki
-,
-bahwa
-s
-hal
-karena
-bahwa
-membuat
-6
-.
-4
-kita
+salah
 6
-ini
-kami
-
-9
-lebih
-dalam
-9
-tidak
-i
-kan
 
-juga
-bisa
-tidak
+kita
+e
+untuk
+seperti
+ke
+1
+untuk
 nya
 dan
-saja
-
-.
-a
-lebih
-i
-nya
-yang
-kita
-k
--
+jika
 1
-
-0
+satu
 ,
-karena
 /
-harus
+kamu
 
-(
-di
-tidak
-permainan
-memiliki
-memiliki
 
-bisa
-?
-1
-bisa
-:
-dan
-karena
+saya
+an
+kami
 
-online
-2
+sudah
+3
+slot
+-
+kamu
 
-oleh
-tersebut
-mereka
+s
+sebagai
+pada
 harus
-
-bisa
-dalam
-permainan
-
-ini
 pada
+ada
+a
+tidak
+itu
+menjadi
+hanya
 bisa
-saja
+dengan
+0
+yang
 
-anda
-di
+/
+)
+(
+nya
+yang
+permainan
+membuat
+8
+tidak
+
+juga
+3
 dapat
-0
-t
-itu
-dalam
+bahwa
+satu
 
--
-oleh
-ada
+mereka
+sangat
+pada
+adalah
+5
 ke
-,
-orang
-bahwa
-anda
-kita
-kami
-seperti
-online
-jika
-saat
 
-untuk
-memiliki
-kami
-cara
-memiliki
-memiliki
-/
-6
-bisa
-cara
+dalam
+hanya
+0
 (
+
+untuk
+lebih
+9
 karena
-"
-:
-pada
-dengan
+akan
+t
+bahwa
+5
+mereka
+d
+
+akan
+1
 3
-bisa
 1
-bisnis
-d
-bahwa
+-
+nya
+
+menggunakan
+
+5
+untuk
+lebih
 1
+kita
 itu
-?
-mereka
-untuk
-memiliki
+sudah
+dan
+harus
 oleh
-yang
-.
-online
-.
-"
-
-,
-ada
+judi
+s
+di
+9
+atau
+ini
+sangat
+kamu
+)
+3
 menjadi
-
-tersebut
-t
-hanya
-akan
+kan
+sangat
+untuk
 yang
+situs
+?
+5
+orang
+bahwa
+nya
 i
-u
-harus
-kita
-yang
-ke
+banyak
+3
+online
 9
+harus
+1
+ini
+3
+dalam
+itu
+dan
+a
+di
+2
+adalah
+hanya
+t
+dengan
+pada
+judi
+,
+.
+online
+7
+
+
+,
+lebih
+
+banyak
+hal
+t
+di
+anda
+/
 dapat
-1
-9
+secara
+orang
+(
+:
+)
+secara
+bisa
+dengan
+-
 
 sangat
-sudah
+saat
 )
 
-
 )
+banyak
+kita
+0
 nya
+orang
+banyak
+banyak
+sangat
 ini
-dari
-saya
-jika
-i
-menjadi
-dengan
+akan
+/
+dalam
+juga
 bisa
+
+permainan
+3
+9
 mereka
-akan
-akan
-akan
-.
-atau
-ke
-orang
-online
-yang
+kita
+saya
+kami
 dan
-t
-:
-ada
-karena
-cara
+9
+online
+kita
 
-menjadi
-anda
-memiliki
-)
-2
-"
-salah
 
-oleh
+dengan
+sudah
+yang
+ini
+3
+
+0
+kita
 di
-anda
+
+adalah
+"
+kamu
 ada
-di
-membuat
-dapat
-orang
+"
+dan
+oleh
+2
+.
 ,
-tersebut
-kami
-
+ini
+?
 hal
-dapat
-judi
-e
-dari
-atau
-jika
-k
-4
-saat
-mereka
-
-harus
+memiliki
+sebagai
+)
+u
+/
+seperti
+telah
 
-jika
-k
-beberapa
-maka
-9
-tidak
-dari
+t
+yang
+karena
+membuat
+hanya
+,
+nya
+dalam
 itu
-adalah
 untuk
-bagi
-
 adalah
+0
+saja
+
+atau
+saja
+2
+banyak
 nya
-nya
-pada
-nya
-dari
+1
 
-jika
-menjadi
-beberapa
-pada
+tersebut
+hal
+seperti
+dalam
 yang
+cara
+atau
+u
+,
+kita
 5
+seperti
+saja
+(
+situs
+dan
+
+dalam
+menjadi
 ,
-k
 
-satu
+untuk
 mereka
-online
-atau
+5
+-
 jika
-
-yang
-
+1
 dalam
-:
-permainan
-
-dan
-3
-saat
-untuk
-d
-nya
-juga
 
 
-kamu
-1
 ?
-adalah
+dari
 dan
-,
-sudah
-untuk
+dapat
+anda
+
+di
+-
 dalam
 untuk
-)
-5
+,
+3
 mereka
 
 dan
 -
-i
-.
+itu
+a
 lebih
 dengan
-4
-(
+
+banyak
+mereka
+oleh
 kami
-?
-saja
 .
-sebagai
+hal
 .
-
-itu
-e
-lebih
-cara
-itu
-memiliki
-oleh
-untuk
-banyak
-dengan
-0
-yang
-harus
-hanya
-saat
-sangat
-
-nya
-(
-dengan
-(
-membuat
-3
+kita
+ini
+seperti
+kamu
+,
 adalah
-situs
+kami
+cara
+ini
+bisa
 di
-tersebut
+dari
 yang
-nya
-hanya
-4
-1
-anda
+"
+kan
+dengan
+
 
+akan
+karena
 ini
-cara
+itu
+
+:
+beberapa
+?
+hanya
+jika
+yang
+tidak
+baik
+8
+bisa
+dengan
+
+1
+besar
 .
-3
+t
 .
-8
+u
 
+dan
+beberapa
 dan
 untuk
-yang
-0
-banyak
-k
-anda
-seperti
+tersebut
+7
+nya
+beberapa
 .
-harus
-online
-,
-
-
-
-t
-kamu
-dapat
-/
-atau
-8
-untuk
+e
 ke
-5
-untuk
+saya
 
-mereka
-cara
+game
+(
+ada
 
-sangat
-0
-dapat
-seperti
-sudah
-satu
-dan
-seperti
-dan
-?
-s
+banyak
+saya
 
-an
+situs
+anda
+,
+s
+judi
 menjadi
+oleh
+saya
+
+di
+1
+karena
+tidak
+dalam
+7
 untuk
+kan
+dan
+"
+dapat
+
+:
+3
+di
 2
 
-online
-dalam
+mereka
+nya
 
-untuk
+(
+dari
+dari
+5
 1
-bisa
-mereka
-0
 .
 .
-tidak
-dengan
-,
-anda
-saat
-
-secara
-
-9
-"
-s
-lebih
-0
-s
-banyak
-"
-online
-saya
-:
-banyak
-d
 bisa
-anda
-kita
-bahwa
+-
+,
+)
+permainan
+.
+besar
 
+hanya
+sangat
+nya
+ada
+1
+ada
+mereka
+harus
+dan
+ini
 sudah
+karena
+an
+itu
+anda
+ada
+cara
+s
+saat
 di
 dan
-beberapa
+di
 
-6
+pada
+tersebut
+bisa
 
+dapat
+situs
 nya
-
-ke
-cara
-s
-dan
-oleh
-saya
-i
-anda
-online
-untuk
+sangat
+kami
+situs
+kita
+dengan
 online
-nya
+dan
+dapat
+2
 .
-lebih
-e
-(
+3
+saya
+tahun
 
-situs
+untuk
 
-1
+?
 
 4
-ada
-5
+online
+dalam
 dari
-an
-jika
-hal
+baik
+dan
+pada
 ,
-k
-lebih
-5
-nya
-t
-an
-tidak
-banyak
+membuat
+atau
+8
+dari
+9
+hanya
+bisa
+jika
 -
 anda
+untuk
+lebih
 kita
-nya
-tersebut
-nya
-itu
-4
-s
-
-
-tidak
-i
+menjadi
+pada
 adalah
-ada
-permainan
-untuk
-anda
-saja
-untuk
-mereka
-.
-,
-0
-dalam
-itu
-0
+ke
+dan
+dan
+d
+sangat
+pada
+karena
+9
+ini
 1
-seperti
-kan
+t
+-
+)
+tidak
 yang
-i
-
-membuat
-sudah
-dari
-dari
-juga
-.
-2
-oleh
-nya
+-
+itu
+itu
+bisa
+kamu
 tersebut
-akan
-5
-yang
+sangat
+untuk
+ada
 
+hanya
 memiliki
-
-uang
-:
-itu
-membuat
+nya
+bisa
+online
+.
+bahwa
+an
+online
+harus
 tidak
-banyak
-t
-mereka
+apa
+yang
 sudah
-anda
-i
-satu
-orang
-di
-di
-k
+secara
+
+kita
+tersebut
+juga
+nya
 atau
+3
+hanya
+pada
+satu
 anda
+ke
+sangat
+memiliki
 di
-6
-untuk
-/
-jika
-u
-1
+t
+-
+mereka
+memiliki
+sebagai
+7
+8
+hal
+(
+hanya
+akan
 ,
-di
-banyak
-ada
+ini
+kita
+adalah
 .
+)
+pada
 judi
+di
+yang
 tidak
 lebih
+ada
+jika
+lebih
 yang
+salah
 
+karena
 bisa
-nya
-permainan
-:
-itu
-
-kami
-situs
-8
-dari
-adalah
-tersebut
-ke
-
+juga
+?
+lebih
+,
 
-saat
+di
 itu
-situs
-cara
-dengan
-hanya
-karena
-)
+an
+harus
 
-dalam
-7
-besar
+-
+banyak
 
-8
-nya
+,
+s
+sudah
+.
+
+bahwa
+pada
 
-menggunakan
-8
-1
 yang
-tidak
+lebih
+pada
+di
+1
+1
+salah
+akan
 0
-dan
-
-mereka
+ke
 )
-(
-dari
+dalam
 atau
-juga
-
+satu
+permainan
 ,
-untuk
+s
+itu
+dari
+lebih
+1
 akan
-oleh
-tidak
-dengan
-tidak
-
-saja
-dapat
+s
+ini
+lebih
 )
 ini
-1
-situs
-6
-saat
-0
 dengan
+4
+hanya
+k
+sebagai
+"
 ini
-nya
+yang
 
 tersebut
 ,
-dan
-yang
 ,
-dapat
+di
 ,
-pada
-dan
+atau
+,
+juga
+memiliki
 anda
-ada
+juga
 
-2
-itu
-saya
-anda
-yang
+saat
+pada
+
+-
+dari
 menjadi
-ada
-di
-dalam
+ke
+anda
+akan
 
-sangat
-hal
-kan
-sebagai
+kami
+dalam
 akan
-i
-2
-:
-dari
-3
+harus
+dalam
+pada
+(
+-
+kami
+(
 ini
-seperti
-1
-e
-anda
+saat
+judi
+permainan
+judi
 adalah
-2
+dari
 yang
-an
-
+secara
+a
 di
+5
+anda
+kan
+/
 ,
-adalah
-bahwa
-sebagai
-
-akan
-3
+8
+karena
 karena
-1
 tidak
+karena
 .
-anda
+dengan
+tidak
+.
+k
+dari
+bisa
 akan
-baik
-2
-2
-nya
-dalam
-saat
-karena
-anda
-itu
-0
-atau
+8
 an
-pada
-beberapa
-,
-nya
-oleh
-beberapa
+ini
+5
+dari
+online
+ini
+slot
+kita
+yang
 nya
-tidak
-dalam
+saat
 .
-bisa
-orang
-2
-orang
-,
-i
+salah
 8
-untuk
+adalah
+.
+nya
+beberapa
 1
+kamu
+,
 (
+menjadi
+6
+bisa
+)
 ,
 .
+adalah
+tersebut
+kan
 tidak
-5
-karena
-satu
-9
-dan
-juga
+i
+m
+s
 yang
-
-mereka
-dengan
-lebih
-membuat
-9
-di
-jika
-
-"
-satu
+adalah
+karena
 ini
-di
-akan
-nya
-dan
+karena
+judi
+hal
+untuk
+
 kan
-2
-situs
+s
+tersebut
+0
+karena
+untuk
 1
-menjadi
-nya
+anda
+ada
+9
+t
+1
+5
+dengan
 ,
--
+nya
 dan
-dari
+ini
 dan
-akan
-banyak
-8
 adalah
+secara
+9
+juga
 
-1
-3
-hanya
+lain
 ke
-
-i
-kami
-mereka
-
-dengan
-4
+:
+karena
 ,
-(
-sangat
-sangat
-dari
--
-dengan
-1
-ini
-ini
+atau
+kamu
 karena
-harus
+ada
+,
+cara
+,
+mereka
+e
+dan
+akan
 0
-)
-dalam
+-
+jika
+-
+1
+lebih
+hanya
+hanya
+a
+dapat
 
 
-dapat
-untuk
-itu
-memiliki
-lebih
+9
+saat
+yang
 jika
-ada
-
+karena
+e
+i
+yang
 .
+4
 (
-(
-bagi
-2
+indonesia
+1
 yang
-adalah
-kamu
-?
-pada
+juga
+bahwa
+salah
+dalam
 ,
-pada
-memiliki
-/
-dan
-kita
-1
-nya
-hanya
-5
-
-sangat
-adalah
-itu
-e
-"
-uang
-0
+tidak
+online
+melakukan
 di
-untuk
+0
+juga
+i
+judi
+orang
+
+8
 di
+adalah
+4
+judi
+pada
+dari
 ,
-t
-
-
-orang
+untuk
+dan
 ,
+a
+sudah
+yang
+pada
+yang
 
 untuk
-karena
+mereka
 5
-ini
+online
 pada
-s
+banyak
 tidak
-pada
-dalam
-itu
-kita
-ke
-akan
-/
+pada
+pada
+juga
+
+(
+i
+8
+besar
+adalah
+dan
 .
-"
-di
-5
-dalam
-menggunakan
+juga
+7
 dan
-memiliki
-ke
-saat
+1
+s
+8
 
--
-judi
-salah
+ini
 dari
--
+lain
+sudah
 0
-banyak
-adalah
-jika
-cara
-bermain
-yang
-atau
+tidak
+karena
+dalam
+baik
+d
+)
+tidak
+pada
 0
 -
-seperti
-dengan
-kita
-di
-cara
-ini
-0
-anda
-juga
-itu
-yang
-orang
+/
+a
 dapat
-akan
-(
-indonesia
-membuat
-lain
-juga
+ke
+8
+0
+nya
+atau
+s
 i
-tidak
-banyak
-dan
-.
-2
-untuk
-dengan
+yang
+
 /
-seperti
-dapat
+tidak
+sebagai
+saja
+kamu
 atau
-untuk
+sebagai
 karena
-ini
-untuk
-yang
-saya
-,
-2
-bisa
-ini
-an
-?
-tersebut
+nya
+saja
+beberapa
+karena
+nya
+(
 0
-.
-a
+situs
+saat
 
-saja
-e
-kan
-an
+s
+di
+dapat
+dengan
+dengan
+untuk
+hal
 yang
-saja
-ada
-ini
+kamu
+tidak
+tidak
+9
+(
+kami
+itu
+baik
+bermain
 1
+indonesia
+an
 1
-untuk
-jika
+nya
+ada
+seperti
+atau
+-
 dari
-ini
-
-hal
-adalah
-
-dapat
-di
-di
+akan
+untuk
+)
 1
-4
-judi
+-
+-
+memiliki
+itu
+sangat
+banyak
+dengan
+atau
+nya
+semua
+karena
 akan
-2
 0
-3
-5
-kita
+tidak
+oleh
+sudah
+membuat
 
-jika
-an
-dan
+(
+harus
 dan
-ke
-ini
-atau
-maka
 di
-ini
-0
-semua
-baik
-ini
-membuat
-i
-judi
-pada
-,
-t
-judi
-5
-sebagai
+u
+saat
+d
 besar
-indonesia
-yang
-ke
+0
+anda
+dari
+poker
+mereka
+dengan
+
+dari
+memiliki
+secara
+karena
+
 dalam
+8
+kamu
+nya
+bermain
+untuk
+seperti
+akan
 
 .
 .
-menjadi
-:
+5
+sebagai
 dengan
+jika
+-
 sudah
-2
-dari
 anda
-online
+lebih
 dari
-orang
+atau
 ,
 .
-yang
-bisa
-indonesia
-anda
-ingin
-beberapa
-:
-anda
-"
-kan
-,
-
+dan
 bisa
-pada
-1
+saya
+ini
+a
+itu
+t
 karena
-banyak
+memiliki
+sudah
+dan
+5
+sudah
+i
+2
+)
+t
 yang
-menjadi
+sudah
 
 itu
-banyak
+permainan
 
-(
-lebih
-1
-baik
+
+dapat
+dapat
+dari
+pada
+dan
+dengan
+oleh
+karena
+mereka
+anda
 atau
-0
-untuk
-menjadi
+secara
+2
 3
-5
+anda
+mereka
+ini
 dan
-8
-di
--
-5
-untuk
-menjadi
-0
-
 
 dan
-harus
+"
 di
-7
+dan
 
-ada
+s
 adalah
-besar
-an
+a
+cara
 
-harus
-i
-baik
-untuk
+seperti
+ada
+6
+6
 dan
 
-)
-e
-yang
+i
+satu
+kamu
+online
 ada
-nya
+dari
+saat
+-
 tersebut
-beberapa
-anda
-jika
-an
+hanya
+t
+-
+yang
 di
-membuat
-?
+ke
+sebagai
 orang
-dengan
-hal
-pada
-dalam
-banyak
-
+akan
 dapat
-nya
-
-.
-membuat
--
-,
-juga
-dalam
+kamu
+uang
+yang
 anda
-dan
-mereka
-
+.
+hanya
+permainan
+baik
 situs
-ada
-dan
-,
+akan
+i
 dan
-permainan
-saat
-pada
+dengan
+
+seperti
+
 di
+,
+untuk
 kami
+8
 karena
-dan
-mereka
-yang
-dapat
-.
-.
-beberapa
+anda
+hal
+s
 untuk
-dalam
-karena
-judi
-pada
-2
-jika
-saya
-cara
+banyak
+di
+saat
+poker
+.
 menjadi
-online
-dapat
-itu
+indonesia
+bisa
 3
-juga
-ini
-bahwa
+di
+untuk
+kita
+5
+(
+membuat
+dan
+anda
+dapat
+memiliki
+satu
 .
+anda
+hal
+indonesia
 dari
-dengan
-karena
-dari
+saat
+(
+telah
 .
+ada
+ini
+oleh
+saat
+2
+dan
+
+mereka
+nya
+an
+situs
+satu
+2
+bermain
+melakukan
+lebih
+satu
+e
+9
+,
+salah
+lebih
 atau
+dan
+-
 anda
-)
-di
-dengan
-yang
-kan
-akan
-banyak
-4
-saja
+anda
+tidak
+i
+
+1
+game
 hal
-2
-bagi
-pada
-)
-cara
-harus
-saya
-yang
-menjadi
-3
+an
+
 saja
-pada
-dengan
-dengan
-yang
-d
-satu
+kita
 
-bisa
-.
-hanya
-pada
 
-ini
-dengan
-3
+anda
+adalah
+itu
+bagi
+karena
+dalam
+i
 
-untuk
-akan
-"
-tersebut
+i
 mereka
-nya
-itu
+juga
+sudah
+atau
+0
+7
+permainan
 judi
-s
-kita
-tidak
-satu
-ada
--
-membuat
-kamu
-a
-akan
-nya
-,
-9
-bisa
-6
 online
 bisa
-mereka
-.
-"
-saja
-beberapa
-ini
-,
-tahun
-,
-1
-dari
+dan
+judi
 tidak
-hanya
+judi
+online
+nya
+.
 .
 :
-tersebut
-:
+ke
+indonesia
+-
+indonesia
+karena
+dan
+satu
+bisa
+i
 1
-kan
-itu
-untuk
-banyak
-mereka
+.
+5
+sudah
+tersebut
+dari
+i
+membuat
+t
+jika
+3
 dengan
-d
-0
 di
-tersebut
-4
-anda
-mereka
 0
-atau
-yang
-dari
-
-
-,
+untuk
+tidak
+sangat
+anda
+dapat
+2
 dari
+lebih
+akan
+jika
 
-atau
+yang
+1
 
-seperti
-online
-a
-e
+itu
+jika
+hal
+ada
+dengan
+menjadi
 yang
-:
-judi
+jika
+"
 ,
-judi
-ada
-mereka
+itu
+u
+banyak
 
--
+2
 
+untuk
+sudah
+2
 dan
-seperti
-0
-
+sudah
+8
+-
+kamu
+an
 )
-oleh
-yang
-saya
-dalam
+dapat
 (
-s
-lebih
 di
-4
-ada
-
--
-tidak
-anda
-8
-kami
 
+itu
 
-banyak
-juga
-di
-saat
-?
-s
-juga
-saya
-
+0
+,
+anda
+4
+hal
+-
 
-ini
-dan
+ada
 orang
-5
-1
-tersebut
-untuk
-anda
-cara
-ini
-:
-9
-s
+dengan
+mereka
 beberapa
-atau
-judi
-menjadi
-harus
-atau
--
-ini
-?
-3
+mereka
+bisa
 2
-,
-akan
-:
-untuk
-di
 
-hal
-untuk
 
-bisa
-)
+atau
+:
+e
+jika
+nya
+tersebut
+0
 untuk
-oleh
-dengan
--
+sudah
+bisa
+satu
+saya
 0
-a
-juga
-jika
-baik
-
-a
-yang
-/
-e
-yang
-akan
-anda
+an
+s
+7
+5
+banyak
 i
+-
+pada
+saat
+menjadi
 0
-dan
-anda
-adalah
-dan
-juga
-
-anda
-i
-juga
-
-5
-oleh
-anda
-dan
-2
 memiliki
-baik
-beberapa
-ada
+a
+kita
 ini
-bahwa
-dapat
+indonesia
 8
-ke
-)
-anda
-i
-sangat
-dan
-tidak
-online
-
--
-
-yang
--
-tidak
-akan
 jika
-salah
-akan
-1
-9
-oleh
-ada
+untuk
 
-harus
+nya
+untuk
+seperti
+satu
+anda
+ini
+dalam
 saja
-,
-2
-cara
 adalah
-bahwa
-i
-ada
+5
+secara
+
 tidak
+4
+sangat
+e
+yang
+:
+jika
 nya
-lebih
-,
-kita
-5
 
-secara
-beberapa
-.
-situs
-di
-ke
-2
-.
-untuk
 dan
-memiliki
-5
+untuk
+pada
+bermain
+anda
 
-kamu
-t
 anda
+s
 0
+,
+situs
+
 untuk
-oleh
-2
-(
+
+cara
+menjadi
+kamu
+saat
+saja
+adalah
+dari
+nya
+e
+bisa
+banyak
 dengan
+itu
+satu
+dan
+tidak
+ke
 
-juga
+dari
 
-,
+di
+-
 tidak
-yang
-hal
-anda
-memiliki
-mereka
+adalah
+oleh
+.
+)
+nya
+kami
+t
+lebih
+
+harus
+permainan
+?
+bisa
+9
+pada
+)
+s
 i
-akan
 bahwa
-tersebut
-8
+bermain
+dapat
+,
 
-juga
--
+satu
+
+9
+hal
+,
+dengan
+adalah
+ada
+
+ada
+saya
+(
+,
+3
+dalam
+9
+:
+di
 anda
 judi
+oleh
+tidak
+bahwa
+tidak
 
+ke
 di
-pada
-.
-7
-
-
+,
+bisa
+yang
+sudah
+ini
 menjadi
-dari
-1
+(
+dapat
+(
+saat
+sudah
+satu
 
-?
+pada
 dengan
-bisa
-.
 untuk
-online
+cara
+
+dengan
+atau
+saya
+k
+tersebut
+
+memiliki
+akan
+hal
+
+hanya
+dan
 dalam
-salah
-juga
+.
+dapat
 4
-e
-satu
-sebagai
-sudah
-2
-kita
-anda
--
-yang
+lebih
+i
 pada
-dan
-1
-saja
-permainan
+e
+saya
 oleh
+hal
+/
+nya
+:
+ini
 orang
+yang
 k
-dapat
-0
-saya
+dan
+2
+.
+)
+an
+cara
 
-judi
-0
-tersebut
+juga
+mereka
+online
+
+dapat
+1
+bermain
 tidak
-oleh
+,
 dengan
-dalam
+ini
 
-anda
-bisa
-hanya
+1
+dapat
+?
+dalam
 untuk
-satu
-pada
-akan
-u
-tersebut
-
-0
-dan
+bermain
+oleh
+tidak
+:
+i
+nya
+ada
 yang
-dapat
+s
 
-dengan
-.
-juga
-satu
-1
+ini
+bahwa
+itu
+(
+dari
 yang
-saya
-
+kita
+.
 di
-an
-nya
-dengan
-0
-karena
-situs
+sebagai
 bisa
+kami
+2
+s
 ,
-3
-harus
-akan
+saya
+yang
 sebagai
+orang
+dalam
+bahwa
+an
+di
 hanya
-dan
-harus
 
--
-e
--
-sangat
-atau
-pada
-:
+0
+oleh
+2
+kamu
 i
-lain
-
-.
-?
+kami
+oleh
+judi
+dan
+kan
+cara
+6
 dari
-2
-akan
+karena
+secara
 ,
-jika
-s
+lebih
+atau
+itu
+saya
 dalam
-
 tidak
 bisa
-sudah
-/
-ke
-dari
+untuk
+bisa
 tidak
+adalah
+salah
+bermain
+semua
 
-,
+adalah
 
-akan
-ada
+situs
 
 u
-
-sebagai
+tidak
+sudah
 akan
-mereka
-ada
-orang
+satu
 juga
 
-.
-tersebut
-sudah
+bahwa
+orang
+jika
 
-lebih
-yang
+6
+dan
+di
+dan
+
+kita
+karena
 ,
-sebagai
-nya
-:
-kan
-.
+yang
 saya
-satu
-i
-satu
-tidak
-online
+"
+an
+an
+ke
 anda
 
-jika
-0
-secara
+dalam
+nya
+9
 akan
-7
-untuk
-judi
-dapat
--
-adalah
-adalah
-itu
-bahwa
-pemain
-5
-bermain
+mereka
+anda
+?
+beberapa
+nya
+memiliki
+dalam
+juga
+8
+indonesia
+?
+karena
 
+(
+anda
 )
-ini
-mereka
 
-/
-yang
+dapat
+untuk
+beberapa
+dengan
+dalam
+kami
+ke
+di
+oleh
+bisa
+atau
 
 membuat
-akan
-ada
-s
-
-
-1
 itu
-
-saja
-dengan
--
-)
-ada
-pada
-
-mereka
-"
+a
+banyak
+dapat
+memiliki
+kamu
 mereka
-ini
-sebagai
-1
-menjadi
-/
-ke
-,
 hal
+/
+dalam
+semua
+nya
+juga
+yang
+ada
+yang
+seperti
 
 i
 
-ke
+tidak
 untuk
-memiliki
-1
-2
-mereka
-hal
-e
-dalam
 banyak
-,
+cara
+1
+tidak
+4
+harus
+tidak
+s
+di
 2
-sudah
-orang
-anda
-dan
-nya
-.
+tersebut
+dengan
+salah
+0
+bisa
+
 ,
+di
 untuk
-untuk
-dalam
-satu
-dapat
-
+adalah
+memiliki
+online
+:
 tersebut
-akan
-saja
-cara
-ini
+itu
+dan
+situs
+(
 anda
-
-
-tersebut
-ini
-sudah
-tidak
-sebagai
-dalam
-4
-4
-memiliki
-e
-di
+,
 anda
+permainan
+2
 /
-dalam
-s
+dapat
+permainan
+adalah
+slot
+saya
+di
+8
+di
+-
+beberapa
+itu
+pada
 yang
-dengan
+1
 0
-.
-kan
-di
-akan
-.
+,
+9
+baik
+itu
+saya
 
-adalah
-karena
-:
-atau
-4
-adalah
-sudah
+tidak
+)
+(
+i
+situs
+tidak
+jika
 .
 untuk
 karena
-
-nya
-ini
-sudah
-dan
-kamu
-ini
-ada
-menggunakan
-cara
-s
-t
-lebih
-
-akan
-
 2
-dalam
-dan
-3
-.
-k
+bisa
+5
 sudah
-/
-s
-:
-judi
+di
+1
+-
+dapat
+maka
+saat
+ke
+sudah
+banyak
+bahwa
+(
+beberapa
 1
+seperti
+dan
 memiliki
-,
-menjadi
-dengan
+.
+hanya
+(
+kan
+dapat
+9
+di
+nya
+ke
+seperti
+mereka
+dari
 
-"
-permainan
-situs
-,
-6
+bisa
+s
+k
+u
+a
 
-cara
-ini
-untuk
+secara
+saat
+s
 0
+sangat
+.
 orang
-an
-"
--
+banyak
 )
-online
-
-hanya
-adalah
-dalam
-dan
-ini
-.
-4
-
-nya
-harus
+lebih
+bahwa
+6
 ,
-untuk
-dari
-dari
+itu
+di
+-
 .
+memiliki
+
+6
+menjadi
+bagi
+anda
+5
+akan
 
 
-tidak
-cara
-0
-mereka
 
-?
-dan
-dapat
-d
-mereka
+adalah
+dari
+nya
+5
+
+bermain
+oleh
+juga
+1
+sebagai
 
 
+satu
 di
+adalah
 di
-di
-dan
-harus
--
+seperti
+0
 i
+dan
 
-
-dari
-6
-akan
-nya
-"
+bisa
+pada
 secara
-hanya
-dan
-akan
+nya
 kita
-2
+bahwa
+judi
+untuk
+bisa
+kita
+dari
+dalam
 nya
-1
-hal
-8
-,
+hanya
+memiliki
+yang
+harus
+dari
+9
 seperti
-
-
-e
-ada
+lain
 ,
-maka
-online
-itu
-jika
+i
+(
 orang
-0
+
+situs
+tidak
 4
-untuk
+anda
 
 
-ini
-t
-nya
-orang
-3
-(
-/
+dengan
+dan
+2
 permainan
-yang
-lebih
+jika
+(
+an
+)
+,
+dapat
+dalam
+menjadi
+harus
+mereka
+"
+adalah
+dan
+5
+s
+-
+2
+secara
+adalah
+-
+2
+menjadi
+sebagai
+
+tersebut
+
+5
+2
 adalah
-3
-kami
-atau
-,
-dalam
-6
-kita
+yang
+baik
+di
+di
 pada
 dengan
-dari
-baik
-i
-0
-0
-kita
-judi
-
+"
+bisa
+kan
 4
-
-nya
-bermain
-pada
-yang
-7
-yang
-ini
-t
-0
-an
-
 a
-online
-beberapa
-(
-4
-)
+mereka
+t
+lebih
 dengan
 harus
-oleh
+harus
 
+"
+u
+situs
+
+online
+slot
 situs
-kami
 lebih
-harus
-yang
-.
-menjadi
-dapat
+2
+indonesia
+jika
+bahwa
 ini
-tidak
-dalam
-yang
-anda
-saya
-pada
-lebih
-di
-seperti
-0
-sebagai
 hal
-situs
 s
-8
-yang
+dapat
+untuk
+hal
+"
+situs
+?
 bahwa
-menjadi
+dapat
+"
 4
-untuk
--
-membuat
-
--
-banyak
-
-anda
-di
-)
-.
-adalah
-,
+situs
+bahwa
+ada
+baik
+dengan
+pada
 
-membuat
+2
+mereka
+a
+jika
+dengan
 ini
+,
+dalam
+nya
+,
+namun
+e
 untuk
-saja
-judi
+i
+kami
 di
-ini
+saya
+tidak
 dari
-harus
-hal
-adalah
-(
-
+-
+dapat
+online
 
+(
 2
-
-atau
+,
+pada
 ini
 ini
-sebagai
+(
 .
 
-anda
+ini
 
-4
-nya
-jika
-s
+e
+seperti
+mereka
+atau
 dan
-situs
-i
-
-saja
+/
+5
+orang
+jika
+banyak
+cara
+)
 .
--
-sangat
+dengan
+dengan
 .
-untuk
-kan
-akan
 harus
-saya
-.
-yang
 seperti
-ke
-k
+(
+yang
 dan
-)
-indonesia
-
-an
+atau
+akan
+di
+ke
 oleh
-memiliki
+
+permainan
+0
+satu
 di
-ini
+-
 tidak
-e
-ini
-saya
-5
-banyak
+"
+0
+hanya
+mereka
+lebih
 dalam
-kami
-oleh
-dan
-dan
-(
-pada
-7
-4
-yang
-dari
-memiliki
-.
+dengan
+bahwa
 untuk
-dan
-:
-dari
+di
 sebagai
-permainan
-adalah
+juga
+
+k
+seperti
+akan
+sudah
+.
+anda
+di
+satu
 bisa
-1
+hal
+adalah
+saya
+tidak
+nya
 2
-membuat
-ini
-u
-saja
-5
-beberapa
-d
-baik
-harus
-dengan
-9
-/
-s
-yang
+mereka
+2
+
+cara
+tersebut
+?
 anda
-nya
+harus
 dengan
-
+-
 an
-bisa
-(
-situs
-
-sangat
-
-cara
-mereka
-,
-tidak
-.
 ,
-nya
-secara
-oleh
-9
-itu
-saya
-kan
-i
-orang
-lebih
-/
 4
-satu
-mereka
+yang
+dengan
+jika
+0
 
-sangat
-online
+ada
+hanya
+i
 4
-atau
 
-bahwa
-bahwa
-dan
-pada
-adalah
-
-banyak
-/
-itu
-nya
+akan
 
+kan
+mereka
 yang
-permainan
-membuat
-4
-
-banyak
-pada
+bisa
 salah
 ,
-.
-9
-,
-dalam
-di
-dan
-satu
-beberapa
+online
+ke
+8
 yang
 adalah
+bahwa
+9
+menjadi
+permainan
+adalah
 k
-,
-)
+bisa
 (
-dalam
-dari
-seperti
-adalah
+kita
+
+memiliki
+s
+lain
 karena
+orang
+lebih
+"
+-
+adalah
+ke
+
+e
+secara
+memiliki
+lebih
+,
 yang
+5
+hanya
+)
+u
+mereka
+s
+(
+di
+beberapa
+an
+satu
+pada
 untuk
-bermain
-ada
-banyak
-karena
-
-8
-ini
+dan
+beberapa
+/
+memiliki
+seperti
+t
+,
 online
+jika
+akan
+nya
+6
+atau
+maka
+)
+/
+kita
 i
+karena
+.
+maka
+orang
+indonesia
+online
+dapat
 
 
 di
 
-/
-satu
-orang
-k
+t
+d
+d
+t
 untuk
 
-
-menggunakan
-ini
-,
-akan
-ke
-jika
-di
-karena
+situs
+beberapa
+besar
+/
+tidak
+d
+.
+baik
+online
 3
-i
-banyak
+online
+ke
 
-(
-cara
-kita
-1
-akan
-pada
-)
-s
+mereka
+8
+mereka
 dari
+dalam
+membuat
 5
-kami
+indonesia
+nya
+atau
+2
+bisa
 .
-cara
-satu
-oleh
+orang
+mereka
 nya
-kami
-saat
-dalam
-0
-ke
+untuk
+sudah
+bisa
+bermain
+lebih
 :
 dengan
-e
-lebih
-adalah
-banyak
-tersebut
-,
-di
-sebagai
-sebagai
-atau
+9
 
-lain
-akan
+membuat
+indonesia
+kita
+(
+2
+/
+sangat
+i
+yang
+bisnis
+adalah
 
 ,
-0
-8
-bisa
-di
+situs
+menjadi
+akan
 di
-d
-indonesia
-kan
-ke
-jika
-a
+untuk
+dan
+"
+
+beberapa
+3
+1
 .
-kita
-ada
+3
+bisa
+(
+kamu
+3
 ke
-an
-satu
-banyak
 s
-tidak
-u
+adalah
+akan
 2
+yang
+di
 anda
-dan
-mereka
-.
-adalah
-hanya
-"
-
-
-hal
+5
+pada
+permainan
+kita
+,
+sangat
+juga
 3
 pada
-bermain
-maka
-orang
-an
-
-2
-7
-i
-yang
-memiliki
+poker
+pada
 :
-yang
+a
+ada
+sebagai
+atau
+adalah
+sudah
+:
+menjadi
+untuk
 
 .
+ini
 di
-di
-memiliki
-online
-(
-?
-anda
-kan
-dalam
-anda
 4
-2
-saya
-
-satu
-ada
-kita
-online
+menjadi
 0
-9
+an
+untuk
+tidak
+pada
+-
+sebagai
+nya
+sudah
 
-1
-oleh
-situs
+saat
 ke
+cara
+ada
+-
+membuat
+
+bisa
+0
+yang
+lebih
 ,
-4
+.
 -
 untuk
-bisa
-dalam
-dari
-bahwa
+tidak
 menjadi
-memiliki
+dari
+judi
+satu
+"
+ke
+9
 lebih
-tersebut
-dalam
-ada
+pada
 
-banyak
-.
-dalam
-.
-7
-di
-saat
+dapat
+yang
+adalah
+dan
+
+online
+juga
 ini
-8
-beberapa
-tidak
+oleh
+an
+nya
 ,
-memiliki
-
-tersebut
-
-5
-untuk
-banyak
-.
+jika
+dan
+karena
 
-dalam
-saat
+jika
+anda
+,
 .
-8
-akan
 
-ke
-karena
-cara
+nya
 sudah
+.
+secara
+adalah
+bisa
+mereka
+banyak
+s
+harus
 
-juga
-di
-di
+5
+-
 anda
+pada
+sangat
+3
+d
+dengan
 )
-itu
+akan
 a
-saat
-i
-tidak
-,
-saat
-dan
-orang
-dengan
-dari
+e
+2
+lebih
+0
+adalah
 ini
+/
+mereka
 adalah
-memiliki
+oleh
+s
+untuk
+adalah
+bisa
 adalah
-saat
-i
-dan
-itu
-nya
-/
 
 untuk
-"
-dan
-untuk
-
-mereka
+3
+cara
+anda
+9
+hal
 t
 ini
-seperti
-baik
+satu
+:
 dan
 2
-8
+t
 .
-0
+dari
 ini
-0
-hanya
+2
+pada
 untuk
-6
-3
+bisa
+dengan
 ini
 
-menjadi
-3
-atau
-s
-
-lebih
-5
-akan
-di
-situs
 )
+t
+bisa
+online
+menggunakan
+online
+3
+tidak
+dengan
+sangat
+lebih
 dan
-bahwa
-a
-0
-5
-,
-sudah
-i
-itu
-kami
-2
-.
-memiliki
-ke
-dalam
-satu
-dan
-online
-yang
-
+kamu
+kan
+dari
 menjadi
-
+,
+memiliki
+membuat
+s
+0
 tidak
-baik
+.
+(
+di
+dapat
+dapat
+dan
+i
+di
 
-seperti
-e
+ada
 
-k
-3
+dengan
+dalam
 
-di
-banyak
-5
+orang
+dengan
+u
+orang
+dapat
 
-salah
--
-,
-dari
-dan
-harus
 bahwa
-1
-dari
-tahun
-dan
-i
+permainan
+pada
+
+permainan
 0
-4
-7
-secara
-seperti
-di
-atau
 ,
-tersebut
-tersebut
-atau
-kita
+nya
+yang
+t
 7
-saat
-hanya
-e
+1
 tidak
+8
+dan
+hanya
+0
+0
 permainan
+permainan
+adalah
+di
+banyak
+4
+kita
+(
+juga
 ini
-dari
-online
-
+banyak
+s
+mereka
+memiliki
+tidak
+9
+harus
+juga
+ada
+situs
 yang
 1
-hanya
+bahwa
 dari
-saya
-9
-pada
+seperti
+kami
+dalam
 .
-tersebut
-dari
-cara
+:
+bisa
+/
 yang
-dapat
+cara
+s
+anda
+2
+atau
 karena
+anda
 dengan
-2
-juga
-lebih
-di
-ini
-
-lain
+dan
+semua
 :
-
-saja
-membuat
-
-anda
-/
-kamu
+,
+kita
+seperti
+jika
+an
+an
+hal
 anda
 ini
 
-2
+dari
 menjadi
 
-,
-harus
 
-pada
-dalam
-jika
-permainan
+an
+i
+adalah
+nya
+karena
+maka
 dan
 dan
-ini
-bisa
 anda
+dalam
+
 dan
-jika
-0
-secara
-banyak
-memiliki
-1
+saat
+2
+kami
 3
+5
+0
+kami
 
-ke
-
-tidak
+3
+,
 
 
 
-bisa
+,
+tidak
+tidak
+lebih
 pada
-yang
+saat
+8
+tidak
+harus
 pada
+online
+9
+bisa
+dengan
+harus
+,
 )
-memiliki
-pada
-hanya
-1
+yang
+sangat
 s
-hal
-1
-0
-oleh
-dengan
-kita
-dan
-oleh
+(
+ini
 8
-karena
-0
-permainan
 .
-adalah
--
-dengan
-saat
+pada
+1
+anda
+saya
 ke
+di
 dan
-oleh
-bisa
+dalam
 .
-,
-yang
+harus
+atau
 di
+dan
+judi
+nya
 di
-memiliki
-2
-.
-memiliki
-untuk
-s
-"
+secara
+anda
+atau
+8
 di
+itu
 tidak
-nya
-.
-sangat
+
+bahwa
 untuk
-para
-adalah
-karena
-kita
-game
-sangat
+6
+atau
+online
+anda
+bisa
+an
+-
 -
-8
 3
-"
-harus
-i
-kan
+9
+salah
+dalam
+seperti
 dapat
-dengan
-4
-pada
-3
-
+ini
+u
+akan
+:
+"
 
-,
+situs
 
-kita
+harus
 dan
 ke
-saja
-bisa
-
+4
+kamu
 
+a
+,
 0
+atau
+permainan
+yang
 bisa
-juga
-6
-
--
-t
-juga
-di
+.
+saja
+anda
+anda
 anda
-untuk
 yang
-dari
+bisa
 untuk
+nya
 2
-anda
-)
+dapat
+telah
+karena
+nya
 dengan
-3
-tidak
-k
 2
-tersebut
--
+untuk
+beberapa
 ,
-dengan
+anda
 seperti
-menjadi
-lebih
+membuat
 karena
--
+anda
+situs
 
-karena
-maka
-atau
+sebagai
+namun
+mereka
 ini
-0
-ada
-t
-untuk
-adalah
-untuk
+sebagai
+(
 9
-cara
-banyak
-
-
+ini
+itu
+untuk
+judi
+judi
+)
+dapat
 dan
-i
-cara
+dan
+atau
+saya
 dengan
 "
-pada
-lebih
-akan
+atau
+an
+tidak
 .
-(
-besar
+jika
+mereka
 ,
-dalam
-sebagai
-anda
-2
+juga
+permainan
 dengan
-untuk
+1
+ini
+itu
 .
-/
-(
-dari
-saya
-memiliki
+seperti
+dengan
+0
+seperti
+itu
 
-lebih
-an
-memiliki
+5
+situs
 :
-untuk
-7
-jika
-9
-,
-dan
-i
+oleh
+di
+saat
+3
+dalam
+d
+di
+adalah
 .
 
-uang
-indonesia
-e
-dari
-6
-3
+banyak
+anda
+4
+maka
+maka
+mereka
 
-kamu
-tidak
-memiliki
-ada
-juga
-dan
+dari
+bisa
+kita
+dapat
+saat
+yang
+4
+saya
+bahwa
+lebih
+mereka
 menjadi
-9
-sudah
-ke
-harus
-jika
 dari
-ke
+online
+besar
+dalam
 di
-3
-,
 dan
-an
-adalah
-dalam
-bagi
-hal
-karena
+nya
+juga
+akan
+situs
+/
+,
+-
+:
 0
-saja
-dan
-indonesia
-orang
+akan
+,
 dan
-"
-k
-dapat
+hanya
+hal
+(
 a
 tidak
-beberapa
-saat
-oleh
-.
-5
-membuat
-
-nya
-7
-permainan
-dan
-indonesia
-kami
-dalam
-tidak
-1
-ke
 9
-situs
-
--
-itu
-(
-saat
-kita
-dapat
+saya
 online
-,
-yang
-akan
-0
-,
-2
-k
-dari
-baik
-banyak
-dari
-nya
+.
 (
+sebagai
+,
+2
 ?
 orang
+seperti
+.
+hal
 pada
-permainan
+pada
+2
+)
+kamu
+orang
+
+1
+adalah
+karena
+menjadi
+8
+karena
+banyak
+yang
+0
+online
 untuk
-seperti
+,
+akan
+-
 -
+kamu
+5
 sangat
+2
+situs
+
+bahwa
+itu
+an
+di
+/
+0
+e
 .
 dan
-satu
-dari
-menjadi
+memiliki
+2
+(
 5
-1
-dengan
-dan
-juga
-karena
-
-k
-ada
-hanya
-mereka
-seperti
-u
-bisa
-1
-)
-besar
-anda
-itu
-
-dalam
-sangat
+saya
+3
+untuk
+situs
 lebih
+kamu
+kan
+/
+saat
+baik
+sudah
 sebagai
-dan
-besar
+tidak
+2
+ke
+yang
+dengan
+orang
+
+adalah
 kamu
-di
-online
+saat
+sebagai
+untuk
 bermain
-
-yang
-"
+s
+dengan
+lebih
+k
+.
+di
+hanya
 akan
-3
+mereka
 
-)
-nya
+bahwa
+saja
 1
-3
+4
+karena
+4
+membuat
 itu
-nya
-0
-atau
-seperti
 sangat
-dengan
-3
-i
-permainan
-indonesia
-tersebut
-.
-?
+yang
+harus
+judi
+cara
+lain
+bisa
+cara
+9
 karena
-banyak
-untuk
+juga
+5
+nya
 
 dan
-(
-8
-dari
+lebih
+kan
+2
+t
+6
+untuk
+tidak
+akan
+)
+ada
 
-k
-mereka
+beberapa
+kami
+saya
+adalah
+saat
+akan
 2
-nya
 oleh
+saja
+(
+situs
 
-
-permainan
-tidak
-8
+slot
+di
 8
-sudah
-nya
--
-5
-)
-banyak
-bahwa
-
-karena
-dan
-satu
 untuk
 di
-baik
-ini
+2
+-
 
 anda
-bermain
-sangat
-4
-sudah
-sangat
-tidak
-orang
+6
+dan
+e
+(
+hal
+di
+memiliki
 
 0
-juga
-(
-orang
-1
+adalah
+?
+situs
+-
 s
-e
-harus
+adalah
+4
 s
+akan
+adalah
 anda
-dalam
+s
+bisa
+karena
+
+orang
+1
+ada
 dengan
+?
 itu
-0
-dengan
-.
-hal
-dan
+pada
+untuk
 i
-ini
-1
-itu
-sangat
-di
-t
-dalam
-kamu
-3
-banyak
-0
-ini
+seperti
+7
+mereka
+online
 beberapa
+anda
+dengan
+dapat
 juga
-banyak
-menjadi
+saat
 
-menjadi
-(
-membuat
-t
-sebagai
+sangat
+dapat
+dapat
+)
+seperti

predict_results.json

@@ -1,12 +1,12 @@
 {
     "predict_gen_len": 1.0,
-    "predict_loss": 2.277695417404175,
-    "predict_rouge1": 0.5138,
+    "predict_loss": 1.8085896968841553,
+    "predict_rouge1": 0.4798,
     "predict_rouge2": 0.0,
-    "predict_rougeL": 0.5115,
-    "predict_rougeLsum": 0.5119,
-    "predict_runtime": 814.3256,
+    "predict_rougeL": 0.4804,
+    "predict_rougeLsum": 0.48,
+    "predict_runtime": 2455.6432,
     "predict_samples": 3762,
-    "predict_samples_per_second": 4.62,
-    "predict_steps_per_second": 0.145
+    "predict_samples_per_second": 1.532,
+    "predict_steps_per_second": 0.048
 }

train_results.json

@@ -1,9 +1,9 @@
 {
     "epoch": 5.0,
-    "total_flos": 8.512744818393907e+16,
-    "train_loss": 2.9941017925371565,
-    "train_runtime": 5831.7853,
+    "total_flos": 5.530296634048512e+16,
+    "train_loss": 2.7770426797225336,
+    "train_runtime": 5662.7265,
     "train_samples": 14262,
-    "train_samples_per_second": 12.228,
-    "train_steps_per_second": 1.529
+    "train_samples_per_second": 12.593,
+    "train_steps_per_second": 0.788
 }

trainer_state.json

@@ -3,128 +3,128 @@
   "best_model_checkpoint": null,
   "epoch": 5.0,
   "eval_steps": 500,
-  "global_step": 8915,
+  "global_step": 4460,
   "is_hyper_param_search": false,
   "is_local_process_zero": true,
   "is_world_process_zero": true,
   "log_history": [
     {
       "epoch": 1.0,
-      "grad_norm": 1.616557002067566,
-      "learning_rate": 4e-05,
-      "loss": 3.5006,
-      "step": 1783
+      "grad_norm": 1.0061594247817993,
+      "learning_rate": 0.0008,
+      "loss": 3.3224,
+      "step": 892
     },
     {
       "epoch": 1.0,
       "eval_gen_len": 1.0,
-      "eval_loss": 2.5352871417999268,
-      "eval_rouge1": 0.571,
+      "eval_loss": 2.384333372116089,
+      "eval_rouge1": 0.6887,
       "eval_rouge2": 0.0,
-      "eval_rougeL": 0.5726,
-      "eval_rougeLsum": 0.5713,
-      "eval_runtime": 167.1974,
-      "eval_samples_per_second": 4.486,
-      "eval_steps_per_second": 0.144,
-      "step": 1783
+      "eval_rougeL": 0.6879,
+      "eval_rougeLsum": 0.6876,
+      "eval_runtime": 58.8999,
+      "eval_samples_per_second": 12.733,
+      "eval_steps_per_second": 0.407,
+      "step": 892
     },
     {
       "epoch": 2.0,
-      "grad_norm": 1.2016897201538086,
-      "learning_rate": 3e-05,
-      "loss": 2.9963,
-      "step": 3566
+      "grad_norm": 0.9041750431060791,
+      "learning_rate": 0.0006,
+      "loss": 2.913,
+      "step": 1784
     },
     {
       "epoch": 2.0,
       "eval_gen_len": 1.0,
-      "eval_loss": 2.3938610553741455,
-      "eval_rouge1": 0.4906,
+      "eval_loss": 2.155667781829834,
+      "eval_rouge1": 0.7307,
       "eval_rouge2": 0.0,
-      "eval_rougeL": 0.4911,
-      "eval_rougeLsum": 0.4909,
-      "eval_runtime": 166.4171,
-      "eval_samples_per_second": 4.507,
-      "eval_steps_per_second": 0.144,
-      "step": 3566
+      "eval_rougeL": 0.7301,
+      "eval_rougeLsum": 0.7315,
+      "eval_runtime": 52.5159,
+      "eval_samples_per_second": 14.281,
+      "eval_steps_per_second": 0.457,
+      "step": 1784
     },
     {
       "epoch": 3.0,
-      "grad_norm": 1.6185603141784668,
-      "learning_rate": 2e-05,
-      "loss": 2.8832,
-      "step": 5349
+      "grad_norm": 1.0807160139083862,
+      "learning_rate": 0.0004,
+      "loss": 2.7028,
+      "step": 2676
     },
     {
       "epoch": 3.0,
       "eval_gen_len": 1.0,
-      "eval_loss": 2.3137385845184326,
-      "eval_rouge1": 0.4144,
+      "eval_loss": 1.9775158166885376,
+      "eval_rouge1": 0.7149,
       "eval_rouge2": 0.0,
-      "eval_rougeL": 0.4158,
-      "eval_rougeLsum": 0.4144,
-      "eval_runtime": 166.4301,
-      "eval_samples_per_second": 4.506,
-      "eval_steps_per_second": 0.144,
-      "step": 5349
+      "eval_rougeL": 0.7155,
+      "eval_rougeLsum": 0.7105,
+      "eval_runtime": 53.7344,
+      "eval_samples_per_second": 13.958,
+      "eval_steps_per_second": 0.447,
+      "step": 2676
     },
     {
       "epoch": 4.0,
-      "grad_norm": 1.2302087545394897,
-      "learning_rate": 1e-05,
-      "loss": 2.8145,
-      "step": 7132
+      "grad_norm": 0.9261811971664429,
+      "learning_rate": 0.0002,
+      "loss": 2.5387,
+      "step": 3568
     },
     {
       "epoch": 4.0,
       "eval_gen_len": 1.0,
-      "eval_loss": 2.2872378826141357,
-      "eval_rouge1": 0.4356,
+      "eval_loss": 1.8682197332382202,
+      "eval_rouge1": 0.7337,
       "eval_rouge2": 0.0,
-      "eval_rougeL": 0.435,
-      "eval_rougeLsum": 0.4361,
-      "eval_runtime": 167.356,
-      "eval_samples_per_second": 4.481,
-      "eval_steps_per_second": 0.143,
-      "step": 7132
+      "eval_rougeL": 0.731,
+      "eval_rougeLsum": 0.7295,
+      "eval_runtime": 53.1542,
+      "eval_samples_per_second": 14.11,
+      "eval_steps_per_second": 0.452,
+      "step": 3568
     },
     {
       "epoch": 5.0,
-      "grad_norm": 1.441249966621399,
+      "grad_norm": 1.018937110900879,
       "learning_rate": 0.0,
-      "loss": 2.7759,
-      "step": 8915
+      "loss": 2.4084,
+      "step": 4460
     },
     {
       "epoch": 5.0,
       "eval_gen_len": 1.0,
-      "eval_loss": 2.2388505935668945,
-      "eval_rouge1": 0.4284,
+      "eval_loss": 1.780213713645935,
+      "eval_rouge1": 0.696,
       "eval_rouge2": 0.0,
-      "eval_rougeL": 0.431,
-      "eval_rougeLsum": 0.4286,
-      "eval_runtime": 167.1969,
-      "eval_samples_per_second": 4.486,
-      "eval_steps_per_second": 0.144,
-      "step": 8915
+      "eval_rougeL": 0.6965,
+      "eval_rougeLsum": 0.6913,
+      "eval_runtime": 51.9124,
+      "eval_samples_per_second": 14.447,
+      "eval_steps_per_second": 0.462,
+      "step": 4460
     },
     {
       "epoch": 5.0,
-      "step": 8915,
-      "total_flos": 8.512744818393907e+16,
-      "train_loss": 2.9941017925371565,
-      "train_runtime": 5831.7853,
-      "train_samples_per_second": 12.228,
-      "train_steps_per_second": 1.529
+      "step": 4460,
+      "total_flos": 5.530296634048512e+16,
+      "train_loss": 2.7770426797225336,
+      "train_runtime": 5662.7265,
+      "train_samples_per_second": 12.593,
+      "train_steps_per_second": 0.788
     }
   ],
   "logging_steps": 500,
-  "max_steps": 8915,
+  "max_steps": 4460,
   "num_input_tokens_seen": 0,
   "num_train_epochs": 5,
   "save_steps": 500,
-  "total_flos": 8.512744818393907e+16,
-  "train_batch_size": 8,
+  "total_flos": 5.530296634048512e+16,
+  "train_batch_size": 16,
   "trial_name": null,
   "trial_params": null
 }