## Story Generator Bahasa Indonesia dengan Skip- Thoughts
Mustofa 1 *, Dhomas Hatta Fudholi 2 1,2 Program Studi Informatika, Program Magister, Universitas Islam Indonesia, Yogyakarta *email: 18917123@students.uii.ac.id

## Abstract
Currently, there are many studies that want computers to be able to imitate human creativity in  stringing  words  into  writing  like  a  writer.  This  study  aims  to  use  the  RNN  algorithm  to produce  automatic  story  writing in  Indonesian.  The  main  contribution in  this research is the creation  and  evaluation  of  the  RNN  algorithm  based  on  the  skip-thoughts  model  using  an Indonesian  language  dataset.  The  skip-thoughts  model  consists  of  an  encoder  in  the  form  of single GRU layer with 500 hidden units, and two decoders with single GRU layer each with 500 hidden  units.  The  function  of  the  encoder  is  to  do  the  word  mapping  process  from  the  input sentence, while the decoder predicts the sentence before (previous decoder) and  the sentence after (next decoder) from the input sentence. The dataset used in the model training is in the form of stories in Indonesian with the genres of folklore and short stories. The model training process is run in 100 epochs, using the ADAM optimizer to get the optimal model. Based on the results of the assessment of respondents who have a background as writers, the folklore model shows a fairly good rating (average score of 65) for the S-P-O-K criteria, and a low rating for criteria of linkage between sentences (average score of 38) and the context of the whole story (average score of 32). The short story of life model shows a good rating (average score of 73) for the S-P-O-K criteria, and a low rating for the linkage between sentences criteria (average score of 48), and the context of the whole story (average score of 42). Based on the results of the assessment, the skip-thoughts model used in the Indonesian story generator has worked  well, but it can still be improved by increasing the number of training datasets for each story genre used, as well as being more specific in determining the genre in order to obtain story integrity better.
Keywords : story generator, skip thoughts, automatic story
Abstrak
Saat  ini  banyak  penelitian  yang  berkeinginan  agar  komputer  mampu  meniru  kreativitas manusia  dalam  merangkai  kata  menjadi  tulisan  seperti  layaknya  seorang penulis.  Penelitian ini  bertujuan  menggunakan  algoritma  RNN  untuk  menghasilkan  penulisan  cerita  otomatis berbahasa  Indonesia.  Kontribusi  utama  dalam  penelitian  ini  adalah  pembuatan  dan  evaluasi algoritma  RNN  berbasis  model  skip-thoughts  dengan  menggunakan  dataset  berbahasa Indonesia. Model skip-thoughts terdiri dari sebuah encoder berupa satu layer GRU 500 hidden unit, dan dua buah decoder dengan masing-masing satu layer GRU 500 hidden unit. Encoder berfungsi  yang  melakukan  proses  pemetaan  kata  dari  kalimat  masukan,  sedangkan  decoder melakukan  prediksi  kalimat  sebelum  (previous  decoder)  dan  kalimat  sesudah  (next  decoder) dari  kalimat  masukan.  Dataset  yang  digunakan  dalam  pelatihan  model  berupa  cerita berbahasa  Indonesia  dengan  genre  cerita  rakyat  dan  cerita  pendek  kehidupan.  Proses pelatihan  model  dijalankan  dalam  50  epoch,  menggunakan ADAM  optimizer untuk mendapatkan model yang optimal. Berdasarkan hasil penilaian responden berlatar belakang sebagai  penulis,  kinerja  model  skip-thought  dalam  menghasilkan  cerita  berbahasa  Indonesia genre cerita rakyat menunjukkan penilaian cukup baik (rata-rata nilai 65) untuk kriteria S- P-O-K, dan penilaian kurang untuk kriteria keterkaitan antar kalimat (rata-rata nilai 38), dan konteks  keutuhan  cerita  (rata-rata  nilai  32).    Penilaian  hasil  cerita  genre  cerita  pendek kehidupan,  menunjukkan  nilai baik (rata-rata  nilai  73)  untuk  kriteria  S-P-O-K,  dan  nilai kurang untuk  kriteria  keterkaitan  antar  kalimat  (rata-rata  nilai  48),  dan  konteks keutuhan cerita  (rata-rata  nilai  42).  Berdasarkan  hasil  penilaian  tersebut,  model  skip-thoughts  yang
Volume 6 Nomor 2, September 2022, pp. 626-635 ISSN: 2548-9771/EISSN: 2549-7200 https://tunasbangsa.ac.id/ejurnal/index.php/jsakti
digunakan dalam story generator bahasa Indonesia sudah bekerja dengan baik, namun masih dapat  ditingkatkan  dengan  menambah  jumlah  dataset  pelatihan  dari  masing-masing  genre cerita  yang  digunakan,  serta  lebih  spesifik  lagi  dalam  penentuan  genre  agar  mendapatkan keutuhan cerita yang lebih baik.
Kata kunci: story generator, skip thoughts, penulisan cerita otomatis

## 1. PENDAHULUAN
Teknologi  kecerdasan  buatan  saat  ini  mencuri  banyak  perhatian  bagi para  peneliti.  Kesuksesan  perusahaan  seperti  Google  tidak  terlepas  dari peran  kecerdasan  buatan  yang  digunakannya.  Namun  teknologi  apa sebenarnya di balik kesuksesan teknologi kecerdasan buatan ini? Teknologi tersebut adalah Deep learning [1]. Deep learning pada  dasarnya merupakan sub bagian dari machine learning . Machine learning adalah sebuah program komputer  yang  mampu  belajar  dari  pengalaman,  sehingga  semakin  banyak pengalaman  yang  diberikan  kepada machine  learning akan  meningkatkan performanya  menjadi  semakin  baik.  Namun  dalam  prakteknya,  algoritma machine  learning tradisional  tidak  akan  membaik  secara  signifikan  ketika sudah  sampai  titik  tertentu,  sebanyak  apapun  data  yang  diberikan.  Untuk itulah deep  learning dibuat  untuk  menyelesaikan  masalah  performa  pada algoritma machine  learning tradisional  ketika  pertumbuhan  data  semakin membesar [2].
Kemampuan deep  learning yang  luar  biasa  adalah  dalam  memproses data  tidak  terstruktur  seperti  gambar,  teks,  suara  dan  video. Deep  learning secara umum memiliki 3 jenis arsitektur, yaitu : Multi-layer Perceptron (MLP) yang  cocok  untuk  memprediksi  data  dalam  format  tabel    [3], Convolutional Neural  Network (CNN)  untuk  pemrosesan  data  gambar    [4],  dan Recurrent Neural Network (RNN) untuk memproses deretan data atau data sekuensial [5]. Dalam  pengolahan  data  teks, deep  learning memiliki  peran  sangat besar.  Kesuksesan  mesin  pencari  Google  ( Google  Search  Engine ),  mesin penterjemah  ( Google  Translate ),  dan Google  Assistance adalah  contoh  nyata peran deep  learning dalam  mengolah  data  teks. Deep  learning juga  banyak digunakan untuk mengklasifikan kalimat, seperti mengenali artikel hoax atau bukan, kalimat berisi ujaran kebencian atau tidak dan lain sebagainya.   Saat ini  banyak  penelitian  yang  berkeinginan  agar  komputer  mampu  meniru kreativitas manusia dalam merangkai kata menjadi tulisan seperti layaknya seorang  penulis.  Teks  adalah  termasuk  data  sekuensial,  sehingga  algoritma RNN dapat digunakan untuk mewujudkan hal tersebut.
Algoritma  RNN  berbasis Long  Short  Term  Memory [6]  dan Gate Recurrent  Unit [7]  mampu  memetakan  kata  demi  kata  menjadi  sebuah kalimat.  Sedangkan skip-thoughts [8]  mampu  memprediksi  kalimat berikutnya dari suatu kalimat. Keunggulan Long Short Term Memory (LSTM), Gate  Recurrent  Unit (GRU)  dan skip-thoughts adalah  mampu  belajar  dari dataset yang besar tanpa mengurangi performa modelnya.
Berdasarkan  latar  belakang  tersebut,  penulis  melakukan  penelitian tentang pengembangan aplikasi untuk menulis cerita secara otomatis ( story
Volume 6 Nomor 2, September 2022, pp. 626-635 ISSN: 2548-9771/EISSN: 2549-7200 https://tunasbangsa.ac.id/ejurnal/index.php/jsakti
generator )  berbahasa  Indonesia  berbasis  algoritma skip-thoughts yang belajar  dari  dataset  cerita  dengan  genre  cerita  rakyat  dan  cerita  pendek kehidupan. Kedua genre tersebut dipilih, karena genre tersebut paling umum dikenal  oleh  masyarakat,  dan  banyak  ditulis  oleh  para  penulis  cerita. Kontribusi utama dalam penelitian ini adalah pembuatan dan evaluasi model skip-thoughts dengan  menggunakan  dataset  berbahasa  Indonesia.  Sintaks dan  susunan  kata  dalam  bahasa  Indonesia  berbeda  dari  model  berbasis bahasa Inggris yang ada saat ini.

## 2. METODE PENELITIAN
Penelitian ini menggunakan beberapa tahapan proses yang terdiri dari pengumpulan  data  teks  cerita  berbahasa  Indonesia, data  preprocessing , mendefinisikan model input , embedding sentence , membangun model encoder dan decoder ,  membangun loss  and  optimized  network ,  melakukan training model , dan terakhir adalah pengujian model pada aplikasi story generator .

## 2.1. Pengumpulan Data
Pengumpulan  data  dilakukan  dengan  melakukan  pencarian  teks-teks cerita pendek kehidupan dan cerita rakyat di internet melalui mesin pencari Google.  Sumber  data  sebagaimana  ditunjukkan  Tabel  1,  terdiri  dari  176 cerita  pendek  kehidupan  (35.897    kalimat)  dan  74  cerita  rakyat  (3.872 kalimat),  masing-masing  dijadikan  sumber  dataset  untuk  dijadikan  model dalam penelitian ini.
Tabel 1. Daftar URL Website Sumber Data Data URL Cerita pendek https://ilhamqmoehiddin.wordpress.com/ Cerita rakyat https://sekolahnesia.com/cerita-rakyat/

## 2.2. Data Preprocessing
Data  preprocessing merupakan  proses  menyiapkan  data  yang  sesuai untuk model yang digunakan. Data prepocessing yang dilakukan antara  lain menghilangkan spesial simbol, dan membagi isi data korpus ke dalam bentuk daftar  kalimat.  Setelah  pembuatan  daftar  kalimat,  selanjutnya  dilakukan proses menghilangkan kalimat yang tidak banyak memiliki arti, dan memiliki kemungkinan  pengulangan  yang  tinggi.  Proses  penghilangan  ini menggunakan rumus (1), dimana ( ) adalah nilai probabilty , t adalah nilai konstanta, dan f(w i ) adalah banyaknya kalimat yang berulang dibanding total kalimat  korpus.  Jika  nilai ( ) lebih  atau  sama  dengan threshold yang ditentukan, maka kalimat tersebut akan dihilangkan. Dalam percobaan, nilai t adalah 1x10 -5 , dan nilai threshold 0,5.
( )       √ ( ) (1)
Volume 6 Nomor 2, September 2022, pp. 626-635 ISSN: 2548-9771/EISSN: 2549-7200 https://tunasbangsa.ac.id/ejurnal/index.php/jsakti
Setelah  dilakukan  penghilangan noise kalimat-kalimat  yang  berulang dan tidak terlalu memiliki arti, daftar kalimat yang sudah bersih ini nantinya akan dikonversi dan dimasukkan ke dalam  suatu numeric vector .

## 2.3. Model Input
Skip-thoughts  vector membagi  modelnya  ke  dalam  dua  bagian  yaitu encoder dan decoder . Encoder akan melakukan pengkodean kalimat masukan dan  selanjutnya  akan  diteruskan  ke  bagian decoder . Decoder ini  akan memprediksi kalimat sebelumnya dan kalimat setelahnya dari setiap kalimat masukan.
Gambar  1  menunjukkan  proses  model skip-thoughts terhadap  kalimat masukan. Diberikan sebuah tupel (s i−1 ; s i ; s i+1 ) dari kalimat yang berdekatan, dengan s i adalah kalimat ke-i dari sebuah dataset, kalimat s i dikodekan dan mencoba  merekonstruksi  kalimat  sebelumnya  s i−1 dan  kalimat  berikutnya s i+1 .  Dalam  contoh,  kalimat  “ I  could  see  the  cat  on  the  steps”, direkonstruksi kalimat sebelumnya adalah “ I got back home ” dan kalimat sesudahnya adalah “ This was strange”.
Gambar 1. Skip-thoughts Model [8]

## 2.4. Sentence Embedding
Sentence  embedding adalah  proses  mengkonversi  masing-masing  kata dari kalimat ke dalam suatu numeric vector . Dalam proses ini setiap kata dari kalimat  masukan,  kalimat  sebelum,  dan  kalimat  setelahnya,  dikonversi  ke numeric dan  dimasukkan  ke  dalam  masing-masing vector  embedding . Numeric  vector yang  dibuat  berdasarkan  ide  dari skip-gram  vector . Perbedaannya  adalah skip-gram  vector berisi  pemetaan  kata  ke  dalam numeric vector , sedangkan dalam proses ini berisi pemetaan kalimat menjadi numeric vector [8].
2.5. Membangun Encoder dan Decoder Model Skip-thoughts Skip-thoughts menggunakan  model encoder-decoder . Encoder akan memetakan  kata-kata  menjadi  kalimat  dan decoder digunakan  untuk memprediksi  kalimat    sebelum  atau  sesudahnya  yang  sesuai. Encoder- decoder yang digunakan adalah RNN berbasis GRU sebagai encoder dan RNN berbasis  GRU  bersyarat  sebagai decoder .  Kombinasi  model encoder-decoder ini  mirip  seperti  yang  digunakan  dalam neural  machine  translation [9]. Penelitian skip-thoughts [8] menggunakan encoder-decoder GRU dikarenakan performansi  GRU  lebih  baik  dibanding  LSTM  dalam  proses  model  data sekuensial  [7].
Encoder : pengkodean kalimat s i
Decoder : memprediksi kalimat s i-1
Decoder : memprediksi kalimat s i+1
Volume 6 Nomor 2, September 2022, pp. 626-635 ISSN: 2548-9771/EISSN: 2549-7200 https://tunasbangsa.ac.id/ejurnal/index.php/jsakti
Cara kerja model skip-thoughts dijelaskan oleh Gambar 2. Encoder akan mengambil  kalimat  x(i)  dan  menghasilkan  representasi  z(i).  Proses  ini dilakukan  menggunakan  algoritama recurrent  network GRU  yang  akan mengambil  kata  dari  kalimat  secara  berurutan.  Selanjutnya  komponen previous decoder akan mengambil kata ( word embedding ) yang ada di z(i) dan mencoba  menghasilkan  kalimat  sebelumnya  x(i-1). Previous  decoder menggunakan  algoritma recurrent  network GRU  yang  akan  menghasilkan kalimat  secara  berurutan.  Komponen next  decoder akan  mengambil  kata ( word embedding )  dari z(i) dan mencoba menghasilkan kalimat selanjutnya x(i+1). Proses di next decoder juga menggunakan algoritma recurrent network GRU sebagaimana proses di previous decoder [10].
Gambar 2. Cara Kerja Skip-Thoughts [10]
Kata yang dimasukkan ke dalam decoder untuk setiap prosesnya adalah kata  dari  Z(i)  yang  berasal  dari encoder (warna  hijau)  dan  kata  aktual  dari kalimat  yang  dituju  (warna  biru)  yang  merupakan hidden  state dari  proses sebelumnya.  Keluaran decoder adalah  kata  yang  paling  mungkin.  Proses tersebut diilustrasikan oleh Gambar 3.
Gambar 3. Ilustrasi proses encoder - decoder di model skip-thoughts [10]
Encoder melakukan  pengkodean  kalimat  untuk  mendapatkan hidden state yang  terakhir.  Dalam  proses  ini  digunakan  satu  layer  proses  GRU dengan 500 hidden unit untuk melakukan proses encoder dari suatu kalimat masukan.  Selanjutnya  untuk  proses decoder ,  dibutuhkan  dua decoder yang terpisah  walaupun  menggunakan  kode  program  yang  sama.  Masing-masing decoder menggunakan  satu  layer  proses  GRU  dengan  500 hidden  unit ,  dan dilakukan proses klasifikasi menggunakan softmax activation.

## 2.6. Loss and Optimized Model
Sebagai  bagian  dalam  melakukan  optimisasi  algoritma,  kesalahan kondisi  model  yang  digunakan  harus  diperkirakan  berulang  kali.  Hal  ini membutuhkan  fungsi  kesalahan  atau  disebut  sebagai loss  function . Loss function dapat  digunakan  untuk  memperkirakan loss  model sehingga  bobot ( weight ) dapat diperbarui untuk mengurangi loss pada evaluasi berikutnya. Untuk  menghitung loss pada  model skip-thoughts digunakan Softmax  Cross Entropy ,    yang  akan  menghitung  nilai cross  entropy dari  keluaran softmax function.
Optimisasi  model  dibutuhkan  pada  proses  pelatihan  ( training )  agar didapatkan  model  yang  paling  optimal  berdasarkan  data  yang  dilatih.  Pada proses  optimisasi  model skip-thoughts digunakan  algoritma  optimisasi ADAM.  Nilai loss  function yang  dihasilkan  oleh softmax  cross  entropy digunakan  oleh  algoritma  optimisasi  ADAM,  untuk  mencari  model  yang paling optimal.

## 3. HASIL DAN PEMBAHASAN
Penelitian  ini  menggunakan  dua  jenis  sumber  data  cerita  berbahasa Indonesia  dengan  genre  cerita  rakyat  dan  cerita  pendek  kehidupan.  Cerita rakyat  yang  ditraining  terdiri  dari  3.872  kalimat  dan  cerita  pendek kehidupan terdiri dari 35.897 kalimat. Masing-masing genre ini dilatih secara terpisah, sehingga akan dihasilkan dua model skip-thoughts yang berbeda.
Pada  langkah  pertama pre-processin g  data  masukan  berupa  file-file yang  berisi  data  korpus  dipotong  per  kalimat  yang  dengan  menggunakan acuan  tanda  baca  seperti  “!”,  “?”,  ”:”,  ”;”,  dan  ”.”.  Setelah  terbentuk  daftar kalimat,  langkah  selanjutnya  dilakukan  proses cleansing untuk  kalimat- kalimat  yang  berulang,  serta  dibersihkan  dari  karakter-karakter  yang  tidak diperlukan akibat proses crawling . Model skip-thoughts menggunakan  tiga embedding  lookup  table yang terdiri  dari encode  embedding , decode-pre  embedding ,  dan decode-post embedding . Masing-masing lookup table diinisialisasi secara acak dengan nilai uniform distribution antara -0,1 dan 0,1 dengan ukuran 300 dimensi.
Pelatihan  model skip-thoughts dengan  dataset  genre  cerita  rakyat membutuhkan  waktu  45  menit,  dan  genre  cerita  pendek  kehidupan membutuhkan  waktu  145  menit.  Proses  pelatihan  model encoder dan decoder dijalankan  dalam  50 epoch ,  dan  pada  pelatihan decoder menggunakan ADAM optimizer untuk mendapatkan model yang optimal.
Contoh  hasil  penggunaan  model skip-thoughts dalam  menghasilkan cerita  berbahasa  Indonesia  untuk  genre  cerita  rakyat  dan  cerita  pendek kehidupan    dengan  memasukkan  kalimat  awal  “Dia  tersenyum  melihat  aku berjalan  mendekatinya ” dan  ukuran sample 15  kalimat  adalah  sebagai berikut:
a. Hasil genre cerita rakyat:
Dia  tersenyum  melihat  aku  berjalan  mendekatinya.  Ketika  melihat  warna memerah di timur kota, Sangkuriang mengira kalau hari sudah menjelang pagi.  Dengan  langkah  gontai  ia  pulang  ke  rumah.  Ia  mengira  kerbau  itu
akan  memakan  tanaman  sayuran  yang  berada  tidak  jauh  dari  tempat  itu sehingga  diusirlah  kerbau  itu.  Pada  saat  yang  sama,  penjajah  Belanda sedang  giat-giatnya  mengeruk  kekayaan  alam  bangsa  Indonesia  yang berpusat  di  Batavia.  Serunting  menuduh  Aria  Tebing  telah  menggunakan ilmunya  untuk  mengubah  cendawan  miliknya  menjadi  tumbuhan  ilalang. Dikabarkan,  la  mengubah  Bukit  Serut  yang  gundul  menjadi  hutan  kayu yang  rimbun.  Pada  suatu  hari,  si  Lancang  berangkat  ke  negeri  orang. Dikamarannya,  kita  janjim  dari  tidurnya,  ia  pun  langsung  pergi  ke  hutan. Merasa  dikeciharan  penduduk  desa  itu  tinggal  seorang  diri  karena suaminya sudah lama meninggal dunia. Seranjang hamba penggawal istana ke  Desa  Wajo.  Ia  mengambil  selendang  salah  satu  bidadari  dan menyembunyikannya  di  suatu  tempat.  Sifat  kurang  baik  adipati  ini terdengar  oleh  Sunan  Kalijaga,  seorang  wali  yang  arif  dan  bijaksana.  Aku tidak  mendengar  kapal  ayahanda.  Dan  supaya  berburu  ke  hutan  dengan serombongan pengawal. Ratu segera mengambil penduduk desa di pinggir danau sebuah keliap makanan yang dialamnas pertenunannya.
b. Hasil genre cerita pendek kehidupan: Dia  tersenyum  melihat  aku  berjalan  mendekatinya.  Sebelum  aku  meraih pergelangan  tangannya,  Yin  Ling  telah  terseret  ke  dalam  palung.  Sampai keburuh perabat terbangun dan marah. Dia langsung memandang mobilku, dan dengan senyum manis dia menghampiri kaca sebelah kiri yang memang sudah kubuka. Aku terkejut, entah dari siapa ia mengetahui bahwa aku dulu adalah seorang pemilik toko cokelat lukis. Sungguh aku kian menebar rasa benci pada senja yang penuh pikiran kusut seperti ini. Anak perempuan itu mendesah.  Sebetulnya  menyedihkan,  kataku.  Mama  tidak  setuju  aku menikahi Ratri. tanyaku. Aku tahu. Dan ia tetap tidak mau kalah. Dadaku sesak sekali. Ia kemudian menangis. Ia  pun segera berpikir tentang waktu yang  tepat  menebang  pohon  kapuk  randu  itu.  Ia  tidak  mungkin  sedang berperang diam-diam dengan Nomimi.
Implementasi  dalam  dunia  nyata  penggunaan  model skip-thoughts dalam menghasilkan cerita berbahasa Indonesia, dapat dilihat pada Gambar 4.
Gambar 4. Implementasi Story Generator menggunakan Model Skip-thoughts Untuk  menilai  keluaran  dari  model skip-thoughts, dilakukan  survey terhadap  lima  orang  responden  yang  menguasai  bidang  penulisan  bahasa
Volume 6 Nomor 2, September 2022, pp. 626-635 ISSN: 2548-9771/EISSN: 2549-7200 https://tunasbangsa.ac.id/ejurnal/index.php/jsakti
Indonesia.  Penilaian  0  sampai  <30    memiliki  makna kurang  sekali ,  30 sampai  <50  bermakna kurang ,  50  sampai  <70  bermakna cukup  baik ,  70 sampai  <90  bermakna baik ,  dan  90  sampai  100  bermakna baik  sekali , dengan  kriteria    penilaian  1)  S-P-O-K  (Subyek-Predikat-Obyek-Keterangan),
2) keterkaitan antar kalimat, dan 3) konteks keutuhan cerita.
Dari hasil penilaian lima orang responden tersebut kinerja model skip- thoughts dalam menghasilkan cerita berbahasa Indonesia genre cerita rakyat menunjukkan penilaian cukup baik (rata-rata nilai 65) untuk kriteria S-P-O- K,  dan  penilaian  masih kurang untuk  kriteria  keterkaitan  antar  kalimat (rata-rata  nilai  38)  dan  konteks  keutuhan  cerita  (rata-rata  nilai  32). Penilaian hasil cerita genre cerita pendek kehidupan, menunjukkan nilai baik (rata-rata  nilai  73)  untuk  kriteria  S-P-O-K,  dan  nilai  masih kurang untuk kriteria keterkaitan antar kalimat (rata-rata nilai 48), dan konteks keutuhan cerita  (rata-rata  nilai  42).  Detail  penilaian  masing-masing  responden ditunjukkan oleh Tabel 2 dan Tabel 3.
Tabel 2. Penilaian Kualitatif Hasil Keluaran Model Skip-Thoughts untuk
Genre Cerita Rakyat No Penilai S-P-O-K Keterkaitan antar kalimat Konteks keutuhan cerita 1 P1 60 45 30 2 P2 60 40 30 3 P3 65 40 30 4 P4 70 35 40 5 P5 70 30 30 Rata-rata 65 38 32
Tabel 3. Penilaian Kualitatif Hasil Keluaran Model Skip-Thoughts untuk
Genre Cerita Pendek Kehidupan No Penilai S-P-O-K Keterkaitan antar kalimat Konteks keutuhan cerita 1 P1 75 50 40 2 P2 70 50 45 3 P3 75 40 40 4 P4 70 50 40 5 P5 75 50 45 Rata-rata 73 48 42
Dari  hasil  penilaian,  menunjukkan  bahwa  model skip-thoughts sudah bekerja  dengan  baik  dalam  menghasilkan  kalimat  cerita  berbahasa Indonesia.  Namun  hasil  yang  masih  kurang  untuk  kriteria  keterkaitan kalimat dan konteks keutuhan cerita disebabkan karena jumlah dataset latih masing-masing  genre  yang  masih  kurang.  Hal  ini  berdasarkan  hasil  model genre  cerita  pendek  kehidupan  yang  menggunakan  dataset  lebih  banyak, mendapatkan nilai yang lebih baik dibanding model genre cerita rakyat yang lebih  sedikit  jumlah  datasetnya.  Keterbatasan  sumber  dataset  cerita berbahasa  Indonesia  yang  bebas  diunduh,  menjadi  salah  satu  faktor kurangnya  dataset  latih  yang  digunakan.  Namun  sebagai  tahap  awal
Volume 6 Nomor 2, September 2022, pp. 626-635 ISSN: 2548-9771/EISSN: 2549-7200 https://tunasbangsa.ac.id/ejurnal/index.php/jsakti
penelitian  terhadap  model skip-thoughts yang  menggunakan  dataset berbahasa Indonesia, dapat memberikan rasa optimis terhadap keberhasilan kinerja model dalam penulisan cerita otomatis berbahasa Indonesia.

## 4. SIMPULAN
Dari  eksperimen  yang  dilakukan  dalam  penelitian  ini  didapatkan beberapa  kesimpulan.  Pertama,  model skip-thoughts adalah  algoritma  yang mempelajari sentence vector yang tidak diawasi oleh manusia ( unsupervised ) karena tidak dilakukan pelabelan terhadap data latih terlebih dahulu. Kedua, skip-thoughts menggunakan    model encoder-decoder ,  dimana state awal (kalimat masukan) encoder harus menjadi state akhir  dari previous decoder
( decoder yang memprediksi kalimat sebelumnya). Sedangkan state akhir dari next  decoder ( decoder yang  memprediksi  kalimat  setelahnya)  digunakan sebagai  masukan  untuk  proses  latih  berikutnya,  dan  proses  ini  berulang seterusnya  sampai  proses  pelatihan  selesai.  Ketiga,  model  yang  dihasilkan adalah  bersifat  kontekstual,  yang  berarti  hasil  model  untuk  suatu  genre tertentu, hanya akan menghasilkan cerita untuk genre tersebut, tidak dapat digunakan untuk genre yang lain. Keempat, hasil keluaran dari penggunaan model skip-thoughts dalam  menghasilkan  suatu  cerita,  secara  rata-rata  dari penilaian  lima  orang  responden  untuk  genre cerita  rakyat menunjukkan nilai cukup baik di kriteria S-P-O-K, dan nilai kurang di kriteria keterkaitan antar kalimat dan konteks keutuhan cerita. Sedangkan genre cerita pendek kehidupan menunjukkan  nilai baik di  kriteria  S-P-O-K,  dan  nilai  masih kurang di  kriteria  keterkaitan  antar  kalimat  dan  konteks  keutuhan  cerita.
Kelima,  model skip-thoughts membutuhkan  jumlah  dataset  latih  yang  besar agar dapat meningkatkan hasil model terutama dalam hal keterkaitan antar kalimat dan konteks keutuhan cerita. Hal ini berdasarkan hasil perbandingan dari model untuk genre cerita pendek kehidupan dengan dataset latih 35.897 kalimat  mendapatkan  hasil  yang  lebih  baik  dibanding  dengan  genre  cerita rakyat yang menggunakan dataset latih 3.872 kalimat. Selain itu, hasil genre cerita rakyat cenderung kurang untuk nilai keutuhan cerita, juga disebabkan genre tersebut umumnya merupakan cerita yang sudah baku turun temurun sehingga  model  tidak  akan  mampu  untuk  memberikan  cerita  rakyat  secara utuh sesuai cerita aslinya.
Penelitian  ini  fokus  pada  percobaan  untuk  menghasilkan  model story generator berbahasa  Indonesia  genre  cerita  rakyat  dan  cerita  pendek kehidupan  menggunakan skip-thoughts .  Untuk  penelitian  berikutnya,  dapat dikembangkan untuk genre yang lainnya , serta menambah dataset latih agar mendapatkan model story generator yang lebih baik.

## DAFTAR PUSTAKA
[1]  N. G. Polson  and V.  O. Sokolov, “Deep  Learning,” International Series  in Operations  Research  and  Management  Science ,  Jul.  2018,  doi: 10.1007/978-3-319-68837-4_17.
Volume 6 Nomor 2, September 2022, pp. 626-635 ISSN: 2548-9771/EISSN: 2549-7200 https://tunasbangsa.ac.id/ejurnal/index.php/jsakti
[2]  J. Brownlee, “What is Deep Learning,” 2019. https://machinelearningmastery.com/what-is-deep-learning/ (accessed Jan. 10, 2020).
[3]  S. T. Ounpraseuth, “Gaussian Processes for Machine Learning,” J Am Stat Assoc , 2009, doi: 10.1198/jasa.2008.s219.
[4]  A.  Krizhevsky,  I.  Sutskever,  and  G.  E.  Hinton,  “ImageNet  classification with deep convolutional neural networks,” 2012.
[5]  A.  L.  Caterini  and  D.  E.  Chang,  “Recurrent  neural  networks,”  in SpringerBriefs  in  Computer  Science ,  2018.  doi:  10.1007/978-3-319- 75304-1_5.
[6]  S.  Hochreiter  and  J.  Schmidhuber,  “Long  Short-Term  Memory,” Neural Computation , 1997, doi: 10.1162/neco.1997.9.8.1735.
[7]  J.  Chung,  C.  Gulcehre,  K.  Cho,  and  Y.  Bengio,  “Empirical  evaluation  of gated recurrent neural networks on sequence modeling,” 2014.
[8]  R.  Kiros et  al. ,  “Skip-Thought  Vectors,” Advances  in  Neural  Information Processing
Systems , Jun. 2015, [Online]. Available:
http://arxiv.org/abs/1506.06726
[9]  K.  Cho et  al. ,  “Learning  phrase  representations  using  RNN  encoder- decoder for statistical machine translation,” 2014.
[10] S. Agarwal, “My Thoughts on Skip-Thoughts,” 2018. https://medium.com/@sanyamagarwal/my-thoughts-on-skip- thoughts-a3e773605efa