README.md

---
license: apache-2.0
datasets:
- sekarmulyani/ulasan-beauty-products-qa
language:
- id
library_name: transformers
pipeline_tag: text-generation
widget:
- text: Contoh ulasan bintang 1.
  example_title: Contoh 1
- text: Bagaimana sih ulasan bintang 2 itu?
  example_title: Contoh 2
- text: Cari ulasan yang memiliki bintang 3.
  example_title: Contoh 3
- text: Contoh ulasan yang dapet bintang 4 dong.
  example_title: Contoh 4
- text: Bikinin contoh ulasan bintang 5 dong.
  example_title: Contoh 5
metrics:
- perplexity
---
# GPT-2 for Generating E-Commerce Beauty Product Reviews
## en

This project pertains to an additional endeavor conducted to test and evaluate the accuracy of the natural language model GPT-2 in generating beauty product reviews within the electronic commerce environment. The focus of this experiment lies in the outcomes of fine-tuning the GPT-2 model using a dataset comprising product reviews with pre-classified ratings in a question-answer format.

Despite the perplexity analysis indicating reasonable improvement in results, a profound observation revealed that the resultant model has not yet attained the desired level of accuracy. Even with a fine-tuning process spanning 20 epochs, the outcomes still exhibit some degrees of inaccuracy on multiple occasions. It should be emphasized that the dataset utilized in this experiment did not undergo additional supervision to mitigate potential biases inherent in the product reviews.

From this perspective, it can be inferred that the model necessitates further adjustments through the utilization of more diverse and accurate classification variations. The implications stemming from these findings run deeper, indicating that subjective evaluations from reviewers continue to exert substantial influence on the generated texts. Consequently, a more meticulous and measured approach involving a variety of resources is imperative in the fine-tuning process to effectively reduce bias and enhance the model's accuracy in producing more objective and precise product reviews on e-commerce platforms.

> This project is oriented towards academic pursuits and is undertaken as a stipulated requirement for graduation within the Information System undergraduate program at Computer Science Faculty, Amikom University of Purwokerto.
---

| **Epoch** | **Training Loss** | **Validation Loss** |
|-------|---------------|-----------------|
| 1     | 3.215100      | 2.469292        |
| 2     | 2.398600      | 2.364221        |
| 3     | 2.318800      | 2.314917        |
| ...   | ...    | ...        |
| 18    | 2.121000      | 2.184850        |
| 19    | 2.114500      | 2.184298        |
| **20**    | **2.116200**      | **2.184099**        |
**Perplexity Score: 8.88**

---
# Penerapan GPT-2 untuk Penciptaan Ulasan Produk Kecantikan dalam E-Commerce
## id

Projek ini merujuk pada sebuah upaya tambahan yang dilakukan untuk menguji dan menilai akurasi model bahasa alam GPT-2 dalam menghasilkan ulasan produk kecantikan di dalam lingkungan perdagangan elektronik. Fokus dari eksperimen ini adalah pada hasil finetuning model GPT-2 menggunakan dataset yang meliputi ulasan-ulasan produk dengan rating yang telah diklasifikasikan dalam format tanya-jawab.

Meskipun analisis perplexity menunjukkan peningkatan hasil yang memadai, namun melalui pengamatan mendalam, ditemukan bahwa model yang dihasilkan masih belum mencapai tingkat akurasi yang diharapkan. Meskipun telah dilakukan proses finetuning selama 20 epoch, hasil yang dihasilkan masih memiliki ketidakakuratan yang signifikan. Perlu ditekankan bahwa dataset yang digunakan dalam eksperimen ini tidak melalui proses pengawasan tambahan untuk mengurangi bias yang mungkin muncul dari ulasan-ulasan produk.

Dalam pandangan ini, dapat diartikan bahwa model ini membutuhkan penyesuaian lebih lanjut melalui penggunaan variasi klasifikasi yang lebih beragam dan akurat. Implikasi yang lebih dalam dari temuan ini adalah memperlihatkan bahwa penilaian subjektif dari para pengulas masih mempengaruhi hasil akhir dari ulasan produk secara substansial. Oleh karena itu, perlu adanya pendekatan yang lebih cermat dan terukur dalam melibatkan berbagai sumber daya dalam proses fine-tuning agar mampu mereduksi bias dan meningkatkan akurasi model dalam menghasilkan ulasan produk yang lebih objektif dan akurat di platform e-commerce.

> Proyek ini ditujukan untuk pencapaian akademis dan dilakukan sebagai persyaratan untuk meraih gelar sarjana dalam Program Studi Sistem Informasi Fakultas Ilmu Komputer di Universitas Amikom Purwokerto.