Keruntuhan model

**Keruntuhan model** merupakan suatu proses degeneratif yang terjadi pada sistem model generatif, di mana kualitas dan akurasi model menurun seiring dengan berjalannya beberapa siklus pelatihan. Fenomena ini muncul ketika data yang dihasilkan oleh model generatif digunakan kembali sebagai data pelatihan untuk generasi berikutnya, sehingga menyebabkan terjadinya kontaminasi data. Akibatnya, model yang dilatih dengan data tercemar tersebut mulai kehilangan kemampuan dalam merepresentasikan realitas secara tepat.

Keruntuhan model dapat terjadi dalam dua tahap, yaitu keruntuhan model awal dan keruntuhan model akhir. Pada tahap keruntuhan model awal, sistem mulai kehilangan kemampuan untuk merepresentasikan data dari bagian ekor distribusi. Sementara pada tahap keruntuhan model akhir, model semakin menyimpang dari distribusi aslinya karena berbagai pola data yang sebelumnya terpisah mulai saling bercampur. Akibatnya, model berakhir dengan distribusi baru yang hanya sedikit menyerupai distribusi asal dan cenderung memiliki keragaman atau varian yang sangat rendah.

## Mekanisme
Memakai data sintetis sebagai data latih dapat berdampak buruk pada kualitas dan keandalan model yang dihasilkan, bahkan berpotensi menyebabkan model tersebut runtuh. Hal ini utamanya disebabkan oleh tiga jenis kesalahan: 

# Aproksimasi fungsi yang keliru
# Pengambilan sampel yang tidak ideal
# Proses pembelajaran yang tidak sempurna.

Yang perlu digarisbawahi, masalah ini bisa muncul pada model sederhana sekalipun. Sementara pada model yang lebih kompleks, tumpang-tindihnya berbagai kesalahan tersebut justru membuat model lebih cepat runtuh.

## Ketidaksepakatan mengenai Dampak di Dunia Nyata

Sebagian peneliti dan pengamat memperingatkan bahwa keruntuhan model dapat menjadi ancaman fundamental bagi masa depan pengembangan AI generatif. Kekhawatiran ini berakar pada siklus yang mungkin terbentuk: karena data yang dihasilkan AI semakin banyak dibagikan di internet, data sintetis tersebut akan secara tidak terhindarkan terkumpul ke dalam dataset pelatihan untuk model generasi berikutnya, yang biasanya dikumpulkan secara otomatis dari web. Jika pelatihan yang bergantung pada data sintetis dalam skala besar ini memang pasti menyebabkan penurunan kualitas, maka komunitas AI mungkin akan menghadapi masalah yang sulit dipecahkan di masa depan.

Sementara itu, para peneliti lain baru-baru ini menyatakan pendapat yang berbeda. Mereka berargumen bahwa akumulasi data sintetis tidak serta-merta berakibat fatal, asalkan diimbangi dengan terus bertambahnya data asli yang dihasilkan manusia. Pandangan ini menyatakan bahwa akumulasi data dari waktu ke waktu justru memberikan gambaran realitas yang lebih lengkap dan realistis dibandingkan jika data lama terus-menerus dihapus. Oleh karena itu, dampak nyata dari keruntuhan model diperkirakan mungkin tidak separah skenario terburuk yang dikhawatirkan selama ini. 

Selain dua pandangan tersebut, muncul pendekatan alternatif yang berusaha mencegah masalah ini dari akarnya. Cabang penelitian ini berfokus pada pengembangan teknologi seperti *detektor* berbasis pembelajaran mesin dan *[[Tanda air|watermark]]* (tanda air) digital untuk dapat mengidentifikasi konten yang dihasilkan oleh AI. Tujuannya adalah untuk menciptakan alat yang dapat menyaring atau mengklasifikasikan data sintetis tersebut sebelum dimasukkan ke dalam dataset pelatihan, sehingga memutus siklus yang berpotensi merusak model.

## Dampak Pelatihan Iteratif pada Model Bahasa Besar
Dalam bidang kecerdasan buatan, keruntuhan model merujuk pada proses degeneratif di mana kualitas dan akurasi model generatif menurun melalui beberapa siklus pelatihan. Pada konteks Model Bahasa Besar (LLM), fenomena ini secara khusus teramati ketika model dilatih secara iteratif menggunakan data sintetis—yaitu teks yang dihasilkan oleh model pendahulu, bukan data asli dari manusia. 

Penelitian menunjukkan bahwa praktik pelatihan semacam ini menyebabkan degradasi yang konsisten dan dapat diukur pada keluaran model. Degradasi tersebut termanifestasi sebagai penyusutan signifikan dalam keragaman leksikal, sintaksis, dan semantik. Secara leksikal, kosakata model menjadi lebih terbatas dan kurang variatif. Secara sintaksis, variasi struktur kalimatnya berkurang, menyebabkan output yang lebih kaku. Secara semantik, jangkauan konsep dan nuansa makna yang dapat diekspresikan model menjadi semakin sempit. Dampak buruk ini paling kentara pada tugas-tugas yang menuntut kreativitas dan orisinalitas, seperti generasi puisi atau penjelajahan ide, di mana output model menjadi semakin bias, homogen, dan kehilangan kekayaan ekspresi bahasa asli.

## Referensi