Jelaskan Kontroversi dari AI Dungeon

Sekitar tahun 2020 sampai 2021, ada kontroversi yang merusak reputasi AI Dungeon. Para pemain mendapati akun mereka diblokir secara tiba-tiba karena mereka terdeteksi memainkan cerita yang bersifat NSFW. Sebenarnya AI Dungeon sudah memiliki sistem filter yang akan memblokir masukan yang bersifat NSFW dari pemain dan mencegah respon yang serupa datang dari AI. Filter ini bisa dimatikan untuk pemain yang lebih dari umur 18 tahun. Akan tetapi, filter ini cukup glitchy dan terkadang mendeteksi respon yang sebenarnya aman-aman saja sebagai respon NSFW. Namun filter ini tidak hanya bekerja apabila diaktifkan saja, karena walaupun sudah dinonaktifkan, filter di AI Dungeon akan tetap mendeteksi respon NSFW yang terlalu melewati batas, bahkan sampai memblokir akun pemain sepenuhnya. Pemain yang terlanjur diblokir tidak bisa membatalkan langganan premium. Sekilas untuk pemain yang bermain dengan SFW akan baik-baik saja, tapi ternyata masukan NSFW juga datang dari respon AI. Jadi, AI Dungeon membuat respon yang NSFW, tapi yang disalahkan adalah pemain.

Hal ini tentu saja memicu kemarahan dari komunitas AI Dungeon yang merasa tidak berbuat kesalahan tapi terkena blokir. Para pemain juga merasa privasi mereka dilanggar karena AI Dungeon melihat isi cerita mereka. Kontroversi ini, digabung dengan kemampuan AI yang buruk dalam bercerita sukses membuat rata-rata rating AI Dungeon di Google Play Store jatuh ke sekitar 2-3 bintang.

Seorang koder dengan julukan AuroraPurgatio menemukan bahwa model AI di AI Dungeon dilatih dari berbagai fiksi penggemar dan parodi yang diambil dari internet, kebanyakan berisikan konten-konten NSFW yang bahkan terkadang melewati batas. Jadi, AI di AI Dungeon dilatih dengan cerita yang tidak diperbolehkan oleh sistemnya sendiri.