Apa beberapa pendekatan untuk mencegah penyalahgunaan LLM?

Berikut adalah beberapa pendekatan untuk mencegah penyalahgunaan LLM: 1. mencegah pengguna mengirimkan pesan yang berisi frasa kasar (pengharaman kata kunci sederhana dapat berfungsi untuk ini). 2. mirip dengan poin pertama, mencegah LLM mengembalikan tanggapan yang berisi frasa kasar berdasarkan larangan kata kunci sederhana. 3. memberikan pengguna pilihan untuk upvote / downvote dan tanda tanggapan dari LLM untuk mengumpulkan umpan balik. Model klasifikasi tambahan dapat dilatih pada tanggapan yang ditandai sebagai tidak pantas dan kemudian digunakan untuk mengidentifikasi dan menyaring tanggapan bermasalah dari LLM di masa depan sebelum pengguna melihatnya.