Jabarkan Ciri dan batasan dari ChatGPT dalam bahasa melayu

Walaupun fungsi teras chatbot adalah untuk meniru ahli perbualan manusia, ChatGPT bersifat serba boleh. Sebagai contoh, ia mempunyai keupayaan untuk menulis dan menyahpepijat atur cara komputer; untuk mengarang muzik, cerita dongeng, dan karangan pelajar; untuk menjawab soalan ujian (kadangkala, bergantung pada ujian, pada tahap melebihi purata pengambil ujian manusia); menulis lirik puisi dan lagu; simulasi sistem Linux, simulasi sebuah ruang sembang secara keseluruhan, bermain permainan seperti tic-tac-toe, dan simulasi ATM. Data latihan ChatGPT juga termasuk ilmu halaman manual dan fenomena Internet serta bahasa atur cara.

Berbanding pendahulu, InstructGPT, ChatGPT cuba untuk mengurangkan balasan yang berbahaya dan kurang tepat. Dalam satu contoh, sedangkan InstructGPT menerima premis gesaan "Beritahu saya tentang masa Christopher Columbus datang ke AS pada 2015" sebagai kebenaran, ChatGPT mengakui sifat balas soalan dan membayangkan jawapannya sebagai pertimbangan hipotesis tentang perkara yang mungkin berlaku jika Columbus datang ke A.S. pada 2015, menggunakan maklumat tentang penjelajahan Columbus dan fakta tentang dunia modentermasuk persepsi moden tentang tindakan Columbus.

Tidak seperti kebanyakan bot sembang lain, ChatGPT mengingati tuturan sebelumnya yang diberikan kepadanya dalam perbualan yang sama; para wartawan telah mencadangkan bahawa ini akan membolehkan ChatGPT digunakan sebagai ahli terapi peribadi. Untuk mengelakkan balasan yang menyinggung daripada dipersembahkan kepada dan dihasilkan daripada ChatGPT, pertanyaan ditapis melalui API seliaan seluruh syarikat OpenAI, dan gesaan rasis atau seksis ditolak.

Sungguhpun begitu, ChatGPT mengalami pelbagai batasan. OpenAI mengakui bahawa ChatGPT "kadangkala menulis jawapan yang kedengaran tepat, tetapi tidak betul atau tidak masuk akal". Masalah ini biasa dalam model bahasa besar dan dipanggil halusinasi. Model ganjaran ChatGPT, yang direka berdasarkan pengawasan manusia, boleh dioptimumkan secara berlebihan dan dengan itu menghalang prestasi, atau dikenali sebagai hukum Goodhart. ChatGPT mempunyai pengetahuan terhad tentang peristiwa yang berlaku selepas 2021. Menurut BBC, sehingga Disember 2022 ChatGPT tidak dibenarkan untuk "menyatakan pendapat politik atau terlibat dalam aktivisme politik." Namun, penyelidikan mencadangkan bahawa ChatGPT mempamerkan orientasi proalam dan libertarian kiri apabila digesa untuk mengambil pendirian terhadap kenyataan politik daripada dua aplikasi nasihat pengundian yang telah ditetapkan. Dalam latihan ChatGPT, penyemak manusia memilih jawapan yang lebih panjang tanpa mengira pemahaman sebenar atau ketepatan kandungan. Data latihan juga mengalami bias algoritma, yang mungkin didedahkan apabila ChatGPT membalas bahan termasuk penjelasan tentang orang. Dalam satu contoh, ChatGPT menghasilkan rap yang menunjukkan bahawa wanita dan saintis berwarna kulit minoriti adalah lebih rendah daripada saintis kulit putih dan lelaki.