ประสาทหลอน (ปัญญาประดิษฐ์)

ในสาขาปัญญาประดิษฐ์ อาการประสาทหลอน (hallucination) หรือ การสร้างเรื่องจากความจำเสื่อม (confabulation) หรือ การหลงผิด (delusion) หมายถึงความเป็นเท็จที่สร้างขึ้นโดยปัญญาประดิษฐ์หรือการตอบสนองที่นำเสนอข้อมูลที่ทำให้เข้าใจ ว่าเป็นข้อเท็จจริง ตัวอย่างเช่น จักรกลสนทนาที่ขับเคลื่อนโดยแบบจำลองภาษาขนาดใหญ่ (LLM) เช่นแชตจีพีที สามารถสุ่มสร้างคำโกหกที่ฟังดูสมจริงภายในเนื้อหาที่สังเคราะห์ขึ้น นักวิจัยตระหนักถึงปัญหานี้ โดยประเมินว่าปรากฏการณ์การประสาทหลอนเช่นนี้เกิดขึ้นมากถึง 27% ของทั้งหมด และข้อผิดพลาดของข้อเท็จจริงปรากฏอยู่ใน 46% ของข้อความที่สร้างขึ้น การตรวจจับและบรรเทาอาการประสาทหลอนเหล่านี้ถือเป็นความท้าทายที่สำคัญต่อการยอมรับในทางปฏิบัติและความน่าเชื่อถือของแบบจำลองภาษาขนาดใหญ่ 

 อ้างอิง 

หมวดหมู่:ภาษาศาสตร์คอมพิวเตอร์
หมวดหมู่:การเรียนรู้แบบไม่มีผู้สอน
หมวดหมู่:การเรียนรู้ของเครื่อง
หมวดหมู่:การเรียนรู้เชิงลึก
หมวดหมู่:โครงข่ายประสาทเทียม
หมวดหมู่:การประมวลภาษาธรรมชาติ
หมวดหมู่:ปรัชญาปัญญาประดิษฐ์
หมวดหมู่:ปัญญาประดิษฐ์
หมวดหมู่:แบบจำลองภาษา
หมวดหมู่:ปัญญาประดิษฐ์แบบรู้สร้าง