จีพีทีเซโร

GPTZero เป็น ซอฟต์แวร์ตรวจจับปัญญาประดิษฐ์ ที่มีสำนักงานใหญ่อยู่ในนครนิวยอร์ก ซอฟต์แวร์นี้ถูกพัฒนาขึ้นเพื่อระบุข้อความที่สร้างขึ้นโดยปัญญาประดิษฐ์ เช่น ข้อความที่สร้างโดยแบบจำลองภาษาขนาดใหญ่

GPTZero ถูกพัฒนาโดย เอ็ดเวิร์ด เถียน นักศึกษาระดับปริญญาตรีจาก มหาวิทยาลัยพรินซ์ตัน และเปิดตัวออนไลน์ในเดือนมกราคม พ.ศ. 2566 เพื่อตอบสนองต่อความกังวลเกี่ยวกับการใช้เอไอในการคัดลอกผลงานทางวิชาการ GPTZero ได้ระดมทุนกว่า 3.5 ล้านดอลลาร์ในการระดมทุนสร้าง 
ในสัปดาห์แรกของการเปิดตัว GPTZero มีการใช้งานถึง 30,000 ครั้ง ซึ่งทำให้ระบบล่ม ต่อมาได้รับการสนับสนุนจากบริษัทเว็บแอป Streamlit ซึ่งได้จัดสรรทรัพยากรเซิร์ฟเวอร์เพิ่มขึ้นเพื่อตอบสนองต่อเหตุการณ์นี้

กลไก  
GPTZero ใช้คุณสมบัติที่เรียกว่า perplexity และ burstiness เพื่อพยายามระบุว่าข้อความถูกเขียนโดย AI หรือไม่ ตามที่บริษัทกล่าว perplexity คือความสุ่มของข้อความในประโยค และการที่ประโยคนั้นถูกสร้างขึ้นมาอย่างผิดปกติหรือ "น่าประหลาดใจ" สำหรับแอปพลิเคชัน มันอาศัยแบบจำลองภาษา และยิ่งมีแบบจำลองภาษาเหล่านี้มากเท่าใด โอกาสที่ข้อความนั้นจะไม่ถูกเขียนโดยมนุษย์ก็ยิ่งสูงขึ้น ในทางตรงกันข้าม burstiness จะเปรียบเทียบประโยคกับกันและกัน เพื่อกำหนดความคล้ายคลึงกัน ข้อความที่เขียนโดยมนุษย์ มักจะมีความไม่ต่อเนื่องมากกว่า ซึ่งหมายความว่ามนุษย์มักจะเขียนด้วยความหลากหลายของประโยคมากกว่าปัญญาประดิษฐ์

เว็บไซต์ข่าว Ars Technica แสดงความคิดเห็นว่ามนุษย์ยังคงสามารถเขียนประโยคในแบบที่มีระเบียบเรียบร้อยมาก ซึ่งอาจทำให้เกิดผลบวกเท็จขึ้น ผู้เขียน เบนจ์ เอ็ดเวิร์ดส์ กล่าวไปว่าคะแนน perplexity เฉพาะกับสิ่งที่ "น่าประหลาดใจ" สำหรับ เอไอ นั้นอาจทำให้ข้อความที่เป็นที่รู้จักมาก เช่น รัฐธรรมนูญของสหรัฐฯ ถูกติดป้ายว่าเป็นข้อความที่สร้างโดย เอไอ

ในปลายปี พ.ศ. 2566 ทีมงาน GPTZero จำลองการศึกษาที่มีต้นกำเนิดจากมหาวิทยาลัยสแตนฟอร์ด ซึ่งพวกเขาสามารถแสดงให้เห็นได้อย่างแน่ชัดว่าวิธีการตรวจจับที่ได้รับการปรับปรุงในปัจจุบันของ GPTZero ไม่มีอคติในการจำแนกประเภทกับข้อความที่เขียนด้วย ESL

 การใช้งานและประยุกต์ใช้ 
ชุมชนวิชาการพยายามใช้ GPTZero เพื่อแก้ไขปัญหาเกี่ยวกับเนื้อหาที่สร้างโดย เอไอ สำหรับกรณีการลอกเลียนวรรณกรรม สถาบันการศึกษารวมถึง มหาวิทยาลัยพรินซ์ตัน ได้ร่วมกันพูดถึงการใช้ GPTZero เพื่อต่อต้านเนื้อหาที่สร้างโดย เอไอ ในสถานการณ์ทางวิชาการ โดยมีความคิดเห็นที่หลากหลาย ในตุลาคม พ.ศ. 2566 GPTZero ได้เป็นพันธมิตรกับสหภาพครูแห่งอเมริกา

 ประสิทธิภาพ 
ในเอกสารชื่อ "Can AI-Generated Text be Reliably Detected?" ในเดือนมีนาคม พ.ศ. 2566 นักวิทยาศาสตร์คอมพิวเตอร์ Vinu Sankar Sadasivan, Aounon Kumar, Sriram Balasubramanian, Wenxiao Wang, และ Soheil Feizi จากมหาวิทยาลัยแมรี่แลนด์ ได้ทำการพิสูจน์ทั้งทางทฤษฎีและทางปฏิบัติว่าตัวตรวจจับข้อความที่สร้างโดย เอไอ หลายตัวไม่ได้เป็นเช่นที่คาดไว้ในสถานการณ์ที่เป็นไปได้

เว็บไซต์เทคโนโลยี Futurism ได้ทดสอบเครื่องมือนี้ และกล่าวว่า "ผลลัพธ์น่าประทับใจ" อย่างไรก็ตาม จากอัตราความผิดพลาดของมัน ครูที่ใช้เครื่องมือนี้อาจจะต้องพึ่งพาไปถึง "การกล่าวหาผิดเกือบ 20 เปอร์เซ็นต์ของนักเรียนที่ไม่ได้กระทำผิดกฎระเบียบในการศึกษา"

หนังสือพิมพ์ เดอะวอชิงตันโพสต์ ได้ระบุว่า GPTZero มีปัญหาเกี่ยวกับการตรวจจับผลลัพธ์บวกเท็จ (false positives) โดยเน้นว่า "แม้แต่อัตราความผิดพลาดเบา ๆ ก็หมายความว่าบางนักเรียนอาจถูกกล่าวหาผิดโดยไม่เหมาะสมในการกระทำศาสตร์การศึกษา"

อ้างอิง

 แหล่งข้อมูลอื่น 


หมวดหมู่:ปัญญาประดิษฐ์
หมวดหมู่:ไซเบอร์เนติกส์
หมวดหมู่:ภาษาศาสตร์คอมพิวเตอร์
หมวดหมู่:การวัดผลและประเมินผลทางการศึกษา
หมวดหมู่:วิทยาศาสตร์รูปนัย