LaMDA

LaMDA (ย่อมาจาก Language Model for Dialogue Applications) เป็นตระกูลแบบจำลองภาษาขนาดใหญ่ที่พัฒนาโดยกูเกิล

LaMDA รุ่นแรกได้รับการพัฒนาและประกาศในปี 2020 ในชื่อ Meena และได้ประกาศเปิดตัวที่งาน Google I/O ในปี 2021 และรุ่นที่สองได้ประกาศในปีถัดมา LaMDA ได้รับความสนใจอย่างกว้างขวางในเดือนมิถุนายน 2022 เมื่อ เบลก เลอมวน (Blake Lemoine) วิศวกรของกูเกิล อ้างว่า "จักรกลสนทนาเริ่มมีสติสัมปชัญญะแล้ว" ชุมชนวิทยาศาสตร์ส่วนใหญ่ปฏิเสธคำกล่าวอ้างของเลอมวนแต่นำไปสู่การอภิปรายเกี่ยวกับความถูกต้องของการทดสอบทัวริง ซึ่งกำหนดว่าคอมพิวเตอร์สามารถแสร้งเป็นมนุษย์ได้หรือไม่ ในเดือนกุมภาพันธ์ ปี 2023 กูเกิลได้ประกาศเปิดตัวบาร์ด ซึ่งเป็นจักรกลสนทนาที่ใช้ปัญญาประดิษฐ์ ซึ่งทำงานโดยใช้ LaMDA เพื่อมาแข่งตีตลาดกับแชตจีพีทีของ OpenAI

 ตัวแบบ 
LaMDA ใช้แบบจำลองภาษา ทรานส์ฟอร์เมอร์ ในส่วนของตัวถอดรหัส ได้รับการฝึกด้วยคลังข้อความทั้งหมดจำนวน 1.56 ล้านล้านคำ ซึ่งรวมทั้งเอกสารและบทสนทนา และได้รับการใส่คำอธิบายประกอบเพิ่มเติมในส่วนของ ความสมเหตุสมผล (sensibleness) ความน่าสนใจ (interestingness) และความปลอดภัย (safety) ได้มีการปรับแต่งอย่างละเอียดผ่านการฝึกอบรมเพิ่มเติมโดยใช้ข้อมูลการตอบสนอง การทดสอบของกูเกิลได้แสดงให้เห็นว่า LaMDA มีประสิทธิภาพเหนือกว่ามนุษย์ในด้านของความน่าสนใจ LaMDA ปรับปรุงความถูกต้องแม่นยำของข้อเท็จจริงที่มอบให้กับผู้ใช้โดยการโต้ตอบกับแบบจำลองทรานส์ฟอร์เมอร์และระบบค้นข้อมูลภายนอก

การทดสอบดำเนินการในแบบจำลองที่แตกต่างกัน 3 แบบ โดยรุ่นที่ใหญ่ที่สุดมีพารามิเตอร์ที่ไม่ฝังถึง 137 พันล้านตัว
+ไฮเปอร์พารามิเตอร์ของแบบจำลองทรานส์ฟอร์เมอร์ จำนวนพารามิเตอร์ จำนวนชั้น จำนวนหน่วย (dmodel) จำนวนหัว 2B 10 2560 40 8B 16 4096 64 137B 64 8192 128

 อ้างอิง 

หมวดหมู่:แบบจำลองภาษาขนาดใหญ่
หมวดหมู่:ปรัชญาปัญญาประดิษฐ์
หมวดหมู่:ซอฟต์แวร์ของกูเกิล
หมวดหมู่:จักรกลสนทนา