หน่วยความจำระยะสั้นแบบยาว

หน่วยความจำระยะสั้นแบบยาว (long short-term memory, LSTM) เป็นสถาปัตยกรรมโครงข่ายประสาทแบบเวียนซ้ำ (RNN) ที่ใช้ในสาขา การเรียนรู้เชิงลึก LSTM ต่างจากโครงข่ายประสาทเทียมแบบป้อนไปข้างหน้าแบบมาตรฐานตรงที่ LSTM มีจุดเชื่อมต่อป้อนกลับที่ทำให้เป็น "ตัวคำนวณเอนกประสงค์'' (กล่าวคือสามารถคำนวณอะไรก็ได้ที่เครื่องทัวริงสามารถคำนวณได้) LSTM สามารถประมวลผลได้ไม่เพียงแต่จุดข้อมูลเดียว (เช่น รูปภาพ) แต่ยังรวมถึงแถวลำดับข้อมูลทั้งหมด (เช่น เสียงพูดหรือวิดีโอ) ตัวอย่างเช่น LSTM สามารถนำไปใช้กับงานต่าง ๆ อย่างการรู้จำลายมือเขียนที่เชื่อมต่อแบบไม่แบ่งส่วน และ การรู้จำคำพูด นิตยสาร Bloomberg Businessweek ได้เขียนไว้ว่า "ความสามารถนี้ทำให้ LSTM เป็นความสำเร็จด้านปัญญาประดิษฐ์ที่มีในเชิงพาณิชย์มากที่สุด ซึ่งใช้สำหรับทุกอย่างตั้งแต่การทำนายโรคไปจนถึงการแต่งเพลง"

หน่วย LSTM โดยทั่วไปประกอบขึ้นจากเซลล์ที่ประกอบไปด้วย ประตูป้อนเข้า (input gate), ประตูขาออก (output gate) และ ประตูลืมเลือน (forget gate) ตัวเซลล์จะเก็บค่าตามช่วงเวลาที่กำหนดโดยประตูทั้ง 3 ช่องจะควบคุมการไหลของข้อมูลเข้าและออกจากเซลล์จัดเก็บข้อมูล

โครงข่าย LSTM เหมาะอย่างยิ่งสำหรับปัญหาการจำแนกเชิงสถิติ การประมวลข้อมูลอิเล็กทรอนิก และ การทำนาย ตามข้อมูลอนุกรมเวลา เนื่องจากโครงข่าย LSTM อาจส่งผลให้เกิดความแตกต่างตามช่วงเวลาที่ไม่ทราบระหว่างเหตุการณ์สำคัญในอนุกรมเวลา LSTM ได้รับการพัฒนาขึ้นมาเพื่อจัดการกับ ปัญหาความชันอันตรธานซึ่งอาจเกิดขึ้นเมื่อฝึก RNN แบบดั้งเดิม

LSTM อยู่ในกระแสหลักจนถึงช่วงทศวรรษ 2010 แต่ตั้งแต่ ปี 2017 เป็นต้นมาได้ถูกแทนที่ด้วยแบบจำลองที่มีประสิทธิภาพสูงกว่าที่เรียกว่า ทรานส์ฟอร์เมอร์

 อ้างอิง 

หมวดหมู่:โครงข่ายประสาทเทียม
หมวดหมู่:การเรียนรู้เชิงลึก