การปรับละเอียด

การปรับละเอียด (fine-tuning) ในสาขาการเรียนรู้ของเครื่อง เป็นวิธีการเรียนรู้แบบถ่ายโอนแบบหนึ่ง ทำโดยฝึกพารามิเตอร์น้ำหนักของแบบจำลองที่ได้รับการฝึกล่วงหน้าแล้วโดยใช้ข้อมูลใหม่ การปรับละเอียดสำหรับโครงข่ายประสาทเทียมอาจทำโดยปรับชั้นทั้งหมดหรือทำแค่เฉพาะบางชั้นเท่านั้นก็ได้ ในกรณีหลัง ชั้นที่ไม่ได้ทำการปรับละเอียดจะถูกหยุดให้พารามิเตอร์คงที่ ไม่ได้เปลี่ยนแปลงไปในระหว่างกระบวนการการแพร่กระจายย้อนกลับ

 ภาพรวม 
ในสถาปัตยกรรมเช่นโครงข่ายประสาทแบบสังวัตนาการ โดยปกติมักจะทำโดยคงชั้นที่ใกล้กับชั้นป้อนเข้าเอาไว้ไม่ให้เปลี่ยนแปลงไปในการฝึกใหม่ เพื่อทำการวิเคราะห์และแยกสกัดเอาค่าแทนลักษณะที่สำคัญของรูปภาพโดยทั่วไป ในขณะที่ชั้นที่ลึกใกล้ชั้นขาออกจะได้รับการปรับค่าพารามิเตอร์น้ำหนักขณะที่ทำการฝึกใหม่

การปรับละเอียดเป็นวิธีการทั่วไปที่ใช้ใน การประมวลภาษาธรรมชาติ โดยเฉพาะในการสร้างแบบจำลองภาษา ตัวอย่างเช่น สำหรับในแบบจำลองภาษาขนาดใหญ่ เช่น GPT-2 ของ OpenAI การปรับละเอียดสามารถทำให้ได้ผลลัพธ์ที่ดีกว่าแบบจำลองที่ได้รับการฝึกล่วงหน้าโดยทั่วไปจะได้ แบบจำลองที่ได้รับการฝึกล่วงหน้าโดยใช้คลังข้อความขนาดใหญ่ทั่วไปมักได้รับการปรับละเอียดโดยการนำพารามิเตอร์แบบจำลองกลับมาใช้ใหม่เป็นจุดเริ่มต้น และเพิ่มชั้นเฉพาะงานที่ได้รับการฝึกตั้งแต่เริ่มต้นใหม่ การปรับละเอียดโดยปรับตัวแบบจำลองทั้งหมดใหม่เลยก็เป็นเรื่องปกติและมักจะให้ผลลัพธ์ที่ดีกว่า แต่ต้องแลกมาด้วยความซับซ้อนในการคำนวณที่เพิ่มขึ้น  นอกจากนี้ การปรับละเอียดอย่างสมบูรณ์มีแนวโน้มที่จะเกิดการเรียนรู้เกิน ซึ่งอาจลดประสิทธิภาพของแบบจำลองเมื่อใช้กับข้อมูลอื่น ๆ นอกเหนือไปจากข้อมูลการฝึกที่ใช้ในการปรับละเอียด

โดยทั่วไปแล้วการปรับละเอียดจะใช้กับการเรียนรู้แบบมีผู้สอน แต่ก็มีเทคนิคที่ทำให้ใช้กับการเรียนรู้แบบกึ่งมีผู้สอนได้ด้วย นอกจากนี้ จักรกลสนทนาที่ใช้แบบจำลองภาษาขนาดใหญ่ที่ผ่านการปรับละเอียดอย่างแชตจีพีทีก็สามารถทำการเรียนรู้โดยข้อความจากมนุษย์คุยโต้ตอบด้วยได้

LoRA (Low-rank adaptation) ถือเป็นรูปแบบหนึ่งของการปรับละเอียด นอกจากจะใช้กับแบบจำลองภาษาแล้วยังได้รับการนำมาใช้กับแบบจำลองรูปภาพด้วย

 อ้างอิง 

หมวดหมู่:ปัญญาประดิษฐ์
หมวดหมู่:การเรียนรู้ของเครื่อง