AI "เรียน" ตอนไหน แล้วเรียนยังไง
บทที่ 1 บอกว่าโมเดล "ถูกฝึกจากข้อความมหาศาล" แปลว่าอะไร?
บทที่ 3 เราเห็นว่าข้างในโมเดลคือตัวเลขนับพันล้านตัวที่เรียกว่า พารามิเตอร์ (parameter, weight)ตัวเลขในตารางต่างๆ ของโมเดลที่ถูกปรับระหว่างการฝึก ขนาดอย่าง "8B" หมายถึงมีพารามิเตอร์ราว 8 พันล้านตัวดูคำศัพท์ทั้งหมด ตอนเริ่มเป็นค่าสุ่ม การฝึกคือการปรับตัวเลขเหล่านี้จนเดาคำถัดไปได้แม่น
- ตอนฝึก (training) ก่อนเปิดให้ใช้ แบ่งเป็นหลายช่วง พารามิเตอร์เปลี่ยนเฉพาะตอนนี้ รุ่นใหม่คือการฝึกรอบใหม่
- ตอนใช้งาน (ในแชต) แค่อ่านพารามิเตอร์มาคำนวณ ไม่เปลี่ยนเลย
ช่วงแรกและใหญ่ที่สุดคือ การฝึกขั้นต้น (pre-training)ช่วงฝึกใหญ่ช่วงแรกที่โมเดลเรียนเดาคำถัดไปจากข้อความจำนวนมหาศาล ได้โมเดลที่เขียนต่อข้อความเก่ง แต่ยังไม่ใช่ผู้ช่วยที่ทำตามคำสั่งดูคำศัพท์ทั้งหมด ซึ่งมี เป้าหมายตอนฝึก (training objective)สิ่งที่โมเดลถูกฝึกให้ทำได้ดี สำหรับ LLM คือการเดาคำถัดไปให้แม่น ไม่ใช่การบอกความจริงดูคำศัพท์ทั้งหมด เดียวกับบทที่ 1: เดาคำถัดไป
AI "เรียน" ในช่วงฝึกก่อนเปิดให้ใช้ ด้วยการเดาคำถัดไปในข้อความจริงซ้ำๆ แล้วปรับพารามิเตอร์ทีละนิดทุกครั้งที่เดาพลาด
บทนี้ไล่ทีละขั้น: ข้อมูลและโจทย์ → loss → perplexity → gradient descent → backpropagation → scaling laws → วันตัดข้อมูล (คำตอบให้คุณนุ่น)
มังคุด
ถ้าตัวเลขข้างในไม่ขยับ แล้วทำไมในแชตเดิมมันแก้คำตอบได้ถูกล่ะ?