บทที่ 5 · จากเครื่องเดาคำ สู่ผู้ช่วย หน้า 2/12 ~3 นาที

base model แค่ "ต่อข้อความ"

จำบทที่ 4 ได้ไหม? base model ถูกฝึกให้เดาว่าข้อความบนอินเทอร์เน็ตจะต่อด้วยอะไร

ประโยค "เขียนอีเมลเชิญประชุมทีม" มักโผล่ที่ไหนบนเว็บ? ในรายการงาน ใบงาน หรือกระทู้ถามตอบ สิ่งที่น่าจะตามมาจึงเป็นรายการข้อถัดไป ไม่ใช่ตัวอีเมล

ลองสลับ "สั่งตรงๆ" กับ "จัดฉากเป็นอีเมล" แล้วดูโอกาสของ "เรียน ทีมทุกคน"

คะแนนดิบ (logit) และโอกาสของคำถัดไป

แถบคือคะแนนดิบ (ติดลบได้) ตัวเลข % คือโอกาสหลัง softmax รวมกันได้ 100%

เขียนอีเมลเชิญประชุมทีม ___

  • ข้อ 2: สรุปรายงาน2.646.5%
  • ให้เสร็จวันนี้2.231.2%
  • มีตัวอย่างไหม1.617.1%
  • เรียน ทีมทุกคน0.45.2%

ติดลบ = ไม่ค่อยเข้ากับบริบท · เข้ากับบริบทมาก

ตารางตัวเลข: logit และโอกาส สำหรับ "เขียนอีเมลเชิญประชุมทีม ___"
คำlogitโอกาส
ข้อ 2: สรุปรายงาน2.646.5%
ให้เสร็จวันนี้2.231.2%
มีตัวอย่างไหม1.617.1%
เรียน ทีมทุกคน0.45.2%

เมื่อสั่งตรงๆ "เรียน ทีมทุกคน" ได้แค่ 5.2% ส่วน "ข้อ 2: สรุปรายงาน" ได้ถึง 46.5%

แต่พอจัดฉากให้ข้อความดูเหมือนหัวอีเมล "เรียน ทีมทุกคน" กระโดดขึ้นเป็น 90.1%

แปลว่า base model เขียนอีเมลเป็น แค่ไม่รู้ว่าคุณขอให้เขียน

ก่อนมีผู้ช่วยแชต คนใช้โมเดลด้วยการ "จัดฉากเอกสาร" แบบนี้ และมักใส่ตัวอย่างนำไว้ก่อน เรียกว่าการให้ตัวอย่างไม่กี่ชิ้น (few-shot)

base model ไม่ได้ "ทำตามคำสั่ง" มันต่อข้อความให้เหมือนเอกสารที่เคยเห็น คำสั่งที่หน้าตาเหมือนรายการงาน ก็จะได้รายการงานต่อ

มังคุด มาสคอตมังคุด

มังคุด

ถ้าจัดฉากดีๆ base model ก็เขียนได้ แล้วจะฝึกเพิ่มไปทำไมล่ะ?