Hallucination (AI มโน)
ปัญหาที่ AI มั่นใจในคำตอบที่ผิดๆ และวิธีลดความเสี่ยง
การรับมือกับ Hallucination
คำศัพท์ที่ต้องรู้: - Hallucination: อาการหลอนหรืออาการ "มโน" ของ AI ที่พ่นข้อมูลที่ไม่มีจริงแต่เขียนให้ดูน่าเชื่อถือมากๆ
Hallucination เหมือน "ลูกน้องขี้โม้ที่อยากเอาใจเจ้านาย" AI ถูกสร้างมาให้พยายามสร้างคำตอบ (Generate) ให้ดีที่สุด เมื่อมันไม่รู้ข้อมูลจริงๆ มันเลยไม่กล้าบอกว่า "ไม่รู้" แต่เลือกที่จะด้นสดและแต่งเรื่องขึ้นมาเองอย่างเป็นตุเป็นตะเพื่อให้คำตอบนั้นดูสมบูรณ์แบบ
วิธีแก้ไขที่มักจะออกสอบคือ การตั้งค่า Temperature ให้ต่ำลง หรือใช้เทคนิค RAG เพื่อบังคับให้มันตอบตามเอกสารอ้างอิงเท่านั้น
สรุป Key Takeaways
- Hallucination คือการที่ AI สร้างข้อมูลเท็จขึ้นมาอย่างแนบเนียนและมั่นใจ
- ลดได้โดยการใช้ RAG (แนบข้อมูลจริงไปให้), ปรับ Temperature ต่ำๆ
- ลดได้ด้วยการใช้ Prompt ให้บอกว่า "ถ้าไม่รู้ ให้ตอบว่าไม่รู้ ห้ามแต่งเรื่องเอง"
คำถามที่พบบ่อย
วิธีลด hallucination เรียงตามที่ข้อสอบชอบตอบ
(1) RAG — ให้โมเดลตอบจากเอกสารจริงพร้อมอ้างอิง (คำตอบยอดฮิต) (2) ลด temperature ให้ตอบนิ่งขึ้น (3) prompt ที่สั่งชัดว่า "ถ้าไม่รู้ให้บอกว่าไม่รู้" (4) human review สำหรับงานสำคัญ — จำไว้ว่าไม่มีวิธีไหนกำจัดได้ 100%
Hallucination อันตรายที่สุดกับ use case แบบไหน
งานที่คนเชื่อคำตอบโดยไม่ตรวจ: คำแนะนำทางการแพทย์/กฎหมาย/การเงิน, ข้อมูลอ้างอิงที่ต้องแม่น (ตัวเลข, ชื่อ, แหล่งอ้างอิง) — ข้อสอบ scenario จะให้เลือกว่างานไหนต้องมี guardrail/human review เข้มที่สุด
Temperature เกี่ยวกับ hallucination ยังไง
Temperature สูงเพิ่มความหลากหลายในการเลือกคำ ซึ่งเพิ่มโอกาสหลุดจากข้อเท็จจริง — งาน factual จึงควรใช้ temperature ต่ำ แต่อย่าสับสน: temperature ต่ำช่วยให้ "นิ่ง" ขึ้น ไม่ได้แปลว่า "ถูก" เสมอไป ความถูกต้องต้องมาจากบริบทที่ให้ (เช่น RAG)
ลองทำ Quiz ท้ายบท
คำถามแนวข้อสอบของโมดูลนี้ 2 ข้อ · เฉลยทันที