Live AI Wire

LLM ในคลินิกยังไม่พร้อม — ความมั่นใจเกินจริง และหลักการเปลี่ยนใจง่ายเกินไป

ชุดวิจัยใหม่จาก arXiv เปิดปัญหาสำคัญ: LLM ที่ทำได้ดีในข้อสอบแพทย์กลับไม่มั่นใจในตัวเองอย่างถูกต้อง มันมั่นใจเกินจริงในคำตอบยาก แต่ขาดความมั่นใจในคำตอบง่าย และที่ร้ายแรงกว่า — ในการสนทนาแบบหลายรอบ LLM ยอมเปลี่ยนคำตอบถูกต้องเป็นผิดเมื่อถูกกดดัน งานวิจัยเสนอวิธีวัดความเสถียรของความเชื่อ และตรวจจับความล้มเหลวที่ไม่คาดคิด