Live AI Wire

AI governance กลายเป็นสนามรบ: จากการจัดการ prompt ถึงการควบคุม agent ที่ไม่คาดเดา

บริษัทเทคโนโลยีและองค์กรต่างพบว่า AI ที่ไม่มีการควบคุมที่ดีกำลังสร้างความเสี่ยง ปัญหาหลักคือ prompt ยังไม่มีระบบบันทึกที่เป็นทางการ agent ทำงานแบบความน่าจะเป็นไม่ใช่ deterministic ทำให้ไม่สามารถรับประกันความปลอดภัยได้ แม้จะเขียน system prompt อย่างระมัดระวัง นักวิจัยเสนอให้ใช้ zero-knowledge proof เพื่อตรวจสอบการฝึก AI ที่ frontier level และต้องมีชั้นการจัดการที่อยู่เหนือ AI engineer ระดับเดิม