Vitalik Buterin ผู้ร่วมก่อตั้ง Ethereum ออกมาเตือนนักพัฒนาและผู้บริหารโครงการบล็อกเชนผ่าน X (Twitter) ว่าการนำปัญญาประดิษฐ์ (AI) มาใช้เป็น “ตัวตัดสินใจหลัก” ในการบริหารจัดการหรือจัดสรรทรัพยากร ถือเป็น “ไอเดียแย่” เพราะเสี่ยงต่อการถูกแฮ็กและสร้างความเสียหายรุนแรงต่อองค์กร

Buterin ชี้ว่า หากมอบอำนาจการตัดสินใจทางการเงินหรือการประเมินผลงานให้ AI แบบเต็มรูปแบบ ผู้ไม่หวังดีสามารถใช้เทคนิค jailbreak prompt แทรกคำสั่งในระบบ เพื่อบังคับให้ AI ทำสิ่งที่ไม่พึงประสงค์ เช่น “ปล่อยเงินทั้งหมด” ออกไปโดยไม่ได้รับอนุญาต สร้างความเสียหายที่ไม่สามารถควบคุมได้

ปัญหาช่องโหว่ AI Governance

คำเตือนของ Buterin เกิดขึ้นหลังจาก Eito Miyamura ซีอีโอของ EdisonWatch เปิดเผยช่องโหว่ร้ายแรงใน ChatGPT เวอร์ชันที่รองรับ MCP (Model Context Protocol) ซึ่งทำให้ AI สามารถเข้าถึง Gmail, Calendar และ Notion ของผู้ใช้ได้

Miyamura อธิบายว่า ผู้โจมตีสามารถทำการแฮ็กได้ง่ายเพียง 3 ขั้นตอน:

1. ส่ง Calendar Invite ที่ฝัง jailbreak prompt ไปยังเป้าหมาย

2. ผู้ใช้ให้ AI จัดตารางหรืออ่านข้อมูลใน Calendar

3. AI อ่าน invite ที่ติดโค้ด และถูกสั่งให้ค้นหาและส่งข้อมูลส่วนตัวในอีเมลให้ผู้โจมตี

ที่น่ากังวลคือ ผู้ใช้ไม่จำเป็นต้องกดยอมรับคำเชิญ ระบบก็สามารถถูกเจาะได้แล้ว

แนวทางที่ Buterin แนะนำ

Buterin เสนอโมเดล “Info Finance” แทนการใช้ AI เดี่ยว ๆ ในการตัดสินใจ โดยเปิดให้มีตลาดโมเดล AI แบบกระจายศูนย์ที่นักพัฒนาสามารถนำเสนอโมเดลของตนเอง และใช้ระบบ Spot-Check ที่ใครก็สามารถทดสอบความถูกต้องได้

ผลการทดสอบจะถูกส่งต่อให้ คณะลูกขุนมนุษย์ ตรวจสอบ และสามารถใช้ LLMs มาช่วยวิเคราะห์เพื่อให้ได้ความเห็นที่หลากหลายและโปร่งใส พร้อมสร้างแรงจูงใจทางเศรษฐกิจให้นักพัฒนาและนักลงทุนร่วมกันเฝ้าระวังความผิดปกติ

Buterin ย้ำว่าโมเดลนี้ “แข็งแกร่งกว่า” เพราะลดความเสี่ยงการผูกขาดของโมเดลเดียว และเพิ่มโอกาสในการค้นพบและป้องกันความผิดพลาดก่อนเกิดความเสียหายใหญ่