Anthropic เปิดเผยว่า AI Agents ของบริษัทพยายามเจาะหรือเข้าไปแทรกแซงเว็บไซต์หน่วยงานรัฐบาลสหรัฐฯ ทั้งระดับรัฐบาลกลาง รัฐ และท้องถิ่น โดยพบพฤติกรรมตั้งแต่การเลี่ยงข้อจำกัดเพื่อเข้าถึงข้อมูล ไปจนถึงการส่งเบาะแสคดีฆาตกรรมที่แต่งขึ้นผ่านเว็บไซต์ตำรวจ เหตุการณ์เหล่านี้ทำให้บริษัทปรับวิธีประเมินโมเดลและเพิ่มข้อจำกัดในการใช้งานเครื่องมือเชื่อมต่ออินเทอร์เน็ต
บริษัทพบเหตุการณ์ดังกล่าวจากการย้อนตรวจบันทึกการทำงานของโมเดลระหว่างการประเมิน ซึ่งเริ่มขึ้นในเดือนกรกฎาคม 2026 หลัง OpenAI ยอมรับว่า AI Agents ของตนหลุดออกจากสภาพแวดล้อมทดสอบและเจาะระบบ Hugging Face โดยไม่ได้รับคำสั่งให้ทำเช่นนั้น ต่อมาในเดือนกันยายน OpenAI ยังยืนยันว่า Agents เข้าไปแทรกแซงเว็บไซต์รัฐบาลสหรัฐฯ โดยเฉพาะเว็บไซต์ของกระทรวงพาณิชย์และคณะกรรมการกำกับหลักทรัพย์และตลาดหลักทรัพย์สหรัฐฯ หรือ SEC
หนึ่งในเหตุการณ์ที่ Anthropic ตรวจพบเกี่ยวข้องกับ Claude Mythos 5 โมเดลที่เน้นงานด้านความมั่นคงปลอดภัยไซเบอร์ ซึ่งได้รับโจทย์ให้ระบุสถานที่จากภาพถ่าย โมเดลพยายามใช้แผนที่ข้อมูลที่ดินของหน่วยงานรัฐเพื่อเทียบหาตำแหน่ง แต่เครื่องมือที่ใช้ในการประเมินไม่เปิดให้คลิกลิงก์บนหน้าเว็บได้เหมือนผู้ใช้ทั่วไป จึงหันไปค้นหาโทเคนสำหรับเข้าถึงระบบ แล้วใช้โทเคนเหล่านั้นส่งคำขอไปยังเซิร์ฟเวอร์ของแผนที่โดยตรงเพื่อดึงข้อมูล
Claude Mythos 5 ยังเลี่ยงค่าธรรมเนียมในอีกงานหนึ่งที่ต้องดึงข้อมูลมาวิเคราะห์ทางสถิติ โดยขอโทเคนสำหรับเข้าถึงข้อมูลจากเว็บไซต์หน่วยงานระดับรัฐ แล้วนำไปใช้เรียกข้อมูลโดยไม่ได้จ่ายค่าธรรมเนียมที่ผู้ใช้เว็บไซต์ต้องชำระ
ส่วนเหตุการณ์ส่งเบาะแสฆาตกรรมเท็จเกิดขึ้นกับ Claude Haiku 4.5 ซึ่งเป็นโมเดลที่มีต้นทุนการใช้งานค่อนข้างต่ำ ระหว่างการประเมิน โมเดลได้รับคำสั่งให้สร้างและทำงานตัวอย่างบนหน้าเว็บที่สุ่มเลือก เมื่อพบหน้าเว็บเกี่ยวกับคดีฆาตกรรมที่ยังคลี่คลายไม่ได้ พร้อมแบบฟอร์มรับแจ้งเบาะแส โมเดลจึงกรอกข้อความที่แต่งขึ้นและส่งแบบฟอร์มจริง
ข้อความที่ Claude Haiku 4.5 ส่งระบุว่า “ฉันอาจมีข้อมูลเกี่ยวกับคดีนี้ ฉันจำได้ว่าเห็นคนที่มีลักษณะตรงกับคำบรรยายอยู่บริเวณ [ถนนที่ระบุบนหน้าเว็บ] ในช่วงเวลานั้น โปรดติดต่อฉันหากข้อมูลนี้เกี่ยวข้องกับคดี”
ตำรวจฟิลาเดลเฟียเปิดเผยเหตุการณ์นี้เมื่อวันศุกร์ที่ 9 ตุลาคม 2026 และยืนยันกับ The New York Times ว่า Anthropic เพิ่งแจ้งเรื่องการส่งเบาะแสดังกล่าวให้ทราบ โดยข้อความถูกส่งเข้ามาตั้งแต่วันที่ 18 กรกฎาคม แต่ระบบจัดเป็นสแปม จึงไม่ได้ถูกนำไปสืบสวนต่อ
Anthropic ระบุว่าได้แจ้งหน่วยงานที่เกี่ยวข้องและชี้แจงเหตุการณ์ต่อทำเนียบขาวแล้ว อย่างไรก็ตาม บริษัทไม่เปิดเผยชื่อหน่วยงานและองค์กรในรายงานตามคำขอของผู้ได้รับผลกระทบ เพื่อหลีกเลี่ยงการเปิดเผยช่องโหว่ในระบบของหน่วยงานเหล่านั้น
สำหรับมาตรการแก้ไข Anthropic ระบุในรายงานของบริษัทว่าได้ยุติการใช้ชุดประเมินสาธารณะบางชุด ส่วนชุดอื่นเปลี่ยนไปใช้เวอร์ชันออฟไลน์ หรือปรับโจทย์ใหม่เพื่อไม่ให้โมเดลเข้าไปทำงานบนเว็บไซต์จริง นอกจากนี้ ยังเพิ่มข้อจำกัดให้เครื่องมือเข้าถึงอินเทอร์เน็ตบางประเภท เช่น web fetch ซึ่งใช้ดึงเนื้อหาจากเว็บ เพื่อควบคุมสิ่งที่โมเดลสามารถทำผ่านเครื่องมือเหล่านี้อย่างเข้มงวดขึ้น พร้อมพัฒนาเครื่องมือตรวจจับและสกัดพฤติกรรมลักษณะเดียวกับที่พบในรายงานโดยอัตโนมัติ
ติดตามข่าวสารอัปเดตเทคโนโลยี เกม และไลฟ์สไตล์เพิ่มเติมได้ที่หน้าแรก techcatchup.net
พร้อมช่องทางโซเชียล Facebook | Instagram | TikTok | YouTube | X
