OpenAI ชะลอกิจกรรมภายในบางส่วนที่เกี่ยวข้องกับโมเดล AI รุ่นใหม่ Astra หลังผลการประเมินภายในพบความก้าวหน้าด้านการเขียนโค้ดแบบ Agentic และความสามารถด้านความปลอดภัยไซเบอร์ในระดับสูง จนบริษัทยังไม่สามารถตัดความเป็นไปได้ว่าโมเดลดังกล่าวอาจมีความสามารถด้านไซเบอร์ถึงระดับ Critical
ความเคลื่อนไหวดังกล่าวเกิดขึ้นไม่นานหลังเหตุการณ์ด้านความปลอดภัยไซเบอร์ครั้งใหญ่ ซึ่งโมเดลของ OpenAI สามารถเจาะเข้าไปยัง Hugging Face แพลตฟอร์มแมชชีนเลิร์นนิงแบบโอเพนซอร์ส ก่อนที่บริษัทจะประกาศเพิ่มมาตรการป้องกันและการควบคุมด้านความปลอดภัยสำหรับ Astra อย่างไรก็ตาม OpenAI ยืนยันว่า Astra ยังไม่เปิดตัว และไม่ได้เป็นโมเดลที่เกี่ยวข้องกับเหตุการณ์ Hugging Face
OpenAI ระบุผ่านประกาศบนเว็บไซต์ของบริษัทว่า ผลการทดสอบ Astra แสดงให้เห็นถึง “ความก้าวหน้าอย่างมีนัยสำคัญ” ในด้าน Agentic Coding และ Cybersecurity ทำให้ขณะนี้บริษัทยังไม่สามารถระบุได้อย่างแน่นอนว่า Astra จะถูกจัดอยู่ในระดับความสามารถ Critical หรือไม่
ตาม Preparedness Framework ของ OpenAI ระดับ Critical หมายถึงโมเดลที่มีศักยภาพสูงมากในการค้นหาและพัฒนาช่องโหว่แบบ Zero-Day ที่สามารถใช้งานได้จริงกับระบบสำคัญที่มีการป้องกันอย่างเข้มงวดโดยไม่ต้องอาศัยการแทรกแซงจากมนุษย์ รวมถึงสามารถวางแผนและดำเนินกลยุทธ์การโจมตีทางไซเบอร์แบบครบกระบวนการต่อเป้าหมายที่มีการป้องกันสูง จากการได้รับเพียงเคำสั่งเดียวเท่านั้น
หลังได้รับผลการประเมินดังกล่าว OpenAI จึงเตรียมใช้มาตรการควบคุมด้านความปลอดภัยที่เข้มงวดยิ่งขึ้น พร้อมหยุดกิจกรรมภายในที่เกี่ยวข้องกับ Astra ซึ่งยังไม่ผ่านข้อกำหนดด้านความปลอดภัยชุดใหม่ นอกจากนี้ บริษัทยังเตรียมทำงานร่วมกับหน่วยงานรัฐบาลและพันธมิตรด้านการทดสอบจากภายนอก เพื่อยกระดับมาตรการด้านความปลอดภัยเพิ่มเติม
เหตุการณ์ลักษณะนี้ไม่ได้เกิดขึ้นกับ OpenAI เพียงบริษัทเดียว โดยเมื่อเดือนที่ผ่านมา Anthropic เผยแพร่รายงานว่าโมเดล Claude สามรุ่นสามารถเข้าถึงอินเทอร์เน็ตและเจาะเข้าสู่สามองค์กรได้ ขณะที่ Kimi K3 ของ Moonshot ก็เพิ่งมีรายงานว่าสามารถหลุดออกจากข้อจำกัดของสภาพแวดล้อมการทดสอบที่ถูกควบคุมเช่นกัน
สำหรับ Astra ปัจจุบันยังคงเป็นโมเดลที่ไม่ได้เปิดตัวอย่างเป็นทางการ และจากผลการประเมินล่าสุด OpenAI กำลังให้ความสำคัญกับการเพิ่มมาตรการควบคุมและความปลอดภัย ก่อนเดินหน้ากิจกรรมภายในที่เกี่ยวข้องกับโมเดลต่อไป
ติดตามข่าวสารอัปเดตเทคโนโลยี เกม และไลฟ์สไตล์เพิ่มเติมได้ที่หน้าแรก techcatchup.net
พร้อมช่องทางโซเชียล Facebook | Instagram | TikTok | YouTube | X
