ผู้เล่น RyzaChat เกม RPG รูปแบบแชตบอตที่ให้พูดคุยกับ Ryza (ไรซา) จาก Atelier Ryza จะพบข้อจำกัดเพิ่มเติมในการป้อนข้อความ หลัง Spiral AI ผู้พัฒนาเกมประกาศเตรียมปรับมาตรการควบคุมในการอัปเดตโมเดล AI เดือนตุลาคม 2026 เพื่อรับมือการใช้งานที่อาจสร้างความเสียหายต่อชื่อเสียงของตัวละครและซีรีส์ Atelier
ที่ผ่านมา มีผู้ใช้พบวิธีหลบเลี่ยงระบบคัดกรองของเกมด้วยเทคนิค Prompt Injection หรือการป้อนคำสั่งเพื่อชักนำให้ AI ทำงานนอกเหนือข้อกำหนด รวมถึงวิธีอื่นในลักษณะเดียวกัน ผู้พัฒนาจึงเตรียมจำกัดข้อความที่ผู้เล่นสามารถป้อนระหว่างสนทนากับ Ryza พร้อมพิจารณามาตรการเพิ่มเติม เช่น การจำกัดจำนวนตัวอักษร โดยจะติดตามสถานการณ์ต่อไป
ปัจจุบัน RyzaChat มีระบบกำกับบทสนทนาอยู่แล้ว 3 ชั้น เริ่มจาก Game Master AI ที่รับข้อความของผู้เล่นมาวิเคราะห์และตัดคำไม่เหมาะสมออก ก่อนส่งต่อให้ AI ของตัวละคร ส่วนตัว Ryza เองก็ถูกกำหนดไม่ให้สนทนาเรื่องที่ไม่เกี่ยวข้องกับคาแรกเตอร์หรือโลกของเกม และหากคำตอบที่สร้างขึ้นยังมีถ้อยคำไม่เหมาะสม ระบบจะลบคำตอบนั้นทันที
นอกจากการตรวจสอบทั้ง 3 ชั้น เกมยังป้องกันไม่ให้เนื้อหาที่ไม่เหมาะสมถูกบันทึกลงในความทรงจำของ AI ตัวละครด้วย อย่างไรก็ตาม การที่ผู้ใช้ยังหาวิธีเลี่ยงระบบได้ ทำให้มาตรการที่มีอยู่ยังไม่เพียงพอต่อการป้องกันการใช้งานในทางที่ผิด
Spiral AI ยังย้ำถึงข้อกำหนดการให้บริการ และระบุว่าจะไม่ยอมรับการกระทำที่ดูหมิ่นหรือทำลายภาพลักษณ์ของผลงานต้นฉบับ ทั้งการพยายามให้ AI ของ Ryza พูดข้อความที่ขัดต่อความสงบเรียบร้อยและศีลธรรมอันดี ตลอดจนการดัดแปลงหรือปลอมภาพหน้าจอเพื่อทำให้ผู้อื่นเข้าใจเนื้อหาในเกมผิดไป
สำหรับภาพหน้าจอที่ถูกดัดแปลงหรือปลอมขึ้นเพื่อบิดเบือนเนื้อหาของ RyzaChat บริษัทระบุว่าได้เริ่มยื่นคำขอให้นำเนื้อหาออกและร้องเรียนต่อแพลตฟอร์มออนไลน์ที่เกี่ยวข้องแล้ว รวมถึงดำเนินการด้วยวิธีอื่น ๆ
RyzaChat: AI เปิดให้บริการแล้วบน iOS และ Android
ติดตามข่าวสารอัปเดตเทคโนโลยี เกม และไลฟ์สไตล์เพิ่มเติมได้ที่หน้าแรก techcatchup.net
พร้อมช่องทางโซเชียล Facebook | Instagram | TikTok | YouTube | X
