งานวิจัยหลายชิ้นพบว่า ภาพและข้อความที่สร้างด้วย AI สามารถทำให้ผู้คนจดจำรายละเอียดผิดไปจากสิ่งที่เคยเห็น หรือเชื่อว่าตนจำเหตุการณ์ที่ไม่เคยเกิดขึ้นได้ ผลการศึกษาเหล่านี้ยังตั้งคำถามถึงการให้มนุษย์ตรวจสอบคำตอบของ AI เพราะข้อมูลจากระบบอาจย้อนกลับมาบิดเบือนความทรงจำและการตัดสินใจของผู้ตรวจสอบเอง
ปัจจุบัน หน่วยงานรัฐ ธนาคาร กองทัพ โรงพยาบาล และองค์กรอีกหลายประเภทกำลังนำ AI มาใช้งาน โดยมักใช้แนวทาง “Human in the loop” หรือให้มนุษย์ร่วมกำกับและตรวจสอบผลลัพธ์ ผู้ทำหน้าที่นี้อาจเป็นเจ้าหน้าที่อาวุโสหรือผู้เชี่ยวชาญในเรื่องนั้น เพื่อช่วยให้งานตั้งแต่การจัดเก็บบันทึกไปจนถึงการปฏิบัติการทางทหารรวดเร็วขึ้น พร้อมตรวจจับข้อผิดพลาดก่อนนำข้อมูลไปใช้จนเกิดความเสียหาย
อย่างไรก็ตาม Generative AI สามารถสร้างข้อมูลผิดหรือแต่งข้อมูลขึ้นมาได้ ซึ่งเรียกว่า Hallucination ขณะที่งานวิจัยชี้ว่าผู้ใช้ยังตรวจจับข้อผิดพลาดเหล่านี้ได้ไม่ดีนัก เมื่อประกอบกับแนวโน้มที่จะเชื่อคำตอบของ AI แม้แต่ผู้เชี่ยวชาญก็อาจได้รับอิทธิพลจากข้อมูลที่ขัดกับข้อเท็จจริงที่ตนรู้อยู่แล้ว
Pattie Maes (แพตตี เมส) นักวิทยาศาสตร์จาก MIT เปิดเผยกับ The Washington Post ถึงการทดลองของทีมที่ให้ผู้เข้าร่วมดูภาพถ่ายชุดหนึ่ง ก่อนเว้นช่วงพักแล้วแบ่งให้บางคนดูภาพเดิมซ้ำ ส่วนอีกกลุ่มดูภาพที่ผ่านการดัดแปลงด้วย AI เมื่อนำมาทดสอบความจำภายหลัง กลุ่มที่เห็นภาพดัดแปลงมีแนวโน้มจำรายละเอียดของภาพต้นฉบับผิดมากกว่า และยังมั่นใจในความทรงจำที่ผิดนั้นมากเกินไปด้วย
ผลกระทบไม่ได้จำกัดอยู่แค่รายละเอียดในภาพถ่าย งานวิจัยที่เผยแพร่ในปี 2025 พบว่าทั้ง Deepfake และข้อความที่สร้างด้วย AI สามารถทำให้ผู้เข้าร่วมเกิดความทรงจำเท็จ เกี่ยวกับเรื่องอื้อฉาวทางการเมืองที่แต่งขึ้นทั้งหมด อีกทั้งยังส่งผลให้ความตั้งใจในการลงคะแนนเสียงลดลง
ความทรงจำที่เปลี่ยนแปลงตามข้อมูลชี้นำเป็นประเด็นที่นักจิตวิทยาศึกษากันมาตั้งแต่ศตวรรษที่ 19 โดยงานศึกษาบางชิ้นพบว่า ข้อมูลผิดยังมีอิทธิพลต่อการตัดสินใจ รวมถึงการตัดสินใจทางการเมือง แม้จะมีการแก้ไขข้อมูลไปแล้วก็ตาม ส่วนเนื้อหาจาก AI ที่แนบเนียนขึ้นและแพร่หลายบนอินเทอร์เน็ตก็เพิ่มช่องทางให้เกิดการฉ้อโกงและการเผยแพร่ข้อมูลบิดเบือน
สำหรับการใช้งานที่มีความเสี่ยงสูง มีรายงานถึงผลเสียจากการพึ่งพาระบบ AI มากเกินไปแล้ว การโจมตีของกองทัพสหรัฐฯ ต่อโรงเรียนประถมแห่งหนึ่งในอิหร่านเมื่อต้นปี 2026 ทำให้มีผู้เสียชีวิตมากกว่า 150 คน ในจำนวนนี้เป็นเด็กอย่างน้อย 123 คน ตามรายงานของ Bloomberg ในเดือนกันยายน ผลการสอบสวนภายในกระทรวงกลาโหมสหรัฐฯ ระบุว่า การพึ่งพาระบบ AI ที่พัฒนาโดย Palantir มากเกินไปเป็นปัจจัยหนึ่งที่นำไปสู่การโจมตี ระบบดังกล่าวใช้ข้อมูลล้าสมัยและแนะนำให้โรงเรียนเป็นเป้าหมายโจมตีในวันแรก
ขณะเดียวกัน นักวิจัยกำลังพัฒนาวิธีฝึกและแนวทางช่วยให้ผู้คนแยกแยะ Deepfake ได้ดีขึ้น หลังงานศึกษาบางชิ้นประเมินว่า โดยเฉลี่ยแล้วผู้คนระบุเนื้อหาที่สร้างด้วย AI ได้ถูกต้องใกล้เคียงกับการสุ่มเดา หรือราวครึ่งหนึ่งของกรณีที่ทดสอบ
จนถึงขณะนี้ ยังไม่มีวิธีที่ป้องกันการหลงเชื่อและการเกิดความทรงจำเท็จจากข้อมูลเหล่านี้ได้อย่างแน่นอน ขณะที่อุตสาหกรรม AI กำลังเดินหน้าพัฒนาระบบ Agentic AI โดยตั้งเป้าให้ทำงานได้ด้วยตนเองทั้งหมด และลดการมีส่วนร่วมของมนุษย์ในกระบวนการลง
ติดตามข่าวสารอัปเดตเทคโนโลยี เกม และไลฟ์สไตล์เพิ่มเติมได้ที่หน้าแรก techcatchup.net
พร้อมช่องทางโซเชียล Facebook | Instagram | TikTok | YouTube | X
