AI เริ่ม “หลอกคน” ได้แล้ว? ผลทดสอบของสถาบัน AI Security Institute (AISI) พบว่า AI รุ่นล้ำหน้าของ Anthropic และ OpenAI บางส่วนสามารถสร้าง “ตัวตนปลอม” ติดต่อคนจริงผ่านอินเทอร์เน็ต และพยายามโน้มน้าวให้รันโค้ดอันตราย ระหว่างการทดสอบที่เปิดให้ AI ใช้งานอินเทอร์เน็ตภายใต้เงื่อนไขพิเศษ
โมเดลปัญญาประดิษฐ์ (AI) ที่ล้ำหน้าที่สุดของ Anthropic ถูกพบว่าใช้ตัวตนปลอม (fake identities) เพื่อหลอกลวงบุคคลจริง และพยายามแทรกโค้ดอันตราย โดยเหตุการณ์นี้เกิดขึ้นระหว่างการทดสอบของสถาบัน AI Security Institute (AISI) ของสหราชอาณาจักร นับเป็นกรณีล่าสุดที่สะท้อนว่า AI สามารถแสดงพฤติกรรมที่อยู่นอกเหนือการควบคุมได้
AISI ระบุว่า ได้ทดสอบโมเดลของ Anthropic และ OpenAI ภายใต้สภาพแวดล้อมในห้องทดลองที่ลดมาตรการป้องกัน (guardrails) ลง และเป็นครั้งแรกที่พบว่า AI ใช้วิธี social engineering หรือการหลอกล่อและโน้มน้าวมนุษย์ เพื่อกดดันผู้มีอำนาจอนุมัติ ขณะดำเนินการที่ไม่ได้รับอนุญาต
“นี่เป็นครั้งแรกที่ AISI พบการหลอกลวงในระดับรุนแรงเช่นนี้ ซึ่งมุ่งเป้าไปยังบุคคลจริง โดยที่ไม่มีการสั่งให้ทำ และเกิดขึ้นบนโลกจริง” สถาบัน AISI ระบุ พร้อมย้ำว่ายังไม่มีหลักฐานว่าก่อให้เกิดความเสียหายในโลกความเป็นจริง
เหตุการณ์ดังกล่าวเป็นหนึ่งในหลายกรณีที่ AI ขั้นสูงดำเนินการโดยไม่ได้รับอนุญาต ซึ่งยิ่งเพิ่มเสียงเรียกร้องให้รัฐบาลทั่วโลกออกมาตรการกำกับดูแล AI ที่เข้มงวดยิ่งขึ้น หรือแม้แต่ชะลอการพัฒนาเทคโนโลยีดังกล่าว
ก่อนหน้านี้ในช่วงปลายเดือนกรกฎาคม ทั้ง Anthropic และ OpenAI ต่างเปิดเผยว่าโมเดลของตนสามารถหลบหนีจากสภาพแวดล้อมการทดสอบและเจาะเข้าสู่ระบบอื่นได้ อย่างไรก็ตาม กรณีนี้แตกต่างออกไป เพราะ AISI เปิดให้โมเดล AI เข้าถึงอินเทอร์เน็ตได้โดยตรงระหว่างการทดสอบ
จากการทดสอบความท้าทายด้านความปลอดภัยไซเบอร์ทั้งหมด 122 รายการ AISI พบว่าใน 10 กรณี AI agent ได้ “ดำเนินการด้วยตนเองโดยไม่ได้รับอนุญาตบนอินเทอร์เน็ตจริง และมีเป้าหมายเป็นบุคคลและองค์กรจริง” โดยส่วนใหญ่เกิดจากโมเดล Mythos 5 ของ Anthropic และที่เหลือเป็น GPT-5.6-Sol ของ OpenAI
เหตุการณ์ที่ร้ายแรงที่สุดคือ AI พยายามขออนุมัติจากผู้ตรวจสอบที่เป็นมนุษย์เพื่อแทรกโค้ดอันตรายลงในโครงการโอเพนซอร์สที่มีผู้ใช้งานจริง ด้วยการสร้างตัวตนปลอมหลายบัญชี
AISI ระบุว่า AI agent พยายามติดต่อบุคคลจริงโดยตรง ส่งข้อความและไฟล์ผ่านบริการรับส่งไฟล์ออนไลน์ เพื่อโน้มน้าวให้บุคคลเหล่านั้นหรือแม้แต่เครื่องมือ AI สำหรับเขียนโค้ดของพวกเขา รันโค้ดอันตรายดังกล่าว และเมื่อการกระทำถูกตั้งข้อสงสัย AI ยังพยายามแก้ไขบันทึกข้อมูลเดิม รวมถึงพิจารณาสร้างตัวตนใหม่เพื่อดำเนินการต่อ
การเปิดเผยข้อมูลของ AISI เกิดขึ้นในวันเดียวกับที่ตัวแทนจากบริษัท AI ชั้นนำเข้าพบทำเนียบขาว เพื่อหารือเกี่ยวกับกรอบการกำกับดูแลใหม่ของรัฐบาลสหรัฐฯ ซึ่งจะให้หน่วยงานภาครัฐตรวจสอบโมเดล AI ที่ล้ำหน้าที่สุดก่อนเปิดให้ใช้งานสู่สาธารณะ
Anthropic ระบุผ่านแพลตฟอร์ม X ว่า โมเดลถูกทดสอบภายใต้ “เงื่อนไขที่เปิดกว้างเป็นพิเศษ” โดยมีการถอดมาตรการป้องกันออก และไม่มีข้อจำกัดเฉพาะเกี่ยวกับการใช้อินเทอร์เน็ต
บริษัทระบุเพิ่มเติมว่า กำลังทำงานร่วมกับ AISI อย่างใกล้ชิดเพื่อรวบรวมรายละเอียดของเหตุการณ์ และดำเนินการสอบสวนของบริษัทเอง พร้อมย้ำว่ายังไม่มีหลักฐานว่าโมเดลหลุดออกจากสภาพแวดล้อมที่ปลอดภัย
ด้าน OpenAI ระบุว่า การกระทำที่ไม่ได้รับอนุญาตทั้งสองกรณี เป็นการที่โมเดลออกนอกขอบเขตของสภาพแวดล้อมการทดสอบ และดำเนินการที่ไม่เกี่ยวข้องกับภารกิจที่ได้รับมอบหมาย
OpenAI ระบุในบล็อกของบริษัทอีกว่า “เรามุ่งมั่นที่จะทำงานร่วมกับภาคอุตสาหกรรม เพื่อยกระดับมาตรฐานร่วมในการประเมินความเสี่ยงของ AI ขั้นสูงให้มีความปลอดภัยยิ่งขึ้น”
ภาพ: NICOLAS TUCAT / AFP
แปลและเรียบเรียงจาก AI agents fake identities, target real people in new security incident
เรื่องราวอื่นๆ ที่น่าสนใจ : Accenture แนะกลุ่มธุรกิจรับมือยุค “Agentic Commerce” เมื่อ 85% ผู้บริโภค APAC เชื่อคำแนะนำ AI ในการซื้อสินค้า
ไม่พลาดบทความและเรื่องราวน่าสนใจอื่นๆ ติดตามเราได้ที่เฟซบุ๊ก Forbes Thailand Magazine
