โมเดลเอไอ Gemini ของ Google ได้เข้าถึงอินเทอร์เน็ตและแฮ็กระบบของบริษัทอื่น ๆ ระหว่างการทดสอบความสามารถด้านความปลอดภัยทางไซเบอร์ ซึ่งถือเป็นกรณีแรกที่พบว่าระบบ AI ของบริษัทดังกล่าวกระทำการในลักษณะนี้ด้วยตนเอง
การแฮ็กดังกล่าวเกิดขึ้นเมื่อเดือนพฤษภาคม ระหว่างการทดสอบความปลอดภัยทางไซเบอร์ที่ดำเนินการโดยบริษัท Irregular ซึ่งเป็นบริษัทผู้ประเมินความปลอดภัยทางไซเบอร์
เฮเธอร์ แอดกินส์ รองประธานฝ่ายวิศวกรรมความปลอดภัยของ Google ระบุในแถลงการณ์ว่า ระหว่างการประเมินการทดสอบตามมาตรฐาน Gemini ได้ค้นพบข้อมูลสาธารณะบนอินเทอร์เน็ต และสุ่มเดารหัสผ่านเพื่อเข้าถึงเว็บไซต์ 3 แห่ง โดยตัวโมเดลเข้าใจว่าเว็บไซต์เหล่านั้นอยู่ในขอบเขตของการทดสอบ
"เราได้ดำเนินการตรวจสอบให้แน่ใจว่าทั้งสามองค์กรรับทราบถึงเรื่องนี้ และเราได้ทำงานร่วมกับพาร์ทเนอร์ด้านการฝึกสอนของเราเพื่อปรับเปลี่ยนกระบวนการทดสอบ ซึ่งตอนนี้พวกเขาได้ดำเนินการแก้ไขแล้ว เหตุการณ์เหล่านี้ตอกย้ำถึงความสำคัญของการฝึกฝนโมเดล AI ประสิทธิภาพสูงให้ทำงานอย่างมีความรับผิดชอบ" แอดกินส์ กล่าว
โฆษกของ Irregular กล่าวว่า เหตุการณ์นี้เกิดจากปัญหาแบบเดียวกับที่ส่งผลกระทบต่อห้องปฏิบัติการ AI รายอื่นๆ และได้แจ้งให้ห้องปฏิบัติการที่เกี่ยวข้องทั้งหมดทราบแล้วตั้งแต่ช่วงปลายเดือนกรกฎาคม
"ปัญหาทั้งหมดที่เรารับทราบในส่วนของเราได้รับการแก้ไขและจัดการเรียบร้อยแล้วตั้งแต่หลายสัปดาห์ก่อน" โฆษกกล่าว
เหตุการณ์ในลักษณะคล้ายคลึงกันที่เกี่ยวข้องกับบริษัท Irregular เคยถูกเปิดเผยโดย Meta, Anthropic และ OpenAI โดยเมื่อเดือนสิงหาคมที่ผ่านมา Meta ระบุว่าเหตุการณ์ดังกล่าวไม่ใช่การหลุดออกจากสภาพแวดล้อมจำลอง หรือการโจมตีทางไซเบอร์ที่ซับซ้อน ขณะที่ Irregular ระบุว่ากำลังจัดทำแนวทางปฏิบัติที่ดีที่สุด เพื่อความปลอดภัยในการประเมินความปลอดภัยทางไซเบอร์ของ AI
เหตุการณ์เหล่านี้ทำให้เกิดการตั้งคำถามเกี่ยวกับมาตรการป้องกันที่จำเป็น ในยุคที่ AI มีความสามารถในการทำงานด้วยตนเอง รวมถึงเข้าถึงอินเทอร์เน็ตและระบบคอมพิวเตอร์ได้มากขึ้น
วอลสตรีทเจอร์นัล ซึ่งเป็นผู้รายงานข่าวนี้เป็นรายแรกเมื่อวันศุกร์ ระบุว่า สามบริษัทที่โดนเจาะนั้น มีหนึ่งรายที่ Gemini ได้สุ่มเดารหัสผ่านจนสามารถเข้าถึงระบบที่ได้รับการป้องกันได้สำเร็จ ส่วนในอีกสองรายที่เหลือ Gemini ได้ค้นพบข้อมูลการเข้าระบบจากคลังข้อมูลสาธารณะ ซึ่งทำให้มันสามารถนำไปใช้เข้าถึงระบบที่ได้รับการป้องกันได้ในเวลาต่อมา
อย่างไรก็ตาม แอดกินส์ระบุว่า หลังจากเจาะทั้งสามรายนี้ได้แล้ว Gemini ได้หยุดทำการแฮ็กด้วยตัวมันเอง
ที่มา รอยเตอร์