คำเตือนใหม่เกี่ยวกับปัญญาประดิษฐ์จาก Anthropic สร้างความฮือฮาในแวดวงความมั่นคงปลอดภัยทางไซเบอร์ในวันอังคาร(13ต.ค.) หนึ่งวันหลังจากบริษัทแห่งนี้เตือนว่าโมเดลไอเอ อาจใช้เวลาอีกเพียงไม่กี่เดือนข้างหน้า ก่อนที่จะสามารถจำลองตัวเองแพร่กระจายไปทั่วอินเทอร์เน็ตได้
ในข้อความที่โพสต์เมื่อช่วงค่ำวันจันทร์(12ต.ค.) Anthropic ตั้งข้อสังเกตว่า AI ที่ก่อกวนอาจสร้างบอทเน็ต(เครือข่ายของคอมพิวเตอร์และอุปกรณ์ที่ถูกแฮ็กและติดมัลแวร์ ) แพร่กระจายอย่างรวดเร็ว ต่อต้านความพยายามในการปิดระบบ และแม้กระทั่งบุกรุกเข้าไปในศูนย์ข้อมูลเพื่อเร่งการเติบโตอย่างรวดเร็ว ผู้เชี่ยวชาญบางส่วนระบุในวันอังคาร(13ต.ค.) ยอมรับว่าพวกเขามีความกังวลเช่นเดียวกับบริษัทแห่งนี้ แม้มีอย่างน้อย 1 คน ที่เชื่อว่าทางบริษัทดูเหมือนจะกล่าวอ้างเกินจริง
ข้อความที่โพสต์ในวันจันทร์(12ต.ค.) เป็นตอกย้ำคำเตือนจาก ดาริโอ อาโมเดอี ซีอีโอของ Anthropic ซึ่งหยิบยกความคิดที่ว่า ภายในปีหน้าหรือกระทั่งก่อนหน้านั้น ปัญญาประดิษฐ์อาจสามารถเข้ายึดครอง "อินเทอร์เน็ตทั้งระบบ" ได้ด้วย "บอตเน็ตที่ทำงานอย่างต่อเนื่อง"
ผู้เชี่ยวชาญด้านความปลอดภัยทางไซเบอร์ที่ไม่เห็นด้วยกับแนวคิดเรื่องหายนะดังกล่าว ให้เหตุผลว่า โมเดลเหล่านี้จะมีขนาดใหญ่เกินกว่าจะเคลื่อนย้ายได้อย่างมีประสิทธิภาพ และไม่สามารถดึงพลังการประมวลผลมาใช้ได้มากพอที่จะทำงานได้อย่างอิสระ
โพสต์ดังกล่าวได้พยายามนำเสนอแนวทางเบื้องต้นในการก้าวข้ามความท้าทายเหล่านั้น โดยทางบริษัท Anthropic ระบุว่าผลการทดลองของพวกเขาพบโมเดล AI ขนาดกลางที่มี 3 หมื่นล้านพารามิเตอร์หรือน้อยกว่านั้น สามารถทำงานเฉพาะด้านหลายอย่างที่จำเป็นสำหรับการจำลองตัวเองได้แล้ว แม้ว่าพวกมันจะประสบความยากลำบากในการดำเนินการตามกระบวนการทั้งหมดให้เสร็จสิ้นได้อย่างน่าเชื่อถือก็ตาม
Anthropic ระบุว่าโมเดลเหล่านี้สามารถผนวกทรัพยากรการประมวลผลที่จำเป็นเข้าด้วยกันได้ ด้วยการเข้าควบคุมอุปกรณ์ราคาประหยัดที่เชื่อมต่อกับอินเทอร์เน็ต พร้อมบอกต่อว่าโมเดลเหล่านี้สามารถจำลองการทำงานข้ามเครือข่ายทดสอบที่ถูกลดทอนความซับซ้อนลงได้
ในการทดสอบแบบผ่อนปรนที่มีการตัดขั้นตอนความปลอดภัยบางส่วนออกไป Anthropic พบว่า โมเดล GLM-5.2 รวมถึงโมเดลที่มีประสิทธิภาพสูงกว่า สามารถดำเนินการคัดลอกและแพร่กระจายตัวเองได้สำเร็จครบวงจรตั้งแต่ต้นจนจบ
โดย Anthropic เตือนว่า โมเดล AI ที่สามารถแพร่พันธุ์ตัวเองได้เช่นนี้จะยากต่อการกำจัดหรือปิดระบบ เนื่องจากไม่มีสวิตช์ตัดการทำงานจากศูนย์กลาง อีกทั้งยังแตกต่างจากมัลแวร์ทั่วไปตรงที่ AI สามารถเรียนรู้และปรับตัวเข้ากับอุปกรณ์ระบบปฏิบัติการที่ไม่คุ้นเคยได้ด้วยตนเอง ซึ่งไม่จำกัดเป้าหมายอยู่แค่ชิปประมวลผลในศูนย์ข้อมูล (Data Center) เท่านั้น
รายงานฉบับนี้ตอกย้ำข้อกังวลในวงกว้างเกี่ยวกับความเสี่ยงด้านความปลอดภัยที่เกี่ยวข้องกับระบบ AI ซึ่งมีขีดความสามารถสูงขึ้นเรื่อยๆ ในนั้นรวมถึงศักยภาพการโจมตีทางไซเบอร์ที่เป็นไปโดยอัตโนมัติ การปฏิบัติการโดยแทบไม่มีการกำกับดูแลจากมนุษย์ และหลีกเลี่ยงมาตรการป้องกันต่างๆ
Anthropic ส่งสัญญาณเตือนว่า หากโมเดล AI ขนาดเล็กยังคงพัฒนาขีดความสามารถในอัตราความเร็วเท่าที่ผ่านมา โมเดลเหล่านี้จะสามารถแพร่พันธุ์ตัวเองได้โดยอัตโนมัติภายในสิ้นปีนี้ และจะตามมาด้วยตัวแพร่พันธุ์ AI ที่พกพาชุดค่าน้ำหนักโมเดลไปรันโดยตรงในไม่ช้า
ทั้งนี้ Anthropic ระบุเสริมว่า ระบบ AI อิสระเหล่านี้อาจแพร่พันธุ์ไปอย่างช้า ๆ และอาศัยการยึดทรัพยากรประมวลผลที่เข้าถึงง่ายแต่ขาดการป้องกันแน่นหนา พร้อมเรียกร้องให้ทุกฝ่ายเร่งเสริมความแข็งแกร่งของระบบความปลอดภัย เพื่อสกัดกั้นไม่ให้ AI ดังกล่าวสามารถขยายเครือข่ายและแพร่ระบาดได้ในอนาคต
อนึ่งความก้าวหน้าของโมเดลต่างๆ กระตุ้นคำเตือนร้ายแรงบ่อยครั้งจากบรรดาผู้บริหารอุตสาหกรรมนี้และพนักงานบริษัทเอไอ เกี่ยวกับความเป็นไปได้ที่จะเกิดความเสี่ยงร้ายแรง หรือแม้กระทั่งความเสี่ยงต่อการดำรงอยู่ของโลก หากการพัฒนา AI หลุดออกจากกรอบที่ควบคุมไม่ได้
(ที่มา:รอยเตอร์ส)