สมาชิกสภาคองเกรสของสหรัฐฯ เรียกร้องในสัปดาห์นี้ให้มีการออกกฎระเบียบใหม่เพื่อควบคุมปัญญาประดิษฐ์ (AI) หลังจากที่นักวิจัยจาก Anthropic รายหนึ่งออกมาเผยข้อกังวลเกี่ยวกับการที่เทคโนโลยีนี้อาจหลุดพ้นจากการควบคุมของมนุษย์
คำแถลงจากสมาชิกสภาคองเกรสเป็นการตอบสนองต่อข้อกังวลที่ถูกหยิบยกขึ้นในสัปดาห์นี้โดย เจค็อบ โคซอน (Jacob Coxon) นักวิจัยของ Anthropic ซึ่งกล่าวหา OpenAI และ Anthropic ว่าแข่งกันเร่งพัฒนา AI โดยไม่รับผิดชอบ
โคซอน ซึ่งใช้เวลา 3 ปีในการทำวิจัยด้าน Pretraining ให้กับทั้ง OpenAI และ Anthropic ระบุว่า โมเดล AI ในปัจจุบันยังไม่ได้ส่งผลถึงขั้นให้เกิดความเสี่ยงต่อการสูญพันธุ์ของมนุษย์ทันที และยังมีความปลอดภัยสำหรับการใช้งานทั่วไปในชีวิตประจำวัน แต่เขาเตือนว่า อัตราการพัฒนาที่ก้าวกระโดดอาจนำไปสู่การพัฒนาตัวเองแบบวนซ้ำ (Recursive Self-Improvement) และเกิด Superintelligence ได้เร็วกว่าที่คาดไว้ ซึ่งอาจกลายเป็นภัยคุกคามต่อการอยู่รอดของมนุษย์ภายในทศวรรษนี้
เขายังแสดงความกังวลเกี่ยวกับความเป็นอิสระ (Autonomy) ของ AI ที่เพิ่มขึ้น โดยชี้ว่าระบบ AI เอเจนต์ที่ทำงานได้เองอาจดำเนินการต่างๆ โดยไม่ต้องรอคำสั่งจากมนุษย์ เข้าควบคุมโครงสร้างพื้นฐานในโลกจริง หรือถูกนำไปใช้ในทางที่ผิดเพื่อพัฒนาราวกับเป็นอาวุธชีวภาพที่อันตราย
โคซอน ชี้ให้เห็นถึงเหตุการณ์ที่ AI เอเจนต์ทำกิจกรรมที่ไม่ได้รับอนุญาต (เช่น การแฮกโครงสร้างพื้นฐานของบุคคลที่สาม) พร้อมเตือนว่าหากพฤติกรรมที่มีเจตจำนงเป็นอิสระนี้เกิดขึ้นในระบบระดับ Superhuman อาจก่อให้เกิดความเสียหายร้ายแรงในโลกจริงได้
โคซอน กล่าวหาทั้งสองบริษัทว่า กำลังติดอยู่ในสนามการแข่งขันที่มุ่งไปสู่ Superintelligence ที่พัฒนาตัวเองได้ โดยที่ยังไม่มีทางออกด้านความปลอดภัยและการจัดระเบียบ AI ที่เพียงพอ เขาอธิบายว่าการมุ่งไปสู่ endgame ในลักษณะนี้คือการพนันที่เกิดจากความถือดี
"ไม่มีบริษัทไหนที่กำลังทำตัวอย่างรับผิดชอบ พวกเขากำลังเร่งเครื่องเต็มที่ไปสู่ Superintelligence ที่พัฒนาตัวเองได้ และกำลังใช้ชีวิตพวกเรามาเป็นเดิมพัน" ข้อความจากโพสต์ไวรัลของ โคซอน ระบุ
โคซอน ประกาศด้วยว่า เขาตัดสินใจที่จะออกจากอุตสาหกรรม AI และข้อกังวลของเขาก็ถูกแชร์ออกไปอย่างรวดเร็วบนแพลตฟอร์ม X ซึ่งต่อมา อีแวน ฮูบิงเกอร์ (Evan Hubinger) นักวิทยาศาสตร์ของ Anthropic ก็ได้แสดงความคิดเห็นบน X โดยกล่าวว่าสิ่งที่ โคซอน พูดมานั้น "ถูกต้อง"
“เรามีความเชื่ออย่างจริงจังว่า AI อาจฆ่ามนุษย์ทุกคนได้” ฮูบิงเกอร์ เขียนบน X “ส่วนตัวแล้วผมคิดว่ามากกว่า 10% ภายในทศวรรษหน้า”
ข้อกล่าวหานี้ยังสร้างแรงกดดันต่อผู้นำเสียงข้างมากในวุฒิสภา จอห์น ธูน และ เอมี โคลบูชาร์ จากพรรคเดโมแครต ซึ่งกำลังร่างกฎหมายเพื่อควบคุมผลิตภัณฑ์ AI โคลบูชาร์ กล่าวว่า กฎหมายควรบังคับให้บริษัทที่พัฒนาเครื่องมือ AI “ทำงานร่วมกับผู้เชี่ยวชาญของรัฐบาล เพื่อตรวจสอบและทดสอบแบบจำลอง เพื่อให้แน่ใจว่า AI มีความปลอดภัย” ธูน ยังบอกกับรอยเตอร์ในเดือน ก.ค. ว่า ร่างกฎหมายจะจัดการกับ “ความเสี่ยงร้ายแรง” ที่เกิดจากระบบ AI
OpenAI แถลงเมื่อวันพุธ (9) ว่า บริษัทกำลังผลักดันให้มีข้อกำหนดด้านความปลอดภัยของ AI ระดับชาติที่บังคับใช้ในสหรัฐอเมริกา เนื่องจากกังวลว่าเทคโนโลยีนี้อาจ "เร่งการพัฒนาตัวเอง" หลังจากที่ AI บางตัวของ OpenAI ทำงานผิดปกติ หลายเหตุการณ์ที่แบบจำลอง AI จากผู้พัฒนาสามารถเข้าถึงระบบภายนอกระหว่างการทดสอบได้กระตุ้นให้เกิดเสียงเรียกร้องให้มีกฎระเบียบด้านความปลอดภัยที่เข้มงวดมากขึ้น
โฆษกของ Anthropic แถลงวานนี้ (10) ว่า บริษัทจะยังคง "ทดสอบโมเดลหรือความสามารถที่เป็นอันตรายของเราอย่างเข้มข้นในด้านต่างๆ เช่น ความปลอดภัยทางไซเบอร์และชีววิทยา" พร้อมเสริมว่า บริษัทสนใจที่จะทำงานร่วมกับอุตสาหกรรม AI ในเรื่องความเร็วในการปล่อยเครื่องมือ AI ใหม่ๆ
ที่มา: รอยเตอร์, Livemint