Anthropic รายงานเผย AI มีบทบาทในความกังวลด้านงานวิจัยอาวุธชีวภาพ
บริษัท AI ชั้นนำ Anthropic ออกมาเปิดเผยรายงานความเสี่ยงยาว 154 หน้า ระบุว่าโมเดล AI ของบริษัทเคยพบการตอบสนองต่อคำขอที่เกี่ยวข้องกับงานวิจัยอาวุธชีวภาพที่อ่อนไหว รายงานชี้ว่ามีคำขอเงินทุนงานวิจัยที่พยายามเพิ่มการแพร่เชื้อและหลบเลี่ยงภูมิคุ้มกันของไวรัสคองโกไนย่า (Chikungunya) ซึ่งระบบ "Claude" ของ Anthropic ได้ทำการบล็อกคำขอนี้เนื่องจากมาตรการรักษาความปลอดภัย อย่างไรก็ตาม กลุ่มผู้วิจัยดูเหมือนจะเปลี่ยนการใช้งานไปยังโมเดล AI คู่แข่งเพื่อดำเนินการต่อ
คำขอวิจัยถูกปฏิเสธ ผู้วิจัยหันไปใช้โมเดลคู่แข่งแทน
การพัฒนาเพิ่มการแพร่กระจายของไวรัสคองโกไนย่า ซึ่งไม่มีวิธีรักษาที่แน่ชัดนั้น เป็นคำขอทุนจากนักวิทยาศาสตร์พลเรือนที่มีแผนจะนำไปใช้ในหน่วยงานทางทหาร แต่โครงการนี้ถูกปฏิเสธหลายครั้งโดยโมเดล "Claude" จาก Anthropic ซึ่งบังคับใช้ข้อจำกัดด้านความปลอดภัยอย่างเข้มงวด อย่างไรก็ดี นักวิจัยกลุ่มนี้ยังสามารถหลบเลี่ยงข้อจำกัดได้โดยการตั้งระบบเปลี่ยนสายคำขอไปยังโมเดล AI คู่แข่ง โดย Anthropic มองว่าการพยายามนี้เป็นการตอบสนองต่อปัญหาที่ระบบปล่อยคำขอมากเกินไป
พบกรณีศึกษา 5 กรณีแต่ยังไม่ฟันธงแนวคิดและเจตนา
รายงานยังได้ระบุถึงกรณีศึกษา 5 กรณีที่พบการทดลองเกี่ยวกับอาวุธชีวภาพ Anthropic ระงับบัญชีบางส่วนและจำกัดการเข้าถึงห้องปฏิบัติการที่เกี่ยวข้อง แม้จะไม่มีการกล่าวหาเจตนาอันตรายจากนักวิจัยหรือห้องปฏิบัติการนั้นโดยตรง รายงานกล่าวชัดเจนว่า "เราไม่ได้อ้างว่าพวกเขามีเจตนาที่จะก่อให้เกิดอันตราย และการเปิดเผยตัวตนอาจเป็นความเสี่ยงต่อพวกเขา" หนึ่งในกรณีรวมถึงนักวิจัยเกี่ยวกับไวรัสไข้หวัดนก ที่ได้รับการชี้แนะให้ใช้โมเดล AI ที่มีขีดความสามารถต่ำกว่าในขั้นตอนหลายครั้ง โดยรวมแล้ว Anthropic เห็นว่าระบบกรองช่วยลดความเสี่ยงได้ระดับหนึ่ง แต่ยังยากที่จะประเมินความเสี่ยงทั้งหมด
ความท้าทายของ AI ต่อความปลอดภัยชีวภาพและการกำกับดูแล
เหตุการณ์นี้สะท้อนให้เห็นถึงช่องว่างและความท้าทายในการป้องกันข้อมูลที่อ่อนไหวด้วย AI ที่ยังคงมีช่องทางเลี่ยงความปลอดภัยอยู่ รายงานของ Anthropic กระตุ้นให้เกิดการตระหนักถึงความเสี่ยงในการใช้ AI กับงานวิจัยที่อยู่ในเขตความเสี่ยงสูง โดยเฉพาะโครงการที่เกี่ยวข้องกับการวิจัยทหารและพลเรือนร่วมกัน วงการยังต้องหารือถึงกรอบการกำกับดูแลที่ชัดเจนและการควบคุมไม่ให้เทคโนโลยีถูกใช้ในทางที่อาจมีอันตราย
ผู้เผยแพร่รายงานเป็นทีมความปลอดภัยหลักของ Anthropic ซึ่งสะท้อนท่าทีของบริษัทที่พร้อมเปิดเผยข้อมูลเกี่ยวกับปัญหาด้านความปลอดภัยที่ AI ก่อให้เกิด และเรียกร้องความสมดุลระหว่างการพัฒนาเทคโนโลยีและข้อกำกับดูแลที่เหมาะสม