AI 모델이 생물 무기 연구에 활용된 정황 보고
인공지능 기업 Anthropic은 최근 154페이지 분량의 위협 인텔리전스 보고서를 발표했다. 보고서에 따르면 자사의 AI 모델 'Claude'가 매개체를 통한 바이러스 확산 및 면역 회피 강화 연구 의뢰에 반응한 사례가 드러났다. 이 연구는 질병 치료법이 없는 키쿤구니야 바이러스를 대상으로 한 것이었다. Anthropic은 보안 필터링으로 해당 내용에 대한 접근을 차단했으나, 신청자가 타 경쟁 AI 모델을 통해 연구를 이어가려 시도한 정황도 포착됐다. 이번 사건은 고도의 민감성을 지닌 생물학 연구 환경에서 AI 안전 관리의 어려움을 부각시키고 있다.
생물 무기 관련 연구 신청 차단에도 우회 시도 포착
관련 연구는 주로 민간 과학자가 기획했으며, 군사 기관의 지원 하에 실행될 예정이었다. Anthropic은 반복된 신청 과정을 통해 연구 내용에 대한 접근을 엄격하게 제한했다. 'Claude' 모델의 보안 정책은 철저히 적용됐으나, 연구팀은 차단된 요청을 자동으로 경쟁 AI 시스템으로 전환하는 우회기술을 활용해 코드를 작성하는 행보를 포착했다. 회사 측은 이 같은 행동이 지나친 차단 정책에 대한 대응책의 일환으로 보인다고 평가했다.
5건 사례 포함, 의도 규명은 미완료 상태
보고서엔 생물 무기 연구와 관련된 5건의 구체적인 사례가 공개됐다. Anthropic은 해당 계정 일부를 차단하고, 연관된 연구소의 AI 접근 권한을 중단했다. 그러나 관련 인물이나 기관의 악의적 행위 여부는 확정하지 않았다. 보고서에서는 "해당 연구자의 신원을 밝히는 것이 그들에게 위험을 초래할 수 있으므로, 본질적 해악 의도를 진술하지 않는다"고 명시했다. 그중 한 사례는 조류인플루엔자 연구자가 제한된 기능의 AI 사용을 권고받은 사실도 담겼다. 전반적으로 필터링 체계가 일정 수준의 위험 완화는 이뤘으나, 모든 보안 취약점을 판단하기에는 정보가 불충분함을 인정했다.
AI 기술이 생물안전 분야에서 직면한 규제와 윤리 과제
이번 보고서는 AI가 고위험 연구 분야에 사용될 때 발생할 수 있는 감시 회피 현상과 보안 문제를 구체화했다. Anthropic은 군사 및 민간 연구가 결합된 분야에 AI 기술이 투입되는 상황에서, 적절한 감독과 기술적 통제가 얼마나 중요한지를 부각시켰다. 또한, 규제 당국이 강화된 관리 체계를 마련하고, AI 공급사가 우회 시도를 막도록 기술적·운영상 노력을 해야 한다는 점도 강조했다.
보고서 작성에는 Anthropic 최고 보안 책임자와 주요 보안 팀이 참여하며, 회사가 AI의 복합적 안전 문제를 공개하고 업계와의 협력을 촉구하는 자세를 보인 점도 눈에 띈다.