앤트로픽이 이번 주 기업공개(IPO)를 추진하는 가운데, 내부 자료와 직원 인터뷰를 검토한 독립 평가에서 AI 모델 연구개발 속도가 회사가 정한 가속 경계선에 근접했으며 7월에는 이를 넘어섰을 가능성이 제기됐다. 평가기관은 AI 가속으로 인한 재앙적 위험 가능성은 여전히 낮다고 봤다. 다만 앤트로픽이 아직 경계선을 넘지 않았다고 판단한 데에는 충분히 설명되지 않았고 논란의 여지가 있는 평가 기준이 반영됐다고 지적했다.
캘리포니아주 비영리 연구기관인 Model Evaluation and Threat Research(METR)는 11월 초 이 평가를 공개했다. 앤트로픽은 8월 안전성 평가에서 7월 15일 기준으로 모델이 경계선을 넘었을 위험은 낮다고 밝혔다. METR의 새 보고서는 회사가 공개한 보고서와 제공한 일부 내부 위험 자료를 다시 살펴봤다. 두 평가 간 차이로 IPO를 앞둔 앤트로픽의 안전 관리와 연구개발 속도에 관심이 쏠리고 있다.
METR 추정치, 과거 기준 대비 1.9배
앤트로픽의 내부 경계선은 일부 연구·개발 업무에서 모델이 사람의 개입을 줄인 채 수행하는 능력이 2배 향상되는 수준이다. 여기서 2배는 2018~2024년의 기술 발전이 1년 안에 이뤄지는 속도를 뜻하며, 연구개발 가속도를 가늠하는 기준으로 쓰인다.
METR는 2024년 3월부터 2025년 10월까지의 변화를 분석해 앤트로픽 모델의 역량 향상 속도가 과거 기준의 약 1.9배라고 추산했다. 앤트로픽이 공개하지 않은 위험 보고서에 내포된 추정치는 1.97배였다. 다만 다른 합리적인 지표를 적용하면 결과는 1.3~2.8배까지 달라질 수 있으며, 구체적인 수치는 측정 방식에 좌우된다고 METR는 설명했다.
METR는 앤트로픽이 공개 보고서에서 제시한 ‘2배 가속 기준에 아직 도달하지 않았다’는 주장의 근거가 과대평가됐다고 봤다. 해당 기준이 7월 15일에 이미 충족됐을 가능성도 있다고 밝혔다. 다만 앤트로픽이 일부 정보와 데이터를 공개하지 않아 외부 평가에 한계가 있으며, 과업의 정의가 명확한지도 역량 향상 속도 측정에 영향을 줄 수 있다고 덧붙였다.
AI 시스템의 연구 참여가 생산성 향상에 기여
보고서는 10월 앤트로픽의 성장분 가운데 약 80%가 컴퓨팅 자원을 늘린 데서 비롯된 것이 아니라, AI 시스템이 AI 연구를 지원한 데서 나왔다고 밝혔다. 연구개발 가속이 더 많은 컴퓨팅 자원 투입뿐 아니라 연구 과정에서 AI 도구를 활용하는 정도와도 관련돼 있다는 분석이다.
METR는 앤트로픽 직원들이 사내 모델을 사용한 뒤 생산성이 12배 높아졌다고 답한 점도 언급했다. 2021~2025년 기준과 비교하면 회사의 분기별 코드 산출량은 약 8배로 늘었다. 이 수치는 내부 도구가 연구개발 효율에 미친 영향을 보여주지만, 전체 모델 역량 향상과의 관계는 어떤 기준으로 측정하느냐에 따라 달라질 수 있다.
METR는 뚜렷한 병목이나 한계효용의 현저한 감소를 확인하지 못했다며, 향후 12개월 동안 역량 발전 속도가 더 빨라질 수 있다고 봤다. 다만 평가 범위가 제한적이어서 연구개발 속도를 제약하는 요인을 놓쳤을 가능성도 인정했다. 이는 확정적인 전망은 아니라고 덧붙였다.
IPO 앞두고 안전 대책과 개발 속도 주목
앤트로픽의 최고경영자(CEO) 다리오 아모데이는 기술 발전 속도를 늦춰야 한다고 여러 차례 주장해 왔다. 그는 9월 AI가 심각한 위험을 초래할 수 있다고 경고하면서, 기술 역량의 발전이 안전 대책의 정비보다 빠를 수 있다고 지적했다. 오픈AI CEO 샘 올트먼 등 업계 인사들도 미래의 AI가 스스로 발전해 인간의 통제를 벗어날 가능성을 거론한 바 있다.
METR는 연구개발 효율 향상이 AI 업계의 컴퓨팅 수요와 운영·개발 비용 증가 우려를 일부 완화할 수 있다고 평가했다. 동시에 모델 역량이 빠르게 향상되면서 안전 대책이 그 속도를 따라갈 수 있는지를 둘러싼 논의도 다시 부각됐다. METR는 앤트로픽과 오픈AI를 비롯한 AI 연구소들과 평가·연구 협력을 진행해 왔으며, AI 시스템의 독립 평가에도 참여했다.
앤트로픽은 수요일 IPO 공모가를 정하고 목요일부터 거래를 시작할 계획이다. 회사는 최대 1조4,000억 달러의 기업가치를 목표로 하는 것으로 전해졌으며, 나스닥 글로벌 셀렉트 마켓에 종목 코드 ‘ANT’로 상장할 예정이다. 가속 경계선에 관한 METR의 판단에는 여전히 데이터 공백과 평가 방법의 차이가 남아 있다. IPO를 앞두고 공개 보고서와 내부 평가 간의 차이는 앤트로픽의 안전 관리 체계를 살펴보는 주요 쟁점이 되고 있다.