미국 국방고등연구계획국(DARPA)이 인공지능을 활용해 미국 전자시장의 규칙과 설계에서 악용될 수 있는 취약점을 찾는 프로젝트에 나섰다. 주식·채권·에너지·클라우드 컴퓨팅 자원 시장을 대상으로 하며, 전통적인 해킹이나 데이터 탈취가 아니라 시장 작동 방식의 결함을 이용해 혼란과 경제적 손실, 나아가 군사 지원 차질을 일으키는 위험을 살피는 것이 핵심이다.
‘내재적 시장 회복력’ 프로젝트, 규칙의 허점 점검
DARPA는 이번 계획에 ‘내재적 시장 회복력(Intrinsic Market Resilience·IMR)’이라는 이름을 붙였다. 전자시장은 거래 효율과 속도를 높였지만, 시장 간 연계가 촘촘해지면서 한 곳의 장애나 교란이 확산될 가능성도 커졌다는 게 DARPA의 판단이다. 전자시장의 수와 참여자가 늘어날수록 특정 메커니즘의 결함이 더 넓은 파장으로 이어질 수 있다. 인공지능 등 신기술은 악의적 행위자가 공격을 실행하는 데 드는 문턱도 낮출 수 있다.
IMR 프로젝트 책임자인 매슈 와일딩(Matthew Wilding)은 자동 추론과 인공지능의 발전이 방어 수단을 새롭게 제공하는 동시에 공격에도 활용될 수 있다고 설명했다. 프로젝트는 이런 기술로 시장 설계를 분석해 시스템 실패를 초래할 수 있는 구체적 사례를 찾아내고 개선 방안을 제시하는 데 초점을 둔다. 일반적인 시스템 테스트에 그치지 않겠다는 취지다.
캘리포니아 에너지 시장과 2010년 ‘플래시 크래시’ 사례
DARPA는 프로젝트 설명에서 과거 두 사건을 사례로 들었다. 2000년대 초 규제 완화 직후의 캘리포니아 에너지 시장에서는 제도적 허점이 거래자들에게 악용됐고, 당시 혼란으로 인한 손실은 400억~450억 달러에 달한 것으로 알려졌다. DARPA에 따르면 연방정부는 군 시설의 천연가스 공급을 확보하기 위해 당시 국방물자생산법(Defense Production Act)을 발동해야 했다. 시장 메커니즘의 악용이 상업적 손실을 넘어 군사 대비태세에도 영향을 줄 수 있음을 보여주는 사례다.
또 다른 사례는 2010년 미국 증시에서 수분 만에 급락이 발생한 ‘플래시 크래시’다. 조사 당국은 한 개인의 시세조종성 거래가 사건에 일부 영향을 미쳤으며, 다른 문제도 복합적으로 작용한 것으로 판단했다. DARPA는 특정 매도 주문이 실제 체결되지 않아도 시장 설계상의 메커니즘을 통해 효과를 낼 수 있었고, 실행자에게 드는 비용도 거의 없었다고 설명했다. 이후 관련 취약점 상당수는 수정됐다.
대규모 언어 모델로 규정과 기술 문서를 시장 모델로
DARPA는 참여 기관들이 대규모 언어 모델을 활용해 규제 문서와 기술 사양을 컴퓨터 모델로 변환하고, 개별 시장의 작동 방식과 시장 간 상호작용을 표현하도록 할 계획이다. 미국 내 온라인 주식시장의 설계 결함을 찾아내고, 취약점 악용 가능성을 낮출 개선안을 제시하는 것이 목표에 포함됐다.
모델이 특정 시장의 회복력 기준 충족 여부를 입증하지 못할 경우, 실제로 어떤 실패가 발생할 수 있는지 구체적인 사례를 만들어 분석가가 문제를 찾고 보완책을 검토하도록 하는 방안도 추진한다. 와일딩은 시장의 신뢰성을 시험하는 데 그치지 않고, 어떤 측면에서 회복력이 있는지와 취약한 부분은 무엇인지, 이를 어떻게 개선할 수 있는지도 분석하겠다고 밝혔다.
이익 목적의 위법 거래보다 시장 교란 위험에 초점
DARPA는 IMR이 개인의 경제적 이익을 목적으로 한 위법 행위처럼 규제 당국이 통상 추적하는 시장 조작을 겨냥한 프로젝트는 아니라고 강조했다. 시장을 교란하거나 경제적 피해와 불안정을 일으키려는 행위자, 그리고 현행 법률·규제 장치가 놓칠 수 있는 공백을 주요 분석 대상으로 삼는다.
이번 계획은 디지털 인프라 위험을 국가 안보 차원에서 다루려는 미국의 관심을 보여준다. 향후 공격은 전통적인 군사 행동뿐 아니라 디지털 시스템과 공급망, 시장의 취약한 지점을 이용하는 방식으로도 영향을 미칠 수 있다. DARPA는 모델을 통해 시장 구조에 내재한 위험을 드러내려 하지만, 실제로 어떤 시장 설계를 조정해야 할지는 후속 분석과 검증을 거쳐 판단할 사안이다.