미국 은행과 결제업체가 결제·계좌 개설·금융 서비스에 AI 에이전트 도입을 늘리고 있지만, 에이전트가 잘못된 거래를 실행하거나 조작에 이용되고 고객 권한을 넘어설 경우 누가 책임질지는 아직 불분명하다. 소비자의 환급 가능성뿐 아니라 은행, 결제망, 가맹점, 기술기업과 핀테크 업체 간 운영 위험의 배분에도 영향을 미치는 문제다.
베인앤드컴퍼니는 미국의 에이전트 기반 상거래 지출이 2030년 연간 5,000억 달러에 이를 수 있다고 전망했다. 거래 규모가 커질수록 책임 기준을 명확히 하는 일이 서비스 확산의 전제 조건으로 떠오르고 있다.
연준 워럴 이사, ‘잘못된 구매’ 책임 문제 제기
크리스토퍼 워럴 연방준비제도(Fed) 이사는 9월 29일 시보스(Sibos) 행사에서 에이전트 기반 상거래가 확대되려면, 특히 AI가 소비자를 대신해 결정을 내리는 경우 거래 당사자 간 신뢰가 먼저 형성돼야 한다고 말했다.
워럴 이사는 소비자가 AI 에이전트에 스웨터 구매를 맡겼지만 에이전트가 잘못된 사이즈를 주문하고 은행이 결제를 승인하는 상황을 예로 들었다. 은행이 결제를 승인했다고 해서 에이전트가 소비자가 원한 상품을 구매한 것은 아니라는 설명이다. 그는 결제망 규정과 소비자 보호 기준 등 기존 전자상거래 책임 체계를 에이전트 거래에 맞게 조정해 적용할 수 있으며, 감독당국이 새로운 처리 방식을 시험할 수도 있다고 밝혔다.
위험이 해커나 사기범의 AI 조작에서만 발생하는 것은 아니다. 에이전트가 당초 입력된 지시나 설정에서 벗어날 수 있고, 소비자나 가맹점 등 거래 과정의 참여자가 단순한 실수를 저지를 수도 있다. 에이전트가 계좌 밖으로 자금을 보내는 경우, 잘못 설정한 사용자나 권한 초과를 허용한 모델 제공업체, 이상 징후를 알고도 거래를 승인한 은행 중 누가 책임질지가 쟁점이다.
Lead Bank, 오류 유형별 책임 배분안 제시
미주리주 캔자스시티에 본사를 둔 Lead Bank는 주 정부 인가 은행으로, 핀테크·디지털자산 기업과 소비자 브랜드에 뱅킹 서비스형 플랫폼을 제공한다. 재키 레이서스 최고경영자(CEO)는 기존 은행의 고객 확인·인증 절차가 사람을 중심으로 설계돼 왔으며, 대개 봇을 걸러내는 데 초점을 맞췄다고 말했다. 그러나 기계가 사람보다 많고 처리 규모도 커지는 환경에서는 기존 접근 방식이 달라져야 한다는 설명이다.
레이서스 CEO는 거래 오류 자체보다 통제 장치와 프로그래밍 요건, 문제가 발생했을 때의 책임 체계를 마련하는 일이 중요하다고 강조했다. Lead Bank는 에이전트 기반 뱅킹과 결제를 위한 법적 틀을 설계하고, 오류 유형에 따라 실제 통제력을 가진 주체에 책임을 배분하는 ‘책임 단계’ 방안을 제안했다.
이 방안에 따르면 AI 에이전트가 소비자가 명시적으로 허용한 범위를 벗어난 경우 소비자는 책임을 지지 않는다. 은행이 권한 설정을 통제하면서도 관련 제한을 적용하지 않았다면 은행이 책임을 져야 한다. 모델 결함, 안전하지 않은 도구 호출, 미흡한 보호 장치가 원인이라면 AI 제공업체가 책임을 부담하고, 에이전트의 권한이 제한돼 있다는 점을 알면서도 초과 거래를 유도한 가맹점 역시 책임을 질 수 있다.
이 같은 구상은 문제가 발생한 뒤 책임을 다투기보다 거래 전에 시스템에 규칙을 반영하는 데 목적이 있다. 다만 실제 책임은 권한이 어떻게 설정됐는지, 은행이 이상 신호를 받았는지, 각 당사자가 해당 절차를 통제했다는 점을 입증할 수 있는지에 따라 달라질 수 있다.
Primitive, 에이전트 금융 서비스 표준 개발
전 US뱅코프 최고디지털책임자(CDO) 데릭 화이트가 창업한 기술 스타트업 Primitive도 AI 에이전트의 책임과 운영 기준을 마련하고 있다. 화이트는 소비자들이 이미 ChatGPT 등 AI 모델을 이용해 금융 서비스 제공업체를 찾고 있으며, 앞으로는 에이전트가 지정된 은행에 직접 계좌를 개설하도록 요구할 가능성도 있다고 말했다.
Primitive가 추진하는 기준 가운데 하나는 ‘에이전트 금융 서비스 프로토콜(Agentic Financial Services Protocol)’이다. 기업들이 공통된 보호 요건에 따라 AI 에이전트를 개발하도록 돕는 것이 목표다. 화이트에 따르면 이 프로토콜은 에이전트가 각 세션에서 거버넌스 규칙을 준수했는지, 어떤 대규모언어모델(LLM)을 호출했는지, 토큰 비용이 얼마나 발생했는지를 기록하도록 요구한다.
이 기록은 규제당국이나 감사인이 검토할 수 있도록 정리할 수 있어 에이전트의 의사결정 과정을 추적하는 데 도움이 된다. 은행도 기록을 통해 문제가 사용자 지시, 모델의 동작, 도구 호출 또는 거래 승인 절차 중 어디에서 발생했는지 가려낼 수 있다.
기술적 통제 수단은 마련됐지만 규제 정비는 과제
레이서스 CEO는 현재 기술로도 에이전트의 행동을 제한하고 사후 책임을 추적할 수 있다고 말했다. Lead Bank의 프로그래밍형 인터페이스(API)는 행동 편차를 감시하고 시스템 작동 증거를 기록하며, ‘에이전트 파악(know-your-agent)’ 정보를 주기적으로 갱신하는 데 활용될 수 있다. 거래 자격 증명을 발급하고 필요할 경우 이를 취소하는 기능도 갖췄다.
그는 은행과 결제 관련 규제가 에이전트형 AI 활동에 어떻게 적용될지가 더 큰 과제라고 봤다. 법·규제 체계가 명확해지지 않으면 은행은 어떤 통제 조치가 책임 이행에 충분한지 판단하기 어렵고, 소비자도 거래 오류가 발생했을 때 누가 배상할지 미리 알기 어렵다.
카드 네트워크, 전자상거래 플랫폼, 결제 서비스업체, 기술기업, FIDO 얼라이언스와 은행들이 관련 표준 마련에 참여하고 있다. 소비자 사이에서는 AI 에이전트에 결제를 맡기는 데 대한 우려가 남아 있지만, 시장 규모는 확대될 것으로 예상된다. 에이전트에 검색·계좌 개설·결제 권한을 부여하는 사례가 늘수록 권한 기록과 거래 자격 증명, 모델 감사, 권한 초과 거래의 책임 배분이 금융기관의 구체적인 도입 과제로 부상하고 있다.