이더리움 공동 창업자 비탈릭 부테린은 인공지능(AI)이 수학 연구를 빠르게 진전시키면서 기존 암호화 서명과 일부 양자내성 암호의 보안 여유가 줄어들 수 있다고 경고했다. 다만 비트코인과 이더리움에 쓰이는 타원곡선 서명이 실제로 해킹됐다는 증거는 없으며, 보유자들이 서둘러 자산을 새 지갑으로 옮길 필요는 없다고 강조했다. 이전 과정에서 실수하면 현재 확인되지 않은 해킹 위험보다 더 직접적인 손실이 생길 수 있다는 설명이다.
부테린은 10월 7일 관련 위험을 낮출 수 있다면 조치를 취하되, 대규모 자산 이전을 즉시 진행하는 것은 권하지 않는다고 밝혔다. 그는 해킹으로 인한 손실보다 이전 실패로 입은 손실이 더 컸다고 덧붙였다.
OpenAI의 수학 성과가 촉발한 암호학 논의
이번 논의는 앞서 이더리움 연구원 저스틴 드레이크가 업계에 ‘요새 모드(fortress mode)’를 준비하자고 촉구하면서 부각됐다. 드레이크는 온체인에서 공개키가 노출된 적 없는 새 주소로 자산을 옮기는 방안 등을 검토해야 한다고 주장했다. AI 발전이 비트코인과 이더리움의 기반인 타원곡선 암호를 겨냥한 수학적 공격을 앞당길 수 있다는 우려에서다.
논의가 커진 계기는 OpenAI가 10월 6일 내부 최첨단 모델이 산출한 수학적 성과를 공개한 일이었다. 여기에는 Lean으로 형식화한 기계 생성 증명도 포함됐다. OpenAI는 블록체인 암호체계를 공격했다고 발표하지 않았으며, 부테린과 드레이크 역시 ECDSA가 실제로 깨졌다는 증거를 제시하지 않았다.
부테린의 우려는 타원곡선에만 국한되지 않는다. 그는 격자 기반 암호, 특히 ML-DSA를 언급하며 AI가 주도하는 수학적 발견이 향후 2년 안에 이들 방식의 보안 여유에 대한 평가를 바꿀 수 있다고 봤다. 양자컴퓨터에 대비하는 업계에는 추가 과제가 될 수 있다. 격자 암호는 양자컴퓨터가 위협할 수 있는 기존 암호기술을 대체할 주요 후보 중 하나이며, 미국 국립표준기술연구소(NIST)는 2024년 ML-DSA를 양자내성 디지털 서명 알고리즘으로 표준화했다.
부테린은 이들 암호체계의 토대가 되는 수학적 구조에서 아직 발견되지 않은 약점이 나올 가능성을 지적했다. 정수 인수분해 연구의 발전을 예로 들었다. 일반 수체 체와 같은 기법은 RSA 공격에 필요한 계산량을 크게 낮췄고, 이에 따라 암호체계는 더 긴 키를 채택해 왔다. 그는 AI가 수십 년에 걸친 수학적 진전을 짧은 기간에 압축하고 타원곡선이나 격자 문제에 대한 공격 기법을 개선할 수 있다고 봤다.
부테린은 “AI가 2년 안에 50년치 수학 발전을 이룰 수 있다면” 격자 암호를 공격하는 능력도 크게 높아질 수 있다고 썼다. 다만 이는 가능한 연구 방향에 대한 논의이지, 실용적인 암호 해독 수단이 확인됐다는 뜻은 아니다.
이더리움 로드맵, 해시 기반 설계 비중 확대
이 같은 우려는 이더리움 개발자들이 해시 함수 기반 암호 설계를 선호하는 배경 중 하나다. 부테린에 따르면 이더리움의 ‘슬림’ 로드맵은 지난 1년간 해시만 사용하는 시스템 쪽으로 점차 이동했다. ML-DSA와 Falcon 등 격자 서명 방식의 채택을 줄이고, 영지식증명에서 격자 커밋먼트에 의존하는 정도도 낮추는 방향이다.
WOTS와 SPHINCS 같은 해시 서명 방식은 이 방향에서 더 큰 비중을 차지한다. 해시 기반 방식은 타원곡선이나 격자 암호보다 연구자들이 새로운 계산상 지름길을 찾아낼 수 있는 복잡한 수학 구조에 대한 의존도가 낮다. 타원곡선은 군 연산 등의 성질에 기대고, 격자 암호는 계산이 어렵다고 여겨지는 여러 문제를 기반으로 한다. 공격 기법이 효율화되면 실제 보안 수준에 대한 평가도 달라질 수 있다. 해시 함수의 수학적 구조는 비교적 단순하지만, 해시만으로 모든 암호학적 요구를 충족할 수 있는 것은 아니다.
안전한 통신과 익명 통신, 웹사이트 연결 등에 쓰이는 공개키 암호는 보통 해시 함수만으로 구현할 수 없다. 이런 시스템은 권한이 있는 사용자만 복호화할 수 있도록 하는 ‘트랩도어’를 만들 특정 수학 구조가 필요하다. 부테린은 AI가 암호 분석의 효율을 크게 높인다면 이런 구조에 의존하는 시스템의 보안 매개변수를 상향해야 할 수도 있다고 봤다. 일부 상황에서는 키 크기를 현재의 10배로 늘리는 것이 합리적일 수 있다고 언급했다.
영향은 블록체인에만 그치지 않을 수 있다. 보안 메신저와 VPN, Tor, 암호화된 웹 트래픽, 개인정보 보호 프로토콜 등도 키 크기 확대에 따른 성능 저하와 보안 여유 사이의 균형을 검토해야 할 수 있다.
공개키 노출은 살피되 성급한 이전은 피해야
암호자산 보유자가 당장 고려할 수 있는 대응은 제한적이다. 한 번도 거래에 서명하지 않은 주소에 자산을 보관하면 공개키는 일반적으로 주소 해시 뒤에 숨겨져 있다. 계정에서 거래를 한 차례라도 실행하면 공개키가 드러난다. 이 차이는 향후 암호학적 위험에 노출되는 정도와 관련될 수 있지만, 현재 공격이 진행 중이라는 의미는 아니다.
멀티시그 운영자는 오프체인에서 서명을 모으고 작업이 끝난 뒤 서명 키를 교체해, 노출된 키가 악용될 수 있는 시간을 줄이는 방안도 검토할 수 있다. 다만 키 교체와 자산 이전 역시 신중하게 진행해야 한다. 지갑 서비스 업체와 수탁기관, 프로토콜 개발자는 암호학의 장기적 변화에 대비하는 한편, 업그레이드 과정에서 새로운 운영상 오류가 생기지 않도록 살펴야 한다.
현재 공개된 정보상 비트코인이나 이더리움의 ECDSA 서명이 실제로 뚫렸다는 정황은 없다. 부테린의 핵심 메시지는 AI가 수학 연구와 암호 분석에 미칠 수 있는 영향을 주시하되, 잠재적 위험을 자산을 즉시 옮겨야 한다는 긴급 신호로 받아들이지 말라는 것이다.