구글 딥마인드의 인공지능 에이전트 두 개가 이미 해결된 1024비트 RSA 관련 계산을 3일 22시간 만에 재현했다. 코드 작성과 시험, 분산 작업 실행, 오류 진단까지 수행했으며, 연구진은 주로 승인 절차를 위해 약 20차례 메시지를 보냈다. 이번 실험은 사람이 과제와 자원 한도를 정한 뒤 에이전트가 복잡한 계산을 진행할 수 있음을 보여줬지만, 논문에서 제시한 새로운 이론 알고리즘을 검증한 것은 아니다. 현재 널리 쓰이는 RSA 시스템이 직접적인 위협을 받는다는 의미도 아니다.
이미 알려진 RSA 서명 계산을 재현
실험은 RSA 디지털 서명을 대상으로 했다. 모의 서명 서비스는 목표가 정해지기 전에 약 40억 차례의 사전 질의를 받았고, 이후 서비스를 중단했다. 에이전트는 추가 질의 없이 새 서명을 만드는 데 필요한 수학적 근을 계산했다. 개인키를 복원한 것은 아니다.
딥마인드 연구자 푸시밋(Pushmeet)은 11월 6일 이 연구를 소개했다. 논문은 이미 해결된 기준 사례를 샌드박스 환경에서 재현한 실험으로 설명했다. 또한 2048비트 이상 RSA 키를 사용하는 배포된 암호 시스템에는 위협이 되지 않는다고 밝혔다.
CPU 사용량은 줄었지만 동일 조건 비교는 아냐
워킹 페이퍼에 따르면 이번 계산에는 CPU 코어 기준 391년분의 연산량이 사용됐다. 같은 사례와 알고리즘을 활용한 기존 팀의 기록인 약 1,380 CPU 코어년보다 적은 규모로, 보고된 수치만 비교하면 약 3.5배 줄었다. 다만 두 계산은 서로 다른 하드웨어에서 진행돼 엄밀한 동일 조건 비교로 볼 수 없다. 이 수치가 전체 재무 비용을 뜻하는 것도 아니다.
391 CPU 코어년에는 GPU 작업과 약 7.5 코어년에 해당하는 사전 탐색·예행 작업이 포함되지 않았다. 실험을 위해 GPU 시간 약 330시간도 별도로 확보했으며, 이 가운데 실제 사용 중 상태였던 시간은 약 100시간이었다. 딥마인드는 첫 대규모 선별 작업을 시작한 시점부터 결과 검증까지 약 3.2일이 걸렸고, 최대 약 30만 개의 CPU 코어와 GPU 16개를 동원했다고 밝혔다. 이전에 약 5개월이 걸렸던 작업과의 차이는 연구진이 주로 병렬 처리 능력에 따른 것으로 설명했다.
에이전트가 실행하고 연구진이 승인
연구진은 문제와 구체적인 사례, 서명 서비스의 제한 조건을 정했으며, 되돌릴 수 없는 작업에 앞서 관련 조건을 승인했다. 논문에 따르면 연구진은 코드를 작성하거나 계산 작업을 시작하지 않았고, 오류 진단도 수행하지 않았다.
실행 에이전트는 프로그램을 작성·시험하고 분산 작업을 시작한 뒤 실행 중 문제를 수정했다. 감독 에이전트는 설계와 자원 예산, 점검 절차를 추적했으며, 선형대수 단계의 속도를 높이기 위해 전용 하위 에이전트를 호출했다. 두 에이전트는 새 코드 약 3만3,500줄을 작성하고 분산 실험 336회를 실행했으며, 서로 218개의 메시지를 주고받았다.
첫 번째 계산 결과로 나온 수학적 근은 틀렸다. 32비트 오프셋에서 오버플로가 발생했기 때문이다. 정확성 검사에서 오류가 발견되자 에이전트가 원인을 찾아 수정했으며, 사전 서명 질의를 다시 수행하지는 않았다. 설계부터 결과 검증까지 걸린 시간은 3일 22시간이었다. 연구진이 약 20차례 메시지를 보내고 각 단계에서 승인한 점은 이 작업이 완전히 무인으로 진행된 것이 아님을 보여준다.
CPU 절감은 새 알고리즘 검증과 별개
논문에 보고된 CPU 사용량 감소는 기존 알고리즘의 구현과 실행을 개선한 결과다. 서명 접근 조건을 더 엄격하게 제한하는 새로운 알고리즘을 이번 실험에서 입증한 것은 아니다.
‘팬 팩토리(Fan Factories)’를 다룬 별도 논문은 공유 사전 계산 비용이 일반 수체 체의 인수분해 한 차례에 드는 비용과 비슷하다고 가정할 경우, 1024비트 목표가 하나 늘어날 때의 비용이 다중 수체 체 인수분해보다 약 30배 낮을 수 있다고 추산했다. 이는 점근적 비용 추정치이며, 현재 구현된 팬 팩토리는 없다.
워킹 페이퍼는 주요 모델의 구체적인 이름을 공개하지 않고 A와 B로만 표기했다. 공개 구현 코드 저장소 링크도 제공하지 않아 외부 연구자들이 모델 성능을 독립적으로 비교하기는 어려운 상황이다. 이번 재현 결과를 해석할 때는 CPU 수치와 GPU 자원, 연구진의 승인 절차를 함께 고려해야 한다.