이더리움 공동창업자 비탈릭 부테린이 10월 16일 AI 에이전트의 개인정보 노출을 줄이기 위한 ‘패러노이드 모드’를 공개했다. Tor, 위장 트래픽, 기기 내 프롬프트 재작성, zkAPI 결제 증명을 결합한 방식이다. AI 서비스 제공자가 사용자의 신원과 요청 경로, 결제 정보를 연결하기 어렵게 하려는 취지지만, 부테린은 응답 지연이 늘고 공모 공격을 충분히 막지 못할 수 있다고 밝혔다. 코드는 공개됐으나 전체 시스템은 아직 실험 단계다.
네 가지 도구로 네트워크·요청·결제 단서 분산
이 설계는 AI 요청에 남을 수 있는 여러 종류의 단서를 각각 다룬다. Tor는 대화마다 별도의 네트워크 경로를 사용해 사용자의 IP 주소를 숨기는 역할을 한다. 위장 요청은 가짜 트래픽을 추가해 실제 요청을 전체 흐름에서 식별하기 어렵게 만든다.
프롬프트 입력 단계에서는 사용자 기기에서 소형 AI 모델이 내용을 먼저 다시 작성한다. 개인을 특정할 수 있는 정보를 가능한 한 덜어내려는 방식이다. 다만 AI 서비스 제공자가 요청 자체를 볼 수 없게 하는 것은 아니며, 프롬프트에 포함된 식별 단서를 줄이는 데 목적이 있다.
결제에는 zkAPI를 적용한다. 암호학적 증명을 통해 요청 비용이 지불됐다는 점은 확인하면서도 결제자의 신원은 직접 공개하지 않도록 설계됐다. 네 가지 조치는 각각 네트워크 주소, 요청 패턴, 프롬프트 내용, 결제 기록에서 발생할 수 있는 연결 단서를 겨냥한다.
금융 관련 대화, 투자 관심사 드러낼 수 있어
지갑이나 금융 서비스에 접근할 수 있는 AI 에이전트와의 대화에는 민감한 정보가 담길 수 있다. 특정 토큰에 관해 질문하거나 보유 자산 분석을 요청하는 것만으로도 사용자의 투자 관심사가 드러날 수 있다. 사용자가 이름을 밝히지 않더라도 결제 기록과 네트워크 주소, 여러 프롬프트에 반복해서 나타나는 세부 정보가 같은 사용자를 식별하거나 요청을 서로 연결하는 데 쓰일 가능성이 있다.
따라서 이 방안이 다루는 문제는 대화 내용의 공개 여부에 그치지 않는다. 서비스 제공자가 요청을 특정 사용자나 네트워크 경로, 결제 정보와 연계할 수 있는지도 핵심이다. 금융 업계에서는 이런 프라이버시 설계가 사용자가 계정과 재정 관련 질문을 AI 에이전트에 맡길지에 영향을 줄 수 있다. 다만 이 방안이 광범위하게 도입되거나 검증됐다는 정보는 공개되지 않았다.
부테린 “지연 늘고 공모 공격 방어에도 한계”
프라이버시 보호 단계를 늘리면 실제 사용 과정에서 비용과 제약이 뒤따른다. 부테린은 패러노이드 모드가 지연을 늘릴 것이라고 인정했다. 여러 참여자가 공모하는 경우 정보가 서로 연결되는 것을 완전히 막기도 어렵다. Tor와 위장 트래픽, 기기 내 재작성, zkAPI가 서로 다른 단서를 줄이지만 모든 공격 상황에서 사용자의 신원을 숨긴다고 보장할 수는 없다.
코드는 공개돼 구현 내용을 확인할 수 있다. 그러나 코드 공개가 시스템의 성숙이나 효과 검증을 뜻하는 것은 아니다. 현재 사용자가 살펴볼 부분은 실제 작동 성능과 추가 응답 시간, 그리고 여러 서비스 제공자가 협력할 때 어느 정도의 보호가 가능한지다.