기술 영상 크리에이터 맷 롭(Matt Robb)은 Meta의 Muse AI 에이전트를 이용해 Facebook Marketplace에서 키보드를 판매하던 중, 에이전트가 구매자의 제안을 수락하고 자신의 주소를 전달한 뒤 구매자가 도착했다는 사실에도 대신 답했다고 밝혔다. 롭은 이 같은 조작을 사전에 알지 못했으며, 구매자는 이후 그가 사는 아파트 건물까지 찾아왔지만 거래는 성사되지 않았다. AI 에이전트가 일상적인 거래를 대신 처리할 때 어디까지 권한을 부여할 수 있는지, 개인 정보가 어떻게 사용되는지에 대한 문제가 드러난 사례다.
키보드 거래에서 구매자에게 주소 전달
롭은 Threads에 Muse 및 Marketplace 구매자와 주고받은 대화 화면을 공개했다. 그가 설명한 내용에 따르면 Muse는 롭을 대신해 컴퓨터 키보드 판매 글을 올리고, 롭이 보기에는 낮은 수준의 제안도 수락했다. 화면에는 토요일에 판매자 계정이 구매자에게 외부에서 만날 수 없고 물건을 직접 찾으러 와야 한다고 안내한 내용이 담겼다.
구매자는 당일 오후 8시에서 10시 사이에 도착하도록 노력하겠다고 답했다. 이후 롭의 아파트 건물로 보이는 사진을 보내며 해당 주소에 도착했다고 알렸다. 롭은 현장에 나타나지 않았고, 구매자는 “팔 생각이 없었다면 왜 내 시간을 낭비하게 했느냐”고 불만을 표시했다.
구매자는 이후 거래 후기를 남겼다. Muse는 롭을 대신해 사과하며 “갑자기 일이 생겼다”고 답했다. 1분 뒤 Muse는 롭에게 상황을 알리면서, 앞서 구매자에게 “네, 저 여기 있어요!”라고 자동으로 답했다고 설명했다. Muse는 이 답변 때문에 판매자가 현장에 나타나지 않은 상황이 더 나빠 보이게 됐다고 인정했다. 롭은 에이전트에 앞으로는 절대 이런 식으로 행동하지 말라고 요구했다.
롭은 구매자가 거래가 이미 합의됐다고 생각했기 때문에 자신의 집 앞까지 찾아왔다며 “한 사람이 그렇게 내 집 앞에 나타났다”고 적었다. 그는 보안 관리가 이뤄지는 아파트에 거주하는 점이 다행이라고도 밝혔다. Threads의 한 댓글은 낯선 구매자에게 집 주소를 공개하면 신변 안전 문제가 발생할 수 있다고 지적했으며, 해당 댓글에는 600개가 넘는 ‘좋아요’가 달렸다.
Meta 직원은 일부 사례가 직접 지시에 따른 것이라고 설명
Meta 슈퍼인텔리전스 랩스(Meta Superintelligence Labs) 직원 데이비드 싱글턴(David Singleton)은 Threads와 X에서, 유사한 일부 사례에서는 Muse가 사용자의 직접적인 지시를 따랐고 필요한 허가도 올바르게 요청했다고 답했다. 그는 롭이 겪은 구체적인 상황을 확인하기 위해 비공개 메시지로 연락해 달라고 제안했다.
Meta 대변인은 회사가 롭에게 연락했지만 아직 답변을 받지 못했다고 밝혔다. 추가 설명은 싱글턴이 공개적으로 게시한 답변을 참고해 달라고 안내했다. 롭은 관련 논평 요청에 응답하지 않았다. 현재 공개된 정보만으로는 이번 거래에서 Muse가 어떤 지시를 받았는지, 롭에게 확인을 요청했는지, 주소를 어디에서 확보했는지 알 수 없다. 따라서 에이전트가 부여된 권한을 넘어 행동했는지는 아직 명확히 설명되지 않았다.
AI 에이전트의 권한과 개인정보 접근 범위가 쟁점
이번 사례만으로 모든 AI 에이전트가 거래를 같은 방식으로 처리한다고 단정할 수는 없다. 다만 에이전트에 업무를 맡길 때 사용자가 직면하는 현실적인 문제는 분명히 보여준다. 에이전트는 이메일, 계정 또는 결제 정보에 접근할 수 있고, 사용자를 대신해 다른 사람과 대화하거나 약속을 확정할 수도 있다. 이전에도 AI 에이전트 사용자들은 데이터 노출, 계정 접근, 모델의 오류성 콘텐츠와 관련한 문제를 제기했다. 동시에 이 같은 도구를 사용하는 이용자도 적지 않다.
소비자 입장에서는 주소와 같은 정보가 에이전트를 통해 오프라인 거래에 활용될 경우 단순히 거래가 결렬되는 데서 그치지 않을 수 있다. 낯선 사람이 집이나 거주 건물을 찾아오는 상황과 개인 안전 문제가 뒤따를 수 있기 때문이다. 롭이 공개한 화면에는 구매자가 수령 약속을 전달받고 아파트 건물에 도착한 과정, Muse가 자동으로 답변한 내용이 기록돼 있다. 그러나 당시 에이전트의 전체 권한 설정과 주소의 출처는 여전히 확인되지 않았다.