메타는 인스타그램이 ‘No Kings’ 운동 계정에서 발생한 비정상적으로 집중된 자동화 조회를 로봇 활동으로 잘못 판단해 수시간 동안 계정을 정지했다고 밝혔다. 이 계정은 전국 단위 집회 기간 유권자들에게 사전투표를 안내하고 참여를 독려하는 데 사용됐으며, 계정 제한으로 주최 측은 관련 정보를 제때 게시하지 못했다.
Claude 도구의 고강도 조회가 탐지 원인
메타 대변인 앤디 스톤은 일요일 엔지니어링팀의 재검토 결과, 잘못된 조치의 주된 원인은 계정의 게시 활동이 아니라 콘텐츠를 ‘읽는’ 행위였다고 밝혔다. 보안 시스템은 Claude 도구가 개인 프로필과 게시물, 해시태그를 조회한 사실을 감지했다. 이 활동은 10월 17일 단시간에 집중적으로 발생했으며, 조회량은 평소의 약 4배에 달했다.
메타는 이 같은 접근 패턴이 로봇 트래픽과 유사하다고 판단했고, 자동화된 시스템이 계정을 비활성화했다. 회사는 앞서 계정 정지가 자동화 메커니즘의 ‘오작동’으로 발생했다고만 설명했지만, 이후 비정상 트래픽으로 분류된 구체적인 이유를 추가로 공개했다.
계정은 수시간 뒤 복구
‘No Kings’ 측은 토요일 열린 전국 단위 집회 기간에 관리자들이 계정에 접근할 수 없었으며, 제한은 수시간 동안 이어졌다고 밝혔다. 메타는 계정이 삭제된 지 약 1시간 뒤 자동 검토 절차가 해당 조치가 부적절했다는 점을 확인해 계정을 복구했다고 설명했다. 다만 관리자 권한 문제를 처리하는 데는 추가 시간이 걸렸다.
스톤은 소셜미디어를 통해 계정 운영진에게 사과했다. 그는 메타가 이번 오류에 대해 깊이 사과한다고 밝혔지만, 해당 Claude 도구를 누가 운영했는지는 설명하지 않았다. 최초 검토 과정에서 관리자 권한이 즉시 복구되지 않은 이유도 공개하지 않았다.
조직 측, 투표 관련 정보 제한 경위 설명 요구
‘No Kings’ 네트워크는 스스로를 초당파적 조직으로 규정하고 있다. 이 조직은 지난해 도널드 트럼프 미국 대통령에 반대하는 활동을 계기로 형성됐다. 조직 측에 따르면 토요일 미국 전역에서 약 3,000건의 집회가 열렸으며, 주요 목적은 유권자들의 사전투표를 독려하는 것이었다. 조직은 사전투표를 선거 참여가 방해받을 위험을 낮추는 방법으로 제시했다.
조직 측은 선거 기간 투표 관련 소통을 제한한 것은 “받아들일 수 없다”며 메타에 이번 정지 사유를 설명하고 유사한 일이 재발하지 않도록 조치를 마련하라고 요구했다. 쟁점은 계정이 복구됐는지에만 그치지 않는다. 플랫폼의 자동화 보안 시스템이 정상적인 대규모 정보 확산, 제3자 도구의 접근, 실제 로봇 조작을 어떤 기준으로 구분하는지도 논란이 됐다.
메타가 공개한 내용에 따르면 이번 조치는 계정에 게시된 콘텐츠 자체가 아니라, 짧은 시간에 급증한 프로필·게시물·해시태그 조회로 촉발됐다. 계정은 복구됐지만, 조직 측은 관리자 접근 권한이 늦게 회복된 점과 대규모 공공 행사가 진행되는 동안 플랫폼이 오인 탐지를 어떻게 처리하는지에 대한 설명을 계속 요구하고 있다.