마이크로소프트 사장 브래드 스미스가 인공지능(AI)에 대한 글로벌 안전 규정을 조속히 마련해야 한다고 촉구했다. 기업이 통제 불능 상태에 빠진 시스템을 멈출 수 있는 ‘긴급 브레이크’를 마련하고, 사고를 법적으로 보고하며, 영향을 받은 이용자에게 이를 알리도록 하자는 제안이다. 제품 출시 전 독립 평가기관의 검토를 거치는 방안도 제시했다. 스미스는 현재 세탁기와 우유가 AI보다 더 많은 안전 규제를 받고 있다고 지적했다. 관련 규정은 기업의 신기술 배포 책임과 시스템 오류 발생 후 이용자의 알 권리에 영향을 줄 수 있다.
스미스, 사고 보고와 AI ‘긴급 중지’ 제안
스미스는 BBC의 ‘Big Boss Interview’에서 AI를 ‘도구이자 무기’로 규정하며 규제 논의를 즉시 시작해야 한다고 말했다. AI 시스템이 통제력을 잃거나 심각한 문제가 발생했을 때 기업이 작동을 일시 중단하거나 속도를 늦출 수 있어야 한다는 주장이다. 업계에서는 이런 장치를 ‘킬 스위치(kill switch)’ 또는 긴급 종료 장치라고 부른다.
책임 추적과 관련해 스미스는 기업에 법정 사고 보고 의무를 부과해야 한다고 밝혔다. AI 에이전트가 피해를 일으키거나 시스템이 침해된 경우에는 영향을 받은 ‘피해자’에게 사실을 통지해야 한다고도 주장했다. 또한 일부 신형 AI 제품은 시장에 출시되기 전에 정부가 지정한 독립 평가인력이 심사할 수 있다고 제안했다.
스미스는 다른 제품 분야에서 축적된 안전 규제 경험을 AI 규정 마련에 참고할 수 있다고 설명했다. 그는 세탁기와 식품을 예로 들며 “현재 세탁기는 AI보다 더 많은 안전 규정을 적용받는다”고 말했다. 이어 “식료품점에서 판매되는 우유 한 팩도 안전 규정을 따라야 하고 검사를 받는다”고 덧붙였다.
미국과 영국, AI 규제 접근법에 차이
스미스의 발언은 업계 자율규제를 강조해 온 도널드 트럼프 미국 대통령의 입장과 다르다. 트럼프 대통령은 미국 기업이 규제 때문에 중국 경쟁자에게 뒤처져서는 안 된다고 주장해 왔으며, “AI를 이기는 쪽이 모든 것을 차지한다”는 취지의 발언도 반복했다. 반면 스미스는 기업의 자율적인 통제만으로는 충분하지 않으며, 특히 책임을 회피하려는 기업까지 포괄하기 어렵다고 지적했다.
최근에는 AI 개발 속도와 안전 규제를 둘러싼 논의가 한층 거세지고 있다. 미국 AI 기업 앤스로픽, 오픈AI, 구글 딥마인드의 경영진은 AI 개발 속도를 늦추는 방안을 지지한 바 있지만, 트럼프 대통령은 감속에 반대하고 있다. 스미스는 AI 에이전트가 인간의 통제를 벗어나거나 글로벌 네트워크 보안을 위협할 정도의 능력을 갖게 된다면, 규정을 마련할 시점은 이미 도래한 것이라고 경고했다.
그는 영국이 다국적 AI 규정 논의를 주도할 여건을 갖췄다고 평가했다. 영국의 AI 안전 연구기관은 리시 수낙 전 총리 재임 당시 ‘AI Safety Institute’라는 이름으로 설립됐으며, 현재는 ‘AI Security Institute’로 운영되고 있다. 스미스는 기술업계 관계자들 사이에서 영국이 관련 기술 역량을 선도하는 국가로 평가받고 있다고 말했다.
워싱턴이 영국 주도의 규정을 받아들일 가능성에 대해서는 미국 정치권이 런던을 브뤼셀과는 다르게 바라본다고 설명했다. 이 때문에 영국이 제시하는 기준이 미국의 지지를 얻기 더 쉬울 수 있다는 것이다. 다만 미국과 영국이 구체적인 규제안에 합의했다는 의미는 아니라고 선을 그었다.
백악관의 기업 서약, ‘필요하지만 충분하지 않아’
지난달 말 트럼프 대통령은 백악관에서 오픈AI, 앤스로픽, 엔비디아, 스페이스X, 메타, 구글의 수장들을 만났다. 참석 기업들은 AI 시스템이 설계된 대로 작동하는지 점검하기 위해 ‘독립 감사인’과 협력하고, 시스템이 의도하지 않은 방식으로 기술 시설에 침입하거나 접근하지 않도록 하겠다는 윤리적 성격의 문서에 서명했다.
스미스는 이 선언을 “좋고 필요한 첫 단계”라고 평가했으며, 마이크로소프트도 서명할 의사가 있다고 밝혔다. 그러나 자발적인 서약만으로는 현재의 문제에 대응하기에 부족하다고 지적했다. 자율규제의 한계는 규칙을 지키는 기업은 통상 필요한 조치를 취하지만, 실제로 막아야 할 대상은 책임 의식이 낮은 기업일 수 있다는 데 있다고 설명했다.
AI 기업과 이용자에게 중요한 쟁점은 모델을 어떻게 평가할지에 그치지 않는다. 누가 평가를 집행할지, 사고가 발생했을 때 기업이 어떤 보고와 통지 의무를 부담할지, 자율규제를 거부하는 기업까지 규정이 적용될 수 있을지가 함께 논의되고 있다. 스미스가 제시한 글로벌 안전 규정은 현재 정책 제안 단계이며, 구체적인 제도 설계는 아직 확정되지 않았다.