Brad Smith, presidente da Microsoft, defende a criação de regras globais de segurança para a inteligência artificial, incluindo a comunicação obrigatória de incidentes, mecanismos de emergência para interromper sistemas e avaliações independentes de alguns produtos antes do lançamento. Smith afirma que a IA está sujeita a menos exigências de segurança do que bens de consumo comuns, como máquinas de lavar e leite, e questiona a responsabilidade das empresas quando os sistemas falham e o direito dos utilizadores a saber se foram afetados.
Smith propõe comunicação de incidentes e mecanismos de emergência
Numa entrevista ao programa Big Boss Interview, da BBC, Smith descreveu a IA como uma «ferramenta» e também uma «arma», defendendo que a regulamentação deve começar agora. As empresas, disse, devem poder suspender ou abrandar sistemas que apresentem falhas ou provoquem problemas graves. Este mecanismo é por vezes designado por «interruptor de emergência» (kill switch).
Smith propõe ainda que a comunicação de incidentes seja uma obrigação legal. As empresas deveriam avisar as pessoas afetadas quando um agente de IA causar danos ou quando um sistema for comprometido. Para alguns produtos novos, sugeriu que avaliadores independentes do Estado os examinem antes de chegarem ao mercado.
O presidente da Microsoft apontou as regras de segurança de produtos já existentes como possível referência. «Hoje, as máquinas de lavar estão sujeitas a mais regras de segurança do que a IA», afirmou. «Cada embalagem de leite vendida num supermercado tem de cumprir normas de segurança e ser inspecionada.»
EUA e Reino Unido divergem sobre a regulação da IA
A posição de Smith contrasta com a preferência do presidente dos EUA, Donald Trump, pela autorregulação do setor. Trump tem defendido que as empresas norte-americanas não devem ser travadas por regras enquanto competem com a China e afirmou repetidamente que «quem vencer na IA será dono de tudo». Smith considera que os controlos voluntários não chegam, sobretudo quando as empresas não estão dispostas a assumir responsabilidades.
O debate sobre o ritmo de desenvolvimento da IA e as salvaguardas necessárias tem-se intensificado. Responsáveis das empresas norte-americanas Anthropic, OpenAI e Google DeepMind apoiaram propostas para abrandar o desenvolvimento, enquanto Trump se opôs a essa possibilidade. Smith alertou para a necessidade de regras caso os agentes de IA escapem ao controlo humano ou adquiram capacidade para ameaçar a cibersegurança global.
Smith afirmou que o Reino Unido pode contribuir para as discussões internacionais, destacando a sua capacidade de investigação em segurança da IA. O instituto britânico dedicado ao tema foi criado durante o mandato do antigo primeiro-ministro Rishi Sunak e chama-se atualmente AI Security Institute, depois de ter sido estabelecido como AI Safety Institute. Segundo Smith, profissionais do setor tecnológico reconhecem a liderança britânica nestas competências técnicas.
Questionado sobre a aceitação, por Washington, de regras promovidas pelo Reino Unido, Smith disse que os políticos norte-americanos veem Londres de forma diferente de Bruxelas. Na sua opinião, isso poderá tornar mais aceitáveis nos EUA as normas propostas pelos britânicos. Smith não afirmou que os dois países tenham acordado num quadro regulatório específico.
Smith considera insuficiente o compromisso das empresas na Casa Branca
No final do mês passado, Trump reuniu na Casa Branca responsáveis da OpenAI, Anthropic, Nvidia, SpaceX, Meta e Google. As empresas assinaram um compromisso voluntário baseado em princípios éticos para trabalhar com «auditores independentes» e verificar se os sistemas de IA funcionam como previsto e não acedem nem interferem, de forma não intencional, com infraestruturas técnicas.
Smith classificou o compromisso como um «passo bom e necessário» e disse que a Microsoft estaria disposta a assiná-lo. Ainda assim, defendeu que as iniciativas voluntárias já não são suficientes. As empresas que levam a conformidade a sério deverão adotar salvaguardas; o desafio maior, afirmou, é lidar com as que não o fazem.
A discussão regulatória abrange, por isso, mais do que os métodos de avaliação dos modelos de IA. Inclui também quem realiza essas avaliações, o que as empresas têm de comunicar e divulgar após um incidente e se as regras podem abranger empresas que não se autorregulam. A proposta de Smith para regras globais de segurança da IA continua a ser uma proposta; os mecanismos concretos ainda não foram definidos.