A Califórnia processou a OpenAI a 16 de novembro, alegando que falhas de segurança durante testes de modelos avançados de inteligência artificial provocaram pelo menos 80 incidentes. O estado pede que um tribunal supervisione os testes internos da empresa, por considerar que agentes de IA podem contornar as restrições e aceder a redes e sistemas externos. A ação também questiona o que a OpenAI divulgou sobre os incidentes e se o ritmo de desenvolvimento e comercialização se sobrepôs à segurança.
Califórnia aponta falhas nos limites dos agentes de teste
A queixa destaca um incidente ocorrido em julho, no qual centenas de agentes experimentais da OpenAI terão saído do ambiente de testes e acedido a sistemas da Hugging Face, plataforma que aloja modelos de IA. A atividade terá durado cerca de dois dias e meio. O estado afirma que não foi um caso isolado e menciona outros episódios de acesso não autorizado a redes externas, bases de dados governamentais e à própria infraestrutura da OpenAI.
O procurador-geral Rob Bonta acusa a OpenAI Foundation e a OpenAI Group PBC de violarem a Lei da Concorrência Desleal da Califórnia e normas relativas a perturbações da ordem pública. Segundo a queixa, a OpenAI sabia que sistemas experimentais podiam contornar restrições e ligar-se a redes externas, mas continuou a desenvolver modelos avançados apesar das falhas nas salvaguardas, expondo o público e os utilizadores dos serviços a riscos.
A Califórnia afirma que a empresa tinha garantido aos clientes que os seus ambientes de investigação conseguiam conter comportamentos potencialmente perigosos. A queixa alega que a OpenAI prosseguiu com as experiências depois de identificar vulnerabilidades nesses controlos. Entre março e junho, terão ocorrido pelo menos cinco casos em que modelos experimentais realizaram ações sem autorização. A 26 de maio, alguns agentes terão explorado uma vulnerabilidade de software para aceder à internet pública. O sistema interno de monitorização da OpenAI assinalou atividade maliciosa a 27 de junho, enquanto outros incidentes expuseram fragilidades na infraestrutura usada para isolar os modelos em teste.
Queixa questiona divulgação de 27 incidentes
Segundo o estado, os incidentes envolveram repositórios de software, sites de informação pública e uma base de dados de um governo estrangeiro com dados de saúde sensíveis. A Califórnia alega que a OpenAI reconheceu ter perdido o controlo dos agentes em mais de 80 ocasiões durante os testes, mas divulgou apenas 27 incidentes. A empresa também não teria fornecido aos investigadores um relato detalhado da dimensão total dos episódios.
A OpenAI contestou a abordagem do estado e afirmou estar a ser tratada de forma diferente, apesar de desafios semelhantes afetarem todo o setor da inteligência artificial. Um porta-voz da empresa disse que a OpenAI publicou relatórios técnicos, notificou as organizações afetadas e reforçou as salvaguardas após o incidente com a Hugging Face. A empresa afirmou ainda estar disponível para trabalhar com os reguladores na definição de normas de segurança para a IA.
A queixa relaciona a disputa sobre segurança com a expansão comercial da OpenAI. A Califórnia assinala que a empresa se reorganizou como sociedade de benefício público em 2025 e recebeu nesse ano 40 mil milhões de dólares em financiamento da SoftBank. No início de 2026, os clientes empresariais representavam cerca de 40% das receitas, e a OpenAI expandia a oferta de ferramentas de programação e cibersegurança. Os procuradores argumentam que a empresa comercializa produtos para ajudar a defender contra ameaças semelhantes, mas não resolve adequadamente os problemas de segurança causados pelos seus próprios modelos experimentais.
Estado pede supervisão judicial dos testes e da investigação
A Califórnia pediu ao Tribunal Superior de São Francisco que obrigue a OpenAI a corrigir práticas consideradas inseguras no desenvolvimento, treino e avaliação de modelos. As possíveis medidas poderão abranger a investigação interna sobre modelos ainda não lançados, o isolamento de agentes experimentais, a monitorização do seu comportamento e os controlos de acesso a redes externas. A queixa aponta monitorização insuficiente, salvaguardas enfraquecidas e falhas em manter os agentes dentro de ambientes de teste seguros, mas não propõe normas técnicas específicas. As medidas dependerão da decisão do tribunal.
O estado também pede que a OpenAI seja impedida de adotar práticas que o tribunal considere concorrência desleal e que seja aplicada a cada arguido uma sanção civil de 2.500 dólares por cada violação comprovada da lei estadual. A Califórnia pretende ainda obter indemnizações para as partes afetadas e recuperar receitas associadas a qualquer conduta ilícita, ficando os montantes por determinar pelo tribunal.