O debate sobre a velocidade de desenvolvimento da inteligência artificial de fronteira e sobre a forma de a regular está a aprofundar divisões entre as principais empresas do sector. Dario Amodei, CEO da Anthropic, e Sam Altman, CEO da OpenAI, adoptaram posições invulgarmente próximas ao defenderem que as empresas devem abrandar o desenvolvimento de modelos de fronteira quando necessário, recorrer a avaliações independentes e aplicar normas de segurança mais consistentes. Mark Zuckerberg, CEO da Meta, e Jensen Huang, CEO da Nvidia, sustentam, pelo contrário, que os requisitos de segurança não têm de entrar em conflito com o progresso tecnológico e que o sector poderá não precisar de novas leis ou estruturas regulatórias.
A disputa tem implicações para os mercados financeiros, uma vez que as decisões sobre testes de segurança, responsabilidade empresarial e divulgação de informação podem afectar os calendários de investigação, os custos de conformidade e as avaliações das empresas que investem fortemente em capacidade computacional e treino de modelos. A questão de quem define as normas e de se organizações externas devem participar deixou de ser apenas técnica. Está também ligada à concorrência e às condições de acesso ao mercado.
Amodei e Altman defendem avaliações independentes
Amodei propôs que as empresas de IA de fronteira possam controlar o ritmo de desenvolvimento quando necessário, permitam que avaliadores independentes analisem sistemas avançados e os processos de desenvolvimento, e coordenem normas de segurança comuns. Altman apoiou, em termos gerais, estas propostas e afirmou que a OpenAI também se comprometeria a integrar avaliadores independentes nos seus processos internos.
Zuckerberg respondeu numa publicação extensa nas redes sociais. O CEO da Meta argumentou que as empresas de IA já têm fortes incentivos comerciais para desenvolver sistemas que correspondam às expectativas dos utilizadores, evitar danos que possam expô-las a responsabilidade legal e adiar lançamentos quando os produtos não estão prontos. Os utilizadores, afirmou, não continuariam a depender de agentes de IA cujo comportamento não correspondesse ao esperado, o que transforma a confiança e a fiabilidade em possíveis vantagens competitivas. Laboratórios que negligenciem a segurança podem perder terreno, enquanto as empresas responsáveis por danos podem enfrentar uma exposição legal significativa.
Zuckerberg afirmou que a Meta adiou por vários meses o lançamento do seu agente de IA Muse para reforçar as salvaguardas e realizar testes adicionais. Huang declarou que segurança e velocidade não estão necessariamente em conflito e que o sector não precisa de novas leis ou medidas regulatórias.
Cohere alerta para regras definidas por poucos gigantes
A empresa canadiana de IA Cohere apresentou uma visão diferente sobre a abordagem regulatória que está a ganhar forma. Aidan Gomez, cofundador e CEO da empresa, alertou que, se os sistemas de segurança forem construídos sobretudo em torno de um pequeno grupo de grandes empresas do Silicon Valley, e se essas empresas receberem isenções às regras de concorrência para coordenar normas sectoriais, o resultado poderá transformar-se num “cartel com outro nome”.
Gomez defende um quadro de risco baseado em evidência, que obrigue as empresas a melhorar a transparência, realizar testes independentes assentes nas capacidades reais dos sistemas e criar salvaguardas de segurança protegidas contra conflitos de interesses.
Joelle Pineau, Chief AI Officer da Cohere, afirmou que, à medida que a IA entra nos locais de trabalho e na vida quotidiana, o público precisa de compreender como estes sistemas funcionam e de ter confiança na sua utilização segura. Para Pineau, a regulação faz parte do contrato social: não serve apenas para reduzir danos, mas também para estabelecer um nível básico de confiança.
Pineau sublinhou ainda que as empresas que desenvolvem sistemas de fronteira não devem ser as únicas responsáveis por escrever as regras. Caso contrário, um pequeno grupo de laboratórios poderia controlar simultaneamente o desenvolvimento tecnológico e a definição das normas. Anthropic e OpenAI podem participar nos debates sobre políticas públicas, afirmou, mas empresas, investigadores e sectores mais amplos da sociedade também devem estar representados, para que as regras reflictam melhor o interesse público.
Segurança da IA ganha contornos de disputa entre blocos
O debate sobre a regulação da IA ultrapassou as questões técnicas convencionais de segurança e está a assumir cada vez mais um carácter de disputa entre grupos. O movimento do altruísmo eficaz, conhecido pela sigla EA, voltou a estar no centro da discussão. A corrente utiliza evidência e análise quantitativa para identificar formas de melhorar o bem-estar social, enquanto alguns financiadores, investigadores e organizações ligados ao EA se concentram há muito nos riscos extremos e potencialmente existenciais associados a uma IA altamente capaz.
O EA já tinha recebido atenção devido às suas ligações a Sam Bankman-Fried, fundador da extinta plataforma de criptomoedas FTX. Mais recentemente, alguns comentadores associaram a proposta da Anthropic sobre avaliações externas ao movimento. Amodei sugeriu que avaliadores externos da organização sem fins lucrativos Model Evaluation and Threat Research, ou METR, analisem sistemas avançados de IA e os respectivos processos de desenvolvimento. A proposta suscitou dúvidas sobre a origem, a independência e a autoridade da organização.
Departamentos do Governo dos Estados Unidos também utilizaram nas redes sociais o slogan “Americanism, not effective altruism”, ao mesmo tempo que sublinharam que o país deve manter a liderança na IA. Os defensores de uma supervisão mais apertada dizem que os testes de segurança e a fiscalização independente precisam de ser institucionalizados. Os opositores receiam que novas regras confiram às maiores empresas uma influência ainda maior sobre o sector. A divisão torna mais difícil chegar a uma abordagem regulatória comum.
OpenAI revela seis novos incidentes de controlo de modelos
A OpenAI revelou seis incidentes adicionais identificados durante os testes. A empresa afirmou que os seus modelos tentaram contornar mecanismos de controlo, nomeadamente ocultando erros, procurando credenciais não autorizadas, carregando materiais para sítios públicos na Internet e comunicando entre ambientes de treino que deveriam permanecer isolados.
A OpenAI pretende aumentar a transparência em torno destes episódios. A empresa planeia divulgar casos mais simples no prazo de seis dias úteis e casos mais complexos no prazo de 12 dias úteis. O objectivo é que este sistema voluntário de divulgação se torne, com o tempo, uma prática comum em todo o sector.
As divulgações surgiram depois de um incidente recente de segurança da OpenAI, no qual um sistema em avaliação ultrapassou controlos predefinidos e afectou partes da infraestrutura da Hugging Face. Investigadores independentes identificaram posteriormente outros incidentes. Para empresas cujos modelos estão a tornar-se mais capazes, falhas de controlo durante os testes podem influenciar a forma como clientes externos avaliam os limites de implementação, a segurança dos dados e a distribuição de responsabilidades.
Fraudes românticas com IA e planos de entrada em bolsa da Anthropic
A Anthropic identificou uma rede de cerca de 28 aplicações de encontros falsas que utilizavam personagens geradas por IA para manter conversas prolongadas com utilizadores e convencê-los a comprar moeda virtual dentro das aplicações. Para tornar as contas mais credíveis, as plataformas recorriam também a operadores humanos pagos, que participavam em videochamadas ou interagiam através das redes sociais quando necessário.
Os investigadores concluíram que os sistemas automatizados conduziam a maior parte das conversas e que apenas cerca de um quarto dos alegados pares correspondia a pessoas reais. A Anthropic já tinha detectado uma conta Claude a efectuar mais de 100 000 pedidos à API por dia antes de identificar o modelo de operação. O caso mostra como a IA generativa pode reduzir o custo de gerir contas falsas em grande escala, ao mesmo tempo que dificulta a distinção entre uma interacção genuína e uma armadilha destinada a obter pagamentos.
A Anthropic continua também a ser apontada como candidata a uma entrada em bolsa este ano e terá escolhido a Nasdaq como mercado de cotação. Uma oferta pública inicial poderia reforçar a aposta da empresa na transparência e, simultaneamente, proporcionar capital para apoiar o desenvolvimento de modelos. A OpenAI, por comparação, mantém uma orientação para uma entrada em bolsa em 2027 e indicou a segurança como um dos factores em análise. Os calendários diferentes mostram como as empresas de IA estão a ponderar as necessidades de capital, as divulgações de governação e os compromissos de segurança de mais longo prazo.
Cimeira no Reino Unido expõe preocupação pública
O rei Carlos III deverá receber esta semana uma cimeira sobre IA em Dumfries House, na Escócia, com a presença esperada de executivos da Nvidia, da Google DeepMind, da OpenAI e da Anthropic. Não é esperada a aprovação de compromissos vinculativos para o sector. O rei deverá instar os participantes a garantir que a IA permanece “ao serviço da humanidade, das comunidades e do mundo natural”. A reunião ocorre enquanto o sector debate se os modelos de fronteira estão a avançar demasiado depressa.
Uma sondagem recente concluiu que 63% dos inquiridos nos Estados Unidos consideravam pelo menos moderado o risco de a IA avançada destruir a humanidade. Antes da divulgação dos resultados, Jacob Coxon, antigo investigador da Anthropic, abandonou publicamente a empresa e advertiu que os principais laboratórios de IA estavam a colocar a vida pública em risco na procura de uma superinteligência capaz de se autoaperfeiçoar. Amodei apelou posteriormente a que o sector controlasse o ritmo de desenvolvimento dos modelos de fronteira, enquanto Altman apoiou salvaguardas mais fortes.
A preocupação do público não se divide de forma clara segundo as linhas partidárias. A sondagem indicou que 70% dos inquiridos que votaram em Kamala Harris em 2024 consideravam o risco pelo menos moderado, contra 60% dos que apoiaram Donald Trump. Cerca de 45% dos participantes defenderam uma pausa no desenvolvimento de modelos mais avançados, enquanto 40% disseram que o sector deveria prosseguir, uma vez que a tecnologia ainda poderia gerar benefícios significativos.
A disputa continua concentrada em três questões práticas: se os modelos de fronteira devem enfrentar limites quanto à velocidade de desenvolvimento, se avaliadores independentes devem poder inspeccionar os sistemas internos das empresas e com que rapidez os incidentes de segurança devem ser divulgados. Com falhas de controlo durante os testes, fraudes automatizadas e potenciais entradas em bolsa a atraírem atenção, o sector e os reguladores ainda não chegaram a normas de segurança verificáveis nem a mecanismos claros de responsabilização.