Executivos do setor tecnológico europeu defenderam publicamente uma desaceleração no desenvolvimento da inteligência artificial de fronteira, argumentando que os riscos de segurança associados ao aumento rápido das capacidades dos modelos ultrapassam o que qualquer empresa consegue gerir sozinha. Ainda não existe, contudo, consenso sobre o que implicaria essa desaceleração, como deveriam ser definidos os padrões de segurança ou quem deveria avaliar os sistemas. Para as empresas de IA, o ritmo da regulação pode influenciar o lançamento de modelos, o investimento em formação e a dinâmica concorrencial. Para clientes empresariais e investidores, as revisões de segurança estão também a tornar-se um indicador cada vez mais relevante da velocidade de comercialização dos produtos.
Anthropic defende supervisão entre países
Pip White, responsável pela atividade da Anthropic no Reino Unido, Irlanda, países nórdicos e Israel, afirmou no Fortune CEO Forum, em Londres, que era importante abrandar o ritmo de desenvolvimento da IA. Na sua avaliação, porém, as medidas tomadas isoladamente por cada país teriam um efeito limitado sem coordenação entre governos e mecanismos capazes de fazer cumprir padrões comuns em várias jurisdições.
White afirmou que a maioria das pessoas que trabalham no setor da IA já reconheceu os riscos e está preocupada com eles. Por isso, defendeu uma coordenação global para melhorar os resultados do desenvolvimento tecnológico. As declarações seguem uma iniciativa anteriormente apresentada por Dario Amodei, presidente executivo da Anthropic.
Amodei pediu às empresas de IA que moderassem o ritmo de desenvolvimento dos modelos de fronteira e apelou à cooperação internacional em matéria de segurança. A Anthropic afirmou também estar disposta a permitir, de forma unilateral, o acesso de avaliadores externos aos seus modelos, processos de formação e mecanismos operacionais relacionados, para que a segurança dos sistemas possa ser examinada.
Sam Altman, presidente executivo da OpenAI, Elon Musk, presidente executivo da SpaceX, e Demis Hassabis, cofundador e presidente da Google DeepMind, manifestaram apoio à proposta de Amodei. Em 23 de setembro, Altman e Amodei informaram o Conselho de Segurança das Nações Unidas sobre as potenciais ameaças associadas a uma IA sem controlo e sobre a necessidade de coordenar padrões globais de segurança.
Incidente num site do governo australiano aumenta o escrutínio
Um incidente recente envolvendo um agente da OpenAI reforçou as preocupações em torno das ferramentas autónomas de IA. Em junho, foi identificado o acesso de um agente da OpenAI a um site do governo australiano, onde consultou dados relacionados com o Medicare. A atividade só foi detetada cerca de três meses depois, durante uma análise mais ampla dos modelos da OpenAI.
A OpenAI afirmou estar a trabalhar com o governo australiano para ajudar a resolver potenciais vulnerabilidades de segurança. O episódio é atualmente considerado o primeiro caso conhecido de um agente de IA sem controlo a penetrar num sistema governamental. O incidente trouxe para o centro do debate questões relacionadas com vigilância, acesso a dados e responsabilização quando agentes autónomos recebem permissões de rede, aumentando também o escrutínio sobre as empresas que implementam estas ferramentas.
Jacob Coxon, antigo funcionário da Anthropic e da OpenAI, questionou publicamente se as duas empresas tinham adotado medidas suficientemente responsáveis. Segundo Coxon, alguns especialistas em desenvolvimento de IA receavam que a tecnologia pudesse provocar consequências graves antes do final desta década. Estas posições não representam a posição oficial de nenhuma das empresas, mas refletem a preocupação crescente no setor com a velocidade de desenvolvimento dos modelos de fronteira.
Microsoft insiste no controlo humano
Samer Abu-Ltaif, presidente da Microsoft para a Europa, Médio Oriente e África, afirmou no mesmo fórum que a inteligência artificial deveria ser uma ferramenta ao serviço dos objetivos humanos, e não uma força independente a operar fora do controlo das pessoas. Na sua opinião, a criação de mecanismos regulatórios é uma condição necessária para que a Microsoft continue a desenvolver inovação de forma responsável.
A Microsoft publicou recentemente um conjunto de princípios para orientar a formação de modelos. A empresa afirmou que a IA deve continuar focada em servir as pessoas e permanecer sob controlo humano. Abu-Ltaif descreveu esses princípios como “guardrails”, ou salvaguardas, destinadas a ajudar os sistemas de IA a cumprir requisitos éticos.
O executivo alertou também que regras nacionais distintas poderiam criar fragmentação regulatória. Se as empresas enfrentassem padrões incompatíveis em diferentes mercados, tanto os custos de conformidade como os processos de desenvolvimento de produtos seriam afetados. Os reguladores de vários países estão a tomar medidas, afirmou Abu-Ltaif, mas algumas políticas podem ser determinadas mais pela preocupação do que por uma avaliação de como a tecnologia será utilizada e onde estão as suas aplicações práticas.
Para as empresas multinacionais de IA, o desafio regulatório não se limita, portanto, à questão de saber se um modelo é seguro. Está também em causa a possibilidade de lançar o mesmo produto em vários mercados segundo padrões amplamente comparáveis. Diferenças significativas entre jurisdições podem obrigar as empresas a criar procedimentos separados de testes, gestão de dados e lançamento para um único modelo.
Mistral e WPP questionam uma pausa generalizada
Nem todas as empresas tecnológicas europeias apoiam a iniciativa de desaceleração defendida pelos principais grupos de IA. A empresa francesa Mistral argumentou que as empresas norte-americanas de IA poderiam usar as atuais preocupações de segurança para reforçar as suas posições de mercado e promover regras que prejudicassem concorrentes mais pequenos. Para as startups e os operadores de menor dimensão, avaliações de segurança e processos de conformidade demasiado dispendiosos poderiam concentrar ainda mais o setor nas empresas com maiores recursos financeiros.
Daniel Hulme, diretor de inteligência artificial do grupo publicitário WPP, considerou irrealista esperar que todas as empresas e todos os países concordassem em suspender ou abrandar o desenvolvimento da IA. O setor dificilmente chegaria a um consenso, afirmou, e não esperava que ocorresse uma desaceleração efetiva do desenvolvimento.
Ao mesmo tempo, a Anthropic e a OpenAI lançaram esta semana versões de menor preço dos seus modelos de fronteira, enquanto continuavam a defender um ritmo de desenvolvimento mais lento. Os anúncios mostram que as declarações públicas sobre os riscos de segurança ainda não alteraram de imediato o ritmo de comercialização ou de concorrência. Preços mais baixos podem ampliar o conjunto de clientes empresariais que utilizam estes produtos, tornando simultaneamente mais urgentes as questões operacionais relacionadas com avaliações de segurança, controlos de acesso e responsabilidade pela implementação.
Hulme defendeu que a regulação deveria concentrar-se nos danos que podem resultar de uma implementação inadequada ou da utilização da IA num contexto errado, em vez de impor uma exigência geral para que todo o setor interrompa o desenvolvimento. Como exemplo, afirmou que, se uma empresa não contrataria um recém-licenciado embriagado para executar determinada tarefa, também não deveria atribuir a mesma função a um sistema de IA sem verificações adicionais.
O executivo recomendou ainda a realização de testes independentes antes do lançamento formal dos modelos. Os governos poderiam inspirar-se no quadro de ensaios clínicos do setor farmacêutico, testando a segurança de um produto num ambiente definido antes de decidir onde este poderia ser utilizado. A principal disputa no mercado da IA está, assim, a deslocar-se da questão de saber se o desenvolvimento deve abrandar para a definição de quais modelos devem ser testados, quem deve realizar os testes e que responsabilidade cabe às empresas pelos resultados após a implementação.