A agência norte-americana DARPA está a estudar como a inteligência artificial pode detetar fragilidades nas regras dos mercados eletrónicos e ajudar a corrigi-las antes que sejam exploradas por agentes hostis. O projeto abrange mercados de ações, obrigações, energia e recursos de computação em nuvem. O foco não está em ataques informáticos convencionais ou no roubo de dados, mas em falhas nos mecanismos de mercado capazes de provocar perturbações, perdas económicas ou dificuldades no abastecimento de instalações militares.
DARPA analisa falhas na conceção dos mercados
A iniciativa, denominada Intrinsic Market Resilience (IMR), reflete a preocupação da agência com mercados eletrónicos cada vez mais rápidos e eficientes, mas também mais interligados. À medida que aumentam o número de mercados e de participantes, uma falha num mecanismo pode ter consequências mais amplas. Os avanços em IA e noutras tecnologias também podem reduzir as barreiras à realização de ações disruptivas.
Matthew Wilding, responsável pelo programa IMR, afirmou que os progressos no raciocínio automatizado e na inteligência artificial oferecem novas formas de reforçar as defesas, mas podem também ser usados para atacar. O projeto pretende aplicar essas ferramentas à conceção dos mercados: identificar cenários concretos que possam causar falhas e propor soluções, em vez de depender apenas de testes gerais aos sistemas.
Califórnia e o «flash crash» de 2010
A DARPA aponta dois episódios anteriores como exemplos. No início dos anos 2000, fragilidades no mercado de energia da Califórnia, recentemente desregulamentado, foram exploradas por operadores. A perturbação terá provocado perdas de 40 a 45 mil milhões de dólares. Segundo a agência, o Governo federal teve de recorrer à Defense Production Act para assegurar o fornecimento de gás natural a instalações militares. O caso mostra como a manipulação de mercados pode ir além dos prejuízos comerciais e afetar a prontidão militar.
A agência destaca também o «flash crash» de 2010 na bolsa norte-americana, quando os preços caíram abruptamente em poucos minutos. As investigações concluíram mais tarde que o episódio esteve parcialmente associado à negociação manipuladora de um indivíduo, a par de outros problemas. A DARPA afirma que certas características da conceção do mercado permitiam que ordens de venda tivessem impacto sem serem executadas, a um custo reduzido para quem as colocava. Muitas das vulnerabilidades relacionadas foram entretanto corrigidas.
Modelos de linguagem para transformar regras em modelos de mercado
A DARPA quer que as equipas do projeto usem grandes modelos de linguagem para converter documentos regulatórios e especificações técnicas em modelos computacionais do funcionamento e das interações entre mercados. Um dos objetivos é encontrar falhas de conceção nos mercados de ações eletrónicos dos Estados Unidos e recomendar alterações que reduzam o risco de exploração dessas fragilidades.
Se um modelo não conseguir demonstrar que um mercado cumpre um padrão de resiliência definido, deverá produzir um exemplo concreto de falha. Isso poderá ajudar os analistas a localizar o problema e a avaliar possíveis correções. Wilding disse que o trabalho não se limitará a verificar se os mercados são fiáveis: deverá também identificar em que aspetos resistem a perturbações, onde ficam aquém e como podem ser melhorados.
O foco está na perturbação, não na procura de lucro
A DARPA esclarece que o IMR não se destina a combater a manipulação de mercado motivada pelo lucro, normalmente visada pelos reguladores, como condutas destinadas a beneficiar financeiramente uma pessoa. O projeto concentra-se em agentes que procurem interromper o funcionamento dos mercados, causar prejuízos económicos ou gerar instabilidade, bem como em lacunas que possam persistir nas salvaguardas legais e regulatórias existentes.
A iniciativa surge num contexto de crescente atenção dos Estados Unidos aos riscos de segurança nacional associados às infraestruturas digitais. Ataques futuros poderão não assumir a forma de uma ação militar convencional: poderão explorar falhas em sistemas digitais, cadeias de abastecimento ou mercados. No setor financeiro, os modelos propostos pela DARPA destinam-se a expor vulnerabilidades nos mecanismos de mercado. A necessidade de alterar determinadas regras dependerá de análises e validações adicionais.