Os bancos e as empresas de pagamentos dos Estados Unidos estão a ampliar o uso de agentes de inteligência artificial em pagamentos, abertura de contas e outros serviços financeiros. Mas permanece sem resposta uma questão central: quem assume a responsabilidade quando um agente de IA executa uma transação errada, é manipulado para cometer fraude ou ultrapassa a autorização dada pelo cliente?
A resposta determinará se os consumidores conseguem recuperar fundos perdidos e como bancos, redes de pagamentos, comerciantes, fornecedores de tecnologia e plataformas de fintech repartem o risco operacional. A Bain estima que a despesa anual nos Estados Unidos com comércio realizado por agentes de IA poderá atingir 500 mil milhões de dólares até 2030. À medida que o volume de transações aumenta e as empresas ponderam uma utilização mais ampla destes sistemas, regras claras de responsabilidade podem tornar-se decisivas.
Christopher Waller aponta risco numa compra errada
O governador da Reserva Federal Christopher Waller abordou o tema na conferência Sibos, em 29 de setembro. Segundo Waller, a adoção mais ampla do comércio orientado por agentes — sobretudo quando a IA toma decisões em nome do consumidor — depende da confiança entre compradores e vendedores.
Waller apresentou um exemplo simples: um consumidor pede a um agente que compre uma camisola, mas o sistema encomenda o tamanho errado e o banco aprova o pagamento. A autorização do pagamento não significa que o agente tenha comprado aquilo que o consumidor pretendia. Na sua avaliação, os mecanismos existentes no comércio eletrónico, incluindo as regras das redes de pagamentos, a proteção dos consumidores e a regulamentação aplicável, poderiam ser adaptados às transações conduzidas por agentes. Os reguladores também poderiam testar novas abordagens.
Os riscos não se limitam a hackers ou fraudadores que manipulem um sistema de IA. Um agente pode afastar-se das instruções ou das definições recebidas, e erros comuns de consumidores, comerciantes ou de outras partes envolvidas na transação também podem gerar problemas. Se um agente transferir dinheiro para fora de uma conta, a responsabilidade poderá recair sobre o utilizador que o configurou incorretamente, sobre o fornecedor do modelo que permitiu que ultrapassasse a sua autoridade ou sobre o banco que aprovou a operação apesar de sinais de alerta.
Lead Bank propõe uma cadeia de responsabilidade
A Lead Bank, com sede em Kansas City, é um banco com licença estadual que fornece infraestrutura de banking as a service a fintechs, empresas de ativos digitais e marcas de consumo. A instituição está a desenvolver um modelo para operações bancárias e pagamentos conduzidos por agentes.
A CEO Jackie Reses afirmou que os sistemas tradicionais de identificação e verificação foram concebidos para pessoas e muitas vezes procuram excluir bots. Essa abordagem está a mudar à medida que as máquinas se tornam mais numerosas e operam a uma escala muito superior. Os erros de transação são inevitáveis, disse Reses; a prioridade é criar controlos, requisitos de programação e um modelo que determine quem responde quando um agente se desvia do objetivo definido.
A chamada “cascata” de responsabilidade proposta pela Lead Bank atribuiria o risco de acordo com o tipo de falha e com a parte que tinha controlo sobre o processo. Se um agente ultrapassar a autoridade concedida explicitamente pelo consumidor, o cliente não deverá ser responsabilizado. Se um banco controlar a distribuição de permissões, mas não aplicar os limites definidos, a responsabilidade deverá caber ao banco. Os fornecedores de IA responderiam por problemas como defeitos do modelo, chamadas inseguras a ferramentas ou salvaguardas insuficientes. Um comerciante poderia ser responsabilizado se incentivasse conscientemente um agente com permissões limitadas a ultrapassá-las.
O objetivo é integrar a responsabilidade nos sistemas antes de surgir um litígio, em vez de resolver cada caso apenas depois do incidente. Na prática, o resultado continuaria a depender da forma como as permissões foram configuradas, da existência de sinais de atividade fora do padrão recebidos pelo banco e da capacidade de cada parte demonstrar que controlava a etapa relevante do processo.
Primitive cria protocolo para finanças conduzidas por agentes
A Primitive, uma startup tecnológica fundada por Derek White, antigo diretor de digital do US Bancorp, também está a trabalhar em normas operacionais e de responsabilidade para a IA orientada por agentes. White afirmou que os consumidores já utilizam modelos como o ChatGPT para procurar prestadores de serviços financeiros e que, no futuro, poderão pedir aos agentes que abram contas em bancos específicos.
Uma das normas em desenvolvimento é o Agentic Financial Services Protocol, concebido para ajudar as empresas a criar agentes de IA sujeitos a requisitos comuns de segurança. White explicou que o protocolo prevê um registo de cada sessão do agente, incluindo a indicação sobre o cumprimento das regras de governação, o modelo de linguagem de grande escala utilizado e o número de tokens consumidos durante a sessão.
Esses registos poderiam ser compilados para reguladores ou auditores, permitindo reconstruir a forma como o agente chegou a determinada decisão. Para os bancos, uma pista de auditoria detalhada também poderia ajudar a determinar se o problema resultou das instruções do utilizador, do comportamento do modelo, de uma chamada a uma ferramenta ou do processo de aprovação da transação.
Existem controlos, mas falta alinhamento regulatório
Reses afirmou que a tecnologia disponível já permite limitar o comportamento dos agentes e apoiar a responsabilização. As interfaces programáveis da Lead Bank podem monitorizar desvios, registar atestações do sistema, atualizar periodicamente a informação de “know your agent”, emitir credenciais de transação e revogá-las quando necessário.
O desafio mais amplo, segundo a executiva, é alinhar as regras bancárias e de pagamentos com a atividade dos agentes de IA. Sem expectativas jurídicas e regulatórias mais claras, os bancos poderão ter dificuldade em determinar quais os controlos que cumprem as suas obrigações. Os consumidores, por sua vez, podem não saber antecipadamente quem os reembolsará se uma transação correr mal.
As redes de cartões, as plataformas de comércio eletrónico, os prestadores de serviços de pagamento, as empresas tecnológicas, a FIDO Alliance e os bancos estão envolvidos no desenvolvimento de normas. As preocupações dos consumidores quanto à utilização de agentes de IA para efetuar pagamentos permanecem, apesar das estimativas de crescimento do mercado.
À medida que mais agentes passam a poder pesquisar serviços, abrir contas e realizar pagamentos, as instituições financeiras terão de definir como são registadas as permissões, como são geridas as credenciais de transação, de que forma os modelos são auditados e quem assume a responsabilidade quando um agente ultrapassa a autoridade que lhe foi atribuída.