Los bancos y las empresas de pagos de Estados Unidos están ampliando el uso de agentes de inteligencia artificial (IA) para gestionar pagos, abrir cuentas y prestar otros servicios financieros. Pero sigue sin resolverse una cuestión clave: ¿quién responde si un agente ejecuta una operación equivocada, es manipulado para cometer un fraude o actúa más allá de lo autorizado por el usuario?
La respuesta determinará si los consumidores pueden recuperar el dinero perdido y cómo se reparten los riesgos operativos entre bancos, redes de pago, comercios, proveedores tecnológicos y plataformas fintech. Bain estima que el gasto anual en comercio gestionado por agentes de IA en Estados Unidos podría alcanzar los 500.000 millones de dólares en 2030. Contar con reglas claras sobre responsabilidad puede ser decisivo a medida que crece el volumen de operaciones y las empresas se plantean ampliar su uso.
Waller plantea quién responde por una compra equivocada
El gobernador de la Reserva Federal Christopher Waller abordó el asunto el 29 de septiembre en la conferencia Sibos. Según señaló, la expansión del comercio gestionado por agentes —en especial cuando la IA toma decisiones en nombre del consumidor— depende de la confianza entre compradores y vendedores.
Waller expuso un caso sencillo: un consumidor pide a un agente que compre un jersey, pero este elige la talla incorrecta y el banco autoriza el pago. Que la transacción se haya aprobado no significa que el agente haya comprado lo que el usuario quería. Waller indicó que los marcos actuales del comercio electrónico, incluidas las reglas de las redes de pago, las protecciones al consumidor y la normativa aplicable, podrían adaptarse a las operaciones realizadas por agentes. También cabe que los reguladores pongan a prueba nuevos enfoques.
Los riesgos no se limitan a los hackers o a los delincuentes que manipulan un sistema de IA. Un agente puede apartarse de las instrucciones o de los ajustes establecidos; además, los errores habituales de consumidores, comercios u otros participantes de la cadena también pueden causar problemas. Si un agente transfiere dinero fuera de una cuenta, la responsabilidad podría recaer en el usuario que lo configuró mal, en el proveedor del modelo si le permitió exceder su autoridad o en el banco si aprobó la operación pese a las señales de alerta.
Lead Bank plantea un reparto de responsabilidad por etapas
Lead Bank, con sede en Kansas City, es un banco con licencia estatal que ofrece infraestructura de banca como servicio a fintechs, empresas de activos digitales y marcas de consumo. La entidad está desarrollando un marco para operaciones bancarias y pagos gestionados por agentes.
Su consejera delegada, Jackie Reses, señaló que los sistemas tradicionales de identificación y verificación se diseñaron para personas y, a menudo, para excluir a los bots. Ese enfoque está cambiando a medida que las máquinas superan en número a las personas y operan a una escala mucho mayor. Los errores en las transacciones son inevitables, afirmó; la prioridad es establecer controles y requisitos de programación, además de definir cómo se asignará la responsabilidad si un agente se desvía de lo previsto.
La propuesta de Lead Bank, denominada «cascada» de responsabilidad, repartiría las obligaciones según el tipo de fallo y qué parte tenía el control. Si un agente supera la autorización expresa del consumidor, este no debería asumir la responsabilidad. Si el banco controla la asignación de permisos pero no hace cumplir sus límites, debería responder la entidad. Los proveedores de IA serían responsables de problemas como defectos del modelo, llamadas inseguras a herramientas o salvaguardas insuficientes. Un comercio podría ser responsable si anima deliberadamente a un agente con permisos limitados a sobrepasarlos.
El objetivo es incorporar la asignación de responsabilidades a los sistemas antes de que surja una disputa, en lugar de resolver cada caso a posteriori. En la práctica, el resultado seguiría dependiendo de cómo se configuraron los permisos, de si el banco recibió alertas sobre actividad inusual y de si cada parte puede demostrar que controlaba el elemento del proceso relacionado con el problema.
Primitive desarrolla un protocolo para las finanzas con agentes
Primitive, una empresa tecnológica fundada por Derek White, ex director digital de US Bancorp, también trabaja en normas operativas y de responsabilidad para la IA agéntica. White señaló que los consumidores ya utilizan modelos como ChatGPT para encontrar proveedores de servicios financieros y que, con el tiempo, podrían pedir a agentes que abran cuentas en bancos concretos.
Una de las normas propuestas es el Agentic Financial Services Protocol, concebido para ayudar a las empresas a desarrollar agentes de IA sujetos a requisitos comunes de protección. White explicó que el protocolo contempla registrar cada sesión del agente, incluido si respetó las reglas de gobernanza, qué modelo de lenguaje de gran tamaño utilizó y cuántos tokens consumió.
Esos registros podrían recopilarse para los reguladores o auditores y permitir reconstruir cómo llegó el agente a una decisión. Para los bancos, contar con un historial detallado también ayudaría a determinar si el problema tuvo su origen en las instrucciones del usuario, el comportamiento del modelo, una llamada a una herramienta o el proceso de aprobación de la operación.
Hay controles técnicos, pero falta coordinación regulatoria
Reses afirmó que la tecnología actual permite limitar el comportamiento de los agentes y facilitar la rendición de cuentas. Las interfaces programables de Lead Bank pueden detectar desviaciones, registrar certificaciones del sistema, actualizar periódicamente la información de «conozca a su agente», emitir credenciales para transacciones y revocarlas cuando sea necesario.
El reto más amplio, dijo, es coordinar las reglas bancarias y de pagos con la actividad de la IA agéntica. Sin expectativas legales y regulatorias más claras, a los bancos puede resultarles difícil determinar qué controles cumplen sus obligaciones. Los consumidores, por su parte, podrían no saber de antemano quién les reembolsará el dinero si una operación sale mal.
Redes de tarjetas, plataformas de comercio electrónico, proveedores de pagos, empresas tecnológicas, la FIDO Alliance y bancos participan en el desarrollo de estándares. Persisten las dudas de los consumidores sobre el uso de agentes de IA para pagar, aunque las estimaciones apuntan a un posible crecimiento del mercado. A medida que más agentes puedan buscar productos, abrir cuentas y realizar pagos, las entidades financieras tendrán que definir cómo se registran los permisos, se gestionan las credenciales de transacción, se auditan los modelos y se asigna la responsabilidad cuando un agente excede su autoridad.