US-Banken und Zahlungsdienstleister setzen zunehmend auf agentenbasierte künstliche Intelligenz – etwa bei Zahlungen, Kontoeröffnungen und weiteren Finanzdienstleistungen. Eine zentrale Haftungsfrage ist jedoch ungeklärt: Wer trägt die Verantwortung, wenn ein KI-Agent eine falsche Transaktion ausführt, zu Betrug verleitet wird oder über die Zustimmung des Kunden hinaus handelt?
Davon hängt ab, ob Verbraucher verlorenes Geld zurückerhalten können und wie Banken, Zahlungsnetzwerke, Händler, Technologieanbieter und Fintech-Plattformen das operative Risiko aufteilen. Bain schätzt, dass die jährlichen Ausgaben für agentenbasierten Handel in den USA bis 2030 auf 500 Milliarden US-Dollar steigen könnten. Mit wachsenden Transaktionsvolumina dürften klare Haftungsregeln für eine breitere Nutzung solcher Systeme entscheidend werden.
Waller sieht Haftungsrisiko bei Fehlkäufen
Der Gouverneur der US-Notenbank Federal Reserve, Christopher Waller, sprach das Thema am 29. September auf der Sibos-Konferenz an. Eine breitere Nutzung des agentenbasierten Handels – insbesondere wenn eine KI im Auftrag eines Verbrauchers Entscheidungen trifft – setze Vertrauen zwischen Käufern und Verkäufern voraus, sagte er.
Waller skizzierte ein einfaches Beispiel: Ein Kunde bittet einen Agenten, einen Pullover zu kaufen, doch der Agent bestellt die falsche Größe und die Bank genehmigt die Zahlung. Die Autorisierung der Zahlung bedeutet nicht automatisch, dass der Agent das gekauft hat, was der Kunde beabsichtigte. Bestehende Regeln für den elektronischen Handel, darunter Vorgaben der Zahlungsnetzwerke, Verbraucherschutz und einschlägige Regulierung, könnten auf Transaktionen durch KI-Agenten übertragen werden. Zugleich könnten Aufsichtsbehörden neue Ansätze erproben.
Die Risiken beschränken sich nicht darauf, dass Hacker oder Betrüger ein KI-System manipulieren. Ein Agent kann von seinen Eingaben oder Einstellungen abweichen. Auch gewöhnliche Fehler von Kunden, Händlern oder anderen Beteiligten in der Transaktionskette können Probleme auslösen. Überweist ein Agent Geld außerhalb eines Kontos, könnte die Verantwortung beim Nutzer liegen, der ihn falsch konfiguriert hat, beim Anbieter des Modells, der eine Überschreitung seiner Befugnisse zugelassen hat, oder bei der Bank, die eine Transaktion trotz Warnsignalen genehmigte.
Lead Bank entwirft Haftungskaskade
Die in Kansas City ansässige Lead Bank ist eine staatlich zugelassene Bank und stellt Fintechs, Unternehmen aus dem Digital-Asset-Bereich sowie Verbrauchermarken Banking-as-a-Service-Infrastruktur bereit. Sie entwickelt derzeit ein Rahmenwerk für Banking und Zahlungen über KI-Agenten.
CEO Jackie Reses erklärte, herkömmliche Systeme zur Identitätsprüfung und Verifizierung seien auf Menschen ausgerichtet und häufig so gestaltet worden, dass Bots ausgeschlossen werden. Das ändere sich, da Maschinen zahlenmäßig mehr Transaktionen als Menschen abwickeln und in deutlich größerem Umfang operieren könnten. Transaktionsfehler seien unvermeidbar. Entscheidend seien daher Kontrollmechanismen, Anforderungen an die Programmierung und ein Verfahren zur Zuordnung der Verantwortung, wenn ein Agent vom vorgesehenen Ablauf abweicht.
Die von Lead Bank vorgeschlagene Haftungs-„Kaskade“ würde die Verantwortung nach der Art des Fehlers und nach der Kontrolle der jeweiligen Partei verteilen. Überschreitet ein Agent die Befugnisse, die ein Verbraucher ausdrücklich eingeräumt hat, soll der Verbraucher nicht haften. Kontrolliert eine Bank die Vergabe von Berechtigungen, setzt die festgelegten Grenzen aber nicht durch, soll sie die Verantwortung tragen. KI-Anbieter wären für Modellfehler, unsichere Tool-Aufrufe oder unzureichende Schutzvorkehrungen zuständig. Ein Händler könnte haften, wenn er einen Agenten mit begrenzten Berechtigungen wissentlich dazu ermuntert, diese Grenzen zu überschreiten.
Der Ansatz soll die Verantwortlichkeit bereits in die Systeme integrieren, statt jeden Streit erst im Nachhinein zu klären. In der Praxis würde das Ergebnis weiterhin davon abhängen, wie Berechtigungen eingerichtet waren, ob die Bank Hinweise auf ungewöhnliche Aktivitäten erhielt und ob die einzelnen Parteien nachweisen können, dass sie den maßgeblichen Teil des Vorgangs kontrollierten.
Primitive arbeitet an Protokoll für KI-Finanzdienste
Auch Primitive entwickelt Standards für den Betrieb und die Haftung bei agentenbasierter KI. Das Technologie-Start-up wurde von Derek White gegründet, dem früheren Chief Digital Officer von US Bancorp. White sagte, Verbraucher nutzten bereits Modelle wie ChatGPT, um Anbieter von Finanzdienstleistungen zu finden. Künftig könnten sie Agenten auch auffordern, bei bestimmten Banken Konten zu eröffnen.
Ein vorgeschlagener Standard ist das „Agentic Financial Services Protocol“. Es soll Unternehmen dabei unterstützen, KI-Agenten nach gemeinsamen Anforderungen an Sicherheitsvorkehrungen zu entwickeln. White zufolge sieht das Protokoll eine Dokumentation jeder Agentensitzung vor. Dazu gehören die Information, ob der Agent Governance-Regeln eingehalten hat, welches Large Language Model er verwendete und wie viele Tokens während der Sitzung verarbeitet wurden.
Die Aufzeichnungen könnten für Aufsichtsbehörden oder Wirtschaftsprüfer zusammengestellt werden und nachvollziehbar machen, wie ein Agent zu einer Entscheidung gelangte. Für Banken könnte ein detaillierter Prüfpfad außerdem klären, ob ein Problem auf Anweisungen des Nutzers, das Verhalten des Modells, einen Tool-Aufruf oder den Prozess zur Transaktionsfreigabe zurückzuführen war.
Technische Kontrollen sind vorhanden, Regulierung bleibt offen
Reses erklärte, die derzeit verfügbare Technologie könne das Verhalten von Agenten begrenzen und die Zuordnung von Verantwortung unterstützen. Die programmierbaren Schnittstellen von Lead Bank können Abweichungen überwachen, Systembestätigungen dokumentieren, Informationen zur regelmäßigen „Know Your Agent“-Prüfung aktualisieren, Transaktionsberechtigungen ausstellen und diese bei Bedarf widerrufen.
Die größere Herausforderung liegt nach ihrer Einschätzung darin, Banken- und Zahlungsverkehrsregeln mit Aktivitäten agentenbasierter KI in Einklang zu bringen. Ohne klarere rechtliche und aufsichtsrechtliche Vorgaben könnten Banken Schwierigkeiten haben zu beurteilen, welche Kontrollen ihre Pflichten erfüllen. Verbraucher wiederum wissen möglicherweise nicht im Voraus, wer ihnen den Schaden ersetzt, wenn eine Transaktion fehlschlägt.
An der Entwicklung von Standards arbeiten Kartennetzwerke, E-Commerce-Plattformen, Zahlungsdienstleister, Technologieunternehmen, die FIDO Alliance und Banken. Gleichzeitig bestehen bei Verbrauchern weiterhin Vorbehalte gegenüber Zahlungen durch KI-Agenten, auch wenn Marktprognosen auf ein mögliches Wachstum hindeuten. Je mehr Agenten suchen, Konten eröffnen und Zahlungen ausführen können, desto genauer müssen Finanzinstitute festlegen, wie Berechtigungen dokumentiert, Transaktionsnachweise verwaltet, Modelle geprüft und Haftungsfragen geklärt werden, wenn ein Agent seine Befugnisse überschreitet.