Ethereum-Mitgründer Vitalik Buterin hat am 16. Oktober ein experimentelles Datenschutzkonzept für KI-Agenten vorgestellt. Der sogenannte „paranoid mode“ soll es KI-Anbietern erschweren, Nutzer anhand ihrer Identität, der Herkunft von Anfragen und Zahlungsdaten zu erkennen. Bei KI-Agenten mit Zugriff auf Wallets oder Finanztools könnten solche Informationen Rückschlüsse auf beobachtete Token, gehaltene Vermögenswerte und geplante Transaktionen zulassen. Buterin räumte zugleich ein, dass das Konzept die Antwortzeiten verlängert und weiterhin anfällig für Absprachen zwischen Beteiligten ist. Der Code ist öffentlich zugänglich, das Gesamtsystem befindet sich jedoch noch in der Erprobungsphase.
Vier Schutzschichten für Identität, Datenverkehr und Zahlungen
Das Konzept kombiniert mehrere Datenschutztechniken, die unterschiedliche Spuren von KI-Anfragen reduzieren sollen. Tor legt für jede Unterhaltung eine separate Netzwerkroute an und kann dadurch die IP-Adresse des Nutzers verbergen. Die Verschleierung des Datenverkehrs ergänzt echte Anfragen um künstliche Anfragen, sodass sich die tatsächliche Aktivität schwerer aus dem gesamten Datenstrom herausfiltern lässt.
Auf Ebene der Eingabe schreibt ein kleines, auf dem Gerät des Nutzers laufendes KI-Modell den Prompt um, bevor er an den Dienst übermittelt wird. Dabei sollen Informationen entfernt werden, die auf eine bestimmte Person hindeuten könnten. Der KI-Anbieter kann die Anfrage weiterhin sehen; reduziert werden soll vielmehr die Menge personenbezogener Hinweise, die der Prompt selbst enthält.
Für Zahlungen setzt das Konzept auf zkAPI. Mithilfe kryptografischer Beweise soll nachgewiesen werden, dass eine Anfrage bezahlt wurde, ohne die Identität des Zahlers unmittelbar offenzulegen. Zusammengenommen zielen die vier Maßnahmen auf mögliche Verknüpfungen durch Netzwerkadressen, Anfrageverhalten, Prompt-Inhalte und Zahlungsaufzeichnungen.
Finanzdialoge mit KI können Anlageinteressen offenlegen
Kann ein KI-Agent auf ein Wallet oder einen Finanzdienst zugreifen, können Unterhaltungen sensible Informationen enthalten. Wer nach bestimmten Token fragt oder eine Analyse seines Portfolios anfordert, gibt möglicherweise Hinweise auf seine Anlageinteressen. Auch ohne Namensangabe könnten Zahlungsdaten, Netzwerkadressen und wiederkehrende Angaben in mehreren Prompts dazu dienen, einen Nutzer zu identifizieren oder verschiedene Anfragen miteinander zu verknüpfen.
Das Konzept betrachtet daher nicht nur die Frage, ob Gesprächsinhalte öffentlich werden. Entscheidend ist auch, ob ein Anbieter eine Anfrage einem bestimmten Nutzer, Netzwerkursprung oder Zahlungsdatensatz zuordnen kann. Im Finanzbereich kann diese Unterscheidung beeinflussen, ob Nutzer Kontofragen oder persönliche Finanzthemen an KI-Agenten übergeben. Hinweise auf eine breite Einführung oder eine umfassende Validierung des Konzepts liegen nicht vor.
Buterin nennt Grenzen bei Latenz und Absprachen
Zusätzliche Datenschutzmaßnahmen erhöhen die Zahl der Verarbeitungsschritte und bringen praktische Zielkonflikte mit sich. Buterin erklärte, dass der „paranoid mode“ die Latenz erhöhen würde. Zudem könnten Absprachen zwischen mehreren Beteiligten weiterhin eine Verknüpfung von Informationen ermöglichen. Tor, Datenverkehrsverschleierung, lokale Prompt-Umschreibung und zkAPI adressieren jeweils unterschiedliche Arten von Spuren. Keine der Maßnahmen garantiert jedoch, dass die Identität eines Nutzers in jedem Angriffsszenario verborgen bleibt.
Der Code kann öffentlich geprüft werden, doch seine Verfügbarkeit bedeutet nicht, dass das Gesamtsystem bereits ausgereift ist. Für Nutzer bleiben vor allem die praktische Leistungsfähigkeit, die zusätzliche Antwortzeit und der Schutzumfang offen, wenn mehrere Dienstanbieter ihre Aktivitäten miteinander koordinieren.