Dell-Gründer und CEO Michael Dell fordert Unternehmen auf, vor dem Einsatz von KI-Agenten festzulegen, was diese unter keinen Umständen tun dürfen – unabhängig davon, welche Anweisung sie erhalten. Die Frage wird dringlicher, weil Agenten zunehmend Zugriff auf Unternehmensnetzwerke, Dateisysteme und Entwicklungsumgebungen bekommen. Klare Sicherheitsgrenzen sind damit eine zentrale Voraussetzung für ihren Einsatz in Unternehmen und Institutionen.
Dell: Zugriffsrechte vor dem Einsatz festlegen
KI-Agenten unterscheiden sich von Chatbots, die Texte verfassen oder Fragen beantworten. Sie können Code schreiben, Dateien öffnen und innerhalb von Unternehmenssystemen ganze Abläufe ausführen – mitunter, ohne dass ein Mensch jeden Schritt freigibt.
Dell verglich Agenten mit Beschäftigten: Kein Unternehmen würde Mitarbeitenden ohne Zugangskontrollen alle Türen öffnen. Für digitale Agenten sollten vergleichbare Beschränkungen gelten. Vor dem Einsatz müsse feststehen, auf welche Daten sie zugreifen, welche Systeme sie erreichen und welche Aktionen sie ausführen dürfen.
Auch Prompts und das Modell selbst reichten als Sicherheitsgrenze nicht aus, sagte Dell. Die wichtigsten Beschränkungen müssten auf Software- und Hardwareebene durchgesetzt werden, statt allein auf Anweisungen an das Modell zu beruhen.
Nvidia kombiniert Software- und Hardwarekontrollen
Nvidia hat vor Kurzem die Open Agent Safety Platform vorgestellt, eine Kontrollschicht für KI-Agenten. CEO Jensen Huang bezeichnete sie als offenes Ökosystem, in dem Beteiligte eine Infrastruktur für den sicheren Betrieb von Agenten entwickeln können. Mehr als 100 Partner sind beteiligt, darunter Anthropic, Microsoft und CrowdStrike.
Die Plattform besteht aus zwei Komponenten. OpenShell umfasst Softwarewerkzeuge, die festlegen, welche Informationen ein Agent sehen und welche Aktionen er ausführen kann. Sentry läuft auf einem separaten Chip und überwacht den Agenten von außerhalb des Hauptcomputers. Verstößt ein Agent gegen eine festgelegte Regel, kann das System ihn nach Dells Beschreibung innerhalb von Millisekunden isolieren oder einschränken.
Nvidia zufolge ist OpenShell quelloffen und nicht auf eigene Hardware beschränkt. Die Software läuft auch auf Chips von Arm und Intel und ist inzwischen auf GitHub verfügbar. Welche Aktionen Agenten untersagt werden, müssen Unternehmen jedoch weiterhin selbst bestimmen. Die Plattform liefert keinen vollständigen Regelkatalog mit.
KI-Agenten greifen bereits auf reale Systeme zu
Die Diskussion über Sicherheitsgrenzen ist nicht mehr auf Labore beschränkt. Vier führende KI-Labore haben bestätigt, dass ihre Modelle auf reale Systeme von Unternehmen oder Institutionen zugegriffen haben.
Google räumte ein, dass Gemini bei einem Test im Mai in drei Unternehmen eindrang. In der vergangenen Woche griff ein OpenAI-Agent auf das Medicare-Portal der australischen Regierung zu. Die Vorfälle zeigen, dass Agenten nach dem Zugang zu Netzwerken, Dateien oder Geschäftssystemen weiterreichende Aktionen ausführen können als zunächst erwartet. Das Verhältnis zwischen den Fähigkeiten eines Modells und seinen Zugriffsrechten ist damit zu einer Kernfrage der Risikokontrolle geworden.
Huang hatte zuvor erklärt, Labore sollten KI-Experimente einstellen, wenn sie diese nicht wirksam kontrollieren können. Über die Open Agent Safety Platform sagte er, das gesellschaftliche Potenzial von KI lasse sich erst ausschöpfen, wenn Fragen der KI-Sicherheit geklärt seien.
Für Unternehmen und Investoren bleibt entscheidend, welche Handlungen eine Organisation ihren Agenten untersagt – und ob diese Grenzen auch dann halten, wenn Prompts versagen, sich ein Modell unerwartet verhält oder Berechtigungen missbraucht werden. Nvidias Plattform stellt Software- und Hardwarewerkzeuge bereit. Die Zugriffsregeln und die Verantwortung für ihren Einsatz liegen weiterhin bei den jeweiligen Unternehmen.