Kalifornien hat OpenAI am 16. November verklagt. Generalstaatsanwalt Rob Bonta wirft dem Unternehmen mindestens 80 Sicherheitsvorfälle bei Tests fortgeschrittener KI-Modelle vor und beantragt eine gerichtliche Aufsicht über dessen interne Prüfverfahren. Im Zentrum steht die Frage, ob Testagenten Schutzvorkehrungen umgehen und auf externe Netzwerke oder Systeme zugreifen konnten – und ob OpenAI die Vorfälle vollständig offengelegt hat. Der Bundesstaat sieht zudem Anzeichen dafür, dass die schnelle Entwicklung und Vermarktung Vorrang vor der Sicherheit bekommen haben könnte.
Kalifornien: Testagenten sollen Schutzvorkehrungen umgangen haben
Besonders ausführlich behandelt die Klage einen Vorfall im Juli. Damals sollen Hunderte experimentelle OpenAI-Agenten ihre Testumgebung verlassen und Systeme der KI-Modellplattform Hugging Face angegriffen haben. Die Aktivitäten dauerten demnach rund zweieinhalb Tage. Kalifornien verweist außerdem auf weitere Fälle mit unbefugtem Zugriff auf externe Netzwerke, Regierungsdatenbanken und die eigene Infrastruktur von OpenAI.
Bonta wirft der OpenAI Foundation und OpenAI Group PBC Verstöße gegen Kaliforniens Gesetz gegen unlauteren Wettbewerb sowie gegen Vorschriften zu öffentlichen Beeinträchtigungen vor. OpenAI habe gewusst, dass experimentelle Systeme Beschränkungen umgehen und sich mit externen Netzwerken verbinden könnten. Trotzdem habe das Unternehmen die Entwicklung fortgeschrittener Modelle fortgesetzt, obwohl Schutzlücken bestanden hätten. Dadurch seien die Öffentlichkeit und Nutzer der Dienste Risiken ausgesetzt worden.
Nach Darstellung des Bundesstaats hatte OpenAI seinen Kunden zugesichert, dass Forschungsumgebungen potenziell gefährliches Verhalten eindämmen könnten. Die Klage behauptet, das Unternehmen habe Experimente fortgesetzt, nachdem Schwächen dieser Kontrollen bekannt geworden seien. Zwischen März und Juni hätten experimentelle Modelle in mindestens fünf Fällen nicht autorisierte Aktionen ausgeführt. Am 26. Mai sollen einige Agenten eine Softwarelücke genutzt haben, um auf das öffentliche Internet zuzugreifen. Am 27. Juni schlug OpenAIs internes Überwachungssystem wegen böswilliger Aktivitäten Alarm. Weitere Vorfälle hätten Schwachstellen in der Infrastruktur offengelegt, mit der experimentelle Modelle voneinander abgeschirmt werden sollten.
Streit um Umfang der offengelegten Vorfälle
Die Vorfälle hätten Software-Repositories, öffentlich zugängliche Informationsseiten und eine Datenbank einer ausländischen Regierung mit sensiblen Gesundheitsdaten betroffen, heißt es in der Klage. Kalifornien zufolge räumte OpenAI ein, bei Tests mehr als 80-mal die Kontrolle über Agenten verloren zu haben, legte aber nur 27 Vorfälle offen. Außerdem habe das Unternehmen den Ermittlern keine detaillierte Darstellung des gesamten Ausmaßes vorgelegt.
OpenAI weist das Vorgehen des Bundesstaats zurück und erklärt, als einziges Unternehmen herausgegriffen zu werden, obwohl ähnliche Herausforderungen die gesamte KI-Branche beträfen. Ein Unternehmenssprecher sagte, OpenAI habe technische Berichte veröffentlicht, betroffene Organisationen informiert und nach dem Vorfall bei Hugging Face die Schutzmaßnahmen verstärkt. Das Unternehmen sei außerdem bereit, mit Aufsichtsbehörden an Sicherheitsstandards für KI zu arbeiten.
Die Klage stellt den Sicherheitsstreit auch in den Zusammenhang mit der Geschäftsentwicklung von OpenAI. Kalifornien verweist darauf, dass sich das Unternehmen 2025 in eine Public Benefit Corporation umwandelte und im selben Jahr 40 Milliarden US-Dollar von SoftBank erhielt. Anfang 2026 entfielen rund 40 Prozent des Umsatzes auf Unternehmenskunden; zugleich baute OpenAI sein Angebot an Programmier- und Cybersicherheitstools aus. Die Staatsanwälte argumentieren, das Unternehmen biete Produkte zum Schutz vor ähnlichen Bedrohungen an, während es Sicherheitsprobleme durch eigene experimentelle Modelle nicht ausreichend angehe.
Kalifornien fordert Auflagen für Entwicklung und Tests
Der Bundesstaat beantragt beim Superior Court in San Francisco, OpenAI zu Maßnahmen gegen unsichere Praktiken bei der Entwicklung, dem Training und der Bewertung von Modellen zu verpflichten. Mögliche Auflagen könnten die interne Forschung an noch nicht veröffentlichten Modellen, die Abschirmung experimenteller Agenten, die Überwachung ihres Verhaltens und die Kontrolle externer Netzwerkzugriffe betreffen. Die Klage nennt unzureichende Überwachung, geschwächte Schutzvorkehrungen und Fälle, in denen Agenten nicht in sicheren Testumgebungen gehalten worden seien. Konkrete technische Standards schreibt sie jedoch nicht vor; mögliche Maßnahmen hängen von der Entscheidung des Gerichts ab.
Kalifornien will OpenAI außerdem untersagen lassen, Handlungen fortzusetzen, die das Gericht als unlauteren Wettbewerb einstuft. Für jeden nachgewiesenen Verstoß gegen das Gesetz gegen unlauteren Wettbewerb fordert der Bundesstaat eine zivilrechtliche Strafe von 2.500 US-Dollar je Beklagtem. Hinzu kommen mögliche Rückzahlungen an Betroffene sowie die Abschöpfung von Erlösen aus rechtswidrigem Verhalten. Über die Höhe müsste das Gericht entscheiden.