Der 35-jährige OpenAI-Mitarbeiter Abdulrahman Al-Fawzan ist am 9. Oktober festgenommen worden. Er soll in einem Besprechungsraum der Führungsebene ein Aufnahmegerät versteckt haben, um vertrauliche Gespräche über künstliche Superintelligenz aufzuzeichnen. OpenAI bestätigte später, dass das Unternehmen ihn entlassen hat.
Der Fall fällt in eine Zeit, in der die Sicherheitsvorkehrungen von KI-Unternehmen verstärkt geprüft werden. Die bislang bekannten Vorwürfe gegen Al-Fawzan betreffen die Sicherheit am Arbeitsplatz und die interne Kommunikation. Es gibt keine Hinweise darauf, dass Modellgewichte, Quellcode oder Kundendaten unrechtmäßig abgerufen oder weitergegeben wurden.
Aufnahmegerät in Besprechungsraum der Führungsebene entdeckt
OpenAI zufolge wurde das Gerät in einem Besprechungsraum der Führungsebene gefunden. Ein Mitarbeiter soll es dort einige Tage zuvor platziert haben. Das FBI nahm daraufhin Ermittlungen auf und nahm Al-Fawzan fest.
Das US-Justizministerium erklärte, Al-Fawzan habe keine Berechtigung gehabt, den Raum zu betreten, in dem das Gerät entdeckt wurde. Aufnahmen der Sicherheitskameras zeigten ihn an mehreren Tagen vor dem Fund in der Nähe des Raums. Demnach betrat er ihn auch am 5. Oktober.
Die Ermittler fanden außerdem in den OpenAI-Büros eine Tasche, die Al-Fawzan gehörte. Nach Angaben des Justizministeriums enthielt sie seine Geldbörse, Ausweisdokumente und ein weiteres Aufnahmegerät, das dem im Besprechungsraum gefundenen ähnelte. Das versteckte Gerät war mit Taschentuchpapier abgedeckt; seine Daten waren verschlüsselt.
Chatbot-Anfragen zu Bau und Fernzugriff
Laut Justizministerium wurde ein Chatbot-Konto, das der Ehefrau Al-Fawzans zugeordnet war, für Recherchen zu Daueraufnahmen und WLAN genutzt. Das Konto wies mehrere Kennungen und Merkmale auf, die auch bei Al-Fawzans eigenem Chatbot-Konto vorkamen.
Die Anfragen bezogen sich auf Herstellung, Anpassung, Installation, Aufnahmebetrieb, Tests und Tarnung von Aufnahmegeräten sowie auf deren Fernzugriff. Ermittlungsmaterial deutet darauf hin, dass die Suchanfragen mit dem Einsatz des Geräts zusammenhingen. Aus den öffentlich verfügbaren Informationen geht jedoch weder hervor, was das Gerät tatsächlich aufzeichnete, noch ob jemand Inhalte aus der Besprechung abgerufen oder verbreitet hat.
OpenAI erklärte, es gebe keine Hinweise darauf, dass Al-Fawzan Modellgewichte, Quellcode oder Kundendaten unrechtmäßig abgerufen oder übertragen habe. Der Schutz der Technologie, der Daten und der Beschäftigten gehöre zu den zentralen Aufgaben des Unternehmens. Den Sicherheitsvorfall habe OpenAI den Strafverfolgungsbehörden gemeldet.
Festnahme rückt Sicherheitskontrollen der KI-Branche in den Fokus
Der interne Sicherheitsfall ereignet sich, während OpenAI und andere KI-Unternehmen, darunter Anthropic, nach einer Reihe von Cybersicherheitsvorfällen stärker unter Beobachtung stehen. In einem früheren Fall soll ein autonomer Agent seine Testumgebung verlassen und versucht haben, auf externe Systeme zuzugreifen. Das führte erneut zu Fragen über Berechtigungen von Modellen, deren technische Abschottung und den Umgang mit internen Daten.
OpenAI verteidigte in der vergangenen Woche außerdem die Entlassung von drei Sicherheitsforschern. Sie hätten „schwerwiegende Vertrauensverstöße“ begangen und klare Regeln für den Umgang mit vertraulichen Informationen verletzt, erklärte das Unternehmen. Jasmine Wang, Tomek Korbak und Mikita Balesni hatten zuvor in einem Schreiben an die Unternehmensleitung Sicherheitsbedenken geäußert. Sie sagten, die Kommunikation über ihre Abgänge habe bei früheren Kollegen die Sorge verstärkt, sich offen zu äußern, und den Umgang mit Sicherheitsfragen bei OpenAI verändert.
Welche konkreten Vorwürfe Al-Fawzan gemacht werden, ob die Aufnahmegeräte tatsächlich funktionierten und ob sie vertrauliche Gespräche erfassten, muss das weitere Verfahren klären. Für Investoren und Geschäftspartner von OpenAI geht es damit auch um die Frage, wie Unternehmen den Zugang zu sensiblen Besprechungen begrenzen, unbefugte Geräte erkennen und belegen können, dass Kernmodelle und Kundendaten nicht betroffen waren.