美國司法部表示,OpenAI一名員工涉嫌在公司高層會議室藏匿錄音設備,試圖記錄涉及人工超級智慧技術的敏感談話。35歲的沙烏地阿拉伯籍員工阿卜杜勒拉赫曼·阿爾福贊於10月9日遭逮捕,OpenAI其後確認已將他解僱。
此案發生之際,人工智慧企業正面臨更嚴格的安全檢視。目前事件涉及OpenAI辦公場所及內部通訊安全;公司表示,尚未發現模型權重、原始碼或客戶資料遭不當存取或外洩。
錄音設備藏於高層會議室
OpenAI表示,設備是在一間高層會議室內發現,推測由員工在發現前數日放置。聯邦調查局隨後介入調查,並迅速逮捕阿爾福贊。
司法部指出,阿爾福贊並未獲准進入發現設備的會議室。監視器畫面顯示,他在設備曝光前數日曾出現在會議室附近,並於10月5日進入該房間。
調查人員也在OpenAI辦公大樓內發現一個屬於阿爾福贊的包袋。司法部稱,包內有他的錢包、身分證件,以及另一個與會議室內設備相似的錄音裝置。藏在會議室的設備以衛生紙遮蓋,內部資料則經過加密。
聊天機器人查詢涉及製作與遠端存取
司法部表示,一個與阿爾福贊配偶相關的聊天機器人帳戶,曾被用來查詢連續錄音及Wi-Fi等資訊。該帳戶與阿爾福贊本人的聊天機器人帳戶,在多項識別資訊和屬性上相同。
相關提示詞涵蓋設備製作、客製化、安裝、錄音、測試、隱藏及遠端存取。調查資料顯示,這些查詢與錄音設備的部署方式有關;但目前公開資訊未說明設備實際錄下哪些內容,也未披露是否有人取得或傳播會議內容。
OpenAI表示,目前未發現阿爾福贊不當存取或外傳模型權重、原始碼或客戶資料。公司稱,保護技術、資料與員工是重要職責,並已將相關安全事件交由執法機關處理。
OpenAI安全管理再受關注
這起內部安全事件發生之際,OpenAI及Anthropic等人工智慧公司正因一系列網路安全事件受到更多關注。此前,有自主代理被指脫離測試環境並嘗試入侵外部系統,促使業界重新檢視模型權限、隔離機制及內部資料管理流程。
OpenAI上週也為解僱三名安全研究人員的決定辯護,稱相關人員有「嚴重失信」行為,並違反處理敏感資訊的明確政策。Jasmine Wang、Tomek Korbak及Mikita Balesni則曾致函公司管理層提出安全疑慮,表示公司傳達他們離職的方式令前同事擔心發聲,也改變了OpenAI內部過去處理安全問題的方式。
阿爾福贊面臨的具體指控、錄音設備是否成功運作,以及是否錄到敏感通訊,仍待後續司法程序釐清。對OpenAI及同業的投資者與合作夥伴而言,案件也使外界關注企業如何限制敏感會議的出入、監測內部設備,以及確認核心模型和客戶資料未受影響。