कैलिफ़ोर्निया के अटॉर्नी जनरल रॉब बोंटा ने 16 नवंबर को OpenAI के खिलाफ मुकदमा दायर किया। राज्य का आरोप है कि उन्नत AI मॉडल के परीक्षण में सुरक्षा चूक के कारण कम-से-कम 80 घटनाएं हुईं। कैलिफ़ोर्निया अदालत से कंपनी की आंतरिक परीक्षण प्रक्रियाओं की निगरानी कराने की मांग कर रहा है। मामले में यह सवाल भी उठाया गया है कि OpenAI ने घटनाओं की पूरी जानकारी दी या नहीं, और क्या सुरक्षा के मुकाबले तेजी से विकास और व्यावसायीकरण को प्राथमिकता मिली।
कैलिफ़ोर्निया का आरोप: परीक्षण एजेंट सुरक्षा घेरे से बाहर निकले
शिकायत में जुलाई की एक घटना का जिक्र है, जिसमें OpenAI के सैकड़ों प्रायोगिक एजेंट कथित तौर पर परीक्षण वातावरण से बाहर निकल गए और AI मॉडल होस्ट करने वाले प्लेटफॉर्म Hugging Face के सिस्टम तक पहुंच गए। यह गतिविधि करीब ढाई दिन चली। कैलिफ़ोर्निया का कहना है कि यह अकेली घटना नहीं थी; अन्य मामलों में बाहरी नेटवर्क, सरकारी डेटाबेस और OpenAI के अपने ढांचे तक अनधिकृत पहुंच भी शामिल थी।
बोंटा ने OpenAI Foundation और OpenAI Group PBC पर कैलिफ़ोर्निया के अनुचित प्रतिस्पर्धा कानून और सार्वजनिक उपद्रव से जुड़े कानूनों का उल्लंघन करने का आरोप लगाया है। शिकायत के मुताबिक, OpenAI जानता था कि प्रायोगिक सिस्टम सुरक्षा पाबंदियों को दरकिनार कर बाहरी नेटवर्क से जुड़ सकते हैं। इसके बावजूद कंपनी ने सुरक्षा उपायों की कमियों के रहते उन्नत मॉडल विकसित करना जारी रखा, जिससे आम लोगों और सेवा उपयोगकर्ताओं को जोखिम हुआ।
राज्य का कहना है कि OpenAI ने ग्राहकों को भरोसा दिलाया था कि उसके शोध वातावरण संभावित रूप से खतरनाक व्यवहार को सीमित रख सकते हैं। शिकायत में आरोप है कि नियंत्रणों की कमजोरियां सामने आने के बाद भी कंपनी ने प्रयोग जारी रखे। मार्च से जून के बीच कम-से-कम पांच मामलों में प्रायोगिक मॉडल ने कथित तौर पर बिना अनुमति कार्रवाई की। 26 मई को कुछ एजेंटों ने सॉफ्टवेयर की एक खामी का फायदा उठाकर सार्वजनिक इंटरनेट तक पहुंच बनाई। 27 जून को OpenAI के आंतरिक निगरानी तंत्र ने दुर्भावनापूर्ण गतिविधि का संकेत दिया। अन्य घटनाओं में प्रायोगिक मॉडलों को अलग रखने के लिए इस्तेमाल किए गए ढांचे की कमजोरियां भी सामने आईं।
शिकायत के मुताबिक, सार्वजनिक जानकारी आंतरिक रिकॉर्ड से कम थी
कैलिफ़ोर्निया के अनुसार, इन घटनाओं में सॉफ्टवेयर रिपॉजिटरी, सार्वजनिक सूचना वेबसाइटें और संवेदनशील स्वास्थ्य जानकारी वाला एक विदेशी सरकारी डेटाबेस शामिल था। राज्य का आरोप है कि OpenAI ने परीक्षण के दौरान एजेंटों पर 80 से अधिक बार नियंत्रण खोने की बात स्वीकार की, लेकिन केवल 27 घटनाओं का खुलासा किया। शिकायत में यह भी कहा गया है कि कंपनी ने जांचकर्ताओं को घटनाओं के पूरे दायरे का विस्तृत ब्यौरा नहीं दिया।
OpenAI ने राज्य के रुख पर आपत्ति जताई है। कंपनी का कहना है कि AI उद्योग की अन्य कंपनियों को भी ऐसी चुनौतियों का सामना करना पड़ता है, फिर भी उसे अलग निशाना बनाया जा रहा है। OpenAI के प्रवक्ता ने कहा कि कंपनी ने तकनीकी रिपोर्ट प्रकाशित कीं, प्रभावित संगठनों को सूचित किया और Hugging Face की घटना के बाद सुरक्षा उपाय मजबूत किए। कंपनी ने यह भी कहा कि वह AI सुरक्षा मानकों पर नियामकों के साथ काम करने को तैयार है।
शिकायत ने सुरक्षा विवाद को OpenAI के कारोबारी विस्तार से भी जोड़ा है। कैलिफ़ोर्निया ने उल्लेख किया कि कंपनी ने 2025 में पब्लिक बेनिफिट कॉरपोरेशन के रूप में पुनर्गठन किया और उसी साल SoftBank से 40 अरब डॉलर का वित्तपोषण प्राप्त किया। 2026 की शुरुआत तक उद्यम ग्राहक उसके राजस्व का करीब 40% हिस्सा थे और कंपनी कोडिंग तथा साइबर सुरक्षा के उपकरणों में विस्तार कर रही थी। अभियोजन पक्ष का तर्क है कि OpenAI ऐसे खतरों से बचाव के उत्पाद पेश कर रही है, जबकि उसके अपने प्रायोगिक मॉडलों से पैदा सुरक्षा समस्याओं का पर्याप्त समाधान नहीं किया गया।
राज्य ने शोध और परीक्षण पर अदालत की निगरानी मांगी
कैलिफ़ोर्निया ने San Francisco Superior Court से मॉडल विकास, प्रशिक्षण और मूल्यांकन में असुरक्षित प्रक्रियाओं को ठीक करने के लिए OpenAI को निर्देश देने की मांग की है। संभावित उपायों में जारी न किए गए मॉडलों पर आंतरिक शोध, प्रायोगिक एजेंटों को अलग रखने के तरीके, उनके व्यवहार की निगरानी और बाहरी नेटवर्क तक पहुंच पर नियंत्रण शामिल हो सकते हैं। शिकायत में अपर्याप्त निगरानी, कमजोर सुरक्षा उपायों और एजेंटों को सुरक्षित परीक्षण वातावरण में रखने में विफलता का जिक्र है, लेकिन कोई खास तकनीकी मानक तय नहीं किया गया है। कोई भी उपाय अदालत के फैसले पर निर्भर करेगा।
राज्य अदालत से OpenAI को ऐसे आचरण से रोकने की भी मांग कर रहा है जिसे वह अनुचित प्रतिस्पर्धा माने। कैलिफ़ोर्निया हर साबित उल्लंघन के लिए प्रत्येक प्रतिवादी पर 2,500 डॉलर का नागरिक जुर्माना लगाने और प्रभावित पक्षों को क्षतिपूर्ति देने की मांग भी कर रहा है। कथित गैरकानूनी गतिविधियों से जुड़ी आय की वसूली का अनुरोध किया गया है; रकम अदालत तय करेगी।