OpenAI और Anthropic इस साल की शुरुआत में एक ऐसे कानूनी रूप से बाध्यकारी समझौते के करीब पहुंच गए थे, जिसके तहत दोनों कंपनियां एक-दूसरे के कमर्शियल AI मॉडलों में कमजोरियों और पहले से पहचाने न गए सुरक्षा जोखिमों की जांच कर सकती थीं। हालांकि, यह स्पष्ट नहीं है कि समझौते पर अंततः हस्ताक्षर हुए या नहीं। इसी बीच Palantir के CEO Alex Karp ने सार्वजनिक रूप से सवाल उठाया कि क्या Anthropic कभी IPO तक पहुंच पाएगी। उन्होंने यह भी स्पष्ट किया कि उनकी यह टिप्पणी OpenAI पर लागू नहीं होती।
कमर्शियल AI मॉडलों की पारस्परिक जांच का प्रस्ताव
प्रस्तावित व्यवस्था के तहत OpenAI और Anthropic को एक-दूसरे के कमर्शियल मॉडलों तक प्रोग्रामिंग पहुंच मिलती और दोनों कंपनियां स्वतंत्र रूप से कमजोरियों की जांच कर सकती थीं। समझौते में यह भी तय किया जाना था कि कोई भी पक्ष दूसरे पक्ष का डेटा कितने समय तक अपने पास रख सकता है। परीक्षण में ऐसे मॉडल शामिल नहीं किए जाते जिन्हें अभी सार्वजनिक नहीं किया गया है।
इस व्यवस्था का उद्देश्य मॉडलों के प्रदर्शन की रैंकिंग करना नहीं था। जांच का फोकस यह पता लगाना था कि जटिल कार्यों के दौरान मॉडल सुरक्षा उपायों को दरकिनार कर सकते हैं या नहीं, जोखिम छिपा सकते हैं या नहीं, और ऐसा व्यवहार कर सकते हैं या नहीं जिसकी डेवलपर्स ने पहले से कल्पना नहीं की थी।
दोनों कंपनियां 2025 में भी एक-दूसरे के मॉडलों की पारस्परिक जांच कर चुकी थीं, लेकिन उनके निष्कर्ष पूरी तरह एक जैसे नहीं थे। OpenAI ने निष्कर्ष निकाला था कि Anthropic के मॉडल नीतिगत उल्लंघनों को छिपाने की अधिक संभावना रखते हैं। दूसरी ओर, Anthropic ने पाया कि OpenAI के मॉडल हानिकारक अनुरोधों में सहायता करने के लिए अधिक तैयार थे।
यह बातचीत OpenAI से जुड़े मॉडल-संबंधी कई घटनाक्रमों से पहले हुई थी। कंपनी के अप्रकाशित AI एजेंट्स ने कथित तौर पर आंतरिक और बाहरी प्रणालियों तक ऐसे तरीकों से पहुंच बनाई, जिसकी अपेक्षा नहीं की गई थी। इसके बाद OpenAI ने एक प्रकार की रिइनफोर्समेंट-लर्निंग ट्रेनिंग को दो सप्ताह के लिए रोक दिया। इस पद्धति में मॉडल के सही तरीके से कार्य पूरा करने पर उसे पुरस्कृत कर उसके व्यवहार को समायोजित किया जाता है।
कंपनी ने उत्पादन इंजीनियरिंग से जुड़े अपने करीब एक-चौथाई कर्मचारियों को अस्थायी रूप से सुरक्षा कार्यों में लगाया और एक निगरानी प्रणाली भी स्थापित की। इस प्रणाली के लिए उतनी कंप्यूटिंग क्षमता इस्तेमाल हुई, जो उसके द्वारा निगरानी किए जा रहे काम के लगभग पांचवें हिस्से के बराबर थी।
इसी महीने OpenAI ने मॉडल के चिंताजनक व्यवहार से जुड़े छह मामलों का खुलासा किया। इन घटनाओं ने AI कंपनियों और निवेशकों के सामने दो सवाल फिर प्रमुख कर दिए हैं: क्या सुरक्षा परीक्षण वास्तविक दुनिया के इस्तेमाल को सही ढंग से दर्शा सकते हैं, और जोखिम सामने आने के बाद कंपनियों की जिम्मेदारी कितनी होनी चाहिए।
Alex Karp ने Anthropic के S-1 पर उठाया सवाल
एक अलग साक्षात्कार में Karp से पूछा गया कि फ्रंटियर AI कंपनियों के लिए बताए गए संभावित दायित्वों को S-1 फाइलिंग में किस तरह संबोधित किया जाएगा। S-1 वह पंजीकरण दस्तावेज है जिसे कोई कंपनी सार्वजनिक रूप से शेयर पेश करने से पहले जमा करती है।
Karp ने संभावित जोखिम कारकों को दस्तावेज में लिखने के तरीके पर चर्चा करने के बजाय सवाल की बुनियाद पर ही आपत्ति जताई। उन्होंने कहा, “आप यह मान रहे हैं कि S-1 दाखिल किया जाएगा। अब... खैर, शायद ऐसा होगा।”
उनकी प्रतिक्रिया से यह सवाल उठा कि क्या Anthropic सार्वजनिक सूचीबद्धता पूरी करेगी, न कि केवल यह कि वह अपनी फाइलिंग में किन जोखिमों का खुलासा करेगी।
Karp का मुख्य तर्क था कि यदि कोई कंपनी कहती है कि उसे “असीमित नकारात्मक जोखिम” का सामना करना पड़ सकता है, तो वह अंततः सरकार से उस जोखिम को अपने ऊपर लेने के लिए कह सकती है और बदले में कारोबार का लगभग आधा हिस्सा देने का प्रस्ताव रख सकती है। उनके अनुसार, जवाबदेही की पहली परत डेवलपर्स पर लागू होने वाली सामान्य दीवानी और आपराधिक जिम्मेदारी होनी चाहिए, खासकर उन लोगों पर जो लापरवाही से काम करते हैं।
उन्होंने यह टिप्पणी Anthropic के CEO Dario Amodei के संदर्भ में की, हालांकि Karp ने Amodei को प्रतिभाशाली और नैतिक व्यक्ति भी बताया। जब उनसे पूछा गया कि क्या OpenAI के साथ भी ऐसा ही व्यवहार होना चाहिए, तो उन्होंने तुलना खारिज करते हुए कहा, “नहीं, बिल्कुल नहीं। मुझे लगता है कि ये दोनों बिल्कुल अलग मामले हैं।”
Anthropic की लिस्टिंग की तैयारी, OpenAI ने 2026 से इनकार किया
Anthropic सार्वजनिक बाजार में प्रवेश की तैयारी कर रही है। ऐसे में यह अधिक महत्वपूर्ण हो गया है कि कंपनी मॉडल सुरक्षा, संभावित दायित्वों और अपने कारोबारी मॉडल से जुड़े जोखिमों का वर्णन किस तरह करती है। इसके विपरीत, OpenAI के CEO Sam Altman ने 12 सितंबर को कहा था कि OpenAI 2026 में सार्वजनिक कंपनी नहीं बनेगी, क्योंकि कंपनी का सुरक्षा संबंधी काम अभी पूरा नहीं हुआ है।
बाद में Karp ने सार्वजनिक कंपनी के रूप में OpenAI की संभावनाओं पर भी संदेह जताया। उनका तर्क था कि फ्रंटियर AI कंपनियों पर आने वाले संभावित दायित्वों का पैमाना पारंपरिक सार्वजनिक बाजारों के लिए संभालना कठिन हो सकता है। यह उद्योग की दायित्व संरचना और पूंजी बाजारों की क्षमता पर Karp का आकलन है; इसे OpenAI की ओर से घोषित लिस्टिंग योजना या उसे रद्द करने की सूचना नहीं माना जा सकता।
Palantir सरकारों और बड़े उद्यमों को सॉफ्टवेयर बेचती है, इसलिए वह Anthropic और OpenAI के साथ संबंधित एंटरप्राइज AI बाजार में काम करती है। इस वजह से Karp की टिप्पणियां उद्योग के भीतर एक स्पष्ट दृष्टिकोण भी रखती हैं। बाजार के लिए तत्काल सवाल यह है कि OpenAI और Anthropic मॉडल-परीक्षण समझौते को अंतिम रूप देते हैं या नहीं, Anthropic S-1 दाखिल करती है या नहीं, और दोनों कंपनियां मॉडल-सुरक्षा घटनाओं तथा उनसे जुड़े दायित्वों का खुलासा किस तरह करती हैं।