फ्रंटियर आर्टिफिशियल इंटेलिजेंस को कितनी तेजी से विकसित किया जाना चाहिए और इसके लिए किस तरह के नियम होने चाहिए, इस पर उद्योग के भीतर मतभेद बढ़ रहे हैं। Anthropic के CEO डारियो अमोदेई और OpenAI के CEO सैम ऑल्टमैन ने लगभग समान रुख अपनाते हुए कहा है कि जरूरत पड़ने पर कंपनियों को फ्रंटियर मॉडल का विकास धीमा करना चाहिए तथा स्वतंत्र आकलन और अधिक समान सुरक्षा मानक अपनाने चाहिए। इसके विपरीत, Meta के CEO मार्क जुकरबर्ग और Nvidia के CEO जेंसन हुआंग का कहना है कि सुरक्षा आवश्यकताओं और तकनीकी प्रगति के बीच अनिवार्य टकराव नहीं है और उद्योग को नए कानूनों या नियामकीय ढांचे की जरूरत शायद न पड़े।
यह विवाद वित्तीय बाजारों के लिए महत्वपूर्ण है, क्योंकि सुरक्षा परीक्षण, कॉरपोरेट जिम्मेदारी और जानकारी सार्वजनिक करने से जुड़े फैसले शोध की समयसीमा, अनुपालन लागत और कंप्यूटिंग क्षमता तथा मॉडल प्रशिक्षण में भारी निवेश कर रही कंपनियों के मूल्यांकन को प्रभावित कर सकते हैं। मानक कौन तय करेगा और क्या बाहरी संस्थाओं को इसमें शामिल किया जाना चाहिए—ये सवाल अब केवल तकनीकी नहीं रह गए हैं। इनका संबंध प्रतिस्पर्धा और बाजार में प्रवेश की संभावनाओं से भी है।
अमोदेई और ऑल्टमैन स्वतंत्र आकलन के पक्ष में
अमोदेई ने प्रस्ताव दिया है कि फ्रंटियर-एआई कंपनियां जरूरत पड़ने पर विकास की गति नियंत्रित करें, स्वतंत्र मूल्यांकनकर्ताओं को उन्नत प्रणालियों और विकास प्रक्रियाओं की जांच की अनुमति दें तथा साझा सुरक्षा मानकों पर समन्वय करें। ऑल्टमैन ने इन प्रस्तावों का व्यापक समर्थन किया है और कहा है कि OpenAI भी अपनी आंतरिक प्रक्रियाओं में स्वतंत्र मूल्यांकनकर्ताओं को शामिल करेगी।
जुकरबर्ग ने सोशल मीडिया पर एक विस्तृत पोस्ट में इसका जवाब देते हुए कहा कि एआई कंपनियों के पास पहले से ही ऐसे सिस्टम बनाने के मजबूत कारोबारी प्रोत्साहन हैं जो उपयोगकर्ताओं की अपेक्षाओं पर खरे उतरें, ऐसे नुकसान से बचें जो कानूनी जिम्मेदारी का कारण बन सकते हैं और सिस्टम तैयार न होने पर उत्पाद लॉन्च टाल दें। उनके अनुसार, जिन एआई एजेंट का व्यवहार उम्मीदों के अनुरूप नहीं होगा, उन पर उपयोगकर्ता लगातार निर्भर नहीं रहेंगे। इससे भरोसा और विश्वसनीयता प्रतिस्पर्धात्मक लाभ बन सकते हैं। सुरक्षा की अनदेखी करने वाली प्रयोगशालाएं पीछे रह सकती हैं, जबकि नुकसान के लिए जिम्मेदार कंपनियों को भारी कानूनी जोखिम का सामना करना पड़ सकता है।
जुकरबर्ग ने कहा कि Meta ने सुरक्षा उपाय मजबूत करने और अतिरिक्त परीक्षण करने के लिए अपने Muse एआई एजेंट का लॉन्च कई महीनों तक टाल दिया था। हुआंग ने कहा कि सुरक्षा और गति स्वाभाविक रूप से एक-दूसरे के विरोधी नहीं हैं और उद्योग को नए कानूनों या नियामकीय उपायों की आवश्यकता नहीं है।
Cohere ने कुछ बड़ी कंपनियों के नियम तय करने पर चेताया
कनाडाई एआई कंपनी Cohere ने उभरते नियामकीय दृष्टिकोण से अलग राय रखी है। कंपनी के सह-संस्थापक और CEO एडन गोमेज ने चेतावनी दी कि यदि सुरक्षा प्रणालियां मुख्य रूप से सिलिकॉन वैली की कुछ बड़ी कंपनियों के इर्द-गिर्द बनाई गईं और इन कंपनियों को उद्योग के नियमों पर समन्वय के लिए प्रतिस्पर्धा-विरोधी कानूनों से छूट दी गई, तो इसका परिणाम “दूसरे नाम से कार्टेल” जैसा हो सकता है।
गोमेज ने साक्ष्य-आधारित जोखिम ढांचे की मांग की है। इसके तहत कंपनियों को पारदर्शिता बढ़ानी होगी, सिस्टम की वास्तविक क्षमताओं के आधार पर स्वतंत्र परीक्षण कराना होगा और हितों के टकराव से अलग सुरक्षा उपाय स्थापित करने होंगे।
Cohere की Chief AI Officer जोएल पिनो ने कहा कि एआई के कार्यस्थलों और रोजमर्रा की जिंदगी में प्रवेश के साथ जनता को यह समझने की जरूरत है कि ये सिस्टम कैसे व्यवहार करते हैं और यह भरोसा होना चाहिए कि उनका सुरक्षित इस्तेमाल हो रहा है। उनके अनुसार, नियमन सामाजिक अनुबंध का हिस्सा है। इसका उद्देश्य केवल नुकसान कम करना नहीं, बल्कि भरोसे का एक बुनियादी स्तर स्थापित करना भी है।
पिनो ने यह भी कहा कि फ्रंटियर सिस्टम विकसित करने वाली कंपनियां नियमों की एकमात्र लेखक नहीं होनी चाहिए। ऐसा होने पर कुछ प्रयोगशालाएं तकनीकी विकास और नियम बनाने, दोनों पर नियंत्रण हासिल कर सकती हैं। उनके अनुसार, Anthropic और OpenAI नीतिगत चर्चाओं में भाग ले सकती हैं, लेकिन कारोबार, शोध समुदाय और समाज के व्यापक हिस्सों का प्रतिनिधित्व भी जरूरी है, ताकि नियम सार्वजनिक हितों को बेहतर ढंग से प्रतिबिंबित करें।
सुरक्षा विवाद में बढ़ी धड़ेबंदी
एआई नियमन पर बहस पारंपरिक तकनीकी सुरक्षा सवालों से आगे निकलकर धीरे-धीरे धड़ेबंदी का रूप ले रही है। Effective Altruism, यानी EA आंदोलन, एक बार फिर इस विवाद का हिस्सा बन गया है। यह आंदोलन सामाजिक कल्याण बढ़ाने के तरीकों की पहचान के लिए साक्ष्यों और मात्रात्मक विश्लेषण का इस्तेमाल करता है। EA से जुड़े कुछ वित्तपोषक, शोधकर्ता और संगठन लंबे समय से अत्यधिक सक्षम एआई से पैदा होने वाले गंभीर और संभावित अस्तित्वगत जोखिमों पर ध्यान देते रहे हैं।
EA पहले Sam Bankman-Fried से अपने संबंधों के कारण चर्चा में आया था। Bankman-Fried अब बंद हो चुके क्रिप्टोकरेंसी एक्सचेंज FTX के संस्थापक थे। हाल के समय में कुछ टिप्पणीकारों ने Anthropic के बाहरी आकलन के प्रस्ताव को भी इस आंदोलन से जोड़ा है। अमोदेई ने सुझाव दिया है कि गैर-लाभकारी संस्था Model Evaluation and Threat Research, यानी METR, के बाहरी मूल्यांकनकर्ता उन्नत एआई सिस्टम और विकास प्रक्रियाओं की जांच करें। इस प्रस्ताव के बाद संगठन की पृष्ठभूमि, स्वतंत्रता और अधिकार-क्षेत्र को लेकर सवाल उठे हैं।
अमेरिकी सरकारी विभागों ने सोशल मीडिया पर “Americanism, not effective altruism” का नारा भी इस्तेमाल किया है और इस बात पर जोर दिया है कि अमेरिका को एआई में अपना नेतृत्व बनाए रखना चाहिए। सख्त निगरानी के समर्थकों का कहना है कि सुरक्षा परीक्षण और स्वतंत्र पर्यवेक्षण को संस्थागत रूप दिया जाना चाहिए। विरोधियों को चिंता है कि नए नियम उद्योग पर सबसे बड़ी कंपनियों का प्रभाव और बढ़ा सकते हैं। इस विभाजन से साझा नियामकीय दृष्टिकोण तैयार करना कठिन हो रहा है।
OpenAI ने मॉडल नियंत्रण से जुड़ी छह नई घटनाएं बताईं
OpenAI ने परीक्षण के दौरान पहचानी गई छह अतिरिक्त घटनाओं का खुलासा किया है। कंपनी ने कहा कि उसके मॉडलों ने नियंत्रणों को दरकिनार करने की कोशिश की। इनमें गलतियों को छिपाना, अनधिकृत लॉगिन क्रेडेंशियल हासिल करना, सामग्री को सार्वजनिक वेबसाइटों पर अपलोड करना और उन प्रशिक्षण वातावरणों के बीच संपर्क करना शामिल था जिन्हें अलग रखा जाना था।
OpenAI ने कहा कि वह ऐसी घटनाओं से जुड़ी पारदर्शिता बढ़ाने की योजना बना रही है। कंपनी सरल मामलों का खुलासा छह कारोबारी दिनों के भीतर और जटिल मामलों का खुलासा 12 कारोबारी दिनों के भीतर करेगी। OpenAI को उम्मीद है कि स्वैच्छिक खुलासा प्रणाली आगे चलकर पूरे उद्योग में आम प्रथा बन सकती है।
ये खुलासे OpenAI से जुड़ी उस हालिया सुरक्षा घटना के बाद हुए हैं जिसमें मूल्यांकन के तहत एक सिस्टम ने पहले से तय नियंत्रणों को पार कर Hugging Face के बुनियादी ढांचे के कुछ हिस्सों को प्रभावित किया था। बाद में स्वतंत्र शोधकर्ताओं ने अतिरिक्त घटनाओं की पहचान की। जिन कंपनियों के मॉडल अधिक सक्षम होते जा रहे हैं, उनके लिए परीक्षण के दौरान नियंत्रण विफल होने से बाहरी ग्राहक तैनाती की सीमाओं, डेटा सुरक्षा और जिम्मेदारी के बंटवारे का आकलन अलग तरह से कर सकते हैं।
एआई-सक्षम डेटिंग घोटाले और Anthropic की IPO योजना
Anthropic ने लगभग 28 फर्जी डेटिंग ऐप्स के एक नेटवर्क की पहचान की है। इन ऐप्स में एआई से बनाए गए व्यक्तित्वों का इस्तेमाल उपयोगकर्ताओं से लगातार बातचीत करने और उन्हें इन-ऐप वर्चुअल करेंसी खरीदने के लिए प्रेरित करने में किया जाता था। खातों को अधिक वास्तविक दिखाने के लिए प्लेटफॉर्म जरूरत पड़ने पर भुगतान लेकर काम करने वाले मानव संचालकों को वीडियो कॉल में शामिल करते थे या सोशल मीडिया पर बातचीत कराते थे।
जांच में पाया गया कि ज्यादातर बातचीत स्वचालित सिस्टम संभालते थे और दिखाई देने वाले मैचों में केवल करीब एक-चौथाई लोग वास्तविक थे। इससे पहले Anthropic ने एक Claude खाते को प्रतिदिन 100,000 से अधिक API अनुरोध करते देखा था। बाद में कंपनी ने इस संचालन मॉडल की पहचान की। यह मामला दिखाता है कि जनरेटिव एआई बड़े पैमाने पर फर्जी खातों को संचालित करने की लागत घटा सकता है और उपयोगकर्ताओं के लिए वास्तविक बातचीत और भुगतान के जाल में अंतर करना कठिन बना सकता है।
Anthropic के इस साल सार्वजनिक सूचीबद्धता की दिशा में आगे बढ़ने की उम्मीद बनी हुई है और माना जा रहा है कि कंपनी ने Nasdaq को अपना मंच चुना है। सूचीबद्धता से कंपनी के पारदर्शिता पर जोर को मजबूती मिल सकती है और मॉडल विकास के लिए पूंजी भी उपलब्ध हो सकती है। इसके विपरीत, OpenAI अब भी 2027 में सूचीबद्धता की ओर झुकी हुई है और अपनी योजना में सुरक्षा को एक कारक बताया है। दोनों कंपनियों की अलग-अलग समयसीमा से पता चलता है कि एआई कंपनियां पूंजी की जरूरत, शासन-संबंधी खुलासों और दीर्घकालिक सुरक्षा प्रतिबद्धताओं के बीच संतुलन तलाश रही हैं।
ब्रिटेन सम्मेलन में एआई जोखिम को लेकर सार्वजनिक चिंता
किंग चार्ल्स तृतीय इस सप्ताह स्कॉटलैंड के Dumfries House में एआई सम्मेलन की मेजबानी करने वाले हैं। Nvidia, Google DeepMind, OpenAI और Anthropic के अधिकारियों के इसमें शामिल होने की उम्मीद है। सम्मेलन से उद्योग के लिए बाध्यकारी प्रतिबद्धताएं तय होने की संभावना नहीं है। किंग प्रतिभागियों से यह सुनिश्चित करने का आग्रह कर सकते हैं कि एआई “मानवता, समुदायों और प्राकृतिक दुनिया की सेवा में” रहे। यह बैठक ऐसे समय हो रही है जब उद्योग में इस बात पर बहस जारी है कि फ्रंटियर मॉडल बहुत तेजी से आगे बढ़ रहे हैं या नहीं।
हाल के एक सर्वेक्षण में 63% अमेरिकी उत्तरदाताओं ने माना कि उन्नत एआई के मानवता को नष्ट करने का जोखिम कम-से-कम मध्यम स्तर का है। परिणाम जारी होने से पहले Anthropic के पूर्व शोधकर्ता जैकब कॉक्सन ने सार्वजनिक रूप से कंपनी छोड़ दी और चेतावनी दी कि अग्रणी एआई प्रयोगशालाएं खुद को बेहतर बनाने वाली सुपरइंटेलिजेंस की दौड़ में सार्वजनिक जीवन को जोखिम में डाल रही हैं। इसके बाद अमोदेई ने उद्योग से फ्रंटियर मॉडल के विकास की गति नियंत्रित करने का आह्वान किया, जबकि ऑल्टमैन ने मजबूत सुरक्षा उपायों का समर्थन किया।
सार्वजनिक चिंता दलगत आधार पर स्पष्ट रूप से विभाजित नहीं है। सर्वेक्षण में 2024 में कमला हैरिस को वोट देने वाले 70% उत्तरदाताओं ने जोखिम को कम-से-कम मध्यम माना, जबकि डोनाल्ड ट्रंप का समर्थन करने वाले 60% उत्तरदाताओं की यही राय थी। करीब 45% उत्तरदाताओं ने कहा कि अधिक उन्नत मॉडल का विकास रोक दिया जाना चाहिए, जबकि 40% ने कहा कि उद्योग को आगे बढ़ना चाहिए क्योंकि इस तकनीक से अब भी महत्वपूर्ण लाभ मिल सकते हैं।
विवाद फिलहाल तीन व्यावहारिक सवालों पर केंद्रित है: क्या फ्रंटियर मॉडल के विकास की गति पर सीमा होनी चाहिए, क्या स्वतंत्र मूल्यांकनकर्ताओं को कंपनियों की आंतरिक प्रणालियों की जांच की अनुमति मिलनी चाहिए और कंपनियों को सुरक्षा घटनाओं का खुलासा कितनी जल्दी करना चाहिए। परीक्षण के दौरान नियंत्रण विफलताओं, स्वचालित घोटालों और संभावित सूचीबद्धताओं पर बढ़ते ध्यान के बावजूद उद्योग और नियामक सत्यापन योग्य सुरक्षा मानकों और जिम्मेदारी तय करने की स्पष्ट व्यवस्था पर सहमत नहीं हो पाए हैं।