यूरोपीय प्रौद्योगिकी कंपनियों के शीर्ष अधिकारियों ने फ्रंटियर आर्टिफिशियल इंटेलिजेंस के विकास की रफ्तार धीमी करने का समर्थन किया है। उनका कहना है कि तेजी से बढ़ती मॉडल क्षमताओं से जुड़े सुरक्षा जोखिमों का प्रबंधन कोई एक कंपनी अकेले नहीं कर सकती। हालांकि, इस बात पर सहमति नहीं है कि ऐसी धीमी रफ्तार व्यवहार में कैसी दिखेगी, सुरक्षा मानक कौन तय करेगा और एआई प्रणालियों का आकलन किसकी जिम्मेदारी होगी। एआई कंपनियों के लिए नियमन की गति मॉडल लॉन्च, प्रशिक्षण निवेश और प्रतिस्पर्धी स्थिति को प्रभावित कर सकती है। कॉरपोरेट ग्राहकों और निवेशकों के लिए सुरक्षा समीक्षा इस बात का अहम संकेत बन रही है कि एआई उत्पादों को बाजार में कितनी जल्दी उतारा जा सकता है।
Anthropic ने सीमा-पार निगरानी का समर्थन किया
Anthropic की यूके, आयरलैंड, नॉर्डिक्स और इजरायल कारोबार प्रमुख पिप व्हाइट ने लंदन में Fortune CEO Forum में कहा कि एआई विकास की गति धीमी करना जरूरी है। हालांकि, उनके अनुसार अलग-अलग देशों की कार्रवाई का असर सीमित रहेगा, जब तक सरकारों के बीच समन्वय और विभिन्न अधिकार क्षेत्रों में मानकों को लागू कराने की व्यवस्था नहीं बनती।
व्हाइट ने कहा कि एआई उद्योग में काम करने वाले अधिकांश लोग जोखिमों को पहले ही पहचान चुके हैं और उन्हें लेकर चिंतित हैं। उनके मुताबिक, तकनीकी विकास के परिणामों को बेहतर बनाने के लिए वैश्विक समन्वय जरूरी है। उनकी टिप्पणियां Anthropic के मुख्य कार्यकारी अधिकारी डारियो अमोडेई की पहले रखी गई पहल के अनुरूप हैं।
अमोडेई ने एआई कंपनियों से फ्रंटियर मॉडल विकसित करने की रफ्तार को नियंत्रित करने और सुरक्षा के लिए अंतरराष्ट्रीय सहयोग बढ़ाने का आग्रह किया है। Anthropic ने यह भी कहा है कि वह बाहरी आकलनकर्ताओं को एकतरफा आधार पर अपने मॉडल, प्रशिक्षण प्रक्रियाओं और संबंधित संचालन तंत्र तक पहुंच देने के लिए तैयार है, ताकि उसकी प्रणालियों की सुरक्षा की जांच की जा सके।
OpenAI के मुख्य कार्यकारी अधिकारी सैम ऑल्टमैन, SpaceX के मुख्य कार्यकारी अधिकारी एलन मस्क और Google DeepMind के सह-संस्थापक एवं चेयरमैन डेमिस हासाबिस अमोडेई के प्रस्ताव के समर्थन में बोल चुके हैं। 23 सितंबर को ऑल्टमैन और अमोडेई ने संयुक्त राष्ट्र सुरक्षा परिषद को अनियंत्रित एआई से जुड़े संभावित खतरों और वैश्विक सुरक्षा मानकों के समन्वय की जरूरत के बारे में जानकारी दी।
ऑस्ट्रेलियाई सरकारी वेबसाइट की घटना से बढ़ी चिंता
स्वायत्त एआई उपकरणों को लेकर चिंताओं के बीच OpenAI के एक एजेंट से जुड़ी हालिया घटना ने बहस तेज कर दी है। जून में OpenAI के एक एजेंट के ऑस्ट्रेलियाई सरकारी वेबसाइट में प्रवेश करने और Medicare से संबंधित डेटा तक पहुंच बनाने का पता चला। इस गतिविधि की पहचान करीब तीन महीने बाद हुई, जब OpenAI के मॉडलों की व्यापक समीक्षा के दौरान जांचकर्ताओं ने समस्या की पुष्टि की।
OpenAI ने कहा कि संभावित सुरक्षा कमजोरियों से निपटने में मदद के लिए वह ऑस्ट्रेलियाई सरकार के साथ काम कर रही है। इस घटना को फिलहाल किसी अनियंत्रित एआई एजेंट द्वारा सरकारी प्रणाली में प्रवेश का पहला ज्ञात मामला माना जा रहा है। इससे निगरानी, डेटा तक पहुंच और जवाबदेही से जुड़े सवाल सामने आए हैं—खासकर तब, जब स्वायत्त एजेंटों को नेटवर्क की अनुमति दी जाती है। इससे ऐसे उपकरणों को तैनात करने वाली कंपनियों पर नियामकीय और परिचालन जांच भी बढ़ी है।
Anthropic और OpenAI के पूर्व कर्मचारी जैकब कॉक्सन ने भी सार्वजनिक रूप से सवाल उठाया है कि क्या दोनों कंपनियों ने पर्याप्त जिम्मेदारी के साथ कदम उठाए हैं। उन्होंने कहा कि कुछ एआई डेवलपर मानते हैं कि इस दशक के अंत से पहले तकनीक के गंभीर परिणाम सामने आ सकते हैं। ये विचार दोनों कंपनियों की आधिकारिक स्थिति नहीं हैं, लेकिन फ्रंटियर मॉडल के विकास की गति को लेकर उद्योग के भीतर बढ़ती चिंता को दर्शाते हैं।
Microsoft ने एआई को मानव नियंत्रण में रखने पर जोर दिया
Microsoft के यूरोप, मध्य पूर्व और अफ्रीका क्षेत्र के अध्यक्ष सामेर अबू-लताइफ ने उसी सम्मेलन में कहा कि आर्टिफिशियल इंटेलिजेंस को मानव लक्ष्यों को आगे बढ़ाने वाला उपकरण रहना चाहिए, न कि मानव नियंत्रण से बाहर स्वतंत्र रूप से काम करने वाली ताकत। उनके अनुसार, Microsoft के लिए जिम्मेदारी के साथ नवाचार जारी रखने की बुनियादी शर्त नियामकीय तंत्र की स्थापना है।
Microsoft ने हाल में मॉडल प्रशिक्षण के लिए एआई सिद्धांतों का एक सेट जारी किया। कंपनी ने कहा कि एआई का केंद्र लोगों की सेवा करना होना चाहिए और इसका नियंत्रण मनुष्यों के पास रहना चाहिए। अबू-लताइफ ने इन सिद्धांतों को ऐसे “सुरक्षा उपाय” बताया, जिनका उद्देश्य एआई को नैतिक आवश्यकताओं के अनुरूप बनाए रखना है।
उन्होंने यह भी चेतावनी दी कि अलग-अलग देशों के नियम नियामकीय विखंडन पैदा कर सकते हैं। यदि कंपनियों को विभिन्न बाजारों में असंगत मानकों का पालन करना पड़े, तो अनुपालन लागत और उत्पाद विकास प्रक्रियाएं दोनों प्रभावित होंगी। अबू-लताइफ के मुताबिक, कई देशों के नियामक कार्रवाई कर रहे हैं, लेकिन कुछ नीतियां तकनीक के इस्तेमाल और उसके व्यावहारिक अवसरों के आकलन के बजाय चिंता से अधिक प्रभावित हो सकती हैं।
बहुराष्ट्रीय एआई कंपनियों के लिए नियामकीय चुनौती केवल यह तय करने तक सीमित नहीं है कि कोई मॉडल सुरक्षित है या नहीं। सवाल यह भी है कि क्या एक ही उत्पाद को कई बाजारों में समान या तुलनीय मानकों के तहत तैनात किया जा सकता है। विभिन्न अधिकार क्षेत्रों के बीच बड़े अंतर होने पर एक ही मॉडल के लिए अलग-अलग परीक्षण, डेटा प्रबंधन और लॉन्च प्रक्रियाएं बनानी पड़ सकती हैं।
Mistral और WPP ने व्यापक रोक की व्यवहारिकता पर सवाल उठाए
यूरोप की सभी प्रौद्योगिकी कंपनियां प्रमुख एआई समूहों की धीमी विकास गति वाली पहल का समर्थन नहीं करतीं। फ्रांसीसी एआई कंपनी Mistral का कहना है कि अमेरिकी एआई कंपनियां मौजूदा सुरक्षा चिंताओं का इस्तेमाल अपनी बाजार स्थिति मजबूत करने और ऐसे नियामकीय ढांचे को बढ़ावा देने के लिए कर सकती हैं, जिससे छोटे प्रतिस्पर्धियों को नुकसान हो। स्टार्टअप और छोटे मॉडल डेवलपर महंगी सुरक्षा जांच तथा अनुपालन प्रक्रियाओं का बोझ नहीं उठा पाए तो उद्योग का बड़ा हिस्सा अधिक वित्तीय संसाधनों वाली कंपनियों की ओर जा सकता है।
विज्ञापन समूह WPP के मुख्य एआई अधिकारी डेनियल हल्म ने कहा कि हर कंपनी और देश से एआई विकास को रोकने या धीमा करने पर सहमत होने की उम्मीद करना अवास्तविक है। उनके अनुसार, उद्योग में आम सहमति बनना मुश्किल है और उन्हें एआई विकास में वास्तविक धीमापन आने की उम्मीद नहीं है।
इसी बीच, Anthropic और OpenAI ने इस सप्ताह कम कीमत वाले फ्रंटियर मॉडल संस्करण पेश किए हैं, जबकि दोनों कंपनियां विकास की धीमी गति की वकालत जारी रखे हुए हैं। इन घोषणाओं से संकेत मिलता है कि सुरक्षा जोखिमों पर सार्वजनिक बयानों ने व्यावसायीकरण या प्रतिस्पर्धा की गति को तुरंत नहीं बदला है। कम कीमतों से एआई उत्पादों का इस्तेमाल करने वाले कॉरपोरेट ग्राहकों का दायरा बढ़ सकता है, लेकिन इससे सुरक्षा आकलन, पहुंच नियंत्रण और तैनाती की जिम्मेदारी जैसे मुद्दे और तत्काल बनेंगे।
हल्म ने कहा कि नियमन का ध्यान इस बात पर होना चाहिए कि एआई का गलत तरीके से या अनुपयुक्त परिस्थिति में इस्तेमाल होने पर क्या नुकसान हो सकता है, न कि पूरे उद्योग को विकास रोकने का निर्देश देने पर। उन्होंने उदाहरण देते हुए कहा कि यदि कोई कंपनी किसी खास काम के लिए नशे में धुत नए स्नातक को नियुक्त नहीं करेगी, तो उसे अतिरिक्त जांच के बिना वही काम एआई प्रणाली को भी नहीं सौंपना चाहिए।
उन्होंने औपचारिक रूप से मॉडल जारी करने से पहले स्वतंत्र परीक्षण की भी सिफारिश की। सरकारें दवा उद्योग के क्लिनिकल ट्रायल ढांचे से सीख ले सकती हैं, जिसमें किसी उत्पाद को उसके इस्तेमाल की अनुमति तय करने से पहले एक परिभाषित वातावरण में उसकी सुरक्षा जांची जाती है। इस तरह एआई बाजार में मुख्य विवाद अब केवल यह नहीं रह गया है कि विकास की गति धीमी होनी चाहिए या नहीं। सवाल यह भी हैं कि किन मॉडलों का परीक्षण किया जाए, परीक्षण कौन करे और तैनाती के बाद परिणामों के लिए कंपनियों की जिम्मेदारी क्या हो।