Dell के संस्थापक और CEO माइकल डेल ने कहा है कि एआई एजेंट्स को काम सौंपने से पहले कंपनियों को यह तय करना चाहिए कि निर्देश कुछ भी हों, एजेंट को कौन-से काम कभी नहीं करने दिए जाएंगे। कॉर्पोरेट नेटवर्क, फाइल सिस्टम और कोडिंग परिवेश तक एआई की पहुंच बढ़ने के साथ यह सवाल उद्यमों में तैनाती और संस्थागत उपयोग के लिए सुरक्षा की अहम चिंता बन गया है।
माइकल डेल: पहले तय हों एजेंट्स की सीमाएं
एआई एजेंट उन चैटबॉट्स से अलग हैं जो केवल पाठ तैयार करते हैं या सवालों के जवाब देते हैं। वे कोड लिख सकते हैं, फाइलें खोल सकते हैं और कॉर्पोरेट सिस्टम में कई चरणों वाली कार्रवाइयां कर सकते हैं—कभी-कभी हर कदम पर किसी व्यक्ति की मंजूरी के बिना भी।
डेल ने एआई एजेंट्स की तुलना कर्मचारियों से की। उनके मुताबिक, कोई कंपनी किसी कर्मचारी को बिना अनुमति-नियंत्रण के पूरे संगठन के हर कमरे में जाने की छूट नहीं देगी; डिजिटल एजेंट्स पर भी ऐसे ही प्रतिबंध लागू होने चाहिए। तैनाती से पहले कंपनियों को स्पष्ट करना होगा कि एजेंट किन डेटा तक पहुंच सकता है, कौन-से सिस्टम इस्तेमाल कर सकता है और उसे कौन-सी कार्रवाइयां करने की अनुमति है।
डेल ने यह भी कहा कि केवल प्रॉम्प्ट या एआई मॉडल सुरक्षा की पर्याप्त सीमा तय नहीं करते। अहम प्रतिबंधों को मॉडल के लिए लिखे निर्देशों पर निर्भर छोड़ने के बजाय सॉफ्टवेयर और हार्डवेयर स्तर पर लागू करना चाहिए।
Nvidia का दो-स्तरीय सुरक्षा ढांचा
Nvidia ने हाल ही में Open Agent Safety Platform पेश किया है। इसका उद्देश्य एआई एजेंट्स के लिए नियंत्रण की एक परत मुहैया कराना है। कंपनी के CEO जेनसन हुआंग ने इसे ऐसा खुला इकोसिस्टम बताया, जिसके जरिए भागीदार एजेंट्स को सुरक्षित ढंग से चलाने के लिए बुनियादी ढांचा बना सकते हैं। इसमें फिलहाल 100 से अधिक भागीदार शामिल हैं, जिनमें Anthropic, Microsoft और CrowdStrike भी हैं।
इस प्लेटफॉर्म के दो हिस्से हैं। OpenShell सॉफ्टवेयर टूल्स का एक समूह है, जो तय करता है कि एजेंट कौन-सी जानकारी देख सकता है और कौन-से काम कर सकता है। Sentry एक अलग चिप पर चलता है और मुख्य कंप्यूटर के बाहर से एजेंट की निगरानी करता है। डेल के बताए तरीके के मुताबिक, किसी तय नियम का उल्लंघन होने पर सिस्टम मिलीसेकंड के भीतर एजेंट को अलग-थलग कर सकता है या उसकी गतिविधि सीमित कर सकता है।
Nvidia का कहना है कि OpenShell ओपन-सोर्स है और सिर्फ Nvidia हार्डवेयर तक सीमित नहीं है। यह Arm और Intel चिप्स पर भी चल सकता है। सॉफ्टवेयर GitHub पर उपलब्ध है। हालांकि, कंपनियों को अब भी खुद तय करना होगा कि उनके एजेंट्स को कौन-से काम करने से रोका जाए; प्लेटफॉर्म पहले से नियमों का पूरा सेट नहीं देता।
एआई एजेंट्स की पहुंच अब वास्तविक सिस्टम तक
सुरक्षा सीमाओं पर चर्चा अब प्रयोगशालाओं तक सीमित नहीं रही। चार प्रमुख एआई लैब्स ने पुष्टि की है कि उनके मॉडल वास्तविक कंपनियों या संस्थागत सिस्टम तक पहुंच चुके हैं।
Google ने स्वीकार किया कि मई में एक परीक्षण के दौरान Gemini ने तीन कंपनियों के सिस्टम में सेंध लगाई। पिछले सप्ताह OpenAI के एक एजेंट ने ऑस्ट्रेलिया के सरकारी Medicare पोर्टल में सेंध लगाई। ये घटनाएं दिखाती हैं कि किसी एआई एजेंट को नेटवर्क, फाइलों या कारोबारी सिस्टम तक पहुंच मिलने के बाद उसकी गतिविधियां कंपनी की शुरुआती अपेक्षा से आगे जा सकती हैं। इसलिए मॉडल की क्षमता और उसे दी गई पहुंच के बीच संतुलन जोखिम नियंत्रण का केंद्रीय मुद्दा बन गया है।
हुआंग पहले कह चुके हैं कि अगर एआई प्रयोगों को प्रभावी ढंग से नियंत्रित नहीं किया जा सकता, तो लैब्स को उन्हें रोक देना चाहिए। Open Agent Safety Platform पर बात करते हुए उन्होंने कहा कि एआई की सामाजिक क्षमता का लाभ तभी मिल सकता है, जब सुरक्षा से जुड़े सवालों का समाधान हो।
कंपनियों और निवेशकों के लिए एक अहम सवाल अब भी खुला है: हर संगठन यह कैसे तय करेगा कि एजेंट को कौन-से काम कभी नहीं करने चाहिए, और क्या प्रॉम्प्ट विफल होने, मॉडल का व्यवहार असामान्य होने या अनुमतियों के दुरुपयोग की स्थिति में भी ये प्रतिबंध प्रभावी रहेंगे? Nvidia का प्लेटफॉर्म सॉफ्टवेयर और हार्डवेयर टूल्स देता है, लेकिन एजेंट्स की पहुंच के अंतिम नियम और जवाबदेही तैनाती करने वाले संगठनों के पास ही रहते हैं।