माइक्रोसॉफ्ट के चेयरमैन और CEO सत्या नडेला ने 10 अक्टूबर को कहा कि उन्नत AI प्रणालियों में ऐसे सुरक्षा उपाय होने चाहिए जो उन्हें अलग-थलग कर सकें, साथ ही स्वतंत्र नियंत्रण और एक “आपातकालीन ब्रेक” भी हो। इससे अधिकृत लोग किसी मॉडल के काम करते समय उसे रोक या बंद कर सकेंगे। उनका प्रस्ताव AI सुरक्षा को केवल मॉडल के डिजाइन तक सीमित न रखकर संचालन और ऑडिट तक ले जाता है—ऐसे मुद्दे जो कंपनियों के लिए व्यवधान और अप्रत्याशित व्यवहार के जोखिम को संभालने में अहम हैं।
अनिश्चित व्यवहार वाले मॉडल के आसपास मजबूत नियंत्रण
X पर एक पोस्ट में नडेला ने कहा कि गैर-नियतात्मक मॉडल के साथ मजबूत, नियम-आधारित सिस्टम डिजाइन, मानवीय निगरानी और भरोसेमंद संचालन प्रक्रियाएं होनी चाहिए। जहां मौजूदा मानक पर्याप्त न हों, वहां उद्योग को नए मानक विकसित करने चाहिए। उन्होंने यह भी सुझाया कि सुरक्षा उपाय तय करते समय अत्याधुनिक क्लोज्ड-सोर्स मॉडल और ओपन-वेट मॉडल—दोनों को संभावित “इनसाइडर जोखिम” मानकर चला जाए।
उनके सुझाए सिद्धांतों में सिस्टम की गतिविधियों को देखा और समझा जा सकना, अलग-अलग मॉडल का इस्तेमाल और मॉडल की कार्रवाइयों का इंसानों के पढ़ने योग्य रिकॉर्ड रखना शामिल है। उन्होंने लगातार परीक्षण, स्वतंत्र नियंत्रण और ऑडिट, सिस्टम को अलग-थलग करने के उपाय तथा घटनाओं की जानकारी देने की योजनाओं की भी वकालत की। कंपनियों और निवेशकों के लिए इन उपायों का असर तैनाती की लागत, संचालन संबंधी जवाबदेही और संभावित नुकसान से निपटने के तरीके पर पड़ सकता है—मुद्दा केवल मॉडल के प्रदर्शन का नहीं है।
नडेला ने लिखा कि सबसे भरोसेमंद सुपरइंटेलिजेंस सिस्टम वे नहीं होंगे जो एक ऐसे मॉडल पर निर्भर हों जिस पर हर कोई सबसे ज्यादा भरोसा करता हो। उनके मुताबिक, मॉडल को लेकर सतर्क रहते हुए भी लोगों का भरोसा पूरे सिस्टम पर होना चाहिए।
AI सुरक्षा और विकास की रफ्तार पर मतभेद
नडेला की टिप्पणियां ऐसे समय आई हैं जब तकनीकी उद्योग में AI सुरक्षा को लेकर बहस जारी है। माइक्रोसॉफ्ट के सह-संस्थापक बिल गेट्स, एंथ्रोपिक के CEO डारियो अमोडेई, ओपनएआई के CEO सैम ऑल्टमैन और स्पेसएक्स के CEO एलन मस्क—सभी ने सुरक्षा उपायों की कमी या तकनीकी विकास की रफ्तार को लेकर चिंता जताई है।
पिछले महीने, AI शोधकर्ता ने एंथ्रोपिक छोड़ते हुए कंपनी और उसकी प्रतिद्वंद्वी ओपनएआई पर लोगों की जान जोखिम में डालने का आरोप लगाया। उसी दिन, AI सुरक्षा पर काम करने वाले एंथ्रोपिक के एक अलाइनमेंट प्रमुख ने कहा कि अगले दशक में इस तकनीक से “मानव विलुप्ति” होने की संभावना 10% से अधिक है। ये बयान उद्योग में अत्यधिक जोखिमों को लेकर चिंता दिखाते हैं। साथ ही, जोखिम के आकलन, शासन व्यवस्था और कंपनियों के सार्वजनिक बयानों पर भी ध्यान केंद्रित करते हैं।
अमेरिका की नीति में चीन से प्रतिस्पर्धा पर जोर
अमेरिकी राष्ट्रपति डोनाल्ड ट्रंप ने बार-बार इस जोखिम को कम करके आंका है कि AI से मानव विलुप्ति हो सकती है। इसके बजाय उन्होंने इस क्षेत्र में चीन से आगे रहने की जरूरत पर जोर दिया है। ट्रंप ने हाल ही में एक नई “AI फोर्स” की घोषणा की, जिसका नेतृत्व राष्ट्रीय खुफिया निदेशक जे क्लेटन करेंगे। इसके दायित्वों में उद्योग के विकास को बढ़ावा देना और बुरे इरादे से काम करने वाले पक्षों की पहचान करना शामिल है।
इस बहस के दो पहलू हैं: कंपनी अधिकारी और शोधकर्ता मजबूत सुरक्षा नियंत्रणों की मांग कर रहे हैं, जिनमें कुछ अत्याधुनिक AI विकास की रफ्तार धीमी करने की बात भी कर रहे हैं। वहीं, अमेरिकी सरकार प्रतिस्पर्धा में आगे रहने पर जोर देते हुए सुरक्षा से जुड़ी पहल भी शुरू कर चुकी है। नडेला के मानवीय हस्तक्षेप, सिस्टम को अलग-थलग करने, ऑडिट और घटनाओं की जानकारी देने संबंधी प्रस्ताव इस व्यावहारिक सवाल पर केंद्रित हैं कि AI का विकास और इस्तेमाल जारी रहने के दौरान लोगों के पास हस्तक्षेप करने की क्षमता कैसे बनी रहे।