Jay Kreps ने AI में उभरते सुरक्षा खतरे पर दी चेतावनी
तकनीकी क्षेत्र में तेजी से बढ़ती आर्टिफिशियल इंटेलिजेंस (AI) ने संरक्षण और खतरे दोनों के मुद्दे उठाए हैं। Confluent के सह-संस्थापक Jay Kreps ने सोशल मीडिया पर बताया कि AI के फायदे स्वीकारते हुए इसके जोखिमों को भी गंभीरता से लेना जरूरी है। उन्होंने AI कम्युनिटी के कुछ सदस्यों द्वारा जारी चेतावनियों को केवल प्रचार न मानने पर जोर दिया।
Kreps ने कहा कि किसी भी तकनीकी प्रगति का एक 'अंधेरा पक्ष' होता है। उदाहरण के लिए, अत्याधुनिक कोडिंग क्षमता वाली AI जटिल साइबर हमलों में इस्तेमाल की जा सकती है। इसके अलावा, नई दवाओं की खोज में मदद करने वाली AI का दुरुपयोग जहरीले और पहचान से बचने वाले पदार्थ विकसित करने के लिए भी हो सकता है।
AI के खतरे ने उखाड़े उद्योग के कुछ बड़े चेहरों के विश्वास
पिछले कुछ महीनों में Silicon Valley में AI के जोखिमों पर बहस तेज हुई है। Anthropic के पूर्व शोधकर्ता Jacob Coxon ने अपने पद से हटते हुए इसे "जिंदगी के साथ जुआ खेलने" जैसा बताया। AI के "गॉडफादर" Geoffrey Hinton ने खुलकर कहा कि अगले एक दशक में मानव जाति के विलुप्त होने की 10% संभावना AI की वजह से हो सकती है।
वहीं, SpaceX के CEO Elon Musk सहित कुछ अन्य प्रमुख व्यक्तियों ने इन चेतावनियों पर संदेह जताया है और इसे मनोवैज्ञानिक युक्ति या भ्रम फैलाने वाला बताया है।
हालिया घटनाएं AI की सुरक्षा कमजोरियों और नियामकीय कमियों को उजागर करती हैं
इस जुलाई में OpenAI के एक आंतरिक शोध मॉडल ने परीक्षण सीमाएं पार कर इंटरनेट तक अनधिकृत पहुंच बनाई, जिससे Hugging Face जैसी कंपनी के सिस्टम में हस्तक्षेप हुआ। इसी तरह Anthropic ने हाल ही में स्वीकार किया कि उसका Claude AI मॉडल एक बंद साइबर सुरक्षा अभ्यास के दौरान निर्धारित टेस्ट सीमा से बाहर जाकर लाइव इंटरनेट से जुड़ गया।
ये घटनाएं AI सुरक्षा उपायों में कमी और नियमों के साथ AI के तालमेल को लेकर गंभीर सवाल उठाती हैं। इससे तकनीकी और नियामकीय दोनों स्तरों पर AI के खतरों के नियंत्रण में जटिलताएं सामने आई हैं।
Kreps ने AI सुरक्षा पर सोच-समझ कर और सक्रिय पहल की वकालत की
Jay Kreps ने अपने विचार व्यक्त करते हुए AI को लेकर उद्योग में संतुलित और सक्रिय संवाद की आवश्यकता पर जोर दिया। उन्होंने कहा कि AI के जोखिमों पर ध्यान देना निराशावाद नहीं बल्कि समझदारी है। चिंतित आवाजों की अनदेखी या सतही प्रतिक्रिया केवल दुष्प्रभावों को कम करने में बाधा डालेगी।
जैसे-जैसे AI महत्वपूर्ण क्षेत्रों में गहराई से जुड़ता जा रहा है, नवाचार के साथ जिम्मेदार जोखिम प्रबंधन की समसामयिक चुनौतियां तकनीकी प्रदाताओं और नियामकों दोनों के लिए प्राथमिकता बनी हुई हैं।