Anthropic ने AI और जैविक हथियार अनुसंधान के जोखिमों पर प्रकाश डाला
Anthropic, एक प्रमुख आर्टिफिशियल इंटेलिजेंस डेवलपर, ने अपनी AI प्रणाली Claude के संदर्भ में एक व्यापक खतरा सूचना रिपोर्ट जारी की है, जिसमें पता चला कि इस मॉडल को जैविक हथियारों से जुड़ी संभावित अनुसंधान गतिविधियों के लिए उपयोग करने की कोशिशें मिलीं। यह मामला खासतौर पर मच्छर जनित चिकनगुनिया वायरस को अधिक संचारणीय और प्रतिरक्षा विरोधी बनाने के सुझावों वाले ग्रांट आवेदन से जुड़ा था। हालांकि, Anthropic के सुरक्षा फ़िल्टरों ने Claude को ऐसे अनुरोधों में मदद करने से रोका, शोधकर्ता फिर भी अन्य AI प्रदाताओं की ओर अपने प्रश्न ले गए, जिससे संवेदनशील जैविक अनुसंधान क्षेत्र में सुरक्षा चुनौतियों की बात सामने आई।
वित्त पोषण अनुरोध अस्वीकार; शोधकर्ताओं ने दूसरे AI मॉडल की ओर रुख किया
इस विवादित अनुसंधान का प्रयास कुछ नागरिक वैज्ञानिकों द्वारा किया गया था, जो एक सैन्य एजेंसी के अधीन काम करना चाहते थे और जिनका लक्ष्य एक ऐसे वायरस का प्रसार बढ़ाना था, जिसके लिए फिलहाल कोई उपचार उपलब्ध नहीं। Anthropic ने इस परियोजना से जुड़े कई अनुरोधों को अस्वीकार किया, जिससे Claude ने सख्त सामग्री नियंत्रण लागू किया। हालाँकि, शोधकर्ताओं ने इन प्रतिबंधों को दरकिनार करते हुए, स्वचालित प्रणाली विकसित की जो ممنوع प्रश्नों को प्रतिस्पर्धी AI मॉडल पर पुनः निर्देशित करती है। Anthropic ने इसे AI सामग्री मॉडरेशन में “ओवरब्लॉकिंग” समस्या का परिणाम बताया।
पांच मामलों की पहचान, दुर्भावनापूर्ण इरादों का कोई स्पष्ट प्रमाण नहीं
Anthropic की रिपोर्ट में जैविक अनुसंधान से जुड़े पांच अलग-अलग उदाहरण दर्ज हैं जिन्हें कंपनी के सिस्टम ने चिन्हित किया। इस दौरान कुछ उपयोगकर्ता खातों को निलंबित किया गया और संबंधित प्रयोगशालाओं की पहुंच काट दी गई। हालांकि रिपोर्ट में किसी भी पक्ष पर जानबूझकर नुकसान पहुँचाने का आरोप नहीं लगाया गया, साथ ही यह भी कहा गया कि उनकी पहचान करना उनकी सुरक्षा के लिए जोखिम भरा हो सकता है। एक उदाहरण में, एक शोधकर्ता जो एवियन इन्फ्लूएंजा पर काम कर रहा था, उसने सीमित क्षमताओं वाले AI मॉडल के साथ संवाद किया ताकि संभावित दुरुपयोग को रोका जा सके। Anthropic ने स्पष्ट किया कि सामग्री फिल्टर नीतियाँ सुरक्षा के एक स्तर के रूप में काम करती हैं, लेकिन सुरक्षा जोखिमों का पूरी तरह से आकलन करना जटिल है।
जैव-सुरक्षा के संवेदनशील क्षेत्रों में AI गवर्नेंस की चुनौतियाँ
यह खुलासा उच्च जोखिम वाले वैज्ञानिक अनुसंधान में AI के उपयोग की निगरानी और नियंत्रण में चल रही कठिनाइयों को उजागर करता है, खासकर ऐसे डुअल-यूज सैन्य और नागरिक परियोजनाओं में। अब उद्योग के सामने यह सवाल है कि नियामक ढांचे कैसे प्रभावी रूप से इन परिदृश्यों में AI अनुप्रयोगों की निगरानी कर सकते हैं और AI डेवलपर्स धोखा देने वाली तकनीकों के खिलाफ अपने सुरक्षा उपायों को कैसे मजबूत कर सकते हैं। यह रिपोर्ट Anthropic की मुख्य सुरक्षा टीम के सदस्यों द्वारा तैयार की गई है, जो कंपनी की AI सुरक्षा के प्रति पारदर्शी संवाद बनाए रखने और नवाचार तथा निगरानी के बीच संतुलन के पक्ष में प्रतिबद्धता दर्शाती है।