Anthropic के आंतरिक दस्तावेजों और कर्मचारियों के साक्षात्कारों पर आधारित एक स्वतंत्र आकलन के अनुसार, कंपनी का AI शोध उसकी तेज विकास से जुड़ी आंतरिक चेतावनी सीमा के करीब पहुंच सकता है—और संभव है कि जुलाई में इसे पार भी कर चुका हो। आकलन में तेज प्रगति से विनाशकारी नुकसान का जोखिम कम बताया गया है, लेकिन इस दावे पर सवाल उठाए गए हैं कि सीमा पार नहीं हुई थी। इसमें विवादित मान्यताओं और पूरी तरह सार्वजनिक न की गई जानकारी का हवाला दिया गया है। IPO की तैयारी के बीच निष्कर्षों ने कंपनी की सुरक्षा निगरानी और विकास गति पर नए सिरे से ध्यान खींचा है।
कैलिफोर्निया स्थित गैर-लाभकारी शोध संगठन Model Evaluation and Threat Research (METR) ने यह आकलन नवंबर की शुरुआत में प्रकाशित किया। अगस्त में जारी सुरक्षा आकलन में Anthropic ने कहा था कि 15 जुलाई तक उसके मॉडलों के सीमा पार करने का जोखिम कम था। METR ने कंपनी की सार्वजनिक रिपोर्ट के साथ Anthropic की ओर से साझा की गई कुछ आंतरिक जोखिम-संबंधी सामग्री की भी समीक्षा की।
METR का अनुमान: क्षमता वृद्धि ऐतिहासिक गति से 1.9 गुना
Anthropic की आंतरिक चेतावनी सीमा उस स्तर को दर्शाती है जहां मॉडल कुछ शोध और विकास कार्यों को पूरा करने में इंसानी मदद पर पहले से कम निर्भर हों और उनकी क्षमता दोगुनी हो जाए। यह मानक AI प्रगति की ऐसी गति को दर्शाने के लिए बनाया गया है, जिसमें 2018 से 2024 तक हुई प्रगति एक ही साल में सिमट जाए।
मार्च 2024 से अक्टूबर 2025 तक के बदलावों के आधार पर METR का अनुमान है कि Anthropic के मॉडलों की क्षमता ऐतिहासिक गति से करीब 1.9 गुना तेजी से बढ़ी। संगठन के मुताबिक, Anthropic की अप्रकाशित जोखिम रिपोर्ट से निकला अनुमान 1.97 गुना है। हालांकि, मापने के दूसरे उचित तरीकों से यह आंकड़ा 1.3 से 2.8 गुना तक हो सकता है। इससे साफ है कि नतीजा इस्तेमाल की गई पद्धति पर काफी निर्भर करता है।
METR का कहना है कि 2 गुना सीमा पार न होने के पक्ष में Anthropic का सार्वजनिक तर्क उपलब्ध साक्ष्यों की तुलना में अधिक मजबूत दिखाया गया। संगठन के आकलन में यह सीमा 15 जुलाई तक पार हो चुकी हो सकती है। साथ ही, Anthropic ने कुछ जानकारी और डेटा हटाकर साझा किया, जिससे बाहरी विश्लेषण का दायरा सीमित रहा। कार्यों को कितनी स्पष्टता से परिभाषित किया जाता है, जैसे तरीके भी क्षमता-वृद्धि के अनुमान को बदल सकते हैं।
AI औजारों से शोध की रफ्तार बढ़ने के संकेत
METR के मुताबिक, अक्टूबर में Anthropic की वृद्धि का करीब 80% हिस्सा AI प्रणालियों की मदद से AI शोध करने से आया, न कि कंप्यूटिंग क्षमता जोड़ने या बढ़ाने से। यह निष्कर्ष बताता है कि कंप्यूटिंग निवेश के साथ-साथ शोधकर्ताओं द्वारा AI औजारों का इस्तेमाल भी विकास की तेज गति में योगदान दे रहा है।
Anthropic के कर्मचारियों ने कहा है कि कंपनी के आंतरिक मॉडलों के इस्तेमाल से उनकी उत्पादकता 12 गुना बढ़ी। METR के अनुसार, कंपनी का तिमाही कोड उत्पादन भी 2021–2025 के बेंचमार्क से करीब आठ गुना हो गया। ये आंकड़े शोध दक्षता पर आंतरिक औजारों के संभावित असर को दिखाते हैं, हालांकि उत्पादकता और मॉडल की कुल क्षमता के बीच संबंध इस बात पर निर्भर करता है कि दोनों को कैसे मापा जाए।
METR को शोध की गति पर कोई स्पष्ट बाधा या घटते प्रतिफल के ठोस संकेत नहीं मिले। इससे अगले 12 महीनों में क्षमता वृद्धि और तेज होने की संभावना बनती है। लेकिन संगठन ने यह भी माना कि उसकी सीमित जानकारी के कारण शोध की गति को रोकने वाली कुछ बाधाएं उसके आकलन में शामिल न हुई हों। यह रिपोर्ट निश्चित पूर्वानुमान नहीं है।
IPO से पहले सुरक्षा प्रतिबद्धताओं पर निवेशकों की नजर
Anthropic के CEO Dario Amodei तकनीकी विकास की गति धीमी रखने की बात कई बार कह चुके हैं। सितंबर में उन्होंने चेताया था कि AI गंभीर जोखिम पैदा कर सकता है और मॉडल की क्षमता सुरक्षा उपायों में सुधार से तेज बढ़ सकती है। OpenAI के CEO Sam Altman और उद्योग की अन्य हस्तियों ने भी भविष्य में ऐसे AI सिस्टम विकसित होने की संभावना पर चर्चा की है, जो इंसानी नियंत्रण से बाहर स्वायत्त रूप से काम करें।
METR का कहना है कि शोध दक्षता बढ़ने से AI उद्योग में कंप्यूटिंग संसाधनों की बढ़ती मांग और संचालन व विकास लागत को लेकर कुछ दबाव कम हो सकता है। लेकिन क्षमता वृद्धि की तेज गति यह सवाल भी उठाती है कि सुरक्षा उपाय उसके साथ तालमेल बिठा पाएंगे या नहीं। METR ने Anthropic, OpenAI और अन्य AI प्रयोगशालाओं के साथ आकलन व शोध पर काम किया है और AI प्रणालियों की स्वतंत्र जांच में भी हिस्सा लिया है।
Anthropic बुधवार को अपने IPO का मूल्य तय करने और गुरुवार को कारोबार शुरू करने वाली है। कंपनी कथित तौर पर 1.4 ट्रिलियन डॉलर तक के मूल्यांकन का लक्ष्य रख रही है। वह Nasdaq Global Select Market में ANT टिकर के तहत सूचीबद्ध होने की योजना बना रही है। उपलब्ध डेटा में कमी और पद्धति को लेकर मतभेदों के बीच, Anthropic के सार्वजनिक आकलन और METR के विश्लेषण का अंतर सूचीबद्धता से पहले कंपनी की सुरक्षा निगरानी परख रहे निवेशकों की नजर में बना हुआ है।