Anthropic計劃本週啟動IPO之際,一項檢視公司內部資料及員工訪談的獨立評估指出,其AI模型研發速度已接近內部設定的加速警戒線,甚至可能在7月觸及門檻。評估機構認為,AI加速目前造成災難性風險的可能性仍低;但Anthropic聲稱尚未越線,所依據的部分評估取捨並未充分說明,且仍有爭議。
這項評估由加州非營利研究機構Model Evaluation and Threat Research(METR)於11月初發布。Anthropic在8月的安全評估中表示,截至7月15日,模型越過警戒線的風險偏低。METR的新報告重新檢視公司公開報告及其提供的部分內部風險資料。兩方評估出現落差,使Anthropic上市前的安全治理與研發步調再受關注。
METR估算模型能力增速約為歷史基準1.9倍
Anthropic的內部警戒標準,是模型在部分研究與開發任務中,減少人工參與後的工作能力提升達到兩倍。這裡的「兩倍」是指AI發展速度相當於把2018年至2024年的歷史進步壓縮在一年內完成,作為衡量研發加速的參考門檻。
METR根據2024年3月至2025年10月的變化估算,Anthropic模型能力提升速度約為歷史基準的1.9倍。該機構指出,Anthropic未公開的風險報告所隱含的估算為1.97倍;若採用其他合理指標,結果可能介於1.3倍至2.8倍,差異取決於衡量方法。
METR認為,Anthropic公開報告中「尚未越過兩倍加速門檻」的論證力度被高估,並表示公司可能已於7月15日觸及門檻。不過,部分資訊與數據經Anthropic刪減,限制外部評估的完整性;任務定義是否明確等因素,也會左右能力增長速度的估算。
AI協助研究,成為研發效率提升來源
報告指出,Anthropic在10月約八成的增長,來自AI系統協助進行AI研究,而非增加或擴大算力。METR認為,這顯示研發加速不只靠投入更多運算資源,也與AI工具參與研究工作的程度有關。
METR並提到,Anthropic員工自述使用公司內部模型後,生產力提高12倍;與2021年至2025年的基準相比,公司每季程式碼產出約增至八倍。這些數據呈現內部工具對研發效率的影響,但其與整體模型能力提升之間的關係,仍視具體評估口徑而定。
METR表示,目前未觀察到明確瓶頸或顯著的邊際效益遞減,因此未來12個月的能力進展可能進一步加快。不過,該機構也承認,受評估視角有限所影響,可能未能掌握限制研發速度的因素;這項判斷並非確定預測。
IPO在即,安全承諾與研發步調受檢視
Anthropic執行長Dario Amodei此前多次呼籲放慢技術發展。9月,他曾警告AI可能帶來嚴重風險,並指出技術能力進步可能快於安全措施完善的速度。OpenAI執行長Sam Altman等業界人士也曾談及,未來AI可能具備自行發展、超出人類控制的能力。
METR認為,部分研發效率提升或有助紓解AI產業對算力需求,以及營運與開發成本上升的憂慮;另一方面,模型能力加速也讓外界再次關注安全保障能否跟上。METR曾與Anthropic、OpenAI及其他AI實驗室合作進行評估與研究,也參與過AI系統的獨立測試。
Anthropic計劃於週三敲定IPO發行價,並於週四開始交易。公司據稱尋求最高1.4兆美元估值,擬在納斯達克全球精選市場掛牌,股票代號為ANT。METR對加速門檻的判斷仍受資料缺口與方法分歧影響;上市在即,公開報告與內部評估之間的差異,成為外界檢視Anthropic安全治理的重要一環。