Anthropic计划本周启动IPO,但一份针对其内部资料和员工访谈的独立评估指出,公司AI模型研发速度已接近内部设定的加速警戒线,甚至可能在7月触及该阈值。评估机构同时表示,目前AI加速带来灾难性风险的可能性仍低,不过Anthropic关于尚未越线的判断,依赖一些未充分说明、且存在争议的评估取舍。
这项评估由加州非营利研究机构Model Evaluation and Threat Research(METR)于11月初发布。Anthropic曾在8月的安全评估中称,截至7月15日,其模型越过警戒线的风险较低。新报告则重新审视了公司公开报告及其提供的部分内部风险资料。相关分歧使Anthropic上市前的安全治理和研发节奏受到进一步关注。
METR估算研发能力提升约1.9倍
Anthropic的内部警戒标准,是模型在部分研究与开发任务中、以较少人工参与完成工作的能力提升达到2倍。这里的“2倍”指AI发展速度相当于将2018年至2024年的历史进步压缩到一年内完成,作为衡量研发加速的参考线。
METR根据2024年3月至2025年10月的变化估算,Anthropic模型能力的提升速度约为历史基准的1.9倍。该机构指出,Anthropic未公开的风险报告所隐含的估算为1.97倍;采用其他合理指标,结果则可能在1.3倍至2.8倍之间,具体数值取决于衡量方法。
METR认为,Anthropic公开报告中“尚未越过2倍加速阈值”的论证力度被高估,并称该阈值有可能已在7月15日被触及。不过,机构也提醒,Anthropic对部分信息和数据作了删减,限制了外部评估的完整性;任务定义是否明确等因素,也会影响能力增长速度的测算。
AI系统参与研究,成为增长来源之一
报告称,Anthropic在10月约80%的增长来自AI系统协助开展AI研究,而非增加或扩大算力。METR认为,这说明研发加速不只是依靠投入更多计算资源,也与AI工具参与研究工作的程度有关。
METR还提到,Anthropic员工自述使用公司内部模型后,生产力提高了12倍;与2021年至2025年的基准相比,公司每季度的代码产出增加至约8倍。这些数据反映了内部工具对研发效率的影响,但其与整体模型能力提升之间的关系仍取决于具体评估口径。
METR表示,没有观察到明确的瓶颈或显著的边际收益递减迹象,因此未来12个月能力进展可能进一步加快;但该机构也承认,受评估视角有限影响,可能遗漏了限制研发速度的因素。其判断并不等同于确定预测。
IPO临近,安全承诺与研发速度受关注
Anthropic首席执行官Dario Amodei此前多次呼吁放慢技术发展。9月,他曾警告AI可能带来严重风险,并指出技术能力的进步可能快于安全措施的完善。OpenAI首席执行官Sam Altman等业内人士也曾谈及,未来AI可能具备自行发展、超出人类控制的能力。
METR的报告认为,部分研发效率提升可能有助于缓解AI行业对算力需求以及运营、开发成本上升的担忧;与此同时,模型能力加速也再次引发对安全保障是否跟得上的讨论。METR曾与Anthropic、OpenAI及其他AI实验室开展评估和研究合作,并参与过对AI系统的独立测试。
Anthropic计划于周三确定IPO发行价,并于周四开始交易;公司据称寻求最高1.4万亿美元估值,拟在纳斯达克全球精选市场挂牌,股票代码为ANT。METR对加速阈值的判断仍存在数据缺口和方法分歧,IPO临近之际,公开报告与内部评估之间的差异成为外界关注该公司安全治理的重要依据。