Anthropicが今週、新規株式公開(IPO)に向けて動くなか、社内資料と従業員への聞き取りを基にした独立評価が、同社のAIモデル開発が社内の加速警戒ラインに近づき、7月にはその水準に達していた可能性もあると指摘した。一方、評価機関は、AI開発の加速が破局的なリスクにつながる可能性は現時点で低いとの見方も示している。ただし、Anthropicが基準を超えていないとする判断には、十分に説明されていないうえ、議論の余地がある評価上の選択が含まれるという。
評価をまとめたのは、カリフォルニア州の非営利研究機関Model Evaluation and Threat Research(METR)。11月初めに公表した報告書で、Anthropicが公開した資料と同社から提供された一部の内部リスク情報を改めて検証した。Anthropicは8月の安全性評価で、7月15日時点にモデルが警戒ラインを超えるリスクは低いとしていた。両者の見解の違いを受け、IPOを前に同社の安全管理と開発ペースが改めて問われている。
METR推計、モデル能力の伸びは過去基準の約1.9倍
Anthropicの社内基準では、一部の研究・開発タスクをモデルが人間の関与を抑えてこなす能力の向上が2倍に達すると、開発加速の警戒ラインとみなされる。ここでいう「2倍」とは、2018年から2024年までに起きた進歩に相当する変化が、1年間で生じるペースを指す。
METRは、2024年3月から2025年10月までの変化を基に、Anthropicのモデル能力の向上速度を過去の基準の約1.9倍と推計した。非公開のリスク報告書から読み取れるAnthropic側の推計は1.97倍だったという。指標の選び方によっては1.3倍から2.8倍となり、測定方法が結果を左右するとも説明している。
METRは、Anthropicが公開資料で「2倍の加速基準には達していない」と説明した根拠は、実際より強く見積もられていると指摘。基準は7月15日までにすでに超えられていた可能性があるとした。一方で、Anthropicが一部の情報やデータを非公開としているため、外部からの評価には限界があるとも認めた。タスクの定義がどれほど明確かといった点も、能力向上の測定値に影響する。
研究を支援するAIシステムも開発効率を押し上げ
報告書によると、Anthropicでは10月の成長の約80%が、計算資源の追加や拡大ではなく、AIシステムがAI研究を支援したことによるものだった。METRは、開発加速の背景には計算資源への投資だけでなく、研究業務にAIツールをどの程度活用しているかも関わっているとみている。
また、Anthropicの従業員は、社内モデルの利用によって生産性が12倍になったと自己評価している。2021~2025年の基準と比べ、同社の四半期ごとのコード生産量は約8倍に増えたという。こうした数値は社内ツールが開発効率に与える影響を示すが、モデル全体の能力向上とどう結び付くかは、評価の方法によって異なる。
METRは、現時点で明確なボトルネックや顕著な限界効用の低下は確認できていないとし、今後12カ月で能力向上がさらに加速する可能性に言及した。ただし、評価の対象や視点が限られており、開発速度を抑える要因を見落としている可能性もあるとしている。これは確定的な予測ではない。
IPO控え、安全対策が開発速度に追いつくか焦点
Anthropicのダリオ・アモデイ最高経営責任者(CEO)は、技術開発のペースを落とす必要性を繰り返し訴えてきた。9月にはAIが深刻なリスクをもたらす可能性に警鐘を鳴らし、技術の進歩が安全対策の整備を上回るペースで進むおそれを指摘した。OpenAIのサム・アルトマンCEOら業界関係者も、将来的にAIが自ら発展し、人間の制御を超える可能性について言及している。
METRは、研究効率の向上が、AI業界で懸念されている計算資源の需要や運用・開発コストの増加を和らげる可能性があるとする一方、モデル能力の加速に安全対策が追いつくかという議論も改めて浮上していると指摘した。同機関はAnthropicやOpenAIを含む複数のAI研究機関と評価・研究で協力し、AIシステムの独立テストにも携わってきた。
Anthropicは水曜日にIPOの公開価格を決定し、木曜日に取引を開始する予定。報道では、同社は最大1兆4,000億ドルの企業評価額を目指し、ナスダック・グローバル・セレクト・マーケットにティッカーシンボル「ANT」で上場する計画とされる。加速基準に関するMETRの判断にはデータの不足と評価手法の違いが残る。IPOを前に、公開報告と内部評価の隔たりが、同社の安全管理を見極めるうえでの論点となっている。