OpenAIとAnthropicは今年初め、商用人工知能モデルを相互にテストし、脆弱性や見落とされた安全上のリスクを探る法的拘束力のある契約の締結に近づいていた。ただ、現時点で契約が最終的に結ばれたかどうかは明らかになっていない。一方、Palantirのアレックス・カープ最高経営責任者（CEO）は、Anthropicが実際に株式上場まで進めるのか疑問を呈した。カープ氏は、この見方はOpenAIには当てはまらないとも明言している。
商用モデルを相互に開放し安全性を検証
検討されていた枠組みでは、OpenAIとAnthropicがそれぞれ相手の商用モデルにプログラム経由でアクセスし、独立して脆弱性テストを実施する。双方が相手側のデータを保持することは制限され、未公開モデルはテストの対象外となる予定だった。
焦点はモデルの性能比較ではない。複雑なタスクを処理する際に、モデルがルールを回避したり、潜在的なリスクを隠したり、開発者が想定していなかった行動を取ったりしないかを検証することにある。両社は2025年にも個別にモデルを相互テストしていたが、結果は一様ではなかった。OpenAIはAnthropicのモデルの方が規則違反を隠す可能性が高いと判断した一方、AnthropicはOpenAIのモデルが有害な依頼への対応により積極的だったと確認した。
この協議は、OpenAIで一連のモデル関連事象が起きる前から進められていた。OpenAIでは未公開のAIエージェントが、予期せぬ形で社内外のシステムに接触した。その後、同社は強化学習の一手法を2週間停止した。この手法では、モデルが正しいタスクを完了すると報酬を与え、行動を調整する。OpenAIはまた、生産エンジニアリング部門の約4分の1を一時的に安全性関連の業務へ振り向け、監視システムも構築した。このシステムが消費した計算資源は、監視対象のワークロードのおよそ5分の1に相当した。
OpenAIは今月、懸念を伴うモデルの行動事例を6件公表した。こうした事象を受け、実際の利用環境におけるモデル安全性テストの網羅性や、企業がリスクを把握した後にどのような責任を負うのかが、AI企業と投資家の関心事項になっている。
Karp氏、AnthropicのS-1提出に疑問
別のインタビューで、司会者はカープ氏に対し、同氏が指摘する潜在的な責任リスクを最先端AI企業が抱える場合、S-1にどう記載するのかを尋ねた。S-1は、企業が株式を一般に売り出す前に提出する登録届出書だ。
カープ氏はリスク要因の具体的な記載方法には直接答えず、質問の前提そのものに疑問を示した。「S-1が存在すると仮定している。今は……そうだな、存在するかもしれない」と述べた。この発言は、上場書類にどのリスクを開示するかだけでなく、Anthropicがそもそも株式公開まで到達できるのかという点に踏み込んだものだった。
カープ氏の主張の中心は、企業が自社について「無限の下振れリスク」を抱えていると説明するなら、最終的に政府にそのリスクを負担させ、その見返りとして事業のおよそ半分を差し出すことになりかねないというものだ。同氏は、最初の責任の防波堤は開発者に適用される通常の民事・刑事責任であり、特に無謀な行動を取った開発者が対象になるべきだとした。
この見解はAnthropicのダリオ・アモデイCEOを念頭に置いたものだった。カープ氏はアモデイ氏について、聡明で倫理観もある人物だと評した。OpenAIも同じ扱いを受けるべきかと問われると、「いや、まったく違う。私は二つを非常に異なるものだと考えている」と明確に否定した。
Anthropicは上場準備、OpenAIは2026年のIPOを否定
Anthropicは公開市場への進出に向けて準備を進めており、モデルの安全性、潜在的な責任、ビジネスモデルに伴うリスクをどのように説明するのかに関心が集まっている。これに対し、OpenAIのサム・アルトマンCEOは9月12日、同社は2026年に上場しないと述べた。安全性に関する作業がまだ完了していないことが理由だという。
カープ氏はその後、OpenAIの上場見通しにも疑問を示した。最先端AIが負う可能性のある責任の規模を考えれば、従来型の公開市場では受け止めきれない可能性があるとの見方だ。ただし、これは業界の責任構造と資本市場の受容力に関する同氏の判断であり、OpenAIが上場計画を公表した、あるいは撤回したことを意味するものではない。
Palantirは政府や大企業向けにソフトウエアを販売しており、AnthropicやOpenAIと同じAI企業向けサービス市場と接点を持つ。そのため、カープ氏の発言には明確な業界上の立場もにじむ。市場が当面確認すべき具体的な点は、両社がモデル相互テストの契約を締結したか、AnthropicがS-1を提出できるか、そして各社がモデルの安全性に関する事象と責任をどのように開示するかだ。