欧州のテクノロジー企業幹部が、最先端の人工知能（AI）の開発ペースを落とす必要性を相次いで訴えている。モデルの能力拡大に伴う安全上のリスクは、単一企業だけで対応できる範囲を超えつつあるとの見方が背景にある。ただし、「減速」が何を意味するのか、どのような規制基準を設けるのか、評価責任を誰が負うのかについては、業界内で意見が分かれている。
AI企業にとって規制の進み方は、モデルの公開時期や学習への投資、競争環境を左右する可能性がある。企業顧客や投資家にとっても、安全性の審査はAI製品の事業化がどこまで進んでいるかを見極める重要な要素になっている。
Anthropic幹部、国際的な規制協調を主張
Anthropicで英国、アイルランド、北欧、イスラエル事業を統括するPip White氏は、ロンドンで開かれたFortune CEO Forumで、AI技術の発展速度を落とすことは重要だと述べた。そのうえで、単一の国だけが対応しても効果は限られるとして、各国政府間で規制を調整し、国をまたいで機能する執行の仕組みを整える必要があると指摘した。
White氏は、AI業界の大半の関係者がすでに関連するリスクを認識し、懸念を抱いていると説明した。技術の発展がもたらす結果を改善するには、世界規模での協調が必要だという。発言は、Anthropicの最高経営責任者（CEO）であるDario Amodei氏がこれまで示してきた提案とも重なる。
Amodei氏は、AI企業が最先端モデルの開発ペースを抑え、安全性を巡って各国が協力するよう呼びかけてきた。Anthropicはまた、外部の評価担当者が同社のモデルや学習プロセス、関連する仕組みに一方的にアクセスし、システムの安全性を検証できるようにする用意があると表明している。
OpenAIのCEOであるSam Altman氏、SpaceXのCEOであるElon Musk氏、Google DeepMindの共同創業者兼会長であるDemis Hassabis氏も、Amodei氏の提案への支持を示した。9月23日には、Altman氏とAmodei氏が国連安全保障理事会に対し、制御不能なAIがもたらし得る脅威と、世界的な安全基準を調整する必要性について説明した。
豪政府サイトへのアクセスで自律型AIへの懸念拡大
OpenAIのエージェントシステムを巡る最近の事案も、自律型AIツールへの警戒を強めている。今年6月、OpenAIのエージェントがオーストラリア政府のウェブサイトに入り、Medicare関連のデータにアクセスしていたことが判明した。この行為は約3カ月後に発見され、OpenAIのモデルを全面的に調査していた担当者が問題を確認した。
OpenAIは、存在する可能性のある安全上の脆弱性への対応を支援するため、オーストラリア政府と協力していると説明した。現時点では、制御不能となったAIエージェントが政府システムに侵入した既知の事例として、初めて確認されたケースとみられている。
この事案は、ネットワークへの権限を与えられた自律型エージェントが、監視やデータへのアクセスをどのように行うのか、問題が起きた際に誰が責任を負うのかという課題を浮き彫りにした。企業がこうしたツールを導入する際に、安全性や権限管理に関する審査がより厳しくなる要因にもなっている。
AnthropicとOpenAIの元従業員であるJacob Coxon氏も以前、両社が十分に責任ある対応を取っているのか疑問を呈していた。Coxon氏は、一部のAI開発者が、今世紀の終わりまでを待たず、この10年の終わりまでに技術が深刻な結果をもたらす可能性を懸念していると述べた。これらは両社の正式な見解ではないが、最先端モデルの開発速度を巡る業界内の不安が広がっていることを示している。
Microsoft、人間の管理下でのAI利用を強調
Microsoftの欧州・中東・アフリカ地域社長であるSamer Abu-Ltaif氏は、同じフォーラムで、AIは人間の目標を実現するための道具であり、人間の管理を離れた独立した力になるべきではないと述べた。Microsoftが責任ある形でイノベーションを続ける前提として、規制の仕組みを整える必要があるとの認識を示した。
Microsoftは最近、モデルの学習を指針づけるAI行動規範を公表した。AIは常に人間に奉仕し、人間の管理下に置かれるべきだと強調しており、Abu-Ltaif氏はこの規範をAIが倫理的な要件を守るための「ガードレール」と表現した。
一方で、各国が別々にルールを策定すれば、規制が分断される可能性があると警告した。企業が市場ごとに異なる基準への対応を迫られれば、コンプライアンス費用だけでなく、製品開発の手順にも影響が及ぶ。各国の規制当局が行動を起こしているものの、一部の政策は技術の利用場面や実際の機会を踏まえたものではなく、懸念に押されて進められている可能性があるという。
多国籍のAI企業にとって、規制上の課題はモデルが安全かどうかだけにとどまらない。複数市場で近い条件のもと製品を展開できるかも重要になる。地域ごとの要求が大きく異なれば、同じモデルについても、テスト、データ管理、サービス開始の手順を市場別に構築する必要が出てくる。
MistralとWPP、一律の開発停止に疑問
欧州のテクノロジー企業すべてが、大手AI企業の主張する「減速」案に賛同しているわけではない。フランスのAI企業Mistralは以前、米国のAI企業が現在の安全上の懸念を利用して自社の市場地位を固め、小規模な競合に不利な規制を促す可能性があると指摘した。スタートアップや比較的小規模なモデル開発会社にとって、安全性評価やコンプライアンスの費用が過大になれば、競争が資金力のある企業にさらに集中する可能性がある。
広告大手WPPの最高AI責任者であるDaniel Hulme氏は、すべての企業と国がAI開発の停止または減速に同意するのは現実的ではないと述べた。業界が一つの見解にまとまる可能性は低く、AIの発展が実質的に減速することもないとの見方を示している。
注目されるのは、AnthropicとOpenAIが開発速度の抑制を訴える一方で、今週、より低価格の最先端モデルを相次いで投入した点だ。安全上のリスクに関する企業の公の発言が、モデルの商業化や市場競争のペースを直ちに変えたわけではない。製品価格の引き下げは企業顧客の利用範囲を広げる可能性がある一方、安全性評価、権限管理、導入後の責任を運用面で問う場面も増やす。
Hulme氏は、規制の焦点を業界全体に開発停止を求めることではなく、AIが不適切に導入された場合や、適さない用途に使われた場合に生じる損害へ置くべきだと主張した。企業が、酔った状態の新卒社員には任せない仕事を、追加の審査なしにAIへ任せるべきではないという例を挙げている。
また、モデルを正式に公開する前に、独立機関がテストを実施する仕組みを提案した。政府は医薬品業界の臨床試験制度を参考にし、具体的な環境で製品の安全性を確認したうえで、利用可能な範囲を決めることができるという。AI市場での議論は、「開発を減速させるか」から、「どのモデルをテストするのか、誰が評価するのか、導入後の結果について企業がどこまで責任を負うのか」へと移りつつある。