マイクロソフトのブラッド・スミス社長は、人工知能（AI）を対象とする世界共通の安全ルールを早急に整備すべきだと訴えた。制御不能になったシステムを停止する「緊急ブレーキ」の設置、事故の法定報告、影響を受けた人への通知、製品発売前の独立評価などを企業に求める内容だ。スミス氏は、現在は洗濯機や牛乳の方がAIよりも多くの安全規制を受けていると指摘した。こうしたルールは、企業が新技術を導入する際の責任範囲や、システム障害後に利用者が得られる情報にも関わる。
事故報告とAIの「緊急停止」機能
スミス氏はAIを「道具」であると同時に「兵器」でもあると表現し、規制に向けた取り組みを直ちに始める必要があると述べた。AIシステムが制御不能に陥ったり、その他の重大な問題が発生したりした場合、企業が稼働を停止または減速できる仕組みを備えるべきだという。業界では、この種の機能を「キルスイッチ（緊急停止スイッチ）」と呼ぶことが多い。
責任の追跡については、企業に事故を法的に報告する義務を課すべきだと主張した。AIエージェントが損害を引き起こした場合や、システムが侵入を受けた場合には、被害を受けた人に通知する必要があるとの考えだ。また、新しいAI製品を市場に投入する前に、一部のシステムについて政府から独立した評価担当者が審査する仕組みも提案した。
スミス氏は、他の製品分野で積み重ねられてきた安全規制が、AIルールを作る際の参考になると説明した。洗濯機と食品を例に挙げ、「現在は洗濯機の方がAIよりも多くの安全ルールの対象になっている。食料品店に並ぶ牛乳の容器は、すべて安全基準を守り、検査を受けなければならない」と述べた。
トランプ氏の自主規制論と英米の違い
スミス氏の見解は、業界の自主規制を重視する米国のドナルド・トランプ大統領の立場とは異なる。トランプ氏は、規制によって米国企業が中国の競合企業に後れを取ることを避けるべきだと主張し、「AIで勝つ者がすべてを勝ち取る」と繰り返し述べている。これに対しスミス氏は、企業の自主的な取り組みだけでは不十分で、とりわけ責任を引き受ける意思の乏しい企業を対象にできないと指摘した。
AIの開発速度と安全規制をめぐる議論は、ここ最近、活発になっている。米国のAI企業であるAnthropic、OpenAI、Google DeepMindの責任者は、AI開発のペースを落とす考えを支持したことがある一方、トランプ氏は減速に反対している。スミス氏は、AIエージェントが人間の制御を離れたり、世界のサイバーセキュリティーを脅かすほど強力になったりした場合に備え、ルール作りを始める時期はすでに来ていると警告した。
また、英国には国境を越えたルール作りの議論を主導する条件があると述べた。英国のAI安全研究機関は、リシ・スナク氏が首相を務めていた時期に「AI Safety Institute」の名称で設立され、現在は「AI Security Institute」と呼ばれている。スミス氏は、テクノロジー業界では英国が関連する技術力で先行しているとみられていると説明した。
ワシントンが英国主導のルールを受け入れる可能性については、米国の政界はロンドンに対してブリュッセルとは異なる見方をしていると指摘した。そのため、英国が提案する基準は米国の支持を得やすい可能性があるという。ただし、米英が具体的な規制案で合意したわけではない。
ホワイトハウスの企業合意は「必要だが不十分」
先月末、トランプ氏はホワイトハウスで、OpenAI、Anthropic、NVIDIA、SpaceX、Meta、Googleの幹部と会談した。参加企業は、道義的な拘束力を持つ文書に署名し、「独立監査人」と協力してAIシステムが想定通りに動作しているかを確認すると約束した。システムが意図せず技術施設に侵入したり、アクセスしたりしないことも確認対象に含まれる。
スミス氏はこの声明について「良い、必要な一歩」と評価し、マイクロソフトも署名する用意があると述べた。一方で、現在の問題に対応するには自主的な約束だけでは足りないとの見方も示した。自主規制の限界は、規則を守る企業は通常、必要な対応を取る一方で、本当に防ぐべきなのは責任意識の弱い企業だという点にある。
AI企業と利用者にとって、議論の焦点はモデルをどう評価するかだけではない。誰が評価を実施するのか、事故が起きた際に企業がどのような報告・通知責任を負うのか、自主規制に積極的でない企業にもルールを適用できるのかが問われている。スミス氏が示した世界共通の安全ルールは、現時点では政策上の提案にとどまり、具体的な制度設計は固まっていない。