米国で先週、航空運航が数時間にわたり停止したほか、マイクロソフト、JPモルガン、ユナイテッド航空でも最近システム障害が発生した。国土安全保障長官は、各組織がITシステムに導入した新たな人工知能(AI)ソフトが関係した可能性に触れたものの、具体的な根拠は示していない。障害の原因が特定されていないため、AI導入や老朽化したインフラ、あるいは互いに無関係な事象のどれに起因するのか、現時点では判断できない。
AIが原因との見方、裏付けは示されず
長官は、技術に詳しいと考える人物から聞いた推測で、「もっともらしく聞こえる」と述べた一方、自身も確信はないと認めた。先週の米航空網の全面停止と、マイクロソフト、JPモルガン、ユナイテッド航空での最近の障害について、共通の原因があったことを示す公表情報はない。新しいAIソフトが共通の引き金になったとの証拠も確認されていない。
長官はまた、現代社会の技術依存が深まるなか、従来のバックアップシステムが新システムの複雑さに対応しきれなくなる可能性を指摘した。米国がサイバー攻撃を受けている可能性については約98%の確信度で否定的な見方を示し、攻撃が原因である可能性は低いとした。ただし、これは運航停止やその他の障害の原因が特定されたことを意味しない。
航空会社、金融機関、クラウド事業者にとって、根本原因の特定はシステム復旧や事業継続、リスク調査に直結する。検証されていない説明を、技術調査の結果に代えることはできない。
老朽化した基盤とシステム間の連鎖
デジタルシステムの脆弱性は、AIブーム以前から指摘されてきた。米国ではデジタル・物理インフラの一部で保守が行き届いていないとの見方があり、局所的な問題が相互に依存するシステムを通じて広がることもある。よく知られた例が2003年の米北東部大停電だ。オハイオ州のソフトウェア障害をきっかけに影響が連鎖し、ニューヨーク市など広い地域で停電が起きた。
AIは、こうしたシステムに新たな複雑さを加える。開発者はモデルの動作や効果的な制御方法をなお研究しており、新しいソフトを既存のIT環境に組み込むと、システム同士の相互作用が予測しにくくなる可能性がある。ただし、技術的な複雑さだけで、個別のサービス停止がAIに起因すると判断することはできない。航空運航の停止と企業システムの障害に共通のつながりがあったかどうかは、具体的な調査結果を待つ必要がある。
未確認の情報と確認済みの事実を区別
大規模な障害が起きた際、原因を問うことは当然だ。一方で、発生後の曖昧な説明を結論として扱うべきではない。サービス停止のたびにサイバー攻撃やAIが原因だと早急に決めつければ、人々の警戒が常態化し、本当に必要な警告への注意が薄れるおそれもある。逆に、リスクが完全に明らかになるまで警告を控えれば、備える時間を逃しかねない。確認済みの事実、調査中の問題、推測を明確に分けることが重要だ。
SNSでも、情報の混同が見られる。11月17日に米国全土で停電が起きるとする投稿があったが、事実に基づく情報ではなく、その日に「11月17日の大停電」が起きたことを示す証拠もない。訂正を目的にした投稿であっても、裏付けのない話を繰り返せば、かえって多くの人に触れさせ、信じさせる可能性がある。
利用者が、関連性の判明していない一連の障害に対して今すぐ取れる具体的な対応は明確ではない。まず確認すべきなのは、各サービスが復旧したか、影響がどこまで及んだか、運営会社や調査担当者がいつ原因を公表するかだ。航空運航の停止と、マイクロソフト、JPモルガン、ユナイテッド航空での障害にAIが関与したかどうかは、依然として確認されていない。