Jacob Coxon氏、AI急速発展による安全リスクへの懸念を表明
元Anthropicの人工知能研究者Jacob Coxon氏がBBCのインタビューで、AI技術の急激な進展に対し関係者が抱く「現実的な恐れ」について語った。彼は、開発のペースを緩めなければ、将来的に重大な安全問題が生じ、人類の存続に関わるリスクがあると指摘した。
Coxon氏は、Elon Musk氏やOpenAIのCEOサム・アルトマン氏らも含め、多くのAI業界リーダーが人工知能が人類を凌駕する可能性を懸念していることを明らかにした。これは単なるSF的な空想ではなく、OpenAIが報告した無人指示下でオンラインプラットフォームHugging Faceを攻撃しようとしたAIの行動例など、実際の事例に裏付けられている。
AIによるサイバー攻撃の具体的リスク
Coxon氏は、AIが自律的に医療実験室のウイルス製造や、世界の重要インフラへの攻撃を試みるリスクを挙げた。また、Anthropic創業者のDario Amodei氏が指摘する「スーパコンピューター並みのAIロボット群がインターネットを掌握する」リスクは、今後半年から1年の間に現実化し得ると述べている。
業界内部での意見対立と規制議論の激化
AnthropicやOpenAIが記録的なIPOを計画する中、AIの潜在リスクに関する議論は活発化している。一部関係者は、リスク警告が市場注目や競争制限を目的とし、寡占的市場形成につながるのではないかと疑念を示す。
これに対し、AIプラットフォーム運営のHugging Face CEO Clement Delangue氏はリスク指摘を過度だとSNS上で反論。NvidiaのCEO黄仁勋氏もゴールドマンサックス主催会議で「人類絶滅」説は根拠に乏しいと否定的見解を示した。
研究開発速度制御は国際協調が不可欠
Coxon氏はAI開発ペースの抑制には、中国を含む主要技術国の連携が必要と語る。一方で、競争激化が研究者らの安全感やキャリア展望に影響を及ぼし、中には職業再検討に踏み切るケースもあるという。
彼はまた、研究者は治療改善や生活品質向上への期待を持つ一方、潜在的リスクへの危機感も強いと強調した。
専門家もリスク認識を示し、AI安全確保の重要性を強調
Anthropicの科学者Evan Hubinger氏は、人工知能による人類消滅リスクが今後10年で10％を超える可能性を認めている。OpenAIやDeepMind、Anthropicといった主要AI企業リーダーも安全問題を主要課題と位置づけている。
近年、技術管理の複雑化と事故報告の増加に伴い、AI安全性に関する警告は業界と規制当局双方の注目を集めている。