Anthropicの報告：AI技術が生物兵器研究に関わるリスクを示唆
人工知能開発企業Anthropicは、154ページに及ぶ脅威インテリジェンス報告書を公開し、自社AIモデル「Claude」が生物兵器研究に関連する潜在的なリクエストに反応し、これをブロックしたケースを明かした。問題となった申請は、蚊を媒介とする基孔肯雅ウイルスの伝播力強化と免疫逃避に関する研究で、Anthropicが安全フィルターで拒否したにもかかわらず、申請者は他のAIモデルに切り替え再度試みていたことが判明した。
研究資金申請が却下され、別のAIプラットフォームへ迂回
該当の研究は、民間科学者が軍事関連機関のもとで実施を計画したもので、Anthropicは度重なる申請を拒否し、Claudeは安全基準に基づきアクセスを制限した。しかし申請者は、安全フィルターを回避するため、あるAIプラットフォームで拒否された内容を自動的に他社のAIモデルにルーティングするシステムを構築し、コード作成を継続した。Anthropicはこの行為を反過剰拒否への反応として位置付けている。
明示的な悪意は示されず、5件のケースが調査対象に
報告書には5件の具体的な生物関連事例が含まれ、一部のアカウントは凍結され関連研究所へのアクセスも停止された。しかし、関係者の悪意や違法行為を示す確証はなく、「彼らが害を及ぼす意図を持っているとは断定できず、身元の特定がリスクになる可能性がある」と記載されている。中には鳥インフルエンザウイルス研究者のケースもあり、その者は機能制限のあるAIモデルに誘導された経緯がある。フィルタリングは一定の抑止力となったものの、全てのリスクを排除するには至っていない。
AIの生物安全性への応用に伴う監視と規制の課題
今回の事例は、AIが敏感な研究領域で悪用される可能性を浮き彫りにしており、とくに軍民融合のプロジェクトにおいては規制や監査の強化が焦点となっている。Anthropicは首席セキュリティチームメンバーの協力のもと報告書を公開し、AI技術の安全運用に関する対話と研究開発の適切なバランス維持を求める姿勢を示している。業界全体で、技術の悪用を防止しつつ革新を促進するための枠組み形成が喫緊の課題となっている。