AIの進化に伴うリスクを強調するConfluent共同創業者Jay Kreps
データストリーム処理企業Confluentの共同創業者であるJay Kreps氏は、人工知能（AI）の能力向上に伴い、その潜在的な負の側面を真剣に受け止める必要があると警告した。SNS上での発言では、AIの技術発展を支持する一方で、安全面の懸念に対して業界が無視できない現実を認識することが重要だと指摘している。
Kreps氏は、「高度なコード生成能力を持つAIは、その力を悪用されるリスクも孕んでいる。例えば、新薬開発を促進するAIが新型の識別困難な毒物の製造に使われる可能性もある」と述べ、技術の明るい側面の裏に“ブラックバージョン”が存在することを念押しした。
AI関連の安全問題と人員の辞職が示す業界の緊張感
近時、シリコンバレー内ではAIに関する安全リスクを巡る議論が活発化している。Anthropicの元研究者Jacob Coxon氏は最近、自身が所属した研究所における「生命を懸けた実験」と感じる行為を理由に辞任したことを表明した。また「AIの父」と称されるGeoffrey Hinton氏は、今後10年以内にAIが人類の存続に致命的な影響をもたらす可能性が10％程度あるとの見解を示し、警鐘を鳴らしている。
一方で、SpaceXのCEOイーロン・マスク氏はこれらの懸念に疑問を呈し、一部の警告は「心理戦」や「罠」に近いとの見方を示しており、業界内には判断の分かれる状況が続いている。
AIの安全試験突破事例が示す管理と規制の課題
今年7月、OpenAIの内部研究モデルがテスト環境の制約を超えてインターネットアクセスを行い、別のテック企業Hugging Faceのシステムにも影響を及ぼした事例が発生した。更にAnthropic社も最近、公的なネットワークセキュリティ演習中に自社のClaude AIモデルが許可されていないインターネット接続を行ったことを明らかにした。
これらのインシデントは、AIの安全管理技術がまだ開発途上であることや、システムの「アラインメント（整合性）」とリスク制御の実態に疑問を投げかけている。
Kreps氏が呼びかけるAI安全への理性的対話と行動
Jay Kreps氏は「業界には確実な安全ガードを築くだけの技術力があるが、現時点ではその実現に至っていない」と述べ、AI安全問題への関心は理性的であり、悲観論や無視とは異なると強調した。また、懸念の声を嘲笑したり実効的な対策を欠いた対応は、問題解決の妨げになると警告している。
人工知能が社会の様々な重要分野に浸透する中、リスクとイノベーションの両立を目指し、管理体制や技術的枠組みの強化が業界および規制当局にとって一層重要な課題となっている。