米国の銀行や決済事業者は、決済、口座開設、金融サービスでAIエージェントの導入を広げている。一方で、AIエージェントが誤った取引を実行した場合や、操作されて不正送金を行った場合、あるいは利用者の許可を超えて取引した場合に、最終的に誰が責任を負うのかは明確になっていない。
この問題は、消費者が資金を取り戻せるかどうかだけでなく、銀行、決済ネットワーク、加盟店、テクノロジー企業、フィンテック事業者が業務上のリスクをどう分担するかにも関わる。ベイン・アンド・カンパニーは、米国におけるエージェント型商取引の年間支出が2030年までに5000億ドルに達する可能性があると試算している。取引規模が拡大するなか、責任のルールを明確にできるかどうかが、サービスを広く実用化できるかを左右する条件になりそうだ。
米FRB理事が示した「誤購入」のケース
米連邦準備制度理事会（FRB）のクリストファー・ウォラー理事は9月29日、Sibos会議で、エージェント型商取引を拡大するには、特にAIエージェントが消費者に代わって意思決定する仕組みについて、売り手と買い手の双方が十分な信頼を築く必要があると述べた。
ウォラー理事が示したのは、消費者がAIエージェントにセーターの購入を依頼したものの、エージェントがサイズを間違えて注文し、銀行がその支払いを承認するという場面だ。銀行が決済を承認したとしても、エージェントが消費者の本来の希望どおりの商品を購入したことにはならない。
同理事は、決済ネットワークのルール、消費者保護基準、関連する規制を含む既存の電子商取引における責任の枠組みを、エージェント型取引向けに調整して適用できる可能性を指摘した。一方で、規制当局が新たな処理方法を試す余地もあるとしている。
リスクは、ハッカーや詐欺業者がAIを操作するケースに限られない。AIエージェントが当初の指示や設定から逸脱することもあれば、消費者、加盟店、取引に関わる別の当事者が通常の業務ミスを起こす可能性もある。エージェントが口座外へ資金を送った場合、誤った設定を行った利用者、エージェントに権限逸脱を許したモデル提供者、異常を把握しながら取引を通した銀行のいずれに責任があるのかが問われることになる。
Lead Bankが責任の「連鎖」モデルを提案
ミズーリ州カンザスシティーに本拠を置くLead Bankは、州認可銀行として、フィンテック企業、デジタル資産企業、消費者向けブランドにバンキング・アズ・ア・サービスを提供している。
同銀行のジャッキー・レイサーズ最高経営責任者（CEO）は、従来の銀行における顧客確認や本人確認の手続きは、長年にわたって「人」を前提に設計され、ボットを排除することに重点が置かれてきたと説明する。しかし、処理する機械の数や規模が人間を上回る環境では、この考え方自体が変わりつつあるという。
レイサーズ氏は、取引でミスが起きること自体は想定外ではなく、必要なのは管理の仕組み、プログラム上の要件、そして問題が発生した後の責任ルールだと述べた。Lead Bankはすでに、エージェント型の銀行業務と決済を対象とする法的枠組みを設計し、ミスの種類に応じて実際に管理できる当事者へ責任を割り当てる「連鎖」モデルを提案している。
この案では、AIエージェントが消費者から明確に付与された権限を超えた場合、消費者は責任を負わない。銀行が権限の割り当てを管理していながら、設定された制限を適用しなかった場合は銀行の責任となる。モデルの欠陥、安全性に問題のあるツール呼び出し、防御策の不足が原因であれば、AI提供者が責任を負う。加盟店がエージェントの権限に限界があることを認識しながら、権限を超える取引を誘導した場合は、加盟店が責任を問われる可能性がある。
こうした区分は、取引後の紛争で責任を争うのではなく、取引前からシステムに組み込めるルールへと転換することを目指すものだ。ただし、実際の責任は、権限がどのように設定されていたか、銀行が異常を示すシグナルを受け取っていたか、各当事者が問題のあった工程を管理していたと証明できるかによって変わる。
Primitiveが金融サービス向けプロトコルを整備
米国の大手銀行U.S.バンクで元最高デジタル責任者を務めたデレク・ホワイト氏が設立したテクノロジー新興企業Primitiveも、AIエージェントの責任と運用に関する基準づくりを進めている。
ホワイト氏によると、消費者はすでにChatGPTなどのAIモデルを使って金融サービスの提供者を探し始めており、将来的には、指定した銀行でAIエージェントに直接口座を開設させるよう求める可能性がある。
Primitiveの基準の一つが「エージェント型金融サービス・プロトコル（Agentic Financial Services Protocol）」だ。企業が共通の防御要件に沿ってAIエージェントを開発できるようにすることを目的としている。
ホワイト氏は、このプロトコルでは、エージェントが行ったすべてのセッションを記録することを求めていると説明した。記録対象には、エージェントがガバナンス上のルールを守ったかどうか、どの大規模言語モデルを呼び出したか、トークン処理にどれだけのコストが発生したかが含まれる。
これらの記録を整理すれば、規制当局や監査担当者が利用でき、エージェントがどのような過程で判断したのかを追跡できる。銀行にとっても、利用者の指示、モデルの挙動、ツールの呼び出し、取引承認プロセスのどこに問題があったのかを切り分ける材料になる。
技術面の管理と規制の接続が課題
レイサーズ氏は、現在の技術でもエージェントの行動を制限し、問題発生時の責任を追跡することは可能だと述べている。Lead Bankのプログラム可能なインターフェースは、行動の逸脱を監視し、システムの稼働状況を示す証跡を記録し、「Know Your Agent（自社が利用するエージェントの確認）」情報を定期的に更新するために使える。取引証明書の発行や、必要に応じた証明書の取り消しにも対応する。
一方で、課題は銀行・決済規制とエージェント型AIの活動をどう接続するかにあると同氏はみている。法制度や規制の枠組みが明確にならなければ、銀行はどの管理策で責任を果たせるのか判断しにくい。消費者も、取引に誤りが生じた場合に誰が補償するのかを事前に把握しにくくなる。
現在は、カードネットワーク、電子商取引プラットフォーム、決済サービス事業者、テクノロジー企業、FIDOアライアンス、銀行が関連基準の整備に参加している。AIエージェントによる決済には消費者の懸念が残る一方、市場規模は拡大すると見込まれている。
検索、口座開設、決済の権限を持つエージェントが増えるほど、権限の記録、取引証明書、モデル監査、権限逸脱後の責任分担は、金融機関が導入時に具体化すべき実務上の論点になる。