美國銀行與支付機構正擴大代理式人工智慧(agentic AI)在支付、開戶及金融服務上的應用,但一項核心問題仍待釐清:如果 AI 代理執行錯誤交易、遭操縱而被用於詐欺,或超出使用者授權範圍,最終應由誰承擔責任?
這不僅關係到消費者能否追回款項,也會影響銀行、支付網路、商戶、科技公司及金融科技平台如何分配營運風險。貝恩顧問預估,美國代理式商業的年度支出到 2030 年可能達到 5,000 億美元。隨著交易規模擴大,責任規則是否清晰,可能成為這類業務能否大規模落地的關鍵條件。
聯準會官員點出「買錯商品」的責任問題
聯準會理事克里斯多福・沃勒 9 月 29 日在 Sibos 會議上表示,代理式商業要擴大應用,尤其是在由 AI 代理代替消費者作出決定的情況下,買賣雙方必須先建立足夠信任。
他提出一個常見情境:消費者要求代理購買一件毛衣,但代理下單時選錯尺寸,而銀行其後批准付款。銀行完成授權,並不代表代理買到了消費者真正要求的商品。沃勒指出,現有電子商務責任框架,包括支付網路規則、消費者保障標準及相關監管規定,或可經調整後套用於代理式交易,但監管機構也可以測試新的處理方式。
風險並不只來自駭客或詐騙者對 AI 的操縱。代理可能偏離原有提示與參數,消費者、商戶及交易鏈上的其他參與者也可能出現一般操作錯誤。若代理把資金轉出帳戶,責任可能落在錯誤設定代理的使用者、容許代理越權的模型供應商,或明知交易異常仍予以放行的銀行身上。
Lead Bank提出按控制能力分配責任
總部位於密蘇里州堪薩斯城的 Lead Bank 是一家州特許銀行,同時為金融科技公司、數位資產企業及消費品牌提供銀行即服務平台。該行行政總裁杰姬・雷瑟斯表示,傳統銀行的客戶識別與驗證流程長期以「人」為設計核心,往往是為了排除機器人;但在機器數量及處理規模超越人力的環境下,這套邏輯正逐步改變。
雷瑟斯認為,交易出錯本身並不意外,真正需要建立的是控制機制、程式設計要求,以及發生偏差後的責任框架。Lead Bank 已為代理式銀行業務與支付服務設計法律框架,並提出按錯誤類型建立責任「瀑布」,把風險分配給實際具備控制能力的一方。
按照這套方案,如果 AI 代理超出消費者明確授予的權限,消費者不應承擔責任;如果銀行掌握權限分配,卻沒有執行相應限制,銀行應負責;如果問題源自模型缺陷、不安全的工具調用或防護措施不足,則由 AI 供應商負責;若商戶明知代理權限有限,仍誘導其進行越權交易,商戶可能承擔責任。
這種劃分方式試圖把責任從交易後的爭議,轉化為可以在交易前寫入系統的規則。不過,具體責任仍取決於權限如何設定、銀行是否收到異常訊號,以及各方能否證明自己控制了相關環節。
Primitive制定代理金融服務協議
由前美國合眾銀行首席數位官德里克・懷特創辦的科技初創公司 Primitive,也在制定代理式人工智慧的責任與操作標準。懷特表示,消費者已開始使用 ChatGPT 等 AI 模型尋找金融服務供應商,未來可能進一步要求代理直接在指定銀行開立帳戶。
Primitive 標準中的一項規範,是「代理式金融服務協議」(Agentic Financial Services Protocol),目標是協助企業按照共同的防護要求開發 AI 代理。懷特表示,該協議要求記錄每次代理工作階段,包括代理是否遵守治理規則、使用哪一種大型語言模型,以及產生多少令牌成本。
這些紀錄經整理後可提供予監管機構或稽核人員,用於追蹤代理作出決定的過程。對銀行而言,完整的操作紀錄也有助判斷問題究竟源自使用者指令、模型行為、工具調用,還是交易審批流程。
技術工具已到位,監管銜接仍未完成
雷瑟斯表示,現有技術已能對代理行為進行約束與追責。Lead Bank 的可程式化介面可用於監測行為偏移、記錄系統運作證明、定期更新「了解你的代理」(know-your-agent)資料、簽發交易憑證,並在必要時撤銷憑證。
她認為,較大的難點在於銀行及支付監管規則如何與代理式 AI 活動銜接。若法律與監管框架遲遲未能明確,銀行可能難以判斷哪些控制措施足以履行責任,消費者也難以在交易前了解發生錯誤時由誰賠付。
目前,卡組織、電子商務平台、支付服務商、科技公司、FIDO 聯盟及銀行都在參與相關標準建設。消費者對使用 AI 代理付款仍有疑慮,但市場規模預期正在擴大。隨著更多代理取得搜尋、開戶及支付權限,權限紀錄、交易憑證、模型稽核,以及越權後的責任分配,將成為金融機構部署這類系統時必須明確處理的實務問題。