ธนาคารและผู้ให้บริการชำระเงินในสหรัฐฯ กำลังเพิ่มการใช้ AI agent ในการชำระเงิน เปิดบัญชี และให้บริการทางการเงิน แต่ยังไม่มีข้อสรุปชัดเจนว่าใครต้องรับผิด หากระบบทำรายการผิด ถูกชักนำให้ก่อการฉ้อโกง หรือทำธุรกรรมเกินอำนาจที่ผู้ใช้กำหนด
ประเด็นนี้กระทบทั้งโอกาสที่ผู้บริโภคจะได้เงินคืน และการแบ่งความเสี่ยงด้านปฏิบัติการระหว่างธนาคาร เครือข่ายชำระเงิน ร้านค้า บริษัทเทคโนโลยี และแพลตฟอร์มฟินเทค Bain ประเมินว่าการใช้จ่ายผ่าน agentic commerce ในสหรัฐฯ อาจสูงถึง 500,000 ล้านดอลลาร์ต่อปีภายในปี 2030 เมื่อธุรกรรมมีมูลค่าและปริมาณเพิ่มขึ้น ความชัดเจนเรื่องความรับผิดจึงอาจเป็นเงื่อนไขสำคัญต่อการขยายบริการในวงกว้าง
ผู้ว่าการเฟดชี้กรณี AI เลือกซื้อสินค้าผิด
คริสโตเฟอร์ วอลเลอร์ ผู้ว่าการธนาคารกลางสหรัฐฯ (เฟด) กล่าวในการประชุม Sibos เมื่อวันที่ 29 กันยายนว่า การนำ agentic commerce มาใช้ในวงกว้าง โดยเฉพาะกรณีที่ AI ตัดสินใจแทนผู้บริโภค จำเป็นต้องมีความไว้วางใจเพียงพอระหว่างผู้ซื้อกับผู้ขาย
วอลเลอร์ยกตัวอย่างผู้บริโภคมอบหมายให้ AI ซื้อเสื้อกันหนาว แต่ระบบเลือกขนาดผิด ขณะที่ธนาคารอนุมัติการชำระเงิน การอนุมัติรายการของธนาคารไม่ได้ยืนยันว่า AI ซื้อสินค้าตรงตามที่ลูกค้าต้องการ เขามองว่ากรอบความรับผิดด้านอีคอมเมิร์ซที่ใช้อยู่ ทั้งกฎของเครือข่ายชำระเงิน มาตรฐานคุ้มครองผู้บริโภค และข้อกำกับที่เกี่ยวข้อง อาจปรับใช้กับธุรกรรมที่ AI เป็นผู้ดำเนินการได้ หรือหน่วยงานกำกับอาจทดลองแนวทางใหม่
ความเสี่ยงไม่ได้มีเพียงกรณีแฮกเกอร์หรือมิจฉาชีพเข้าควบคุม AI ตัวแทนอาจเบี่ยงเบนจากคำสั่งและขอบเขตที่ตั้งไว้ หรือเกิดความผิดพลาดทั่วไปจากผู้บริโภค ร้านค้า และผู้ร่วมดำเนินธุรกรรมรายอื่น หาก AI โอนเงินออกนอกบัญชี ความรับผิดอาจอยู่ที่ผู้ใช้ซึ่งตั้งค่าระบบผิด ผู้ให้บริการโมเดลที่เปิดช่องให้ AI ทำเกินอำนาจ หรือธนาคารที่อนุมัติรายการทั้งที่พบสัญญาณผิดปกติ
Lead Bank เสนอแบ่งความรับผิดตามผู้ควบคุมความเสี่ยง
Lead Bank ซึ่งมีสำนักงานใหญ่ในเมืองแคนซัสซิตี รัฐมิสซูรี เป็นธนาคารที่ได้รับใบอนุญาตจากรัฐ และให้บริการธนาคารในรูปแบบ Banking-as-a-Service แก่บริษัทฟินเทค ธุรกิจสินทรัพย์ดิจิทัล และแบรนด์สินค้าอุปโภคบริโภค แจ็กกี เรเธอร์ส ประธานเจ้าหน้าที่บริหารของธนาคารกล่าวว่า กระบวนการยืนยันตัวตนและตรวจสอบลูกค้าของธนาคารแบบดั้งเดิมออกแบบมาเพื่อรับมือกับมนุษย์ โดยมักมีเป้าหมายในการคัดกรองบอต แต่แนวคิดนี้กำลังเปลี่ยนไป เมื่อระบบอัตโนมัติมีจำนวนและรองรับธุรกรรมได้มากกว่าคน
เรเธอร์สมองว่าความผิดพลาดของธุรกรรมเป็นสิ่งที่เกิดขึ้นได้ สิ่งที่ต้องมีคือกลไกควบคุม ข้อกำหนดการเขียนโปรแกรม และกรอบแบ่งความรับผิดเมื่อระบบเบี่ยงเบน Lead Bank จึงออกแบบกรอบกฎหมายสำหรับบริการธนาคารและการชำระเงินผ่าน AI agent พร้อมเสนอแนวทางแบ่งความรับผิดเป็นลำดับตามประเภทของความผิดพลาด โดยให้ผู้ที่ควบคุมส่วนที่เกี่ยวข้องเป็นผู้รับความเสี่ยง
ภายใต้แนวทางนี้ ผู้บริโภคไม่ควรต้องรับผิด หาก AI ทำธุรกรรมเกินอำนาจที่ได้รับอย่างชัดเจน ธนาคารควรรับผิดหากเป็นผู้กำหนดสิทธิ์แต่ไม่บังคับใช้ข้อจำกัด ส่วนผู้ให้บริการ AI ควรรับผิดเมื่อปัญหาเกิดจากข้อบกพร่องของโมเดล การเรียกใช้เครื่องมือที่ไม่ปลอดภัย หรือมาตรการป้องกันที่ไม่เพียงพอ ขณะที่ร้านค้าอาจต้องรับผิด หากรู้ว่า AI มีอำนาจจำกัดแต่จูงใจให้ทำรายการเกินขอบเขต
การกำหนดความรับผิดเช่นนี้มีเป้าหมายให้เงื่อนไขถูกวางไว้ในระบบตั้งแต่ก่อนเกิดธุรกรรม แทนที่จะถกเถียงกันหลังเกิดปัญหา อย่างไรก็ตาม การพิจารณายังขึ้นอยู่กับวิธีตั้งค่าสิทธิ์ ธนาคารได้รับสัญญาณเตือนหรือไม่ และแต่ละฝ่ายพิสูจน์ได้เพียงใดว่าตนควบคุมขั้นตอนที่เกี่ยวข้อง
Primitive จัดทำมาตรฐานบันทึกการทำงานของ AI
Primitive บริษัทเทคโนโลยีสตาร์ตอัปที่ก่อตั้งโดยเดเร็ก ไวต์ อดีตประธานเจ้าหน้าที่ฝ่ายดิจิทัลของ U.S. Bancorp กำลังพัฒนามาตรฐานด้านความรับผิดและการปฏิบัติงานสำหรับ agentic AI เช่นกัน ไวต์กล่าวว่า ปัจจุบันผู้บริโภคเริ่มใช้โมเดล AI อย่าง ChatGPT เพื่อค้นหาผู้ให้บริการทางการเงิน และในอนาคตอาจต้องการให้ AI เปิดบัญชีโดยตรงกับธนาคารที่ระบุ
หนึ่งในข้อกำหนดของมาตรฐาน Primitive คือ “Agentic Financial Services Protocol” ซึ่งมีเป้าหมายช่วยให้บริษัทพัฒนา AI agent ภายใต้มาตรการป้องกันร่วมกัน ไวต์ระบุว่าโปรโตคอลกำหนดให้บันทึกการทำงานของ AI ในแต่ละเซสชัน รวมถึงตรวจสอบว่า AI ปฏิบัติตามหลักกำกับดูแลหรือไม่ ใช้โมเดลภาษาขนาดใหญ่รุ่นใด และมีค่าใช้จ่ายด้านโทเคนเท่าใด
ข้อมูลดังกล่าวสามารถรวบรวมและส่งให้หน่วยงานกำกับหรือผู้ตรวจสอบ เพื่อให้ย้อนดูขั้นตอนการตัดสินใจของ AI ได้ สำหรับธนาคาร บันทึกที่ครบถ้วนยังช่วยแยกสาเหตุของปัญหาได้ว่าเกิดจากคำสั่งผู้ใช้ พฤติกรรมของโมเดล การเรียกใช้เครื่องมือ หรือกระบวนการอนุมัติธุรกรรม
เทคโนโลยีพร้อมใช้ แต่กฎกำกับยังต้องปรับให้สอดคล้อง
เรเธอร์สกล่าวว่าเทคโนโลยีในปัจจุบันสามารถจำกัดและตรวจสอบพฤติกรรมของ AI agent ได้แล้ว อินเทอร์เฟซแบบตั้งโปรแกรมได้ของ Lead Bank รองรับการติดตามพฤติกรรมที่เบี่ยงเบน การบันทึกหลักฐานการทำงานของระบบ การอัปเดตข้อมูล “รู้จัก AI agent” (know-your-agent) เป็นระยะ การออกข้อมูลรับรองธุรกรรม และการเพิกถอนข้อมูลรับรองเมื่อจำเป็น
เธอมองว่าโจทย์ที่ยากกว่าอยู่ที่การเชื่อมโยงกฎกำกับธนาคารและระบบชำระเงินเข้ากับการทำงานของ agentic AI หากกฎหมายและข้อกำกับยังไม่ชัด ธนาคารอาจประเมินได้ยากว่ามาตรการใดเพียงพอต่อหน้าที่รับผิดชอบ ขณะที่ผู้บริโภคก็อาจไม่ทราบล่วงหน้าว่าใครจะชดใช้เมื่อเกิดข้อผิดพลาด
ขณะนี้เครือข่ายบัตร แพลตฟอร์มอีคอมเมิร์ซ ผู้ให้บริการชำระเงิน บริษัทเทคโนโลยี FIDO Alliance และธนาคาร ต่างมีส่วนร่วมในการพัฒนามาตรฐาน ผู้บริโภคยังมีข้อกังวลเกี่ยวกับการให้ AI จ่ายเงินแทน แต่การประเมินตลาดชี้ว่าการใช้งานมีแนวโน้มขยายตัว เมื่อ AI agent ได้รับสิทธิ์ค้นหาข้อมูล เปิดบัญชี และชำระเงินมากขึ้น การบันทึกสิทธิ์ ข้อมูลรับรองธุรกรรม การตรวจสอบโมเดล และการกำหนดผู้รับผิดเมื่อทำเกินอำนาจ จึงเป็นประเด็นที่สถาบันการเงินต้องจัดการให้ชัดเจน