Bank dan penyedia pembayaran di Amerika Syarikat semakin meluaskan penggunaan kecerdasan buatan beragen (agentic AI) untuk pembayaran, pembukaan akaun dan perkhidmatan kewangan. Namun, persoalan utama masih belum terjawab: siapa yang bertanggungjawab jika ejen AI membuat transaksi tersilap, dimanipulasi untuk melakukan penipuan atau bertindak melebihi kuasa yang diberikan pengguna?
Isu ini menentukan sama ada pengguna boleh mendapatkan semula wang mereka, selain mempengaruhi cara bank, rangkaian pembayaran, peniaga, syarikat teknologi dan platform fintech membahagikan risiko operasi. Bain & Company menganggarkan perbelanjaan tahunan bagi perdagangan beragen di AS boleh mencecah AS$500 bilion menjelang 2030. Apabila nilai transaksi meningkat, kejelasan tentang tanggungjawab mungkin menjadi syarat penting untuk penggunaan yang lebih meluas.
Waller bangkitkan isu pembelian yang tersilap
Gabenor Rizab Persekutuan Christopher Waller berkata pada 29 September di persidangan Sibos bahawa perdagangan beragen memerlukan kepercayaan yang kukuh antara pembeli dengan penjual, khususnya apabila ejen AI membuat keputusan bagi pihak pengguna.
Beliau mengemukakan situasi mudah: seorang pengguna meminta ejen membeli baju sejuk, tetapi ejen memilih saiz yang salah dan bank meluluskan bayaran. Kelulusan pembayaran oleh bank tidak bermakna ejen membeli barang yang sebenarnya dikehendaki pengguna. Menurut Waller, rangka kerja tanggungjawab e-dagang sedia ada—termasuk peraturan rangkaian pembayaran, perlindungan pengguna dan ketetapan berkaitan—mungkin boleh disesuaikan untuk transaksi beragen. Pengawal selia juga boleh menguji pendekatan baharu.
Risiko bukan hanya berpunca daripada penggodam atau penipu yang memanipulasi AI. Ejen juga boleh menyimpang daripada arahan dan parameter asal, sementara pengguna, peniaga atau pihak lain dalam rantaian transaksi boleh melakukan kesilapan biasa. Jika ejen memindahkan wang ke akaun yang tidak dibenarkan, tanggungjawab mungkin terletak pada pengguna yang menetapkan ejen dengan salah, penyedia model yang membenarkan tindakan melebihi kuasa, atau bank yang meluluskan transaksi walaupun terdapat tanda amaran.
Lead Bank cadang pembahagian tanggungjawab berperingkat
Lead Bank, sebuah bank berpiagam negeri yang beribu pejabat di Kansas City, Missouri, menyediakan perkhidmatan perbankan sebagai platform untuk syarikat fintech, firma aset digital dan jenama pengguna. Ketua Pegawai Eksekutifnya, Jackie Reses, berkata proses pengenalan dan pengesahan pelanggan bank tradisional sejak sekian lama direka untuk berurusan dengan manusia, malah sering bertujuan menyingkirkan bot. Logik itu berubah apabila jumlah dan skala urusan mesin mengatasi urusan manusia.
Menurut Reses, kesilapan transaksi bukan sesuatu yang mengejutkan. Keperluan sebenarnya ialah kawalan, keperluan pengaturcaraan dan rangka tanggungjawab apabila berlaku penyimpangan. Lead Bank telah merangka kerangka undang-undang untuk perbankan dan pembayaran beragen, termasuk pendekatan “berperingkat” yang menetapkan tanggungjawab berdasarkan jenis kesilapan dan pihak yang mempunyai kawalan sebenar.
Di bawah cadangan itu, pengguna tidak sepatutnya menanggung kerugian jika ejen AI melangkaui kuasa yang diberikan dengan jelas. Bank pula patut bertanggungjawab jika ia mengawal pembahagian kuasa tetapi gagal menguatkuasakan had tersebut. Jika masalah berpunca daripada kecacatan model, panggilan alat yang tidak selamat atau perlindungan yang tidak mencukupi, penyedia AI mungkin perlu menanggung tanggungjawab. Peniaga juga boleh dipertanggungjawabkan jika mengetahui kuasa ejen itu terhad tetapi tetap mendorongnya membuat transaksi yang melangkaui had.
Pendekatan ini bertujuan menetapkan peraturan dalam sistem sebelum transaksi berlaku, bukan hanya menyelesaikan pertikaian selepas kerugian timbul. Namun, pembahagian tanggungjawab sebenar masih bergantung pada cara kuasa ditetapkan, sama ada bank menerima petunjuk luar biasa dan keupayaan setiap pihak membuktikan kawalannya terhadap bahagian berkaitan.
Primitive bangunkan protokol perkhidmatan kewangan beragen
Primitive, syarikat teknologi baharu yang diasaskan oleh bekas ketua pegawai digital U.S. Bancorp, Derek White, turut membangunkan piawaian tanggungjawab dan operasi bagi AI beragen. White berkata pengguna sudah mula menggunakan model AI seperti ChatGPT untuk mencari penyedia perkhidmatan kewangan, dan mungkin kelak meminta ejen membuka akaun terus di bank pilihan mereka.
Salah satu piawaian Primitive ialah “Protokol Perkhidmatan Kewangan Beragen” (Agentic Financial Services Protocol), yang bertujuan membantu syarikat membangunkan ejen AI dengan keperluan perlindungan bersama. White berkata protokol itu mewajibkan setiap sesi ejen direkodkan, termasuk sama ada ejen mematuhi peraturan tadbir urus, model bahasa besar yang digunakan dan kos token yang terhasil.
Rekod itu boleh disusun untuk diserahkan kepada pengawal selia atau juruaudit, sekali gus membolehkan proses di sebalik keputusan ejen dijejaki. Bagi bank, catatan operasi yang lengkap juga boleh membantu mengenal pasti sama ada masalah berpunca daripada arahan pengguna, tingkah laku model, penggunaan alat atau proses kelulusan transaksi.
Teknologi tersedia, penyelarasan peraturan masih diperlukan
Reses berkata teknologi sedia ada sudah mampu mengehadkan dan mengesan tingkah laku ejen. Antara kegunaan antara muka boleh atur cara Lead Bank ialah memantau penyimpangan tingkah laku, merekodkan bukti operasi sistem, mengemas kini maklumat “kenali ejen anda” (know-your-agent) secara berkala, mengeluarkan kelayakan transaksi dan membatalkannya apabila perlu.
Menurut beliau, cabaran yang lebih besar ialah menyelaraskan peraturan bank dan pembayaran dengan penggunaan AI beragen. Jika kerangka undang-undang dan pengawalseliaan tidak diperjelas, bank mungkin sukar menentukan kawalan yang mencukupi untuk memenuhi tanggungjawabnya. Pengguna pula mungkin tidak tahu lebih awal pihak mana yang akan membayar ganti rugi jika berlaku kesilapan.
Rangkaian kad, platform e-dagang, penyedia pembayaran, syarikat teknologi, FIDO Alliance dan bank kini terlibat dalam pembangunan piawaian berkaitan. Pengguna masih mempunyai kebimbangan tentang pembayaran melalui ejen AI, sedangkan jangkaan terhadap saiz pasaran terus meningkat. Apabila lebih banyak ejen diberi akses untuk mencari perkhidmatan, membuka akaun dan membuat pembayaran, institusi kewangan perlu memperjelas rekod kebenaran, kelayakan transaksi, audit model dan pembahagian tanggungjawab apabila ejen bertindak di luar kuasa.