Các ngân hàng và tổ chức thanh toán Mỹ đang mở rộng việc sử dụng trí tuệ nhân tạo tác vụ (agentic AI) trong thanh toán, mở tài khoản và dịch vụ tài chính. Tuy nhiên, một câu hỏi then chốt vẫn chưa có lời giải: nếu một tác vụ AI thực hiện sai giao dịch, bị thao túng để lừa đảo hoặc vượt quá phạm vi khách hàng cho phép, bên nào sẽ chịu trách nhiệm?
Vấn đề này không chỉ quyết định người tiêu dùng có thể thu hồi tiền hay không, mà còn ảnh hưởng đến cách ngân hàng, mạng lưới thanh toán, thương nhân, công ty công nghệ và nền tảng fintech phân bổ rủi ro vận hành. Bain dự báo chi tiêu hằng năm cho thương mại dựa trên tác vụ tại Mỹ có thể đạt 500 tỷ USD vào năm 2030. Khi quy mô giao dịch tăng, quy tắc trách nhiệm rõ ràng có thể trở thành điều kiện quan trọng để mô hình này được triển khai trên diện rộng.
Quan chức Fed nêu tình huống mua nhầm hàng
Thống đốc Cục Dự trữ Liên bang Mỹ (Fed) Christopher Waller phát biểu tại hội nghị Sibos ngày 29/9 rằng để thương mại dựa trên tác vụ, đặc biệt là mô hình AI thay mặt người tiêu dùng ra quyết định, được mở rộng, bên mua và bên bán trước hết phải xây dựng đủ mức độ tin cậy.
Ông đưa ra một tình huống phổ biến: người tiêu dùng yêu cầu tác vụ AI mua một chiếc áo len, nhưng tác vụ lại chọn sai kích cỡ trong khi ngân hàng vẫn phê duyệt khoản thanh toán. Việc ngân hàng hoàn tất cấp phép không đồng nghĩa tác vụ đã mua đúng sản phẩm mà khách hàng yêu cầu. Theo Waller, các khung trách nhiệm hiện hành trong thương mại điện tử, bao gồm quy tắc của mạng lưới thanh toán, tiêu chuẩn bảo vệ người tiêu dùng và các quy định liên quan, có thể được điều chỉnh để áp dụng cho giao dịch do tác vụ thực hiện. Cơ quan quản lý cũng có thể thử nghiệm những cách xử lý mới.
Rủi ro không chỉ đến từ hacker hoặc kẻ lừa đảo thao túng AI. Tác vụ cũng có thể đi chệch khỏi chỉ dẫn và tham số ban đầu, hoặc xảy ra sai sót vận hành thông thường từ người tiêu dùng, thương nhân hay các bên khác trong chuỗi giao dịch. Nếu tác vụ chuyển tiền ra ngoài tài khoản, trách nhiệm có thể thuộc về người cấu hình sai tác vụ, nhà cung cấp mô hình cho phép tác vụ vượt quyền, hoặc ngân hàng vẫn phê duyệt dù đã nhận được tín hiệu bất thường.
Lead Bank đề xuất phân bổ trách nhiệm theo “thác đổ”
Lead Bank, ngân hàng được cấp phép cấp bang có trụ sở tại Kansas City, bang Missouri, cung cấp nền tảng ngân hàng như một dịch vụ cho các công ty fintech, doanh nghiệp tài sản số và thương hiệu tiêu dùng. CEO Jackie Reeser cho rằng quy trình nhận diện và xác minh khách hàng của ngân hàng truyền thống từ lâu được thiết kế xoay quanh con người, với mục tiêu thường là loại bỏ bot. Tuy nhiên, logic này đang thay đổi trong môi trường số lượng máy và quy mô xử lý vượt xa con người.
Theo Reeser, việc giao dịch phát sinh lỗi không phải điều bất ngờ. Điều cần thiết là xây dựng cơ chế kiểm soát, yêu cầu lập trình và khung trách nhiệm sau khi xảy ra sai lệch. Lead Bank đã thiết kế một khung pháp lý cho hoạt động ngân hàng và thanh toán dựa trên tác vụ, đồng thời đề xuất mô hình “thác đổ” trách nhiệm theo từng loại lỗi, phân bổ rủi ro cho bên thực sự có khả năng kiểm soát khâu liên quan.
Theo đề xuất này, nếu tác vụ AI vượt quá quyền hạn mà người tiêu dùng đã cấp rõ ràng, người tiêu dùng không nên chịu trách nhiệm. Nếu ngân hàng kiểm soát việc phân bổ quyền nhưng không thực thi các giới hạn tương ứng, ngân hàng phải chịu trách nhiệm. Nếu vấn đề xuất phát từ lỗi mô hình, công cụ gọi không an toàn hoặc biện pháp bảo vệ không đầy đủ, nhà cung cấp AI sẽ là bên chịu trách nhiệm. Trong trường hợp thương nhân biết quyền hạn của tác vụ bị giới hạn nhưng vẫn dụ tác vụ thực hiện giao dịch vượt quyền, thương nhân có thể phải chịu trách nhiệm.
Cách phân loại này nhằm chuyển trách nhiệm từ tranh chấp sau giao dịch thành các quy tắc có thể được cài đặt vào hệ thống trước khi giao dịch diễn ra. Dù vậy, trách nhiệm cụ thể vẫn phụ thuộc vào cách thiết lập quyền hạn, việc ngân hàng có nhận được tín hiệu bất thường hay không và khả năng mỗi bên chứng minh quyền kiểm soát đối với khâu liên quan.
Primitive xây dựng giao thức cho dịch vụ tài chính do AI thực hiện
Primitive, công ty công nghệ khởi nghiệp do cựu Giám đốc kỹ thuật số của U.S. Bancorp Derek White sáng lập, cũng đang xây dựng các tiêu chuẩn về trách nhiệm và vận hành đối với AI tác vụ. White cho biết người tiêu dùng đã bắt đầu sử dụng các mô hình AI như ChatGPT để tìm kiếm nhà cung cấp dịch vụ tài chính. Trong tương lai, họ có thể yêu cầu tác vụ mở tài khoản trực tiếp tại một ngân hàng được chỉ định.
Một tiêu chuẩn do Primitive phát triển là “Giao thức dịch vụ tài chính tác vụ” (Agentic Financial Services Protocol), nhằm giúp doanh nghiệp xây dựng tác vụ AI theo các yêu cầu bảo vệ chung. White cho biết giao thức này yêu cầu ghi lại từng phiên làm việc của tác vụ, bao gồm việc tác vụ có tuân thủ các quy tắc quản trị hay không, đã gọi mô hình ngôn ngữ lớn nào và phát sinh bao nhiêu chi phí token.
Các bản ghi có thể được tổng hợp để cung cấp cho cơ quan quản lý hoặc kiểm toán viên, qua đó truy vết quá trình tác vụ đưa ra quyết định. Với ngân hàng, hồ sơ vận hành đầy đủ cũng giúp xác định vấn đề bắt nguồn từ chỉ dẫn của người dùng, hành vi của mô hình, việc gọi công cụ hay quy trình phê duyệt giao dịch.
Công nghệ đã sẵn sàng, quy định vẫn chưa theo kịp
Reeser cho rằng công nghệ hiện nay đã có thể kiểm soát và truy cứu hành vi của tác vụ. Giao diện lập trình của Lead Bank có thể được sử dụng để theo dõi tình trạng lệch khỏi hành vi dự kiến, ghi lại bằng chứng vận hành của hệ thống, cập nhật định kỳ thông tin “biết tác vụ của bạn” (know-your-agent), cấp chứng từ giao dịch và thu hồi chứng từ khi cần thiết.
Theo bà, khó khăn lớn hơn nằm ở việc kết nối các quy tắc quản lý ngân hàng và thanh toán hiện hành với hoạt động của AI tác vụ. Nếu khung pháp lý và quy định chưa được làm rõ, ngân hàng có thể khó xác định biện pháp kiểm soát nào là đủ để hoàn thành trách nhiệm. Người tiêu dùng cũng khó biết trước bên nào sẽ bồi hoàn khi xảy ra sai sót.
Các tổ chức thẻ, nền tảng thương mại điện tử, nhà cung cấp dịch vụ thanh toán, công ty công nghệ, Liên minh FIDO và ngân hàng hiện đều tham gia xây dựng các tiêu chuẩn liên quan. Người tiêu dùng vẫn có những băn khoăn khi dùng tác vụ AI để thanh toán, trong khi quy mô thị trường được dự báo tiếp tục tăng. Khi ngày càng nhiều tác vụ được cấp quyền tìm kiếm, mở tài khoản và thanh toán, việc ghi nhận quyền hạn, cấp chứng từ giao dịch, kiểm toán mô hình và phân định trách nhiệm sau hành vi vượt quyền sẽ là những vấn đề thực tế mà các tổ chức tài chính phải xử lý.