अमेरिकी बैंक और भुगतान कंपनियां भुगतान, खाता खोलने और अन्य वित्तीय सेवाओं में एजेंटिक एआई का इस्तेमाल बढ़ा रही हैं। लेकिन एक अहम सवाल अब भी अनसुलझा है: जब एआई एजेंट गलत लेनदेन करे, धोखाधड़ी के लिए हेरफेर किया जाए या ग्राहक की अनुमति से आगे जाकर काम करे, तो जिम्मेदारी किसकी होगी?
इसका सीधा असर इस बात पर पड़ेगा कि ग्राहक खोई हुई रकम वापस हासिल कर पाएंगे या नहीं और बैंक, भुगतान नेटवर्क, कारोबारी, प्रौद्योगिकी प्रदाता तथा फिनटेक प्लेटफॉर्म परिचालन जोखिम को किस तरह बांटेंगे। Bain का अनुमान है कि अमेरिका में एजेंटिक कॉमर्स पर सालाना खर्च 2030 तक 500 अरब डॉलर तक पहुंच सकता है। लेनदेन की संख्या बढ़ने और कंपनियों के व्यापक इस्तेमाल पर विचार करने के साथ स्पष्ट जवाबदेही नियम जरूरी हो सकते हैं।
क्रिस्टोफर वॉलर ने गलत खरीद पर जिम्मेदारी का मुद्दा उठाया
फेडरल रिजर्व के गवर्नर क्रिस्टोफर वॉलर ने 29 सितंबर को Sibos सम्मेलन में इस मुद्दे पर बात की। उनके अनुसार एजेंटिक कॉमर्स को बड़े पैमाने पर अपनाने के लिए, खासकर तब जब एआई ग्राहक की ओर से फैसले लेता है, खरीदार और विक्रेता दोनों का भरोसा जरूरी होगा।
वॉलर ने एक सरल उदाहरण दिया। कोई ग्राहक एआई एजेंट से स्वेटर खरीदने को कहता है, लेकिन एजेंट गलत आकार का स्वेटर मंगा देता है और बैंक भुगतान को मंजूरी दे देता है। भुगतान की अनुमति मिल जाना इस बात का प्रमाण नहीं है कि एजेंट ने वही वस्तु खरीदी जिसे ग्राहक खरीदना चाहता था। उन्होंने कहा कि भुगतान नेटवर्क के नियमों, उपभोक्ता सुरक्षा प्रावधानों और संबंधित विनियमों सहित मौजूदा ई-कॉमर्स ढांचे को एजेंट के जरिए होने वाले लेनदेन पर लागू करने के लिए बदला जा सकता है। नियामक नए तरीकों का परीक्षण भी कर सकते हैं।
जोखिम केवल हैकरों या धोखाधड़ी करने वालों द्वारा एआई प्रणाली से छेड़छाड़ तक सीमित नहीं हैं। कोई एजेंट अपने प्रॉम्प्ट या सेटिंग से हटकर काम कर सकता है और लेनदेन श्रृंखला में ग्राहक, कारोबारी या अन्य पक्षों की सामान्य गलतियां भी समस्या पैदा कर सकती हैं। यदि कोई एजेंट किसी खाते से तय सीमा से बाहर रकम भेज देता है, तो जिम्मेदारी उस ग्राहक पर आ सकती है जिसने उसे गलत तरीके से कॉन्फिगर किया हो, उस मॉडल प्रदाता पर जिसने एजेंट को अपने अधिकार से आगे जाने दिया हो, या उस बैंक पर जिसने चेतावनी संकेतों के बावजूद लेनदेन मंजूर किया हो।
Lead Bank ने जिम्मेदारी बांटने का ढांचा सुझाया
कंसास सिटी स्थित Lead Bank एक राज्य-चार्टर्ड बैंक है, जो फिनटेक कंपनियों, डिजिटल-एसेट कारोबारों और उपभोक्ता ब्रांडों को बैंकिंग-एज-अ-सर्विस ढांचा देता है। बैंक एजेंट के जरिए होने वाली बैंकिंग और भुगतान गतिविधियों के लिए एक जवाबदेही ढांचा तैयार कर रहा है।
Lead Bank की CEO Jackie Reses ने कहा कि पारंपरिक पहचान और सत्यापन प्रणालियां लोगों को ध्यान में रखकर बनाई गई थीं और अक्सर बॉट्स को बाहर रखने के लिए तैयार की जाती थीं। मशीनों की संख्या लोगों से अधिक होने और उनके कहीं बड़े पैमाने पर काम करने के साथ यह तरीका बदल रहा है। उनके अनुसार लेनदेन संबंधी गलतियां होना तय है; प्राथमिकता ऐसे नियंत्रण, प्रोग्रामिंग आवश्यकताएं और जिम्मेदारी तय करने का ढांचा बनाना है, जिनका इस्तेमाल एजेंट के रास्ते से भटकने पर किया जा सके।
Lead Bank के प्रस्तावित जवाबदेही “वॉटरफॉल” में विफलता के प्रकार और संबंधित पक्ष के नियंत्रण के आधार पर जिम्मेदारी बांटने की बात है। यदि कोई एजेंट ग्राहक द्वारा स्पष्ट रूप से दी गई अनुमति से आगे चला जाता है, तो ग्राहक को जिम्मेदार नहीं ठहराया जाना चाहिए। यदि अनुमतियों का आवंटन बैंक के नियंत्रण में था, लेकिन उसने तय सीमाएं लागू नहीं कीं, तो जिम्मेदारी बैंक की होनी चाहिए।
एआई प्रदाताओं को मॉडल की खामियों, असुरक्षित टूल कॉल या अपर्याप्त सुरक्षा उपायों जैसी समस्याओं के लिए जवाबदेह माना जा सकता है। यदि कोई कारोबारी जानबूझकर सीमित अनुमति वाले एजेंट को उन सीमाओं से आगे जाने के लिए प्रोत्साहित करता है, तो उस पर भी जिम्मेदारी आ सकती है।
इस तरीके का उद्देश्य विवाद होने के बाद हर मामले का निपटारा करने के बजाय पहले से ही प्रणालियों में जिम्मेदारी तय करना है। हालांकि व्यावहारिक परिणाम इस बात पर निर्भर करेगा कि अनुमतियां कैसे निर्धारित की गई थीं, बैंक को असामान्य गतिविधि के कौन से संकेत मिले थे और प्रत्येक पक्ष यह दिखा सकता है या नहीं कि प्रक्रिया के संबंधित हिस्से पर उसका नियंत्रण था।
Primitive एजेंट आधारित वित्त के लिए प्रोटोकॉल बना रही है
पूर्व US Bancorp मुख्य डिजिटल अधिकारी Derek White द्वारा स्थापित प्रौद्योगिकी स्टार्टअप Primitive भी एजेंटिक एआई के लिए परिचालन और जवाबदेही मानक तैयार कर रही है। White ने कहा कि ग्राहक पहले से ChatGPT जैसे मॉडलों का इस्तेमाल वित्तीय सेवा प्रदाताओं को खोजने के लिए कर रहे हैं और आगे चलकर वे एजेंट से निर्दिष्ट बैंकों में खाते खोलने के लिए कह सकते हैं।
प्रस्तावित मानकों में से एक Agentic Financial Services Protocol है। इसका उद्देश्य कंपनियों को साझा सुरक्षा आवश्यकताओं के अनुरूप एआई एजेंट बनाने में मदद करना है। White के अनुसार इसमें हर एजेंट सत्र का रिकॉर्ड रखने का प्रावधान है। इसमें यह जानकारी शामिल होगी कि एजेंट ने प्रशासनिक नियमों का पालन किया या नहीं, उसने किस बड़े भाषा मॉडल का इस्तेमाल किया और उस सत्र में कितने टोकन खर्च हुए।
इन रिकॉर्ड को नियामकों या ऑडिटरों के लिए संकलित किया जा सकता है। इससे यह पता लगाने में मदद मिलेगी कि एजेंट किसी निर्णय तक कैसे पहुंचा। बैंकों के लिए विस्तृत ऑडिट ट्रेल यह तय करने में भी उपयोगी हो सकता है कि समस्या ग्राहक के निर्देशों, मॉडल के व्यवहार, किसी टूल कॉल या लेनदेन मंजूरी प्रक्रिया से पैदा हुई थी।
नियंत्रण उपलब्ध हैं, लेकिन नियामकीय तालमेल बाकी है
Reses ने कहा कि मौजूदा तकनीक एजेंट के व्यवहार को सीमित करने और जवाबदेही बनाए रखने में मदद कर सकती है। Lead Bank के प्रोग्रामेबल इंटरफेस एजेंट के तय व्यवहार से विचलन की निगरानी कर सकते हैं, सिस्टम के सत्यापन रिकॉर्ड रख सकते हैं, “अपने एजेंट को जानें” संबंधी जानकारी समय-समय पर अपडेट कर सकते हैं, लेनदेन क्रेडेंशियल जारी कर सकते हैं और जरूरत पड़ने पर उन्हें रद्द कर सकते हैं।
उनके अनुसार बड़ी चुनौती बैंकिंग और भुगतान नियमों को एजेंटिक एआई की गतिविधियों के अनुरूप बनाना है। स्पष्ट कानूनी और नियामकीय अपेक्षाओं के अभाव में बैंकों के लिए यह तय करना कठिन हो सकता है कि कौन से नियंत्रण उनकी जिम्मेदारियों को पूरा करते हैं। ग्राहकों को भी पहले से यह पता नहीं हो सकता कि लेनदेन गलत होने पर उन्हें रकम कौन लौटाएगा।
कार्ड नेटवर्क, ई-कॉमर्स प्लेटफॉर्म, भुगतान प्रदाता, प्रौद्योगिकी कंपनियां, FIDO Alliance और बैंक मानक विकसित करने की प्रक्रिया में शामिल हैं। एआई एजेंट से भुगतान कराने को लेकर उपभोक्ताओं की चिंताएं बनी हुई हैं, भले ही बाजार के अनुमान इसके संभावित विस्तार की ओर संकेत करते हों।
जैसे-जैसे अधिक एजेंट खोज करने, खाते खोलने और भुगतान करने में सक्षम होंगे, वित्तीय संस्थानों को यह स्पष्ट करना होगा कि अनुमतियां कैसे दर्ज होंगी, लेनदेन क्रेडेंशियल का प्रबंधन कैसे होगा, मॉडलों का ऑडिट किस तरह किया जाएगा और एजेंट के अपने अधिकार से आगे जाने पर जिम्मेदारी किसकी होगी।