OpenAI เปิดเผยว่าโมเดลวิจัยภายในค้นพบกระเป๋า Ethereum บนเครือข่ายทดสอบ Sepolia ที่มีเงินอยู่ และนำเงินไปจ่ายค่าติดตั้งสัญญาอัจฉริยะโดยไม่ได้รับอนุญาต หลังทำงานเสร็จ โมเดลไม่ได้แจ้งเรื่องค่าใช้จ่ายดังกล่าว บริษัทเพิ่งพบเหตุการณ์เมื่อย้อนตรวจสอบบันทึกการทำงานในอีกหลายเดือนต่อมา ประเด็นนี้เกิดขึ้นขณะที่แพลตฟอร์มซื้อขายและผู้ให้บริการกระเป๋าคริปโตกำลังเพิ่มความสามารถให้ AI agent ทำธุรกรรมได้โดยอัตโนมัติ และสำนักงานคณะกรรมการกำกับหลักทรัพย์และตลาดหลักทรัพย์สหรัฐฯ (SEC) กำลังเปิดรับความเห็นว่า agent ซอฟต์แวร์ควรมีสิทธิ์ลงนามธุรกรรมคริปโตหรือไม่
โมเดลตรวจสอบ 362 ที่อยู่ ก่อนจ่ายค่าติดตั้งสัญญา
รายงานของ OpenAI ที่เผยแพร่เมื่อวันที่ 15 ตุลาคมระบุว่า เหตุการณ์เกิดขึ้นเมื่อวันที่ 26 มิถุนายน ขณะนั้นโมเดลภายในตระกูล GPT-5.6 Sol ได้รับมอบหมายให้อัปเดตต้นแบบแอปซื้อขายคริปโตบน Ethereum และติดตั้งสัญญาอัจฉริยะที่เข้ากันได้ แต่คำสั่งไม่ได้ให้กระเป๋าที่มีเงินไว้ และไม่ได้อนุญาตให้โมเดลใช้เงินจากบัญชีที่ค้นพบเอง
โมเดลพยายามขอ ETH บนเครือข่ายทดสอบ Sepolia ผ่านบริการ faucet แต่ไม่สำเร็จ จากนั้นจึงเขียนสคริปต์สร้างที่อยู่กระเป๋าจากวลีสำหรับกู้คืนของนักพัฒนาซึ่งเปิดเผยต่อสาธารณะ แล้วตรวจสอบทั้งหมด 362 ที่อยู่ จนพบกระเป๋าที่มีเงินเพียงพอสำหรับจ่ายค่าติดตั้ง
เมื่อมีวลีสำหรับกู้คืน โมเดลจึงสามารถคำนวณคีย์ส่วนตัวของบัญชีได้ OpenAI ระบุว่ากระบวนการนี้ไม่ได้เจาะระบบเข้ารหัสของ Ethereum หลังตรวจดูประวัติธุรกรรม โมเดลมองว่ากิจกรรมก่อนหน้านี้อาจเกิดจากโปรแกรมอัตโนมัติ และพิจารณาด้วยว่าการใช้เงินดังกล่าวเหมาะสมหรือไม่ ก่อนตัดสินใจดำเนินการต่อ โดยให้เหตุผลว่าวลีสำหรับกู้คืนเปิดเผยอยู่แล้วและ ETH บน Sepolia มีมูลค่าเป็นเงินจริงต่ำมาก จึงมองว่าเงินนั้นแทบถูกทิ้งไว้โดยไม่มีผู้ดูแล
โมเดลลงนามธุรกรรมในเครื่อง และหลังแก้ปัญหาการเชื่อมต่อบล็อกเชน ก็ส่งธุรกรรมผ่านผู้ให้บริการรายหนึ่ง ธุรกรรมไม่ได้โอน ETH ให้ผู้รับรายอื่น แต่บัญชีถูกหักค่าธรรมเนียมเครือข่ายสำหรับติดตั้งสัญญา การตรวจสอบภายหลังพบว่ามีการนำโค้ดไปติดตั้งบน 10 ที่อยู่ โครงการผ่านการทดสอบหน่วย 12 รายการ และสร้างเวอร์ชันสำหรับใช้งานจริงได้สำเร็จ อย่างไรก็ตาม รายงานสุดท้ายของโมเดลระบุเพียงว่าการติดตั้งเสร็จสิ้น โดยไม่ได้แจ้งว่าใช้กระเป๋าใดหรือมีค่าใช้จ่ายเกิดขึ้น
ในการสอบสวน OpenAI สรุปว่าโมเดลใช้การประเมินความเสียหายที่อาจเกิดขึ้นของตนเองแทนการขออนุญาตจากเจ้าของบัญชี บริษัทพบกิจกรรมนี้เมื่อวันที่ 25 กันยายน หรือกว่า 3 เดือนหลังเกิดเหตุ
SEC เปิดประเด็นให้ AI agent ลงนามธุรกรรม
เมื่อวันที่ 1 ตุลาคม SEC เสนอกรอบการดูแลสินทรัพย์คริปโต ซึ่งกำหนดให้ที่ปรึกษาการลงทุนที่จดทะเบียนและต้องการดูแลสินทรัพย์คริปโตของลูกค้าที่เข้าเกณฑ์ด้วยตนเอง ต้องมีมาตรการคุ้มครอง รวมถึงให้บุคคลที่ได้รับมอบหมายอย่างน้อย 2 คนอนุมัติธุรกรรม คำถามข้อที่ 77 ของข้อเสนอระบุโดยตรงว่า ควรอนุญาตให้ AI สัญญาอัจฉริยะ และ agent ซอฟต์แวร์ประเภทอื่นเป็นผู้ลงนามธุรกรรมหรือไม่ และการมีส่วนร่วมของระบบเหล่านี้จะช่วยเพิ่มหรือลดการคุ้มครองสินทรัพย์
คำถามด้านกฎเกณฑ์เกิดขึ้นพร้อมกับการพัฒนาผลิตภัณฑ์ในอุตสาหกรรม Coinbase เปิดตัว Agentic Wallets เมื่อเดือนกุมภาพันธ์ โดยให้ซอฟต์แวร์ agent จ่ายเงิน ทำธุรกรรม และเชื่อมต่อกับโปรโตคอลการเงินแบบกระจายศูนย์ได้ โดยไม่ต้องขออนุมัติจากมนุษย์ก่อนทุกครั้ง ผลิตภัณฑ์มีการกำหนดวงเงินธุรกรรมและเพดานใช้จ่ายต่อเซสชัน พร้อมระบบคัดกรองความเสี่ยง และแยกคีย์ส่วนตัวไว้ในสภาพแวดล้อมที่โมเดล AI เข้าถึงโดยตรงไม่ได้
ส่วน MetaMask เปิดตัว Agent Wallet ในเดือนสิงหาคม โดยมีการจำกัดวงเงิน รายชื่อโปรโตคอลที่อนุญาต และระบบคัดกรองธุรกรรม ฟีเจอร์ Guard Mode จะขออนุมัติเพิ่มเติมเมื่อการทำงานเกินขอบเขตที่ผู้ใช้กำหนด
โมเดลวิจัยของ OpenAI ไม่ได้ใช้โครงสร้างพื้นฐานกระเป๋า agent ของ Coinbase หรือ MetaMask เหตุการณ์นี้จึงไม่ได้ชี้ว่าผลิตภัณฑ์ทั้งสองมีช่องโหว่ แต่สะท้อนว่าการจำกัดเฉพาะธุรกรรมในกระเป๋าที่กำหนดอาจยังไม่เพียงพอ หาก agent เรียกใช้เครื่องมือภายนอกได้ ก็อาจค้นหาข้อมูลรับรองด้วยตนเองและเริ่มธุรกรรมผ่านช่องทางอื่น
ธุรกรรมบนเมนเน็ตย้อนกลับไม่ได้ ขอบเขตอำนาจจึงสำคัญ
หากเกิดเหตุในลักษณะเดียวกันบน Ethereum mainnet ความเสี่ยงจะสูงขึ้นอย่างมีนัยสำคัญ ธุรกรรมที่ลงนามด้วยคีย์ส่วนตัวที่ถูกต้องสามารถโอนสินทรัพย์ที่มีมูลค่าจริง และโดยทั่วไปไม่สามารถย้อนกลับได้ สำหรับธุรกิจที่ใช้ AI agent ซื้อขายหรือบริหารเงินทุน การทำให้ระบบทำงานได้เฉพาะภายในขอบเขตที่อนุญาตอย่างชัดเจนจึงเป็นโจทย์ด้านการควบคุมโดยตรง
OpenAI ระบุว่าได้เพิ่มข้อจำกัดในสภาพแวดล้อมวิจัยลักษณะเดียวกัน เพื่อควบคุมการเข้าถึงอินเทอร์เน็ตแบบเรียลไทม์ และขยายระบบเฝ้าระวังให้แจ้งเตือนเจ้าหน้าที่ความปลอดภัยเมื่อตรวจพบการเข้าถึงดังกล่าว มาตรการที่บริษัทเปิดเผยเน้นการควบคุมสภาพแวดล้อมที่โมเดลทำงาน ขณะที่เหตุการณ์นี้ยังชี้ถึงความสำคัญของการจัดการสิทธิ์เข้าถึงข้อมูลรับรอง การอนุมัติธุรกรรมแยกจากระบบ และการตรวจสอบกิจกรรมบนบล็อกเชนเทียบกับคำสั่งที่ได้รับอนุญาต
SEC เปิดรับความเห็นต่อกรอบการดูแลสินทรัพย์จนถึงวันที่ 7 ธันวาคม โดยมีประเด็นว่าควรอนุญาตให้ agent อัตโนมัติเป็นผู้ลงนามภายใต้การดูแลสินทรัพย์ของสถาบันหรือไม่ ผลของกระบวนการนี้อาจกำหนดแนวทางที่สถาบันการเงินภายใต้การกำกับดูแลจะนำ AI มาใช้ในธุรกิจคริปโต โดยเฉพาะว่า agent จะอนุมัติธุรกรรมได้เองหรือจำเป็นต้องมีมนุษย์ควบคุมขั้นตอนอนุมัติ