Vitalik Buterin ผู้ร่วมก่อตั้ง Ethereum เปิดเผยเมื่อวันที่ 16 ตุลาคมถึงการตั้งค่า AI Agent ที่เขาเรียกว่า “Paranoid Mode” โดยให้ความสำคัญกับความปลอดภัย การควบคุมสิทธิ์ และการลดผลกระทบจากความผิดพลาด มากกว่าการเพิ่มจำนวนงานที่ Agent ทำได้ แนวทางนี้สะท้อนประเด็นสำคัญสำหรับผู้พัฒนาเครื่องมือ AI ที่เชื่อมต่อกับบล็อกเชน เพราะเมื่อซอฟต์แวร์ลงมือทำแทนผู้ใช้ ขอบเขตสิทธิ์ของ Agent ก็เกี่ยวข้องโดยตรงกับความปลอดภัยของบัญชีและสินทรัพย์ดิจิทัล
Buterin เน้นจำกัดขอบเขตการทำงานของ Agent
สิ่งที่ Buterin เปิดเผยเป็นแนวทางการตั้งค่าส่วนตัวสำหรับการใช้งาน AI Agent โดยใช้ชื่อ “Paranoid Mode” ซึ่งสื่อถึงการควบคุมพฤติกรรมของ Agent อย่างรอบคอบ AI Agent ต่างจากแชตบอตทั่วไป เพราะมักถูกออกแบบให้ทำงานต่อเนื่อง เรียกใช้เครื่องมือ หรือดำเนินการตามคำสั่งได้ ผู้ใช้จึงต้องพิจารณาไม่เพียงว่าโมเดลตอบได้ถูกต้องหรือไม่ แต่ยังรวมถึงทรัพยากรที่เข้าถึงได้ การกระทำที่ได้รับอนุญาต และทางเลือกในการย้อนกลับเมื่อเกิดข้อผิดพลาด
ข้อมูลที่เปิดเผยในครั้งนี้เน้นแนวคิดในการตั้งค่าและการให้ความสำคัญกับความปลอดภัย ไม่ใช่การอัปเกรดโปรโตคอล Ethereum และไม่ได้เกี่ยวข้องกับการเปลี่ยนแปลงพารามิเตอร์ของเครือข่ายหรือราคาของ ETH ในฐานะผู้ร่วมก่อตั้ง Ethereum Buterin ยังคงมีบทบาทในการแลกเปลี่ยนความคิดเห็นด้านเทคโนโลยีในอุตสาหกรรม จึงมีผู้พัฒนาในแวดวงคริปโตติดตามมุมมองของเขาเกี่ยวกับ AI Agent ด้วย
เครื่องมือ AI เริ่มถูกนำไปใช้กับการพัฒนาซอฟต์แวร์ การจัดการสินทรัพย์ และแอปพลิเคชันบนบล็อกเชน การกำหนดว่า Agent เข้าถึงอะไรได้และทำอะไรได้จึงเป็นประเด็นทางเทคนิคที่ผู้ใช้และทีมพัฒนาต้องประเมินแยกจากความสามารถด้านการทำงานอัตโนมัติ
สิทธิ์ของ Agent อาจเพิ่มผลกระทบจากข้อผิดพลาด
เมื่อ AI Agent ได้รับสิทธิ์เข้าถึงเครื่องมือภายนอก ไฟล์ หรือบัญชี คำสั่งที่ผิดพลาด การประเมินสถานการณ์คลาดเคลื่อน หรือการดำเนินการที่ผู้ใช้ไม่ได้ตั้งใจ อาจส่งผลกระทบเป็นวงกว้างขึ้น สำหรับแอปพลิเคชันบล็อกเชน ธุรกรรมที่ดำเนินการแล้วมักย้อนกลับได้ยาก สิทธิ์เกี่ยวกับกุญแจส่วนตัว การลงนาม และการโอนเงินจึงต้องได้รับการดูแลต่างจากสิทธิ์ของซอฟต์แวร์ทั่วไป
ประเด็นจากการแบ่งปันของ Buterin คือการให้ความสำคัญกับการตั้งค่าความปลอดภัยก่อนการแสดงความสามารถของ Agent ผู้ใช้ควรเข้าใจอย่างชัดเจนว่า Agent ทำอะไรได้และทำอะไรไม่ได้ รวมถึงขั้นตอนใดที่ยังต้องให้มนุษย์ตรวจสอบหรือยืนยัน แม้ระบบจะทำงานอัตโนมัติได้มากก็ตาม
อย่างไรก็ตาม “Paranoid Mode” ไม่ได้หมายความว่าจะกำจัดความเสี่ยงทั้งหมดของ AI Agent ความปลอดภัยในการใช้งานจริงยังขึ้นอยู่กับเครื่องมือ สภาพแวดล้อมการทำงาน การออกแบบสิทธิ์ และพฤติกรรมของผู้ใช้ Buterin อธิบายแนวทางที่ใช้และการตั้งค่าของตนเอง จึงไม่ควรถือเป็นมาตรฐานที่เหมาะกับนักพัฒนาหรือแอปพลิเคชันทุกประเภท
สำหรับโครงการคริปโต ยังจำเป็นต้องทดสอบขอบเขตการทำงานของ Agent แยกตามกรณี เช่น การแก้ไขโค้ด การโต้ตอบบนเชน และการจัดการข้อมูลอ่อนไหว สิ่งที่ Buterin ยืนยันผ่านการแบ่งปันครั้งนี้คือ การควบคุมความปลอดภัยของ AI Agent เป็นส่วนหนึ่งของการพูดคุยในอุตสาหกรรม ไม่ใช่มีเพียงเรื่องความสามารถในการทำงานอัตโนมัติเท่านั้น