Pada 16 Oktober, pengasas bersama Ethereum Vitalik Buterin berkongsi tetapan “Mod Paranoid” untuk ejen AI, dengan keselamatan, kawalan kebenaran dan risiko kesilapan diberi keutamaan berbanding keupayaan menjalankan lebih banyak tugas. Perkongsian itu mengetengahkan persoalan penting bagi pembangun yang menggabungkan ejen AI dengan alat blockchain: apabila perisian boleh bertindak bagi pihak pengguna, had akses ejen turut mempengaruhi keselamatan akaun dan aset digital.
Buterin utamakan kawalan dalam tetapan ejen AI
Buterin mendedahkan tetapan peribadi berkaitan cara ejen AI beroperasi dan menamakannya “Mod Paranoid”, yang menggambarkan pendekatan lebih berhati-hati terhadap tindakan ejen. Berbeza daripada chatbot biasa, ejen AI lazimnya direka untuk mengurus tugasan secara berterusan, menggunakan alat dan bertindak berdasarkan arahan. Oleh itu, pengguna bukan sahaja perlu menilai ketepatan jawapan model, tetapi juga sumber yang boleh diakses, tindakan yang dibenarkan dan pilihan untuk membatalkan atau membetulkan kesilapan.
Perkongsian itu menumpukan prinsip konfigurasi dan keselamatan. Ia bukan pengumuman naik taraf protokol Ethereum, perubahan pada parameter rangkaian atau perkembangan harga ETH. Buterin terus terlibat dalam perbincangan teknologi sebagai pengasas bersama Ethereum, dan pandangannya tentang ejen AI turut menarik perhatian pembangun dalam industri kripto.
Alat AI semakin digunakan untuk pembangunan kod, pengurusan aset dan aplikasi on-chain. Dalam penggunaan seperti ini, pembahagian kebenaran ejen merupakan isu teknikal yang perlu dinilai secara berasingan oleh pengguna dan pasukan pembangunan.
Akses ejen boleh meningkatkan risiko operasi
Jika ejen AI diberi akses kepada alat luaran, fail atau akaun, arahan yang salah, tafsiran tersilap atau tindakan yang tidak dijangka boleh membawa kesan lebih besar. Dalam aplikasi blockchain, transaksi lazimnya sukar dibatalkan selepas selesai. Sebab itu, akses kepada kunci peribadi, kuasa menandatangani transaksi dan kebenaran memindahkan dana tidak wajar dianggap setara dengan kebenaran perisian biasa.
Nilai utama perkongsian Buterin ialah penekanan pada tetapan keselamatan sebelum mempamerkan keupayaan ejen. Walaupun ejen boleh mengautomasikan banyak tugas, pengguna perlu mengetahui dengan jelas tindakan yang boleh dan tidak boleh dilakukannya, serta langkah yang masih memerlukan pengesahan manusia.
Namun, “Mod Paranoid” tidak menghapuskan semua risiko ejen AI. Tahap keselamatan sebenar bergantung pada alat yang digunakan, persekitaran operasi, reka bentuk kebenaran dan tindakan pengguna. Buterin berkongsi pendekatan penggunaan dan konfigurasi peribadinya; ia bukan kaedah tunggal yang boleh terus dianggap sesuai untuk setiap pembangun atau aplikasi.
Projek kripto masih perlu menguji had tindakan ejen secara berasingan, termasuk ketika mengubah kod, berinteraksi dengan rangkaian blockchain dan mengendalikan data sensitif. Buat masa ini, perkongsian Buterin menunjukkan bahawa kawalan keselamatan ejen AI turut menjadi sebahagian daripada perbincangan awamnya, bukan sekadar keupayaan automasi.