Pengasas bersama Ethereum, Vitalik Buterin, pada 16 Oktober mendedahkan reka bentuk privasi untuk ejen AI yang dinamakan “mod paranoid”. Gabungan beberapa alat ini bertujuan mengurangkan peluang penyedia perkhidmatan AI mengenal pasti pengguna melalui identiti, sumber permintaan dan maklumat pembayaran. Bagi ejen AI yang disambungkan kepada dompet atau alat kewangan, maklumat tersebut berpotensi mendedahkan token yang diperhatikan, pegangan portfolio dan rancangan dagangan pengguna. Buterin mengakui reka bentuk itu menambah kependaman dan masih mempunyai kelemahan terhadap serangan pakatan sulit. Kodnya sudah tersedia kepada umum, tetapi keseluruhan pendekatan itu masih bersifat eksperimen.
Empat lapisan menyasarkan jejak rangkaian, prompt dan pembayaran
Reka bentuk ini menggabungkan beberapa alat privasi untuk menangani pelbagai jejak yang boleh ditinggalkan oleh permintaan AI. Tor menyediakan laluan rangkaian berasingan bagi setiap perbualan untuk menyembunyikan alamat IP pengguna. Trafik penyamaran pula menambah permintaan palsu supaya permintaan sebenar lebih sukar dikenal pasti dalam keseluruhan corak trafik.
Pada peringkat prompt, model AI kecil pada peranti pengguna terlebih dahulu mengolah semula input bagi mengurangkan butiran yang boleh mengaitkannya dengan identiti seseorang. Langkah ini tidak menyembunyikan permintaan daripada penyedia AI, sebaliknya mengehadkan maklumat pengenalan yang terkandung dalam prompt itu sendiri.
Bagi pembayaran, sistem menggunakan zkAPI. Reka bentuknya bergantung pada bukti kriptografi untuk mengesahkan bahawa sesuatu permintaan telah dibayar tanpa mendedahkan identiti pembayar secara langsung. Keempat-empat langkah ini menyasarkan petunjuk yang berbeza, termasuk alamat rangkaian, corak permintaan, kandungan prompt dan rekod pembayaran.
Perbualan kewangan dengan ejen AI boleh mendedahkan minat pengguna
Jika ejen AI mempunyai akses kepada dompet atau perkhidmatan kewangan, perbualan pengguna dengannya boleh mengandungi maklumat sensitif. Pertanyaan tentang token tertentu atau permintaan untuk menganalisis pegangan peribadi, misalnya, boleh menunjukkan minat pelaburan pengguna. Walaupun nama tidak diberikan, rekod pembayaran, alamat rangkaian dan butiran berulang dalam beberapa prompt boleh digunakan untuk mengenal pasti pengguna atau menghubungkan aktivitinya.
Justeru, reka bentuk ini bukan sekadar berkaitan sama ada kandungan perbualan didedahkan. Persoalan lain ialah sama ada penyedia perkhidmatan boleh mengaitkan permintaan dengan pengguna tertentu, sumber rangkaian atau maklumat pembayaran. Bagi industri kewangan, perlindungan privasi boleh mempengaruhi kesediaan pengguna menyerahkan soalan tentang akaun dan kewangan mereka kepada ejen AI. Namun, setakat ini tiada petunjuk bahawa reka bentuk tersebut telah digunakan secara meluas atau melalui pengesahan menyeluruh.
Buterin akui kependaman dan pakatan sulit masih menjadi batasan
Lapisan perlindungan tambahan membawa kompromi dari segi penggunaan. Buterin mengakui bahawa “mod paranoid” akan meningkatkan kependaman. Beliau juga berkata reka bentuk itu masih sukar menghalang sepenuhnya perkaitan maklumat jika beberapa pihak berpakat sulit. Tor, trafik penyamaran, pengolahan semula setempat dan zkAPI masing-masing menangani jenis jejak yang berlainan, tetapi tidak menjamin identiti pengguna akan tersembunyi dalam semua keadaan serangan.
Kod berkaitan telah diterbitkan untuk semakan umum, tetapi keterbukaan kod tidak bermakna keseluruhan sistem sudah matang. Perkara yang masih perlu dinilai termasuk prestasi dalam penggunaan sebenar, masa tindak balas tambahan dan tahap perlindungan apabila beberapa penyedia perkhidmatan bertindak secara bersama.