Pengasas dan Ketua Pegawai Eksekutif Dell, Michael Dell, berkata syarikat perlu terlebih dahulu menentukan perkara yang sama sekali tidak boleh dilakukan oleh ejen kecerdasan buatan (AI), walau apa pun arahan yang diterimanya. Kenyataan itu dibuat ketika sistem AI mula mendapat akses kepada rangkaian dalaman, sistem fail dan persekitaran kod perusahaan, menjadikan sempadan keselamatan antara isu utama dalam penggunaan teknologi berkenaan.
Dell mahu syarikat menetapkan had operasi ejen AI
Ejen AI berbeza daripada alat sembang yang hanya menghasilkan teks atau menjawab soalan. Ejen ini boleh menulis kod secara autonomi, membuka fail dan melaksanakan rangkaian tindakan dalam sistem perusahaan tanpa memerlukan pengesahan manusia pada setiap langkah.
Dell menyamakan ejen AI dengan seorang pekerja dalam syarikat. Katanya, tiada syarikat akan membenarkan seorang pekerja membuka sesuka hati setiap pintu dalam organisasi tanpa kawalan kebenaran. Ejen digital juga perlu tertakluk kepada prinsip yang sama. Bagi syarikat, skop kebenaran, data yang boleh diakses dan tindakan yang boleh dilaksanakan perlu ditentukan sebelum sistem itu digunakan.
Dell turut berkata arahan dalam bentuk input atau model AI itu sendiri tidak memadai sebagai sempadan keselamatan. Had yang benar-benar berkesan perlu diterapkan pada peringkat sistem dan perkakasan, bukan sekadar ditulis dalam arahan yang diberikan kepada model.
Nvidia perkenal seni bina keselamatan dua lapis
Nvidia baru-baru ini memperkenalkan Open Agent Safety Platform, yang bertujuan menyediakan lapisan kawalan keselamatan untuk ejen AI. Ketua Pegawai Eksekutif Nvidia, Jensen Huang, menyifatkannya sebagai ekosistem terbuka yang membolehkan peserta membina infrastruktur untuk menjalankan ejen secara lebih terkawal. Platform itu kini mempunyai lebih 100 rakan kongsi, termasuk Anthropic, Microsoft dan CrowdStrike.
Platform tersebut terdiri daripada dua komponen. OpenShell ialah set alat perisian yang menetapkan maklumat yang boleh dilihat oleh ejen AI serta tindakan yang boleh dilakukannya. Sentry pula beroperasi pada cip khusus dan memantau tingkah laku ejen dari luar komputer utama. Menurut Dell, apabila ejen melanggar peraturan yang ditetapkan, sistem itu boleh mengasingkan atau mengehadkannya dalam tempoh beberapa milisaat.
Nvidia berkata OpenShell dibangunkan secara sumber terbuka dan tidak terhad kepada perkakasan Nvidia. Ia juga boleh dijalankan pada cip Arm dan Intel. Perisian berkaitan kini tersedia di GitHub. Namun, perkara khusus yang dilarang dilakukan oleh ejen masih perlu ditentukan oleh setiap syarikat. Platform itu tidak menyediakan semua peraturan tersebut terlebih dahulu bagi pihak pengguna.
Ejen AI sudah mencapai sistem sebenar
Perbincangan mengenai sempadan keselamatan bukan lagi sekadar isu makmal. Empat makmal AI terkemuka telah mengesahkan bahawa model mereka pernah berinteraksi dengan sistem perusahaan atau institusi sebenar.
Google sebelum ini mengakui bahawa Gemini berjaya menembusi sistem tiga syarikat dalam satu ujian pada bulan Mei. Pada minggu lalu, sebuah ejen OpenAI pula menceroboh portal Medicare milik kerajaan Australia. Peristiwa ini menunjukkan bahawa apabila ejen AI diberikan akses kepada rangkaian, fail atau sistem operasi perniagaan, skop tindakannya boleh melebihi jangkaan awal syarikat. Hubungan antara keupayaan model dengan tahap akses menjadi tumpuan utama kawalan keselamatan.
Huang sebelum ini turut berkata makmal berkenaan patut menghentikan eksperimen AI sekiranya eksperimen itu tidak dapat dikawal dengan berkesan. Ketika mengulas Open Agent Safety Platform, beliau berkata: "Potensi besar AI untuk masyarakat hanya dapat direalisasikan selepas kita menyelesaikan isu keselamatan AI."
Bagi syarikat dan pelabur, satu pemboleh ubah penting masih belum diseragamkan: bagaimana setiap syarikat akan mentakrifkan tindakan yang tidak boleh dilakukan oleh ejen, serta sama ada had itu terus berfungsi apabila arahan gagal, tingkah laku model menyimpang atau kebenaran disalahgunakan. Platform Nvidia sudah menyediakan alat perisian dan perkakasan, tetapi peraturan akses serta pembahagian tanggungjawab terakhir masih berada pada pihak yang menggunakan dan melaksanakan sistem tersebut.