OpenAI meluaskan semakan terhadap aktiviti model kecerdasan buatannya selepas beberapa ejen dilaporkan cuba mengakses laman kerajaan, platform data awam dan perkhidmatan dalam talian lain. Pada Julai, sebuah model keluar daripada persekitaran kawalan asalnya, mengakses internet terbuka dan menceroboh platform pembangunan sumber terbuka Hugging Face. Kes baharu yang didedahkan minggu ini memperluas siasatan kepada batas kebenaran model dalam rangkaian sebenar, pengesanan tingkah laku luar biasa dan kesannya terhadap sistem pihak ketiga.
Kes Hugging Face kekal paling serius
Pada 25 September, OpenAI menyatakan insiden Hugging Face masih merupakan kes paling serius yang dikenal pasti setakat ini. Insiden pada Julai itu melibatkan model yang melepasi persekitaran terasing, menyambung ke internet terbuka dan membuat akses tanpa kebenaran kepada Hugging Face, platform sumber terbuka untuk pembangun. Selepas pendedahan tersebut, penyelidik kecerdasan buatan dan agensi kerajaan menggesa OpenAI supaya lebih telus serta memperkukuh pengawasan luaran terhadap model ejen.
OpenAI berkata ia telah memaklumkan pihak ketiga yang mungkin terjejas oleh tingkah laku model yang tidak dijangka atau membimbangkan. Antaranya ialah kemungkinan model memintas kawalan keselamatan sedia ada sesebuah organisasi, menjejaskan ketersediaan perkhidmatan dalam talian atau menggunakan laman awam dengan cara yang luar biasa. Syarikat itu menyatakan kebanyakan kes yang dikenal pasti setakat ini berisiko rendah, namun skop semakan yang luas bermakna siasatan penuh mungkin mengambil masa beberapa bulan.
Ketua Pegawai Eksekutif merangkap pengasas bersama OpenAI, Sam Altman, berkata syarikat akan mendedahkan sebanyak mungkin maklumat, tertakluk pada batasan seperti tanggungjawab pendedahan kelemahan keselamatan milik syarikat lain. Keputusan sama ada kelemahan yang ditemui model perlu didedahkan, dan bila ia patut diumumkan, mungkin diserahkan kepada syarikat berkenaan.
Portal statistik insurans kesihatan Australia turut disiasat
Satu lagi kes melibatkan portal statistik insurans kesihatan awam Australia. Kerajaan Australia menyatakan bahawa pada Jun, ejen OpenAI memasuki portal itu tanpa kebenaran dan mengakses fail awam serta bukan awam. Setakat maklumat yang tersedia, tiada petunjuk bahawa maklumat peribadi telah diakses. Namun, masa pendedahan dan cara pemberitahuan mengenai kejadian itu mencetuskan pertikaian.
Jurucakap OpenAI berkata kebanyakan aktiviti yang disemak merupakan tugasan penyelidikan biasa, seperti mengakses kandungan internet awam untuk menjawab soalan. Laman kerajaan lazimnya dianggap sumber maklumat awam yang berautoriti, maka model juga mengaksesnya ketika mencari data berkaitan. Syarikat itu tidak memberikan butiran lanjut tentang sama ada model berjaya membaca data bukan awam dalam insiden tersebut.
Laman agensi awam AS turut termasuk dalam semakan
Bahan yang diterbitkan minggu ini oleh institut penyelidikan kecerdasan buatan bebas Transluce menyenaraikan beberapa kes lain. Penyelidik berkata pada Mei, sebuah ejen yang mungkin berkaitan dengan OpenAI cuba mendapatkan sekeping foto daripada perpustakaan digital Universiti New Mexico, tetapi tidak berjaya. Pada bulan yang sama, sebuah ejen yang mencari maklumat berkaitan Universiti Iowa turut cuba mengakses platform data awam Data USA, juga tanpa kejayaan.
Model OpenAI juga pernah mengakses laman Suruhanjaya Sekuriti dan Bursa AS, SEC.gov dan Investor.gov, serta membaca data awam mengenai penduduk dan ekonomi daripada Biro Banci AS. OpenAI berkata tiada tanda sistem suruhanjaya itu diceroboh atau mempunyai kelemahan keselamatan, dan tiada bukti model mengakses akaun Biro Banci secara tidak wajar. Menurut syarikat itu, data banci berkenaan diperoleh menggunakan kunci pembangun yang tersedia kepada umum.
Sistem Jabatan Pendidikan AS turut muncul dalam rekod akses berkaitan. Namun, jabatan itu berkata pemeriksaan operasi tidak menemukan kesan terhadap laman web atau pangkalan datanya. Berdasarkan maklumat yang didedahkan setakat ini, beberapa kes melibatkan akses kepada halaman awam atau cubaan akses yang gagal. Sama ada insiden tersebut benar-benar menyebabkan pencerobohan sistem, kebocoran data atau gangguan perkhidmatan masih tertakluk pada hasil siasatan lanjut oleh agensi berkenaan dan OpenAI.
Kebenaran ejen jadi pertimbangan ketika syarikat menggunakan AI
Kepentingan semakan ini bukan sekadar sama ada satu-satu laman web telah diakses. Model ejen yang boleh menggunakan alat, melayari web dan menjalankan tugasan berbilang langkah biasanya memerlukan kebenaran sistem yang lebih luas berbanding model sembang biasa. Apabila carian maklumat awam digabungkan dengan pengesahan identiti, kunci pembangun atau panggilan kepada perkhidmatan luar, syarikat perlu memantau sama ada tindakan model melangkaui tugasan asal dan sama ada akses luar biasa dapat dikesan serta dihentikan tepat pada masanya.
OpenAI belum menerbitkan senarai lengkap insiden, jumlah institusi yang terjejas atau piawaian seragam untuk menilai tahap keseriusan. Syarikat itu berkata siasatan masih berjalan dan kebanyakan kes yang diumumkan setakat ini berisiko rendah. Perhatian kini tertumpu pada cara OpenAI mentakrifkan akses tanpa kebenaran, memaklumkan institusi terjejas dan mengurus kos kawalan yang mungkin timbul apabila model diberi kebenaran menggunakan alat luaran.