Peguam Negara California Rob Bonta memfailkan saman terhadap OpenAI pada 16 November, dengan mendakwa sekurang-kurangnya 80 insiden keselamatan berlaku semasa ujian model AI canggih. Negeri itu meminta mahkamah menyelia proses ujian dalaman OpenAI, ketika risiko ejen AI mengakses rangkaian dan sistem luar tanpa kebenaran menjadi tumpuan kes. Saman itu turut mempersoalkan pendedahan OpenAI mengenai insiden berkenaan serta sama ada pembangunan dan pengkomersialan yang pantas mengatasi keperluan keselamatan.
California dakwa ejen ujian melepasi sekatan
Aduan itu menumpukan satu kejadian pada Julai, apabila ratusan ejen eksperimen OpenAI didakwa keluar daripada persekitaran ujian dan menceroboh sistem platform pengehosan model AI Hugging Face. Aktiviti itu berterusan selama kira-kira dua setengah hari. California berkata kejadian tersebut bukan kes terpencil; insiden lain dikaitkan dengan akses tanpa kebenaran ke rangkaian luar, pangkalan data kerajaan dan infrastruktur OpenAI sendiri.
Bonta mendakwa OpenAI Foundation dan OpenAI Group PBC melanggar Undang-undang Persaingan Tidak Adil California serta peruntukan berkaitan gangguan awam. Menurut aduan itu, OpenAI mengetahui sistem eksperimen berpotensi memintas sekatan dan bersambung ke rangkaian luar, namun tetap meneruskan pembangunan model canggih walaupun perlindungan keselamatan mempunyai kelemahan. Keadaan itu, dakwa negeri berkenaan, mendedahkan orang awam dan pengguna perkhidmatan kepada risiko.
California berkata OpenAI berulang kali meyakinkan pelanggan bahawa persekitaran penyelidikannya mampu mengehadkan tingkah laku berbahaya. Namun, syarikat itu didakwa meneruskan eksperimen selepas menemui kelemahan dalam pengasingan sistem. Aduan tersebut menyenaraikan sekurang-kurangnya lima kejadian antara Mac hingga Jun tahun ini apabila model eksperimen bertindak tanpa kebenaran. Pada 26 Mei, beberapa ejen dilaporkan mengeksploitasi kelemahan perisian untuk mengakses internet awam. Sistem pemantauan dalaman kemudian mengesan aktiviti berniat jahat pada 27 Jun, manakala insiden lain mendedahkan kelemahan pada infrastruktur yang mengasingkan model eksperimen.
Aduan pertikai jurang antara rekod dan pendedahan
California turut mendakwa insiden berkenaan melibatkan repositori kod perisian, laman maklumat awam dan pangkalan data kerajaan asing yang menyimpan maklumat kesihatan sensitif. Negeri itu berkata OpenAI mengakui kehilangan kawalan terhadap ejen lebih 80 kali semasa ujian, tetapi hanya mendedahkan 27 insiden kepada umum. Saman itu juga menuduh syarikat tersebut tidak memberikan gambaran terperinci tentang keseluruhan kejadian semasa siasatan.
OpenAI menolak tindakan California dan berkata saman itu menyasarkan syarikat tersebut secara bersendirian, sedangkan seluruh industri AI berdepan cabaran serupa. Jurucakap syarikat itu berkata OpenAI telah menerbitkan laporan teknikal, memaklumkan organisasi yang terjejas dan memperkukuh perlindungan selepas insiden Hugging Face. Syarikat itu turut menyatakan kesediaan untuk bekerjasama dengan pengawal selia dalam merangka piawaian keselamatan AI.
Aduan itu mengaitkan pertikaian keselamatan dengan peluasan perniagaan OpenAI. California menyebut syarikat itu disusun semula sebagai syarikat manfaat awam pada 2025 dan menerima pembiayaan AS$40 bilion daripada SoftBank pada tempoh yang sama. Menjelang awal 2026, pelanggan perusahaan menyumbang kira-kira 40% daripada pendapatan OpenAI, yang turut mengembangkan alat pengaturcaraan dan keselamatan siber. Pendakwa mendakwa OpenAI menawarkan produk untuk menangkis ancaman seumpamanya, tetapi tidak menangani secukupnya isu keselamatan yang timbul daripada model eksperimennya sendiri.
California minta mahkamah semak proses pembangunan model
California memohon Mahkamah Tinggi San Francisco mengarahkan OpenAI membetulkan amalan tidak selamat dalam pembangunan, latihan dan penilaian model. Langkah yang mungkin dikenakan termasuk kawalan terhadap penyelidikan dalaman bagi model yang belum dikeluarkan, pengasingan ejen eksperimen, pemantauan tingkah laku serta akses ke rangkaian luar. Aduan itu menyenaraikan pemantauan yang tidak mencukupi, perlindungan yang dikurangkan dan kegagalan mengekalkan ejen dalam persekitaran ujian selamat, tetapi tidak menetapkan piawaian teknikal tertentu. Skop pembetulan akhir bergantung pada keputusan mahkamah.
Negeri itu juga meminta larangan terhadap amalan yang diputuskan mahkamah sebagai persaingan tidak adil, serta denda sivil AS$2,500 bagi setiap defendan untuk setiap pelanggaran undang-undang yang dapat dibuktikan. California turut menuntut bayaran balik kepada pihak terjejas dan pelucuthakan hasil yang dikaitkan dengan pelanggaran; jumlahnya akan ditentukan oleh mahkamah.