Pelaporan Anthropic Mengenai Peranan AI dalam Kajian Senjata Biologi
Syarikat kecerdasan buatan (AI) Anthropic mengeluarkan laporan keselamatan sepanjang 154 halaman yang mengesahkan model AI mereka pernah bertindak menangani kandungan berkaitan kajian senjata biologi berpotensi. Perkara ini tercetus selepas permohonan dana untuk kajian meningkatkan kebolehpindahan dan keupayaan elak imun bagi virus yang dibawa nyamuk, Chikungunya, cuba dilakukan. Permohonan itu disekat oleh model AI mereka, "Claude," kerana penapisan keselamatan; namun, pihak pemohon dikatakan menggunakan model AI milik pesaing untuk usaha meneruskan kajian tersebut. Kejadian ini menyerlahkan cabaran keselamatan penggunaan AI dalam penyelidikan berisiko tinggi.
Permohonan Dana Dihalang, Usaha Beralih ke Model AI Pesaing
Kajian ini bertujuan menjadikan virus Chikungunya, yang tiada penawar, lebih mudah tersebar. Permohonan diajukan oleh seorang ahli sains awam dengan rancangan pelaksanaan di bawah institusi ketenteraan. Permohonan tersebut beberapa kali ditolak oleh Anthropic, manakala model Claude menjalankan penapisan ketat. Namun, pihak penyelidik berusaha mengatasi halangan ini dengan merangka mekanisme mengalihkan permintaan yang ditapis secara automatik ke model AI pesaing lain, untuk meneruskan penulisan kod berkaitan kajian. Pasukan Anthropic melihat tindakan ini sebagai reaksi kepada isu "penapisan berlebihan" dari sistem mereka.
Lima Kes Kajian Senjata Biologi Tersenarai Tanpa Kesimpulan Niat
Laporan Anthropic mengandungi lima kes spesifik berhubung penyalahgunaan AI, dengan sebilangan akaun telah dibekukan dan akses ke makmal tertentu dihentikan. Namun, syarikat tidak membuat tuduhan jelas mengenai niat jahat pihak terlibat. Mereka menegaskan, "Kami tidak mendakwa mereka berniat untuk menyebabkan kecederaan, dan pengesahan identiti boleh membahayakan mereka." Salah satu kes melibatkan kajian virus flu burung, di mana penyelidik sering diarahkan menggunakan model AI dengan keupayaan terhad. Secara keseluruhan, Anthropic menyatakan bahawa mekanisme penapisan berjaya menjalankan fungsi pencegahan secara terbatas, tetapi risiko keselamatan sepenuhnya masih sukar untuk dipastikan.
Cabaran dan Ketidakpastian AI dalam Keselamatan Biologi
Peristiwa ini mencerminkan masalah pemantauan dan pengelakan sistem AI ketika mengendalikan data sensitif dalam persekitaran penyelidikan. Laporan ini menimbulkan peringatan penting mengenai penggunaan AI dalam penyelidikan berisiko tinggi, khususnya yang melibatkan kolaborasi tentera dan awam. Peranan pihak berkuasa dalam membangunkan mekanisme pengawasan yang efektif serta langkah syarikat AI untuk mencegah penyalahgunaan teknologi menjadi fokus utama industri.
Laporan ini diterbitkan oleh ahli utama pasukan keselamatan Anthropic memaparkan kesediaan syarikat membuka perbincangan mengenai isu keselamatan kompleks yang dibawa AI, sambil menggesa keseimbangan antara pembangunan teknologi dan regulasi.