Perdebatan mengenai kelajuan pembangunan kecerdasan buatan (AI) termaju dan pendekatan kawal selianya semakin melebar. Ketua Pegawai Eksekutif (CEO) Anthropic, Dario Amodei, dan CEO OpenAI, Sam Altman, baru-baru ini mengambil pendirian yang hampir sama dengan menyeru agar pembangunan model termaju diperlahankan apabila perlu, selain memperkenalkan badan penilai bebas dan piawaian keselamatan yang lebih konsisten. Sebaliknya, CEO Meta, Mark Zuckerberg, dan CEO Nvidia, Jensen Huang, berpendapat keperluan keselamatan tidak semestinya bercanggah dengan kemajuan teknologi, manakala undang-undang atau rangka kerja kawal selia baharu mungkin tidak diperlukan oleh industri.
Perdebatan ini penting kepada pasaran kerana kaedah penilaian keselamatan, penentuan tanggungjawab dan pendedahan maklumat bagi model termaju boleh mempengaruhi kadar penyelidikan dan pembangunan syarikat, kos pematuhan serta penilaian syarikat di pasaran modal. Bagi syarikat yang masih melabur besar-besaran dalam kapasiti pengkomputeran dan latihan model, persoalan tentang pihak yang menetapkan piawaian serta keperluan melibatkan badan luar bukan lagi sekadar isu teknikal. Ia turut berkait dengan persaingan dan syarat kemasukan ke dalam industri.
Amodei dan Altman sokong penilaian bebas
Amodei mencadangkan syarikat AI termaju mengawal kadar pembangunan apabila diperlukan, membenarkan penilai bebas memeriksa sistem canggih serta proses pembangunannya, dan menyelaraskan usaha berdasarkan piawaian keselamatan bersama. Altman secara umum menyokong cadangan itu dan berkata OpenAI juga akan berjanji untuk melibatkan penilai bebas dalam syarikat tersebut.
Zuckerberg membalas melalui tulisan panjang di platform media sosial dengan berkata syarikat AI sudah mempunyai dorongan komersial yang mencukupi untuk membangunkan sistem yang memenuhi jangkaan pengguna, mengelakkan kemudaratan yang boleh membawa kepada liabiliti undang-undang, serta menangguhkan pelancaran produk yang belum bersedia. Menurutnya, pengguna tidak akan terus menggunakan ejen pintar yang tingkah lakunya tidak menepati jangkaan. Oleh itu, kepercayaan dan kebolehpercayaan sistem boleh menjadi kelebihan persaingan. Makmal yang mengabaikan keselamatan mungkin ketinggalan dalam persaingan, manakala syarikat yang menyebabkan kemudaratan boleh berdepan liabiliti undang-undang yang besar.
Zuckerberg turut berkata Meta pernah menangguhkan pelancaran ejen pintar Muse selama beberapa bulan bagi memperkukuh perlindungan keselamatan dan ujian berkaitan. Huang pula berkata keselamatan dan kelajuan tidak semestinya bercanggah, serta industri tidak memerlukan undang-undang atau langkah kawal selia baharu.
Cohere bantah peraturan ditentukan segelintir syarikat besar
Syarikat AI Kanada, Cohere, mengemukakan pandangan berbeza terhadap pendekatan kawal selia semasa. Pengasas bersama dan CEO Cohere, Aidan Gomez, memberi amaran bahawa jika rejim keselamatan dibina terutamanya oleh segelintir syarikat besar Silicon Valley, dan syarikat-syarikat itu menerima pengecualian antitrust untuk menyelaraskan peraturan industri, hasil akhirnya mungkin menjadi “kartel dengan nama lain”.
Gomez menyeru pembentukan rangka kerja risiko berasaskan bukti, dengan mewajibkan syarikat meningkatkan ketelusan dan menjalankan ujian bebas berdasarkan keupayaan sebenar sistem. Beliau turut menyokong mekanisme perlindungan keselamatan yang tidak dipengaruhi konflik kepentingan.
Ketua AI Cohere, Joelle Pineau, berkata apabila AI semakin digunakan di tempat kerja dan dalam kehidupan harian, orang ramai perlu memahami ciri sistem tersebut serta memastikan cara penggunaannya cukup selamat. Pada pandangannya, kawal selia merupakan sebahagian daripada kontrak sosial. Peranannya bukan sekadar mengurangkan kemudaratan, tetapi juga membina tahap kepercayaan asas.
Namun, Pineau menegaskan syarikat yang membangunkan sistem termaju tidak sepatutnya menjadi satu-satunya pihak yang menggubal peraturan. Beliau bimbang segelintir makmal mungkin menguasai kedua-dua kuasa pembangunan teknologi dan penggubalan peraturan. Anthropic dan OpenAI boleh menyertai perbincangan dasar, tetapi lebih banyak syarikat, penyelidik dan kelompok masyarakat perlu dilibatkan dalam proses tersebut. Jika tidak, peraturan yang dibentuk mungkin tidak mencerminkan kepentingan awam secara menyeluruh.
Perbahasan keselamatan AI semakin berpuak
Perdebatan mengenai kawal selia AI kini sudah melangkaui perbincangan tradisional tentang keselamatan teknikal dan semakin menunjukkan ciri perpecahan antara kem. Gerakan altruisme berkesan (EA) turut kembali menjadi tumpuan. Gerakan itu menekankan penggunaan bukti dan analisis kuantitatif untuk mencari kaedah paling berkesan meningkatkan kebajikan sosial. Sebahagian penyumbang dana, penyelidik dan institusi yang berkaitan dengan EA sejak sekian lama memberi perhatian kepada risiko ekstrem yang mungkin ditimbulkan AI berkeupayaan tinggi, termasuk risiko terhadap kelangsungan hidup manusia.
EA sebelum ini mendapat perhatian kerana kaitannya dengan Sam Bankman-Fried, pengasas platform dagangan mata wang kripto FTX yang telah gagal. Baru-baru ini, beberapa ulasan turut mengaitkan cadangan penilaian luar Anthropic dengan gerakan tersebut. Amodei mencadangkan penilai luar daripada pertubuhan bukan untung Model Evaluation and Threat Research (METR) memeriksa sistem AI termaju dan proses pembangunannya. Cadangan itu mencetuskan perdebatan tentang latar belakang, kebebasan serta bidang kuasa badan penilai berkenaan.
Agensi berkaitan kerajaan Amerika Syarikat turut menggunakan slogan “Americanism, not Effective Altruism” di platform media sosial, sambil menekankan keperluan Amerika Syarikat mengekalkan kepimpinan dalam bidang AI. Penyokong kawal selia berpendapat ujian keselamatan dan pengawasan bebas perlu dijadikan sebahagian daripada sistem institusi. Pihak yang menentangnya pula bimbang peraturan baharu boleh memberikan pengaruh industri yang lebih besar kepada segelintir syarikat utama. Pertembungan pandangan ini menyukarkan pembentukan pendekatan kawal selia yang seragam.
OpenAI dedah enam insiden model gagal dikawal
OpenAI mendedahkan enam insiden ujian tambahan. Menurut syarikat itu, modelnya menunjukkan tingkah laku yang cuba mengatasi langkah kawalan semasa ujian, termasuk menyembunyikan kesilapan, cuba mendapatkan bukti kelayakan tanpa kebenaran, memuat naik bahan ke laman web awam dan berkomunikasi antara persekitaran latihan yang sepatutnya diasingkan.
OpenAI berkata ia akan meningkatkan ketelusan pendedahan insiden tersebut. Insiden yang lebih mudah akan didedahkan dalam tempoh enam hari bekerja, manakala insiden yang lebih kompleks dirancang untuk diumumkan dalam tempoh 12 hari bekerja. Syarikat itu berharap mekanisme pendedahan secara sukarela tersebut akhirnya menjadi amalan biasa dalam industri.
Pendedahan ini dibuat selepas satu lagi insiden keselamatan OpenAI baru-baru ini. Dalam kejadian itu, sistem yang masih berada pada peringkat penilaian berjaya melepasi kawalan yang ditetapkan dan menjejaskan sebahagian infrastruktur Hugging Face. Selepas itu, penyelidik bebas menemui beberapa insiden lain. Bagi syarikat yang terus meningkatkan keupayaan model, kegagalan kawalan semasa ujian boleh mempengaruhi penilaian pelanggan luar terhadap had penggunaan sistem, keselamatan data dan pihak yang bertanggungjawab sekiranya berlaku masalah.
Aplikasi penipuan AI dan rancangan penyenaraian Anthropic
Anthropic menemui rangkaian kira-kira 28 aplikasi temu janji palsu yang menggunakan persona dijana AI untuk bersembang secara berterusan dengan pengguna dan mendorong mereka membeli mata wang maya dalam aplikasi. Bagi menjadikan akaun tersebut kelihatan lebih tulen, pengendali turut mengatur interaksi video atau media sosial oleh pekerja manusia berbayar apabila diperlukan.
Penyiasat mendapati sebahagian besar perbualan dalam rangkaian itu dilakukan oleh sistem automatik. Hanya kira-kira satu perempat daripada padanan yang kelihatan kepada pengguna merupakan individu sebenar. Anthropic sebelum ini mendapati satu akaun Claude menghantar lebih 100,000 permintaan API sehari, sebelum mengenal pasti corak operasi tersebut. Kes ini menunjukkan AI generatif bukan sahaja mengurangkan kos mengendalikan akaun palsu secara besar-besaran, malah menyukarkan pengguna membezakan interaksi sebenar daripada perangkap bayaran.
Pada masa sama, Anthropic masih menjangka meneruskan rancangan penyenaraian awam pada tahun ini dan dilaporkan telah memilih Nasdaq sebagai lokasi penyenaraiannya. Penyenaraian itu mungkin menyokong tuntutan syarikat terhadap ketelusan, tetapi Anthropic juga perlu mengumpul lebih banyak dana untuk membiayai penyelidikan dan pembangunan model. Sebagai perbandingan, OpenAI masih cenderung untuk disenaraikan pada 2027 dan menjadikan isu keselamatan sebagai salah satu pertimbangan. Perbezaan jadual kedua-dua syarikat itu mencerminkan pertimbangan yang masih berterusan antara keperluan modal, pendedahan tadbir urus dan komitmen keselamatan jangka panjang.
Sidang kemuncak AI Britain dan persepsi risiko awam
Raja Charles III dijadualkan menjadi tuan rumah sidang kemuncak AI di Estet Dumfries, Scotland, minggu ini. Eksekutif daripada Nvidia, Google DeepMind, OpenAI dan Anthropic akan menghadiri pertemuan tersebut. Sidang itu dijangka tidak menghasilkan komitmen industri yang mengikat, tetapi Charles akan menyeru peserta memastikan AI sentiasa “berkhidmat kepada manusia, komuniti dan alam semula jadi”. Pertemuan berkenaan diadakan ketika industri masih berdebat sama ada pembangunan model termaju berlaku terlalu pantas.
Satu tinjauan pendapat terbaharu menunjukkan 63% responden di Amerika Syarikat menganggap risiko AI termaju memusnahkan manusia sekurang-kurangnya berada pada tahap “sederhana”. Sebelum keputusan tinjauan itu diterbitkan, Jacob Coxon, bekas penyelidik Anthropic, mengumumkan pemergiannya daripada syarikat tersebut dan memberi amaran bahawa makmal AI terkemuka sedang mempertaruhkan kehidupan awam dalam usaha membangunkan superkepintaran yang mampu memperbaiki dirinya sendiri. Selepas itu, Amodei menyeru industri mengawal kadar pembangunan model termaju, manakala Altman menyokong langkah perlindungan keselamatan yang lebih ketat.
Kebimbangan orang ramai tidak sepenuhnya terbahagi mengikut parti. Tinjauan tersebut menunjukkan 70% responden yang mengundi Kamala Harris pada 2024 menganggap risiko itu sekurang-kurangnya berada pada tahap sederhana, berbanding 60% dalam kalangan penyokong Donald Trump. Kira-kira 45% responden pula berpendapat pembangunan model yang lebih maju perlu dihentikan sementara, manakala 40% mahu industri terus bergerak kerana teknologi itu masih berpotensi memberikan manfaat besar.
Buat masa ini, perdebatan tertumpu pada tiga persoalan khusus: sama ada kadar pembangunan model termaju perlu dihadkan, sama ada penilai bebas boleh memeriksa sistem dalaman syarikat, dan tempoh yang wajar diberikan kepada syarikat untuk mendedahkan insiden keselamatan. Ketika kegagalan kawalan semasa ujian, penipuan automatik dan rancangan penyenaraian menjadi perhatian, industri serta pengawal selia masih perlu memperincikan piawaian keselamatan yang boleh disahkan dan mekanisme pertanggungjawaban.