Pengerusi dan Ketua Pegawai Eksekutif Microsoft, Satya Nadella, pada 10 Oktober berkata sistem kecerdasan buatan (AI) canggih perlu mempunyai mekanisme pengasingan, kawalan bebas serta “brek kecemasan” yang membolehkan kakitangan berkuasa menghentikan atau mematikan model ketika ia sedang menjalankan tugas. Cadangan itu meluaskan tumpuan keselamatan AI daripada model semata-mata kepada kawalan operasi dan proses audit, yang turut mempengaruhi cara syarikat mengurus gangguan perniagaan serta risiko sistem bertindak di luar kawalan.
Nadella mahu kawalan manusia mengiringi model AI
Dalam hantaran di platform sosial X, Nadella berkata model yang sifatnya tidak deterministik perlu disokong oleh reka bentuk sistem yang kukuh dan deterministik, kawalan manusia serta prosedur operasi yang boleh diharap. Jika piawaian sedia ada tidak mencukupi, katanya, industri perlu membangunkan peraturan baharu. Beliau turut mencadangkan model tertutup paling maju dan model dengan pemberat terbuka diurus sebagai “risiko dalaman”, dengan perlindungan yang sepadan.
Prinsip yang diketengahkan termasuk kebolehcerapan sistem: menggunakan model yang pelbagai, memastikan tindakan model direkodkan dalam bentuk yang boleh difahami manusia, menguji sistem secara berterusan serta menyediakan kawalan dan audit bebas, mekanisme pengasingan dan tatacara pendedahan insiden. Bagi syarikat dan pelabur, langkah ini berkait dengan kos penggunaan produk AI, tanggungjawab operasi dan cara menangani kemungkinan kerugian, bukan sekadar prestasi model.
Nadella berkata sistem superinteligens yang paling boleh dipercayai bukanlah sistem yang hanya bergantung pada satu model yang dipercayai orang ramai. Sebaliknya, sistem itu perlu membolehkan orang ramai mempercayai keseluruhan operasi walaupun mereka tetap berhati-hati terhadap model berkenaan.
Industri teknologi berbeza pandangan tentang kelajuan dan keselamatan
Kenyataan Nadella dibuat ketika industri teknologi terus membahaskan langkah keselamatan AI. Pengasas bersama Microsoft, Bill Gates, Ketua Pegawai Eksekutif Anthropic Dario Amodei, Ketua Pegawai Eksekutif OpenAI Sam Altman dan Ketua Pegawai Eksekutif SpaceX Elon Musk antara tokoh yang pernah menyuarakan kebimbangan bahawa perlindungan keselamatan mungkin tidak mencukupi atau pembangunan teknologi bergerak terlalu pantas.
Bulan lalu, seorang penyelidik AI meninggalkan Anthropic dan menuduh syarikat itu serta pesaingnya, OpenAI, mempertaruhkan nyawa orang ramai. Pada hari yang sama, seorang ketua pasukan penjajaran AI di Anthropic berkata kemungkinan teknologi itu menyebabkan “kepupusan seluruh umat manusia” dalam tempoh 10 tahun akan datang melebihi 10%. Kenyataan tersebut mencerminkan kebimbangan industri terhadap risiko ekstrem, namun turut mencetuskan perdebatan tentang penilaian risiko, langkah tadbir urus dan cara isu itu dibincangkan secara terbuka.
Persaingan dengan China kekal dalam agenda dasar AS
Presiden Amerika Syarikat Donald Trump berulang kali memperkecilkan risiko AI menyebabkan kepupusan manusia dan menegaskan bahawa AS perlu mendahului China dalam bidang AI. Baru-baru ini, Trump turut mengumumkan penubuhan “AI Force” baharu yang diketuai Pengarah Perisikan Negara Jay Clayton. Tugasnya termasuk menggalakkan pembangunan industri dan mengenal pasti pihak yang melakukan kegiatan tidak wajar.
Perbahasan tadbir urus AI kini bergerak pada dua landasan: eksekutif dan penyelidik menyeru kawalan keselamatan yang lebih ketat, dengan sesetengah pihak mahu pembangunan teknologi termaju diperlahankan; pada masa yang sama, kerajaan AS menekankan daya saing industri sambil menubuhkan mekanisme berkaitan keselamatan. Cadangan Nadella mengenai henti kecemasan oleh manusia, pengasingan, audit dan pendedahan insiden tertumpu pada satu persoalan praktikal: bagaimana AI boleh terus dibangunkan dan digunakan sambil memastikan manusia masih mampu campur tangan.