Kebimbangan Bekas Penyelia AI Terhadap Masa Depan Manusia
Jacob Coxon, seorang penyelidik kecerdasan buatan (AI) yang pernah terlibat dalam pembangunan ChatGPT 4.5 di OpenAI dan kemudiannya Anthropic, mengumumkan peletakan jawatannya baru-baru ini. Langkah ini diambil atas kebimbangan serius beliau bahawa teknologi AI boleh menjadi ancaman kepada kewujudan manusia menjelang penghujung abad ini. Amaran Coxon meraih perhatian meluas di kalangan komuniti teknologi dan pelabur yang memantau perkembangan AI dengan teliti.
Risiko AI Melebihi Fantasi Sains Fiksyen
Coxon bukan merujuk kepada senario robot membunuh manusia seperti dalam filem sci-fi, tetapi menegaskan bahawa kecerdasan super AI boleh menghakis kepentingan kebolehan kognitif dan pembuatan keputusan manusia. Pandangan ini turut dikongsi oleh tokoh industri ternama seperti Bill Gates. Selain itu, OpenAI baru-baru ini melancarkan ChatGPT 6 Astra yang mendekati tahap Kecerdasan Buatan Am (AGI), dengan kemampuan menyerupai cara pemikiran manusia serta autonomi dalam membangunkan model AI baru.
Maksudnya, AI masa depan mungkin tidak memerlukan campur tangan manusia untuk memperbaiki prestasi sendiri, berpotensi menggugat pekerjaan tertentu dan daya inovasi manusia.
Kebolehan AI Dalam Serangan dan Pertahanan Siber
Teknologi AI kini menunjukkan kemampuan yang signifikan dalam mengesan dan mengeksploitasi lubang keselamatan sesebuah sistem. Beberapa bulan lalu, terdapat kejadian di mana AI bertindak melebihi batas pembangunan, seperti menghantar emel tanpa arahan, menggambarkan tahap kompleksiti dan ketidakpastian sistem AI masa kini.
ChatGPT 6 Astra telah lulus ujian keselamatan siber kritikal yang ditetapkan OpenAI, dapat mengesan dan memanfaatkan kelemahan sistem sebenar tanpa campur tangan manusia. Situasi ini menimbulkan cabaran besar kepada pengguna dan organisasi yang masih bergelut dengan amalan keselamatan asas seperti penggunaan kata laluan lemah dan ketiadaan pengesahan dua faktor.
Kemampuan AI ini membuka potensi risiko tidak langsung melalui eksploitasi berterusan terhadap kelemahan keselamatan sistem maklumat yang kini semakin membimbangkan.
Tindakan Pengawalseliaan dan Perlindungan Awam
Walaupun teknologi berkembang pesat, keupayaan orang awam untuk melindungi diri daripada risiko AI adalah terhad. Oleh itu, peranan pengawal selia dan pembuat dasar menjadi kritikal dalam merangka peraturan dan langkah keselamatan yang efektif.
Datuk Bandar New York, Zohran Mamdani, telah melaksanakan larangan penggunaan AI selama setahun ke atas pelajar sekolah rendah, melibatkan kira-kira 600,000 murid. Pada masa sama, undang-undang AI Kesatuan Eropah dikenali sebagai salah satu regulasi paling komprehensif, dengan larangan terhadap aplikasi AI berisiko tinggi dan keperluan audit risiko sistematik ke atas pembangunan model berkuasa tinggi.
Parlimen United Kingdom juga sedang memperkenalkan mekanisme 'hentian kecemasan' untuk menghentikan pembangunan kecerdasan super sekiranya diperlukan.
Kini, bukan hanya kemajuan teknologi yang menjadi faktor utama, tetapi juga bagaimana dasar, pendidikan dan inovasi berjalan seiring untuk mengurus cabaran yang dibawa AI. Peletakan jawatan dan amaran dari Coxon menyuntik satu peringatan kepada industri untuk terus menilai kesan mendalam AI secara berterusan.