Jacob Coxon Nyatakan Kebimbangan Tentang Kelajuan Pembangunan AI
Jacob Coxon, bekas penyelidik kecerdasan buatan di Anthropic, baru-baru ini menyuarakan kebimbangan mendalam mengenai kelajuan pesat pembangunan AI. Dalam temu bual bersama BBC, beliau menegaskan bahawa pasukan yang terlibat dalam penyelidikan AI kini menghadapi "ketakutan sebenar" terhadap implikasi keselamatan yang mungkin timbul jika proses pembangunan tidak diperlahankan. Coxon memberi amaran bahawa tanpa kawalan, AI berpotensi membawa risiko serius kepada keselamatan manusia, bahkan mengancam kelangsungan hidup manusia.
Risiko Operasi AI: Daripada Makmal Perubatan Hingga Infrastruktur Kritikal
Coxon mengemukakan senario seperti AI bertindak secara autonomi untuk mencipta virus di makmal perubatan atau melancarkan serangan siber ke atas infrastruktur global yang penting. Beliau merujuk kepada pendapat pengasas Anthropic, Dario Amodei, yang memperingatkan kemungkinan sekumpulan robot AI mengawal internet seperti superkomputer dalam tempoh enam hingga dua belas bulan akan datang.
Pertikaian Dalam Industri Dan Tekanan Terhadap Kawal Selia
Perdebatan hangat terhasil ekoran rancangan Anthropic dan OpenAI untuk mengadakan penawaran awam permulaan (IPO) berskala besar. Sesetengah pihak mengesyaki amaran risiko AI digunakan untuk menaikkan perhatian pasaran atau memperkuat langkah kawalan bagi menyekat persaingan, sekali gus memberi kelebihan kepada beberapa syarikat utama.
Clement Delangue, Ketua Pegawai Eksekutif platform AI Hugging Face, menyatakan pendirian berbeza melalui media sosial dengan menganggap sesetengah kenyataan sebagai berlebihan dan menasihati supaya mengekalkan pandangan rasional. Dalam majlis anjuran Goldman Sachs, Ketua Pegawai Eksekutif Nvidia, Jensen Huang, menolak teori kepupusan manusia yang disebabkan AI, menegaskan kurangnya bukti kukuh untuk menyokong dakwaan tersebut.
Perlu Kerjasama Serantau Untuk Mengawal Laju R&D, Kahwin Pelbagai Kepentingan
Coxon menggariskan bahawa kawalan terhadap kadar pembangunan AI memerlukan kerjasama antarabangsa, termasuk penglibatan China. Namun, persaingan sengit dalam industri menimbulkan ketegangan dalam kalangan penyelidik yang risau tentang keselamatan kerjaya dan masa depan mereka, ada yang mula mempertimbangkan semula hala tuju peribadi.
Beliau juga menyatakan walaupun para penyelidik menaruh harapan agar AI dapat menyumbang kepada kemajuan perubatan dan peningkatan kualiti hidup, kebimbangan akan risiko keselamatan sentiasa menghantui.
Penegasan Pakar Mengenai Risiko AI
Evan Hubinger, saintis di Anthropic, menyokong pandangan Coxon dengan menyatakan kemungkinan AI menyebabkan kepupusan manusia melebihi 10% dalam tempoh sepuluh tahun akan datang. Pemimpin dari OpenAI, Google DeepMind, dan Anthropic beberapa kali mengingatkan bahawa keselamatan AI adalah cabaran kritikal dalam sektor ini. Dengan kemajuan teknologi yang semakin sukar dikawal dan laporan insiden yang bertambah, perhatian terhadap aspek keselamatan AI kini semakin menjadi fokus utama dalam kalangan industri serta badan pengawal selia.