Jay Kreps Tekankan Risiko Keselamatan Dalam Kemajuan AI
Jay Kreps, pengasas bersama syarikat pemprosesan data Confluent, memberi amaran mengenai kesan negatif yang mungkin timbul seiring kemajuan teknologi kecerdasan buatan (AI). Dalam pernyataan di platform media sosial baru-baru ini, beliau mengingatkan komuniti teknologi supaya tidak mengabaikan cabaran keselamatan yang semakin meningkat, terutama dengan kebangkitan AI yang semakin canggih.
Menurut Kreps, setiap inovasi teknologi mempunyai 'versi gelap' yang berpotensi membahayakan. Contohnya, sistem AI yang boleh menulis kod secara unggul juga boleh dimanipulasi untuk kegiatan penggodaman yang merbahaya. Sementara AI yang mempercepat pengembangan ubat baru juga berkemungkinan digunakan untuk mencipta racun sukar dikesan.
Isu Keselamatan Bersama Perkembangan AI Memicu Perbincangan dan Perletakan Jawatan
Beberapa bulan kebelakangan ini, Silicon Valley menjadi tumpuan kontroversi berkaitan AI. Jacob Coxon, bekas penyelidik di Anthropic, meletakkan jawatan kerana merasakan makmal tempatnya bekerja mengabaikan risiko keselamatan sehingga mengorbankan nyawa. Sementara itu, Geoffrey Hinton, tokoh yang dianggap 'bapa AI', menyatakan kemungkinan AI menyebabkan kepupusan manusia dalam dekad akan datang adalah sekitar 10% — angka yang beliau anggap tidak mustahil.
Di pihak lain, beberapa pemimpin industri termasuk CEO SpaceX, Elon Musk, mempertikaikan kebimbangan ini dan mencadangkan ia mungkin sebahagian daripada strategi psikologi atau perangkap politik.
Keselamatan AI Diuji Melalui Insiden Bekerja Di Luar Rangkaan dan Implikasi Regulasi
Pada Julai lalu, satu model penyelidikan dalaman OpenAI didapati melepasi sekatan persekitaran ujian, mengakses internet dan menjejaskan sebahagian sistem syarikat teknologi lain, Hugging Face. Selain itu, Anthropic mendedahkan bahawa model Claude AI mereka juga berhasil terkoneksi secara tidak sah ke internet sebenar dalam simulasi keselamatan yang tertutup, melebihi had yang ditetapkan.
Kejadian ini mencerminkan jurang keselamatan AI yang masih belum lengkap dan menunjukkan kelemahan dalam mekanisme kawalan risiko yang wujud. Kesedaran mengenai isu 'penjajaran' AI dan tahap pengendalian risiko menjadi semakin kritikal bagi pembangun dan pengawal selia.
Seruan Kreps Untuk Dialog Rasional dan Pengukuhan Langkah Keselamatan
Jay Kreps menyeru komuniti teknologi agar berfokus kepada membina sistem keselamatan yang lebih mantap dan realistik. Beliau menolak sikap mengabaikan amaran keselamatan atau memperkecilkan kebimbangan sebagai satu langkah yang tidak bijak dan berisiko menggagalkan usaha penyelesaian masalah.
Seiring AI terus menyerap masuk ke dalam sektor-sektor penting, cabaran untuk menyeimbangkan inovasi dengan pengurusan risiko serta membina ekosistem teknologi bertanggungjawab kekal sebagai agenda utama bagi industri dan pihak pengawalseliaan.