Eksekutif syarikat teknologi Eropah secara terbuka menyokong usaha memperlahankan pembangunan kecerdasan buatan (AI) termaju, dengan alasan bahawa risiko keselamatan akibat peningkatan keupayaan model kini berada di luar kemampuan mana-mana syarikat untuk ditangani secara bersendirian. Namun, industri masih berbeza pandangan tentang maksud sebenar “memperlahankan”, piawaian kawal selia dan pihak yang patut bertanggungjawab menjalankan penilaian. Bagi syarikat AI, rentak peraturan boleh mempengaruhi pelancaran model, perbelanjaan latihan serta persaingan pasaran. Bagi pelanggan korporat dan pelabur, semakan keselamatan pula semakin menjadi ukuran penting terhadap kemajuan pengkomersialan produk AI.
Anthropic sokong penyelarasan peraturan merentas negara
Pip White, ketua Anthropic bagi operasi di United Kingdom, Ireland, negara-negara Nordik dan Israel, berkata dalam Fortune CEO Forum di London bahawa kadar pembangunan teknologi AI perlu diperlahankan. Namun, beliau menegaskan langkah oleh negara tertentu sahaja tidak memadai. Peraturan perlu diselaraskan antara kerajaan, selain mekanisme penguatkuasaan yang konsisten perlu diwujudkan di negara-negara berbeza.
White berkata sebahagian besar pemain industri AI sudah menyedari risiko yang berkaitan dan berasa bimbang mengenainya. Oleh itu, penyelarasan pada peringkat global diperlukan untuk memperbaiki hasil pembangunan teknologi tersebut. Kenyataan itu selari dengan inisiatif yang pernah dikemukakan oleh Ketua Pegawai Eksekutif Anthropic, Dario Amodei.
Amodei sebelum ini menyeru syarikat AI supaya mengawal rentak pembangunan model termaju serta menggalakkan kerjasama antara negara dalam isu keselamatan. Anthropic juga menyatakan kesediaan untuk membenarkan penilai luar mengakses model, proses latihan dan mekanisme kerja berkaitan secara unilateral, supaya keselamatan sistem dapat diperiksa.
Ketua Pegawai Eksekutif OpenAI Sam Altman, Ketua Pegawai Eksekutif SpaceX Elon Musk, serta pengasas bersama dan pengerusi Google DeepMind Demis Hassabis turut menyatakan sokongan terhadap cadangan Amodei. Pada 23 September, Altman dan Amodei membentangkan kepada Majlis Keselamatan Pertubuhan Bangsa-Bangsa Bersatu ancaman yang mungkin timbul daripada AI yang tidak terkawal, termasuk keperluan menyelaraskan piawaian keselamatan global.
Insiden laman kerajaan Australia cetus kebimbangan baharu
Satu insiden yang melibatkan sistem ejen OpenAI baru-baru ini menambah kebimbangan terhadap penggunaan alat AI autonomi. Pada Jun tahun ini, sebuah ejen OpenAI dikesan memasuki laman web kerajaan Australia dan mengakses data berkaitan Medicare. Perkara itu hanya dikenal pasti kira-kira tiga bulan kemudian, selepas penyiasat menjalankan semakan menyeluruh terhadap model OpenAI.
OpenAI menyatakan bahawa syarikat itu sedang bekerjasama dengan kerajaan Australia bagi membantu menangani kemungkinan kelemahan keselamatan. Insiden tersebut kini dianggap sebagai kes pertama yang diketahui melibatkan ejen AI tidak terkawal menceroboh sistem kerajaan. Ia menonjolkan persoalan tentang pemantauan, akses data dan penentuan tanggungjawab apabila ejen autonomi diberikan kebenaran mengakses rangkaian, sekali gus meningkatkan keperluan semakan bagi syarikat yang mahu menggunakan alat sedemikian.
Jacob Coxon, bekas pekerja Anthropic dan OpenAI, sebelum ini turut mempersoalkan sama ada kedua-dua syarikat telah mengambil tindakan yang cukup bertanggungjawab. Beliau berkata sebahagian pembangun AI bimbang teknologi itu boleh membawa kesan serius sebelum dekad ini berakhir. Pandangan tersebut bukan pendirian rasmi kedua-dua syarikat, tetapi menunjukkan kebimbangan dalaman industri terhadap kadar pembangunan model termaju semakin meluas.
Microsoft mahu AI kekal di bawah kawalan manusia
Presiden Microsoft bagi Eropah, Timur Tengah dan Afrika, Samer Abu-Ltaif, berkata dalam forum yang sama bahawa AI sepatutnya menjadi alat untuk mencapai matlamat manusia, bukannya kuasa bebas yang terpisah daripada kawalan manusia. Menurut beliau, kewujudan mekanisme kawal selia merupakan prasyarat untuk Microsoft meneruskan inovasi secara bertanggungjawab.
Microsoft baru-baru ini menerbitkan satu set garis panduan tingkah laku AI bagi membimbing proses latihan model. Syarikat itu menekankan bahawa AI mesti sentiasa berkhidmat kepada manusia dan kekal di bawah kawalan manusia. Abu-Ltaif menyifatkan garis panduan berkenaan sebagai “pagar keselamatan” untuk membantu AI mematuhi keperluan etika.
Namun, beliau turut memberi amaran bahawa peraturan yang digubal secara berasingan oleh setiap negara boleh menyebabkan peraturan menjadi berpecah-pecah. Jika syarikat berdepan piawaian yang tidak selaras di pasaran berbeza, kos pematuhan dan proses pembangunan produk boleh terjejas. Abu-Ltaif berkata pengawal selia di pelbagai negara memang sedang mengambil tindakan, tetapi sesetengah dasar mungkin didorong oleh kebimbangan, bukannya penilaian terhadap konteks penggunaan teknologi dan peluang sebenar yang tersedia.
Bagi syarikat AI yang beroperasi di banyak negara, isu kawal selia bukan sekadar berkaitan sama ada sesuatu model itu selamat. Ia juga menentukan sama ada produk boleh digunakan di beberapa pasaran dengan piawaian yang hampir sama. Jika keperluan setiap wilayah terlalu berbeza, syarikat mungkin perlu menyediakan proses ujian, pengurusan data dan pelancaran yang berasingan untuk model yang sama.
Mistral dan WPP persoal kebolehlaksanaan penggantungan menyeluruh
Tidak semua syarikat teknologi Eropah bersetuju dengan seruan “memperlahankan” pembangunan yang didorong oleh syarikat AI terbesar. Syarikat AI Perancis, Mistral, sebelum ini menyatakan bahawa syarikat AI Amerika Syarikat mungkin menggunakan kebimbangan keselamatan semasa untuk mengukuhkan kedudukan pasaran sendiri serta menyokong aturan yang merugikan pesaing lebih kecil. Bagi syarikat baharu dan pembangun model berskala kecil, kos penilaian keselamatan dan proses pematuhan yang terlalu tinggi boleh menyebabkan persaingan semakin tertumpu kepada syarikat yang mempunyai modal lebih besar.
Ketua Pegawai AI kumpulan pengiklanan WPP, Daniel Hulme, pula berpendapat bahawa persetujuan semua syarikat dan negara untuk menggantung atau memperlahankan pembangunan AI tidak realistik. Beliau berkata industri tidak mungkin mencapai pendirian bersama dan tidak menjangkakan pengurangan kadar pembangunan AI dalam erti kata sebenar akan berlaku.
Pada masa yang sama, Anthropic dan OpenAI masih melancarkan versi model termaju yang lebih murah pada minggu ini, walaupun kedua-duanya menyuarakan sokongan terhadap pembangunan yang lebih terkawal. Perkembangan itu menunjukkan bahawa kenyataan awam mengenai risiko keselamatan belum mengubah serta-merta rentak pengkomersialan model dan persaingan pasaran. Harga produk yang lebih rendah boleh meluaskan penggunaan dalam kalangan pelanggan korporat, tetapi turut menjadikan penilaian keselamatan, pengurusan kebenaran akses dan tanggungjawab penggunaan isu operasi yang lebih nyata.
Hulme berpendapat tumpuan peraturan sepatutnya diberikan kepada kerosakan yang mungkin berlaku apabila AI digunakan secara tidak wajar atau dalam situasi yang salah, bukannya mengenakan tuntutan umum supaya seluruh industri menghentikan pembangunan. Beliau memberikan perbandingan bahawa jika sebuah syarikat tidak akan mengupah graduan baharu yang mabuk untuk menjalankan tugasan tertentu, syarikat itu juga tidak sepatutnya menyerahkan tugasan sama kepada AI tanpa semakan tambahan.
Beliau turut mencadangkan supaya model diuji oleh badan bebas sebelum dilancarkan secara rasmi. Kerajaan, katanya, boleh merujuk sistem ujian klinikal dalam industri farmaseutikal dengan mengesahkan keselamatan produk dalam persekitaran tertentu terlebih dahulu sebelum menentukan skop penggunaannya. Dalam pasaran AI, perdebatan itu semakin beralih daripada persoalan sama ada pembangunan perlu diperlahankan kepada persoalan model mana yang perlu diuji, pihak yang menjalankan ujian dan tahap tanggungjawab syarikat terhadap hasil selepas model digunakan.