Anthropic dijadual memulakan IPO minggu ini, ketika satu penilaian bebas terhadap bahan dalaman dan temu bual pekerja mendapati pembangunan model AI syarikat itu hampir mencapai ambang amaran pecutan yang ditetapkannya sendiri. Ambang itu mungkin telah dicapai pada Julai. Penilaian tersebut menyifatkan risiko bencana akibat pecutan AI pada masa ini masih rendah, tetapi mempersoalkan asas bagi kesimpulan Anthropic bahawa modelnya belum melepasi ambang berkenaan. Sebahagian kaedah penilaian syarikat itu tidak dihuraikan sepenuhnya dan menjadi pertikaian.
Penilaian itu diterbitkan pada awal November oleh Model Evaluation and Threat Research (METR), sebuah organisasi penyelidikan bukan untung yang berpangkalan di California. Dalam penilaian keselamatan pada Ogos, Anthropic menyatakan risiko modelnya melepasi ambang adalah rendah setakat 15 Julai. Laporan baharu METR menilai semula laporan awam syarikat serta sebahagian maklumat risiko dalaman yang diberikan kepadanya. Perbezaan penilaian ini menambah perhatian terhadap tadbir urus keselamatan dan kadar pembangunan Anthropic menjelang IPO.
METR anggar kadar peningkatan keupayaan pada 1.9 kali
Ambang amaran dalaman Anthropic ditetapkan pada peningkatan dua kali ganda dalam keupayaan model menyelesaikan tugasan penyelidikan dan pembangunan tertentu dengan penglibatan manusia yang lebih sedikit. Dalam konteks ini, kadar dua kali ganda bermaksud kemajuan AI yang dicatatkan antara 2018 hingga 2024 berlaku dalam tempoh setahun. Ia digunakan sebagai penanda aras untuk mengukur pecutan pembangunan.
Berdasarkan perubahan dari Mac 2024 hingga Oktober 2025, METR menganggarkan keupayaan model Anthropic meningkat pada kadar kira-kira 1.9 kali penanda aras sejarah. Laporan itu menyatakan anggaran tersirat dalam laporan risiko Anthropic yang tidak diterbitkan ialah 1.97 kali. Namun, penggunaan ukuran lain yang munasabah boleh menghasilkan anggaran antara 1.3 hingga 2.8 kali, bergantung pada kaedah yang digunakan.
METR berpendapat hujah dalam laporan awam Anthropic bahawa modelnya belum melepasi ambang pecutan dua kali ganda adalah lebih kukuh daripada yang disokong oleh bukti. Organisasi itu berkata ambang tersebut mungkin telah dicapai pada 15 Julai. Bagaimanapun, sebahagian maklumat dan data Anthropic telah dipadamkan, sekali gus mengehadkan penilaian pihak luar. Kejelasan takrif tugasan dan pilihan ukuran juga boleh mempengaruhi pengiraan kadar peningkatan keupayaan.
Sistem AI turut menyumbang kepada peningkatan penyelidikan
Menurut laporan METR, kira-kira 80% pertumbuhan Anthropic pada Oktober berpunca daripada penggunaan sistem AI untuk membantu penyelidikan AI, bukannya penambahan atau peluasan kapasiti pengkomputeran. Dapatan ini menunjukkan pecutan pembangunan bukan semata-mata hasil daripada lebih banyak sumber pengkomputeran; tahap penglibatan alat AI dalam kerja penyelidikan juga memainkan peranan.
METR turut memetik maklum balas pekerja Anthropic yang menyatakan produktiviti mereka meningkat 12 kali ganda selepas menggunakan model dalaman syarikat. Berbanding penanda aras bagi tempoh 2021 hingga 2025, jumlah kod yang dihasilkan syarikat setiap suku tahun pula meningkat kepada kira-kira lapan kali ganda. Angka ini menggambarkan kesan alat dalaman terhadap kecekapan pembangunan, namun hubungannya dengan peningkatan keupayaan model secara keseluruhan bergantung pada kaedah pengukuran.
METR tidak menemui tanda jelas tentang kekangan atau pulangan marginal yang merosot dengan ketara. Oleh itu, kemajuan keupayaan dalam tempoh 12 bulan akan datang mungkin bertambah pantas. Namun, organisasi itu mengakui skop penilaiannya yang terhad boleh menyebabkan faktor yang mengehadkan kadar pembangunan terlepas pandang. Penilaian tersebut bukan ramalan yang pasti.
IPO Anthropic tingkatkan perhatian terhadap keselamatan
Ketua Pegawai Eksekutif Anthropic, Dario Amodei, sebelum ini berulang kali menggesa agar pembangunan teknologi diperlahankan. Pada September, beliau memberi amaran tentang risiko serius yang mungkin dibawa AI dan berkata keupayaan teknologi boleh berkembang lebih pantas daripada langkah keselamatan. Ketua Pegawai Eksekutif OpenAI Sam Altman dan beberapa tokoh industri lain juga pernah membincangkan kemungkinan AI pada masa depan mampu berkembang sendiri dan berada di luar kawalan manusia.
METR menyatakan peningkatan kecekapan penyelidikan mungkin membantu mengurangkan kebimbangan industri AI terhadap permintaan pengkomputeran serta kenaikan kos operasi dan pembangunan. Pada masa sama, perkembangan keupayaan model yang semakin pantas menghidupkan semula persoalan sama ada perlindungan keselamatan dapat bergerak seiring. METR pernah bekerjasama dengan Anthropic, OpenAI dan makmal AI lain dalam penilaian serta penyelidikan, selain menjalankan ujian bebas terhadap sistem AI.
Anthropic dijadual menetapkan harga IPO pada Rabu dan mula berdagang pada Khamis. Syarikat itu dilaporkan menyasarkan penilaian sehingga AS$1.4 trilion dan bercadang disenaraikan di Nasdaq Global Select Market dengan kod saham ANT. Ketika tarikh penyenaraian semakin hampir, jurang antara laporan awam dengan penilaian dalaman serta kekurangan data dan perbezaan kaedah METR terus menjadi tumpuan dalam perbincangan mengenai tadbir urus keselamatan Anthropic.