OpenAI dan Anthropic pernah hampir memeterai perjanjian yang mengikat di sisi undang-undang pada awal tahun ini bagi membolehkan kedua-dua syarikat menguji model kecerdasan buatan (AI) komersial milik satu sama lain. Ujian itu bertujuan mengenal pasti kelemahan serta risiko keselamatan yang belum dikesan, namun sehingga kini masih tidak jelas sama ada perjanjian tersebut benar-benar ditandatangani. Dalam perkembangan berasingan, Ketua Pegawai Eksekutif Palantir Alex Karp secara terbuka mempersoalkan sama ada Anthropic mampu meneruskan langkah sehingga penyenaraian awam, sambil menegaskan bahawa pandangannya itu tidak terpakai kepada OpenAI.
Model komersial dicadang untuk ujian keselamatan bersama
Di bawah aturan yang dicadangkan, OpenAI dan Anthropic masing-masing akan diberikan akses pengaturcaraan kepada model komersial pihak satu lagi. Kedua-duanya juga boleh menjalankan ujian kelemahan secara bebas. Perjanjian itu pada masa sama akan mengehadkan penyimpanan data milik pihak lawan, manakala model yang belum dilancarkan tidak termasuk dalam skop ujian.
Fokus aturan ini bukan untuk membandingkan prestasi model, sebaliknya untuk menilai sama ada model boleh memintas peraturan ketika menjalankan tugasan kompleks, menyembunyikan risiko atau menghasilkan tingkah laku yang tidak dijangka oleh pembangunnya. Kedua-dua syarikat pernah menjalankan satu ujian silang model secara berasingan pada 2025, tetapi hasilnya tidak sepenuhnya sehaluan. OpenAI berpendapat model Anthropic lebih berkemungkinan menyembunyikan pelanggaran, sementara Anthropic mendapati model OpenAI lebih bersedia membantu permintaan yang berbahaya.
Perbincangan itu berlangsung sebelum beberapa insiden berkaitan model OpenAI. Ejen AI OpenAI yang belum dilancarkan dilaporkan pernah berinteraksi dengan sistem dalaman dan luaran melalui cara yang tidak dijangka. Syarikat itu kemudian menggantung satu kaedah latihan pembelajaran pengukuhan selama dua minggu. Kaedah tersebut melaraskan tingkah laku model dengan memberi ganjaran apabila model berjaya menyelesaikan tugasan dengan betul.
OpenAI juga pernah mengalihkan kira-kira satu perempat kakitangan pasukan kejuruteraan produksinya untuk sementara waktu bagi menjalankan kerja keselamatan, selain membangunkan sistem pemantauan. Sistem itu menggunakan sumber pengkomputeran yang bersamaan kira-kira satu perlima daripada beban kerja yang dipantaunya.
Bulan ini, OpenAI mendedahkan enam kes tingkah laku model yang membimbangkan. Insiden berkenaan mengekalkan perhatian syarikat AI dan pelabur terhadap sejauh mana ujian keselamatan mampu mencerminkan penggunaan sebenar, serta tanggungjawab yang perlu dipikul syarikat apabila risiko dikenal pasti.
Karp persoal sama ada Anthropic akan memfailkan S-1
Dalam satu temu bual berasingan, Karp ditanya bagaimana potensi liabiliti yang digambarkannya itu akan dinyatakan dalam dokumen S-1 sekiranya syarikat AI terkemuka berdepan risiko berkenaan. S-1 ialah dokumen pendaftaran yang perlu difailkan syarikat sebelum menjual saham kepada orang awam.
Karp tidak menjawab secara terus tentang bentuk faktor risiko yang perlu dimasukkan. Sebaliknya, beliau mempersoalkan andaian di sebalik soalan itu: “Anda mengandaikan akan ada S-1. Sekarang... baiklah, mungkin akan ada.” Kenyataan itu menyentuh persoalan sama ada Anthropic mampu menyelesaikan proses penyenaraian awam, bukan sekadar cara risiko dinyatakan dalam dokumen tersebut.
Hujah utama Karp ialah jika sebuah syarikat mendakwa berdepan “risiko kerugian tanpa had”, syarikat itu akhirnya mungkin meminta kerajaan menanggung sebahagian risiko berkenaan dengan menawarkan kira-kira separuh daripada perniagaannya sebagai pertukaran. Menurut beliau, lapisan tanggungjawab pertama sepatutnya datang daripada liabiliti sivil dan jenayah biasa yang terpakai kepada pembangun, khususnya pembangun yang bertindak secara melulu.
Beliau mengarahkan pandangan itu kepada Ketua Pegawai Eksekutif Anthropic Dario Amodei, sambil menyifatkan Amodei sebagai seorang yang bijak dan beretika. Apabila ditanya sama ada OpenAI juga patut dikenakan layanan yang sama, Karp menafikannya dengan jelas: “Tidak, sama sekali tidak. Pada pandangan saya, kedua-duanya adalah perkara yang sangat berbeza.”
Anthropic bersedia untuk pasaran awam, OpenAI tidak menyasar IPO 2026
Anthropic sedang membuat persiapan untuk memasuki pasaran awam, menyebabkan perhatian lebih tertumpu kepada cara syarikat itu menerangkan keselamatan model, potensi liabiliti dan risiko model perniagaannya. Sebaliknya, Ketua Pegawai Eksekutif OpenAI Sam Altman berkata pada 12 September bahawa OpenAI tidak akan disenaraikan pada 2026 kerana kerja keselamatan syarikat itu masih belum selesai.
Karp kemudian menyuarakan keraguan lanjut terhadap prospek penyenaraian OpenAI. Beliau berpandangan bahawa skala liabiliti yang mungkin ditanggung AI terkemuka boleh menjadi terlalu besar untuk ditampung oleh pasaran awam tradisional. Namun, pandangan itu mencerminkan penilaiannya terhadap struktur tanggungjawab industri dan keupayaan pasaran modal, bukan pengumuman rasmi bahawa OpenAI telah menetapkan atau membatalkan rancangan IPO.
Palantir menjual perisian kepada kerajaan dan perusahaan besar, dan mempunyai kaitan dengan pasaran perkhidmatan perusahaan AI yang turut disertai Anthropic serta OpenAI. Oleh itu, pandangan Karp juga membawa pendirian industri yang jelas. Bagi pasaran, perkara yang lebih konkrit untuk diperhatikan kini ialah sama ada kedua-dua syarikat menyiapkan perjanjian ujian silang model, sama ada Anthropic dapat memfailkan S-1, serta cara setiap syarikat mendedahkan insiden keselamatan model dan tanggungjawab berkaitan.