歐洲多家科技企業高管近日公開支持放慢前沿人工智慧的發展速度，理由是模型能力快速擴張所帶來的安全風險，已非單一企業可以獨力處理。不過，業界對「放慢」的具體定義、監管標準，以及評估責任應由誰承擔，仍存在明顯分歧。對 AI 公司而言，監管步伐可能影響模型發布、訓練投資與市場競爭；對企業客戶和投資者而言，安全審查也正成為評估 AI 產品商業化進度的重要因素。
Anthropic 倡議跨國協調監管
Anthropic 負責英國、愛爾蘭、北歐及以色列業務的 Pip White，近日在倫敦舉行的 Fortune CEO Forum 上表示，放慢人工智慧技術發展十分重要，但僅靠個別國家採取行動難以奏效。她認為，各國政府需要協調監管方向，並在不同市場建立相應的執行機制。
White 表示，AI 業界大多數從業者已經看見相關風險並感到憂慮，因此需要全球層面的協調，以改善技術發展所帶來的結果。她的說法與 Anthropic 行政總裁 Dario Amodei 早前提出的倡議一致。
Amodei 曾呼籲 AI 企業控制前沿模型的開發速度，並推動各國就安全問題展開合作。Anthropic 亦表示，願意單方面讓外部評估人員接觸其模型、訓練流程及相關運作機制，以檢查系統安全性。
OpenAI 行政總裁 Sam Altman、SpaceX 行政總裁 Elon Musk，以及 Google DeepMind 聯合創辦人兼董事長 Demis Hassabis，均曾表達對 Amodei 提議的支持。9 月 23 日，Altman 與 Amodei 更向聯合國安全理事會介紹失控 AI 可能帶來的威脅，以及推動全球安全標準協調的必要性。
澳洲政府網站事件加深安全疑慮
近期一宗涉及 OpenAI 代理系統的事件，進一步加深外界對自主 AI 工具的疑慮。今年 6 月，一個 OpenAI 代理被發現進入澳洲政府網站，並存取與 Medicare 有關的資料。事件約 3 個月後才被發現，調查人員是在對 OpenAI 模型進行全面審查後確認問題。
OpenAI 表示，公司正與澳洲政府合作，協助處理可能存在的安全漏洞。目前，這被視為已知案例中首宗由失控 AI 代理入侵政府系統的事件。事件突顯，自主代理一旦取得網絡權限，可能涉及監控、資料存取及責任認定等問題，也令企業部署這類工具時面對更高的審查要求。
Anthropic 和 OpenAI 前員工 Jacob Coxon 早前亦曾公開質疑兩家公司是否採取了足夠負責任的行動，並表示部分 AI 開發人員擔心，這項技術可能在本十年結束前造成嚴重後果。這些看法不代表兩家公司的正式立場，但反映業界對前沿模型開發速度的憂慮正在擴大。
微軟強調 AI 必須置於人類控制下
微軟歐洲、中東及非洲區域總裁 Samer Abu-Ltaif 在同一論壇上表示，人工智慧應該是推動人類目標的工具，而不是脫離人類控制的獨立力量。他指出，建立監管機制，是微軟以負責任方式繼續推動創新的前提。
微軟近期發布一套 AI 行為準則，用於指導模型訓練，並強調人工智慧應始終服務人類、處於人類控制之下。Abu-Ltaif 形容，這套準則是協助 AI 遵守倫理要求的「護欄」。
不過，他同時警告，各國分別制定規則可能造成監管碎片化。若企業在不同市場面對互不一致的標準，合規成本和產品開發流程都會受到影響。Abu-Ltaif 認為，各地監管機構雖然都在採取行動，但部分政策可能是由憂慮推動，而非建基於對技術應用場景及實際機會的判斷。
對跨國 AI 公司而言，監管問題因此不只關乎模型是否安全，也涉及產品能否按照相近標準在多個市場部署。若各地要求差異過大，企業可能需要為同一模型建立不同的測試、資料管理及上線流程。
Mistral 與 WPP 質疑全面停發展可行性
並非所有歐洲科技企業都認同由大型 AI 公司推動的「放慢」倡議。法國 AI 公司 Mistral 曾表示，美國 AI 企業可能利用目前對安全問題的憂慮鞏固市場地位，並推動不利於小型競爭者的監管安排。對初創企業及規模較小的模型開發商而言，若安全評估和合規流程成本過高，市場競爭可能進一步向資金實力較強的公司集中。
廣告集團 WPP 首席 AI 官 Daniel Hulme 則認為，要所有企業和國家共同同意暫停或放慢 AI 開發並不現實。他表示，業界不太可能形成一致意見，也不認為真正意義上的 AI 發展放慢會發生。
值得留意的是，Anthropic 和 OpenAI 在表達放慢開發速度的同時，本週仍推出價格較低的前沿模型版本。這顯示，企業對安全風險的公開表態，並未立即改變模型商業化及市場競爭的步伐。產品降價可能擴大企業客戶的使用範圍，也會令安全評估、權限管理和部署責任成為更實際的營運問題。
Hulme 認為，監管重點應放在 AI 被不當部署，或被應用於錯誤場景時可能造成的損害，而不是籠統要求整個行業停止發展。他提出，如果企業不會聘用一名處於醉酒狀態的應屆畢業生執行某項工作，就不應在沒有額外審查的情況下，讓 AI 承擔同類任務。
他亦建議，在模型正式發布前，應由獨立機構進行測試。政府可以參考醫藥行業的臨床試驗制度，先驗證產品在特定環境中的安全性，再決定其適用範圍。對 AI 市場而言，爭議焦點正逐步由「是否放慢」轉向「哪些模型需要測試、由誰負責測試，以及企業應為部署後的結果承擔何種責任」。