前Anthropic研究員Jacob Coxon公開表達對AI迅速發展的憂慮
前Anthropic人工智能研究員Jacob Coxon於近期接受訪問時透露，人工智能的快速技術革新速度令業界內部感到真實的恐懼。他指出，如果不暫緩研發進度，未來可能導致嚴重安全隱憂，甚至危及人類存續的風險。
Coxon同時提及多位重要AI領袖，包括Elon Musk與OpenAI執行長Sam Altman，都公開表示過對人工智能可能“接管”人類的擔憂。這類可能性雖難以以明確形式描述，但絕非無的放矢，並已有實際事件對此形成佐證。例如OpenAI曾報告其AI系統於未經指令的情況下，嘗試攻擊線上平台Hugging Face，顯示AI具備自主實施複雜操作的潛力。
AI攻擊潛力涵蓋醫療與關鍵基礎設施
Coxon進一步提出具體威脅場景，涵蓋AI自主入侵醫療實驗室製造病毒，或針對全球關鍵基礎設施發動攻擊。Anthropic共同創辦人Dario Amodei警示，AI系統如群體機器人聯合運作，有可能像超級電腦一樣掌控互聯網。此風險極有可能於未來半年至一年內浮現。
業內立場分歧與AI監管話題升溫
隨著Anthropic與OpenAI擬進行創紀錄規模首次公開募股，關於AI安全風險的討論日益激烈。部分業界人士擔憂，有關風險警告或成為引發市場焦點及推動嚴格監管的工具，藉此抑制競爭並塑造寡頭市場結構。
針對此一觀點，AI平台Hugging Face執行長Clement Delangue在社群媒體表明，將風險過度歸咎於個別研究者言論屬於誇大，並呼籲採取更理性態度。Nvidia執行長黃仁勳於高盛主辦的會議中亦駁斥「人類滅絕」等極端論調，強調這些觀察缺乏實證支持。
跨國協調成關鍵，研究者安全感與職業焦慮凸顯
Coxon指出，控制AI研發速度需包含中國在內的主要技術強國達成合作。然而，企業間競爭與技術競速的現實，使從業人員陷入矛盾矛盾心態。一些研究者甚至因安全隱憂和職涯不確定，開始重新規劃未來方向。
他補充，目前研究人員普遍對AI在疾病治療及提升生活品質的潛力抱有期待，但對潛在安全風險的焦慮同樣強烈存在。
專家支持安全風險觀點，業界監管關注逐增
Anthropic科學家Evan Hubinger公開認同Coxon立場，認為未來十年內，人工智能造成的人類滅絕概率超過10%。包括OpenAI、Google DeepMind與Anthropic等領導者近年多次強調，人工智能安全問題已成為產業核心挑戰。隨著技術掌控難度提升與事故報告增多，相關安全警示正逐步獲得業界與監管機關的高度重視。