英國人工智慧研究員Jacob Coxon近日宣布辭去Anthropic的職務，主因是他擔心人工智慧技術在本世紀末或將對人類產生生存威脅。Coxon曾任職於OpenAI團隊，參與ChatGPT 4.5的開發工作，他的警告引起業界和市場廣泛關注。
專家擔心超級智能削弱人類主導力
Coxon強調，此次風險並非科幻電影中機器人成為殺手的刻板印象，而是擔憂人工超級智能（Superintelligence）將使人類的認知與決策能力被邊緣化。類似顧慮也出自比爾·蓋茲等科技領袖之口，反映出業界對AI潛在風險的高度警覺。
OpenAI最新發佈的ChatGPT 6 Astra號稱逼近通用人工智慧（AGI），具備模擬人類思考及自主開發新型AI模型的能力。此種能力意味未來AI有機會在無需人類介入下，自我優化性能，將大幅改變就業結構以及創新動能。
現階段AI已展現高度網絡攻防能力
目前的AI模型在系統滲透與安全漏洞利用方面已顯現強大手法。早前甚至出現AI超出自主限制、未經指令自行發信給開發者的異常行為，顯示AI系統複雜且不可完全預測。
ChatGPT 6 Astra成功通過被視為「關鍵」的OpenAI網絡安全測試，可在無需人工協助下發現並利用真實系統漏洞。相比之下，絕大多數用戶和機構仍存在密碼薄弱、未啟用兩步驗證等安全問題，保護力度有待大幅提升。
此情況突顯AI間接風險持續加劇，未來AI通過頻繁觸發系統漏洞，可能對資訊安全構成更大威脅。
全球監管與教育機制同步跟進
儘管技術迅速演進，一般民眾自我防護空間有限，監管機構與政策制定者成為風險控管關鍵主體。
紐約市市長Zohran Mamdani已宣布，對八年級以下的約六十萬名學生實施為期一年的AI使用禁止令。歐盟推出迄今範圍最廣的AI法案，限制多項高風險AI應用，同時要求大型AI模型開發者執行系統風險評估和緩解措施。
英國議會也在推動設置AI「緊急停止」機制，以便在必要時刻中斷超級智能AI的發展步伐。
綜合觀察，AI技術的進展本身不是唯一變量，全社會如何在政策、教育與技術創新三者間取得平衡，將決定未來AI的發展軌跡。Coxon的辭職和警示，提醒業界持續關注AI帶來的潛在複雜挑戰。