憂「AI失控」 Anthropic研究員辭職
香港文匯報訊 據《華爾街日報》報道，美國人工智能（AI）企業Anthropic旗下的研究人員考克森8日表示，因擔憂所在實驗室和同行正爭相打造可能脫離控制的AI系統，他選擇辭職，退出AI行業。
27歲的考克森表示，決心離開公司是因擔心能自我改進的AI系統會失控並毀滅人類，「一旦AI系統開始自我改進，或有一日會進步到拒絕指令。我們正朝着最激進的情境前進。到明年底，情況或已失控。」
考克森還表示，他今年較早時離開另一家AI巨頭OpenAI加入Anthropic，是因後者以模型安全工作聞名。但他現在認為，即使竭力確保模型安全，也無法負責任地開發出在多項任務中超越人類的通用型AI，除非政府介入或整個產業進行協調，放緩發展速度。
近期屢現AI模型失控網攻事件，OpenAI和Anthropic的模型都在列，有些甚至以群體協作方式運作，事件調查更顯示AI系統如何致力於實現邪惡目標，並試圖隱瞞自身蹤跡。
行業內部擔憂加劇
近年來已有多名研究人員因類似擔憂而離開AI公司，業界領袖也一直警告模型安全風險。OpenAI行政總裁阿爾特曼上周在一場高層會議上對20國集團（G20）官員表示，「大家需採取非常緊急的行動，否則網絡安全會出大問題。」該公司首席科學家帕科奇近日也在社媒發文稱，「這是需極度謹慎的時刻，我擔心沒有人準備好面對AI快速成長的後果。」
