話你知/美國為何限制外國接觸兩款AI模型


  Mythos 5和Fable 5是什麼?

  •Fable 5和Mythos 5是Anthropic於9日推出的AI大語言模型,核心優勢為超強的漏洞識別與邏輯推理能力。兩者共享完全相同的底層架構,Fable 5設置了安全「防護欄」,面向大眾開放,一旦被問及相關高級別敏感問題,系統會自動將對話轉至其他能力偏低的模型繼續處理;Mythos 5能力全面強大,僅限美國政府以及少數經過嚴格審核的頂尖安全防禦基礎設施提供商使用。

  為何要設置「防護欄」?

  •Fable 5和Mythos 5都屬於Mythos系列。Anthropic於今年4月首次發布的Claude Mythos系統,在網絡安全方面能力表現突出,幾周之內就自主識別了數千個「零日漏洞」(即軟件開發者此前未知的安全缺陷),但它同時也能自主生成利用這些漏洞的攻擊方法,從而變成大規模黑客攻擊的工具。Mythos的能力引起美國銀行業警戒,美國財長貝森特與華爾街主要銀行CEO在模型發布後不久召開會議,討論其風險。Anthropic為避免Mythos系列被濫用,為其設定「防護欄」,發布了Fable 5。

  特朗普政府為何禁用?

  •亞馬遜CEO賈西11日致電美國官員,稱研究人員通過特定提示詞繞過了Fable 5的「防護欄」,獲取了可用於網絡攻擊的敏感知識信息。美國商務部12日以國家安全為由,禁止Fable 5和Mythos 5出口,並禁止美國國內的外國人使用。Anthropic隨後暫停兩模型的所有用戶訪問。