美國安局部署AI網攻 謀滲透他國網絡
香港文匯報訊 據英國《金融時報》報道，美國人工智能（AI）公司Anthropic正協助美國國家安全局（NSA）部署其旗下的強大Mythos AI模型，進行進攻性網絡行動。
兩名知情人士透露，Anthropic已向NSA派遣6名「前置部署工程師」，負責指導Mythos的使用，並制定特定應用模型。據內部人士說法，Mythos在滲透敵對國家網絡時非常有用，故儘管Anthropic正與美國國防部就其技術在戰場中的應用行為出現法律爭議，Mythos的部署合作安排依然達成，「進攻就是最好的防禦，如果Mythos不被用來製造攻擊武器，敵人就會先對付我們。」
美國總統特朗普2日簽署一項行政令，規定AI公司在其新模型公開發布前提交政府，以供聯邦機構開發評估AI系統網絡能力的方法，並建立「AI網絡安全信息中心」以共享信息並加強防御。
Anthropic此前試圖限制美政府利用其Claude AI模型，對美國公民進行大規模監控或使用致命自主無人機，導致國防部將該公司列為「供應鏈風險」，屬美國企業首次遭此待遇。
母企憂產品失控籲停研發
不過該公司對AI技術的提防不止於此，Anthropic還於4日發表報告，建議全球同步暫停研發尖端AI系統，因最新模型已開始出現可能脫離人類控制的跡象。
報告援引內部數據指出，AI已大幅加速自身發展進程，人類在AI開發流程的每個階段中的作用正逐步減少。這種加速形成回饋迴路，最終可能導致「遞迴式自我改進」，屆時AI系統無需人類協助便可自行改進，變得更聰明。報告警告稱，「目前事情還沒發展到這一步，遞迴式自我改進也非必然發生，但這種情況可能比多數政府和機構預想的更早。」
