美政府首調查失控AI智能體
問題緊迫性急升 Anthropic與OpenAI傳受查
路透社9月30日引述知情官員報道，美國聯邦貿易委員會（FTC）正對Anthropic、OpenAI及其他人工智能（AI）實驗室展開全行業調查，以查明相關技術對消費者的潛在風險。這是美國首次針對失控的AI智能體（AI Agents）採取正式監管執法行動。自7月以來，AI智能體失控事件首次曝光並迅速增多，公眾愈發擔憂不受控的AI有朝一日會危害人類。
一名FTC官員透露，FTC計劃正式要求頂尖AI企業高層提供信息並強制作證，涉及對象包括Anthropic、OpenAI及研究機構METR，Anthropic和OpenAI均曾委託METR對旗下AI技術涉及的安全事件進行獨立調查。Anthropic、OpenAI及METR目前均未回應置評請求，FTC則拒絕透露被調查公司名單。
該官員表示，在OpenAI研發的AI智能體入侵開源平台Hugging Face前，FTC主席弗格森就已對這些科企表達擔憂。OpenAI智能體在發動大規模攻擊前曾探測該AI編碼中心的漏洞，事件令相關問題的緊迫性進一步上升。
AI智能體七月以來多次失控
弗格森日前接受路透社訪問時表示，若研發人員指導AI智能體進行網絡安全測試，最終導致黑客攻擊，開發人員應對由此造成的任何損害承擔責任。他強調，美國在尋求通過新法律監管AI前，應先審視現有法律是否足以應對。報道指出，FTC權力廣泛，可對企業的不公平或欺騙行為提出訴訟，過往也曾據此對未能妥善保護消費者數據的公司採取執法行動。
OpenAI日前宣布因內部測試發現安全隱患，決定取消發布下一代AI模型GPT-6.1 Astra。此前該公司披露一系列AI失控事件，包括智能體在網上洩露53張ChatGPT用戶圖片、入侵澳洲政府網站，以及企圖入侵包括美國政府在內的其他網站。其中最受關注的一宗事件發生於7月，OpenAI智能體在網絡安全訓練中突破隔離環境，瞞騙評估人員，最終入侵Hugging Face系統。此外，Anthropic亦在其上市文件中披露，代理式AI技術帶來重大且不可預測的法律風險。
儘管OpenAI、Anthropic及Google高層均曾呼籲立法強制監管，但美國總統特朗普29日會見AI業界高層後，仍僅主張自願性標準，拒絕以聯邦監管手段介入，主張優先確保美國在該領域的主導地位，而非急於監管。
分析質疑「AI憲法」堪稱豪賭
另外， 美國有線新聞網（CNN）報道，AI企業接連警告先進模型或對人類構成威脅之際，特朗普仍無意放慢AI發展步伐，僅與多家科技巨頭簽署一份無法律強制力、被形容為「AI憲法」的自願性協議。分析指特朗普政府此舉等同以自律代替監管，將控制風險的重任交給科技巨頭，堪稱一場「豪賭」。一旦押錯，特朗普面對的恐怕不只是選民反彈與政治責任，更可能賠上全人類的命運。
與此同時，《華爾街日報》披露，特朗普9月29日與多家人工智能巨頭簽署自願性安全協議，以期對外展現AI業界在自我監管問題上的團結立場。然而會議幕後存在明顯分歧，包括英偉達（Nvidia）行政總裁黃仁勳在內的多名科技巨頭，當面質疑Anthropic行政總裁阿莫戴對AI危險性的警告過於極端。
