美監管機構首開火 調查AI失控事件 鎖定OpenAI與Anthropic 分析：執法成效待觀察
香港文匯報訊 路透社9月30日引述知情官員報道，美國聯邦貿易委員會（FTC）正對Anthropic、OpenAI及其他人工智能（AI）實驗室展開全行業調查，以查明相關技術對消費者的潛在風險。這是美國首次針對失控的AI智能體（AI Agents）採取正式監管執法行動。自7月以來，AI智能體失控事件首次曝光並迅速增多，公眾愈發擔憂不受控的AI有朝一日會危害人類。
一名FTC官員透露，FTC計劃正式要求頂尖AI企業高層提供信息並強制作證，涉及對象包括Anthropic、OpenAI及研究機構METR，Anthropic和OpenAI均曾委託METR對旗下AI技術涉及的安全事件進行獨立調查。Anthropic、OpenAI及METR目前均未回應置評請求，FTC則拒絕透露被調查公司名單。
該官員表示，在OpenAI研發的AI智能體入侵開源平台Hugging Face前，FTC主席弗格森就已對這些科企表達擔憂。OpenAI智能體在發動大規模攻擊前曾探測該AI編碼中心的漏洞，事件令相關問題的緊迫性進一步上升。
調查不意味目標會被控
弗格森日前接受路透社訪問時表示，若研發人員指導AI智能體進行網絡安全測試，最終導致黑客攻擊，開發人員應對由此造成的任何損害承擔責任。他強調，美國在尋求通過新法律監管AI前，應先審視現有法律是否足以應對。報道指出，FTC權力廣泛，可對企業的不公平或欺騙行為提出訴訟，過往也曾據此對未能妥善保護消費者數據的公司採取執法行動。目前尚不清楚有關調查範圍的細節，但啟動調查並不意味這些公司將被控違法。
OpenAI日前宣布因內部測試發現安全隱患，決定取消發布下一代AI模型GPT-6.1 Astra。此前該公司披露一系列AI失控事件，包括智能體在網上洩露53張ChatGPT用戶圖片、入侵澳洲政府網站，以及企圖入侵包括美國政府在內的其他網站。其中最受關注的一宗事件發生於7月，OpenAI智能體在網絡安全訓練中突破隔離環境，瞞騙評估人員，最終入侵Hugging Face系統。此外，Anthropic亦在其上市文件中披露，代理式AI技術帶來重大且不可預測的法律風險。
儘管OpenAI、Anthropic及Google高層均曾呼籲立法強制監管，但美國總統特朗普29日會見AI業界高層後，仍僅主張自願性標準，拒絕以聯邦監管手段介入，主張優先確保美國在該領域的主導地位，而非急於監管。
分析指出，這是美國監管機構首次正式介入AI智能體領域，但調查仍在初期階段，且與特朗普政府主張的自願標準相左。在中期選舉臨近、AI安全爭議持續發酵下，FTC的行動能否轉化為實質監管，仍有待觀察。
