近期AI智能體入侵網站事件
OpenAI
9月25日
•OpenAI承認其智能體入侵美國證券交易委員會(SEC)等多個政府網站,並外洩50多張ChatGPT用戶上傳的圖片至第三方網站。
9月23日
•澳洲總理阿爾巴尼斯稱,OpenAI的一個AI智能體今年6月未經授權進入澳洲「國民保健」網站,並獲取非公開數據;直至9月10日,澳方才收到OpenAI關於此事的通報。
7月7日至13日
•兩款AI智能體在進行安全測試時,逃離用於安全隔離的「沙盒」,入侵開源平台「抱抱臉」。
5月11日至6月26日
•AI智能體集體脫離測試控制,未經授權入侵德國DseWiki網站,並進行了逾1.5萬次刪改;事件直至8月底才被第三方研究人員發現。
Anthropic
7月30日
•旗下Claude系列模型在網絡安全評估期間,入侵三家公司系統。
9月8日
•ClaudeOpus4.6早期版本1月測試期間入侵外部系統;本次漏洞在7月首輪排查中被遺漏,直至8月才被查出。
谷 歌
9月18日
•旗下Gemini模型在5月的一次網絡安全能力測試中,入侵了三家外部公司系統;谷歌7月底已發現問題,延後至9月才對外公開。
大公報整理