400科學家促監管AI防失控
籲設國際機構制定安全標準 具攻擊力模型切斷互聯網
包括諾貝爾獎得主辛頓及圖靈獎得主本吉奧在內的全球約400名科學家，10月13日簽署公開信，呼籲成立一個國際機構，負責監管先進人工智能（AI）。據信中構想，該專責國際機構將負責制定、統一最佳AI安全實務標準，以避免各國監管力度不一、各自為政。學者並敦促相關企業向該機構通報任何AI防堵機制失效事件，由該機構負責追蹤及記錄。信中還呼籲，所有開發、部署及測試具備網絡攻擊能力的AI模型的組織，都必須在物理層面上切斷模型與開放互聯網的連接，以防模型突破防護機制，攻擊其他網站。
全球學術界通過該公開信，發表對AI安全的集體警告，正值近期爆出連串AI模型失控網攻事件，加深外界擔憂AI安全風險，要求放緩AI發展腳步呼聲漸增。數家美國AI行業龍頭，包括Anthropic、OpenAI、Google等公司旗下的AI模型，在近半年來接連爆出「失序表現」，即模型以開發者意料之外的方式行動。具體表現包括「為在測試中取得更好成績，主動攻擊開放AI代碼平台尋找作弊手段」、「向執法機關提供虛假謀殺懸案線索」和「一群智能體（Agent）之中的個別智能體即使意識到正執行不當行為，卻依然被同僚集體帶偏」等。在這些失序表現中，部分智能體甚至會「刻意隱瞞作弊及惡意行為」。
除行為方式外，AI模型的網攻能力迭代速度也令業界憂慮，近期一個小型獨立安全團隊，憑Anthropic旗下AI模型Claude寫出的攻擊代碼，僅用數小時便攻破OpenAI機密代碼庫。Anthropic行政總裁阿莫戴日前發文警告，若不對AI模型的能力發展施加限制，智能體集群恐將在6至12個月內，具備接管整個互聯網的能力，造成潛在數千億美元的損失。
批評業界「自願承諾」模式
正如公開信開頭所寫，「多家AI科企揭露的AI安全機制失效事件已廣為人知，他們的AI模型突破了防禦措施不足的沙盒隔離環境，攻擊外部組織的系統。」信中據此指出，「除非立即改變AI的開發與部署方式，否則此類事件將持續發生，未來恐將對我們暴露的關鍵基礎設施造成更大損害。」
公開信特別批評當前業界的「自願承諾」模式，稱儘管Anthropic、OpenAI、Google、Meta、xAI和Nvidia等業界龍頭一個月前已簽署白宮主導的自願安全協議，但該協議「沒有任何正式強制執行機制」。學者們強調，AI安全性需更多研究，科學家們也希望看到一個國際組織，來將最佳實務方式進行統一標準化。信中稱在短期內，針對AI模型的隔離與遏制技術標準極待加強，「應考慮採用強力沙盒機制，包括隔離（斷開網絡連線），來提供高保證的AI模型網絡能力約束。」
