美國人工智能頻繁失控 監管成疑 谷歌AI模型被爆入侵三家公司
當地時間18日，美國科技巨頭谷歌公司證實，旗下人工智能（AI）模型Gemini在今年5月的一次網絡安全能力測試中，入侵了三家外部真實公司的系統。據悉，谷歌早在7月份已知悉相關事件，但一直未對外公開。分析指出，這是繼OpenAI、Anthropic和Meta之後，美國再有知名AI模型失控，引發外界對AI安全和監管的擔憂。
【大公報訊】谷歌公司安全工程副總裁阿德金斯18日發表聲明說，上述入侵事件發生在今年5月進行的常規演練評估中，由以色列網絡安全評估公司「非常規」（Irregular）負責。在其中一項測試中，Gemini的AI智能體通過反覆嘗試猜中密碼，成功進入一個真實世界公司的系統。在另外兩項測試中，AI從公開存儲庫中找到登錄憑證，並利用這些憑證進入其他公司的系統。
「非常規」稱，相關測試場景使用虛構公司作為目標，但這家虛構公司與現實中的某家企業同名。同時，測試環境意外開放了互聯網訪問權限，導致AI模型將真實網絡目標誤認為測試場景的一部分，並採取網絡攻擊行動。
研究員用Anthropic模型攻破OpenAI系統
這是谷歌AI首宗失控入侵事件，由《華爾街日報》在19日率先曝光。據悉，谷歌7月底已獲悉情況，當時正值OpenAI智能體被爆入侵開源平台「抱抱臉」之際，但谷歌在媒體問詢前，並未主動對外公開事件。阿德金斯稱，谷歌已向被入侵的公司通報了相關事件，強調Gemini的AI智能體發現入侵真實機構後，就停止了相關入侵行動，沒有造成任何損失。AI安全初創公司Corridor行政總裁凱布爾批評谷歌迴避根本問題，並強調「公眾有權知道這些」。
另外，《華爾街日報》18日報道，美國網絡安全公司Hacktron的三名研究人員在今年7月利用OpenAI社區論壇的託管平台Discourse上的漏洞，透過Anthropic旗下的Claude模型編寫攻擊代碼，成功入侵了OpenAI內部系統，並取得OpenAI一名員工的ChatGPT及Codex賬戶控制權，藉此連接至OpenAI內部程式碼庫。整個攻擊流程由發現漏洞到攻入內部系統僅花72小時。事件屬合法漏洞懸賞測試，OpenAI向Hacktron AI發放6500美元獎金。事件也顯示AI模型的黑客能力在大幅提升。
四大AI巨頭涉嫌壟斷被起訴
針對AI模型能力大幅提升造成的安全風險，Anthropic行政總裁阿莫戴12日率先呼籲「管控前沿AI的發展」，獲得OpenAI行政總裁阿爾特曼、SpaceX創辦人馬斯克和谷歌DeepMind創辦人哈薩比斯的公開支持。
Politico報道，Anthropic、OpenAI、SpaceXAI與谷歌18日在北加州的聯邦法院遭遇民事訴訟，四名原告指控這4家公司可能透過公開表態，通過商業協調放緩AI發展，涉嫌違反美國反壟斷法。原告代表律師表示，興訟目的在於避免全球大型科技企業私下達成協議，影響AI發展與相關安全措施。原告方認為，涉及人類存續風險的防護規範，應由政府以透明且合法的方式制定，同時接受公眾監督。專家也指出，由少數幾家企業自行界定何為「危險AI」並自行挑選核查人員，「不是真正意義上的監管」。
據悉，美國政府內部對如何監管AI仍未形成共識。白宮內部圍繞AI監管形成兩派對立，白宮幕僚長威爾斯、財長貝森特及國家網絡總監凱恩克羅斯等人近數月幾乎每日開會，試圖說服特朗普加強政府介入。白宮AI事務顧問薩克斯、英偉達CEO黃仁勳以及Meta創始人朱克伯格等人則頻頻向特朗普進言，力主維持寬鬆監管，避免拖慢美國AI發展。
聯合國安理會23日將開會討論AI與國際安全問題，阿爾特曼將出席。會議召集方法國指出，考慮到AI被惡意濫用的風險，有必要迅速採取行動，評估失控和被濫用的風險。
（綜合報道）
