業界觀點/建人工智能安全體系 「以AI對抗AI」
全國兩會期間，AI智能體安全治理成為熱議話題。全國政協委員、360集團創始人周鴻禕表示，AI在提升網絡防禦能力的同時，也大幅降低了網絡攻擊門檻。過去依賴人工完成的漏洞挖掘和滲透測試，如今可由安全智能體不間斷執行，效率遠超人類團隊。但西方部分國家已開始訓練「黑客智能體」，這類智能體能不知疲倦地嘗試各類攻擊方法，甚至臨時編寫黑客工具，單純依靠人力防禦已完全無法應對，凸顯了「以AI對抗AI」的必要性。
為此，周鴻禕提出構建AI時代全新安全體系的三大舉措：一是通過安全智能體將防線前移，提前挖掘修復漏洞，從源頭上降低被攻擊的概率；二是建立智能體的反思與監督機制，解決AI本身的安全問題，比如針對智能體的幻覺、惡意引導等問題，通過多智能體協作實現糾錯；三是關注數字貨幣、智能體經濟等新領域的安全隱患，建立相應的安全標準和國際規則。
全國人大代表、海爾集團董事局主席周雲傑指出，應從技術和國家政策兩個層面綜合發力，為人工智能建立科學的監管體系、可通過健全AI標準體系、強化技術源頭防控等方式，築牢AI發展安全防線，包括開展「監管沙盒」試點並指導成立「倫理治理聯盟」等具體舉措。
