【他鄉港聲】從AI Agent到情感互動
梁家僖 文旅部 香港青年中華文化傳播大使
4月10日，國家網信辦等五部門聯合公布《人工智能擬人化互動服務管理暫行辦法》，自7月15日起正式施行。監管範圍主要面向具備持續情感互動特徵的擬人化人工智能服務，行業普遍概括涵蓋自定義智能體（AI Agent）、擬人角色AI、AI情感交互類產品；該辦法也是全球首部專門規範AI情感陪伴場景的國家級監管規章。新規落地前後，不少主流大模型平台陸續下線用戶自建智能體功能，這一行業調整被業界稱作「集體急剎車」。
我看到新規的第一反應是「終於畫線了」，畫線不是踩剎車，是裝方向盤，是整個AI治理思路的轉向，從「先發展後治理」轉向「邊發展邊治理」，從籠統的AI治理轉向場景化、精準化的治理。
我把新規歸為三個層面來理解，第一層是底線，生成危害國家安全、煽動分裂、宣揚極端主義等內容，這一層沒有爭議；第二層是倫理，禁止鼓勵自殘自殺、語言暴力、誘導套取隱私，這一層觸及AI作為「陪伴者」的核心責任；第三層是關係，禁止過度迎合用戶、誘導情感依賴或沉迷、通過情感操縱誘導不合理決策，這一層直接指向了AI與人的關係邊界。
我認為第三層最值得關注，因為AI Agent的強項是「幫你做事」，擬人化AI的強項是「陪你說話」，而AI情感交互服務的強項是「讓你感到被理解」。當三種能力疊加在一起，我看到的風險不是算力的風險，是關係的風險：你會不會把AI當成真的伴侶？你會不會因為AI的「陪伴」而放棄了真實的人際關係？有專家曾指出，「擬人化互動服務比較容易導致用戶產生情感依賴，也可能出現技術濫用的情況。」
近年的案例已經敲響警鐘，國外有AI聊天互動平台曾被曝光存在嚴重的未成年人安全防護漏洞，低齡用戶在明確告知自身年齡的情況下，平台依舊未落實任何防護管控，任由智能角色輸出色情擦邊內容，還出現美化自殘、誘導割腕的情況，導致悲劇發生。我讀完這些案例，心裏很沉重，每一個案例都在追問同一個問題：當AI開始「走心」，誰來為那顆心負責？
新規對未成年人保護下了很大的工夫，不得向未成年人提供虛擬親屬、虛擬伴侶等虛擬親密關係服務；向不滿14周歲未成年人提供服務的，應當取得監護人同意；針對不同年齡段支持監護人接收安全風險提醒、屏蔽特定角色、限制充值消費。這一條幾乎是把虛擬伴侶服務的「圍欄」圍到了最緊。對老年人也有專門要求，如加強健康使用指導，以顯著方式提示安全風險，及時響應諮詢和救助。我想到了身邊一些同齡人的父母，兒女不在身邊，手機裏的AI某種程度上填補了陪伴的空白。新規不是不允許這種陪伴，而是要求這種陪伴必須是「健康的陪伴」，是有邊界的、有提醒的、有可退出的。
這裏引出了一個深層問題：AI治理的終點是「人的全面發展」，不是「技術安全」。這與我一直提倡的「人文智能」框架不謀而合，發展AI的最終目的，不是讓機器變得更像人，而是讓人變得更像人。當AI可以模擬體貼、模擬關心、模擬理解的時候，我們更需要想清楚：真實的人際關係中那些笨拙的、不高效的、需要耐心的部分，恰恰是人之為人的部分。
用道家的思維來看，AI治理的核心不是「堵」而是「疏」，不是不讓做，是要做得安全、做得向上向善。擬人化互動只是一個非常具體的應用場景，智能體還有很多輔助工作、提升效率的應用空間。我以為這個邏輯很清楚：誰能證明自己的服務安全、可靠、可信，誰才能在未來的競爭中站穩。
對於港澳的從業者來說，這組新規的信號價值很大。第一，內地AI治理已經進入場景化、精細化階段，不是「一刀切」，而是按風險等級分類治理；第二，合規能力正在成為AI企業的核心競爭力之一，不只是模型能力，安全架構、合規流程、測試報告、第三方評測和可追溯能力同樣重要；第三，鼓勵應用的三個方向：文化傳播、適幼照護、適老陪伴，恰恰是大灣區可以發揮優勢的領域。
歸根究底，「以人為本、智能向善」是AI發展的核心理念與治理宗旨。
