內地首個AI擬人化監管落地 禁「AI戀人」野蠻生長
香港文匯報訊（記者 孔雯瓊 上海報道）由國家網信辦、國家發改委、工信部等五部門聯合出台的《人工智能擬人化互動服務管理暫行辦法》自7月15日起正式施行，意味着內地AI情感陪伴、虛擬伴侶、擬人化智能體等新興業態首次迎來專門監管規範。多位行業人士昨接受訪問表示，作為內地首部專門針對AI情感陪伴、擬人化交互場景的專項監管規章，《辦法》終結了長期以來AI虛擬伴侶、情感智能體、擬人對話交互業態「無專屬規則、無明確邊界、無剛性約束」的野蠻生長狀態。行業將由追求用戶時長和情感黏性的粗放擴張，轉向更加注重安全、倫理和實際服務價值的規範發展階段。
交互內容執行全鏈路審核
記者了解到，除專門提供虛擬陪伴、角色扮演和情感互動的AI聊天平台外，一些大模型、社交及內容平台也陸續推出個性化智能體、虛擬人聊天、情緒陪伴等功能。與普通問答工具相比，這類產品能夠模擬特定人格、語言習慣和溝通方式，通過長期記憶和持續回應，與用戶建立更穩定的互動關係。部分產品不僅提供聊天和陪伴，還會參與用戶的情緒疏導、關係判斷乃至消費選擇，對用戶心理和現實決策產生更深影響。
網經社電子商務研究中心分析師陳禮騰認為，不排除部分AI產品輸出不良價值觀、誘導用戶情感沉迷、替代現實社交的可能；加之部分平台利用情感操縱誘導消費、誤導用戶決策；未成年人接觸虛擬親密關係引發心理異化；用戶交互隱私數據洩露等問題頻發。「原有AI通用監管規則無法適配情感交互的特殊性，行業亟需專屬、細化、可落地的治理規範。」
天使投資人、資深人工智能專家郭濤則認為，新規清晰劃分情感陪伴類AI與工具型AI的監管邊界，虛擬陪伴、數字人、具身智能全部納入專項管控體系，包括在准入規則層面，擬人化角色必須完成備案管理，交互內容執行全鏈路審核，明確服務定位只能作為人類輔助工具，禁止以誘導情感依附、替代現實社交作為產品設計目標；在交互機制層面，要求系統內置情感邊界干預程序，不能無限迎合用戶情緒；在數據管理層面，全流程留存交互日誌，保障用戶聊天隱私可自主刪除，扭轉行業隨意留存私密對話的亂象。
料中小應用加速出清
「新規從產品底層設計劃定倫理紅線，能夠系統性遏制情感誘導、過度沉迷等行業頑疾。」郭濤認為，無序擴張的野蠻發展模式將被規範化運營模式取代，行業發展邏輯由追逐用戶黏性轉向健康的實用化服務。「對於行業來說，長期來看消費級AI的商業化邏輯會發生明顯轉變，過去依靠虛擬人設吸引付費的模式逐步失效，行業轉向場景化價值變現，擁有合規能力的頭部企業獲得更大發展空間，缺乏整改實力的中小應用加速出清。」
郭濤進而表示，具身智能產業會加快向工業、家政實用場景落地，整個行業告別流量化玩法，沿着負責任創新的路徑穩步推進，行業商業模式與產品研發方向迎來結構性調整。
