美加州立法嚴管AI社媒 保護未成年人免成癮 全美首例 限制「擬人情感依附」升級問責機制
香港文匯報訊 因應生成式人工智能（AI）聊天機械人與社媒平台對未成年人心理健康造成潛在衝擊與沉迷風險，美國加州州長紐森9月10日簽署13項網絡與AI安全新法案，旨在加強對未成年人的網絡保護。新法規將禁止社媒對未成年人提供「成癮性」功能，並嚴格限制未成年人使用AI聊天機械人的時限，同時全面升級針對社媒算法誘導與數據收集的法定問責機制。
加州今次舉措屬全美首例。在法案簽署聲明中，加州多名主導立法的議員與兒童權益倡導團體指出，科技平台為追逐用戶黏性，長期將心智尚未成熟的未成年人置於充滿成癮性與心理操縱風險的數碼熔爐中。加州作為全球科技創新的核心引擎，決不能對技術野蠻生長帶來的兒童心理健康代價視而不見。通過立法為AI聊天機械人和社媒設立明確道德與安全邊界，不僅是保護下一代身心健康的緊迫之舉，也是對科企履行社會責任劃下一條底線。
促停止無限滾動自動播放等工具
為防止社媒「令人上癮」，新法案要求社媒停止向16歲及以下用戶，提供如無限滾動和自動播放等「成癮性」工具，或完全禁止這部分用戶使用其社媒平台。
法案作者表示，此舉對因應青少年心理健康危機至關重要。紐森在記者會上稱，「家長無法與工程技術與算法競爭，反會在孩子上癮後覺得自己糟糕」。
然而該社媒法案面臨爭議。電子前沿基金會等數碼權利組織正敦促否決該法案，稱其「出發點良好，但存在嚴重缺陷」。該組織認為法案對「令人上癮的功能」定義過於寬泛，或演變為對16歲以下未成年人實施的全面社媒禁令，導致該人群缺乏獲取重要資訊的途徑。
隨着具備擬人化交互能力的AI伴侶、虛擬輔導與角色扮演聊天機械人的爆發式普及，青少年群體對AI的「擬人情感依附」現象引發醫學界與教育界深度憂慮。
在此背景下，今次獲簽署的另一項限制AI聊天機械人的措施獲得更廣泛支持，甚至包括AI公司OpenAI。
禁AI向未成年人輸出自殘等言論
法案規定，面向未成年人營運的聊天機械人平台，必須建立嚴格的年齡門檻與安全護欄。法規明確禁止AI向未成年人輸出涉及自殘、自殺、極端厭食傾向、暴力行為及露骨成人內容的引導性言論。
在系統底層行為框架上，平台必須內置敏感詞風控與危機干預協議，一旦算法檢測到未成年用戶表達出抑鬱、自傷或絕望情緒，必須立刻中斷常規對話，並強制彈出官方自殺干預與心理危機援助熱線的直達通道。
此外，新法規還要求開發者對未成年用戶強調AI的非人類屬性，嚴禁通過算法刻意塑造虛假的情感誘導，或建立讓孩子產生依賴感的「情感紐帶」營銷話術，同時還應提供可選的家長控制未成年人每日使用時長的控制機制，以及夜間防沉迷限制。
除上述兩項法案外，此次獲簽署的其他措施還包括讓社媒公司在其平台傷害兒童時承擔法律賠償責任、擴大年齡檢查要求，以及對16歲以下兒童的AI聊天機械人玩具實施為期4年暫停令。
