加拿大擬禁16歲以下青少年用社媒 首次將AI聊天機器人納入監管 防止有害內容傳播
加拿大政府10日宣布推出新法案，禁止16歲以下青少年使用社交媒體，同時首次將人工智能（AI）聊天機器人納入監管，防止有害內容傳播。違規企業可能面臨全球營業額3%或最高1000萬加元（約合5615萬港元）的罰款。對此次加拿大特意將聊天機器人納入監管，外界解讀認為，這與今年年初該國校園槍擊案槍手曾與聊天機器人討論槍支暴力議題有關。
【大公報訊】青少年使用社交媒體衍生出來的問題，令不少國家大為頭痛，多國已先後立法或者考慮立法禁止青少年使用社交媒體。加拿大總理卡尼10日表示，越來越多兒童正受焦慮、抑鬱、自殘和網絡剝削之苦，為確保法律與時並進，政府推出《安全社交媒體法案》，禁止16歲以下青少年使用社交媒體。
加拿大文化部長米勒指出，《安全社交媒體法案》原則上禁止16歲以下未成年人創建或持有社交媒體賬號，若相關平台能夠證明已為未成年人採取了充分的保護措施，則可獲豁免。米勒表示，社交媒體對未成年人構成的風險已不容忽視，「我們辜負了孩子，不能再這樣下去。」他說，政府有必要建立基本保護機制，確保兒童和青少年在網絡環境中的安全。《安全社交媒體法案》仍需通過議會審批。
據加拿大廣播公司報道，新法案將監管Facebook和X等傳統社交媒體平台、直播平台以及用戶可自行上傳內容的成人網站，網絡搜索引擎和熱門遊戲平台Roblox未在此法案規範之列。除色情網站外，若上述平台能達到政府制訂的兒童安全標準，經審查後可享豁免。政府官員指出，平台還須建立年齡驗證機制以確保符合法案要求。
設立數字安全監管機構
除社交媒體外，法案還將AI聊天機器人納入監管範圍，要求相關企業承擔相應責任，包括建立危機干預機制等措施，以減輕AI產品帶來的潛在安全風險。雖然AI聊天機器人不受16歲以下年齡限制約束，但提供諸如聊天機器人、其他對話式AI這類服務和AI智能體等的企業都需承擔新的法律責任。法案規定，AI服務業者必須設立危機通報和應對機制，並降低有害內容風險；若有用戶表達自殺意圖或有傷害他人的計劃，平台必須啟動危機介入程序；AI聊天機器人不得鼓勵犯罪、教唆暴力或指導用戶傷害自己或他人。
加拿大還將成立獨立的「數字安全監管機構」，負責制定標準並審核豁免申請。不過，由於預計需約18個月才能完成新監管機構設立，在此之前受規範的平台很可能先面臨16歲以下用戶禁令，無法立即申請豁免。根據法案，加拿大將重罰違規企業，金額是全球營業額3%或最高1000萬加元。
AI淪校園槍擊案幫兇
近年來，許多國家陸續出台禁令，限制未成年人使用社交媒體。澳洲是全球首個立法禁止16歲以下人士使用社交媒體國家，目前已移除近500萬個賬號。加拿大此次將AI聊天機器人納入監管，也凸顯出除社媒外，AI聊天機器人對青少年的影響同樣不可忽視。近年已發生多宗青少年在犯案前，與聊天機器人進行誘導性對話的案例。今年2月10日，加拿大卑詩省塔布勒嶺中學發生大規模槍擊案，含槍手共9人死亡、27人受傷。這是加拿大近年死亡人數最多的校園槍擊案。警方調查發現，18歲槍手曾於案發數月前與美國AI巨頭OpenAI旗下聊天機器人ChatGPT討論槍支暴力議題，引發外界對AI安全性的關注。槍擊案中7位受害者的家屬以及一名12歲的重傷倖存者，4月29日在美國加州三藩市聯邦法院提起訴訟，指控OpenAI和其CEO阿爾特曼存在過失、協助及教唆大規模槍擊、錯誤致死以及相關產品責任，索償10億美元。（綜合報道）
