AI生成產品需明確標註
香港文匯報訊（記者 任芳頡 北京報道 ）《辦法》 還規定，向中國境內公眾提供生成文本、圖片、音頻、視頻等內容的服務需進行標註，防止出現虛假信息。
濫用AI增加鑒別真偽難度
聯合國國際法委員會顧問、瑞中法律協會執行理事張天澤表示，AI技術能夠生成逼真的文本、圖片、音頻和視頻內容，提供更為豐富的互動體驗。然而，如果這些內容被惡意使用，可能會誤導公眾，影響社會穩定。比如，AI虛擬主播可以全天候工作，用逼真的聲音和面部表情報告新聞，給人一種真人主播正在播報新聞的體驗。
然而，隨着該技術的普及，出現濫用情況，例如，今年3月，一組「特朗普被捕」的「照片」在社交平台流傳開來。人物表情的真實、場景甚至鏡頭景深等細節，令諸多見慣类似場景的新聞攝影師也難辨真偽。而這組照片則是AI根據人類指令合成的。這也意味着人工智能生成圖文或影片增加了網民識別信息真偽的成本和難度，更為社會的安定帶來不小的隱憂。
「例如通過虛擬主播發布虛假或誤導性的信息，嚴重影響了公眾對信息的正確理解。新規出台後，所有AI生成的內容都必須明確標註，公眾知曉後可以更加謹慎地對待，有效提高信息鑒別能力。」
張天澤分析，新規實施後，將對向公眾提供的AI生成內容進行嚴格的監管，違規行為將被嚴厲打擊。之前存在不規範行為將被清理，行業的整體合規性和公信力將得到提升。與此同時，企業可能需要投入更多資源來獲取和管理合法的數據，尋求新的技術或業務模式來應對，這些額外的投入可能會對企業的運營成本產生一定的影響，將導致行業的優勝劣汰，推動技術創新和商業創新。
