內地整治AI技術濫用等八類網絡亂象
中央網信辦發布「清朗」行動重點 嚴打各類侵權違法行為
香港文匯報訊（記者 劉凝哲 北京報道）人工智能（AI）技術發展迅速，為人們帶來便利的同時，AI技術濫用也成為社會焦點問題。小米集團創始人雷軍和著名醫生張文宏等社會知名人士，都曾遭遇被AI換臉和語音合成。在重大災害中，有不法分子利用AI視頻干擾救災工作，影響社會公信力。2月21日下午，中央網信辦發布2025年「清朗」系列專項行動通知，明確整治AI技術濫用亂象等八個方面重點問題，嚴厲打擊各類侵權違法行為。
近年來，中央網信辦持續部署開展「清朗」系列專項行動，集中時間、集中力量打擊網上各類亂象問題，從嚴處置違規平台和賬號。根據公布，2025年，「清朗」系列專項行動重點整治任務包括：整治春節網絡環境、整治「自媒體」發布不實信息、整治短視頻領域惡意營銷、整治AI技術濫用亂象、整治涉企網絡「黑嘴」、整治暑期未成年人網絡環境、整治網絡直播打賞亂象、整治惡意挑動負面情緒等。
多維治理啟動 未來需完善標準
其中，整治AI技術濫用亂象方面，突出AI技術管理和信息內容管理，強化生成合成內容標識，打擊借AI技術生成發布虛假信息、實施網絡水軍行為等問題，規範AI類應用網絡生態。業界認為，官方已啟動對AI濫用的多維度治理，未來還需要進一步完善數據安全標準、推動全球協同治理，並平衡技術創新與倫理約束，確保AI在法治軌道上健康發展。
平台對AI合成內容存審核漏洞
據香港文匯報記者梳理，近年來，AI技術濫用造成的侵權違法案件不斷發生，造成惡劣影響。2024年國慶期間，「被雷軍罵七天」登上網絡熱搜，各大短視頻平台湧現大量AI合成的「雷軍罵人」視頻，原來這是網友通過AI平台克隆雷軍的聲音，這些粗鄙的罵聲令雷軍形象受損。雷軍本人也公開表示不喜歡這樣的行為，後續，AI平台下架了雷軍語言模型。
在AI偽造虛假信息的案例方面，在2024年12月，有不法分子利用AI合成技術偽造張文宏醫生推銷蛋白棒的視頻，通過短視頻平台傳播，視頻高度逼真，誤導消費者購買超過千件商品。這一事件暴露平台對AI合成內容的審核漏洞，引發公眾對AI技術濫用監管的質疑。 涉事賬號後來被封禁，平台被責令整改。
不法分子利用AI技術造假獲利
值得一提的是，在2024年，有多個涉及AI技術濫用的案件被審理。2024年5月，中國首例AI外掛案宣判。王某合開發AI外掛程序，通過模擬玩家操作自動刷遊戲金幣，干擾《王者榮耀》《原神》等20餘款遊戲運行，非法獲利629萬元（人民幣，下同）。AI外掛破壞遊戲公平性，導致運營商經濟損失超千萬元。法院以破壞計算機信息系統罪判處有期徒刑三年（緩刑五年），沒收違法所得。
AI技術的濫用，助長了網絡色情產業鏈。據報道，「一鍵去衣」淫穢圖片案件，是一家互聯網公司前技術員白某某開發AI工具，通過上傳女性照片自動生成裸體圖像，並在暗網以每張50元至200元的價格售賣，他因此累計獲利超百萬元。檢察機關以傳播淫穢物品牟利罪對白某某提起公訴。
重大自然災害中的AI造假在網絡上亦成為人們嚴厲譴責的現象。例如：在2024年初發生的雲南山體滑坡災害中，楊某某利用AI生成虛假新聞稿件，捏造雲南山體滑坡傷亡數據，並通過自媒體平台傳播，引發社會恐慌。此後，公安機關對楊某某處以行政拘留並罰款。2025年1月的西藏定日縣6.8級地震中，一張「地震小孩被埋圖」令全網揪心不已，然而這張圖片由AI合成，係不法分子利用其博取網絡流量，相關涉案人員已被行拘。
