AI+時代/換聲換臉禍害深 監管算法 讓AI向善
當知名專家在直播間兜售商品被確認為AI虛擬人像；從浙江查獲的AI偽基站每分鐘可生成2000個真人特徵的社交賬號；當價值5億元（人民幣，下同）的合同詐騙案中「董事長簽名」被鑒定為深度偽造……當AI從賦能工具異化為犯罪「幫兇」，這場技術狂歡背後，法律與技術的雙重挑戰愈發尖銳。
公安部最新數據顯示，2024年涉及AI的新型犯罪同比激增217%，破案成本達傳統案件的3.8倍，黑產分子已將Stable Diffusion、GPT-4等工具改造成「犯罪全家桶」，可實時偽造語音、視頻甚至生物特徵，並在此基礎上形成完整的詐騙鏈條。如何監管失控的算法，讓AI回歸向善本質，成為擺在所有人面前的緊迫命題。\大公報記者 曾萍
2024年8月，上海市民劉先生向閔行警方報案稱，其通過短視頻平台結識的「女友」焦女士在兩個月內以服裝店開業、家屬生病等為由，騙取其近20萬元。
經深入偵查，警方鎖定以楊某為首的10人詐騙團夥。該團夥分工明確，利用AI生成美女視頻和網絡素材拼貼，在短視頻平台「廣撒網」吸引被害人。團夥成員通過「戀愛劇本」與被害人建立信任，虛構身份和場景，如贈送手串、虛構親屬患病等，逐步騙取錢財。為增強可信度，團夥成員還偽造身份證、病歷等虛假材料，形成完整的詐騙鏈條。
換臉技術被濫用 引發隱私危機
在AI換臉技術的狂飆突進中，每個人的「臉面」都可能成為被解構的數字符號，AI換臉的濫用不僅侵犯肖像權，更引發嚴重的隱私危機。2024年7月，抖音用戶歐陽瀟瀟發現自己的照片被AI換臉成淫穢視頻，在境外社交平台傳播。其後，歐陽瀟瀟報警，最終違法行為人李勇平被處10日行政拘留。
歐陽瀟瀟是中國網絡暴力受害者中罕見的成功維權案例，她因AI換臉技術被製作色情圖像，遭受陌生人圍觀羞辱。然而施害者借助加密對話隱秘作惡，刪除證據後便了無痕跡。韓國「N號房」的中國版本在AI換臉技術「加持」下，不斷在網絡的隱秘角落裏上演。此外類似於「AI一鍵脫衣」等AI技術的濫用，不僅讓公眾的「臉面」淪為可以隨意複製的代碼，也引發了更多人的身份危機，失去對數字世界的基本信任。
生成式AI淪造謠、學術造假工具
3月10日，一則「有頂流明星在澳門輸了10億」的信息在互聯網平台傳播，引發網民熱議和各種猜測，相關話題頻繁登上社交媒體熱搜。然而最後經上海閔行警方調查，這則引發熱議的消息，竟是網民徐某強利用AI生成工具編造的謠言。江西某MCN機構被曝利用AI軟件批量生產虛假文章，最高峰時一天可生成4000至7000篇，內容涉及社會熱點、健康養生等領域，配圖與文字看似詳實，實則全為捏造。經初步估算，其每天收入在1萬元以上。
隨着技術門檻降低，AI正淪為謠言製造的「工業化生產線」，從社會熱點到學術領域，虛假內容如病毒般擴散，形成龐大的灰色產業鏈。記者在購物網站輸入「論文服務」，從論文代寫、論文翻譯到論文發表等各項與學術論文有關的服務均可定製化購買。
今年1月，麻省理工學院宣布開除一名中國學生嚴某，因其在課程作業中使用ChatGPT修改數據，構成學術不端。據麥可思2024年中國高校師生生成式AI應用情況研究顯示，近兩成高校師生已成為AI工具的「重度用戶」，超三成本科生主要使用AI工具來寫論文或作業，學術創新正逐漸淪為技術的「搬運遊戲」。
