AI生成內容真假難辨 監管待完善
香港文匯報訊（記者 孔雯瓊 上海報道）當下AI發展風馳電掣，在各行各業引發了翻天覆地的巨變，而過程中引發的社會問題亦日漸凸顯，並引來呼聲希望可對AI進行監管。昨日抖音發布關於人工智能生成內容的平台規範暨行業倡議，其中提到在使用AI技術時，應對由AI生產的內容進行顯著標識，用以區別虛擬與現實。
抖音率先監管：AI生成需標識
抖音在倡議中表示，發布者應對人工智能生成內容進行顯著標識，幫助其他用戶區分虛擬與現實，特別是易混淆場景；並需對人工智能生成內容產生的相應後果負責，無論內容是如何生成的。虛擬人需在平台進行註冊，虛擬人技術使用者需實名認證。禁止利用生成式人工智能技術創作、發布侵權內容，包括但不限於肖像權、知識產權等；禁止利用生成式人工智能技術創作、發布違背科學常識、弄虛作假、造謠傳謠的內容。一經發現，平台將嚴格處罰。
抖音對AI內容的監管，顯然是審時度勢後的出手。目前AI生產內容，正被越來越多的主播、自媒體或商家應用，而且到了爐火純青的地步。一條火爆全網的短視頻，從標題、到背景畫面，乃至數字人主播、配音，所有你看到的聽到的，一切皆有可能是由AI生成。近日，有短視頻自媒體爆料了一些爆款視頻的誕生，背後都由AI在進行操盤的真相。讓ChatGPT整理50個爆款標題，並根據整理結果直接生成新的標題，接下來再讓ChatGPT以第一人稱口語化的方式寫腳本，把腳本導入剪輯軟件選擇圖文成片，最後可以根據需求來選擇數字人主播。該自媒體強調，「GPT+剪輯軟件+數字人」製作的短視頻，一周內可以達到140多萬的瀏覽量，一個新的賬號，剛起步就可以數據瘋漲。
有主播在短視頻中展示了AI變臉：明明是一個毛頭小伙子，開了AI濾鏡，瞬間變成耄耋老者，且畫面毫無違和感，十分逼真；還有主播可以任意切換背景畫面，一會在山之巔一會在大海中，讓人無法得知他的真實地點；而不眠不休24小時賣貨的主播，原來只是一個數字人，數字人不論是面部表情、眼神、還是身體語言都十分自然，讓人很難分辨是否為真人主播。
AI生成虛假內容令人不安
「國家應當加強AI監管，禁止虛假內容的產生。」「網絡上沒有什麼是真的了，太可怕。」面對AI技術，多數網友對此感到不安，因為AI生產的內容已經擾亂了人們的判別力：比如親眼看到的瑪麗蓮夢露和卓別林在上海黃浦江裏一起游泳的照片，是AI根據文本生成的圖。甚至新聞也開始被AI編造的內容「污染」，近日甘肅偵破首例利用AI人工智能技術炮製虛假信息案，某自媒體通過ChatGPT杜撰「火車撞上修路工致9死」的假消息，並使用「海豹科技」軟件上傳至其購買的百家號上，結果有1.5萬瀏覽量，意味着1.5萬人受到AI的忽悠。
除了抖音開始規範AI內容，監管部門對網絡整體的督導也持續在深化推進。國家網信辦4月末就百度、新浪微博、豆瓣、鬥魚等網絡平台履行主體責任不力依法約談，要求其責令限期整改，處理相關賬號，從嚴處理責任人，並分別給予罰款的行政處罰。據國家網信辦4月30日公布信息，2023年一季度，全國網信系統進一步加大網絡執法力度，累計約談網站2,203家，暫停功能或更新網站48家，下架應用程序55款，關停小程序12款，會同電信主管部門取消違法網站許可或備案、關閉違法網站4,208家。
針對鬥魚平台存在的色情、低俗等嚴重生態問題，5月8日，國家網信辦指導湖北省互聯網信息辦公室派出工作組，進駐鬥魚平台開展為期1個月的集中整改督導。鬥魚對此回應，將進一步優化平台內容審核機制，全面深入整理不良信息和內容。對於造成的不良影響向大家誠懇致歉。
