香港文匯報報道，香港坊間近期出現偽冒特區政府高官誘騙人投資的短片，政府嚴正澄清全屬偽造。伴隨人工智能（AI）技術進步，製作場景逼真卻從未真實發生過的「深度偽造」（deepfake）影片更為簡單，讓人難以辨別。《金融時報》分析稱，深偽技術的發展增加了人們「信以為真」的可能性，反過來人們也會把真相誤認為謊言，正所謂「假作真時真亦假」，人們會更易陷入充斥謊言的網絡世界。

deepfake影片場景逼真 假信息更易攻陷目標

早在2017年，形容透過謊言鞏固目標群體的偏見、從而掩蓋真相的「後真相」（Post-truth）概念，便被《牛津詞典》評為年度詞彙。自此之後，從烏克蘭總統澤連斯基跳肚皮舞相片、到美國前總統特朗普表示自己有勇氣退出巴黎氣候協定的影片，網絡虛假訊息愈來愈多。AI技術還創造出眾多引人注目、易於理解的深偽影片，在網絡上迅速擴散。

辨識假消息或許並非一項熟能生巧的技能。期刊《實驗心理學雜誌》一項最新研究指出，劍橋大學研發幾款幫助人們辨識假新聞的小遊戲並進行實驗，透過對參與實驗的志願者調查發現，他們玩完遊戲後，更有可能辨認出假新聞。然而與此同時，志願者們也更容易將真實的新聞報道當作假新聞，這意味他們分辨真假的能力並未提升，反而傾向將所有信息都視作假象。

公開撒謊新藉口 「錄音是偽造」

報道也指出，AI深偽技術的興起，或會為公開撒謊提供新的藉口。例如2016年美國總統大選前夕，美媒曝光一段特朗普私下頻繁侮辱女性的錄音，特朗普為避免選情受挫，當即就錄音內容致歉。然而如今若發生類似事件，特朗普等政客完全可以辯稱「錄音是AI偽造」，屆時即使有充分理據反駁特朗普的說法，他的支持者也會對他深信不疑。

「洪水戰術」阻斷可信消息源

報道還分析，極易製造的假消息可以批量生產，造假者透過假扮不同消息源，在同一時間向網絡用戶不斷灌輸內容相近的假消息，有機會達到以假亂真的效果。在假消息「洪水戰術」下，社媒上往往充斥攻擊他人、散播謠言、煽動情緒的謊言，以及毫無意義的廢話，網絡用戶更難從中找到可信消息源，也會失去閱讀新聞的興趣。

《金融時報》最後提醒，「如果我們看到足夠多的深偽影片，我們可能也會忽視身邊的謠言和暴力行為。保持懷疑是好事，但過度質疑會讓最簡潔明瞭的事實，也能在人群中掀起爭議。不論如何，人們要明白深偽技術正在快速發展，很多不法分子準備利用它。」

多國爆deepfake音頻干擾選舉

人工智能（AI）不僅製作「深度偽造」（deepfake）影片，音頻也是重災區。《金融時報》報道，在英國、印度和尼日利亞等國，近期都出現試圖用「深偽」音頻影響選舉的事件。專家稱AI音頻軟件眾多，且免費提供多數服務，製作「深偽」音頻非常容易。部分軟件製造商正採取措施，嘗試暗中標記「深偽」音頻供人識別。

報道指出，包括ElevenLabs和Resemble AI等AI軟件，都能平價製作「深偽」音頻。新聞網站評估軟件NewsGuard發現一個TikTok賬號上，有多段用AI生成、模擬美國前總統奧巴馬聲音的「深偽」音頻傳播謠言，相關音頻已播放超過一億次。調查發現其使用的ElevenLabs軟件可以免費使用基本功能，訂閱也只需每月最低1美元（約7.81港元）、最高330美元（約2,578港元）。

多間AI研發企業都設法打擊虛假信息，微軟發布聲明，呼籲用戶舉報任何濫用微軟名下AI音頻工具的行為，若利用AI模擬他人聲音，製作者需得到對方批准。ElevenLabs也製作一款偵測軟件，用於識別音頻是否由其系統製作。Resemble還嘗試在音頻中插入聽不見的特殊標籤，用特定軟件分析音頻波紋即可甄別。

誤信「杜魯多」為投資平台背書 加國男被騙8.6萬元

人工智能（AI）「深偽」影片經常選用名人照片，讓觀眾稍有不慎便上當受騙。加拿大CTV電視網絡報道，安大略省一名男子看到「加國總理杜魯多」和「億萬富豪馬斯克」支持一個投資平台的影片，並未察覺其中有詐，結果被詐騙1.1萬美元（約8.6萬港元），才發現是「深偽」騙局。

受騙男子約翰稱，他看到影片中的「杜魯多」宣稱在該平台投資可以賺錢，自己還以為是投資機遇，便依照影片指示聯繫投資平台。對方鼓勵他從250美元（約1,954港元）開始，其後不斷聲稱他的收益已經翻倍，催促他加碼，「平台聲稱我的收益已經累積到4.6萬美元（約36萬港元），我想取錢時，卻被告知錢被凍結了，要再支付6,000美元（約4.7萬港元）才能取出。」

約翰才反應過來自己上當受騙，「但那段影片，我真的以為它是真的。我快要退休了，拿的是最低工資，我很傷心，根本不知道這是個騙局。」

「岸田」發表性騷擾言論

日本社媒去年11月也流傳一段首相岸田文雄的「深偽」影片，畫面是「岸田」出現在標註有「日本電視台突發新聞」的畫面中，卻在發表性騷擾言論。25歲的影片製作者表示，他用一款免費AI軟件，耗費不到一個小時就製成影片，承認自己只是想開玩笑。日本電視台批評做法不可接受，強調會追究影片製作者責任。

（來源：香港文匯報A20：國際 2024/01/27）