大公報綜合彭博社、美聯社、CNN報道：自ChatGPT、Midjourney等生成式AI火爆之後，AI杜撰新聞、散播錯誤信息，以及生成假圖片的情況屢見不鮮。22日，一張美國五角大樓爆炸的假照片在社交媒體上瘋傳，推特上有包括媒體在內的認證賬號轉發，多人信以為真，導致美股閃崩10分鐘。五角大樓隨後澄清，並未遭到攻擊或發生爆炸，網上流傳的圖片疑似是由AI生成。

美東時間周一早上10時左右，一張五角大樓爆炸、冒出滾滾黑煙的照片首先出現在Facebook上，隨後推特多個經認證賬號轉載該照片，包括一個謊稱與彭博新聞有關的賬號Bloomberg Feed、金融新聞網站賬號ZeroHedge和今日俄羅斯（RT）賬號。印度一家電視台「共和國電視」播報了發生爆炸的「新聞」，並在其節目中展示了這張圖片。

首發賬號與極右團體有關

與「特朗普被捕」或者「教皇穿潮牌服裝」等令人一笑置之的AI生成照片不同，這次的五角大樓爆炸照造成了更加嚴重的現實影響，引發金融市場恐慌，導致美股短暫閃崩，道瓊斯指數曾下跌約80點，標普500指數一度急跌0.29%，隨後止跌回升。美債和黃金價格開始攀升，顯示投資者急於避險。

事件引起轟動，美國國防部發言人出面闢謠，稱網上流傳的照片「是假消息，五角大樓今天並未遭到攻擊」。弗吉尼亞州阿靈頓消防局也在推特澄清，五角大樓附近並未發生爆炸或意外，對公眾沒有危險。

加州大學伯克利分校計算機科學教授法里德表示，這張圖片具有AI合成的典型特點，圖片上的燈柱很奇怪，建築物圍欄扭曲，窗戶也和實物出入很大；如果在這樣的照片上加上煙霧，更容易達到混淆視聽的目的。開源情報組織Bellingcat沃特斯表示，如果五角大樓真的發生爆炸，網上不可能沒有其他目擊者拍攝的相片與影片，可見這張圖片真實性不高。

該照片的來源尚不清楚，但研究假信息的專家認為很大可能由AI生成。Fb上最早放出該照片的賬號被發現曾發布宣傳美國極右陰謀論團體「匿名者Q」的相關內容。CNN指出，馬斯克入主推特後，用戶只要付費即可獲得認證，而此次假消息的迅速傳播，正是由於大量經過認證的假賬號轉發所致。

警惕AI批量產出假消息

財經雜誌主編科別希表示，現在大部分的市場交易已經自動化，假消息的出現甚至哪怕只是帶有指向性的暗示，都可能對市場造成巨大傷害。金融分析師布朗認為，AI假圖影響金融市場，可能成為未來常態。

除了AI生成假圖片，美國新聞評級組織NewsGuard本月發布報告指出，他們發現至少49個由AI聊天機器人生成的「新聞網站」，有些提供突發即時新聞，有些介紹名人八卦。其中一個名為「名人死訊」的網站4月發表了一篇由AI生成的文章，內容是「美國總統拜登逝世、副總統哈里斯將出任代理總統，上午9時將發表講話」。

報告指出，這些網站大多數都是品質低劣的內容農場，通過大量發文來吸引點擊率，使用語言包括英文、葡萄牙文、泰文等。

此外，雖然「五角大樓爆炸」是假新聞，但美國特勤局23日發表聲明指出，一輛貨車22日晚間衝撞白宮附近護欄，並在車上搜出納粹旗幟。司機當場被捕，經證實是來自密蘇里州的19歲美國男子坎杜拉，他故意撞上拉斐特廣場的安全護欄，威脅要對拜登和哈里斯不利。據悉，他可能被控以致命武器蓄意傷害等罪名。

（來源：大公報A24：國際 2023/05/24）