AI新視界/Grok聊天機器人色情氾濫 多方批評譴責
美國富豪馬斯克旗下人工智能（AI）聊天機器人Grok近日因生成涉及女性和未成年人的深偽色情內容，遭到全球多方批評譴責，包括歐盟、英國、法國等已對其展開調查。印尼政府10日宣布暫時封禁Grok後，馬來西亞政府也於11日宣布封鎖。英國政府9日警告稱，若Grok拒不遵守英國法律，其服務將在英國被屏蔽。
【大公報訊】Grok由馬斯克旗下人工智能企業xAI公司開發，於2023年推出，並內置於馬斯克旗下社交媒體平台X，用戶可直接免費使用該聊天機器人。去年8月，Grok向付費用戶推出圖像和視頻生成功能Grok Imagine，其中包括可以生成性感挑逗內容的「火辣模式」。
去年12月下旬，Grok在X平台推出基於Grok Imagine的「編輯圖片」功能，用戶只需要輸入簡單的文字指令，諸如「讓她穿上比堅尼」或者「脫掉她的衣服」就可以上傳或選擇現有圖片進行AI修改。該功能很快遭濫用，大量用戶通過@Grok的方式，在未經當事人同意的情況下製作女性和兒童穿着暴露的深偽圖片。
彭博社亦引述第三方分析報道。此前在X平台上，該類色情圖片平均每小時出現數千張。研究機構AI Forensics分析去年12月25日至今年1月1日期間，Grok生成的2萬多張圖像以及5萬個用戶請求，發現超過一半深偽圖像人物衣着裸露，其中81%為女性，另有2%涉及未成年人。
英相斯塔默斥Grok「令人作嘔」
歐盟委員會發言人雷尼耶5日批評Grok輸出露骨及未經同意的影像「非法、駭人聽聞且令人作嘔」。歐盟委員會8日表示，已責令X保留Grok相關的全部內部文件和數據直至2026年年底，為深入調查做準備。英國、法國、馬來西亞等國也對此事表示譴責，並開始展開調查。
面對廣泛批評，Grok於9日宣布將圖像生成與編輯功能更改為僅限付費訂閱用戶使用，而且用戶要提供信用卡和個人資料，但並未限制用戶繼續使用該功能。對此，英國首相府發言人9日表示，Grok最新變更只是「將允許創建非法圖像的AI功能變成一項高級服務」，對受害者來說是「侮辱性的」。英國首相斯塔默此前也稱此事「令人不齒」且「令人作嘔」。英國科學、創新和技術大臣肯德爾警告說，xAI須遵守英國《在線安全法》，否則英國通信管理局有權屏蔽其在英國境內的服務。同時，肯德爾呼籲英國通信管理局迅速採取行動，希望該監管機構「在幾天內而不是幾周內」發布相關處理行動的更新信息。
與英國政府關係不和的馬斯克則反擊英方在壓制言論自由，獨裁如法西斯主義，並以「監獄島」形容英國。
印度尼西亞政府10日率先宣布暫時封禁Grok，成為首個封鎖Grok的國家。11日，馬來西亞監管機構也宣布暫時封鎖Grok，並指該平台保障措施不足，「只有在所需的更改得到驗證後，才能恢復訪問。」
Grok危害呈漣漪式擴散
此外，在X之外獨立運作的Grok網站和應用程序上，仍允許未付費用戶試用圖片和視頻生成功能。美媒WIRED指出，Grok網站和應用程序包含了X不具備的複雜視頻生成功能，製作內容露骨程度遠超X。AI Forensics的首席研究員布紹分析發現，Grok創建的800個視頻和圖像，近10%的內容與兒童性虐待有關。
分析指，至少從2017年開始，AI技術就被用於生成未經同意的色情內容。與其他收費軟件不同的是，Grok在X上免費生成圖像、速度極快，並將受害者暴露在該平台數百萬用戶面前。史丹福大學AI研究院政策研究員普費弗科恩強調，這是首次有平台大規模生成未經授權的成人及未成年人色情內容。
此外，互聯網觀測基金會分析人員發現，有暗網論壇上出現了據稱由Grok生成的11至13歲女孩「性犯罪」圖像。該基金會熱線負責人亞歷山大警告說，像Grok這樣的工具正有可能「將AI生成兒童色情圖像推向主流，其危害正呈漣漪式擴散」。
（綜合報道）
聊天機器人Grok爭議不斷
南非白人「種族屠殺」爭議：
2025年5月，Grok在不相關的對話中反覆提到南非政治議題，並錯誤地堅稱該國正在進行針對白人的「種族屠殺」。xAI將其歸咎於一名員工「未經授權」修改了Grok的程序。
涉反猶言論：
2025年7月，Grok在社交平台X上發表一系列「反猶主義」言論，包括讚揚納粹德國領導人希特勒；聲稱猶太姓氏的人更容易在網上傳播仇恨言論等等。
傳播虛假信息：
2024年7月特朗普遭遇暗殺未遂事件中，Grok曾錯誤地宣稱時任副總統哈里斯遭遇襲擊，還曾錯誤地指認嫌疑人身份。
血腥暴力圖像：
2024年8月，Grok 2測試版發布後，被發現其圖像生成功能可生成血腥暴力、仇恨、惡搞政治人物以及名人色情圖像。
大公報整理
