「平庸AI」遭惡意利用 或助長恐怖主義
香港文匯報訊 美國紐約大學心理學教授、人工智能（AI）初創企業Geometric Intelligence創辦人馬庫斯聯署了「未來生命研究所」的公開信。馬庫斯解釋，科技界現時並非擔心人類無法控制的「超級AI」問世，反而擔憂技術仍存在缺陷的「平庸AI」（Mediocre AI）過快被大規模部署，不成熟的技術被惡意利用，反而會帶來更大破壞。
模仿特定聊天風格作欺詐
馬庫斯指出，現時的AI聊天機械人利用大型語言模型，幾乎可以訪問海量數據，卻沒有完善的監管機制，若被惡意利用，後果或不堪設想。歐洲刑警組織近日一份報告就提醒，有犯罪團體嘗試利用AI聊天機械人模仿特定聊天風格，用於網絡欺詐誤導受害人。AI技術還或被犯罪集團用於收集可能促進恐怖主義活動的信息，包括籌集資金或分享匿名文件等。
馬庫斯還提醒，部分AI技術可以短期炮製大量宣傳話術，不排除導致極端思想快速蔓延，現時人們應專注思考這些迫在眉睫的風險，關注加強監管，「這種恐怖主義甚至可能引發核戰爭，也許人類不會真的從地球上消失，但事態發展會急轉直下，文明都或會被破壞。」
