硅谷巨頭探討如何應對「AI災難」
香港文匯報訊 據美國新聞網Axios報道，人工智能（AI）業界巨頭包括OpenAI和Anthropic等主要AI公司領導人，正集體針對AI失控可能引發大規模網絡災難發出預警，並開始私下討論萬一發生「災難性事件」，應如何應對公眾壓力。
料將發生重大網絡災難
多名分析師和AI業界人士預計，AI失控在未來6至12個月內極可能引發重大網絡災難，導致銀行等金融系統、互聯網甚至電力及供水系統中斷。AI科企深切擔憂在危機發生後，公司領導人將成為社會、媒體和政府機構的眾矢之的，整個AI產業也將面臨「扼殺」，美國總統特朗普因其政策遲遲未對AI技術實施嚴格監管與限制，或也將面臨強烈聲討。
近期Anthropic、Google、OpenAI等AI行業巨頭紛紛爆出旗下AI模型失控網攻事件。其中OpenAI的智能體在測試中突破沙盒隔離，入侵Hugging Face服務器；Anthropic的Claude模型三度連接至開放互聯網，發動網攻竊取多個組織的憑證；更有小型安全技術公司憑Claude生成的攻擊代碼，僅用3小時便攻破OpenAI核心代碼庫。
Anthropic行政總裁阿莫戴已就此呼籲減緩AI發展速度、引入獨立監管，並建立全行業認同的安全標準。
該觀點獲OpenAI行政總裁阿爾特曼及SpaceX行政總裁馬斯克認同，前者已暫停訓練OpenAI最新模型，直至引入額外安全監督措施。
