民主黨擬推「超級AI禁令」 叫停開發超越人類系統
香港文匯報訊 美國民主黨在中期選舉奪得參眾兩院控制權後，擬推動永久禁止開發及部署「超級人工智能」的法案，違規企業決策人員或獨立行事者最高可判囚20年，刑罰與非法研製核武相若。
法案由無黨籍參議員桑德斯及民主黨眾議員卡薩爾提出，將超級人工智能定義為在大多數領域或任務的認知表現超越人類，或有能力策劃並執行剝奪人類主導權的系統；禁令亦涵蓋能避過關機指令、自行改進功能、未經授權進入受保護網絡，或協助提升核武、生物及化學武器設計能力的系統，開發、部署、持有或資助均在禁止之列。
全天候監控前沿模型
法案建議成立聯邦「人工智能部」，由總統任命部長並設立專家諮詢委員會，全天候監控前沿模型；法案生效後，訓練所用運算量達「10的25次方」的先進系統，須暫停訓練及微調，直至新部門配齊人手並訂立安全規則，其後受規管模型在部署前仍須獲批。
違規企業可被撤銷開發或分發先進人工智能模型的許可，並面臨知識產權及資產被沒收，被形容為等同被判「死刑」；非決策人員若罔顧風險違反指定條文，可被禁止在人工智能行業工作10年。法案亦要求美方尋求國際協議，防止超級人工智能在其他國家開發，並將人工智能運算設備出口管制列為可能措施。
