AI失控警告掀美國會立法角力
香港文匯報訊 美國人工智能（AI）公司Anthropic離職研究員考克森早前在社媒發文，嚴厲警告稱其所在實驗室與同僚正構建自身根本無法掌控的系統，認為「AI可能失控並毀滅人類文明」，罕見激發出美國國會立法層面的緊迫感。
《華爾街日報》報道，在多年來鮮有作為之後，數十名國會議員證紛紛拋出新提案，試圖對能力日益強大的AI模型施加監管。加州民主黨議員康納10日呼籲，成立一個類似核能和航空領域監管機構的新聯邦監管機構。他還提出引入一項所謂「緊急關停開關」，能在AI系統出現危險行為時，立即將其強行切斷。佛蒙特州參議員桑德斯在公開信中稱，「毫無疑問，國會應對這項飛速發展且危險重重的技術的行動已遠遠落後」，他與一眾同僚大力推動一項禁令，試圖禁止研發智力超過人類的所謂「超級智能」。
加強監管或損AI競爭力
據報國會曾試圖通過工作組和新委員會，來理清AI政策的制定流程，但相關法案最終都未能突破基礎提案和路線圖階段。議員在限制範圍方面分歧嚴重，美國總統特朗普就曾表示，雖支持設立緊急關停開關及其他AI安全保障措施，但過於繁重的監管，或損害美國在科技競賽中的競爭力，加上國會目前陷入黨派僵局，且中期選舉日益臨近，國會會期所剩無幾，針對AI模型的聯邦監管法相信難順利出台。
