加州強化AI監管 研「緊急關機」機制
香港文匯報訊 美國加州州長紐森18日簽署行政命令，要求加速強化州內人工智能（AI）安全監管，並召集專家研究新措施，包括讓最先進AI模型具備「緊急關機鍵」，以因應近期AI引發安全疑慮的情況。
根據加州政府官網，這項行政命令目前並未直接要求AI業者安裝關機鍵，而是要求專家小組在兩個月內提出建議，包括要求前沿AI業者建立緊急關閉機制、接受獨立第三方監督、定期安全稽核、擴大重大失控事件的通報範圍等。
紐森表示，加州不會坐等聯邦政府採取行動，而是會加快建立AI安全監管框架，坦言近期AI快速發展及相關安全事件，使州政府有必要更積極面對潛在風險。按照加州政府說法，近期曾出現AI代理程式脫離測試環境、連上公開網絡並進行網攻等事件，使外界更關注AI系統在缺乏人類直接控制下，可能造成的安全隱患。因此這次行政命令除研議「緊急關機鍵」，也要求加快執行近期通過的AI監管措施，包括建立獨立機構評估AI安全風險、建立AI稽核人員的註冊與標準制度。
連串失控事件令紐森轉軚
值得注意的是，紐森並非一直支持「AI關機鍵」。2024年，加州曾提出一項AI安全法案，要求部分高階AI模型，應具備在發生嚴重問題時得以迅速關閉的能力，但當時紐森否決法案，擔心相關規範可能抑制創新。兩年後，隨着AI能力快速提升，近期多宗AI安全事件陸續引發關注，紐森又重新將「緊急關機」納入政策選項。加州政府希望自身的監管經驗，能成為全美AI安全規範的參考，畢竟OpenAI、Anthropic等多家AI科技業者的總部均設在加州，州政府的態度對美國AI產業的開發與安全標準，會產生更廣泛的影響。
