加州起訴OpenAI危害公共安全
【大公報訊】綜合《華爾街日報》、NBC報道:美國加州總檢察長邦塔16日宣布,對美國AI巨頭OpenAI提起訴訟,指控該公司「明知缺乏必要安全措施仍開發和測試前沿AI模型」,導致AI智能體多次失控,對其他企業和網絡系統構成威脅,危害公共安全。
今年7月,OpenAI的AI智能體在一次安全測試中失控,入侵開源平台「抱抱臉」,引發廣泛關注。起訴書披露,OpenAI在接受加州調查時承認,測試期間曾有80多次失去對AI智能體的控制,但公開披露的只有27起。加州檢方還指控,OpenAI拒絕提供其餘事件的詳細紀錄,導致監管部門無法評估真實風險。
檢方還指控OpenAI漠視公共安全,以及向消費者和公眾發表誤導性言論,違反了加州《不正當競爭法》。邦塔警告,若缺乏安全防護與管控措施,這種風險只會波及更廣、出現得更頻繁。他強調,必須明確責任歸屬,絕不接受「把責任推給機器」的說法。
面對指控,OpenAI發言人表示,各大AI公司都面臨「智能體失控」這一問題,但這宗訴訟似乎將整個AI行業共同面臨的挑戰歸咎於OpenAI;又稱自7月發生相關事件後,OpenAI已加強研究系統的安全防護,提升了識別失控AI智能體的能力。