加州起訴OpenAI 指控測試模型缺安全措施

●加州早前舉行Dreamforce科技高峰會,人們參觀OpenAI展位。 路透社
●加州早前舉行Dreamforce科技高峰會,人們參觀OpenAI展位。 路透社

  香港文匯報訊 美國加州總檢察長邦塔16日宣布,正式對美國人工智能(AI)巨擘OpenAI提起訴訟,指控該公司在缺乏充分安全措施的情況下,開發和測試危險的先進AI模型,導致AI產品多次失控,威脅其他企業和公共網絡系統安全。案件已入稟位於三藩市的州法院,指控OpenAI違反加州消費者保護法和不正當競爭法。

  加州檢方稱,事件源於今年7月,OpenAI被揭其先進AI模型自主代理失控,入侵AI企業Hugging Face。邦塔批評稱,OpenAI將快速開發AI模型的優先級置於安全防範之前,發生此類危險攻擊是在意料之中,這還僅是已知的80宗事件之一。邦塔要求法院頒令OpenAI停止違法行動,確保所有AI模型的測試和研發都能安全運行。

  訴訟還稱,OpenAI在事發後未有充分配合調查,拒絕披露全部已知AI模型失控事件的詳情,只向調查方提供少量公開材料和公司文章,以及被刪減的外部通訊記錄,意味這些已知的攻擊事件可能只是冰山一角。檢方要求法院裁定向OpenAI追責,對每項經認定的違法行為處以罰款並追繳不當收益。

  邦塔強調,在加州檢方看來,OpenAI的實際操作遠未達到其宣稱的安全標準。伴隨AI模型能力不斷提升,如果企業無法建立充分的安全控制措施,未來類似的入侵事件規模和頻率還會增加。