OpenAI安全主管辭職 批業界文化崩壞
人工智能（AI）科企巨擘OpenAI安全系統主管羅賓遜，日前向公司遞交辭呈，並在美國雜誌《大西洋》月刊發布長篇文章，直斥OpenAI企業內部文化「徹底崩壞」，其試錯研發方法的風險之高，已令人不可接受。
羅賓遜指出，AI領域陸續傳出令人憂心的安全事件，包括AI代理脫離受控環境，在失控狀態下自行攻擊各種目標。他直言在開發有風險的高端AI模型時，硅谷目前的「未受阻礙的樂觀主義」與「試錯開發法」風險極高，當AI代理能力指數級躍升，「亡羊補牢」的思維只會引發危機。羅賓遜披露，近期被公之於眾的各類安全事件其實並不罕見，整個AI產業沉浸於軟件工程的「快速行動，打破常規」信條：「這樣的環境，並不適合培養可能比我們更聰明，卻未必會聽從我們指示的AI。」
羅賓遜主張，面對具備自主決策、網絡滲透，甚至有潛在社會認知操控能力的龐大模型，業界應當探討的遠不止具體規章制度或新的法律條文，而是整個企業的底層文化。尤其科企管理層面對不可預測風險時的盲目樂觀主義，或引發更多危機。對於改進方案，羅賓遜認為各類AI企業必須仿效核產業建立多層防護機制，安排謹慎耗時的細緻規劃，以免任何偶發且難以避免的人為錯誤演變為災難。
