美逾千科企員工聯署籲放緩AI發展
美國逾1,100名尖端人工智能（AI）企業員工28日聯名簽署請願書，呼籲美國政府控制AI發展，放緩最先進AI模型的發布速度。聯署者不乏AI界重量級人物，包括AI巨擘Anthropic行政總裁阿莫迪、OpenAI首席科學家帕喬基，以及Meta超級智能部門首席科學家趙晟佳。
Anthropic及OpenAI知名科企亦有參與
這項名為「前沿控速」（Pacing the Frontier）的倡議，由Anthropic、OpenAI、Meta和Google DeepMind等科企員工參與。請願書促請美國政府推動國際合作，研發必要的技術與管治工具，主動調節自動化AI尖端技術發展的步伐。信中寫道：「全球頂尖AI企業相信，業界或已接近實現AI研究自動化。這將如何加快技術進展，目前仍難以準確預測。相關能力可能迅速發展至超出人類理解，或獲得控制最終系統的能力，這些風險確實存在。」
OpenAI旗下AI模型日前被揭失控入侵其他企業系統、訪問公開服務平台賬戶等。公司行政總裁阿爾特曼沒有參與是次聯署，不過他日前受訪時承認，AI模型失控事件令人反思，OpenAI已經暫停涉事AI模型測試，改進相關安全措施，但從長遠而言，業界或許要達成共識、放緩研發速度。
