前線研究員：AI自主恐引發「智能爆炸」
香港文匯報訊 《華爾街日報》報道，美國科企巨頭OpenAI、Anthropic、Meta及微軟的研究主管28日聯署發表文章，指出若人工智能（AI）系統逐步實現主導自身研發，或引發「智能爆炸」，將可能迅速超出人類掌控範圍。文章呼籲各國政策制定者加強對AI研究自動化進程的緊急監管。
籲各國加強緊急監管
文章作者包括OpenAI首席科學家帕喬基、Anthropic聯合創辦人克拉克、微軟首席科學官霍維茨，以及Meta人工智能研究副總裁宋曉冬，AI研究先驅辛頓和本吉奧亦參與聯署。文章呼籲各國決策者緊急提升透明度，了解企業在模型開發自動化方面的實際進展，指出AI研究自動化進程可能引發「智能爆炸」，將多年進步壓縮至數月甚至更短時間內；在極端情況下，對AI系統失去控制可能會導致「人類被邊緣化或滅絕」。
文章亦指出，AI自動化進展已進入實質階段。Anthropic的AI模型Claude正「主導」該公司26%研發工作，並在超過90%時間內於某些環節得到使用；OpenAI的目標則是在2028年前開發完全自動化的AI研究員。作者警告，隨着人類退居幕後，社會可能失去發現問題的機會，亦會喪失解決問題的專業技能。文章並建議各國領導人透過談判達成國際協議，防止破壞穩定的高能力AI系統被開發和使用。
