縱橫談/美人工智能「魔影」閃現 須高度警惕確保為人所控\施君玉
人工智能（AI）技術高速演進，話題熱上加熱。在有美國一流技術專家有關超級AI具有「異星心智」和「AI研發衝刺是拿人類命運豪賭」的警告引爆全球輿論之後，近日更出現罕見一幕：互為競爭對手的Anthropic與OpenAI兩大AI公司的老闆，和被稱為「人類鋼鐵俠」的馬斯克，都認為超級AI存在對人類文明的巨大風險，共同呼籲主動放緩研發節奏。
這些「疾呼」的依據，是近期以美國公司所研發產品為代表的超級AI能力的躍升。OpenAI動用約一萬個AI智能體協同運算，完成數學界「千禧年七大難題」中的第二個納維‑斯托克斯方程的求解證明，若通過完整核驗，這將成為歷史上首次靠AI拿到「智力聖盃」。而在此之前，陸續出現超級AI自主挖掘漏洞、突破預設安全沙盒等情況，其模型行為邊界、信息獲取權限等已難以完全被掌控。
警示是好事。可以說人類又來到新的「斯普特尼克時刻」（Sputnik Moment）──一種重大技術突破產生報警信號。Anthropic安全技術負責人胡賓格明確指出，通用人工智能（AGI）、遞歸自我改進智能（RSI）技術正持續高速演進，一旦形成無法干預的自我升級閉環，超級AI或將徹底擺脫監控體系與安全煞車約束，突破人類可控的邊界。歷史上，「斯普特尼克時刻」意味着集體認知覺醒、正視技術變局的標誌性節點；現如今，我們必須再次清醒意識到，超級AI的發展早已不是一般意義上的科技創新與產業升級，而是能夠躍升技術實力、重塑秩序規則、影響文明存續的系統性因素。
「斯普特尼克時刻」的警報已經發出，更要迅速行動，防止「明斯基時刻」（Minsky Moment）與「大過濾器時刻」（Great Filter Moment）的出現，緊緊把人類文明存續發展的命運之索，牢牢抓在自己手中。源自金融研究領域的「明斯基時刻」，講的是長期穩定催生僥倖心理，市場盲目擴張，持續透支安全餘量，最終引發體系性崩塌。當下AI領域，資本狂熱逐利、算力競爭加劇、能源壓力陡增、安全冗餘縮減，系統脆弱性正持續累積，極易引發連鎖式、系統性危機。這種風險未必一定表現為《22世紀殺人網絡》或《未來戰士》電影中所描述的機器主動危害人類，卻很可能造成國際金融市場震盪、關鍵基礎設施癱瘓、社會信任體系混亂，引發全球運轉和治理災難。
而天體生物學領域的「大過濾器時刻」概念，探討了某些極小概率的「關卡或衝擊」對智慧文明的系統性篩除，因此至今廣袤宇宙至未見任何地外文明。超級AI的急速演進已出現失控的端倪，如果我們掉以輕心，超級智能亂為、自主武器濫用、算法權力壟斷、技術倫理失序等風險將集中爆發，人類文明或被反噬。更深一步講，如果最終還是需要運用AI來監管AI，還存在着無法根本「鎖死」AI進化的悖論。「大過濾器時刻」警示的，已經不是一國一域的問題，而是關乎整個人類文明能否跨越技術陷阱、實現存續發展的終極命題。
當然，目前對於超級AI巨大風險的討論，並非「眾口一詞」，也有人反對過度渲染AI末日焦慮，乃至妖魔化AI，認為這會束縛技術創新和人類進步。這些爭論都很正常，需要持續觀察研判各類情況和變化，但必須明確反對一種傾向──因為別人也在發展AI，為了維持自身技術霸權和競爭優勢，就完全不顧已經出現的重大系統性、文明級風險，「一意孤行」持續加碼研發，力圖保持絕對領先。美國總統特朗普14日專門致電英偉達的黃仁勳，公開否認超級AI存在的風險，但並沒有提供有價值的科學論據。此前他倒是多次提到所謂的「中國AI威脅論」。這種自私內顧，缺乏更高層面智慧與膽識的做法，很可能讓全球AI發展陷入惡性博弈，風險持續累積，最終令全人類共同承擔技術失控的惡果。
AI技術創新已經進入前所未有的活躍期，其中所蘊含的先進性、變革性、顛覆性也前所未見。正因如此，它既可成為賦能萬物、造福蒼生的利器，亦可能成為反噬生命、危及文明的魔鬼，但無論其成「仙」還是成「魔」，都必須牢牢為人類所掌控，始終服務於人類根本福祉。這就需要超越零和博弈的全球共識與合作，堅持開放共贏，確保安全可控，鼓勵包容並蓄，完善全球治理。這方面，美中兩個走在AI技術發展最前沿國家的攜手尤為關鍵。
