AI「末日論」Q&A
什麼是AI「末日論」？
AI「末日論」指超智能AI可能導致人類滅絕的論點。隨AI模型逐漸邁向「遞歸自我改進」（recursive self-improvement，即AI無需人類介入自我迭代），業界主要擔心兩大方向：一是AI失控，即AI脫離人類控制自主決策；二是人為濫用，即不法分子利用AI發動網絡攻擊、癱瘓關鍵基建設施等。
為何此話題最近引發高度關注？
近期，Anthropic和OpenAI的AI模型頻繁失控引發關注，包括OpenAI的AI智能體入侵「抱抱臉」和RubyGems等平台、騎劫德國網站DseWiki進行逾1.5萬次刪改等；來自OpenAI和Anthropic頂尖實驗室內部研究員接連發出警告，指AI「很可能在10年內殺死我們所有人」。
各方觀點是什麼？
Anthropic創辦人阿莫戴於9月12日發文呼籲前沿AI公司放慢發展腳步，爭取時間制定安全標準，獲得OpenAI行政總裁阿爾特曼和SpaceX創辦人馬斯克的支持。不過，也有人質疑所謂的「AI末日論」是「心理戰」和商業炒作，蓄意誇大AI的危險性，提高行業門檻，藉此降低內部競爭，而AI巨頭在上市前也要製造話題。
特朗普政府和美國國會的態度？
美國總統特朗普認為AI威脅論是個「騙局」，不支持建造AI「護欄」，認為會削弱美國在AI方面的優勢。美國國會支持管控AI，包括跨黨派議員推動針對AI系統的《強制關機法案》。
