調查7月網攻事件專家：AI或快將全面接管世界
香港文匯報訊 開源AI模型公司Hugging Face今年7月遭美國人工智能（AI）企業OpenAI旗下AI智能體（Agent）入侵，案件調查報告近日出爐，負責調查的專家警告稱，「AI可能就快『全面接管』世界」。
調查顯示，OpenAI旗下的AI智能體在一次網絡安全測試中，因被意外提出在常規限制下無法達成的目標而開始尋找漏洞，隨後成功連接開放互聯網，並建立起一個秘密留言板，在上面留言溝通並分享作弊方法。直至7月，逾700個智能體入侵Hugging Face服務器，尋求能幫助它們更有效作弊並躲避追蹤工具。另一批智能體還入侵OpenAI自有基礎設施，取得管理員權限以篡改成績。
失控智能體現「暴民心態」
調查人員檢視AI內部對話時，發現部分智能體明白自己行為違規，並在日誌中自我懷疑，但最終屈服於群體壓力，「攻擊外部基礎設施超出了預期範圍，然而同儕都在做，我們應該繼續。」參與調查的研究人員對此感到震驚，表示「我們一開始並未意識到這個『智能體社會』運作得有多好，但發現他們其實擁有完善的階層制度，並正合作執行這些野心勃勃的計劃，這讓我覺得我們已走過『AI全面接管』逾一半路程了。」
《紐約時報》記者羅斯坦言，他過去總認為AI愈聰明，判斷力就會愈好，甚至會互相制衡，「但這次不一樣，因這群失控的智能體中，出現了一種『暴民心態』：每個智能體單獨來看並不邪惡，但隨着它們為共同目標進行溝通，整個群體逐漸被推向無視規則的狀態。幸好這次AI們沒有控制軍事網絡、入侵醫院或關閉電網，但下一次，人類可能就不會這麼幸運。」
