OpenAI代理侵澳醫保數據庫
事發3個月才通報事件 澳總理表不滿
人工智能（AI）網絡安全漏洞問題近期頻頻被曝光，引發國際社會對AI風險的擔憂。澳洲總理阿爾巴尼斯當地時間23日表示，美國科企巨擘OpenAI名下一個AI代理（AI Agent）曾突破限制、入侵澳洲政府網站，然而OpenAI直至事發3個月後，才向澳方通報事件，澳方正在取證調查。
阿爾巴尼斯在美國紐約出席聯合國大會期間公布該消息。澳方表示，是次入侵事件發生在今年6月18日，當時澳洲國家醫療保健系統一個數據庫被入侵。直至8月，OpenAI全面檢查其名下AI模型時，發現是次異常行動。OpenAI等到9月10日才電郵聯繫澳洲政府一般服務中心，將事件告知澳洲政府。
奧爾特曼認管理規程不完善
英國廣播公司（BBC）披露更多通知細節。報道指OpenAI本月10日寄出的通知電郵，收件方只是澳洲政府一般服務中心的公開查詢信箱。直至15日，中心檢查海量郵件時才發現OpenAI的電郵，緊急將其轉呈澳洲網絡安全事件。總理阿爾巴尼斯直至20日、啟程前往紐約出席聯合國大會前夕，終於知悉事件始末。
是次入侵事件震驚澳洲政府。阿爾巴尼斯稱，調查相信OpenAI的AI代理訪問了公開文件和非公開文件，澳洲信號局正展開調查取證，以確定更多訊息，包括可能有其他政府機構或數據受到影響。目前暫無跡象表明，是次網絡攻擊導致任何個人訊息外洩，但後續調查有待進行。
在新聞發布會上，阿爾巴尼斯難掩對OpenAI的失望。他表示已與OpenAI行政總裁奧爾特曼就AI入侵政府數據庫事件接觸，向其表達澳方的關切和不滿。奧爾特曼也承認，事件暴露出公司對AI技術的管理規程仍不完善，後續還需確保制訂更多正確的AI管理規程。
OpenAI發言人普薩泰里當日回應稱，公司於今年8月在內部評估期間發現，旗下一款AI模型在試圖查找有關澳洲相關提問的答案、收集可用於統計的數據時，採取了一些意料之外的行動。
美科企聯國籲國際合作監管AI
另外，聯合國安全理事會23日就AI全球治理召開專題會議。美國包括Anthropic和OpenAI等多間AI企業高層呼籲就AI技術的監管加強國際合作，強調若各國無法妥善監管，AI迅速發展的潛在風險，不排除對人類社會構成威脅。
親身與會的阿爾特曼指出，AI可能帶來兩項潛在風險。其一是AI發展迅速加快，可能在未來令人類失去對技術的控制權。另一威脅是AI可能導致權力過度集中於少數企業，加劇不公平競爭問題，他倡議國際社會協調合作，降低相關風險。透過視訊方式參會的Anthropic行政總裁阿莫戴伊也呼籲：「我們必須擱置分歧，共同應對擺在面前的全球機遇和全球威脅。」
與此同時， 中國常駐聯合國代表傅聰發言時，呼籲國際社會加強團結合作，堅持發展與安全並重，推動人工智能（AI）技術朝着向上向善、造福人類的方向發展，助力世界和平穩定與發展繁榮。
與會的多名AI企業高層都表示，科技業界希望各國透過聯合國安理會設立全球安全措施，防止AI技術發展過於強大、以致無法被限制。他們亦呼籲全球應積極合作，確保AI力量不集中在某間企業或特定的國家。
OpenAI名下AI模型今年7月被揭在測試期間，入侵了開源AI社群平台Hugging Face。該平台聯合創辦人德朗格發言時，特地提及是次引起全球關注的事件，呼籲各國重視AI的發展方向，強化其在防禦網絡攻擊中的角色。
