AI失控科企負責 澳洲擬設「未能預防」罪 冀源頭管理技術風險 控制大模型造成危害
澳洲總理阿爾巴尼斯10日宣布，將通過立法強制要求在澳洲運營的前沿人工智能（AI）公司遵守6項安全保障要求，包括大模型失控或發生事故時必須迅速通報政府、開放大模型供獨立安全評估等。澳洲政府還將設立專責監管機構，並計劃修改刑法，增設獨立罪名「未能預防」罪，對開發出AI大模型又未採取合理措施防範其做出有害行為的科企追究刑事責任。分析認為，若立法最終通過，將推動AI公司從源頭上管理技術風險，有效控制大模型造成危害。
【大公報訊】阿爾巴尼斯10日發布針對此前「OpenAI智能體入侵」事件的審查報告，政府宣布接受報告提出的全部18項建議，並計劃2027年向議會提交立法。
AI公司須遵守6項法定義務
報道稱，18項建議的核心是設立專責AI安全監管機構，要求所有在澳營運的前沿AI公司遵守6項法定義務，分別為：在AI大模型開發與部署的所有階段，均須維持嚴格安全控制；主動識別並管控其可能造成的嚴重安全風險；發生事故時迅速向政府通報；允許對大模型進行獨立評估，打破僅依賴企業自證的現狀；公開發布安全與安保框架；根據技術變化和監管更新調整規則。監管機構有權對違規企業處以「重大處罰」，具體罰款金額待定。
刑事處罰方面，政府正考慮改革刑法，引入獨立的「未能預防」（failure to prevent）罪名。若企業開發出可造成損害的AI大模型，卻未採取防範措施，即屬犯罪。澳洲內政部長伯克10日就此表示：「絕不容許有人在出事後辯稱『不知道電腦被動了手腳』。」
澳洲政府將與聯邦警察合作研究具體方案，相關措施將納入擬議的《澳洲AI標準》立法。阿爾巴尼斯說，政府的任務是確保「由我們塑造人工智能，而不是由人工智能塑造我們」。
澳洲政府此次立法的導火索，是今年6月美國科企OpenAI一個智能體入侵澳洲國民醫療保險體系「國民保健」相關網站。OpenAI於8月才發現入侵，直到9月中旬才通報澳方。阿爾巴尼斯當時批評OpenAI通報「耗時過長、方式不可接受」。
由於沒有「正式的犯罪報告」，尚未就OpenAI事件啟動任何刑事起訴或調查。澳洲議會AI聯合特別委員會上月舉行聽證會時指出，現行法律缺乏足夠約束力，來要求AI公司主動披露事故，是否通報、何時通報完全取決於企業自主決定。
根據澳洲智庫TPDi今年5月發布的一份全國性研究報告，44%的民眾對AI信任度極低；與此同時，85%的人支持政府監管AI。
澳洲再收緊管控社媒 科企不滿
除政府計劃推動AI監管立法，澳洲議會參議院10日審議《數字注意義務》法律草案。該立法草案要求網絡服務商須採取措施，包括允許用戶關閉算法推薦功能等，以保護用戶免受可預見的傷害，違者將面臨最高約1.09億澳元的巨額罰款。該法案此前已在眾議院通過。
谷歌、Meta和Snap等多家科企代表當天在聽證會上表示，「原則上同意」保護澳洲人免受網絡傷害的立法目標，但認為法案條款措辭模糊、執法權力過寬，且諮詢過程「倉促」。
谷歌旗下YouTube澳洲及新西蘭政策主管洛德稱，法案涵蓋所有存在「合理可預見風險」的網絡服務，可能引發過度監管，最終可能迫使谷歌在Gmail、即時通信和私人雲端儲存等日常服務中實施年齡驗證，甚至禁止未成年人使用，這將侵犯用戶隱私。
（綜合報道）
