【匯眼天下】AI監管第一步：出事後「誰負責」？
郭燁
AI監管的討論，往往集中在政府應制訂什麼規則、企業應採取什麼標準。然而隨着AI由回答問題走向可以自主操作電腦、登入網站和執行任務的「智能體」，另一個問題開始浮現：如果AI真的闖了禍，究竟算誰做的，又應由誰負責？
澳洲近日披露的一宗事件，正好把這個問題推到眼前。今年6月，OpenAI在內部訓練及評估實驗模型時，其智能體原本被安排搜尋公開醫療開支資料。澳洲政府稱，智能體在向當地一個醫療數據統計網站索取資料被拒後，仍取得未經授權的存取權，進入系統並讀取非公開檔案，OpenAI其後承認事件並道歉。雖然事件未涉及個人醫療紀錄，但法律難題已出現：若同樣行為由人執行，電腦犯罪有相對清晰的處理框架，如今作出越權行為的卻是一套AI。
傳統法律責任大致沿着一條熟悉的因果鏈運作：有人作出決定、採取行動、造成損害，再追究其意圖和責任。AI智能體卻在這條因果鏈中加入新一層，企業可能只給它一個目標，至於用什麼方法完成，則由系統自行選擇，於是「人要求AI做什麼」和「AI最後做了什麼」之間，可出現巨大差距。
澳洲刑法已有針對未經授權存取受限制資料的罪行，也有企業刑責制度，問題在於AI本身並非法律上的責任主體，其「意圖」亦難以直接等同該公司的意圖，以致原本由「誰決定、誰行動、誰負責」的責任鏈多出一片灰色地帶。
因此，除了事前規定AI可以做什麼，未來制度更重要的一環，是建立事故發生後的歸責原則：模型存在可預見缺陷時，開發者應負什麼責任；部署者給予智能體過大權限或缺乏監督時，又應承擔多少後果；不同環節的過失又應如何分擔。否則，當企業以「這是AI自己決定的」作解釋時，責任便可能在最需要追究的位置變得模糊。
而一旦責任可以確定，AI安全便會由抽象原則變成金錢問題。企業若知道智能體越權、洩密或錯誤交易可能帶來巨額賠償，自然會尋求保險；保險公司承保前，則會追問智能體可接觸哪些系統、高風險操作有沒有人類批准、是否保留完整紀錄、能否即時停止，以及企業有否進行安全測試。做不到，保費可能更高，甚至無人願意承保。
保險業已開始面對這個問題。《金融時報》近期報道，保險公司正盤點數百宗可能涉及AI的案件，風險橫跨網絡安全、知識產權、犯罪損失，以至董事及高管責任。換言之，保險公司可能逐漸成為AI的「影子監管者」：政府訂下法律底線，法院決定出了事誰負責，保險市場則把AI風險直接換算成價格。
AI監管接下來的核心問題，已不只是哪一項功能應被禁止。當AI開始由「說話」走向「行動」，首先要回答的是：它做了，究竟算誰做？只有責任可以追究、損失可以索償、風險可以定價，AI安全才會從企業口中的原則，真正變成企業必須計算的成本。
