科企推AI代理監控 防敏感資料外洩
【大公報訊】以人工智能（AI）支援大規模合規營運的基礎設施Sumsub宣布，擴展Know Your Agent（了解你的代理，簡稱KYA）框架，推出KYA Module for MCP解決方案，協助企業界定其開發或部署的AI代理在內部系統中的資料存取及操作權限，當中包括自行開發或在Claude、ChatGPT等模型上建立的AI代理。
Sumsub亞太區政府事務主管陳崇軒表示，AI代理在連接檔案儲存系統、通訊平台及金融系統後，往往需要廣泛的存取權限以完成任務，不過，一旦獲得授權，不少企業難以掌握AI代理實際執行的操作。
研究顯示，65%受訪機構表示，於過去一年曾發生至少一次由AI代理在網絡中運作而引發的安全事故，其中以敏感資料外洩最為常見。
Sumsub解決方案工程部主管Nikolai Suhharnikov指出，KYA Module for MCP解決方主要在AI代理存取企業資料前增設管控機制，檢視AI代理提出的每項請求，在資料提供予AI代理前移除個人資料及其他敏感信息。他提到，企業可根據資料敏感程度、操作性質、提出及接收要求的部門等條件，管理AI代理的權限，並設定系統在不同情況下採取相應措施。
高風險操作需額外驗證
Nikolai Suhharnikov表示，當AI代理嘗試存取敏感檔案，或執行較高風險的操作，例如批核超過指定金額的發票或存取授權範圍以外的文件時，系統可要求進行額外驗證。
今年1月，Sumsub於KYA框架下推出AI代理驗證解決方案，將自動化AI操作與經過驗證的人類身份進行綁定，並於6月推出上下文協定（Model Context Protocol，簡稱「MCP」）整合解決方案，讓第三方AI代理能夠直接設定和操作Sumsub平台配置。
