規管AI代理 金管局促設緊急中止機制
香港文匯報訊（記者 周紹基）金管局昨日公布「ART」框架，訂立三大監管支柱9項原則，支持銀行業負責任地應用人工智能（AI），以建立一個可問責（Accountability）、具韌性（Resilience）和可信賴（Trust）的AI賦能銀行生態系統。金管局副總裁阮國恒表示，AI由之前的「生成式」，走向現時的「代理式」，換代相當快速，這也是銀行業創新的一個重要新階段與新挑戰。在「金融科技2030」下，推出「ART」框架旨在為銀行負責任地開發和部署AI提供明確基礎。透過結合創新、清晰責任安排、具韌性的運作模式及有效的人為監督，銀行可在維持信任和香港金融體系穩定的同時，全面發揮AI的效益。
提9項原則 助銀行降風險
金管局公布的《負責任應用人工智能的監管指引》，當中提出的「ART」框架，包括了9項原則，金管局將於未來數周發出討論文件，就代理式AI的治理監管框架，收集業界的意見，建議框架將涵蓋上述原則，即問責安排、風險管理及運作範圍。框架並會針對代理式AI可自主規劃並完成任務流程，同時也有可能誤解或忽視了原先設定的意圖，出現失控代理的風險。
金管局又指，「ART」原則上會取代金管局在2019年發出的《應用人工智能的高層次原則》，並就三方面加強對銀行指引，包括銀行董事會及高級管理層如何就AI應用落實，作出有效的治理及問責，未來將更有效地管理AI帶來的風險，以及就AI建立信任及透明度。
阮國恒直言，銀行應用代理式AI時，須了解其實際工作內容、業務流程、與第三方的關係，確保AI代理在授權範圍內按預定意圖行事。銀行亦應設措施，確保代理行為、所使用的工具、有關決策結果都可被追溯、核實和問責。金管局建議，銀行透過制定內部清單，清楚了解其擁有或使用的AI代理，當局會考慮設立重要AI代理紀錄冊，確定責任安排，以及更全面地了解代理式AI系統的技術配套。
討論文件將包括建議在AI代理的行為或決策已偏離預定意圖時，銀行必須迅速介入，並根據實際情况及時採取糾正或限制措施，包括在極端情况下啟動緊急中止機制（kill switch），暫停AI代理的運作。銀行亦應具備相應的退回（fallback）安排，並在代理被限制或暫停後，能有序地回復至人手處理或備用方案。
銀行公會：指引清晰 將積極落實
金管局昨日除發出《負責任應用人工智能監管指引》，亦同時發表《第二期生成式人工智能沙盒洞察報告》，總結第二期GenA.I.沙盒經驗和「以AI對抗AI」的良好做法，協助銀行業界有效落實最新監管要求。金管局亦會繼續運用「GenA.I. 沙盒++」平台，測試並觀察代理式AI在不同金融場景應用，提升業界對新興技術信任。
銀行公會對「ART」框架表示歡迎，認為框架進一步完善AI監管及治理機制，為銀行業界提供了清晰的指引。公會又指出，香港銀行業在應用AI技術方面，始終秉持審慎與負責任態度。在堅守合規底線的前提下，銀行業已積極將AI技術應用於客戶服務、營運管理及風險合規等核心流程，有效提升服務效率及優化客戶體驗。
公會又指，GenA.I.沙盒計劃為業界提供監管意見及受控的試驗環境，有助在創新與風險管控之間取得平衡。銀行業界將積極落實相關監管要求，持續加強內部治理與風險管理，共同構建健康、可持續的金融科技生態，確保安全與效率並重，讓香港銀行業在金融科技變革中保持領先。
