數字辦推生成式AI應用指引 五大維度訂定符港情景治理框架 防犯罪保真實
為應對人工智能（AI）發展浪潮下帶來的挑戰，特區政府數字政策辦公室昨日公布《香港生成式人工智能技術及應用指引》（下稱《指引》），涵蓋生成式AI技術的應用範圍、應用局限、潛在風險與治理原則，包括需關注的資料洩露、模型偏見和錯誤等技術風險等，為技術開發者、服務提供者及使用者，提供應用生成式AI技術的實務操作指引。《指引》並從五大維度，訂定符合香港情境、具本地特色的生成式AI治理框架，個人資料、知識產權、犯罪防治、確保真實性、系統數據安全等方面，以平衡AI的創新發展、應用與責任。●香港文匯報記者 莫楠
數字辦早前委託InnoHK平台的香港生成式人工智能研發中心（HKGAI），透過實踐應用及收集業界意見，就生成式AI的準確性、責任和資訊保安等範疇研究並提出建議，並經考慮研究結果及建議後制定《指引》，當中分為三大部分，包括生成式AI簡述、治理框架，以及針對技術開發者、服務提供者和使用者的實用指南。
其中在生成式AI治理章節，《指引》就模型幻覺、模型偏見、黑盒問題、數理能力等複雜語義和概念展開解釋，以及從五個維度介紹生成式AI治理框架。同時提出遵守法例、安全透明、準確可靠、公平客觀、實用高效等主要治理原則，遵守法例幫助使用者釐清和掌握模型技術局限以及其風險。
倡定版權豁免條款
第一，在個人資料私隱保護方面，《指引》建議採用聯邦學習（Federated Learning）技術，通過在多個去中心化設備或伺服器上進行模型訓練，各設備僅保留本地數據樣本且無須交換原始數據，僅共享模型參數更新，既推動技術發展又能有效降低私隱洩露風險。
第二，就知識產權保護部分，《指引》特別關注使用受版權保護材料進行AI訓練可能產生的侵權問題，建議研究制定專門的版權豁免條款，在促進技術創新與保護創作者權益之間取得平衡。
第三，針對犯罪防治議題，《指引》指出AI技術猶如「雙刃劍」，雖能提升執法效率，實現數據驅動的精密執法模式，但也可能被用於深度偽造等新型犯罪。
為此，指引強調必須保持技術透明度，確保應用符合社會價值觀，維護公眾信任。
第四，在確保AI真實可信方面，《指引》表示須構建一套科學、嚴謹且行之有效的機制與框架，來確保生成式人工智能開發者、營運者以及使用者對模型運行邏輯、行為模式及其所產生的廣泛影響承擔相應責任。特別是在系統生成資訊出現失實、偏差或誤導性內容時，能夠依據該機制和框架，清晰、準確地劃分各相關主體的責任。
第五，在系統安全防護措施方面，《指引》將數據安全列為核心要素，要求建立完善的監控更新機制，實施嚴格數據驗證流程，運用異常檢測算法篩查可疑數據，確保訓練數據來源可靠。同時強調需定期審計數據來源，構建安全傳輸通道，多管齊下防範數據投毒風險，保障系統穩定運行。
此外，《指引》亦借鑑國際公認的模式，就人工智能安全提出優化監管策略，同時針對不同行業應用作出具體建議（見另稿及附表）。
數字政策專員冀減AI應用風險
數字政策專員黃志光昨日在世界互聯網大會亞太峰會人工智能大模型論壇上表示，特區政府希望透過《指引》，促進業界與公眾以安全及負責任的方式發展及應用生成式AI技術，「在鼓勵人工智能技術創新應用的同時，降低風險，以促進生成式人工智能在香港的普及發展。」
數字辦會持續審視生成式AI的最新技術及應用發展，並與HKGAI及相關學界和業界團體保持緊密聯繫，定期更新指引的內容，供各界參考。
各行業使用生成式AI建議重點（部分）
金融
●須確保生成式AI應用的公平性，如使用生成式人工智能提供推薦或輔助決策類服務時，應避免人為操縱模型訓練或推薦權重；金融機構應充分披露AI運作機制及潛在風險，確保用戶在知情下自主選擇使用，並可隨時終止服務
醫療
●使用者應被明確告知AI生成內容可能存在錯誤，不得直接作為診斷依據，須經執業醫護人員審核；在處理病歷等敏感資料時，須遵循最小化收集原則，嚴格保護患者隱私，禁止將資料用於保險評估等其他用途
法律
●應着重確保準確性和可靠性，生成內容應附有可追溯至法律原文的引用連結，不能直接作為法律文檔，應由執業人員審核後作為參考；應避免使用公共AI服務處理涉及商業機密和個人隱私的案件資料
教育
●不應全面禁止學生使用AI，但課業應用需經教師同意，並明確標示AI生成內容，避免用於有違學術誠信的用途；教師使用AI輔助教學時須確保內容真實準確，用於批改作業和試卷時應確保最終結果經由人工審核
旅遊
●用AI處理客戶資料時，須明確告知用途並取得同意；在推薦服務中須確保對不同客源能做到公平和無歧視性推薦，定期審查內容真實性，防止過度收集或濫用旅客資訊
工業
●須使用高質量驗證數據訓練模型，確保預測準確度；引入AI輔助維修診斷時，結果須經主管工程師或品控人員覆核；須加強機密配方、專利技術或其他具有商業機密的信息保護，防止技術外洩或專利侵權
資料來源：《香港生成式人工智能技術及應用指引》
整理：香港文匯報記者 莫楠
