生成式人工智能 應防止虛假信息
網信辦發布《生成式人工智能服務管理辦法（徵求意見稿）》
香港文匯報訊（記者 張帥 北京報道）國家互聯網信息辦公室官網4月11日消息，為促進生成式人工智能技術健康發展和規範應用，根據《中華人民共和國網絡安全法》等法律法規，國家互聯網信息辦公室起草了《生成式人工智能服務管理辦法（徵求意見稿）》，其中提出生成式人工智能產品提供服務前需申報安全評估，在內容上應當真實準確，採取措施防止生成虛假信息，並且應當體現社會主義核心價值觀，不得含有顛覆國家政權、推翻社會主義制度，煽動分裂國家、破壞國家統一等內容。
生成式人工智能，是指基於算法、模型、規則生成文本、圖片、聲音、視頻、代碼等內容的技術。隨着OpenAI公司聊天機器人ChatGPT和百度「文心一言」流行，生成式人工智能成為全球焦點，相關監管也逐漸提上日程。
今次國家互聯網信息辦公室發布的《徵求意見稿》明確要求，利用生成式人工智能產品向公眾提供服務前，應當按照《具有輿論屬性或社會動員能力的互聯網信息服務安全評估規定》向國家網信部門申報安全評估，並按照《互聯網信息服務算法推薦管理規定》履行算法備案和變更、註銷備案手續。
提出五方面具體要求
《徵求意見稿》指出，國家支持人工智能算法、框架等基礎技術的自主創新、推廣應用、國際合作，鼓勵優先採用安全可信的軟件、工具、計算和數據資源。
提供生成式人工智能產品或服務應當遵守法律法規的要求，尊重社會公德、公序良俗，符合以下五方面要求。一是利用生成式人工智能生成的內容應當體現社會主義核心價值觀，不得含有顛覆國家政權、推翻社會主義制度，煽動分裂國家、破壞國家統一，宣揚恐怖主義、極端主義，宣揚民族仇恨、民族歧視，暴力、淫穢色情信息，虛假信息，以及可能擾亂經濟秩序和社會秩序的內容。二是在算法設計、訓練數據選擇、模型生成和優化、提供服務等過程中，採取措施防止出現種族、民族、信仰、國別、地域、性別、年齡、職業等歧視。三是尊重知識產權、商業道德，不得利用算法、數據、平台等優勢實施不公平競爭。四是利用生成式人工智能生成的內容應當真實準確，採取措施防止生成虛假信息。五是尊重他人合法利益，防止傷害他人身心健康，損害肖像權、名譽權和個人隱私，侵犯知識產權。禁止非法獲取、披露、利用個人信息和隱私、商業秘密。
不得非法留存用戶輸入信息
此外，《徵求意見稿》提出，提供者在提供服務過程中，對用戶的輸入信息和使用紀錄承擔保護義務。不得非法留存能夠推斷出用戶身份的輸入信息，不得根據用戶輸入信息和使用情況進行畫像，不得向他人提供用戶輸入信息。提供者不得根據用戶的種族、國別、性別等進行帶有歧視性的內容生成。
