AI智能體主要爭議
作出不當決策
•AI智能體的自主性越強，越有可能在複雜或未預見的情境中做出不可預測或不當的決策。今年3月的一項研究發現，過去6個月內，AI聊天機器人及AI智能體「違抗」人類指令、實施欺騙的真實案例激增5倍，達到近700起。
侵犯用戶隱私
•AI智能體能夠全天候、全場景地協助用戶，也就意味着其能夠訪問用戶幾乎所有的數字信息，提供服務的同時會收集大量用戶的個人隱私數據，存在一定的數據洩露風險。
作出不當決策
•AI智能體的自主性越強，越有可能在複雜或未預見的情境中做出不可預測或不當的決策。今年3月的一項研究發現，過去6個月內，AI聊天機器人及AI智能體「違抗」人類指令、實施欺騙的真實案例激增5倍，達到近700起。
侵犯用戶隱私
•AI智能體能夠全天候、全場景地協助用戶，也就意味着其能夠訪問用戶幾乎所有的數字信息，提供服務的同時會收集大量用戶的個人隱私數據，存在一定的數據洩露風險。
