專家之言:難用眼耳察覺瑕疵 「AI偵測AI」辨七成真假

  「深偽技術」急速發展對維護網絡安全帶來挑戰。近年,具備高速運算能力的圖像處理晶片的普及和人工智能演算法不斷改進,一般家用電腦甚至手機也可憑一張相片或一段聲帶製作出幾可亂真的「深偽」視頻或音頻。「科技罪案警政顧問小組」成員、香港專業進修學校協理副校長林森指出,「深偽」內容帶來最大的挑戰是難以利用肉眼和耳朵識別。雖然人工智能生成的影像或許仍有瑕疵,例如光線和陰影可能不太自然,影像邊緣模糊,但當大部分公眾以細小的手機熒幕觀看影像時,這些細節便不易被察覺。

  技術門檻不斷降低 騙徒湧現

  林森表示,隨着人工智能生成引擎的種類愈來愈多,「深偽技術」持續進化,辨別真偽的難度也會越來越大,加上該技術門檻不斷降低,將誘使更多不法分子利用「深偽技術」進行詐騙、發布失實資訊、製造社會輿論等。事實上,外國也陸續出現利用「深偽」聲頻和視頻進行詐騙的個案。

  面對「深偽技術」的威脅,業界已積極着手應對,其中一種策略是研究以人工智能偵測「深偽」,即「以AI偵測AI」,通過分析不同媒體信號及相關雜訊的特點和分布來判斷真假,在特定測試場景已可達至七成或更高準確率,具體例子如Deepware及Validsoft等服務。內地如百度旗下的「度小滿」也提供防「深偽」的技術和方案。另一策略是用特定技術在發放的媒體中加入可供驗證的元素,使當該媒體被用於「深偽」時可輕易識別,具體例子如數碼水印技術和區塊鏈技術。另外也有業界或不同持份者組成聯盟如 DeepTrust Alliance 來共同應對「深偽」。

  歐趕緊立法 港宜速引新技術防騙

  除了技術層面外,在法律及監管層面來應對以「深偽技術」為代表的人工智能風險的工作亦已展開。歐洲議會、歐洲理事會和歐盟委員會早前已就《人工智能法案》達成協議,並即將成為全球首部人工智能監管法規,其中規定必須清楚標籤人工智能生成的內容,供應商亦須把有關內容標記為機器可閱讀的格式以便被自動偵測。內地去年下半年也推出了《生成式人工智能服務管理暫行辦法》,規範內地生成式人工智能產業發展方向。

  林森認為,香港應盡快制定法例及守則規範企業與研究人員發展和應用人工智能,包括提升使用生成式內容的透明度,以防止有關技術被用作不法活動。在法例尚未制訂之前,本地跟內地應更積極展開「官產學研用」(政府、生產、學習、科研、應用)的合作,善用內地技術及人才優勢,加快先進技術的引入和落地,為應對未來人工智能等新技術帶來的挑戰做好準備,以及進一步利用人工智能打擊各類新型罪案。 ◆香港文匯報

  記者 蕭景源