聯合國首辦AI治理對話 籲力保兒童安全 古特雷斯促業界簽署安全承諾 倡設全球基金防算力壟斷
香港文匯報訊 聯合國首屆「全球人工智能治理對話」當地時間7月7日在瑞士日內瓦揭幕，為期兩日的會議匯聚各國政府、科技業界、學術界及公民社會逾4,000名代表，共同商討如何制訂全球性規則，以降低人工智能（AI）的潛在風險，同時善用這項技術帶來的機遇。聯合國秘書長古特雷斯在開幕式上發出嚴正警告，指AI的發展速度已遠遠超出所有人能跟上的步伐，必須即時建立全球治理機制，確保這項技術造福人類，尤其要將兒童安全置於監管首位。
古特雷斯在會上表示，AI這項科技能重塑經濟、改變工作形態、左右選舉結果乃至破壞安全平衡，其發展速度之快，包括開發人員在內的所有人都難以跟上。他特別指出，互聯網花了15年才觸及10億人口，而AI只用了兩年便達到相同規模。在沒有人研究過會對兒童帶來什麼影響時，AI就已接觸到小孩，涉入他們的學習、友誼，以及他們最私密的問題。
創新需要護欄規範約束
古特雷斯呼籲業界簽署一項AI兒童安全承諾，要求開發這些系統的公司必須先證明其安全性，才能讓兒童接觸使用。此外，系統不應被允許生成兒童色情圖像，當兒童表現出痛苦跡象時，系統應停止運作，並將他們轉介給真人尋求協助。
古特雷斯坦言，所謂的隨想編程，即使用AI表達你想要什麼而非自行撰寫程式，雖然可帶來奇想，但不能靠隨想編程來定義真相，也無法靠隨想編程來決定人類未來。他強調，創新需要護欄規範約束，若AI要展現強大力量，就必須受到治理。隨着AI以飛快速度持續發展，目前世界正進行一場沒有計劃、也未經同意的實驗，而這種情況不能繼續下去。
籲協助發展中國家提升AI能力
古特雷斯同時警告AI權力集中於少數企業與少數國家手中的風險。根據聯合國支持的獨立科學小組首度針對AI所做的全球評估報告，在全球前500台AI超級電腦中，美國佔據75%的算力，不少國家所佔份額微乎其微。這意味着發展中國家在AI的發展上幾乎沒有發言權，並面臨被拋在後頭的風險。古特雷斯表示，協助發展中國家提升AI能力、促進普及化至關重要，以避免目前的數碼落差進一步加劇成為AI落差。他將敦促聯合國設立全球AI基金，以在全球各地培育數碼能力及負擔得起的運算資源。大會主席貝爾伯克表示這項基金成立勢在必行，但她未有透露具體金額，強調最大挑戰在於這些資金能否真正造福所有人。
第二次對話料明年紐約舉行
今次全球對話預計不會產生任何具體決定，但大會共同主席洛佩茲向媒體表示，此次會議將奠定良好基礎，第二次對話預計明年在紐約舉行，屆時將推出更全面的報告。科學專家的獨立報告發現AI的發展甚至比預期更集中，聯合國希望透過持續的全球對話，逐步建立共識與規範框架。
古特雷斯在總結時強調，AI的治理不能再等待，隨着AI技術持續滲透日常生活各個層面，從教育、就業到軍事安全，聯合國倡議的全球治理框架能否獲得主要大國與科技企業的支持，將是未來一年國際社會關注的焦點。
