大公報援引《金融時報》報道:近期聊天機器人ChatGPT大熱,再次引發外界對於人工智能(AI)研發的極大關注。《金融時報》報道,美國圍棋棋手凱林·佩林,近期成功戰勝被視為AlphaGo同級的頂級圍棋系統KataGo,成人類時隔7年後對AI的一次成功反擊。據悉這名棋手能夠獲勝的原因,是通過研究AI下棋系統而發現了AI對手的弱點,師夷長技以制夷,最後取得勝利。
自2016年AlphaGo擊敗韓國圍棋冠軍李世石後,人工智能在圍棋比賽中所向披靡。近日,美國一名圍棋棋手凱林·佩林,卻成功戰勝被視為「AlphaGo同級」的AI圍棋軟件KataGo,引發外界關注。
據報道,佩林並非頂尖棋手,而是美國的業餘四段棋手。但在本次人機對決中,他能連續贏了AI對手15場,其中的14場都沒有直接依靠電腦支援,而是在得知AI對手的弱點後,自己戰勝了AI棋手。《金融時報》稱,儘管比賽中有電腦支援,但最終的勝利卻「為人類圍棋愛好者開啟了一扇新的大門。」
「聲東擊西」絕地反擊
這項讓人類棋手奪回圍棋桂冠的計劃,是美國一家加州研究公司「FAR AI」的研究機構啟動的。該團隊通過分析AI棋手的弱點,並加以針對,最終佩林獲得了勝利。「FAR AI」行政總裁亞當·格利夫說,「對我們來說,利用這個系統非常容易。」
格利夫表示,其團隊研發的AI在與KataGo進行了100多萬次的對局之後,發現了一個人類可以利用的「bug」。因為棋局中存在大量的組合和變化,所以電腦無法對每一個棋手的未來動作進行評估。所以只要「聲東擊西」地利用棋子區分散AI的注意力,AI就能輕易地被迷惑。
在比賽中,佩林在棋盤的各個角落都下了棋子,以迷惑AI;另一方面,佩林也盯上了AI棋手的棋盤領域,並慢慢將其四周包圍。佩林表示,「即使圍攻已經接近尾聲,AI棋手也絲毫沒有注意到危險。
佩林補充道,這些獲勝的策略「對人類來說並不難」,甚至是圍棋中級玩家都可以使用它。但要是把「聲東擊西」策略投放在人類棋手上,「卻能輕易地被發現。」據悉,佩林還使用這套策略戰勝了另一個頂級圍棋系統「Leela Zero」。
也有研究人員稱,一個可能的原因是上述策略很少被使用,AI系統沒有接受過足夠多的類似遊戲的訓練以意識到它們的弱點。
揭示AI系統仍存在缺陷
在過去30年,人工智能不斷取得里程碑式的突破,首個廣受關注的便是IBM的「深藍」電腦擊敗俄羅斯國際象棋冠軍卡斯帕羅夫。圍棋曾被認為是AI不可能超越人類的一種遊戲。但7年前,一場AI和人類的對決,讓AI出盡了風頭。2016年,谷歌旗下研究公司DeepMind的AlphaGo系統,就以4比1擊敗了世界圍棋冠軍李世石。而李世石也在慘敗3年後宣布退役,稱AlphaGo是「不可戰勝」的。
加州大學伯克利分校計算機科學教授斯圖爾特·拉塞爾說,最頂尖的圍棋AI也能被證明存在弱點,那也表明「支撐當今最先進AI的深度學習系統仍然存在着根本缺陷。」他表示,這些系統只能「理解」它們體驗過的特定情況,卻無法和人類一樣進行策略性概括。
曾被「深藍」擊敗的卡斯帕羅夫就曾表示,未來人類要學會與AI合作,「朝大格局想,引進更多科技,人類始終是贏家。」
防聊天機器人失控 微軟限制提問次數
微軟當地時間17日表示,由於搜索引擎Bing的人工智能(AI)聊天機器人被報告出現一系列問題,現決定對Bing Chat進行限制,即每天最多可以問50個問題,每次對話最多5個問題。
Bing團隊解釋稱,有數據顯示,絕大多數人在5次回覆內找到了他們想要的答案,只有大約1%的聊天對話會產生50條以上的消息。一旦用戶觸發5個問題限制,Bing就會開啟一個新的對話主題,以免使Bing Chat混淆。另外,在每次對話結束後,內容將會被清除。
此前,微軟也表示目前發現Bing Chat在回答了15個或更多的問題後,可能會「開始重複或被激怒,進而給出不符合程序設定的回答」。同時,微軟強調絕大部分的反饋還是積極的,但尚不清楚限制將持續多久。微軟稱:「隨着繼續獲得反饋,我們將探索擴大聊天會話的上限。」這意味着,目前的限制似乎還會改變。
微軟7日宣布推出整合了OpenAI旗下ChatGPT相關技術的Bing Chat,兩天內已經有超過100萬人加入等待名單。但近日傳出Bing Chat疑似其「精神錯亂」的現象,包含回答出錯、憑空杜撰,甚至出言侮辱用戶等行為。
(來源:大公報A20:國際 2023/02/19)
