英倫漫話/作家眼中的AI世界\江 恆
今年是英國作家石黑一雄以人工智能（AI）世界為背景的科幻小說《別讓我走》出版二十周年，對於當今AI的飛速發展，與二十年前相比，他的看法發生了哪些改變？
作為諾貝爾文學獎得主的石黑一雄，其所有作品都體現了對微小甚至平凡細節的關注。從《無可慰藉》到《長日將盡》，他在過去四十年來創作了很多最令人難忘的小說。但或許沒有一本書比他的第六部小說《別讓我走》更受人們的喜愛，該小說的銷量超過了他的所有其他小說，不僅被改編成一部主流電影，而且還被改編成舞台劇。
《別讓我走》講述了在AI世界人類培育克隆人的故事，幾位主人公在遠離塵囂的寄宿學校中長大，直到有一天，他們意識到自己是被刻意複製出來的克隆人，目的是最終用身體拯救他人的生命。這部小說圍繞着一個最基本、最不可避免的事實：我們都會死，但我們必須像沒有死一樣活着。用石黑一雄的話說，在某種程度上，我們人類無法完全接受自己的命運，因此我們渴望有特殊的安排，這不僅僅是因為我們想要繼續活下去，更因為我們不想面對死亡帶來的痛苦、悲傷和孤獨。實際上，小說中的克隆人也有同樣的情感。
石黑一雄在小說中開啟的一系列有關人類與AI世界的思路和主題探究，幫助塑造了他的後續科幻作品，包括《被埋葬的巨人》和《克拉拉與太陽》。總體而言，當時石黑一雄對於AI世界關注的重點，是希望、愛以及人類定位。其中《克拉拉與太陽》以具有思考能力的AI機器人克拉拉的視角，思索AI與人類的關係究竟能走多遠。當克拉拉負責照顧一名體弱多病的年輕人時，她在關心病人和了解這個家庭的同時，也開始思考自己的存在和生存的意義，形成了自己的精神和對世界的熱愛。
由於《克拉拉與太陽》是在世界第一隻克隆哺乳動物多莉羊問世後創作的，引發了人們對富有的億萬富翁是否會克隆自己，進而造成人類社會不公的擔憂。實際上，石黑一雄對於AI領域正在發生的強大革命，一直在深入思考新技術將如何創造一個雙層社會：有些人從中受益並因此而得到提升，而另一些人則處於原有狀態，最終導致出現幾乎兩個不同的物種，即人類和超人類。顯而易見，他把這些對AI世界的擔憂寫入了早期的《別讓我走》以及後來的《克拉拉與太陽》之中。
如今距離《別讓我走》的發表已過去了二十年，石黑一雄對AI世界有了新看法，從當初關注AI可能造成的社會不平等，轉向了如何保護人類免遭AI控制的命運。他認為，目前人類只是在考慮用AI來處理數據或做類似的事情，但很快AI就能弄清楚如何在人類身上創造某些情緒──憤怒、悲傷、笑聲。AI將非常擅長操縱情緒，而我們正處於這個邊緣。隨着AI技術的不斷增強，這種情況只會進一步加劇。
事實上，科幻小說提供了許多關於未來AI世界的設想，而作家往往比常人擁有更大的腦洞，很多人像黑石一雄一樣對機器人發出某種預警。比如上世紀六十年代，哈蘭·埃里森的《我沒有嘴，但我不得不尖叫》，被公認為是對AI主導的世界最殘酷的描述之一：一個為發動核戰爭而製造的名為AM的機器人，殺死了大多數人類。阿西莫夫在《我，機器人》中，提出了人類今天仍在思考的有關機器人和AI的關鍵問題：我們什麼時候認定機器人具有感知能力？如果它們有了知覺，它們能感受到情緒嗎？那麼它們被我們奴役是可以被接受的嗎？威廉·吉布森在「蔓延」三部曲之一的《神經漫遊者》中，描繪了在不久的將來真正威脅人類的AI出現。而泰德·姜在《軟體物件的生命周期》中，探討了當代文化對新興AI的影響，並很快得出結論：我們可能發現自己周圍有數以百萬計的AI存在，我們需要像照顧孩子一樣照顧它們。因為它們像悶悶不樂的青少年一樣游手好閒，只會製造麻煩，而遠非一支順從的勞動力隊伍。我們人類需要擔心嗎？也許吧。
