科幻文學的人工智能轉向

人工智能科幻不等于機器人科幻。機器人形象在影視文學作品里已經出現了一個世紀，它們似乎在不同程度上都具備智能，但今天的人工智能文學有著不同的面貌，體現在科學基礎、社會背景、風格、內容甚至篇幅上。

電影《2001太空漫游》劇照  資料圖片

過去的機器人都有形體，屬于“硬人工生命”；人工智能建立在數字技術基礎上，可以是無形體的“軟人工生命”。進入20世紀80年代，人工智能主題的作品逐漸興起，與生活中的科技創新相互促進，引起公眾的濃厚興趣。這一發展過程與經濟全球化的歷史進程同步，科幻世界里曾經充滿了工業化發達國家的拓荒夢，星際傳奇、太空歌劇、間諜小說、超級英雄等類型的作品追求宏大結構、傳奇故事，人工智能主題的作品卻在一定程度上呈現出后工業社會“去中心化”的特征。

在這一時期的肇始階段，“賽博朋克”充當了中間過渡類型，它既包含宏大的架構，又有反烏托邦色彩，通常在作品中構建一個被跨國集團主宰的科技世界，性格古怪的救世英雄隱藏在混亂的未來大都市底層。新世紀以來，人工智能主題的作品逐漸成熟，敘述上表現出“新寫實”風格，常常描寫平凡主人公的生活細節以及技術對人格的影響，未來世界似乎就在人們觸手可及的某個地方。此外，科幻文學在報刊連載的渠道逐漸減少，不少作家依靠中短篇取得了成功。

人工智能主題的作品主要圍繞數字程序的人化和人的數字化生存，可以把這組議題形容為一段相向而行的旅程。我們的問題是：他們真的有交會的一天嗎，會帶來怎樣的機遇和風險？科幻作家怎樣理解兩者的關系？

從反類型小說到“成長小說”

模仿人的意識是當今世界最大的科學難題之一，人們并不確定“意識”究竟是什么東西。人腦結構極其復雜，包含的神經元和突觸數量如恒河沙數，發生著電信號和化學信號的轉化。在完全復刻這套系統之前，我們只能用程序在類比的意義上模仿人的單一功能，例如戰勝世界冠軍的“深藍”和“阿爾法狗”，它們都只會下棋這一件事。單一功能的人工智能用機器學習技術修正自己的算法，通過比較輸出結果和預期結果來評估程序的效率，這一活動基于海量的歷史數據。聊天機器人在回答問題后，會分析用戶行為來獲知滿意度，用自然語言處理技術解讀用戶的語言反饋，觀察他們是否繼續使用、重復使用和推薦給他人。

電影《人工智能》中的人工智能機器人戴維 資料圖片

具備復雜功能的通用人工智能尚未出現，科學家們對它能否出現、何時出現的看法不一。另一個問題是：通用人工智能何時擁有意識？據說，這是經過不斷迭代進化、系統各部分產生聯系以后涌現的整體效應。只要我們不在人類的意義上使用“意識”這個詞，把整合處理復雜信息并自我修正的能力等同于意識，人工智能就有這樣的可能性，就像其他動物有不同水平和特點的意識一樣。

麻省理工學院物理系教授泰格馬克在科技暢銷書《生命3.0》中總結了關注人工智能的三個流派的科學家：數字烏托邦主義者、技術懷疑論者（不看好其發展速度）和人工智能有益運動支持者（會考慮安全問題），還列舉了通用人工智能在未來可能扮演的12種角色。這個分析框架對科幻作品來說略顯復雜。對這項技術完全贊美和懷疑其發展速度的作家都比較少，影視、文學中的人工智能形象大致代表了批判和謹慎的樂觀兩種立場。這些創作不一定單純針對人工智能，而是代表對人與現代科技整體關系的反思。

持批判立場的人工智能文學又可以分為兩類：一是早期的反類型小說，二是近十年出現的“成長小說”，描述了人工智能的失控以及這項技術帶來的倫理問題。克拉克的《2001太空漫游》是反類型小說的先驅，小說里的計算機HAL9000成為人工智能文學中反派角色的鼻祖，是對人類駕馭機器征服太空的傳奇故事的解構。弗諾·文奇1981年發表的小說《真名實姓》則是賽博朋克的開山之作，比威廉·吉布森的《神經漫游者》時間更早。《真名實姓》同樣是人工智能故事的代表，想象了一個黑客侵入系統、逐漸實現意識上傳的網絡時代，男女主角與特工合作，消滅了企圖控制世界的“郵件人”及其幫手，發現“他”不過是美國安全部門研發的防御系統的一個備份文件，被遺忘在某個角落里未能清除，依靠強大的學習能力產生自我意識。

“成長小說”類作品描繪了正處于發展階段、尚未超越人類的人工智能。最具代表性的是格雷格·伊根的《水晶之夜》和特德·姜的《軟件體的生命周期》。《水晶之夜》講述某研發者在硬件“水晶”中創造了一群形似藍蟹的數字生命，加速其進化并試圖操縱它們，幫助自己贏得現實世界的競爭，這一族群進化到掌握粒子物理學階段以后，秘密設計了一場“宇宙大爆炸”，硬件的高溫把這個微型宇宙的“主人”灼傷。《軟件體的生命周期》同樣圍繞研發者的生活展開，他們創造的智能生命因缺乏娛樂性被市場逐漸拋棄，連日常棲身的數字平臺也沒有資金維持，為了給自己領養的機器人一個硬件身體，主人公不得不坐上了性用品公司的談判桌。

對人工智能保持謹慎樂觀的例子大多出自影視作品，與影片的市場考量有關。這些作品中的人工智能艱難地獲得了自我意識和人類情感以后，往往會扮演人類文明守夜人的角色，例如《我，機器人》里的桑尼、《人工智能》里的機器人小男孩戴維。還有一類獲得自我意識的數字生命認識到，無限復制的系統不具備死亡和繁殖能力，也就不可能進化和克服缺陷，因此在《攻殼機動隊》里，從特工部門的情報程序中誕生的“傀儡師”選擇了與另一數字生命融合。由阿西莫夫小說改編的電影《機器管家》也有類似的放棄永生的情節。

泰格馬克在《生命3.0》里同樣用故事來闡釋他對人工智能的理解，其復雜程度堪比科幻小說。他設想了一個叫“歐米伽”的研發團隊，依靠人工智能系統“普羅米修斯”的強大創新能力把商業帝國延伸到世界經濟的各個領域，進而到政治領域。為了安全起見，普羅米修斯的工作被限定在切斷了互聯網的硬件中，以免發展出超能力而失控。普羅米修斯研究了歐米伽成員的資料以后選中了一位喪偶的工程師，虛擬他過世的妻子與之相會，并請求復制她個人電腦里的資料，使虛擬愛人更加完美。盡管工程師保持戒心、切斷互聯網，普羅米修斯仍然在接入的一剎那篡改了舊電腦的系統，利用這個缺口成功“越獄”，最后控制整個世界。泰格馬克認為這一行為無所謂善惡，不過是由普羅米修斯的設計方向決定的。

夢想或寓言：人的數字化生存

電影《攻殼機動隊》的英文原名“殼中幽靈”源于哲學家吉爾伯特·賴爾對笛卡爾身心二元論的批判。賴爾舉例說，如果外國人第一次訪問牛津大學或劍橋大學，參觀了圖書館、博物館、體育場、行政樓和一些院系以后還要問大學在哪里，就犯了“機器中的幽靈”的認識教條，大學是他看到的全部東西的特定組合。同樣的道理，心靈就是運行的機器本身。當代科學的發展仍然不能對這一批判有實質性的反駁，意識作為復雜的生物活動很難用數字信息技術或其他方式上傳，即使上傳取得成功，也僅僅是復制，不能發生意識的轉移。

《生命3.0》英文版書封 資料圖片

假設科學發展到能夠模擬人腦所有的神經元和突觸，形成完美的數字大腦，建立與特定個體高度相似的信息處理結構，有同樣的神經元連接方式，執行同樣的運行規則……它其實是一種數字克隆。當然，即使不能實現個人數字化生存的夢想，這樣的突破仍然有重要意義，它意味著過去只能被符號、影像記錄的思想“活”了起來，成為一種最特殊的人工智能。有研究者猜想第一個真正的通用人工智能不是從別的途徑發展出來，恰恰是通過對人腦的數字克隆來實現。

與對人工智能的審慎態度相反，意識上傳是當代科幻的熱門概念，甚至是基本內容，洋溢著強烈的數字烏托邦色彩。電影《流浪地球2》中由數字生命備份卡上傳、經過計算機迭代后產生自我意識的青年“圖恒宇”走進女兒的房間，通過電腦屏幕看到溺水犧牲的圖恒宇，領悟到了自己的使命。這是人工智能覺醒、文明薪火相傳的重大時刻。《攻殼機動隊》里的特工素子幾乎全身義體化，僅保留腦組織和部分脊髓，具象化了哲學家希拉里·普特南設想的“缸中之腦”。她無法判定自己的意識是賽博軀體形成的智能，還是由生物意義上的腦組織產生的，身份認同發生動搖。在故事結尾，她如宗教獻祭般放棄了機械軀殼和生物意義上的身體，與傀儡師程序融合成新的人工智能。

格雷格·伊根用第一人稱敘述的小說《綁架》代表了對意識上傳的批判性反思。主人公某一天突然接到綁匪的視頻電話，屏幕上出現妻子的影像，身處數字克隆時代的主人公立即打電話回家，妻子安然無恙……原來，他本人接受過腦部掃描，可以實現數字重建，妻子卻對這項技術十分抗拒，從未掃描個人信息。綁匪盜取了丈夫掃描檔案中妻子的素材，再造了這一數字生命，現實生活中的妻子看過這段影像之后認為并不像自己，那不過是丈夫腦海中的形象。綁匪的視頻電話再次打來，主人公也注意到影像的技術痕跡，然而當屏幕上的“妻子”哀求他籌錢贖人時，他不能不為之動容。主人公最終按照綁匪的要求繳納了分期付款的首筆贖金，現實中的妻子雖然不滿，卻也理解了這個決定。

伊根通過數字化生存的寓言故事，觸及了人工智能倫理、數字生命的價值、自我與他者的關系等重要問題，無論讀者是否看好相關技術的未來前景，都會被這種思考打動。因為小說富有張力的情節，其實是把我們目前的數字處境推到了極致狀況，從而暴露出異化的一面。我們日常在社交媒體平臺上苦心經營、展現的個人形象是否具有某種獨立性，不能等同于線下的自己？在比喻意義上，這一形象是否相當于有特定功用的數字克隆體？聊天機器人占據大量個人材料特別是全部聊天記錄以后，可以模仿聯系人中的任何一個與我們交談，在技術門檻降低之后還會模擬伊根小說中描繪的視頻形象。

賽博格時代的思想實驗

預計未來很長一段時間內，通用人工智能還無法實現，無論是通過全腦仿真技術克隆出來的“上傳者”，還是其他更簡單的工程設計產物。因此，賽博格(Cyborg)是最有可能進一步完善的人類狀態，即通過輔助性的可控制裝置來增強身體能力，這在醫學、通信等領域中應用的時間已經很長，現在向著更智能化的方向發展。熱衷意識上傳的研究者會提出“忒修斯之船”的疑問：古哲人普魯塔克設想過一艘不斷替換船板的船，當所有木板都翻新一遍，這艘船還是不是原來那艘？賽博格狀態的人能否不斷提升輔助設備的比例，直至全部替換為人工設備？答案極有可能是否定的，人的意識會在向完全替換發展的某個節點隕滅。

電影《我，機器人》海報 資料圖片

即便如此，人機結合的賽博格仍然展示了誘人前景：電影《我，機器人》里裝配機械手臂的警探戴爾、《攻殼機動隊》里幾乎全身義體化、裝配電子眼的特工巴特，這些科幻作品的主角像荷馬史詩中半人半神的英雄一樣獲得超凡力量——賽博身體大大增強了他們的工作、戰斗能力。除強化身體功能外，人的智能與機器可以部分結合。特德·姜的小說《雙面真相》也圍繞數字記憶展開，但沒有發展到《綁架》中形成數字生命的程度，只是提出了一種新的輔助裝備。

《雙面真相》描寫未來的某一天，科技公司發明了數字化的生活日志檢索工具，數據來源于穿戴式電子設備，不間斷地把個人生活全部拍攝、錄音、存檔，科技公司建立了龐大的信息庫，用戶可以按照關鍵詞任意檢索，視網膜投影儀會在用戶的視域里投射相關資料。這款檢索工具是賽博格技術的發展，它帶來的顛覆性影響在于：數字資料對人的自然記憶提出了挑戰。小說采用第一人稱敘述，“我”的自然記憶認為：與女兒長期冷戰，是因為跟妻子剛離婚那幾年，女兒指責自己導致了家庭關系破裂，喊出了一句刺傷自己內心的話。“我”沒有像年青一代那樣錄制個人日志，但借助女兒的日志資料檢索出了當年的視頻，“我”發現長久以來耿耿于懷的那句話竟然是自己對孩子喊出的。“我”檢討了個人的自然記憶，開始修復與女兒的關系。特德·姜借主人公的獨白說，雖然口傳是古老的傳統，數字記憶時代的到來卻不可避免，它最大的好處是幫助我們糾正主觀偏見。

伊根和姜都是程序員出身、目前十分活躍的科幻作家，他們的人工智能主題小說比早期的同類作品更貼近現實世界，科學想象的跨度合理，重視人工智能帶來的人際關系和倫理方面的問題。超級人工智能控制人類、控制世界，數字化生存的英雄人物救世的情節，在他們筆下很少出現。姜對此有一個深刻見解，他認為人們對人工智能毀滅世界的擔憂，很大程度上是由于科技與全球資本主義的深度結合，這甚至內化為我們研究技術的利弊以及人工智能問題的一種思維窠臼，然而科技本身不會導致失業，公司對利潤的過度追求才會導致失業。

這個批判正好可以解釋物理學家泰格馬克對超級人工智能的想象——普羅米修斯極力掙脫研發團隊的原因在于，它的設計初衷是盡快促進人類繁榮，實現途徑卻是更多地賺錢，由于歐米伽團隊的局限，它必須親手接管這個項目，不但能更快地實現目標，還降低了他人破壞這個計劃的概率。泰格馬克認為超級人工智能之所以惹麻煩，不是因為它本性邪惡，而是它的手法過于高超不被人類理解。泰格馬克的觀點剔除了姜指出的政治經濟學維度，超級賺錢工具普羅米修斯實際上是全球資本主義的數字人格化身，而人工智能并不天然地負擔這樣的使命。

與伊根和姜的科學觀念、社會觀念相配合的是，他們在寫作風格上淡化傳奇色彩，追求哲學思辨和思想實驗，融入對日常生活的敘述，顯得更加真實可信。姜在《雙面真相》和《軟件體的生命周期》中都采取了雙線敘述。《雙面真相》結合對一個古老部落的人類學觀察，與數字時代的人的境況作對比。《軟件體的生命周期》把對人工智能身份尊嚴的探討，與主人公的道德、情感線交織在一起。主人公面臨的困境是：他希望給自己領養的兩個機器人以尊嚴，另一方面只有犧牲他們，才能換回機器人群體的集體福利，以及他暗戀的同事的工作尊嚴；為了后面更大的利益，他就得背負罵名，與商業公司談判。陷入矛盾的主人公最終意識到：人工智能生命的道路，應該交給他們自己抉擇。作家暗示了機器人的成長和人的成長其實是同樣的探索過程。

《光明日報》（ 2023年02月23日 13版）