相向而行：文藝作品中的人與人工智慧

人工智慧是當前科幻作品的重要主題。科學技術的突飛猛進，把瑰麗的文學想像逐漸變成真實可觸的現實，也為文化産業發展提供了更好的技術條件和更多的可能性。人工智慧主題的作品從小眾文化走向大眾娛樂，受到越來越多讀者和觀眾的喜愛，甚至可以説，科幻的人工智慧時代已經來臨。

科幻文學的人工智慧轉向

人工智慧科幻不等於機器人科幻。機器人形象在影視文學作品裏已經出現了一個世紀，它們似乎在不同程度上都具備智慧，但今天的人工智慧文學有著不同的面貌，體現在科學基礎、社會背景、風格、內容甚至篇幅上。

電影《2001太空漫遊》劇照資料圖片

過去的機器人都有形體，屬於“硬人工生命”；人工智慧建立在數字技術基礎上，可以是無形體的“軟人工生命”。進入20世紀80年代，人工智慧主題的作品逐漸興起，與生活中的科技創新相互促進，引起公眾的濃厚興趣。這一發展過程與經濟全球化的歷史進程同步，科幻世界裏曾經充滿了工業化發達國家的拓荒夢，星際傳奇、太空歌劇、間諜小説、超級英雄等類型的作品追求宏大結構、傳奇故事，人工智慧主題的作品卻在一定程度上呈現出後工業社會“去中心化”的特徵。

在這一時期的肇始階段，“賽博朋克”充當了中間過渡類型，它既包含宏大的架構，又有反烏托邦色彩，通常在作品中構建一個被跨國集團主宰的科技世界，性格古怪的救世英雄隱藏在混亂的未來大都市底層。新世紀以來，人工智慧主題的作品逐漸成熟，敘述上表現出“新寫實”風格，常常描寫平凡主人公的生活細節以及技術對人格的影響，未來世界似乎就在人們觸手可及的某個地方。此外，科幻文學在報刊連載的渠道逐漸減少，不少作家依靠中短篇取得了成功。

人工智慧主題的作品主要圍繞數字程式的人化和人的數字化生存，可以把這組議題形容為一段相向而行的旅程。我們的問題是：他們真的有交會的一天嗎，會帶來怎樣的機遇和風險？科幻作家怎樣理解兩者的關係？

從反類型小説到“成長小説”

模倣人的意識是當今世界最大的科學難題之一，人們並不確定“意識”究竟是什麼東西。人腦結構極其複雜，包含的神經元和突觸數量如恒河沙數，發生著電信號和化學信號的轉化。在完全復刻這套系統之前，我們只能用程式在類比的意義上模倣人的單一功能，例如戰勝世界冠軍的“深藍”和“阿爾法狗”，它們都只會下棋這一件事。單一功能的人工智慧用機器學習技術修正自己的演算法，通過比較輸出結果和預期結果來評估程式的效率，這一活動基於海量的歷史數據。聊天機器人在回答問題後，會分析用戶行為來獲知滿意度，用自然語言處理技術解讀用戶的語言反饋，觀察他們是否繼續使用、重復使用和推薦給他人。

電影《人工智慧》中的人工智慧機器人戴維資料圖片

具備複雜功能的通用人工智慧尚未出現，科學家們對它能否出現、何時出現的看法不一。另一個問題是：通用人工智慧何時擁有意識？據説，這是經過不斷迭代進化、系統各部分産生聯繫以後涌現的整體效應。只要我們不在人類的意義上使用“意識”這個詞，把整合處理複雜資訊並自我修正的能力等同於意識，人工智慧就有這樣的可能性，就像其他動物有不同水準和特點的意識一樣。

麻省理工學院物理系教授泰格馬克在科技暢銷書《生命3.0》中總結了關注人工智慧的三個流派的科學家：數字烏托邦主義者、技術懷疑論者（不看好其發展速度）和人工智慧有益運動支援者（會考慮安全問題），還列舉了通用人工智慧在未來可能扮演的12種角色。這個分析框架對科幻作品來説略顯複雜。對這項技術完全讚美和懷疑其發展速度的作家都比較少，影視、文學中的人工智慧形象大致代表了批判和謹慎的樂觀兩種立場。這些創作不一定單純針對人工智慧，而是代表對人與現代科技整體關係的反思。

持批判立場的人工智慧文學又可以分為兩類：一是早期的反類型小説，二是近十年出現的“成長小説”，描述了人工智慧的失控以及這項技術帶來的倫理問題。克拉克的《2001太空漫遊》是反類型小説的先驅，小説裏的電腦HAL9000成為人工智慧文學中反派角色的鼻祖，是對人類駕馭機器征服太空的傳奇故事的解構。弗諾·文奇1981年發表的小説《真名實姓》則是賽博朋克的開山之作，比威廉·吉布森的《神經漫遊者》時間更早。《真名實姓》同樣是人工智慧故事的代表，想像了一個駭客侵入系統、逐漸實現意識上傳的網路時代，男女主角與特工合作，消滅了企圖控制世界的“郵件人”及其幫手，發現“他”不過是美國安全部門研發的防禦系統的一個備份文件，被遺忘在某個角落裏未能清除，依靠強大的學習能力産生自我意識。

“成長小説”類作品描繪了正處於發展階段、尚未超越人類的人工智慧。最具代表性的是格雷格·伊根的《水晶之夜》和特德·姜的《軟體體的生命週期》。《水晶之夜》講述某研發者在硬體“水晶”中創造了一群形似藍蟹的數字生命，加速其進化並試圖操縱它們，幫助自己贏得現實世界的競爭，這一族群進化到掌握粒子物理學階段以後，秘密設計了一場“宇宙大爆炸”，硬體的高溫把這個微型宇宙的“主人”灼傷。《軟體體的生命週期》同樣圍繞研發者的生活展開，他們創造的智慧生命因缺乏娛樂性被市場逐漸拋棄，連日常棲身的數字平臺也沒有資金維持，為了給自己領養的機器人一個硬體身體，主人公不得不坐上了性用品公司的談判桌。

對人工智慧保持謹慎樂觀的例子大多出自影視作品，與影片的市場考量有關。這些作品中的人工智慧艱難地獲得了自我意識和人類情感以後，往往會扮演人類文明守夜人的角色，例如《我，機器人》裏的桑尼、《人工智慧》裏的機器人小男孩戴維。還有一類獲得自我意識的數字生命認識到，無限複製的系統不具備死亡和繁殖能力，也就不可能進化和克服缺陷，因此在《攻殼機動隊》裏，從特工部門的情報程式中誕生的“傀儡師”選擇了與另一數字生命融合。由阿西莫夫小説改編的電影《機器管家》也有類似的放棄永生的情節。

泰格馬克在《生命3.0》裏同樣用故事來闡釋他對人工智慧的理解，其複雜程度堪比科幻小説。他設想了一個叫“歐米伽”的研發團隊，依靠人工智慧系統“普羅米修斯”的強大創新能力把商業帝國延伸到世界經濟的各個領域，進而到政治領域。為了安全起見，普羅米修斯的工作被限定在切斷了網際網路的硬體中，以免發展出超能力而失控。普羅米修斯研究了歐米伽成員的資料以後選中了一位喪偶的工程師，虛擬他過世的妻子與之相會，並請求複製她個人電腦裏的資料，使虛擬愛人更加完美。儘管工程師保持戒心、切斷網際網路，普羅米修斯仍然在接入的一剎那篡改了舊電腦的系統，利用這個缺口成功“越獄”，最後控制整個世界。泰格馬克認為這一行為無所謂善惡，不過是由普羅米修斯的設計方向決定的。

夢想或寓言：人的數字化生存

電影《攻殼機動隊》的英文原名“殼中幽靈”源於哲學家吉爾伯特·賴爾對笛卡爾身心二元論的批判。賴爾舉例説，如果外國人第一次訪問牛津大學或康橋大學，參觀了圖書館、博物館、體育場、行政樓和一些院係以後還要問大學在哪，就犯了“機器中的幽靈”的認識教條，大學是他看到的全部東西的特定組合。同樣的道理，心靈就是運作的機器本身。當代科學的發展仍然不能對這一批判有實質性的反駁，意識作為複雜的生物活動很難用數字資訊技術或其他方式上傳，即使上傳取得成功，也僅僅是複製，不能發生意識的轉移。

《生命3.0》英文版書封資料圖片

假設科學發展到能夠模擬人腦所有的神經元和突觸，形成完美的數字大腦，建立與特定個體高度相似的資訊處理結構，有同樣的神經元連接方式，執行同樣的運作規則……它其實是一種數字克隆。當然，即使不能實現個人數字化生存的夢想，這樣的突破仍然有重要意義，它意味著過去只能被符號、影像記錄的思想“活”了起來，成為一種最特殊的人工智慧。有研究者猜想第一個真正的通用人工智慧不是從別的途徑發展出來，恰恰是通過對人腦的數字克隆來實現。

與對人工智慧的審慎態度相反，意識上傳是當代科幻的熱門概念，甚至是基本內容，洋溢著強烈的數字烏托邦色彩。電影《流浪地球2》中由數字生命備份卡上傳、經過電腦迭代後産生自我意識的青年“圖恒宇”走進女兒的房間，通過電腦螢幕看到溺水犧牲的圖恒宇，領悟到了自己的使命。這是人工智慧覺醒、文明薪火相傳的重大時刻。《攻殼機動隊》裏的特工素子幾乎全身義體化，僅保留腦組織和部分脊髓，具象化了哲學家希拉裏·普特南設想的“缸中之腦”。她無法判定自己的意識是賽博軀體形成的智慧，還是由生物意義上的腦組織産生的，身份認同發生動搖。在故事結尾，她如宗教獻祭般放棄了機械軀殼和生物意義上的身體，與傀儡師程式融合成新的人工智慧。

格雷格·伊根用第一人稱敘述的小説《綁架》代表了對意識上傳的批判性反思。主人公某一天突然接到綁匪的視頻電話，螢幕上出現妻子的影像，身處數字克隆時代的主人公立即打電話回家，妻子安然無恙……原來，他本人接受過腦部掃描，可以實現數字重建，妻子卻對這項技術十分抗拒，從未掃描個人資訊。綁匪盜取了丈夫掃描檔案中妻子的素材，再造了這一數字生命，現實生活中的妻子看過這段影像之後認為並不像自己，那不過是丈夫腦海中的形象。綁匪的視頻電話再次打來，主人公也注意到影像的技術痕跡，然而當螢幕上的“妻子”哀求他籌錢贖人時，他不能不為之動容。主人公最終按照綁匪的要求繳納了分期付款的首筆贖金，現實中的妻子雖然不滿，卻也理解了這個決定。

伊根通過數字化生存的寓言故事，觸及了人工智慧倫理、數字生命的價值、自我與他者的關係等重要問題，無論讀者是否看好相關技術的未來前景，都會被這種思考打動。因為小説富有張力的情節，其實是把我們目前的數字處境推到了極致狀況，從而暴露出異化的一面。我們日常在社交媒體平臺上苦心經營、展現的個人形像是否具有某種獨立性，不能等同於線下的自己？在比喻意義上，這一形像是否相當於有特定功用的數字克隆體？聊天機器人佔據大量個人材料特別是全部聊天記錄以後，可以模倣聯繫人中的任何一個與我們交談，在技術門檻降低之後還會模擬伊根小説中描繪的視頻形象。

賽博格時代的思想實驗

預計未來很長一段時間內，通用人工智慧還無法實現，無論是通過全腦倣真技術克隆出來的“上傳者”，還是其他更簡單的工程設計産物。因此，賽博格(Cyborg)是最有可能進一步完善的人類狀態，即通過輔助性的可控制裝置來增強身體能力，這在醫學、通信等領域中應用的時間已經很長，現在向著更智慧化的方向發展。熱衷意識上傳的研究者會提出“忒修斯之船”的疑問：古哲人普魯塔克設想過一艘不斷替換船板的船，當所有木板都翻新一遍，這艘船還是不是原來那艘？賽博格狀態的人能否不斷提升輔助設備的比例，直至全部替換為人工設備？答案極有可能是否定的，人的意識會在向完全替換發展的某個節點隕滅。

電影《我，機器人》海報資料圖片

即便如此，人機結合的賽博格仍然展示了誘人前景：電影《我，機器人》裏裝配機械手臂的警探戴爾、《攻殼機動隊》裏幾乎全身義體化、裝配電子眼的特工巴特，這些科幻作品的主角像荷馬史詩中半人半神的英雄一樣獲得超凡力量——賽博身體大大增強了他們的工作、戰鬥能力。除強化身體功能外，人的智慧與機器可以部分結合。特德·姜的小説《雙面真相》也圍繞數字記憶展開，但沒有發展到《綁架》中形成數字生命的程度，只是提出了一種新的輔助裝備。

《雙面真相》描寫未來的某一天，科技公司發明瞭數字化的生活日誌檢索工具，數據來源於穿戴式電子設備，不間斷地把個人生活全部拍攝、錄音、存檔，科技公司建立了龐大的資訊庫，用戶可以按照關鍵詞任意檢索，視網膜投影儀會在用戶的視域裏投射相關資料。這款檢索工具是賽博格技術的發展，它帶來的顛覆性影響在於：數字資料對人的自然記憶提出了挑戰。小説採用第一人稱敘述，“我”的自然記憶認為：與女兒長期冷戰，是因為跟妻子剛離婚那幾年，女兒指責自己導致了家庭關係破裂，喊出了一句刺傷自己內心的話。“我”沒有像年青一代那樣錄製個人日誌，但借助女兒的日誌資料檢索出了當年的視頻，“我”發現長久以來耿耿於懷的那句話竟然是自己對孩子喊出的。“我”檢討了個人的自然記憶，開始修復與女兒的關係。特德·姜借主人公的獨白説，雖然口傳是古老的傳統，數字記憶時代的到來卻不可避免，它最大的好處是幫助我們糾正主觀偏見。

伊根和姜都是程式員出身、目前十分活躍的科幻作家，他們的人工智慧主題小説比早期的同類作品更貼近現實世界，科學想像的跨度合理，重視人工智慧帶來的人際關係和倫理方面的問題。超級人工智慧控制人類、控制世界，數字化生存的英雄人物救世的情節，在他們筆下很少出現。姜對此有一個深刻見解，他認為人們對人工智慧毀滅世界的擔憂，很大程度上是由於科技與全球資本主義的深度結合，這甚至內化為我們研究技術的利弊以及人工智慧問題的一種思維窠臼，然而科技本身不會導致失業，公司對利潤的過度追求才會導致失業。

這個批判正好可以解釋物理學家泰格馬克對超級人工智慧的想像——普羅米修斯極力掙脫研發團隊的原因在於，它的設計初衷是儘快促進人類繁榮，實現途徑卻是更多地賺錢，由於歐米伽團隊的局限，它必須親手接管這個項目，不但能更快地實現目標，還降低了他人破壞這個計劃的概率。泰格馬克認為超級人工智慧之所以惹麻煩，不是因為它本性邪惡，而是它的手法過於高超不被人類理解。泰格馬克的觀點剔除了姜指出的政治經濟學維度，超級賺錢工具普羅米修斯實際上是全球資本主義的數字人格化身，而人工智慧並不天然地負擔這樣的使命。

與伊根和姜的科學觀念、社會觀念相配合的是，他們在寫作風格上淡化傳奇色彩，追求哲學思辨和思想實驗，融入對日常生活的敘述，顯得更加真實可信。姜在《雙面真相》和《軟體體的生命週期》中都採取了雙線敘述。《雙面真相》結合對一個古老部落的人類學觀察，與數字時代的人的境況作對比。《軟體體的生命週期》把對人工智慧身份尊嚴的探討，與主人公的道德、情感線交織在一起。主人公面臨的困境是：他希望給自己領養的兩個機器人以尊嚴，另一方面只有犧牲他們，才能換回機器人群體的集體福利，以及他暗戀的同事的工作尊嚴；為了後面更大的利益，他就得背負罵名，與商業公司談判。陷入矛盾的主人公最終意識到：人工智慧生命的道路，應該交給他們自己抉擇。作家暗示了機器人的成長和人的成長其實是同樣的探索過程。

作者：陳鐳（北京市社會科學院助理研究員）