誰來給覺醒前的機器人念倫理緊箍咒

新京報漫畫/高俊夫

《西部世界》充滿魔幻的科技反烏托邦前景所折射出的文明焦慮可追溯至基督教之前就已産生的諾斯替主義。

燒腦神劇《西部世界》第二季震撼來襲，人造人覺醒後的暴動使人類的脆弱暴露無遺，而人造人自身亦被散佈於世界的各種控制的腳本和慾望的陷阱所網羅。

集生化人與機器人于一體的人造人，不僅像人類那樣具有自我意識，而且還能夠把活人的思維、意識、記憶和情感移植進去，成為所謂的轉生人。不論這些真假莫辨的劇情是否在以預言的方式昭示著新人類文明的未來，人們已經著手埋下另一條時間線——用倫理的緊箍咒哪怕在機器人覺醒之前一剎那勒緊價值的韁繩。

機器人造反？還早著呢

其實，不論是《羅素姆萬能機器人》與《機器管家》，還是《銀翼殺手》或《機器姬》，都不是對人工智慧或機器人研究路線圖的描繪，而主要體現了人們將人工智慧與人工生命的製造和人類未來聯繫在一起時的選擇焦慮。

尤其是《西部世界》的場景完全建立在絕對權力和極度慾望之上，是以惡為目的設計出的具象化的魔鬼樂園，其殖民主義式的末世妄想決非人與科技應有的融合之道。

當然，《西部世界》充滿魔幻的科技反烏托邦前景所折射出的文明焦慮可追溯至基督教之前就已産生的諾斯替主義。其核心思想是：世界並非源於神的完美創造，而出自某個篡位的惡魔之手，人類恐怕只是這個低劣的製造者的玩物，宇宙及其秩序不過是邪惡之昭彰。

其追隨者據此認定，人類是被困在物質世界裏意識的火花，所幸知識可以幫人獲得自由。在1929年出版的《世界、眾生和惡魔：理性靈魂三大敵人的未來之探索》一書中，英國晶體學家與科學社會學家貝爾納提出了諾斯替思想的現代版本：科學將讓進化發生轉折，人不僅可通過外科手術成為具有機械身體的賽博格，甚至有辦法讓人類的心靈最終逃脫物質的束縛。庫茲韋爾的靈魂機器和奇點觀顯然與此一脈相承。

反觀《西部世界》，德洛麗絲等人造人的自我覺醒與反叛，或許恰好受了諾斯替主義的啟示而發現，像諾斯替主義者質疑人和世界可能源於低劣製造那樣，貌似仁慈上帝的福特原本是無異於冷酷無情的惡魔。福特與《美麗的新世界》中的上帝重名則表明，其“創造一切”的神力來自尚在試驗和探索中的科技，但為了“掌控一切”，他只能讓人和人造人服從其拙劣的製造魔法和機器邏輯，加之對奴役和殺戮的崇拜，最後必然以失控甚至毀滅告終。

至於福特的魔法，無疑具有鮮明的現代版諾斯替色彩，不只涉及智慧的程式化設計，更試圖操縱與控制記憶、認知、情感和意識等心智過程。

造反還沒造，倫理規則已先行

鋻於製造是嘗試性和不完美的，最令以奴役人造人為宗旨的魔法實施者心虛的莫過於人造人造反。近年來，有些學者提出了機器道德的構想，試圖通過程式和演算法使智慧機器像人一樣遵守倫理規範、具有道德認知能力，已有人將這種研究應用到自動駕駛汽車和陪伴機器人的設計上。

尤其是隨著人工智慧和機器人的新一輪熱潮的興起，世界上很多國家、地區和機構相繼推出了倫理指南、標準和宣言，提出了有針對性的倫理原則。當然，目前人工智慧和機器人還遠不具備自我意識和道德自覺，讓它們明辨是非的設想一時還難以照進現實。

相關各方已經意識到，人工智慧與機器人倫理原則與標準的制定實際上是在搶佔未來産業發展的制高點。IEEE（國際電氣電子工程師學會）于2017年底發佈《人工智慧設計的倫理準則》（第二版）提出，人工智慧的設計、開發和應用應遵循人權、福祉、問責、透明和慎用等倫理原則，仔細探討了自動系統的透明性、數據隱私、演算法偏見、數據治理等當前備受關注的倫理問題。

今年3月，歐盟發表的《人工智慧、機器人與自動系統宣言》則強調了人類尊嚴，自主，負責，公正、平等與團結，民主、守法與問責，保密、安全與身心完整，數據保護與隱私等九大倫理原則。

國內的相關研究也在緊鑼密鼓地展開。中科院于2017年下半年啟動了諮詢項目“人工智慧倫理研究”及“大數據倫理問題與社會治理”，中國標準化委員會目前正在組織實施中國機器人倫理標準和人工智慧的法律及社會倫理標準的研究。

其中，北大哲學系在今年3月頒布的《中國機器人標準化白皮書》立足多元、植入、正義和繁榮等優化共生框架，提出了人的尊嚴與人權、責任、透明度、避免濫用以及共生繁榮等五大倫理目標。

在機器人覺醒之前，人類給機器人、更確切地説是給自己，念起了這些倫理的緊箍咒。這不是諾斯替魔法預先編制的程式，而是在我們尚有選擇的自由時，為人類的權利與尊嚴抵擋人類註定拙劣製造的戕害撐起雅典娜之盾。（段偉文 科技哲學學者）