世界上目前已有數億台電腦，但只有幾十萬個機器人。

    新一代能力更強、用途更廣的機器人被稱為“通用”機器人。現在，我們已能預測到四代通用機器人的情況：第一代估計會在2010年出現，它的明顯特徵是有多用途的感知能力以及較強的操作性和移動性；第二代估計會在2020年出現，它最為突出的優點是能在工作中學到技能，具有適應性的學習能力；2030年則會誕生第三代通用機器人，這一代機器人具備預測的能力，在行動之前若預測到將出現比較糟的結果，它能及時改變意圖；第四代通用機器人會在2040年出現，這一代機器人將具備更完善的推理能力。

    更為有趣的是，未來的機器人還將具備種種人性化的特徵——

    恐懼和羞愧

    與我們從動物中所看到的相類似，機器人將能對某些情況産生恐懼反應。確實，像昆蟲這樣的簡單動物，機理似乎一點不複雜，但它們識別潛在危險的神經電路能發出信號，激活運動神經節，中斷其他行動，於是就産生出特殊的防衛行為。高等動物和高級機器人中的恐懼反應更為複雜。得到危險信號的暗示會導致脊椎動物産生腎上腺激素，加快新陳代謝，重新定位血液流向，它能影響各種功能，包括消化這樣的長期功能，以及是鬥爭還是逃跑這樣的選擇功能。電腦控制的機器人，也會把數字信號傳給相關的子過程，它會關閉與處理緊急事件無關的背景過程，給檢測和行動留下更多的容量。

    脊椎動物通過基於恐懼經驗的調節，以避開導致危險狀態的任何情況；同樣，在第二代機器人中，有一種看門狗程式也將是“負調節例程”，它産生的信號會使機器人不去做導致問題的事情。

    在勉強躲過了意外事件後，高級動物，尤其是人類，會設想如果當時採取不同行動的話，會導致何種結果。也許他們將在心裏重新嘗試糟糕的情況。第三代機器人也將模擬引發看門狗程式的各種事件方案，以尋找避開此類問題的方案。在緊急事件之後，它們可立即重放，並可在以後有空的時候再做多次。有時，為尋找代替危險行動的安全方案而採取的再試行為的優先權非常高，它會致使機器人在其他活動中分心。

    經歷嚴重驚嚇和恐慌之後，人類會回顧所採取的行動，羞愧於行動方式，併合理地加以改變，避開導致問題出現的行為。同樣地，第四代機器人可用推理程式來評價短期的選擇對長期目標的效用，也許會選取不同的方法，以防止出現危險情形。另一方面，如果從長遠角度來看，人類的一些重大選擇可能産生很好的效果，如繁榮景象、快樂的家庭和人類能體驗的喜悅，等等，於是，這些選擇和這些行為就會得到加強。類似地，一個幸運的第四代機器人，或許能推理出長期方案中的成功進展，在整個系統範圍內産生信號，從而增強目前的行為。

    愛慕之情

    並不是人類的每種情感對機器人來説都有意義。早期機器人在工廠裏被製造出來，在設計電腦中能發現它們的等價基因組。但與工蟻相比，它們不能通過性行為或其他方式進行繁殖，因而也就沒有理由為性行為或情感安裝程式。

    然而，使機器人對其主人有一種柏拉圖式的感情將具有很好的商業價值。這種感情類似于對主人的忠誠之情。在第三或第四代機器人中，通過“心理”模型，模擬器或許有能力建立人或其他機器人的精神狀態模型。這就像物體識別和交互模型的學習那樣，不斷地訓練並根據後果進行調整。此模型能使機器人衡量其行為對人類情感的效果。此效果依賴於機器人所帶的調節模組，它有可能安裝會使其主人快樂的程式組。於是，機器人用它們的創造力來設計出使它們主人快樂的行為（第三代機器人的這種能力是適度的，第四代則將是不可估量的）。也許它會精心選擇自己工作的時間而不打擾主人，也許它會準備一頓可口的晚餐，也許它會佈置好令人喜歡的鮮花，也許它會找到給家庭帶來額外收入的途徑。通過機器人的調節系統，這些行為不斷得到增強。除了將主人真正高興的信號傳給心理模組之外，相互體諒甚至感謝等方式都將是沒有必要的。機器人應展示出無私奉獻精神，這種情感只有真正的朋友才能付出，這就是古希臘人和基督徒式的愛。

    當然，關於這點還可舉更多的例子。在群居的昆蟲中，工蟻似乎是純粹的利他主義者，為了群體的幸福，它們工作直至累死。對於獨居動物來説，如果它們不那麼自私以確保其生存和繁衍的話，它們就會很快滅絕。工蟻不同，它們是通過蟻後而繁殖出工蟻的，只要群體存在，工蟻的遺傳因子就會存在，這種明顯的利他主義實際上是更大意義上的自私。所以，在工廠裏製造的無私的機器人也是這樣的。贏得顧客的機器人模型會被大力推廣，這種機器人的製造商會贏得市場，於是“友善的”機器人會成為市場主流。另一方面，粗暴的機器人或反叛的機器人的銷售量可能會少得極其可憐，並逐漸消失——與它們的製造商一起滅亡。

    機器的憤怒

    動物發怒至少有兩方面的作用：攻擊性的行為能很好地解決某些情況；而在另一些情況中，恐嚇的一方也能在衝突中獲勝，因為這往往會使對手放棄這場爭鬥。發怒的生理學症狀與恐懼的症狀很類似，但在鬥爭與逃跑的選擇中，發怒更可能導致鬥爭。

    賦予早期通用機器人憤怒的能力是件很危險的事情，因為它們可能會因為對環境的有限理解，而由誤解導致憤怒。後來的機器人會發現，在與不負責的人或機器人的交往中，偶爾表現出憤怒是有用的。例如，假設一個第四代機器人被用於保安，當有干擾者時，它首先要求合作。如果得不到合作，它會發出威脅。如果威脅也不行，那將升級為攻擊性行為。在此過程中，機器人試圖對作惡者的心理狀態建立模型，盡力加以控制，引向合作。交往的第一個階段是嚇唬，同時機器人會對將來的可能性進行倣真模擬，考慮它本身或者是作惡者受到損傷後的情形。

    正常情況下，損傷的可能性將引發負調節，限制機器人的行動。但是，保安機器人有一個特殊的調節模組，它在安全受威脅時的反應方式是對行動産生正增強效應。這將使機器人好鬥，一旦受到激發，它就會不顧危險，逮捕罪犯。這樣做自然會提高它的威力，使將來的入侵者感到害怕。在提供有關人類行為的足夠數據的情況下，

    第四代機器人能實現上述方案，執行保護一個地方安全的任務。因此，它會給自己增添這樣的行為誘導調節模組，從而使其具有憤怒的能力。第四代機器人並不是被一成不變的遺傳所支配，其行為的審慎度和適應性要超過人類，也就是説，它是能夠變化的。然而，改變自身特性的能力常常是非常危險的。機器人能以有害而不可逆轉的方式來改變自身，如它意外地破壞了自己的思考能力，或非常頑固地抵制改變。也許，一個不會改變的機器人複製品將作為旁觀者在一旁密切注視，一旦發現出了差錯，它將馬上取消對方的變化。

    痛苦和歡樂

    對於第四代機器人，什麼會被認為是痛苦的感受呢？這應該和需要緊急行動的可怕意外事故聯繫起來。假設機器人中的感測器表明金屬結構正在彎曲——嚴重事故迫在眉睫，機器人中的看門狗程式就會即刻處理這個情況，激活某一例程，將機器人——解脫出來。如果必要的話，機器人會採用專門處理危險意外事件的高能量級行為。機器人甚至可能求救。機器人發出最大的負調節信號，將極大地抑制正在進行的行動。如果問題仍然沒排除，負調節將使機器人重復切換，制止眼下行為，使用可替換的方案。經過一番抖動後，機器人可能會解脫出來。當被問及發生了什麼時，機器人會對事件重新倣真，記下採用的負調節。它的推理系統會觀測重新進行的倣真過程，進而得出解釋，“我在搬箱子時，一個重箱子壓在我身上。我的骨架正被壓彎，這是個非常糟糕的經歷。回想起此事讓我感到厭惡。我竭盡全力才從箱子下出來，我的驅動電機都過熱了，以後決不會再那樣搬箱子了”。“非常糟糕”是機器人對極端負調節狀態的一般性參照。真實事件發生後，都要進行重新倣真和過程描述。如果構造的模擬器限制了重新倣真負調節的強度，減小導致恐懼的機會，那麼記憶下的情形就沒有最初事件那麼生動了。推理器或許已存下了不帶感情的有關最初強度的描述，因而能夠抽象地評論記憶和經歷之間的差異。

    當然，快樂是與高強度正調節相聯繫的類似經歷。如果快樂能非常有效地促使機器人完成家務活，或使機器人的主人感到高興，也許在構造機器人時，人們會讓機器人有此功能。

    智慧後代

    以上是對機器人思維進化的推測，強調了與自然思維的對比。但是，電腦和大腦有不同的能力。第四代機器人將是比人類還優秀的推理者。與人類相比，它們的推理速度至少要快一百萬倍，並且有百萬倍的短期記憶力。推理是在計算中普遍存在的概念。它能模擬其他任何計算，大體上它可以模擬完成調節系統和全局建模器的功能，或者完成應用程式本身的任務。

    在推理器中對控制系統的模擬，比在電腦上直接運作控制器程式要慢許多。但是，推理器能夠抽象地檢查模擬過程，設計出完成複雜操作的快捷步驟。通過不斷地優化自身，推理器的控制器行動將變快，或許最終能比直接控制器還要快。它能加深對未來的預見，考慮意外事件的範圍也會更廣。

    人類還有可能研製出完全基於推理的機器人。在這些機器人中，即使對於很小的行為也不是通過不靈活的調節反射進行的，而是朝著長期目標仔細規劃實現的。機器人的每個動作都像下棋中所走的一個棋子。超理性機器人的行為和傳統機器人的行為在大部分時間內沒有太大區別。在另一方面，冗長的意外事故鏈增大了有干擾事件出現時進行及時處理的可能性。即使是超理性電腦也只能推動事件一點一點向前，當不可預測的干擾來臨時再去更正。

    第四代機器人和它的後代，將有人類的感知力和原動力，並且有超級推理能力。它們能在每個必要的任務上取代人類；在沒有人類參與的情況下，一般而言，它們能使這個社會運轉的能力越來越強。不但能完成生産性任務，它們還可以作研究和開公司。機器人能被用於外層空間的工作中，這樣，生産將移向具有更多資源的太陽系。溫順的人類將駐留在地球上，快速演化的機器人會擴展到宇宙中。

    摘自《機器人》〔美〕漢斯莫拉維克著馬小軍等譯上海科技出版社2001年11月版

    《文匯報》2002年2月22日