人工智慧和生物技術遇道德困境 五大風險不容忽視

　　1951年，電腦之父阿蘭·圖靈(Alan Turing)提出：“如果機器能思考，那麼它很可能比我們更加明智……這種新的危險……當然讓我們焦慮。”

　　世界經濟論壇創始人兼執行主席克勞斯·施瓦布(Klaus Schwab)在《第四次工業革命》一書中直言，“無論是規模、廣度還是複雜程度，第四次工業革命都與人類過去經歷的變革截然不同。”

　　“這些改變是深刻的，以至於人類在其發展歷史上從未迎來如此美好的前景，也從未面臨如此嚴峻的風險。”施瓦布説，“然而我擔心的是，決策者們往往囿于傳統的、非顛覆性的線性思維，或者過於關注眼前的危機，而難以對影響未來的各種顛覆和創新力量進行戰略性思考。”

　　2017年6月27日至29日，世界經濟論壇第11屆新領軍者年會的主題為“在第四次工業革命中實現包容性增長”。有哪些新技術正在改變人們的生活？我們面臨著怎樣的風險和挑戰？

　　新技術成“焦點風險”

　　第四次工業革命中所誕生的新技術將不可避免地從多方面改變世界。

　　關於新興技術的爭論往往會出現兩極分化：有些人刻意只關注潛在的收益，而另一些人則過分關注潛在的危險。真正的挑戰是在這兩個極端之間找到平衡。

　　世界經濟論壇大中華區首席代表艾德維(David Aikman)告訴《中國經濟週刊》説，一方面我們正面對著第四次工業革命帶來的科技方面數不清的機遇與風險。另一方面我們正在尋求新的發展模式和經濟機遇。

　　“我們要做的並不是阻止技術的進步，擔憂技術進步風險帶來的後果，而是探尋新技術如何帶來新的就業機會，釋放創業潛能，為社會帶來更多福祉。”艾德維説，“第四次工業革命的新技術可以給我們更長的壽命，更可持續發展的地球，但我們必須引導這些技術的發展方向，通過共同的理念創造更多的共同利益和包容性增長。”

　　在即將出版的《第四次工業革命手冊》中，全球風險認知調查歸納了12項新興技術作為第四次工業革命的代表，包括：3D列印，新型材料和奈米材料，人工智慧和機器人，生物技術，能源採集，存儲和輸送，區塊鏈和分佈式分類賬，地質工程，物聯網，神經技術，新計算技術，空間技術，虛擬和增強現實。

　　多年來，世界經濟論壇發佈的《全球風險報告》反覆強調技術風險的重要性。在2015年的報告中，新興技術成為報告的“焦點風險”之一，凸顯了人工智慧(AI)和生物技術等領域中存在的道德困境。

　　在2017年的全球風險認知調查中，包含一個有關12種新興技術優勢與負面後果的調查研究。結果表明，大部分受訪者對於技術風險和利益的平衡普遍持樂觀態度。但受訪者仍在新興技術的監管方面明確指出所需有限關注的領域為人工智慧和機器人與生物技術。

　　AI技術武器化的風險

　　“第四次工業革命將為經濟、社會和個人發展創造新的機遇，從而向個人和社區賦權，但同時也會導致某些群體的邊緣化，加劇不平等，催生新的安全風險，以及破壞人們的社會關係。”施瓦布説。

　　《2017年全球風險報告》認為，理想情況下，監管制度應該足夠穩定、可預測、透明，以便在投資者、企業與科學家之間建立信心，並應在公眾中産生足夠的信任和認知，從而讓用戶意識到評估早期負面後果的重要意義。

　　例如，自動駕駛技術會不可避免地導致一些事故，而是否會引起公眾呼籲禁止該技術的發展則取決於人們是否信任已經為監管其發展而制定的機制。

　　從目前看，投資者對新興技術抱著比較樂觀的態度。

　　資料顯示，全球專供AI應用的創業公司在2015年收到了24億美元的風險投資基金，在2016年上半年收到了超過15億美元的風險投資基金。政府項目和現有科技公司又在此基礎上追加了數十億美元的投資。

　　除了近期阿爾法狗(AlphaGo)再次戰勝人類棋手之外，機器的學習技術已經能通過大數據分析來揭示有價值的資訊，並且通過處理人類能力所無法企及的問題來為企業創造價值。

　　再比如斯坦福大學的計算病理學家分析了數百張腫瘤圖像上的數千個細胞特徵，發現了被忽視的乳腺癌標誌物。AI應用正在以驚人的速度和創造力來降低成本並改進診斷。

　　但是正如許多好萊塢電影中已經表現出的“不受控”的人工智慧所帶來的毀滅性災難一樣，在任何複雜混亂的系統中，潛在危險包括管理不善、設計漏洞、意外和不可預見事件。這一切給確保個人、政府和企業的安全和安保帶來了重大挑戰。這其中最為人詬病的就是AI應用和武器戰爭的影響。

　　在日內瓦安全政策中心的Jean marc rickli看來，對於導致AI手機當機或應用程式錯誤或許可以容忍，但如果AI武器系統或自主導航系統的一行代碼中存在錯誤，結果就可能是致命的。

　　Jean marc rickli認為，軍方是從早期階段就看到AI巨大潛力的部門之一。AI武器化將改變標準的戰爭方式，對國際安全與穩定有著深遠影響，對於自助式武器系統的大量投資始於幾年之前；2016年7月，美國五角大樓國防科學委員會發佈了第一份有關武器自主性的研究，但就如何規範這些武器的發展，目前尚無共識。

　　國際社會在2014年的《聯合國常規武器公約》框架內開始討論致命自主式武器系統的新興技術。但迄今為止，各國尚未就未來發展方向達成一致意見。那些呼籲禁止AI武器化的人擔憂人類會被排擠到操作環節之外，將使用致命武力的決策留給機器，造成我們目前尚不可知的後果。

　　Jean marc rickli也列舉了AI非軍事應用方面的經驗教訓。以阿爾法狗為例，它已經擊敗了全球排名前列的人類棋手。它的某些棋步讓觀察者困惑不已，因為這完全不符合人類通常的下棋模式。負責研發阿爾法狗的谷歌DeepMind CEO Demis Hassabis針對這種差異的解釋是，“不同於人類，阿爾法狗的程式旨在最大限度提高獲勝幾率，而不是將優勢最大化。”如果這種二元邏輯(僅注重獲勝，而非獲勝優勢)納入自主式武器系統中，就會違反比例原則，因為系統演算法不會認為以殺死1個對手為代價的勝利和殺死1000個對手為代價的勝利之間有什麼差異。

　　當年電腦之父阿蘭·圖靈(Alan Turing)提出的解決方案包括，在關鍵時刻關閉電源——以此作為一種可能的辦法，但未來的超級智慧機器可能已採取措施防止外力切斷電源。

　　在打開這樣的“潘多拉魔盒”之前，制定有效的監管機制顯得尤為重要。

　　

　　如何監管新技術？

　　如何監管新興技術是一個複雜的問題。過度地嚴格限制技術發展可能會延誤乃至妨礙潛在利益的取得。但是，長期不明確的監管方式則會導致技術被不負責任地濫用。同樣投資者也不願意支援那些他們擔心以後可能會遭到禁止或排斥的技術發展。

　　《2017年全球風險報告》中指出，新興技術的監管參差不齊，有些監管嚴格，而另一些技術不在任何現有監管機構的職權範圍內，因為幾乎毫無監管可言。歷史表明，新技術的最終收益和風險可能與最初的專家意見南轅北轍。

　　如前所述，在世界經濟論壇的調查中，當被問及12項新興技術哪項最需要監管時，人工智慧和機器人以及生物技術被最多的受訪者提及(超過40%)。

　　但事實上這兩項技術的監管現狀有著很大的差別。

　　由於涉及到生物體的改造(應用於醫藥、農業或工業領域)，生物技術往往受到嚴格監管。早在1992年聯合國出臺的《生物多樣性公約》就已將生物技術作為一項全球性的問題監管，而現今已有196個國家批准了這項公約。相反，在全球絕大多數國家和地區，AI和機器人的監管力度不嚴，用經濟史學家的話來説，AI作為“通用技術”在許多領域中均有應用，而這些領域各有不同的監管制度。

　　世界經濟論壇大中華區首席代表艾德維接受《中國經濟週刊》記者採訪時認為，第四次工業革命帶來的新技術正在改變我們工作、生活和交流的方式，沒有哪個國家、哪個行業能免受影響。

　　“以人工智慧為例，我們並不知道對這個技術領域應該有更多監管還是更少監管，該如何監管？這是許多這樣的技術所面臨的挑戰，因為它們不僅僅是新生事物，而且還在快速地演變，這讓傳統監管模式很難及時跟進。”艾德維説，“在人工智慧方面，我們希望通過各方討論提出相關監管原則，然後各國在這個共識基礎上，制定自己的細則。”

　　正如《2017全球風險報告》結論中所述，要確保人工智慧不會超出人類為之設定的界線，我們必須繼續努力建立對此類系統的信任，因為它們將改變我們的社會、政治、商業環境，為我們制定決策，並成為我們闡釋周邊世界不可或缺的能力。

　　《2017年全球風險報告》發佈：

　　五大風險預判 水資源危機被反覆提及

　　施瓦布在《2017年全球風險報告》的序言中寫道，“對於全球社會而言，2017年將是關鍵的一年。”

　　10餘年來，世界經濟論壇發佈的《全球風險報告》都在致力於全球風險的演變和這些風險之間深度內在關聯的研究，例如，收入不平等、不斷加劇的兩極分化造成的風險惡化可能性，又或是經濟復蘇疲軟和技術變革速度相關的風險。

　　

　　

　　世界經濟五大風險

　　《2017年全球風險報告》從多個維度例舉了全球面臨的五大風險，比如按發生概率排列的五大風險、按影響力排列的五大全球風險等。除此之外，《2017年全球風險報告》還從總體上列舉了危及2017年世界經濟的五大風險：

　　第一，不斷凸顯的收入不平等。上世紀80年代以來，在英國、美國、加拿大、愛爾蘭和澳大利亞等國內，佔人口1%的富人所擁有的財富在全國的份額不斷上升。這群人並未受到金融危機後蕭條的影響。對新技術的投資使技術工人受益，而非技術工人仍然受窮。全球化使得世界上落後國家的工人受益，而西方國家的工人在其國內依然貧困，以至於“支援不滿情緒的競選將獲勝”正在成為一個定理。

　　第二，氣候變化。它被認為是今年第二個最大的風險主要源於越發頻繁的極端氣候變化。儘管全球週期性厄爾尼諾現象已經過去，2017年不太可能超過2016年成為歷史上最熱的一年，但氣候當局仍然預測今年全球範圍內也會是最熱的幾年之一。該報告指出，今年各國政府必須切實兌現他們關於《巴黎協定》的減排承諾，其實《巴黎協定》所確定的減排速度根本不足以避免危險的全球變暖。

　　第三，社會越趨多極化。民主面臨危機，尤其是政客、公共和私人機構的當權者越發與他們的選民在文化背景、收入和福利方面拉開了距離。政府的節儉政策實際上降低了弱勢群體的福利水準，多文化主義正受到民族主義的挑戰。

　　第四，網路依賴性上升。越來越多的關鍵基礎設施依賴開放性的網路空間，發達國家相當大的一部分經濟活動依賴開放性網路，比如英國大約10%的GDP來自網路經濟。這固然給人們生活和經濟發展帶來很多好處，卻也給某些打算對社會造成破壞的組織和個人提供機會。

　　第五，老齡化問題。日本有四分之一人口超過65歲，其他發達國家以及相當一部分發展中國家也正朝著這方向發展。日本自2000年以來為維持一個護理保險福利計劃所做的開支使其債務對GDP的比重達到了240%。中國在經濟發展過程中老齡化問題逐漸呈現，需要提前採取措施解決健康護理問題。

　　按影響力排列的五大全球風險中，水資源危機位於前列

　　在世界經濟論壇10年的風險研究中，2007—2017年，按影響力排列的五大全球風險，從2007年到2014年的首位都和金融相關，比如資産價格崩潰、財政危機和重大系統性金融崩盤，但從2012年水供應危機成為第二大風險後，從2013年到2017年，水資源危機都排在影響全球五大風險的前三位，這其中的趨勢反映了什麼問題？

　　世界經濟論壇大中華區首席代表艾德維(David Aikman)在接受《中國經濟週刊》記者採訪時分析，在2012年前那段時間，世界主要關注點確實在金融系統方面，畢竟那時候世界經歷了過去75年間最嚴重的金融危機，在人們的印象裏，這方面的危機在影響程度上被認為是最嚴重的。但氣候變化因素一直在人們視線中，並不是忽然出現的，其重要性逐步上升。

　　“實際上，從可能性和影響程度看，氣候變化相關的風險嚴重程度是我們近10年報告所未見的。”艾德維説，“我們擔心的是，這些環境風險造成的後果，可能不僅僅是經濟上的，還可能引發衝突和嚴重的社會動亂。因此儘管這樣的影響可能會是今後遙遠的事，但是各國共同加緊面對還是很重要的。世界經濟論壇要做的，就是在我們所有的利益攸關方之間匯聚支援力量，促進交流，加強合作，力爭形成積極的影響。”

　

世界經濟論壇大中華區首席代表艾德維《中國經濟週刊》首席攝影記者 肖翊I 攝

　　專訪世界經濟論壇大中華區首席代表艾德維：

　　我們希望中國在未來世界中扮演更重要角色

　　《中國經濟週刊》 記者 張璐晶 |北京報道

　　自2007年進入中國，世界經濟論壇新領軍者年會已經走到了第11個年頭。

　　從2015年8月被任命為大中華區首席代表以來，艾德維(David Aikman)在中國時刻感受著這個國家的創新和變革，從使用方便的移動支付到騎著共用單車去上班,再到看著越來越多的中國企業參與到世界經濟論壇的活動中來。

　　“在北京這樣充滿活力、日新月異的城市生活太棒了。”艾德維説。

　　6月27日至29日，在大連舉辦的第11屆新領軍者年會有什麼看點？艾德維如何評價自己在中國的工作？

　　我不認同只有發展中國家才能從“一帶一路”倡議中受益的假設

　　《中國經濟週刊》：今年是您作為大中華區首席代表的第二年，如何評價自己過去一年的工作？最有成就感的是什麼？

　　艾德維：過去一年，我很高興看到有更多的中國企業參與到世界經濟論壇的活動中，中國的領導層也更多地在國際場合展開交流，我們希望中國在未來世界中扮演更加重要的角色。

　　最有成就感的是習主席出席冬季達沃斯會議，這是中國國家元首首次出席論壇，是對我們工作業績以及可以為中國發揮作用的巨大肯定，我特別榮幸能在會場中親耳聆聽習主席的演講，我對能置身於這樣的歷史進程特別有成就感。

　　世界經濟論壇作為一個平臺，不僅可以更好地幫助中國了解世界，也可以幫助中國向世界傳播它的思想，推廣它的商業理念。

　　《中國經濟週刊》：在習主席出席世界經濟論壇2017年年會數月之後， “一帶一路”國際合作高峰論壇在北京召開，您怎麼看中國提出的“一帶一路”倡議，以及在國際合作中，中國所扮演的角色？

　　艾德維：在今年的冬季達沃斯上，習主席提到中國將擴大同國際夥伴的合作，特別是在貿易、發展、氣候變化等重大領域。這和隨後中國舉辦的“一帶一路”國際合作高峰論壇一樣都傳遞了明確的資訊，就是中國希望在國際體系中通過共同的理念，扮演更加中心、更加重要的角色。

　　習主席談到了命運共同體，這樣的共同理念可以帶來更好的包容性發展。我們看到中國批准了巴黎協議，也力求通過“一帶一路”為國際社會創造更多的包容性發展。中國企業的視野更加國際化，很多企業成為創新和生産力的驅動器，通過更多地參與國際合作，這些企業可以帶來更快的經濟增長，也為國內外提供更多的就業機會。

　　我認為，“一帶一路”倡議為加強地區合作提供了全新的交流合作模式，這不是以前的自貿區或貿易協定，而是提供了非常具有前瞻性的合作平臺，通過共商共建，群策群力，共同推進合作朝著積極的方向發展。

　　中國看到了不同國家的不同發展階段和不同發展路徑，通過合作達到共贏的目的。我不認同只有發展中國家才能從中受益的假設，我認為，大家都可以從中獲取經濟利益。

　　世界面臨的風險加劇：逆全球化、貧富差距擴大、人口老齡化

　　《中國經濟週刊》：在過去的一年，也出現了許多逆全球化而動的局面，比如，英國脫歐、特朗普宣佈退出巴黎協定等，都給世界經濟發展帶來了不確定性，您如何看待這種風險？

　　艾德維：今年以來，不少國家的選舉都産生了更加中間道路的政府，如荷蘭、法國，加上之前的英國脫歐和美國的現狀，讓我們看到世界局勢走向似乎存在這樣一種趨勢(逆全球化)。我們認為，世界體系仍有不少系統性風險，我們需要加強世界體系建設，加強國際合作來抵禦這些風險，通過科技創新、新的商業模式來重振國際經濟。

　　我們也需要改良市場資本主義，因為全球化並沒有平均地給每個國家帶來預期的好處。與此同時，我們還面臨著第四次工業革命帶來的顛覆性變化。很多根本性的系統性風險依然存在，而各國政界正在做出各自相應的反應。

　　中國是一個好例子。例如，清潔能源、可再生能源在中國通過技術創新以及精心設計的政策，獲得了很好的發展機遇，中國正在成為這一領域的全球領導者。

　　《中國經濟週刊》：《2017年全球風險報告》揭示貧富差距進一步擴大和收入不均是最明顯的風險之一，實際上從2012年首次提到收入不均以來，2013年、2014年，收入不均都位列全球五大風險之首，您怎麼看待收入不均持續擴大的問題？

　　艾德維：收入不均問題並不是什麼新問題，施瓦布教授早在上世紀90年代晚期開始就對全球化帶來的負面影響提出了警告，所以這個問題出現在我們的結論中並不令人吃驚。我們正致力於找到減輕這個全球化負面後果的途徑，聚焦于創造更公平更具包容性的新增長。這需要相關國家努力減少一些系統性問題，如腐敗、機構效率低下等，這些問題影響經濟增長和財富的平均分配。今年我們選擇這個主題，希望引起對包容性增長模式的更多共鳴。

　　《中國經濟週刊》：在解決收入不均的問題上，有沒有特別有效的方法？在發達國家和發展中國家分別有哪些解決途徑？中國表現如何？

　　艾德維：在這個問題上，並沒有特別好的唯一標準，不同收入水準的國家有各自的解決途徑，關鍵不在於國家財富的多少，而在於分配政策。中國和其他中等收入國家相比，有做得很好的地方，也有需要改進的地方。根據我們的研究，一方面，中國在鼓勵小企業創業創新方面做了很多努力，但另一方面，在稅收政策、社會保障建設等方面，或許還有改進的空間。

　　《中國經濟週刊》：人口老齡化是發達國家和發展中國家都要面臨的問題，如何看待由此而來的社會變革？

　　艾德維：未來的35年，世界將增加大約20億人口，與此同時，將有13億人進入老齡，這給很多國家帶來了重大的人口結構挑戰。世界經濟論壇近期發佈了關於全球養老金危機的報告，考察各國養老金計劃的負擔情況。報告預測，中國今後每年養老金赤字將以7%的速度增長，從11萬億美元增長到2050年的119萬億美元，這將給中國和其他經濟體帶來巨大挑戰。

　　與此同時，我們也考察了“銀發勞動力”的勞動技能貢獻，發現在很多國家這是沒有被很好利用的資源。在中國，老年勞動力對社會的貢獻遠遠未被開發，通過適當的培訓和很好的企業文化，很多老年勞動力還可以為中國經濟社會繼續做出貢獻。中國可以多進行超前思維，發展健康行業、養老行業等，不僅刺激經濟發展，也可以減輕個人養老壓力。

　　《中國經濟週刊》：在很多國家都面臨著生育率下降的問題，您怎麼看？

　　艾德維：確實，在絕大多數發達國家，生育率都在下降。研究日本這樣面臨嚴重老齡化的國家，可以預測人口結構問題將如何帶來經濟上的不平衡發展，再思考開發哪些新技術、新行業可以帶來新的商業機遇。