中國網：人工智慧在人們的工作與生活中日益普及，風險和問題也隨之凸顯。當下，人工智慧治理正逐步從理念探討走向實踐探索，如何構建公平、包容的人工智慧國際治理體系成為國際社會亟待解決的重要問題。未來如何加強國際共識，更好的讓人工智慧增益人類福祉？怎樣統籌發展與治理之間的關係？人工智慧對於國家發展具有怎樣的戰略意義？在2021人工智慧合作與治理國際論壇上，中國網《中國訪談》就此專訪清華大學人工智慧國際治理研究院院長薛瀾。

圖為清華大學人工智慧國際治理研究院院長薛瀾 攝影/劉凱

中國網：薛院長您好！非常感謝您接受中國網《中國訪談》的專訪。2019年時，國家成立了新一代人工智慧治理專業委員會，隨後發佈了治理的原則。您怎麼看待人工智慧治理的重要性和前瞻性呢？

薛瀾：的確，應該説中國政府對於人工智慧的發展、治理都是非常重視的。2017年，國家發佈了《新一代人工智慧發展規劃》，大家仔細看會注意到，這個規劃裏談到了要高度關注人工智慧的發展可能帶來的一些風險和社會影響，採取有效措施來防範風險。《規劃》更多會談到怎麼樣發展，怎麼樣促進這方面的科學研究和應用。我認為，這和2017年當時的發展階段密切相關，因為那個時候也是人工智慧技術剛剛發展，進入到一個高潮，但我個人覺得更多的還是在科研、在研發這個層面。應用，應該説當時還是比較有限的。

但國家非常快速地在2019年就成立了（新一代）人工智慧治理專業委員會，而且這個專業委員會，在大家共同努力支援下于2019年6月份，就發佈了人工智慧治理準則，提供指導。

當然，大家也知道，最近兩年也有新的發展，今年發佈了《新一代人工智慧倫理規範》，其實全社會包括企業也開始出臺了他們相關的、共同遵守的一些原則。

中國網：您作為委員會的主任，怎麼看待從2019年到現在差不多快三年的時間，我國在治理準則上面一些有益的探索和嘗試呢？

薛瀾：我覺得，應該説中國在這方面和國際同行一起是走在前列的。首先，我們的治理準則不光是把它發佈，而且現在也和很多企業包括行業一起探討具體的實施。中國很多企業，剛才已經談到，他們已經開始形成一些共同遵守的、相對自律性的準則。另外，頭部企業成立了很多內部的人工智慧治理委員會。 另一方面，其實中國的學術界以及研究機構在這方面也進行了大量的研究，同時與國際同行進行交流，希望推動全球這方面治理體系的進一步完善形成。

中國網：儘快達成國際認可的共識。

薛瀾：對。

中國網：人工智慧技術因為不確定性和顛覆性，我們面對的很多問題都是新出現的，每時每刻都在發生變化。您怎麼看待人工智慧所帶來的風險和我們所面臨的新的挑戰？

薛瀾：當然大家最擔心的風險，而且科幻小説或科幻電影裏面經常出現的，就是我們人類變成人工智慧的奴隸，機器人和人工智慧統治我們未來的這個社會。但很多科學家已經告訴我們，我們離這個還很遠。所以，這一點大家不用太擔心。

但更實際的，其實潛在的風險是在應用過程中。比如演算法偏見，由於這種技術應用，可能會加劇我們人類社會已有的各種歧視、偏見等等。所以，這方面我們特別關注。另外一點就是對隱私的侵犯，這是我們擔心的。

這些都是比較現實的，馬上看得到的。我們更擔心的是另外一類風險，這類風險是通過長時間的積累，最後對整個社會帶來結構性的衝擊和影響。

中國網：有一個從量變到質變的過程。

薛瀾：量變到質變。好比説在就業方面，在個別的企業應用確實可能提高了效率，可以減少用工，但如果想在全社會大規模地應用，那就業替代的影響就是不可忽視了。所以，這方面就需要更前瞻地看到可能帶來的影響，應該採取措施來去相應地應對。

中國網：人工智慧國際合作與治理論壇今年是第二屆，去年的時候您曾經説過，人工智慧技術的發展是非常快的，日新月異，但治理體系作為一種社會體系它的發展是緩慢的，是漸進的。我們知道這種緩慢和漸進和它的性質有關係，但另一方面也是可以通過推進國際合作來加快它的進程。那麼您對此有哪些建議？如果對比去年和今年，您認為，我們在人工智慧治理的國際體系方面有哪些進步，有哪些進展？

薛瀾：首先，非常可喜地看到，在一開始，我們講人工智慧治理，我覺得全社會大家不太理解，而且有很多科研工作者甚至於覺得有一點不是太高興。説我們人工智慧技術剛剛發展起來，還沒有真正很好地應用，你們就説要提高治理。這可能是誤解了發展和治理之間的關係，其實我們現在強調它的治理，是為了更好地發展，如果我們不去關注治理的問題，一旦出現什麼風險，變成現實的話，可能就會大大地阻礙人工智慧的發展。所以，我們實際是通過治理去更好地促進它的健康發展。

第二點，不僅是我們研究者，全社會對人工智慧的兩面性也有更清醒、更理性的認識。在人工智慧剛剛發展的時候，也有一種就覺得人工智慧是萬能的，各方面都特別好。但一旦碰到一些隱私各方面的（問題）一下又覺得人工智慧一無是處。我覺得現在經過過去這一兩年的發展，和全社會更多的討論，能看到它積極的、賦能的一面；另一方面也明白它可能會帶來潛在的風險。我想這樣為我們今後人工智慧長遠的發展是奠定了一個非常好的基礎。

我想國際社會也面臨同樣的問題，我們這次會議有那麼多國際的同行來參與，大家也都看到人工智慧的發展需要兩手抓，一方面是推動它的創新，一方面是推動它的治理。在這方面，其實合作的潛力是非常大的，但是我覺得也必須得看到，我們人工智慧的國際治理這方面的合作其實也受到了地緣政治的一些影響。

其實如果我們冷靜下來看，人工智慧的治理和氣候變化的治理是一樣的，它有潛在的可能給我們人類社會帶來巨大的風險。我們今天發言人也談到了，尤其在軍備競賽這方面，如果在人工智慧領域開展，其實也會潛在地有很大的風險。

所以，在這方面，如果能夠，我們特別希望美國相關的部門能夠摒棄這種地緣政治的偏見，能夠來積極主動推動這方面的合作，從目前我們看到的所有中國政府領導人的表態和我們各種文件都是非常希望推動人工智慧治理國際合作。我覺得這方面，我們中國的學者更是願意跟國際同行一起來探討這個問題。

中國網：正像您所説的，人工智慧作為一項前沿技術，各國都非常重視。未來如何讓它成為增益我們人類的福祉，而不是讓它成為犯罪和戰爭的工具，國際的合作和共識非常重要。您認為，目前我們在達成一個國際共識的治理框架方面還存在哪些障礙或困難呢？

薛瀾：首先就是需要保持開放包容的心態，就是我們要認識到，雖然在基本的價值層面，我們大家還是有相當的共識。但另外一點，哪些價值可能更重要、更關鍵？不同國家處在不同的發展階段；另外，可能由於文化各方面的這種傳統的差別，所以大家可能會不一樣。

中國網：我們第一訴求和文化背景是有差別的。

薛瀾：對。所以，可能有些國家會把某些特別的價值觀念放在最重要的位置，但另外一些國家可能把其他的價值觀念放在第二、第三，我覺得這恰恰體現了我們國際社會的多元性，我們都應該去尊重。所以，我想首先一點，在價值層面應該有更多尊重。

第二點，我們要看到，不同的國家它在技術發展過程中處於不同發展階段，有些國家可能處於前沿第一梯隊，好比基礎性的技術開發這方面，美國還是非常領先的。當然，還有很多發展中國家相對來講這方面還是比較落後的。所以，我想在這個發展過程中，要充分認識到這種差別，要能保證技術的開發能充分應用到整個國際社會，而不能擴大我們現有發展的差別。

第三點，其實要看到，不同的國家它的應用場景差別很大。我們舉個例子，像中國這樣的人工眾多，很多應用場景需要高通量的技術應用時，類似於人臉識別這樣的技術就可以提供巨大的益處，人們通過火車站等場景下就會提供很多的方便。但其他的國家，其他的應用場景可能跟中國是差別很大的。我想在這方面，我們也要認識到，不同場景的差別也會影響到各個國家對不同技術應用的需求它的差別。

我想如果我們能認識到這種多元性，基本原則我們大家形成共識的基礎之上，盡可能包容這種多元的這種應用場景。

中國網：謝謝薛院長！

（本期人員：主持/責編：佟靜；攝像：王一辰 劉凱；後期：劉凱；主編：鄭海濱）