蘇世民：人工智慧啟蒙來自馬雲，AI倫理髮展有五大核心原則

2020世界人工智慧大會雲端峰會9日開幕。黑石集團董事長、首席執行官兼聯合創始人蘇世民在開幕式現場連線中分享了對於人工智慧的想法，並回憶了他接觸人工智慧的往事。

“我在人工智慧方面的啟蒙最初來自馬雲，我們都是清華大學經濟管理學院顧問委員會的委員。”蘇世民稱，馬雲表示，人工智慧是革命性的新技術，將會改變人類世界的幾乎每一個領域。馬雲還提到，對於“人工智慧會成為積極的力量，抑或是會成為消極的力量，進而干擾組織和人們的生活”的議題，業界存在很大的分歧。

蘇世民説，我相信，馬雲的觀察是正確的。如何負責任地利用人工智慧的無限潛力是世界正面臨的關鍵挑戰，而我想為此做點事情。因此，我決定向麻省理工學院提供3.5億美元啟動資金，以開設蘇世民電腦學院，該學院將專注於人工智慧的跨學科研究和開發，以及相關倫理和政策考量的研究。

蘇世民表示，近年來，世界各地的很多組織都發佈了人工智慧倫理髮展原則和指南，為全球討論提供了良好起點。儘管在某些問題的解釋和相對重要性、以及執行意見上仍存在複雜的地區和文化差異，但全球似乎對以下核心原則達成一致：透明、公平、安全、責任和隱私。

三是安全原則。人工智慧技術絕不應造成可預見或意外的傷害。人工智慧技術的設計應可靠且不易受損。

四是責任原則。如果人工智慧系統的決策導致了問題的産生，就需要明確責任，並在必要時進行強制性補救。與此同時，研究人員和開發人員需要考慮人工智慧技術的一切風險，並證明他們已採取具體行動來降低風險。

最後是隱私原則。因為如此多的人工智慧應用依賴數據，所以需要有適當的機制來保護人們的權利、利益和個人隱私資訊。人工智慧系統需要以易理解的方式披露如何使用、存儲和保護個人資訊，用戶也應該能夠隨時撤銷其使用個人資訊的權利。

“越早通過共同治理結構協調和應用這些原則，就越有可能避免人工智慧的負面後果。”蘇世民強調，革命性的技術，尤其是像人工智慧這樣的軍民兩用技術，需要人們，特別是那些開發這些技術的專家給予極大的關注。即使是面對不可避免的、前所未有的新壓力，我還是希望大家遵循和平與穩定、包容與安全的原則。(夏賓)