揭開演算法的神秘面紗

當你把目的地輸入導航系統，它可以規劃出最優路線，以縮短高峰時段上下班時間；當你打開智慧音箱時，它會播放你此前從未聽過但的確很喜歡的歌曲；當你瀏覽新聞資訊平臺時，總會驚嘆于頁面顯示的資訊正合你意。這些我們逐漸習以為常的生活，都是隱藏于服務背後的演算法。

如今，人工智慧及其核心演算法正以前所未有的深度和廣度，嵌入社會、經濟、政治等諸多領域，一個前所未有的高度自動化的世界正在形成。從商業領域擴展至立法、執法與司法等公權力運作過程中，對提高政府治理能力、推動人民群眾生活的便利化，以及預測並防止風險的發生和擴大等方面發揮重要作用。在新冠肺炎疫情常態化防控和復工復産關鍵階段發揮重要作用的健康碼，當屬例證。隨著機器學習演算法的控制力的延伸，決策權部分或全部，主動或被動地從“人類之手”交由“演算法之手”。“十四五”規劃綱要將“加快數字化發展 建設數字中國”作為獨立篇章，圍繞打造數字經濟新優勢、加快數字社會建設步伐、提高數字政府建設水準以及營造良好數字生態，勾畫出了未來五年數字中國建設的新圖景。

現代社會中，科技嵌入治理不僅成為現實，也是趨勢。如何保證科技向善，不僅是倫理問題，更是法治問題。國家行政管理出版社出版的新書《演算法：人工智慧在想什麼》一書，在細緻勾勒演算法時代特徵的基礎上，審視演算法時代的隱憂與演算法決策的風險，並提供規制演算法的思路和框架，對人類長久存在的歧視問題在演算法中的體現展開深入分析，並以無人駕駛為例探討演算法規制的關鍵所在，探討應對風險與問題的可行性路徑，從多學科的角度對嵌入國家治理能力體系中的演算法進行了理論和實務兩個層面的探討。此書的作者是活躍在國內研究一線的中青年學者，他們不僅能用深入淺出的語言來探討這一重要問題，更難得的是，他們從科技倫理和法治兩個層面，探討在國家治理體系和能力現代化的進程中政府對演算法如何予以規制，以及政府如何依法科學運用演算法，該著作也是這一領域的最新研究成果。

1988年鄧小平同志提出的“科學技術是第一生産力”。十八屆三中全會提出了“國家治理體系和治理能力現代化”的重要命題，以人工智慧、大數據和演算法為代表的現代科技在改變社會結構、商業模式和個人生活方式的同時，必然嵌入現代國家治理體系之中，影響社會治理能力。如何在法治化的背景下理性審視演算法技術，又如何有效規制演算法，可謂人工智慧時代國際社會普遍關注的一項重要議題。我們在看到人工智慧和演算法帶來益處的同時，也需要有效應對演算法帶來的風險和挑戰。對我國而言，為人工智慧技術提供更多法律和政策支援，對演算法問題予以規制，是重要問題，決定著我國在新一輪科技和産業革命中，能否實現科技和産業發展的多贏局面。

法治化是國家治理現代化的主要內容，是衡量國家治理現代化水準的主要標準，是實現國家治理現代化的關鍵。我們要探討如何規制演算法，就要對演算法以及演算法的應用予以了解，並要運用法治思維和法治方式來展開討論、尋求對策。

首先，要準確理解演算法及其特徵。無論是法學、社會學、管理學等專業社科研究人員，還是普通公眾，都需要“揭開演算法的神秘面紗”，知道演算法是怎麼回事兒，在這個演算法已經無處不在的時代，這是第一步。演算法，本質上就是解決問題的一系列步驟。它並非電腦時代或人工智慧體系的獨創概念，只不過隨著大規模數據採集和分析能力的提升，能夠自主學習的機器學習演算法日漸成為人工智慧時代的驅動器。機器學習演算法的運作原理是，通過對已有數據進行學習建模，再根據更多的數據修正和分析模型，在面對新情景時，也可以根據歷史數據和其“所學”作出判斷。人工智慧的實現相當程度上要歸功於機器學習演算法之應用。

其次，要客觀中立研究和解讀演算法。任何科學技術的興起與發展過程均伴隨一定的隱憂，機器學習演算法也不例外。人類與演算法之間的關係錯綜複雜，它在帶來諸多實實在在便利的同時，也帶來一些風險。現實中對人工智慧、大數據等科技及其應用的探討，很容易走向極端。一種極端，是對科技盲目樂觀，簡單信奉所謂“技術中立”，對掌握科技、運用科技的人，過分信任，監管對策準備不足；另一種極端，是對新技術的發展進程不了解，盲目恐慌，以科幻電影所描繪的未來世界來展開想像。其實，十八般武藝俱全，既能訂餐又能炒菜，還能開車的超級人工智慧，仍是遙不可及的未來。作為社會科學研究者，對科技問題展開規制的探討應當是客觀中立的。

最後，要跨學科探討對演算法的規制。對演算法規制的研究應當是多學科交叉融合的，而且應當是多主體參與的。其中，既要有學者的思考，更要有政府部門和企業的高度參與。演算法規制的成功與否，取決於學界、政府和行業是否共同思考，有效利用新技術推動社會治理創新。需要聚集來自法學、哲學、公共管理等社會學科的知識和力量，用冷靜中立的視角，來思考人工智慧和演算法帶來的挑戰和風險。無論是自動駕駛的法律和政策應對研究，還是個人資訊保護現狀分析，人工智慧時代演算法歧視研究乃至數據安全法立法建議等問題，法學都應當在其中發揮重要作用。

（作者：胡建淼，係中共中央黨校〔國家行政學院〕教授）