隨著大數據、人工智慧等資訊技術的快速發展,我們正在進入“演算法經濟時代”。以深度學習為代表的人工智慧演算法在網際網路資訊傳播、數字經濟發展、資訊産業服務等諸多方面發揮了重要作用，産生了溢出性極強的經濟效益。
然而，當前人工智慧演算法通常依賴於數據驅動的方式，其行為不可控、決策機理難解釋，帶來了公平性、隱私性等相關安全問題。更嚴重的是，人工智慧演算法“黑箱”特性導致了演算法治理困難，加劇了演算法被資本利用的可能，給演算法經濟的發展帶來一定負面影響。事實上，近年來演算法“黑箱”特性的負面作用正在凸顯。一些平臺利用演算法決策侵犯受眾權益的問題層出不窮，傳統監管手段失效，極易引發監管機構信任危機。
監管信任危機的根源在於企業在數據和演算法上的非對稱優勢。當前，基礎數據的所有權和控制權主要集中在網際網路平臺企業，這些企業全程操縱演算法設計、運作、測試和分析，由此佔據著優勢地位。監管部門在“演算法社會”中已經呈現出被邊緣化的趨勢，極易失去對關鍵數據和關鍵演算法的監督權和控制權。這意味著，演算法“黑箱”的存在勢必導致私人利益主觀上俘獲公共利益，以及資本主觀上規避公權力約束等風險的産生。同時，演算法“黑箱”客觀上隱藏了演算法自身存在的缺陷，並可能觸發安全風險，讓監管機構難以審查演算法資訊。監管機構規制演算法的內容與手段均受到限制，難以及時針對演算法問題進行問責和糾偏。
例如，一些平臺基於用戶資訊，對用戶進行“大數據殺熟”，即對於同樣的商品或服務，新用戶的價格比老用戶便宜許多，暗中形成市場歧視，踐踏市場公平，侵害消費者權益和政府公信力。而網際網路平臺企業使用的動態定價演算法存在的潛在缺陷，則可能造成演算法共謀，即在多個動態定價演算法同時被使用時，在人們不知情的情況下通過演算法對市場進行壟斷，從而提高市場價格，産生寡頭。除了商業領域，“黑箱”讓諸多演算法流程處於出不透明的狀態，公民的知情權在相當程度上失去保障。
我國“十四五”國家資訊化規劃提出，應建立健全規範有序的數字化發展治理體系。2022年1月份發佈的《網際網路資訊服務演算法推薦管理規定》，明確反對演算法歧視、大數據殺熟、誘導沉迷等演算法的不合理應用。而演算法治理法律法規、監管標準規範、監管技術及平臺的缺失缺位，是建立健全演算法治理體系中的三大挑戰。
應對挑戰，尤其需要從法律責任、行政責任、道德責任三方面構建演算法治理法律法規體系，推動社會各方之間的合作互信。在法律責任層面，國家應制定、完善相關法律法規，在多元主體之間建立起監管演算法“黑箱”的共同準則。在行政責任層面，著眼于行政審查、行政監管與行政問責，制定技術標準和操作守則，要求平臺企業使用的演算法符合法律法規要求、符合公共利益，削弱或消除演算法“黑箱”造成的負面影響；在道德責任層面，著眼于演算法倫理的嵌入，監管部門應該要求平臺在演算法設計上符合社會一般道德觀念、價值與規範。
針對演算法設計、應用、監管等全流程治理問題，需要構建演算法基礎標準、風險評估標準、安全等級標準以及監管標準等完整的標準規範體系，分級分類，設立全面、清晰、可操作的技術指標體系，做到實時可控可監管。演算法企業應積極主動配合國家演算法治理過程，依據相關標準要求，制定和公開演算法相關資訊，提升演算法透明度。與此同時，發揮社會組織監督作用，加強第三方監督，平衡演算法資訊的不對稱。
針對演算法“黑箱”風險難定義、難監管、難預防、難取證、難追責等問題，需要推動研究院所、企業、高校和政府的技術合作，突破度量評估、行為監測、風險防護、博弈演化、突變溯因等原創理論與核心技術，創建並豐富監管技術手段，確保演算法在各個階段中的安全風險可控。為實現演算法治理自動化、標準化，還應當開展演算法全週期、立體化智慧評測和監測技術的研發，構建可解釋性、隱私保護、公平性、魯棒性兼顧的安全可信的演算法監管平臺。
（劉祥龍 作者係北京航空航太大學軟體開發環境國家重點實驗室副主任，電腦學院教授、博士生導師）
