智庫中國 > 

【智庫研究】陸小華:用主流價值導向駕馭演算法

來源:經濟日報 | 作者:陸小華 | 時間:2021-10-14 | 責編:申罡

文 | 陸小華 天津大學新媒體與傳播學院院長、天津市中國特色社會主義理論體系研究中心研究員


“用主流價值導向駕馭‘演算法’”,是習近平總書記明確提出的要求。演算法是基於數據用系統方法描述、解決問題的策略機制,在經濟、社會生活多領域廣泛應用的同時,基於累積數據不斷迭代,成為影響資訊分發、服務提供、機會分配、資源配置的基礎性機制和力量。當前,既要把握人工智慧發展趨勢,用得好,也要管得住,有效防範演算法濫用帶來的風險隱患,更要通過加強演算法綜合治理,實現以主流價值導向駕馭演算法。


加強演算法綜合治理是必答題


21世紀以來,演算法技術發展迅速,自動化決策在經濟生活、社會生活中日益獲得更大影響力和主導權。網際網路平臺通過使用演算法提升資訊服務與用戶需求匹配度而獲得競爭優勢,單一平臺甚至擁有日活數億用戶。中國龐大的用戶群為演算法發展提供了堅實基礎。在海量增長的用戶數據支撐下,演算法不斷迭代,智慧水準也在逐次提升。


“演算法面前,人變成了工具?”等尖銳問題引發強烈共鳴。推薦演算法推送同類資訊令用戶心生厭倦,人們日益擔憂演算法推薦服務催生的各種“資訊繭房”、倫理問題等。更重要的是,演算法推薦服務對社會生活、公眾認知和意識形態具有越來越大的支配作用,必然要納入政府綜合治理範圍。


從公眾利益和國家安全層面看,絕不能任由推薦演算法決定青少年的資訊獲取和價值觀形成,絕不能任由推薦演算法決定資訊分發導致意識形態安全失衡,絕不能因法律、技術監管能力不到位使網際網路資訊演算法推薦服務在關鍵時刻帶來風險。可以説,加強推薦演算法綜合治理是一道必答題。


多方入手實施演算法綜合治理


演算法綜合治理有效實施,至少需要加強四個方面建設。


其一,樹立正確導向。演算法由人設計就應由人操控、有人負責。演算法推薦所體現的價值取向,相當程度上體現了演算法推薦服務提供者的價值觀。演算法應用必須向上向善,是社會共識;堅持主流價值導向,優化演算法推薦服務機制,積極傳播正能量,是對演算法推薦服務提供者的基本要求;不得利用演算法推薦服務從事危害國家安全、擾亂經濟秩序和社會秩序、侵犯他人合法權益等法律、行政法規禁止的活動,不得利用演算法推薦服務傳播法律、行政法規禁止的資訊,是演算法推薦服務提供者必須遵守的底線規則;建立完善人工干預和用戶自主選擇機制,在首頁首屏、熱搜、精選、榜單類、彈窗等重點環節,積極呈現符合主流價值導向的資訊內容,提高正能量傳播的精準性和有效性,則是演算法推薦服務提供者應有的價值取向和追求。在演算法綜合治理中必須用多種規則、手段強力要求,切實監管,確保實現。


其二,健全法律法規。2021年9月1日施行的《中華人民共和國數據安全法》對數據處理活動進行了全面規範。將於11月1日施行的《中華人民共和國個人資訊保護法》,第一次在法律文本中定義了“自動化決策”一詞的含義為“通過電腦程式自動分析、評估個人的行為習慣、興趣愛好或者經濟、健康、信用狀況等,並進行決策的活動”,並明確規定“個人資訊處理者利用個人資訊進行自動化決策”時,“應當保證決策的透明度和結果公平、公正”,應提供“不針對其個人特徵的選項,或者向個人提供便捷的拒絕方式”;還應就“利用個人資訊進行自動化決策”“事前進行個人資訊保護影響評估,並對處理情況進行記錄”。


國家網際網路信息辦公室等九部門公佈的《關於加強網際網路資訊服務演算法綜合治理的指導意見》,對管理好、使用好、發展好演算法應用做出了頂層設計,確定了“利用三年左右時間,逐步建立治理機制健全、監管體系完善、演算法生態規範的演算法安全綜合治理格局”的目標,並就健全演算法安全治理機制、構建演算法安全監管體系、促進演算法生態規範發展做出了規定和系統安排。國家網信辦發佈的《網際網路資訊服務演算法推薦管理規定(徵求意見稿)》,第一次區分了生成合成類、個性化推送類、排序精選類、檢索過濾類、調度決策類五類向用戶提供資訊內容的演算法技術,並就演算法推薦服務提供者的責任和義務、演算法推薦服務公告和演算法備案等制度、演算法推薦未成年人模式做出了詳細規定。這個管理規定明確將根據演算法推薦服務的輿論屬性或者社會動員能力、內容類別、用戶規模、演算法推薦技術處理的數據敏感程度、對用戶行為的干預程度等,對演算法推薦服務提供者實施分類分級管理,並對演算法安全評估和監督檢查做出了具體規定。


數據安全法、個人資訊保護法的施行,指導意見出臺和管理規定公開徵求意見,為演算法綜合治理提供了規則依據、奠定了法治基礎。


其三,提升監管能力。演算法綜合治理需要專業監管能力。演算法不斷迭代、甚至自我更新是其智慧水準的體現。人們對演算法的“可解釋性”有多種觀點,對演算法推薦結果的“不可解釋性”也有深深擔憂,因此把演算法稱為“黑箱”。演算法監管不僅需要專業監管隊伍和不斷提升的依法監管能力,還需擁有不斷迭代的檢測、驗證、評估工具和技術監管能力,演算法綜合治理才可能落到實處。監管部門應當具有在不掌握演算法內部結構、核心內容的情況下,以一定規則、特定輸入條件、輸出結果對演算法進行綜合測試的專業能力;或是根據演算法使用者所提供的演算法相關情況對其推薦服務結果進行綜合驗證的專業能力;以及根據相關規定對演算法安全做出評估,對其自評估報告進行驗證的專業能力。《關於加強網際網路資訊服務演算法綜合治理的指導意見》第三部分“構建演算法安全監管體系”中就對“積極開展演算法安全評估”提出了要求,包括“組織建立專業技術評估隊伍,深入分析演算法機制機理,評估演算法設計、部署和使用等應用環節的缺陷和漏洞,研判演算法應用産生的意識形態、社會公平、道德倫理等安全風險,提出針對性應對措施”。這樣的專業技術評估,是有效實施演算法綜合治理的物質基礎。


其四,優化協同機制。建立健全有法可依、多元協同、多方參與的演算法安全治理機制,是中國進行演算法綜合治理的組織優勢、制度優勢所在和重要保障。協同機制建設的基礎是權利、義務、責任的配置。通過法律、法規、規章和相關規定,進一步明確政府、企業、行業組織和網民在演算法安全治理中的權利、義務和責任,特別是強化企業對演算法應用産生結果所負的主體責任,才能夠形成政府監管、企業履責、行業自律、社會監督的演算法安全多元共治局面。因此,要求企業建立演算法安全責任制度和科技倫理審查制度,健全演算法安全管理組織機構,加強風險防控和隱患排查治理,提升應對演算法安全突發事件的能力和水準。協同機制有效運轉也需要各個相關部門依法依規協同運作,需要吸引專業人才隊伍,匯聚多方資源投入,為演算法安全治理提供有力支撐。


發表評論

網站無障礙