人工智慧産業治理論壇今開幕，眾AI企業承諾自律先行

8月2日-3日，首屆全球數字經濟大會在京召開，人工智慧産業治理論壇作為大會的平行論壇之一備受關注。8月3日，來自我國人工智慧領域的頂尖科學家、學者以及知名企業家匯聚這場盛會，圍繞主題“探索創新、共舉擔當”展開前沿對話，共同發佈了首個《人工智慧産業擔當宣言》。

中國科學院院士、清華大學人工智慧研究院院長張鈸，北京市海澱區區委副書記、區長王合生，北京市大數據中心黨總支書記、副主任唐建國，中關村科學城管委會專職副主任、海澱區科信局局長舒畢磊，中國資訊通信研究院副總工程師王愛華，北京智源人工智慧研究院執行副院長曹崗出席論壇。

人工智慧創新發展，與安全治理深度協同

作為引領第四次科技革命的戰略性技術，人工智慧給社會建設和經濟發展帶來了重大而深遠的影響。人工智慧在純技術層面是價值中立的，但在實際應用中，兼具創造性和破壞性。數據隱私、演算法偏見、技術濫用等安全問題正給社會公共治理與産業智慧化轉型帶來嚴峻挑戰。

中國科學院院士、清華大學人工智慧研究院名譽院長、瑞萊智慧首席科學家 張鈸

“人工智慧與資訊系統在安全性上有著顯著區別。資訊系統安全性問題主要是軟體設計中的漏洞，容易被解決。而第二代人工智慧的安全性問題主要來自深度學習演算法本身的不安全，更加本質、更難克服。”中國科學院院士、清華大學人工智慧研究院名譽院長、瑞萊智慧首席科學家張鈸在主旨演講中率先破題。他指出，對人工智慧進行治理，防止它被誤用、制止它被濫用，一方面需要從法律法規、倫理規範、行業共識等不同層面去“治標”，還應從技術創新層面發力去“治本”。張鈸院士提出發展第三代人工智慧技術，即融合了第一代的知識驅動和第二代的數據驅動的人工智慧，利用知識、數據、演算法和算力四個要素，建立新的可解釋和魯棒的AI理論與方法，發展安全、可信、可靠和可擴展的AI技術。

國科學院自動化研究所研究員、國家新一代人工智慧治理專委會委員、聯合國教科文組織人工智慧倫理特設專家組專家 曾毅

中國科學院自動化研究所研究員、國家新一代人工智慧治理專委會委員、聯合國教科文組織人工智慧倫理特設專家組專家曾毅認為，人工智慧的治理並不存在“發展優先還是治理先行”的矛盾，人工智慧穩健發展的兩大前提是可持續發展和人工智慧的善治，兩者深度協同。如何實現人工智慧的可持續發展？曾毅提出了具體建議，即在人工智慧産品設計、研究、開發、部署、使用全生命週期嵌入倫理與治理，並形成政府、學術界、企業、媒體、用戶、服務提供商等多方主動共治的良性生態，使穩健發展的人工智慧賦能全球可持續發展目標的實現。曾毅教授表示，本次宣言的發佈對企業具有重要參考作用並具初步的實操建議，將推動政産學研各界加快形成多方共治體系，穩步推進構建“負責任、可持續”的人工智慧生態，賦能人類與生態的可持續發展。

中國社科院科技哲學研究室主任、科學技術和社會研究中心主任 段偉文

中國社科院科技哲學研究室主任、科學技術和社會研究中心主任段偉文在演講中重點談到了數字時代的社會信任危機與重建。他説，數字技術與人工智慧産業發展的倫理風險帶來了諸多社會信任問題，面對既防患未然也溯及既往的數字治理趨勢，人工智慧企業應直面社會許可的挑戰，認真感知公眾對科技企業的認知和評價。他建議人工智慧企業不應回避社會監督，而是不斷思考、重塑科技的社會印象，技術改進和倫理設計要齊頭並進，攜手走向共建性的人工智慧倫理治理。

中倫律師事務所合夥人 陳際紅

中倫律師事務所合夥人陳際紅結合9月1日起即將施行的《中華人民共和國數據安全法》進行了分享。人工智慧治理的實現，需要多方參與、多元路徑。為人工智慧的發展設定規則就是路徑之一，而法律就是制定硬規則。人工智慧企業要遵守《數據安全法》開展數據處理，達到的合規標準。

獨行快，眾行遠。在主旨演講環節，嘉賓們在分享中達成共識：在推動人工智慧創新發展的道路上，只有從技術、倫理、法律三個維度“三管齊下”，才能實現安全治理的高效能。只有創新發展與安全治理深度協同，人工智慧才能真正成為社會發展的有力工具，增進人類福祉。

共擔科技使命，首個《人工智慧産業擔當宣言》發佈

為了更好的推動人工智慧技術創新和産業穩健發展，形成更完備規範的創新體系和産業生態，《人工智慧産業擔當宣言》在本次論壇上正式對外發佈。

倡議發佈首個《人工智慧産業擔當宣言》

宣言由北京智源人工智慧研究院、瑞萊智慧聯合發起，百度、華為、螞蟻集團、寒武紀、愛筆科技、第四範式、出門問問等人工智慧行業的核心骨幹企業、學術研究機構共同參與。

宣言包含五項倡議，首先強調，人工智慧系統的設計、研發、實施和推廣應符合可持續發展理念，以促進社會安全和福祉為目標，以尊重人類尊嚴和權益為前提。其次在技術能力方面，提出要最大限度確保人工智慧系統安全可信，提高魯棒性及抗干擾性，要增強演算法透明性和可解釋性，同時保障各方權利和隱私，對用戶數據提供充分的安全保障。

在行業踐行方面，宣言也給出了具體實現路徑，倡導企業積極參與探索和構建開源開放協作共用機制和平臺，建立深度合作夥伴關係，推動良好的産業生態形成。此外，企業還應採取成立人工智慧治理委員會或工作組、設立倫理研究院崗位或通過外部技術支援等多種方式極履行責任，從業者要具有高度社會責任感和自律意識，將人工智慧倫理與治理原則、實踐貫穿于産品和服務的全生命週期。

北京瑞萊智慧科技有限公司CEO 田天

北京瑞萊智慧科技有限公司CEO田天作為論壇承辦方與宣言核心參與方率先表示，讓人工智慧更好地服務於人類，是行業共同的目標，當整個社會重新審視技術的價值，科技從業者更應感受到科技治理的緊迫性和使命感，應當積極主動開展自治工作，同時開放共用，共舉科技擔當，將科技力量打造成為人工智慧創新治理體系中的核心支撐。

多方積極響應，探索科技治理新路徑

當下正值經濟深度智慧化的發展階段，人工智慧産業化已經從點到面，滲透到更多行業特定場景，這也為相應的風險治理和安全能力建設提出了新的要求。在科技向善的共同願景下，眾多人工智慧企業也在積極探索科技治理的新路徑。

百度技術委員會理事長陳尚義在論壇上表示，人工智慧科技治理既防範潛在風險，也要關注正向社會價值，這些社會價值與人民的美好生活、經濟高品質發展息息相關。百度秉持科技為更好的可持續發展理念，依託全棧領先的人工智慧技術能力和豐富産業的實踐經驗，不僅要達成自身的碳中和目標，更要通過技術助力全社會節能減排。

安全能力的建設也要求核心技術的自主可控，出門問問創始人、CEO李志飛就以語音交互技術在智慧車載場景應用為例談到，車載作為與“安全”聯繫密切相關的場景，創建自主可控的語音開源工具，構建可信賴的車載智慧語音系統成為可控發展的關鍵。

第四範式聯合創始人、首席研究科學家 陳雨強

這也是目前眾多企業積極探索的方向。第四範式聯合創始人、首席研究科學家陳雨強重點分享了人工智慧在企業界和工業界應用的觀察。他認為通過解決數據使用形式，解決數據安全流通問題，將使得人工智慧達到全新的能力緯度。目前，第四範式也在積極推廣人工智慧技術過程中的隱私保護工作。

阿里巴巴人工智慧治理與可持續發展實驗室首席科學家 李朝

阿里巴巴人工智慧治理與可持續發展實驗室首席科學家李朝説，作為最大的數字經濟平臺，發展可持續性人工智慧技術，是阿里巴巴義不容辭的責任。而可持續性要更多的體現公平性，包容性以及更廣的可適用性，並積極探索一個可預測、可控、可協作，也更加個性化的治理模式。

輕舟智航聯合創始人、首席科學家大方介紹説，輕舟智航注重傳統機器人技術與深度技術學習相結合，關注産品的價值觀，“我們希望所打造的人工智慧技術能夠有所為也有所不為，能夠在安全、效率、環保這幾個方面方面大有所為。”

京東探索研究院演算法科學家何鳳翔則表示，該院將一直對AI治理保持高度關注並展開具有建設性的討論，對數據安全、隱私保護、道德倫理等重點議題進行深度研究，推動AI治理在社會運轉和企業經營中落到實處。

本屆論壇，是促進和加強可信AI建設的交流合作、共同致力於推動人工智慧産業良性發展、建設可信的未來智慧社會的一次成功實踐。通過論壇交流互動，深入探討了國內各領域關於人工智慧應用安全方面的理念、方法和技術路徑，將有助於行業間增進了解、加強合作、彼此借鑒，拓寬發展思路。在以安全為本的新格局下，發展的新舊動能強勁轉換，隨著AI生態的逐步完善和發展，創新的邊界將會進一步被打破，更多的技術融合也會不斷發生，構築安全可靠，可信賴的AI新核心，為企業智慧化轉型夯實安全底座，助力企業核心應用實現“質”躍遷。