洞察智慧化趨勢，築牢金融安全基石：BCS第五屆金融業網路安全論壇成功舉辦

6月5日,2024年北京網路安全大會第五屆金融業網路安全論壇在京成功舉辦。本屆論壇以“洞察智慧化趨勢,築牢金融安全基石”為主題,針對金融行業數字化轉型面臨的安全挑戰,尤其是大模型為代表的新型人工智慧技術對金融業務帶來的機遇、風險以及應對進行了深入探討。

與會專家表示,金融行業正面臨數字化轉型的關鍵時期,這一過程不僅使得網路安全風險變得更加複雜和多變,同時也伴隨著法律法規和監管要求的日趨嚴格。在人工智慧技術帶來的新機遇和挑戰面前,金融行業需要採取雙管齊下的策略:一方面,要積極接納和利用創新技術,充分發揮AI的潛能;另一方面,也要對大模型發展可能引發的無邊界和穿透式風險保持警覺,平衡發展與安全。

奇安信集團銀行軍團總經理徐懿巍主持論壇

在致辭環節,奇安信集團董事長齊向東表示,金融行業最近幾年面臨重大的網路安全挑戰,駭客組織為獲取經濟利益和用戶隱私把金融行業作為攻擊的重點。從2023年開始,全球很多大型金融機構遭遇勒索攻擊,造成巨大損失。因為金融行業不僅掌握重要數據,其業務連續性也非常重要,丟失數據和停止運作對於金融行業都是災難性的。

奇安信集團董事長齊向東

信創海河實驗室主任、中國新一代人工智慧發展戰略研究院執行院長龔克在致辭時表示,推動AI和網路安全與金融結合,一定要深度理解AI的優勢和可能帶來的風險。在優勢方面,人工智慧憑藉其強大的數據處理能力,能夠迅速且主動地利用歷史數據進行風險預判、行為分析,並做出及時響應。這種能力在金融領域尤其寶貴,能夠極大提升風險管理的效率和準確性。但AI目前存在著可靠性不足、技術成熟度有待提高,以及可能引發安全隱患和隱私洩露的問題。特別是在金融行業,人工智慧帶來的隱私問題可能更為嚴峻,需要我們給予足夠的重視並審慎的應對。

信創海河實驗室主任、中國新一代人工智慧發展戰略研究院執行院長龔克

中國科學院院士管曉宏在主題演講《網路空間安全挑戰與應對》中表示,網路空間安全包括網路安全、資訊安全、內容安全、系統安全、CPS綜合安全和數據安全六個方面。保證網路空間安全應該採取技術與管理相結合的策略。從管理角度,要建立法律法規和國家政策作為安全治理體系的重要一環,強化數據安全監管,構成數據安全的標準體系。從技術角度,數據的全生命週期安全,也就是數據生産、存儲、傳輸、訪問、使用、銷毀,都應有相應技術手段提供安全保證。

中國科學院院士管曉宏視頻形式參會

中國工商銀行數據中心金融科技專家顧駿在《金融行業數字化轉型背景下的網路安全建設實踐》主題演講中,分享了工商銀行應對安全挑戰的實踐。為應對數字化轉型過程中的安全挑戰,工商銀行對標業界資訊安全體系化管理的最佳實踐,從管理、運營、技術三個層面建設網路安全的管理框架,並持續優化,為全行高品質發展提供有力的支撐。

在大模型技術研究中,工商銀行深入分析應用層、模型層、框架層,識別出15類安全風險。顧駿指出,大模型雖基於AI技術,卻同樣面臨模型竊取、數據投毒等傳統風險,同時其特有的應用模式如提示詞等,也帶來了新的安全挑戰。

中國工商銀行數據中心金融科技專家顧駿

清華大學五道口金融學院金融安全研究中心主任、中國網際網路協會金融消費權益保護與教育培訓專業委員會主任委員周道許,精準勾勒了金融智慧化的五大發展趨勢:質效提升、基礎設施完善、人機交互革新、監管科技深化、風險管理能力增強。面對AI技術的快速迭代,他指出金融智慧化發展中伴隨的新問題和風險,並提出了針對性的發展建議:利用科技賦能監管,強化消費者權益保護,推動金融機構以客戶為中心,提升服務競爭力,並完善立法監督,確保金融智慧化的健康發展。

清華大學五道口金融學院金融安全研究中心主任周道許

中國郵政儲蓄銀行數據管理部副總經理張放在演講時表示,隨著數字經濟的快速迭代和發展,安全問題已經不僅僅是底線和紅線問題,而成為了制約科技能力和業務發展的關鍵因素。如果安全能力無法突破其"天花板",那麼科技能力和業務發展都難以跑出加速度。郵儲銀行近年來非常重視數據安全工作,搭建了較為完善的數據安全體系,並有條不紊地開展了一系列數據安全工作,如數據分類分級、研發安全工具鏈建設、數據安全評估等。在未來,郵儲銀行將落實“做好金融五篇大文章”的號召,借力大模型等新技術,積極面對金融數字化帶來的安全挑戰,與業內共同鑄就數據安全生態。

中國郵政儲蓄銀行數據管理部副總經理張放

中央財經大學金融學院院長張學勇在主題演講時表示,金融業正經歷全面的數字化轉型,數據成為核心資産,風險管理與決策更加科學化和智慧化。然而,數據安全成為金融發展的關鍵,需在確保安全的同時,有效利用數據資産以提高收益。張院長指出,源於對金融機構業務發展中安全重要性的深刻認知,中央財經大學金融學院在學科建設中融入了金融安全工程。學院致力於培養掌握金融安全關鍵知識和技能的人才,以滿足金融機構和社會發展的需求。此外,中央財經大學金融學院與奇安信集團緊密合作,建立金融數據安全聯合實驗室,整合優質資源,期待在未來能成為中國培養金融數據安全人才的陣地,並計劃定期發佈金融數據安全研究報告,助力行業發展。

中央財經大學金融學院院長張學勇

中國移動集團資訊技術中心架構師趙永剛發表主題為《人工智慧技術在資訊安全領域的研究與探索》的演講,分享了中國移動資訊技術中心在大模型領域應用過程中發現的安全問題以及應對之道。趙永剛表示,在AI構建大模型應用之時,面臨數據侵權、隱私洩露和數據合成偽造的風險,通過在應用、數據和訪問三大層面構建核心安全體系,能夠有效降低安全風險,提升應用大模型的安全信任感。趙永剛提出了三個層面的主要技術手段:在應用側,研究合成檢測,保證應用安全;在數據側,通過數據浮水印和一系列數據防護措施,構建數據防護體系;在接入訪問側,通過5G專網解決網路安全問題,構建完整的安全訪問方案。

中國移動集團資訊技術中心架構師趙永剛

中國聯通集團數據安全專家孫藝發表了主題為《築牢數據安全防線,護航數字經濟發展》的演講,分享了中國聯通在整個數據安全治理體系方面的思考和實踐。中國聯通始終圍繞數據治理、安全防護、常態運營和産業賦能四個方面開展工作,同時還搭建了管理+技術+組織的數據治理體系,該體系的運用不僅持續強化中國聯通在數據安全防護方面的能力,而且通過提高風險發現和處理的效率,有效預防了數據洩露風險,為中國聯通在數字經濟時代的穩健發展提供了堅實的安全保障。

中國聯通集團數據安全專家孫藝

奇安信集團産品總體部副總經理王月輝發表題為《重新定義安全服務價值》的主題演講。他表示當前安全廠商提供的安全服務,多數情況下靈活性都很強,安全服務的立項、採購和實施三個階段都存在著很多不確定性。王月輝強調,安全服務的未來發展方向應以客戶需求為核心驅動力,通過推動供給側的改革與創新,將安全服務提升為一種標準化、精細化、個性化的工藝品。這種服務模式不僅能夠精準對接市場和客戶的特定需求,還有助於提高安全行業的服務品質與效率。通過該模式,網路安全服務有望邁入一個全新的發展階段,實現質的飛躍。

奇安信集團産品總體部副總經理王月輝

奇安信集團戰略諮詢規劃部總經理鄔怡、奇安信集團人工智慧研究院負責人王佔一做了《從RSA2024看AI安全趨勢》的主題對話。

鄔怡認為,人工智慧(AI)安全與網路安全在本質上是相通的,治理架構的建立應當先行一步。AI治理架構與數據安全治理架構有著諸多相似之處,都需要構建一個跨職能的組織,涵蓋隱私保護、法律事務、合規性、安全保障以及資訊技術等多個領域,以實現協同共建。在構建大型AI模型的安全框架方面,鄔怡提出了四點建議:首先,短期內可以通過評估系統安全性來確保大模型的安全性;其次,建立臨時控制措施,對大模型的使用進行有效管控;第三,加強對公司內部AI應用的監控,確保其合規性;最後,定期審查並更新現有的安全策略,以適應不斷變化的技術環境和安全需求。

王佔一從專業的角度深入剖析了大型AI模型的訓練與部署應用流程。在訓練階段,對數據進行隱私化處理是至關重要的,包括對數據內容進行安全分析和過濾。針對中間私有數據的處理,王佔一強調了兩個關鍵點:首先,要確保數據內容與當前用戶的許可權相匹配,保障數據訪問的合理性;其次,當數據被用於生成回答時,必須對內容進行安全性和合法性的評估,確保其不僅符合法律法規的要求,而且還要與公司的價值觀和準則相一致。通過這種機制,在確保AI模型提供智慧服務的同時,也能夠維護用戶隱私和數據安全。

奇安信集團戰略諮詢規劃部總經理鄔怡(左)

奇安信集團人工智慧研究院負責人王佔一(右)

在論壇的圓桌對話環節,來自金融科技領域的多位專家就“金融科技安全:新時代的創新與挑戰”這一主題展開了深入的探討。平安銀行金融科技部總經理助理宋歌、廈門國際銀行科技運維部金融科技專家林建庭、北京航空航太大學電腦學院教授榮文戈、曙光資訊産業股份有限公司金融行業首席架構師姜永凱,以及奇安信集團副總裁張卓,分別從不同的角度出發,就大模型人工智慧在金融服務領域所帶來的深遠影響和變革、對人才培養的深遠影響,以及人工智慧如何賦能網路安全運作等話題,分享了各自的見解和洞見。這次圓桌對話為金融科技安全領域的創新與發展提供了寶貴的思想交流和經驗分享。

圓桌對話環節參與嘉賓

BCS2024北京網路安全大會(以下稱大會)于6月5日至6日在國家會議中心舉辦,大會以“AI驅動安全”為主題,設置2場數字安全高峰論壇、3場網路安全相關比賽、20余場論壇沙龍、多場全國系列活動。大會每年提出的觀點都成為産業發展的風向標,是北京重要的戰略窗口與科技名片,已成為極具影響力的世界級網路安全盛會。金融業網路安全論壇作為大會期間舉辦的重要品牌活動,至今年已經成功舉辦五屆,成為BCS2024北京網路安全大會最具影響力的行業論壇之一。