金融科技倫理失范與治理路徑

近幾年，金融機構應用大數據、雲計算、人工智慧、區塊鏈等技術，持續進行數字化轉型。金融與科技的深度融合在推進金融服務高速發展的同時，也産生了數據濫用、演算法歧視、數字鴻溝等諸多倫理問題。

為此，我國高度重視科技倫理，今年中辦、國辦就印發了《關於加強科技倫理治理的意見》，提出建立科技倫理體系、增強科技倫理治理能力，促進金融科技健康發展。馬上消費金融股份有限公司(以下簡稱“馬上消費”)作為科技驅動型金融機構，貫徹落實黨和政府關於金融科技的政策，在法律和制度的規範下，探索和把握最新趨勢，踐行科技向善，實現技術創新與社會責任的平衡發展。

金融科技倫理建設剛起步探索

金融科技倫理要求在公序良俗的約束下，實現技術創新、金融改革和金融安全在更高水準的動態平衡。而目前，我國乃至全球的金融科技倫理建設，還處於起步探索階段。

黨和國家高度重視金融科技倫理建設。倫理治理是提高我國金融科技國際競爭力的必要條件。倫理建設得不到規範，金融科技發展水準及潛力都會受限，直接制約國家競爭力的增強。當前，我國金融科技倫理的頂層設計初步形成：“十四五”規劃和2035年要提出要“健全科技倫理體系”;2022年1月，央行印發的《金融科技發展規劃(2022-2025年)》要求健全金融科技倫理規範體系，並於3月發佈了《人工智慧演算法金融應用評價規範》。同時，各地積極開展金融科技倫理規範，深圳、浙江等地成立地方性金融科技倫理委員會。

倫理治理彌補監管空白，成為金融科技發展不可或缺的力量。金融科技發展迅猛，關聯的領域和風險都存在一定未知數。目前的法律很難與新型科技相容，法律和監管往往滯後。同時，金融産品和服務的創新增強了業務關聯，跨行業趨勢顯著，突破金融業“分業經營、分業監管”的體制框架，産生了行業界限模糊的問題，容易發生監管空白。倫理規範是自發、自覺的自律行動，它在法律和監管之前，能夠有防範未知風險，支撐金融科技發展。

金融科技倫理建設在全球普及，總體仍處於起步探索階段。近年來，金融科技在全球廣泛運用，金融科技帶來的挑戰也日益突出，各國普遍加入金融科技倫理的建設。美國、歐盟、中國、新加坡等部分國家或地區結合金融科技發展，在倫理治理方面開展了一系列探索。從相關舉措來看，目前主要的治理實踐集中在設立組織和出臺原則，但評估、監督的細則較少;從實踐成效來看，專門組織的設立和原則規範的出臺時間多在2018年之後，治理效果還需觀察和檢驗。

金融科技領域存在倫理失范

目前，金融科技在數據治理、演算法設計和服務對象上都存在倫理失范的現象。

數據安全受到侵犯。一方面在數據獲取上，存在採集過度的現象。部分金融機構超範圍過度採集用戶個人身份、行為、偏好等隱私數據，致使更多敏感資訊暴露在開放網路環境;另一方面，數據的使用也存在道德危機。在未經用戶同意情況下，金融數據甚至未經脫敏的個人資訊被隨意共用或售賣數據資源。

演算法濫用日益嚴重。演算法不合理應用導致“演算法歧視”“大數據殺熟”等，影響用戶使用金融産品和服務，影響市場公平競爭，妨礙公平正義，受到越來越多的關注。例如演算法導致的“大數據殺熟”現象，演算法基於人的支付能力、消費偏好、使用習慣等，轉變為對人們的各種打分和預測，在提供金融産品和服務實施差別定價，阻礙消費者自主選擇。

數字鴻溝不斷擴大。部分數字化産品沒有針對特殊群體進行痛點設計，導致這部分群體無法享受金融科技服務帶來的便利，金融方面的“數字鴻溝”由此産生，並呈現不斷擴大的趨勢。數字時代弱勢群體主要包括老人、農民及殘疾人，由於認知能力、安全需求、個性偏好等多重因素影響，數字弱勢群體在金融科技發展的浪潮中“掉隊”，成為金融服務的盲區。

金融機構踐行常態化倫理治理

金融機構規範科技倫理，要本著向善的目的，認真評估對客戶、社會可能帶來的影響。馬上消費重視倫理治理，貫徹落實政府金融科技倫理準則和行業倫理自律機制，在企業文化、制度規範、業務運營中開展常態化倫理建設，努力使金融科技發揮正向社會價值。

樹立科技向善的企業文化。金融科技的決定因素是人，提升金融科技倫理治理水準首先是對人的觀念引導。馬上消費通過科技倫理培訓提高員工倫理意識。針對新員工，設置倫理教育課程，使他們了解如何評估潛在的利害，為員工解釋科技倫理原則和內部治理實踐，引導其樹立正向的倫理意識;針對研發人員，持續開展職業教育，提升其倫理水準和履職能力，開展負責任、可持續的研發工作。同時，馬上消費注重科技倫理互動交流，對客戶及社會公眾進行科技倫理宣傳，結合社會對公司的倫理評價完善倫理治理工作;向同業同步最新進展，輔助自身的金融科技倫理決策;響應政府和行業組織科技倫理相關的聯合工作，為金融科技倫理公共基礎設施建設貢獻力量。

構建企業倫理規則體系。人是積極能動的，要用行之有效的倫理準則和作業標準來規範人。馬上消費不斷完善科技治理的長效機制，確保倫理治理日常持續、有效運轉。

在組織框架方面，構建三級治理組織架構。通過科技倫理治理領導組、科技倫理治理委員會、科技倫理治理工作組三級治理組織架構，暢通問題上升反饋渠道和戰略執行通道。在馬上消費，領導組負責推動執行科技倫理治理戰略;委員會負責制定指導方針，敦促公司和所有員工執行科技倫理原則;工作組負責産品倫理審核與風險把控、倫理生態建設、倫理標準討論與制定、宣傳培訓。

在制度規範方面，結合公司治理建立金融科技倫理的配套制度。馬上消費結合公司實際，制定公司的《科技倫理治理規範》，明確要求所有科技研發活動，必須以安全為目的、對公眾負責、保護個人隱私，使科技創新有利於增進社會福祉、避免歧視或偏見;健全和優化各項規章制度和規範，更新演算法設計規範、個人資訊保護等一系列制度，促進科技倫理治理進一步規範化、標準化;實施金融科技倫理標準，強化對違反金融科技倫理有關行為的責任追究。

在風險監控方面，加強科技倫理風險評估及審查。馬上消費建立了面向數據和演算法的風險評估指標體系，用以輔助科技倫理治理委員會進行風險預測和識別。並且，以國家出臺的金融科技倫理戰略規劃為風向標，結合已經識別出的風險進行倫理追溯，探索風險背後的價值衝突和倫理困境，建立科技倫理審查的品質控制和監督評價機制，定期審查科技倫理風險。

探索運營展業的倫理公平。馬上消費積極落實政府規劃，結合業務場景，具體推進倫理原則和規則實質性落地。

注重數據安全和隱私保護。數據是金融科技的基礎要素，馬上消費從數據視角進行倫理規範，避免數據採集、使用和保護方面的道德風險。在數據採集方面，規範用戶授權，根據倫理規範需求，以合理必要為採集前提。在數據使用方面，建立數據治理長效機制，防範因為數據推銷，造成騷擾電話、短信氾濫、暴力催收等惡劣的社會影響。在數據安全方面，制定數據安全保護制度，建立數據防泄密立體防控體系，配備專職安全監察人員，防範數據洩露。

將科技倫理嵌入業務全流程。通過在立項、需求分析和技術研發全流程增加科技倫理設計，金融科技從誕生便符合特定的科技倫理道德。技術研發應用和部署團隊成員包含技術、合規、法律、倫理、資訊安全等領域的人員，在産品立項、研發、測試、發佈、運營的全生命週期設置科技倫理審查，將科技倫理要求嵌入技術設計開發中。以馬上消費的AI心理學技術應用為例，通過發明一種帶有同理心、面對多人溝通的對話技術，使得人工智慧具備同理心，避免道德歧視。該論文被自然語言處理與計算語言學領域頂級學術會議ACL 2022成功錄用。人工智慧技術和心理學的應用改變了催收理念、模式和方法，顯著提升效率，提升了催收行業的倫理道德規範。

以便民為中心彌合數字鴻溝。企業應創新和改善金融科技産品和服務，幫助偏遠地區人口等特殊群體享受數字産品和應用，達到跨越數字鴻溝的目的。馬上消費在技術研發中，注重操作使用的便捷性，突破時空限制。通過自主研發智慧雙錄(遠端視頻)産品，實現業務辦理人與客戶“遠端面對面”，完成便捷智慧的音視頻留痕服務;通過智慧機器人引導操作流程，固化並不斷優化錄製流程，操作更便捷順暢，有效提升雙錄效果並降低雙錄時長;通過人工智慧自動進行語音播報，將AI演算法深度融入到視頻服務中，進一步提升展業的合規性和一次性通過率，減少重錄。

科技既是金融發展的利器，也可能帶來新的倫理風險，金融科技的倫理規範不是一勞永逸的。下一步，馬上消費持續探索倫理審查和評估，結合産學研合作和人才培養，堅持用戶利益至上、體現人文關懷，推動有溫度的科技創新發展，最大程度地實現治理的正義性及平等性。(作者係馬上消費金融股份有限公司副總經理、首席資訊官蔣寧)