金融機構如何規范倫理治理，促進金融科技健康發展？目前，我國金融科技倫理建設水平如何？持牌消費金融機構在科技倫理建設上怎樣發力的？近日，人民網重慶頻道專訪全國消費金融頭部企業、科技驅動型金融機構——馬上消費金融股份有限公司（以下簡稱“馬上消費”）副總經理、首席信息官蔣寧，就相關問題進行了深入探討。

馬上消費金融股份有限公司副總經理、首席信息官蔣寧。馬上消費供圖

人民網重慶頻道：目前，我國金融科技倫理建設水平如何？

蔣寧：近年來，金融機構應用大數據、雲計算、人工智能、區塊鏈等技術，持續進行數字化轉型，但也產生了數據濫用、算法歧視、數字鴻溝等不少倫理問題。實際上，目前的法律很難與新型科技相容，法律和監管往往滯后。同時，金融產品和服務的創新增強了業務關聯，跨行業趨勢顯著，突破金融業分業經營、分業監管的體制框架，產生了行業界限模糊的問題，容易發生監管空白。當前，我國各地也積極開展金融科技倫理規范，深圳、浙江等地成立地方性金融科技倫理委員會。

人民網重慶頻道：您剛剛說的倫理失范現象，請具體解釋一下。

蔣寧：目前，金融科技在數據治理、算法設計和服務對象上都存在倫理失范的現象。第一，數據安全受到侵犯。一方面在數據獲取上，存在採集過度的現象。部分金融機構超范圍過度採集用戶個人身份、行為、偏好等隱私數據，致使更多敏感信息暴露在開放網絡環境﹔另一方面，數據的使用也存在道德危機。在未經用戶同意情況下，金融數據甚至未經脫敏的個人信息被隨意共享或售賣數據資源。

第二，算法濫用日益嚴重。算法不合理應用導致“算法歧視”“大數據殺熟”等，影響用戶使用金融產品和服務，影響市場公平競爭，妨礙公平正義，受到越來越多的關注。例如算法導致的“大數據殺熟”現象，算法基於人的支付能力、消費偏好、使用習慣等，轉變為對人們的各種打分和預測，在提供金融產品和服務實施差別定價，阻礙消費者自主選擇。

第三，數字鴻溝不斷擴大。部分數字化產品沒有針對特殊群體進行痛點設計，導致這部分群體無法享受金融科技服務帶來的便利，金融方面的“數字鴻溝”由此產生，並呈現不斷擴大的趨勢。數字時代弱勢群體主要包括老人、農民及殘疾人，由於認知能力、安全需求、個性偏好等多重因素影響，數字弱勢群體在金融科技發展的浪潮中“掉隊”，成為金融服務的盲區。

人民網重慶頻道：您建議金融機構怎麼應對？馬上消費採取了哪些相關舉措？

蔣寧：金融機構要踐行常態化倫理治理。我們公司十分重視倫理治理。一是樹立科技向善的企業文化。馬上消費通過科技倫理培訓提高員工倫理意識。針對新員工，設置倫理教育課程，使他們了解如何評估潛在的利害，為員工解釋科技倫理原則和內部治理實踐，引導其樹立正向的倫理意識﹔針對研發人員，持續開展職業教育，提升其倫理水平和履職能力，開展負責任、可持續的研發工作。同時，馬上消費注重科技倫理互動交流，對客戶及社會公眾進行科技倫理宣傳，結合社會對公司的倫理評價完善倫理治理工作﹔向同業同步最新進展，輔助自身的金融科技倫理決策﹔響應政府和行業組織科技倫理相關的聯合工作，為金融科技倫理公共基礎設施建設貢獻力量。

二是構建企業倫理規則體系。在組織框架方面，構建三級治理組織架構。通過科技倫理治理領導組、科技倫理治理委員會、科技倫理治理工作組三級治理組織架構，暢通問題上升反饋渠道和戰略執行通道。在馬上消費，領導組負責推動執行科技倫理治理戰略﹔委員會負責制定指導方針，敦促公司和所有員工執行科技倫理原則﹔工作組負責產品倫理審核與風險把控、倫理生態建設、倫理標准討論與制定、宣傳培訓。在制度規范方面，結合公司治理建立金融科技倫理的配套制度。馬上消費結合公司實際，制定公司的《科技倫理治理規范》，明確要求所有科技研發活動，必須以安全為目的、對公眾負責、保護個人隱私，使科技創新有利於增進社會福祉、避免歧視或偏見﹔健全和優化各項規章制度和規范，更新算法設計規范、個人信息保護等一系列制度，促進科技倫理治理進一步規范化、標准化﹔實施金融科技倫理標准，強化對違反金融科技倫理有關行為的責任追究。在風險監控方面，加強科技倫理風險評估及審查。馬上消費建立了面向數據和算法的風險評估指標體系，用以輔助科技倫理治理委員會進行風險預測和識別。並且，以國家出台的金融科技倫理戰略規劃為風向標，結合已經識別出的風險進行倫理追溯，探索風險背后的價值沖突和倫理困境，建立科技倫理審查的質量控制和監督評價機制，定期審查科技倫理風險。

三是探索運營展業的倫理公平。馬上消費積極落實政府規劃，結合業務場景，具體推進倫理原則和規則實質性落地。

注重數據安全和隱私保護。數據是金融科技的基礎要素，馬上消費從數據視角進行倫理規范，避免數據採集、使用和保護方面的道德風險。在數據採集方面，規范用戶授權，根據倫理規范需求，以合理必要為採集前提。在數據使用方面，建立數據治理長效機制，防范因為數據推銷，造成騷擾電話、短信泛濫、暴力催收等惡劣的社會影響。在數據安全方面，制定數據安全保護制度，建立數據防泄密立體防控體系，配備專職安全監察人員，防范數據泄露。

將科技倫理嵌入業務全流程。通過在立項、需求分析和技術研發全流程增加科技倫理設計，金融科技從誕生便符合特定的科技倫理道德。技術研發應用和部署團隊成員包含技術、合規、法律、倫理、信息安全等領域的人員，在產品立項、研發、測試、發布、運營的全生命周期設置科技倫理審查，將科技倫理要求嵌入技術設計開發中。以馬上消費的AI心理學技術應用為例，通過發明一種帶有同理心、面對多人溝通的對話技術，使得人工智能具備同理心。該論文被自然語言處理與計算語言學領域頂級學術會議ACL 2022成功錄用。人工智能技術和心理學的應用改變了催收理念、模式和方法，顯著提升效率，提升了催收行業的倫理道德規范。

以便民為中心彌合數字鴻溝。企業應創新和改善金融科技產品和服務，幫助偏遠地區人口等特殊群體享受數字產品和應用，達到跨越數字鴻溝的目的。馬上消費在技術研發中，注重操作使用的便捷性，突破時空限制。通過自主研發智能雙錄（遠程視頻）產品，實現業務辦理人與客戶“遠程面對面”，完成便捷智能的音視頻留痕服務﹔通過智能機器人引導操作流程，固化並不斷優化錄制流程，操作更便捷順暢，有效提升雙錄效果並降低雙錄時長﹔通過人工智能自動進行語音播報，將AI算法深度融入到視頻服務中，進一步提升展業的合規性和一次性通過率，減少重錄。

人民網重慶頻道：對於金融業踐行科技倫理治理，您有哪些建議？

蔣寧：科技既是金融發展的利器，也可能帶來新的倫理風險，金融科技的倫理規范不是一勞永逸的。下一步，馬上消費持續探索倫理審查和評估，結合產學研合作和人才培養，堅持用戶利益至上、體現人文關懷，推動有溫度的科技創新發展，最大程度地實現治理的正義性及平等性。（張睿、向菊梅）

分享讓更多人看到