金融機(jī)構(gòu)如何規(guī)范倫理治理，促進(jìn)金融科技健康發(fā)展？目前，我國金融科技倫理建設(shè)水平如何？持牌消費(fèi)金融機(jī)構(gòu)在科技倫理建設(shè)上怎樣發(fā)力的？近日，人民網(wǎng)重慶頻道專訪全國消費(fèi)金融頭部企業(yè)、科技驅(qū)動(dòng)型金融機(jī)構(gòu)——馬上消費(fèi)金融股份有限公司（以下簡(jiǎn)稱“馬上消費(fèi)”）副總經(jīng)理、首席信息官蔣寧，就相關(guān)問題進(jìn)行了深入探討。

馬上消費(fèi)金融股份有限公司副總經(jīng)理、首席信息官蔣寧。馬上消費(fèi)供圖

人民網(wǎng)重慶頻道：目前，我國金融科技倫理建設(shè)水平如何？

蔣寧：近年來，金融機(jī)構(gòu)應(yīng)用大數(shù)據(jù)、云計(jì)算、人工智能、區(qū)塊鏈等技術(shù)，持續(xù)進(jìn)行數(shù)字化轉(zhuǎn)型，但也產(chǎn)生了數(shù)據(jù)濫用、算法歧視、數(shù)字鴻溝等不少倫理問題。實(shí)際上，目前的法律很難與新型科技相容，法律和監(jiān)管往往滯后。同時(shí)，金融產(chǎn)品和服務(wù)的創(chuàng)新增強(qiáng)了業(yè)務(wù)關(guān)聯(lián)，跨行業(yè)趨勢(shì)顯著，突破金融業(yè)分業(yè)經(jīng)營、分業(yè)監(jiān)管的體制框架，產(chǎn)生了行業(yè)界限模糊的問題，容易發(fā)生監(jiān)管空白。當(dāng)前，我國各地也積極開展金融科技倫理規(guī)范，深圳、浙江等地成立地方性金融科技倫理委員會(huì)。

人民網(wǎng)重慶頻道：您剛剛說的倫理失范現(xiàn)象，請(qǐng)具體解釋一下。

蔣寧：目前，金融科技在數(shù)據(jù)治理、算法設(shè)計(jì)和服務(wù)對(duì)象上都存在倫理失范的現(xiàn)象。第一，數(shù)據(jù)安全受到侵犯。一方面在數(shù)據(jù)獲取上，存在采集過度的現(xiàn)象。部分金融機(jī)構(gòu)超范圍過度采集用戶個(gè)人身份、行為、偏好等隱私數(shù)據(jù)，致使更多敏感信息暴露在開放網(wǎng)絡(luò)環(huán)境；另一方面，數(shù)據(jù)的使用也存在道德危機(jī)。在未經(jīng)用戶同意情況下，金融數(shù)據(jù)甚至未經(jīng)脫敏的個(gè)人信息被隨意共享或售賣數(shù)據(jù)資源。

第二，算法濫用日益嚴(yán)重。算法不合理應(yīng)用導(dǎo)致“算法歧視”“大數(shù)據(jù)殺熟”等，影響用戶使用金融產(chǎn)品和服務(wù)，影響市場(chǎng)公平競(jìng)爭(zhēng)，妨礙公平正義，受到越來越多的關(guān)注。例如算法導(dǎo)致的“大數(shù)據(jù)殺熟”現(xiàn)象，算法基于人的支付能力、消費(fèi)偏好、使用習(xí)慣等，轉(zhuǎn)變?yōu)閷?duì)人們的各種打分和預(yù)測(cè)，在提供金融產(chǎn)品和服務(wù)實(shí)施差別定價(jià)，阻礙消費(fèi)者自主選擇。

第三，數(shù)字鴻溝不斷擴(kuò)大。部分?jǐn)?shù)字化產(chǎn)品沒有針對(duì)特殊群體進(jìn)行痛點(diǎn)設(shè)計(jì)，導(dǎo)致這部分群體無法享受金融科技服務(wù)帶來的便利，金融方面的“數(shù)字鴻溝”由此產(chǎn)生，并呈現(xiàn)不斷擴(kuò)大的趨勢(shì)。數(shù)字時(shí)代弱勢(shì)群體主要包括老人、農(nóng)民及殘疾人，由于認(rèn)知能力、安全需求、個(gè)性偏好等多重因素影響，數(shù)字弱勢(shì)群體在金融科技發(fā)展的浪潮中“掉隊(duì)”，成為金融服務(wù)的盲區(qū)。

人民網(wǎng)重慶頻道：您建議金融機(jī)構(gòu)怎么應(yīng)對(duì)？馬上消費(fèi)采取了哪些相關(guān)舉措？

蔣寧：金融機(jī)構(gòu)要踐行常態(tài)化倫理治理。我們公司十分重視倫理治理。一是樹立科技向善的企業(yè)文化。馬上消費(fèi)通過科技倫理培訓(xùn)提高員工倫理意識(shí)。針對(duì)新員工，設(shè)置倫理教育課程，使他們了解如何評(píng)估潛在的利害，為員工解釋科技倫理原則和內(nèi)部治理實(shí)踐，引導(dǎo)其樹立正向的倫理意識(shí)；針對(duì)研發(fā)人員，持續(xù)開展職業(yè)教育，提升其倫理水平和履職能力，開展負(fù)責(zé)任、可持續(xù)的研發(fā)工作。同時(shí)，馬上消費(fèi)注重科技倫理互動(dòng)交流，對(duì)客戶及社會(huì)公眾進(jìn)行科技倫理宣傳，結(jié)合社會(huì)對(duì)公司的倫理評(píng)價(jià)完善倫理治理工作；向同業(yè)同步最新進(jìn)展，輔助自身的金融科技倫理決策；響應(yīng)政府和行業(yè)組織科技倫理相關(guān)的聯(lián)合工作，為金融科技倫理公共基礎(chǔ)設(shè)施建設(shè)貢獻(xiàn)力量。

二是構(gòu)建企業(yè)倫理規(guī)則體系。在組織框架方面，構(gòu)建三級(jí)治理組織架構(gòu)。通過科技倫理治理領(lǐng)導(dǎo)組、科技倫理治理委員會(huì)、科技倫理治理工作組三級(jí)治理組織架構(gòu)，暢通問題上升反饋渠道和戰(zhàn)略執(zhí)行通道。在馬上消費(fèi)，領(lǐng)導(dǎo)組負(fù)責(zé)推動(dòng)執(zhí)行科技倫理治理戰(zhàn)略；委員會(huì)負(fù)責(zé)制定指導(dǎo)方針，敦促公司和所有員工執(zhí)行科技倫理原則；工作組負(fù)責(zé)產(chǎn)品倫理審核與風(fēng)險(xiǎn)把控、倫理生態(tài)建設(shè)、倫理標(biāo)準(zhǔn)討論與制定、宣傳培訓(xùn)。在制度規(guī)范方面，結(jié)合公司治理建立金融科技倫理的配套制度。馬上消費(fèi)結(jié)合公司實(shí)際，制定公司的《科技倫理治理規(guī)范》，明確要求所有科技研發(fā)活動(dòng)，必須以安全為目的、對(duì)公眾負(fù)責(zé)、保護(hù)個(gè)人隱私，使科技創(chuàng)新有利于增進(jìn)社會(huì)福祉、避免歧視或偏見；健全和優(yōu)化各項(xiàng)規(guī)章制度和規(guī)范，更新算法設(shè)計(jì)規(guī)范、個(gè)人信息保護(hù)等一系列制度，促進(jìn)科技倫理治理進(jìn)一步規(guī)范化、標(biāo)準(zhǔn)化；實(shí)施金融科技倫理標(biāo)準(zhǔn)，強(qiáng)化對(duì)違反金融科技倫理有關(guān)行為的責(zé)任追究。在風(fēng)險(xiǎn)監(jiān)控方面，加強(qiáng)科技倫理風(fēng)險(xiǎn)評(píng)估及審查。馬上消費(fèi)建立了面向數(shù)據(jù)和算法的風(fēng)險(xiǎn)評(píng)估指標(biāo)體系，用以輔助科技倫理治理委員會(huì)進(jìn)行風(fēng)險(xiǎn)預(yù)測(cè)和識(shí)別。并且，以國家出臺(tái)的金融科技倫理戰(zhàn)略規(guī)劃為風(fēng)向標(biāo)，結(jié)合已經(jīng)識(shí)別出的風(fēng)險(xiǎn)進(jìn)行倫理追溯，探索風(fēng)險(xiǎn)背后的價(jià)值沖突和倫理困境，建立科技倫理審查的質(zhì)量控制和監(jiān)督評(píng)價(jià)機(jī)制，定期審查科技倫理風(fēng)險(xiǎn)。

三是探索運(yùn)營展業(yè)的倫理公平。馬上消費(fèi)積極落實(shí)政府規(guī)劃，結(jié)合業(yè)務(wù)場(chǎng)景，具體推進(jìn)倫理原則和規(guī)則實(shí)質(zhì)性落地。

注重?cái)?shù)據(jù)安全和隱私保護(hù)。數(shù)據(jù)是金融科技的基礎(chǔ)要素，馬上消費(fèi)從數(shù)據(jù)視角進(jìn)行倫理規(guī)范，避免數(shù)據(jù)采集、使用和保護(hù)方面的道德風(fēng)險(xiǎn)。在數(shù)據(jù)采集方面，規(guī)范用戶授權(quán)，根據(jù)倫理規(guī)范需求，以合理必要為采集前提。在數(shù)據(jù)使用方面，建立數(shù)據(jù)治理長效機(jī)制，防范因?yàn)閿?shù)據(jù)推銷，造成騷擾電話、短信泛濫、暴力催收等惡劣的社會(huì)影響。在數(shù)據(jù)安全方面，制定數(shù)據(jù)安全保護(hù)制度，建立數(shù)據(jù)防泄密立體防控體系，配備專職安全監(jiān)察人員，防范數(shù)據(jù)泄露。

將科技倫理嵌入業(yè)務(wù)全流程。通過在立項(xiàng)、需求分析和技術(shù)研發(fā)全流程增加科技倫理設(shè)計(jì)，金融科技從誕生便符合特定的科技倫理道德。技術(shù)研發(fā)應(yīng)用和部署團(tuán)隊(duì)成員包含技術(shù)、合規(guī)、法律、倫理、信息安全等領(lǐng)域的人員，在產(chǎn)品立項(xiàng)、研發(fā)、測(cè)試、發(fā)布、運(yùn)營的全生命周期設(shè)置科技倫理審查，將科技倫理要求嵌入技術(shù)設(shè)計(jì)開發(fā)中。以馬上消費(fèi)的AI心理學(xué)技術(shù)應(yīng)用為例，通過發(fā)明一種帶有同理心、面對(duì)多人溝通的對(duì)話技術(shù)，使得人工智能具備同理心。該論文被自然語言處理與計(jì)算語言學(xué)領(lǐng)域頂級(jí)學(xué)術(shù)會(huì)議ACL 2022成功錄用。人工智能技術(shù)和心理學(xué)的應(yīng)用改變了催收理念、模式和方法，顯著提升效率，提升了催收行業(yè)的倫理道德規(guī)范。

以便民為中心彌合數(shù)字鴻溝。企業(yè)應(yīng)創(chuàng)新和改善金融科技產(chǎn)品和服務(wù)，幫助偏遠(yuǎn)地區(qū)人口等特殊群體享受數(shù)字產(chǎn)品和應(yīng)用，達(dá)到跨越數(shù)字鴻溝的目的。馬上消費(fèi)在技術(shù)研發(fā)中，注重操作使用的便捷性，突破時(shí)空限制。通過自主研發(fā)智能雙錄（遠(yuǎn)程視頻）產(chǎn)品，實(shí)現(xiàn)業(yè)務(wù)辦理人與客戶“遠(yuǎn)程面對(duì)面”，完成便捷智能的音視頻留痕服務(wù)；通過智能機(jī)器人引導(dǎo)操作流程，固化并不斷優(yōu)化錄制流程，操作更便捷順暢，有效提升雙錄效果并降低雙錄時(shí)長；通過人工智能自動(dòng)進(jìn)行語音播報(bào)，將AI算法深度融入到視頻服務(wù)中，進(jìn)一步提升展業(yè)的合規(guī)性和一次性通過率，減少重錄。

人民網(wǎng)重慶頻道：對(duì)于金融業(yè)踐行科技倫理治理，您有哪些建議？

蔣寧：科技既是金融發(fā)展的利器，也可能帶來新的倫理風(fēng)險(xiǎn)，金融科技的倫理規(guī)范不是一勞永逸的。下一步，馬上消費(fèi)持續(xù)探索倫理審查和評(píng)估，結(jié)合產(chǎn)學(xué)研合作和人才培養(yǎng)，堅(jiān)持用戶利益至上、體現(xiàn)人文關(guān)懷，推動(dòng)有溫度的科技創(chuàng)新發(fā)展，最大程度地實(shí)現(xiàn)治理的正義性及平等性。（張睿、向菊梅）

分享讓更多人看到