近幾年，金融機構應用大數據、云計算、人工智能、區塊鏈等技術(shù)，持續進(jìn)行數字化轉型。金融與科技的深度融合在推進(jìn)金融服務(wù)高速發(fā)展的同時(shí)，也產(chǎn)生了數據濫用、算法歧視、數字?zhù)櫆系戎T多倫理問(wèn)題。

為此，我國高度重視科技倫理，今年中辦、國辦就印發(fā)了《關(guān)于加強科技倫理治理的意見(jiàn)》，提出建立科技倫理體系、增強科技倫理治理能力，促進(jìn)金融科技健康發(fā)展。馬上消費金融股份有限公司(以下簡(jiǎn)稱(chēng)“馬上消費”)作為科技驅動(dòng)型金融機構，貫徹落實(shí)黨和政府關(guān)于金融科技的政策，在法律和制度的規范下，探索和把握最新趨勢，踐行科技向善，實(shí)現技術(shù)創(chuàng )新與社會(huì )責任的平衡發(fā)展。

金融科技倫理建設剛起步探索

金融科技倫理要求在公序良俗的約束下，實(shí)現技術(shù)創(chuàng )新、金融改革和金融安全在更高水平的動(dòng)態(tài)平衡。而目前，我國乃至全球的金融科技倫理建設，還處于起步探索階段。

黨和國家高度重視金融科技倫理建設。倫理治理是提高我國金融科技國際競爭力的必要條件。倫理建設得不到規范，金融科技發(fā)展水平及潛力都會(huì )受限，直接制約國家競爭力的增強。當前，我國金融科技倫理的頂層設計初步形成：“十四五”規劃和2035年要提出要“健全科技倫理體系”;2022年1月，央行印發(fā)的《金融科技發(fā)展規劃(2022-2025年)》要求健全金融科技倫理規范體系，并于3月發(fā)布了《人工智能算法金融應用評價(jià)規范》。同時(shí)，各地積極開(kāi)展金融科技倫理規范，深圳、浙江等地成立地方性金融科技倫理委員會(huì )。

倫理治理彌補監管空白，成為金融科技發(fā)展不可或缺的力量。金融科技發(fā)展迅猛，關(guān)聯(lián)的領(lǐng)域和風(fēng)險都存在一定未知數。目前的法律很難與新型科技相容，法律和監管往往滯后。同時(shí)，金融產(chǎn)品和服務(wù)的創(chuàng )新增強了業(yè)務(wù)關(guān)聯(lián)，跨行業(yè)趨勢顯著(zhù)，突破金融業(yè)“分業(yè)經(jīng)營(yíng)、分業(yè)監管”的體制框架，產(chǎn)生了行業(yè)界限模糊的問(wèn)題，容易發(fā)生監管空白。倫理規范是自發(fā)、自覺(jué)的自律行動(dòng)，它在法律和監管之前，能夠有防范未知風(fēng)險，支撐金融科技發(fā)展。

金融科技倫理建設在全球普及，總體仍處于起步探索階段。近年來(lái)，金融科技在全球廣泛運用，金融科技帶來(lái)的挑戰也日益突出，各國普遍加入金融科技倫理的建設。美國、歐盟、中國、新加坡等部分國家或地區結合金融科技發(fā)展，在倫理治理方面開(kāi)展了一系列探索。從相關(guān)舉措來(lái)看，目前主要的治理實(shí)踐集中在設立組織和出臺原則，但評估、監督的細則較少;從實(shí)踐成效來(lái)看，專(zhuān)門(mén)組織的設立和原則規范的出臺時(shí)間多在2018年之后，治理效果還需觀(guān)察和檢驗。

金融科技領(lǐng)域存在倫理失范

目前，金融科技在數據治理、算法設計和服務(wù)對象上都存在倫理失范的現象。

數據安全受到侵犯。一方面在數據獲取上，存在采集過(guò)度的現象。部分金融機構超范圍過(guò)度采集用戶(hù)個(gè)人身份、行為、偏好等隱私數據，致使更多敏感信息暴露在開(kāi)放網(wǎng)絡(luò )環(huán)境;另一方面，數據的使用也存在道德危機。在未經(jīng)用戶(hù)同意情況下，金融數據甚至未經(jīng)脫敏的個(gè)人信息被隨意共享或售賣(mài)數據資源。

算法濫用日益嚴重。算法不合理應用導致“算法歧視”“大數據殺熟”等，影響用戶(hù)使用金融產(chǎn)品和服務(wù)，影響市場(chǎng)公平競爭，妨礙公平正義，受到越來(lái)越多的關(guān)注。例如算法導致的“大數據殺熟”現象，算法基于人的支付能力、消費偏好、使用習慣等，轉變?yōu)閷θ藗兊母鞣N打分和預測，在提供金融產(chǎn)品和服務(wù)實(shí)施差別定價(jià)，阻礙消費者自主選擇。

數字?zhù)櫆喜粩鄶U大。部分數字化產(chǎn)品沒(méi)有針對特殊群體進(jìn)行痛點(diǎn)設計，導致這部分群體無(wú)法享受金融科技服務(wù)帶來(lái)的便利，金融方面的“數字?zhù)櫆稀庇纱水a(chǎn)生，并呈現不斷擴大的趨勢。數字時(shí)代弱勢群體主要包括老人、農民及殘疾人，由于認知能力、安全需求、個(gè)性偏好等多重因素影響，數字弱勢群體在金融科技發(fā)展的浪潮中“掉隊”，成為金融服務(wù)的盲區。

金融機構踐行常態(tài)化倫理治理

金融機構規范科技倫理，要本著(zhù)向善的目的，認真評估對客戶(hù)、社會(huì )可能帶來(lái)的影響。馬上消費重視倫理治理，貫徹落實(shí)政府金融科技倫理準則和行業(yè)倫理自律機制，在企業(yè)文化、制度規范、業(yè)務(wù)運營(yíng)中開(kāi)展常態(tài)化倫理建設，努力使金融科技發(fā)揮正向社會(huì )價(jià)值。

樹(shù)立科技向善的企業(yè)文化。金融科技的決定因素是人，提升金融科技倫理治理水平首先是對人的觀(guān)念引導。馬上消費通過(guò)科技倫理培訓提高員工倫理意識。針對新員工，設置倫理教育課程，使他們了解如何評估潛在的利害，為員工解釋科技倫理原則和內部治理實(shí)踐，引導其樹(shù)立正向的倫理意識;針對研發(fā)人員，持續開(kāi)展職業(yè)教育，提升其倫理水平和履職能力，開(kāi)展負責任、可持續的研發(fā)工作。同時(shí)，馬上消費注重科技倫理互動(dòng)交流，對客戶(hù)及社會(huì )公眾進(jìn)行科技倫理宣傳，結合社會(huì )對公司的倫理評價(jià)完善倫理治理工作;向同業(yè)同步最新進(jìn)展，輔助自身的金融科技倫理決策;響應政府和行業(yè)組織科技倫理相關(guān)的聯(lián)合工作，為金融科技倫理公共基礎設施建設貢獻力量。

構建企業(yè)倫理規則體系。人是積極能動(dòng)的，要用行之有效的倫理準則和作業(yè)標準來(lái)規范人。馬上消費不斷完善科技治理的長(cháng)效機制，確保倫理治理日常持續、有效運轉。

在組織框架方面，構建三級治理組織架構。通過(guò)科技倫理治理領(lǐng)導組、科技倫理治理委員會(huì )、科技倫理治理工作組三級治理組織架構，暢通問(wèn)題上升反饋渠道和戰略執行通道。在馬上消費，領(lǐng)導組負責推動(dòng)執行科技倫理治理戰略;委員會(huì )負責制定指導方針，敦促公司和所有員工執行科技倫理原則;工作組負責產(chǎn)品倫理審核與風(fēng)險把控、倫理生態(tài)建設、倫理標準討論與制定、宣傳培訓。

在制度規范方面，結合公司治理建立金融科技倫理的配套制度。馬上消費結合公司實(shí)際，制定公司的《科技倫理治理規范》，明確要求所有科技研發(fā)活動(dòng)，必須以安全為目的、對公眾負責、保護個(gè)人隱私，使科技創(chuàng )新有利于增進(jìn)社會(huì )福祉、避免歧視或偏見(jiàn);健全和優(yōu)化各項規章制度和規范，更新算法設計規范、個(gè)人信息保護等一系列制度，促進(jìn)科技倫理治理進(jìn)一步規范化、標準化;實(shí)施金融科技倫理標準，強化對違反金融科技倫理有關(guān)行為的責任追究。

在風(fēng)險監控方面，加強科技倫理風(fēng)險評估及審查。馬上消費建立了面向數據和算法的風(fēng)險評估指標體系，用以輔助科技倫理治理委員會(huì )進(jìn)行風(fēng)險預測和識別。并且，以國家出臺的金融科技倫理戰略規劃為風(fēng)向標，結合已經(jīng)識別出的風(fēng)險進(jìn)行倫理追溯，探索風(fēng)險背后的價(jià)值沖突和倫理困境，建立科技倫理審查的質(zhì)量控制和監督評價(jià)機制，定期審查科技倫理風(fēng)險。

探索運營(yíng)展業(yè)的倫理公平。馬上消費積極落實(shí)政府規劃，結合業(yè)務(wù)場(chǎng)景，具體推進(jìn)倫理原則和規則實(shí)質(zhì)性落地。

注重數據安全和隱私保護。數據是金融科技的基礎要素，馬上消費從數據視角進(jìn)行倫理規范，避免數據采集、使用和保護方面的道德風(fēng)險。在數據采集方面，規范用戶(hù)授權，根據倫理規范需求，以合理必要為采集前提。在數據使用方面，建立數據治理長(cháng)效機制，防范因為數據推銷(xiāo)，造成騷擾電話(huà)、短信泛濫、暴力催收等惡劣的社會(huì )影響。在數據安全方面，制定數據安全保護制度，建立數據防泄密立體防控體系，配備專(zhuān)職安全監察人員，防范數據泄露。

將科技倫理嵌入業(yè)務(wù)全流程。通過(guò)在立項、需求分析和技術(shù)研發(fā)全流程增加科技倫理設計，金融科技從誕生便符合特定的科技倫理道德。技術(shù)研發(fā)應用和部署團隊成員包含技術(shù)、合規、法律、倫理、信息安全等領(lǐng)域的人員，在產(chǎn)品立項、研發(fā)、測試、發(fā)布、運營(yíng)的全生命周期設置科技倫理審查，將科技倫理要求嵌入技術(shù)設計開(kāi)發(fā)中。以馬上消費的AI心理學(xué)技術(shù)應用為例，通過(guò)發(fā)明一種帶有同理心、面對多人溝通的對話(huà)技術(shù)，使得人工智能具備同理心，避免道德歧視。該論文被自然語(yǔ)言處理與計算語(yǔ)言學(xué)領(lǐng)域頂級學(xué)術(shù)會(huì )議ACL 2022成功錄用。人工智能技術(shù)和心理學(xué)的應用改變了催收理念、模式和方法，顯著(zhù)提升效率，提升了催收行業(yè)的倫理道德規范。

以便民為中心彌合數字?zhù)櫆稀Ｆ髽I(yè)應創(chuàng )新和改善金融科技產(chǎn)品和服務(wù)，幫助偏遠地區人口等特殊群體享受數字產(chǎn)品和應用，達到跨越數字?zhù)櫆系哪康摹ｑR上消費在技術(shù)研發(fā)中，注重操作使用的便捷性，突破時(shí)空限制。通過(guò)自主研發(fā)智能雙錄(遠程視頻)產(chǎn)品，實(shí)現業(yè)務(wù)辦理人與客戶(hù)“遠程面對面”，完成便捷智能的音視頻留痕服務(wù);通過(guò)智能機器人引導操作流程，固化并不斷優(yōu)化錄制流程，操作更便捷順暢，有效提升雙錄效果并降低雙錄時(shí)長(cháng);通過(guò)人工智能自動(dòng)進(jìn)行語(yǔ)音播報，將AI算法深度融入到視頻服務(wù)中，進(jìn)一步提升展業(yè)的合規性和一次性通過(guò)率，減少重錄。

科技既是金融發(fā)展的利器，也可能帶來(lái)新的倫理風(fēng)險，金融科技的倫理規范不是一勞永逸的。下一步，馬上消費持續探索倫理審查和評估，結合產(chǎn)學(xué)研合作和人才培養，堅持用戶(hù)利益至上、體現人文關(guān)懷，推動(dòng)有溫度的科技創(chuàng )新發(fā)展，最大程度地實(shí)現治理的正義性及平等性。(作者系馬上消費金融股份有限公司副總經(jīng)理、首席信息官蔣寧)