金融科技伦理失范与治理路径

近几年，金融机构应用大数据、云计算、人工智能、区块链等技术，持续进行数字化转型。金融与科技的深度融合在推进金融服务高速发展的同时，也产生了数据滥用、算法歧视、数字鸿沟等诸多伦理问题。

为此，我国高度重视科技伦理，今年中办、国办就印发了《关于加强科技伦理治理的意见》，提出建立科技伦理体系、增强科技伦理治理能力，促进金融科技健康发展。马上消费金融股份有限公司(以下简称“马上消费”)作为科技驱动型金融机构，贯彻落实党和政府关于金融科技的政策，在法律和制度的规范下，探索和把握最新趋势，践行科技向善，实现技术创新与社会责任的平衡发展。

金融科技伦理建设刚起步探索

金融科技伦理要求在公序良俗的约束下，实现技术创新、金融改革和金融安全在更高水平的动态平衡。而目前，我国乃至全球的金融科技伦理建设，还处于起步探索阶段。

党和国家高度重视金融科技伦理建设。伦理治理是提高我国金融科技国际竞争力的必要条件。伦理建设得不到规范，金融科技发展水平及潜力都会受限，直接制约国家竞争力的增强。当前，我国金融科技伦理的顶层设计初步形成：“十四五”规划和2035年要提出要“健全科技伦理体系”;2022年1月，央行印发的《金融科技发展规划(2022-2025年)》要求健全金融科技伦理规范体系，并于3月发布了《人工智能算法金融应用评价规范》。同时，各地积极开展金融科技伦理规范，深圳、浙江等地成立地方性金融科技伦理委员会。

伦理治理弥补监管空白，成为金融科技发展不可或缺的力量。金融科技发展迅猛，关联的领域和风险都存在一定未知数。目前的法律很难与新型科技相容，法律和监管往往滞后。同时，金融产品和服务的创新增强了业务关联，跨行业趋势显著，突破金融业“分业经营、分业监管”的体制框架，产生了行业界限模糊的问题，容易发生监管空白。伦理规范是自发、自觉的自律行动，它在法律和监管之前，能够有防范未知风险，支撑金融科技发展。

金融科技伦理建设在全球普及，总体仍处于起步探索阶段。近年来，金融科技在全球广泛运用，金融科技带来的挑战也日益突出，各国普遍加入金融科技伦理的建设。美国、欧盟、中国、新加坡等部分国家或地区结合金融科技发展，在伦理治理方面开展了一系列探索。从相关举措来看，目前主要的治理实践集中在设立组织和出台原则，但评估、监督的细则较少;从实践成效来看，专门组织的设立和原则规范的出台时间多在2018年之后，治理效果还需观察和检验。

金融科技领域存在伦理失范

目前，金融科技在数据治理、算法设计和服务对象上都存在伦理失范的现象。

数据安全受到侵犯。一方面在数据获取上，存在采集过度的现象。部分金融机构超范围过度采集用户个人身份、行为、偏好等隐私数据，致使更多敏感信息暴露在开放网络环境;另一方面，数据的使用也存在道德危机。在未经用户同意情况下，金融数据甚至未经脱敏的个人信息被随意共享或售卖数据资源。

算法滥用日益严重。算法不合理应用导致“算法歧视”“大数据杀熟”等，影响用户使用金融产品和服务，影响市场公平竞争，妨碍公平正义，受到越来越多的关注。例如算法导致的“大数据杀熟”现象，算法基于人的支付能力、消费偏好、使用习惯等，转变为对人们的各种打分和预测，在提供金融产品和服务实施差别定价，阻碍消费者自主选择。

数字鸿沟不断扩大。部分数字化产品没有针对特殊群体进行痛点设计，导致这部分群体无法享受金融科技服务带来的便利，金融方面的“数字鸿沟”由此产生，并呈现不断扩大的趋势。数字时代弱势群体主要包括老人、农民及残疾人，由于认知能力、安全需求、个性偏好等多重因素影响，数字弱势群体在金融科技发展的浪潮中“掉队”，成为金融服务的盲区。

金融机构践行常态化伦理治理

金融机构规范科技伦理，要本着向善的目的，认真评估对客户、社会可能带来的影响。马上消费重视伦理治理，贯彻落实政府金融科技伦理准则和行业伦理自律机制，在企业文化、制度规范、业务运营中开展常态化伦理建设，努力使金融科技发挥正向社会价值。

树立科技向善的企业文化。金融科技的决定因素是人，提升金融科技伦理治理水平首先是对人的观念引导。马上消费通过科技伦理培训提高员工伦理意识。针对新员工，设置伦理教育课程，使他们了解如何评估潜在的利害，为员工解释科技伦理原则和内部治理实践，引导其树立正向的伦理意识;针对研发人员，持续开展职业教育，提升其伦理水平和履职能力，开展负责任、可持续的研发工作。同时，马上消费注重科技伦理互动交流，对客户及社会公众进行科技伦理宣传，结合社会对公司的伦理评价完善伦理治理工作;向同业同步最新进展，辅助自身的金融科技伦理决策;响应政府和行业组织科技伦理相关的联合工作，为金融科技伦理公共基础设施建设贡献力量。

构建企业伦理规则体系。人是积极能动的，要用行之有效的伦理准则和作业标准来规范人。马上消费不断完善科技治理的长效机制，确保伦理治理日常持续、有效运转。

在组织框架方面，构建三级治理组织架构。通过科技伦理治理领导组、科技伦理治理委员会、科技伦理治理工作组三级治理组织架构，畅通问题上升反馈渠道和战略执行通道。在马上消费，领导组负责推动执行科技伦理治理战略;委员会负责制定指导方针，敦促公司和所有员工执行科技伦理原则;工作组负责产品伦理审核与风险把控、伦理生态建设、伦理标准讨论与制定、宣传培训。

在制度规范方面，结合公司治理建立金融科技伦理的配套制度。马上消费结合公司实际，制定公司的《科技伦理治理规范》，明确要求所有科技研发活动，必须以安全为目的、对公众负责、保护个人隐私，使科技创新有利于增进社会福祉、避免歧视或偏见;健全和优化各项规章制度和规范，更新算法设计规范、个人信息保护等一系列制度，促进科技伦理治理进一步规范化、标准化;实施金融科技伦理标准，强化对违反金融科技伦理有关行为的责任追究。

在风险监控方面，加强科技伦理风险评估及审查。马上消费建立了面向数据和算法的风险评估指标体系，用以辅助科技伦理治理委员会进行风险预测和识别。并且，以国家出台的金融科技伦理战略规划为风向标，结合已经识别出的风险进行伦理追溯，探索风险背后的价值冲突和伦理困境，建立科技伦理审查的质量控制和监督评价机制，定期审查科技伦理风险。

探索运营展业的伦理公平。马上消费积极落实政府规划，结合业务场景，具体推进伦理原则和规则实质性落地。

注重数据安全和隐私保护。数据是金融科技的基础要素，马上消费从数据视角进行伦理规范，避免数据采集、使用和保护方面的道德风险。在数据采集方面，规范用户授权，根据伦理规范需求，以合理必要为采集前提。在数据使用方面，建立数据治理长效机制，防范因为数据推销，造成骚扰电话、短信泛滥、暴力催收等恶劣的社会影响。在数据安全方面，制定数据安全保护制度，建立数据防泄密立体防控体系，配备专职安全监察人员，防范数据泄露。

将科技伦理嵌入业务全流程。通过在立项、需求分析和技术研发全流程增加科技伦理设计，金融科技从诞生便符合特定的科技伦理道德。技术研发应用和部署团队成员包含技术、合规、法律、伦理、信息安全等领域的人员，在产品立项、研发、测试、发布、运营的全生命周期设置科技伦理审查，将科技伦理要求嵌入技术设计开发中。以马上消费的AI心理学技术应用为例，通过发明一种带有同理心、面对多人沟通的对话技术，使得人工智能具备同理心，避免道德歧视。该论文被自然语言处理与计算语言学领域顶级学术会议ACL 2022成功录用。人工智能技术和心理学的应用改变了催收理念、模式和方法，显著提升效率，提升了催收行业的伦理道德规范。

以便民为中心弥合数字鸿沟。企业应创新和改善金融科技产品和服务，帮助偏远地区人口等特殊群体享受数字产品和应用，达到跨越数字鸿沟的目的。马上消费在技术研发中，注重操作使用的便捷性，突破时空限制。通过自主研发智能双录(远程视频)产品，实现业务办理人与客户“远程面对面”，完成便捷智能的音视频留痕服务;通过智能机器人引导操作流程，固化并不断优化录制流程，操作更便捷顺畅，有效提升双录效果并降低双录时长;通过人工智能自动进行语音播报，将AI算法深度融入到视频服务中，进一步提升展业的合规性和一次性通过率，减少重录。

科技既是金融发展的利器，也可能带来新的伦理风险，金融科技的伦理规范不是一劳永逸的。下一步，马上消费持续探索伦理审查和评估，结合产学研合作和人才培养，坚持用户利益至上、体现人文关怀，推动有温度的科技创新发展，最大程度地实现治理的正义性及平等性。(作者系马上消费金融股份有限公司副总经理、首席信息官蒋宁)