“构建发展与安全并重的金融业AI治理体系，应重点把握三个原则：第一，坚持风险为本，而不是技术为本。第二，坚持全程留痕，而不是只看事前审批。第三，坚持包容审慎，对AI技术创新要留出空间，切实做到‘在发展中规范、在规范中发展’。”8月14日，在新金融联盟主办的“智启金融新质生产力，共筑AI安全共同体”内部研讨会上，中国原首席技术官吕仲涛在主题交流中表示。

谈及如何推动AI从“能用”到“好用、常用、可信用”，吕仲涛认为金融机构应从以下方面发力：一是要持续提升面向AI的高质量数据治理能力、安全用数能力和知识工程能力。二是要围绕金融业务特点，构建包括知识增强、规则约束、权限控制、结果校验、人工复核在内的多层安全防线。特别是对于直接影响客户权益、资金安全、社会舆论的高风险场景，应当坚持“小步快跑、逐级验证”。三是必须重视关键技术、关键基础设施和关键供应链的安全可控。但自主可控不等于封闭发展，而是“关键能力自主可控、通用能力开放协同、行业能力共建共享”。

这是新金融联盟第109期内部研讨会，由新金融联盟秘书长吴雨珊主持，中国金融四十人论坛提供学术支持。人民和证监会相关领导做了主题交流。首席信息官唐家才、国泰首席信息官俞枫、国家开发银行信息科技部副总经理郑江奎、科技行业总部首席技术官杨闯发表了主题演讲。来自银行、非银金融机构及科技公司的近百家机构的代表参会。以下为吕仲涛发言全文。

如何推动金融AI从“能用”到“好用”

文| 吕仲涛

当前，以大模型为代表的新一代人工智能技术加速演进，正在深刻改变金融服务的供给方式、经营管理模式和风险防控体系。在此背景下，人工智能既是培育金融新质生产力的重要引擎，也对金融安全、数据安全、网络安全、模型安全和业务连续性等提出了新的更高要求。

近期，围绕“人工智能+金融”、金融业网络安全治理等方面，监管部门持续完善制度安排，为金融机构积极稳妥、安全有序推进人工智能应用提供了重要指引。如何将政策原则真正转化为可执行的治理措施、可验证的技术能力、可追溯的运营机制，并在风险可控前提下形成可持续的创新能力，是摆在全行业面前的一道共同课题。今天，我围绕三个方面谈一些思考。

首先，我谈谈如何借鉴国际经验，构建发展与安全并重的金融业AI治理体系。

纵观国际实践，目前并不存在一套完全统一的金融业AI治理体系，但主流经济体及其金融监管机构已经初步形成了一些具有借鉴参考价值的做法。下面举三个例子。

首先，欧盟基于其《人工智能法案》，强调“风险分级+硬约束”，并明确将高风险场景作为监管重点。欧盟《人工智能法案》是全球较早形成系统性约束框架的立法实践，其并不简单按照模型参数规模或是否采用大模型技术来划分监管强度，而是更加关注人工智能应用对生命健康、资金财产、基本权益等可能产生的实际影响。例如，该法案将用于评价自然人信用评分或信用状况的人工智能系统纳入高风险场景范畴，并对应设定了针对性监管要求。

其背后的治理逻辑值得借鉴：当AI系统实质性影响信贷、等重要金融合约的达成时，就不能只追求业务成效，还必须设立数据治理、系统监控、人工监督和应急处置等全流程治理保障机制，确保及时发现并管控应用风险。

其次，美国国家标准与技术研究院（NIST）发布了《人工智能风险管理框架》及其配套使用手册，涵盖治理要求、场景识别、风险评估、风险管理等内容。其核心价值在于将AI风险管理从一次性合规检查，转化为贯穿设计、开发、部署、运行、监控和退出全过程的闭环机制，并特别针对幻觉、偏见、数据泄露等生成式AI的特有风险提出了可执行的风险缓释措施。不同于欧盟依托立法施行强制性约束，美国的做法更偏重于依托既有的反歧视、隐私保护、风险管理、网络安全、和消费者保护规则，通过标准框架引导相关机构主动建立AI治理能力。

这一实践带给我们的启示在于，人工智能金融应用的治理既要有制度约束，也要形成可操作、可审计、可验证的工程化管控体系，引导金融机构在统一框架下，结合自身实际形成具体治理方案和措施。

再者，英国金融监管部门的经验做法同样值得关注。英国央行（BOE）、审慎监管局（PRA）和金融行为监管局（FCA）并未急于建立一套独立于现有金融监管体系的新规则，而是围绕审慎经营、市场诚信、消费者保护、金融市场稳定等既有目标，通过行业调查、监管谈话、风险评估等方式，持续发现AI在、保险业、资管业以及金融市场基础设施中的部署情况、风险问题和治理难点。

这一实践说明：人工智能技术当前已深度嵌入业务场景和运营流程，与各类风险交织融合。因此，人工智能风险并非风险清单的“新增项”，而是渗透全量风险的“乘数”，会放大存量风险。我们不能因为AI技术的飞速发展，就贸然针对AI风险治理工作另起炉灶，关键在于将人工智能风险有机纳入现有全面风险管理体系，并针对性补齐治理空白，后续在监管部门指导下持续开展风险监测、建章立制等工作。

总的来说，综合国际实践经验，核心都不仅仅是为了“管住技术创新”，而是为了“以风险治理支撑技术创新”。因此，我认为我国构建发展与安全并重的金融业AI治理体系，应重点把握三个原则：

第一，坚持风险为本，而不是技术为本。不应简单以“是否使用大模型”“模型参数有多大”来决定监管强度，而要综合应用场景、业务影响、客户权益、自动化程度和系统重要性等因素，全面实施风险分级分类管理。

第二，坚持全程留痕，而不是只看事前审批。要建立从数据、训练、评测、发布、调用、监测到退出的全生命周期管控链，让每一次模型变更、每一项关键决策、每一次异常处置都可追溯、可复核、可问责。

第三，坚持包容审慎，而不是一放就乱、一管就死。对AI技术创新要留出空间，但过程中的风险问题也要持续关注、守住底线；对高价值、低风险场景要加快落地，对高敏感、高影响场景则要审慎推进，切实做到“在发展中规范、在规范中发展”。

其次，我谈谈如何正视行业共性难题，推动AI从“能用”到“好用、常用、可信用”。

如果说AI治理解决的是“应该怎么管”的问题，那么金融机构面对的现实挑战就是“究竟怎么落地”的问题。目前，金融机构对人工智能的探索已经从单点应用逐步走向规模化、生产级应用，但从“看得见价值”到“持续创造价值”，仍面临一系列共性挑战。

第一，是数据可用与数据安全间的挑战。金融业拥有丰富的数据资产，但金融数据具有高度敏感性、强关联性和严格的合规要求。很多金融机构并不是没有数据，而是缺少可被安全、高质量使用的数据。当前，数据层面的行业痛点主要包括三个方面：一是数据标准不统一、口径不一致，影响模型训练和跨场景复用；二是数据分散在不同系统、不同条线，治理、维护、运营成本高；三是在隐私保护、数据安全、商业秘密保护的前提下，如何实现数据价值释放，仍需更多技术和制度创新。

因此，要持续提升面向AI的高质量数据治理能力、安全用数能力和知识工程能力：一是要夯实数据目录、数据标准、数据质量和元数据管理等基础能力；二是要强化数据分级分类、授权管理、脱敏处理和全程审计等治理水平；三是要处理好数据价值释放和个人信息、商业秘密、重要数据保护之间的关系，确保金融数据在供给人工智能应用的过程中“流得动”也“管得住”。

第二，是模型能力与可靠性间的挑战。大模型具有强大的语言理解、内容生成和推理能力，但也存在幻觉、偏见、不可预测等固有挑战。在金融领域，一个看似微小的错误，可能造成客户投诉、操作风险甚至声誉风险。

因此，金融机构不能把通用模型直接搬运到生产环境，而要围绕金融业务特点，构建包括知识增强、规则约束、权限控制、结果校验、人工复核在内的多层安全防线。特别是对于直接影响客户权益、资金安全、社会舆论的高风险场景，应当坚持“小步快跑、逐级验证”：即先从知识问答、研发辅助、运营支持、员工培训等相对可控的内部办公场景做起；在积累足够的数据、流程、评测和治理经验后，再稳步拓展到对客服务、资金交易和经营决策等更复杂场景。

第三，是自主可控与开放协同间的挑战。金融机构必须重视关键技术、关键基础设施和关键供应链的安全可控。但自主可控不等于封闭发展，更不等于每家机构都要从头训练大模型、建设技术底座。真正有利于行业协同发展的演进路径，应当是“关键能力自主可控、通用能力开放协同、行业能力共建共享”。尤其对于底层算力、基础模型、开发平台、安全组件、评测工具等非敏感通用能力，行业可以探索更加开放的协同机制，并加强对于测试方法、风险案例、治理标准、攻防经验和应急处置机制的交流共享。

此外，对于业界尚未明确统一标准的关键概念，需要在监管部门的引导下，加快形成行业共同语言。例如，什么是高风险场景，什么是关键管控措施，模型上线前应达到什么标准，发生异常时如何报告和处置，如何评价模型的安全性、可靠性和公平性。只有标准逐步统一、能力逐步共享，才能降低全行业的试错成本，全面提升金融业AI应用的整体水平。

最后，金融业人工智能应用的健康有序发展，依靠某几家机构闭门建设远远不够，需要积极推动行业生态共建共享。

这里，我提出3点建议：

第一，建议统一场景分类分级与测评行业标准。一方面，建议明确行业低、中、高各类风险场景的典型分类、准入、评测、监督与退出要求，减少机构间理解偏差；另一方面，建议建立行业级评测样本与指标体系，推动行业共建合规知识库与评测工具，从而降低安全合规使用门槛，拉齐标准基线，提升全行业人工智能应用质量。

第二，建议加强人工智能安全联防联控与产业协同。一方面，建议针对人工智能模型、框架、基础设施等重大漏洞、供应链风险、数据安全事件和典型风险案例，推动建立行业级人工智能安全情报信息共享和快速协同处置机制；另一方面，建议推动基础模型厂商、安全厂商和科研机构加强协同攻关，提升行业人工智能安全应用能力。

第三，建议进一步发挥监管沙盒机制作用。针对生成式人工智能和智能体技术，建议给予政策包容，鼓励先行先试，不断总结经验，持续探索技术创新与风险管控的新平衡。

我们期待形成一个更加健康的行业AI生态：底层技术有可靠支撑，应用创新有合规边界，安全治理有统一标准，行业协同有共享机制。

各位同仁，人工智能正在重塑金融业，也正在重新定义金融机构的竞争力。我们要以服务实体经济和金融高质量发展为目标，以安全可信为底线，以场景价值为牵引，以协同共治为路径，推动人工智能真正成为金融新质生产力的重要组成部分，共同建设金融数智化生态，以高质量人工智能应用助力行业高质量落实金融五篇大文章。

新金融联盟（NFA）成立于2016年，致力于打造一个高质量的新金融政策研讨和行业交流平台。成立以来，联盟共组织各类闭门研讨会、优秀企业参访近百场，议题涵盖数字金融、数据治理、资产管理等方向。部分研讨成果形成报告，呈送给相关部门，推动了业界与监管的沟通交流，助力市场机构的合作共赢。