AI全方位渗透金融！算法黑箱、数据污染等风险怎么解

“金融业正在进入AI时刻”“AI的全面应用是决定金融业生死存亡的关键之举”“人工智能金融应用仍面临数据安全、技术依赖、人才短缺等深层次问题”“人工智能的算法黑箱、数据污染、模型缺陷等潜在风险问题不容忽视”……4月10日，以“人工智能与金融未来”为主题的国民财富发展研究合作平台2025春季峰会召开，会上，多方谈及，人工智能正全方位渗透金融领域，但带来革新的同时，也引发对潜在风险的关注。

冲击中小金融机构

金融业正在进入AI时刻。

大家不难发现，如今各行各业都在积极拥抱AI，随着DeepSeek的出现，也进一步为技术在金融业的应用按下“加速键”。正如会上中国财富管理50人论坛副理事长、原中国银保监会副主席陈文辉指出，2025年将是AI在金融业应用的转折之年，以往只有大型金融机构有能力投入使用的大模型，今年因DeepSeek的推出，大幅降低了大模型应用成本，也使得更多机构得以涉足，模型逻辑推理能力等得到提升。

AI特别是大模型，为各类金融机构实现质变提升提供了重要契机。一方面，其在提升效率、创造价值、辅助深度决策等方面，具有显著应用价值；另一方面，DeepSeek推动技术革新，大模型从少数机构专属，走向普惠化生态共建。“在这一情况下，如果我们在这方面能够应用得好，就可以实现质变，但若应用得不好，也会被它所淘汰。”陈文辉说道。

陈文辉指出，AI的全面应用是决定金融业生死存亡的关键之举，也是关键时刻。金融行业历史悠久，传统色彩浓厚，过往国外大型金融机构常强调自身百年历史。但在当下，若不能及时顺应AI发展趋势进行转变，即使不会自生自灭，也将陷入困境。

以中小金融机构为例，人工智能的兴起正在全面冲击着金融机构的传统优势，例如，中小金融机构在服务中小微企业、涉农客户上具有“软信息”方面的比较优势，但AI技术的兴起或对其造成冲击。

如何理解？过去，传统中小银行依托密集的物理网点和客户经理，往往通过实地走访采集“三品三表”（人品、产品、押品）等软信息，借助地理优势，降低信息不对称性，而如今，人工智能则通过整合客户交易、社交和行为数据，打破物理距离限制，实现风险评估从“静态指标”向“动态画像”的转变。

此外，过去中小银行很多采用德国IPC（国际项目咨询公司）微贷技术，本质上是人海战术。通过实地调查来采集小微企业的非标准化信息，高度依赖客户经理的实地调查和经验判断，存在效率低、成本高、操作风险大等问题。而AI推理模型，能大幅提升审批效率、优化业务流程、减少人力依赖。

“未来，中小金融机构可能面临合并浪潮，能否存续，主动拥抱AI将是关键因素。”陈文辉直言。

对于这一点，中国财富管理50人论坛理事长、原银监会主席、证监会原主席尚福林也有所提及。在他看来，如今，各方对于人工智能在金融业推进充满了期待。可以预见，人工智能将对金融业产生深远影响。

一方面增强交互体验。大语言模型利用自然语言处理技术，实时回答客户问题，提供个性化的服务建议，极大地提高了客户服务效率，减少了人工客服的工作量和成本。

另一方面全面分析“画像”。在信贷业务中，人工智能通过挖掘分析消费习惯、交易行为等非结构化数据，分析借款人的各种特征、评估还款意愿，通过动态风险评估替代静态抵押，实现风险评估从“静态指标”向“动态画像”的转变；推动风险定价从“经验主导”向“数据+算法”驱动转变。此外，逻辑推理模型通过交易行为数据中的异常逻辑链检测等策略，加上生物信息识别技术，在反洗钱、反金融欺诈等方面也发挥了较好效果。

国际货币基金组织（IMF）最近一期发布的《全球金融稳定报告》，也分析了人工智能在提高投资和资产配置的效率、帮助完善组合投资框架、改进回报预测方面的作用。根据市场研究机构估算，2024年全球智能投顾管理的资产规模已突破2万亿美元，较2023年增长超过30%。

“人工智能正在改变传统物理服务模式，对依托密集的物理网点和客户经理的中小银行冲击最大。对这方面的影响还需要进行深入的研究。”尚福林说道。

算法“黑箱”等风险不容忽视

尽管大势所趋，但人工智能在金融领域的应用，仍有诸多挑战。

算法风险首当其冲。尚福林指出，算力、算法和数据是大模型应用的三大支撑要素。但同时也要清醒看到，人工智能的算法“黑箱”、数据污染、模型缺陷等潜在风险问题不容忽视。特别是在金融行业应用时，应关注人工智能带来的效率提升与风险加剧的双重效应。

其中，数据安全可靠与隐私保护是关注焦点。人工智能让数据的应用价值凸显，也让数据的安全防护变得更加复杂。

一方面，要持续加强数据的隐私安全保护。金融机构和科技企业需要共同研究数据在采集、存储、传输和使用过程中的安全性问题。要在保障安全和隐私前提下，推动金融与公共服务领域信息互联互通，释放数据要素潜能。

另一方面，要关注数据污染。尚福林称，金融机构每天都在处理海量的数据和复杂的交易，信息的准确性和可靠性至关重要。在金融行业，信息污染风险同样存在。如果虚假信息被灌入训练模型，有可能污染模型的训练数据。一旦部署到金融交易、风险分析当中，可能会引发连锁反应，造成难以估量的损失。

国民财富发展研究合作平台理事长、孙冶方基金会理事长李剑阁也指出，在发展人工智能金融应用的同时，也应正视挑战。目前，人工智能在金融领域的应用仍面临数据安全、算法伦理、技术依赖、人才短缺等深层次问题。如何在推动技术创新的同时，确保金融系统的稳定与安全，需要人工智能方面的专家和金融界的专家密切合作，合力攻关。

“高度关注AI运用可能带来的风险。”陈文辉也提出，AI幻觉的风险、算法歧视等风险，可能是各家金融机构在积极拥抱的过程中，也必须要认认真真考虑的。另外，监管机构应采取包容审慎的态度，高度关注，密切跟踪。

陈文辉称，对于AI应用潜在的风险，监管不能放任不管，但也不能盲目、过度监管，与此同时，监管机构也要加大自身的数字化监管转型的力度。

必须是一把手工程

人工智能重塑金融生态格局，那么，机构又该如何抓住AI机遇？

会上，陈文辉提出多个建议。首先要充分树立数字化转型的战略，他表示，金融机构数字化战略必须是一把手工程。因其投入大、见效慢且涉及面广，非一把手主导难以推进。同时要树立全员数字化意识，战略实施过程中，除一把手重视外，具体业务部门应优先开展具有原始驱动力的AI项目，即能快速实现降本增效、防控风险、优化客户体验的项目，这样才能获得主要负责人的大力支持。

同时也要加大AI人才的培养和使用，特别是有AI技术专长的高级管理人员和高层级技术专家，要大力进行选拔和使用。另外，鼓励具有AI技术背景的专业人才进入董事会或高级管理层，参与到数字化转型规划中，提升AI技术赋能金融业务的有效性。

除了关注AI运用可能带来的风险外，金融资源也要更多地向AI领域倾斜，服务经济高质量发展。陈文辉称，AI是一个确定性很高的赛道和领域，值得金融业高度关注，要把资源更多地放进去。在推动AI行业发展的早期，股权投资极为重要。在此基础上，金融应该全方位地介入、全方位的服务。

此外，李剑阁也指出，要加大金融创新对人工智能产业发展的支持。人工智能产业具有高投入、高风险、长周期的特点，传统的金融支持模式往往难以满足其发展需求。无论是基础研究的突破，还是应用场景的落地，都需要大量资金的持续投入。

“这就要求我们培育壮大耐心资本，创新风险分担机制，丰富金融支持工具，探索更加灵活、多元化的融资渠道，为人工智能企业提供从初创期到成熟期的全生命周期金融服务，从而推动‘科技—产业—金融’高水平循环，为建设现代化产业体系、推动高质量发展贡献源源不断的金融动能。”李剑阁称。

北京商报记者 刘四红