新华财经北京4月10日电（记者翟卓）“金融业正迎来人工智能行业应用的历史机遇，但人工智能的算法‘黑箱’、数据污染、模型缺陷等潜在风险也不容忽视，在应用过程中，要关注人工智能带来的效率提升与风险加剧的双重效应。”中国财富管理50人论坛理事长、原银监会主席、证监会原主席尚福林说。
他是在10日举行的国民财富发展研究合作平台2025春季峰会上作出上述表述的。
尚福林认为，首先，算力效率的提升是基础。大模型需要依托由高性能计算芯片、存储和网络共同构成算力集群。硬件投入大、训练成本高一直是在行业普及应用的重要制约因素。特别是中小银行科技投入能力明显不具优势。
“但这种局面随着DeepSeek的出现，通过算法优化，减少了对高算力硬件的依赖，打破了‘堆算力、拼资本’的大模型发展路径。大大减轻了金融机构特别是中小机构的资本投入压力，为弥合技术差距提供了机会。”尚福林说。
其次，数据安全可靠与隐私保护是关注焦点。人工智能让数据的应用价值凸显，也让数据的安全防护变得更加复杂。
尚福林表示，一方面，要持续加强数据的隐私安全保护。金融机构和科技企业需要共同研究数据在采集、存储、传输和使用过程中的安全性问题；同时在保障安全和隐私前提下，推动金融与公共服务领域信息互联互通，释放数据要素潜能。
另一方面，还要关注数据污染。尚福林提到，金融机构每天都在处理海量数据和复杂交易，信息的准确性和可靠性至关重要。在金融行业，信息污染风险同样存在。如果虚假信息被灌入训练模型，有可能污染模型的训练数据。一旦部署到金融交易、风险分析当中，可能会引发连锁反应，造成难以估量的损失。
最后，提高模型算法的透明性和可解释性是关键。在其看来，目前深度学习模型还存在不可解释性，输出的结果难以解释和追溯，增加了监管难度。训练数据中的偏差会导致算法输出的不公平或错误。
在实际交易中，人工智能驱动的高频交易在提升市场反应速度的同时，也放大了波动性。当多数人工智能策略采用相似风险模型时，这种同质化响应可能会加速放大负面反馈循环，进而加剧金融脆弱性。此外，尚福林还特别强调，在模型训练中，还要充分体现国家的政策导向和相关要求。
为此其建议，要积极采取措施。一方面，在技术上强化垂直领域的专业性，在技术基座基础上针对金融行业特点进行精细训练，对生成内容及时进行交叉验证，提升模型的准确性和可靠性。
另一方面，监管机构应密切关注人工智能技术在金融领域的应用动态，增强对智能算法风险的穿透式分析能力，健全智能算法的规则制度，提升算法可解释性、透明性、公平性和安全性。
编辑：罗浩
声明：新华财经为新华社承建的国家金融信息平台。任何情况下，本平台所发布的信息均不构成投资建议。如有问题，请联系客服：400-6123115
新华财经北京4月10日电（记者翟卓）“金融业正迎来人工智能行业应用的历史机遇，但人工智能的算法‘黑箱’、数据污染、模型缺陷等潜在风险也不容忽视，在应用过程中，要关注人工智能带来的效率提升与风险加剧的双重效应。”中国财富管理50人论坛理事长、原银监会主席、证监会原主席尚福林说。
他是在10日举行的国民财富发展研究合作平台2025春季峰会上作出上述表述的。
尚福林认为，首先，算力效率的提升是基础。大模型需要依托由高性能计算芯片、存储和网络共同构成算力集群。硬件投入大、训练成本高一直是在行业普及应用的重要制约因素。特别是中小银行科技投入能力明显不具优势。
“但这种局面随着DeepSeek的出现，通过算法优化，减少了对高算力硬件的依赖，打破了‘堆算力、拼资本’的大模型发展路径。大大减轻了金融机构特别是中小机构的资本投入压力，为弥合技术差距提供了机会。”尚福林说。
其次，数据安全可靠与隐私保护是关注焦点。人工智能让数据的应用价值凸显，也让数据的安全防护变得更加复杂。
尚福林表示，一方面，要持续加强数据的隐私安全保护。金融机构和科技企业需要共同研究数据在采集、存储、传输和使用过程中的安全性问题；同时在保障安全和隐私前提下，推动金融与公共服务领域信息互联互通，释放数据要素潜能。
另一方面，还要关注数据污染。尚福林提到，金融机构每天都在处理海量数据和复杂交易，信息的准确性和可靠性至关重要。在金融行业，信息污染风险同样存在。如果虚假信息被灌入训练模型，有可能污染模型的训练数据。一旦部署到金融交易、风险分析当中，可能会引发连锁反应，造成难以估量的损失。
最后，提高模型算法的透明性和可解释性是关键。在其看来，目前深度学习模型还存在不可解释性，输出的结果难以解释和追溯，增加了监管难度。训练数据中的偏差会导致算法输出的不公平或错误。
在实际交易中，人工智能驱动的高频交易在提升市场反应速度的同时，也放大了波动性。当多数人工智能策略采用相似风险模型时，这种同质化响应可能会加速放大负面反馈循环，进而加剧金融脆弱性。此外，尚福林还特别强调，在模型训练中，还要充分体现国家的政策导向和相关要求。
为此其建议，要积极采取措施。一方面，在技术上强化垂直领域的专业性，在技术基座基础上针对金融行业特点进行精细训练，对生成内容及时进行交叉验证，提升模型的准确性和可靠性。
另一方面，监管机构应密切关注人工智能技术在金融领域的应用动态，增强对智能算法风险的穿透式分析能力，健全智能算法的规则制度，提升算法可解释性、透明性、公平性和安全性。
编辑：罗浩
声明：新华财经为新华社承建的国家金融信息平台。任何情况下，本平台所发布的信息均不构成投资建议。如有问题，请联系客服：400-6123115
