大模型本身无善恶之分,关键在于如何使用

2025-08-08来源:北京商报

7月31日,由北京商报社、深蓝媒体智库主办的“AI金融双刃剑:从安全底线寻找转型机遇沙龙”在上海成功举办。作为此次沙龙的重磅环节之一,现场圆桌对话围绕“AI算法备案时代的金融合规路径”展开。

与会嘉宾认为,金融AI合规的本质是在监管刚性要求与技术可行性之间寻找动态平衡点。在人工智能技术深度渗透金融服务的背景下,如何通过制度设计与技术管控构建合规体系,既满足监管要求又保障创新活力,成为当前金融科技发展中亟待突破的关键课题。

在AI算法备案制度的框架下,金融领域业务算法,如智能投顾、信用评估、保险定价等,进行合规改造与备案准备时,面临多重系统性挑战。具体而言,金融AI算法备案的核心是穿透算法黑箱,实现可审计、可干预的透明决策。企业需以“主动合规”重构技术伦理。

神州融信云科技股份有限公司研发技术中心总经理郭学超在圆桌环节表示,大模型本身无善恶之分,关键在于如何使用。当前金融市场呈现“冰火两重天”态势:表面上看热度较高,各类概念频出;但实际成熟应用模式较少。通过原有算法备案是一种方式,客户更关注模式的可靠性与准确性。此外,合规性至关重要,备案或许是很好的解决路径。

郭学超也认为,AI领域的特殊性体现在AI面客服务尚未被允许等方面。金融行业与其他行业一样,必须在合规框架内开展业务,不容许出错。目前公司主要通过应用端到端大模型、固化流程、结合小模型等方式规避合规困境,通过技术手段解决合规问题。

郭学超还介绍,融信云致力于为中小金融机构提供金融saas服务,对合规性高度重视。内部设有合规组织,并经过十余年积累,在网络安全、数据安全、业务安全等方面建立了成熟完善的体系,以满足业务合规要求。