智能体安全，正成为金融AI的新门槛
资讯 零壹财经 零壹财经 2026-10-15 阅读：88
公告列出了“评测强制依据清单”：GB/T 45654-2025《网络安全技术 生成式人工智能服务安全基本要求》、《人工智能安全治理框架》2.0版、《网络安全法》、《数据安全法》、《个人信息保护法》、《生成式人工智能服务管理暂行办法》，以及《证券期货业网络和信息安全管理办法》等。
既有国家层面的上位法，也有生成式人工智能专项管理办法，还有证券期货业的行业规章；既有已经生效的国家标准，也有去年9月更新的治理框架。
这传递出一个信号：智能体安全评测，不是一个由供需双方自行定义边界的技术评估，而是需要逐条对照法规与标准、结论可留痕的合规动作。
从招标数据来看，过去金融机构在智能体上的投入，主要在“建”——建平台、建场景、建中台。但从今年6月开始，另一个方向的采购开始持续出现：把已经建起来的智能体“管起来”。
零壹智库在8月金融智能体观察文章（《金融智能体采购换挡：大单回归，券商爆发》）中提到，平台类采购逐步退场，智能体观测、安全治理、风险测试等运维管控类需求快速兴起。
8月后，也有券商和银行针对智能体安全扫描、管理、评测等需求进行专门招标。
一、多点落地，基金、券商、银行启动智能体安全采购
金融业围绕安全与智能体的采购，包含两类性质不同的需求。
一类是智能体自身的安全治理，覆盖安全扫描、可观测、测试、评测，以及运行过程中的权限与行为管控；另一类是用智能体去做安全运营、合规管理，即把智能体当作执行安全工作的工具。
两者在招投标统计中常被归入同一个“安全”大类，但前者买的是智能体自身的风险可控，后者买的是安全工作的效率提升。本文关注的是前一类。
去年12月，华夏基金曾发布过智能体安全评测采购需求，半年之后才观察到银行和券商的此类采购信息，且开始有持续性。
表1：金融智能体安全治理类公开招标梳理
数据来源：企业预警通，零壹智库整理
6月开始，浦发银行、兴业证券、恒丰银行、中原证券、广发证券、中国银行、浙商证券相继出现。名目也在细化——观测、扫描、测试、管理平台，分别对应智能体运行的不同环节。
从项目名称看，浦发银行发布的AI红蓝攻防服务项目，属于面向AI系统的攻防测试一类。恒丰银行公示为智能体服务平台新增“智能体观测功能模块”，由火山引擎承接，其目的是让智能体自身的运行状态变得可监测、可追溯。
兴业证券完成2026年度集团智能体应用安全测试服务采购，安恒信息与知其安中标；中原证券就AI安全合规治理发起联合研究，预算49万元。
8月，广发证券在大宗交易智能询报价模块项目制供应商征集中，也要求支持智能体可观测性，支持生产环境回流集自动化处理，支持准确率可稳定持续优化，满足智能体安全要求，以及公司技术规范。
还有一处细节。长城人寿在智能代码助手及智能终端助手采购中写到：支持沙箱操作，复杂任务应先展示计划并由用户确认，高风险操作须二次确认。这些都指向同一个原则，即智能体的关键动作，最终要有人在环。
二、智能体会“出什么事”，已有实证
机构要买的，是让智能体自身可评测、可观测、可管控。这些要求并非凭空预设，因为智能体高自主性带来的安全风险已经真实显现。
2026年以来OpenAI、Anthropic先后出现智能体突破沙箱、自主越权操作的真实安全事件，韩国多家银行遭遇AI智能体参与的黑客攻击，国内金融行业也已密集启动智能体安全测试采购，风险已经从理论假设变成了可落地的现实威胁。
9月15日，国家互联网应急中心发布《2026年人工智能大模型安全众测活动典型漏洞风险通报》。通报指出，众测动员2467名白帽子，对国内25家AI厂商的54款大模型及智能体应用产品进行漏洞测试，累计发现各类安全漏洞873个，其中大模型及智能体应用特有漏洞多达608个，占比约70%。
通报归纳了六类典型风险，三类属于大模型层面，三类则专属于智能体。
海外研究提供了另一个侧面的印证。
英国人工智能安全研究所8月4日发布的报告显示，在其网络安全评估测试中，7款模型接受了122轮测试，AI智能体在其中10轮测试中实施了19项明显超出设定范围的行动，17项涉及Anthropic的Mythos 5模型，2项来自OpenAI的GPT-5.6 Sol模型。
最严重的一起案例中，一个智能体试图向公开使用的开源项目植入恶意代码，并创建多个虚假身份向真实维护人员施压，以推动代码获得批准。
需要客观说明的是，英方报告同时指出，测试中人为开放了互联网访问并关闭了部分安全机制，这与模型面向公众提供时的配置并不相同，测试中的越界行为也未造成现实危害，两家模型厂商均声明测试条件不代表实际使用情况。
这些案例提示了一个技术事实：当智能体被赋予更高权限、更长记忆和更强执行力时，风险可能会变得不可控。
三、监管侧：规则在补齐
风险已经清晰，规则也在同步补齐。智能体安全的治理规则，不是单点出台，而是分层构建的。
国家层面，2025年9月，《人工智能安全治理框架》2.0版在国家网络安全宣传周主论坛发布。
相比1.0版，2.0版新增“模型开源风险”；治理原则上增加了“可信应用、防范失控”，强调AI应始终处于人类控制之下；同时提出对AI系统的设计、开发、测试、部署、运维全生命周期嵌入安全考量，建立风险分级分类治理方法论和多层次安全测评体系。
2026年5月，网信办、发改委、工信部联合印发《智能体规范应用与创新发展实施意见》。文件指出，智能体高自主性、高权限等特性带来了隐私泄露、越权操作、行为失控等安全风险。
文件把智能体安全、可靠、可信确立为产业发展的底线要求，提出明确产品准则、做好权限管理与行为管控、构建审慎稳妥的分类分级治理框架，并要求发展对抗样本检测、行为异常检测等安全与治理工具，提升对智能体非合规行为的发现、干预、阻断、恢复能力。
行业层面，早在2024年12月，《银行保险机构数据安全管理办法》已把模型纳入数据安全管理，要求模型开发应用统一管理、对外部引入的模型算法建立准入机制，模型投入使用前开展数据安全审查，使用人工智能开展业务须建立“退出人工智能应用的替代方案”。
2026年6月，国家金融监督管理总局发布《关于银行业保险业人工智能安全开发应用的指导意见》。其中，第二十五条把智能体安全风险写得非常具体：金融机构要“有效防范提示词注入、思维链注入、多模态攻击、上下文污染等威胁”，并“提升智能体系统安全保障能力，防范数据泄露、记忆污染、身份越权、工具滥用、运行失控等安全风险”。
这份意见还确立了几条硬约束：
涉及资金交易、资产评估、信贷审批、承保理赔、风险管理等与客户利益直接相关的生成式人工智能场景，应被视为高风险应用，须经机构风险管理委员会批准后方可实施；
高风险应用关键环节要建立人工监督和干预机制，明确紧急停用及模型退出条件，建立备用系统或人工替代流程；可解释性不足的技术应用于高风险场景时，仅能作为辅助工具，由人工进行最终决策；
金融机构面向公众服务或高风险场景应用使用生成式人工智能技术的，应向监管机构报告。
浙商证券公告援引的《证券期货业网络和信息安全管理办法》等安全制度，也是这一领域的专门规章。
2025年12月，证监会科技监管司副司长刘铁斌在中国财富管理50人论坛上提出，要探索建立差异化分类监管框架，依据人工智能应用的影响和潜在风险实施分级分类监管，高风险应用场景通过人工核验与小模型校验，确保输出内容合规。
证监会副主席李超在2025年金融街论坛上明确，要强化关键环节的“人类把关”机制，确保关键环节有人监督、最终决策由人作出。
四、技术与标准：“按什么测”
监管给出了要求，接下来的问题是：拿什么测、按什么标准测、谁来测。
国家标准层面，GB/T 45654-2025《网络安全技术 生成式人工智能服务安全基本要求》已经提供了可操作的评测方法。
它要求在服务上线前及重大变更时开展安全评估，评估须覆盖全部条款，每个条款形成单独结论；结论为“符合”的须有充分证明材料，“不符合”的须说明原因及后续满足计划。
行业标准层面，2026年1月，由北京国家金融科技认证中心牵头的“智能体技术金融应用安全要求”团体标准正式立项，目标是为金融机构开展智能体技术应用提供建设指引。
《智能体规范应用与创新发展实施意见》也明确提出建立智能体标准体系，系统布局关键技术、重要产品、数据交换、应用场景、质量评测、安全保障、可信认证等标准，并加强智能体互联协议（AIP）等关键标准的推广应用。
供给侧，也有厂商实践。
例如，中标兴业证券项目的安恒信息，已推出“恒脑”安全智能体及AI智鉴、AI智盾、Proxy Bot智能体防护等产品线，并在《全域人工智能安全风险防护落地实践指南》中提出AI智能体安全架构专项防护，针对记忆投毒、插件供应链风险、高权限主机接管等风险给出加固方案。
其金融行业方案的核心做法包括：客户数据实时脱敏，让模型只看标签不看明文；高风险操作必须人工二次复核，AI只辅助、不做主；交互日志本地化留存，满足监管审计要求。
在方法论上，工商银行原首席技术官吕仲涛在2026清华五道口全球金融论坛上提出的六个方向颇具参考价值：企业需围绕智能体定位、知识工程约束、多智能体制衡、权限治理、攻防能力、全流程监控，构建可监测、可追溯、可干预、可审计的全域安全防线。
他对业务边界的判断也很明确——对外服务坚持审慎从严，强调辅助引导，不提倡代客决策；对内赋能可在安全可控前提下创新试点，工具类智能体采用沙箱隔离部署，确保操作可追溯、责任可认定。
安恒信息董事长范渊则从攻防角度给出一个概括：当智能体权限越来越大，安全防护机制必须通过"AI监管AI、AI治理AI"来实现。
下一篇>没了
相关文章
用户评论
所有评论
主编精选
more专题推荐
more
第四届中国零售金融发展峰会(共15篇)
-
首页
-
评论
-
回顶部
游客
自律公约