
智能体安全
]article_adlist-->9月19日,在第一届中国网络空间安全大会(CCSC2026)网络空间安全科技女性发展论坛上,天融信科技集团董事长兼CEO李雪莹围绕《大模型智能体时代的安全防护体系构建》作主题分享,系统阐述智能体规模化应用背景下的风险演进、能力缺口与体系化解法。
在演讲开篇,李雪莹就这样提到:过去我们担心AI“说错话”,从现在起,必须面对AI“做错事”。随着智能体能力提升,其风险进一步升级。大模型从“会回答问题”进化为“能调用工具、能规划路径、能自主行动”——行动力与自主性,正是我们重新定义安全的起点。
]article_adlist-->从“知”到“行”
]article_adlist-->能力跃迁引发风险升级
相较于传统信息系统,智能体的驱动方式、交互方式、行动边界、系统形态都发生了大的变化。在当下以及未来相当长的一段时间内,智能体并不会替代信息系统,而是“驾驭”信息系统去实现对应的目标,这也意味着智能体时代的到来给安全提出了新的挑战。
智能体安全
TOPSEC
基于智能体的工作机制变化,任何一个维度能力不足、任何一个环节被攻击突破,都可能导致智能体行为失控,并持续放大。具体到业务场景,从单智能体到多智能体协同,从技术工具到数字员工——其攻击面在不断增加,风险也被进一步放大。
李雪莹进一步指出,智能体时代安全风险沿“继承→放大→原生”递进。从原生风险来看,三条失控链贯穿于智能体行动当中,即目标与认知失控、身份与行动失控、对象与信任失控,而数据泄露贯穿其中。
]article_adlist-->防线仍在,战场已变
]article_adlist-->保护对象从资源延伸到任务行动
智能体带来这么多新风险,传统安全防线依然还在,但实际上战场已经发生变化,管控从“资源与边界”,延伸到“任务与行动”。过去管一个紧耦合系统,现在要管好一堆松耦合智能体的每一次意图、委托与行动,其保护对象更多,控制粒度更细,管控程度更深。从产业层面来看,安全也因此迎来新的发展机遇。
谈及智能体安全落地的现实困境时,李雪莹指出当前面临“看不全-对象存在盲区、看不清-交互链路复杂、看不细-行为逻辑黑盒、管不深-控制手段表层”的能力缺口。应对缺口,须增加细粒度监测点,将监测和管控能力深入业务流程内部,多层级、多点位部署监测与管控措施。只有看见才能管住,只有深入才能闭环。
]article_adlist-->新问题,新解法
]article_adlist-->构建大模型智能体原生安全防护体系
面对全新问题就要有全新的解法,李雪莹建议构建大模型智能体原生安全防护体系。从落地层面,她提出应遵循成熟能力复用(底座)、新增问题补齐(增量)、控制体系分层(架构)三大原则,不推翻原有架构,在已有网络、终端、身份、数据安全成熟能力基础之上,补齐面向智能体特性的专项管控机制,构建多层协同的纵深防御体系。
一个中枢:以统一安全控制面作为运营中枢,实现统一资产、统一身份、统一授权、统一策略、统一监测、统一响应六大核心能力,打通各类安全产品,将零散孤立告警,串联成完整可复盘的任务事件,回答“哪个智能体、什么身份、因何任务、调用何种工具、产生什么结果”的核心安全命题。
智能体与供应链域:通过发现盘点、分类判定、检测评估、登记准入、持续复评、退出回收六步,先找全、分清、验明,把对象和供应链的信任根基打好,解决智能体“看不全”尤其是影子智能体的难题。
运行环境与行为交互域:面向合法智能体,把授权从账号级下沉到任务级,监测从单点日志延伸到调用链,高风险动作有人确认,异常时能立刻停下,解决智能体“看不清、看不细、管不深”的难题。
元股证券:ygzq.hk
数据与内容域:智能体时代的数据安全是双向命题,需建立双向防护思维。既要防止数据往外泄露,也要防止恶意数据向内输入,避免不可信内容反过来操控智能体的决策与行动。
实盘股票配资网在三大治理域之上,配套“先校验、再授权、后执行、能兜底、全留证”的行动控制核心机制,保障智能体的每一步行动都经过与风险相适应的校验、授权、确认和兜底,让每个智能体都在可控范围内运行,并在必要时及时中断。
实践
2026年,被业界称为智能体规模化应用的元年,大量实践证明智能体安全需求迫切。天融信的这套体系已在多行业落地:某省财政厅全栈国产化环境部署大模型安全网关,破解政务大模型“不敢用”痛点;某环保企业实现攻击阻断率99%以上、数据泄露零发生;某航空公司对15个AI智能体及MCP服务开展上线前系统性安全评估,确保智能体行为可信,权限可控。
能力扩展到哪里,安全控制就必须延伸到哪里。每一个高价值场景的背后,都离不开一套安全可信的体系化保障。演讲最后,李雪莹强调唯有安全可控,方可释放智能体生产力。只有在对象可管、权限可控、行为可断、数据可追的前提下,智能体才能创造更大的业务价值。
近期热点聚智拓新 驭AI前行!天融信AI安全能力图鉴
天融信:启幕!
天融信发布《智能体全域安全防护框架》
天融信中标某运营商AI安全运营项目
天融信大模型安全网关落地江苏某市人工智能一体化服务平台
]article_adlist-->
关注天融信了解更多信息


元股证券官网-国际站首页提示:本文来自互联网,不代表本网站观点。