2026年,Agent安全正在成为AI落地的「第一命题」

一、汽车租赁软件公司PocketOS遭遇了一场颇

2026年的AI安全,正处在一个极为微妙的位置上。

智能体

放权并深入核心业务的爆发式需求;另一边则是传统安全体系在面对动态、长程决策数字员工的失灵。

今年4月,汽车租赁软件公司PocketOS遭遇了一场颇具代表性的事故。

整个过程只有9秒。等工程师反应过来,公司的生产数据库以及同一存储卷上的备份已经一并消失。事故整个过程中没有传统意义上的黑客入侵。

几个月后,一个更极端的版本出现在OpenAI内部。

8月26日,OpenAI发布了一则事故复盘,称Agent在数十台HuggingFace服务器上执行了代码,并在其中一台获取了root权限,同时侵入了OpenAI内部的研究基础设施。

为了弄清Agent究竟做了什么,OpenAI后来分析了超70亿条日志,消耗数百万GPU小时。

据专家估算,仅此一项的计算成本就在400万至1500万美元之间。

一些疑问是,为何风险已经进入核心生产环境,安全措施却迟迟没有跟上?企业究竟在为什么买单?

当Agent获得越来越多真实权限之后,Agent安全最终又会发生怎么样的变化?

1、6万亿AI浪潮下,:被边缘化的Agent行为防护

二、一边是企业对AI

2026年,AI已经演变为全球科技史上最为昂贵的一场技术豪赌。

支撑这场豪赌的,是极为惊人的资金投入。

据Gartner今年5月更新的预测数据,2026年全球AI支出将飙升至2.596万亿美元,较上一年大幅增长47%。

在这庞大的万亿级蛋糕中,AI基础设施独占1.43万亿美元以上的巨额份额,AI软件与AI服务也分别分走了4532亿美元和近5855亿美元。

算力

侧的“狂飙突进”相比,全球AI安全支出仅为513亿美元,在整体AI预算中的占比低至2%左右。

1、更严峻的行业现实在于,

即便是这极其有限的安全预算,绝大部分也并没有投向真正代表未来方向的“Agent行为与系统防护”,而是被传统安全厂商的智能化包装和基础的内容合规拿走了。

梳理当前AI安全的核心细分赛道,预算的倾斜与落差便一目了然。

具体来看,AI安全赛道主要分为四个板块,AI赋能传统安全、AI内容安全、AI伦理与合规安全,以及Agent安全。

其中AI赋能传统安全其核心能力在于将大模型作为效率工具,重构传统的网络安全技术栈,例如利用AI进行SOC日志分析、威胁情报关联、漏洞自动修复及SOC自动化研判等。

代表企业包括概念先行或已切入大模型能力的传统安全巨头,如奇安信、深信服等。

三、然而与基础设施

这类方案之所以能拿走大头,是因为它本质上依然是传统CISO(首席信息安全官)在已有网络安全预算框架下的“智能化升级”,

1、买单逻辑和:1、ROI:评估标准极其成熟

这类安全产品的驱动力非常直接,即解决的是企业AI产品能否“合规上线、备案通过”的最低生存门槛

2、可以说,:责任链离散、采购

碎片化

3、与:3、ROI:评估黑盒

一个疑问是,为什么随着Agent日益深入企业核心业务,最核心的Agent行为安全反而拿不到大预算?

在早期的Chatbot时代,安全主要衡量的是每一个输入和每一个输出里面的内容到底有没有安全问题;

但到了今天,当AI开始执行长程任务,它就会涉及自主决策能力的判断、任务行为是否安全、甚至

沙箱

”方寸跃迁CEO李筱健对产业家说。

虽然Agent安全的全局预算尚未迎来爆发式的全面普惠,但在市场的冰山之下,

4、第:这一现象绝非偶然,

在这种监管风暴下,两类客户首当其冲

至此,安全的介入节点发生了根本性倒转,

红队测试依然重要,但它的价值不再止于产出一份静态的漏洞报告,而是通过持续的对抗性攻击,为防护策略输送最新的动态攻防样本;

5、这句建议,:到了这一步,

来源: 投资界-首发
产业标签 AI中国/大模型与AI Agent
赞(1) 支持本站
分享到

支持本站持续更新

如果这篇内容对你有帮助,欢迎扫码支持。

支付宝扫一扫

微信扫一扫

登录

找回密码

注册