安全牛:2025年Agentic AI 安全技术应用报告
创始人
2025-04-26 00:20:24
0

今天分享的是:安全牛:2025年Agentic AI 安全技术应用报告

报告共计:127页

《Agentic AI安全技术应用报告》深入探讨了Agentic AI在网络安全领域的应用、风险及发展趋势。随着大语言模型技术突破,Agentic AI发展迅速,其产业生态逐渐形成,在多领域展现出巨大潜力。

1. Agentic AI概述:Agentic AI是能理解目标、自主决策行动以实现业务目标的智能系统,由大模型和智能体组成。智能体应用多样,包括基础模型增强的研究型智能体、全流程软件开发智能体等。它与传统AI等概念不同,具有强大基础模型、规划、工具使用等7大核心能力,架构上分为核心层、协调层和接入层,在多行业有广泛应用。同时,国内外对其政策监管日益重视,2023年后相关政策标准数量显著增加。

2. 在网络安全领域的应用价值:网络安全形势严峻,传统防御手段难以应对复杂攻击,Agentic AI为网络安全带来新契机。它在威胁检测、自适应防御、自动化事件响应、漏洞修复、预测分析与态势感知等方面具有显著优势,能提升网络安全防护能力,满足企业安全需求。

3. 系统风险研究分析:Agentic AI存在安全风险,如2025年1月DeepSeek遭受攻击事件。传统网络安全威胁模型多样,而针对Agentic AI的风险研究也在不断发展,包括Gartner的AI TRiSM、OWASP的LLM应用程序风险TOP10等。安全牛提出Agentic AI的三重安全内涵及洋葱风险模型,涵盖多种风险类型和场景。

4. 安全理念及管控框架:Agentic AI安全包括系统安全和赋能安全两个层面。为此需构建系统安全管控框架,涵盖开发安全和模型增强、数字供应链风险管理等6大安全能力;同时建立赋能安全实现框架,包括生成式大语言模型层、Agentic AI系统安全、安全智能体等,为网络安全提供支撑。

5. 安全实施方法:Agentic AI系统安全实施需遵循全生命周期安全管理思路,包括开发、部署、运行和退市阶段。企业应遵循安全设计和评测、深度防御等六项原则,构建多层次安全保障体系。此外,布局Agentic AI赋能网络安全时,需遵循规划、设计、建设等阶段的相关原则。

6. 应用及产业现状调研:调研显示,金融等行业对Agentic AI技术应用积极,但该技术在行业推广应用的广泛性和普及度还较低。网络安全行业智能化水平正从传统小模型向大模型和Agent应用扩展,产业衍生出AI安全治理和AI赋能安全两大能力,相关产品有多种交付形态。

7. 未来展望:未来,Agentic AI将推动网络安全变革。政策方面,法规标准将更完善;市场方面,传统网络安全市场将整合;应用方面,将推动“被动防御”向“主动防御”转变,垂域大模型私有化和应用将加速,以Agent为主的安全生态系统将形成。

以下为报告节选内容

相关内容

热门资讯

物理学陷入停滞——进步主义神话... 当今的物理学家需要抛弃那个极具吸引力的神话——他们正在揭示我们宇宙的隐藏现实。 浏览物理学科普书籍...
从“数字化”到“数智化”(观象... 从“数字化”到“数智化”,一字之变,体现出我国牢牢把握人工智能机遇,体系化推进人工智能产业创新和赋能...
10万次Claude真实对话洞... IT之家 11 月 26 日消息,Anthropic 昨日(11 月 25 日)发布研究报告,通过分...
AI技术应用越广泛,越要明确边... 发展科技的初心和落点都是服务于人,服务于国家和社会。让安全和便捷成为AI技术应用的一体两面,成为技术...
【多彩新论】警惕碎片化传播的负... 注意力不集中,看书听讲说话容易走神,刷手机却停不下来……数字时代的碎片化传播,已成为我们获取资讯的主...
原创 1... 神舟二十二飞船成功发射,代号“天宫应急1号”,并且也圆满完成了中国空间站任务对接,整个任务全面成功了...
工信部:启动为期两年的卫星物联... C114讯 11月26日消息(颜翊)昨日,工业和信息化部正式印发《关于组织开展卫星物联网业务商用试验...
华为Mate80全系降价背后 华为需要通过更亲民的定价,来从iPhone手上抢更多的市场份额。 文|游勇 编|石兆 作为华为旗下最...
亚洲第一!我国自主研制,海试成... ◎ 科技日报记者 都芃 25日,记者从中交天津航道局有限公司获悉,当天下午,新一代超大型耙吸挖泥船“...
一加总裁:第五代骁龙8由一加高... 【CNMO科技消息】11月26日,一加中国区总裁李杰在社交平台透露,已受邀出席当天下午举行的高通“第...