AI 转型加速带来的安全新常态
近期 IDC 发布的数据显示，欧洲企业在 AI 领域的投入呈现爆发式增长，预计到 2029 年相关支出将达到 2900 亿美元。从我们的应急响应经验来看，AI 已经从早期的“概念验证”阶段，快速转向核心业务的深度集成。尤其是多智能体（Agentic AI）系统的普及，正在重塑企业的业务流程。
然而，技术的激进扩张往往伴随着安全防线的滞后。当 AI 系统开始具备自主执行多步任务的能力时，传统的边界防护策略已难以应对新型自动化攻击。
攻击链分析：从实验走向实战的风险演变
在当前的 AI 部署环境中，攻击者不再仅仅满足于简单的提示词注入，而是转向对 AI Agent 权限的滥用。从我们的应急响应视角来看，以下环节是目前企业最脆弱的防线：
首先是 AI 平台的权限过载。许多企业在部署 AI 平台时，往往为了追求“自动化”效果，给予了 Agent 过高的系统权限。一旦 Agent 被恶意指令诱导，攻击者便能利用其自主能力横向移动，访问敏感数据。
其次是复杂的供应链风险。随着 AI 基础设施向 PaaS 和 IaaS 迁移，AI 模型的开发、部署与运行依赖于复杂的第三方组件。这一环节是很多企业容易忽视的盲点，攻击者可以通过篡改模型配置或注入恶意插件，实现对业务系统的长期潜伏。
关键技术手法解析
在针对金融、医疗等重度 AI 应用行业的攻击中，我们观察到攻击者正利用 AI 的自主特性进行“低频、高隐蔽性”的攻击。
AI 治理缺失导致的绕过行为是重灾区。例如，在处理欺诈分析或客户自动化服务时，如果 AI 缺乏完善的审计日志和行为基线监控，攻击者可以利用特定的输入模式诱导 AI 做出错误的决策，从而绕过安全合规检查。
此外，由于 AI 系统的决策过程往往具有“黑盒”属性，当发生异常流量或非预期操作时，企业内部的安全运营团队往往难以在第一时间识别出这是正常的业务波动还是被操控的 AI 行为。
Solar 应急响应建议
面对 AI 驱动的业务变革，安全防护必须从被动防御转向主动治理。基于我们处理过的多起 AI 相关安全事件，建议企业重点关注以下三个维度：
第一，实施最小权限原则。针对 Agent 系统，必须严格限制其对后端数据库和 API 的调用权限，严禁赋予 AI 越权执行高危指令的能力。
第二，强化 AI 治理与可观测性。不能仅仅依赖于传统的防火墙，必须引入针对 AI 行为的实时监控机制，确保每一个由 AI 发起的动作都有迹可循，并能通过异常行为检测及时阻断。
第三，重视合规驱动的安全建设。随着欧盟 AI 法案等监管要求的细化，企业应将“安全合规”嵌入 AI 开发的全生命周期，而非作为上线前的最后一道检查点。
类似攻击近年来明显增加，企业在享受 AI 带来的生产力红利时，必须同步构建起与之匹配的“AI 原生”防御体系。
如果您想了解勒索病毒的最新发展趋势，或在实际业务中遇到类似安全事件，欢迎关注“Solar应急响应团队”。
全国热线：400-613-6816 官网：www.solarsecurity.cn / www.sierting.com