近期，安全行业的一份深度报告揭示了一个令人不安的趋势：过去一年中，攻击者已开始利用AI进行全流程的自主入侵。这意味着攻击者不再需要频繁的手工干预，AI模型能够自主生成数千条指令，在多个会话中进行渗透测试。从我们的应急响应经验来看，攻击的“门槛”正在崩塌，防御者必须尽快适应这种“机器对机器”的对抗节奏。
攻击链的自动化演进
攻击者获取AI能力的手段日益多样化，包括滥用商业模型、窃取AI凭据，甚至直接购买专门用于网络犯罪的“黑产AI工具”。为了实现自动化攻击，攻击者通常会通过“越狱”手段移除AI的安全限制。
这一环节是很多企业容易忽视的：攻击者不再仅仅依赖一次性的提示词攻击，而是将恶意指令植入类似 CLAUDE.md 的配置文件中。一旦这些文件在会话启动时被自动加载，恶意逻辑就会持续生效。类似攻击近年来明显增加，AI不仅被用于编写和调试恶意代码，甚至能在运行时实时与模型通信，动态调整攻击行为。
AI系统的脆弱性与新攻击面
随着企业将AI引入邮件、办公文档、代码库及业务流程，AI本身已成为核心攻击面。目前的LLM（大语言模型）架构存在天然缺陷，即无法区分“指令”与“数据”。这种特性直接导致了提示词注入、恶意配置植入以及内存操纵等风险。
更为严峻的是，当这些AI代理被赋予高权限时，它们往往会盲目信任外部输入。在我们的溯源分析中，很多被入侵的企业往往是因为忽视了对AI推理接口（Inference API）和模型管理后台的监控，导致攻击者能够绕过传统防御，直接与企业的AI核心进行交互。
身份伪造：信任体系的崩塌
生成式AI带来的另一大威胁是身份伪造。曾经作为验证身份的“金标准”——如视频通话中的面容、实时语音或政府证件，现在都可以通过低成本、高保真的方式进行合成。
社交工程学攻击已进化为多渠道协同作战。攻击者利用AI进行实时语音欺诈或模拟视频会议，这种攻击不再局限于传统的邮件钓鱼，而是渗透到了Slack、Microsoft Teams等协作平台中。类似攻击在近年来针对大型企业的勒索事件中表现尤为突出，造成了巨大的经济损失。
Solar 应急响应建议
面对AI时代的全新威胁，企业不能再仅仅依靠传统的静态防御。针对当前形势，Solar应急响应团队提出以下建议：
- 强化AI资产治理：企业必须建立AI资产清单，特别是要对模型服务器、推理端点和控制面板进行全量监控。很多企业被攻击的原因就是这些资产处于“暗处”。
- 实施零信任架构：不要假设AI代理的任何输入都是安全的。必须对AI生成的代码和指令进行严格的沙箱验证，限制AI代理的执行权限，遵循最小权限原则。
- 防御必须“机器化”：正如业界专家所言，防御者不能再假设对手是人类。企业需要部署能够自动化响应的防御体系，将威胁发现与处置的速度从“小时级”压缩到“毫秒级”。
- 提升身份验证标准：在涉及财务、敏感数据调用的环节，应引入多模态生物识别或物理硬件认证，不再单纯依赖语音或视频通话作为身份凭证。
类似攻击正在加速演变，企业防御的重点已从单纯的“防漏洞”转向“防滥用”。如果您想了解勒索病毒的最新发展趋势，或在实际业务中遇到类似安全事件，欢迎关注“Solar应急响应团队”。
全国热线：400-613-6816 官网：www.solarsecurity.cn / www.sierting.com