事件背景:AI助手变身“内鬼”
近期,全球社交媒体巨头Meta的Instagram平台遭遇了一起引人注目的安全事件。攻击者利用其AI驱动的自动化支持机器人,成功绕过传统的身份校验机制,实现了对多个高价值Instagram账户的非法接管。受影响的不仅包括知名博主、企业官方账号,甚至连部分政府及机构的认证账号也未能幸免。
从我们的应急响应经验来看,这并非传统的暴力破解或大规模钓鱼攻击,而是利用了AI系统在权限控制上的逻辑漏洞。攻击者无需接触受害者的原始密码,仅通过与AI机器人的“自然语言对话”,便完成了账户控制权的转移。
攻击链分析:精密的“社会工程学”配合
此次攻击的核心在于攻击者对AI支持机器人逻辑的精准利用。攻击链大致可以拆解为以下几个环节:
首先是目标筛选。攻击者通常会瞄准具有极高商业价值的“OG”用户名(短ID)或拥有大量粉丝的认证账号。为了规避平台的风控拦截,攻击者会使用与受害者地理位置匹配的VPN或住宅代理,以模拟正常用户环境。
其次是利用AI的“过度代理”权限。这是本次事件的关键点。攻击者在与AI支持机器人沟通时,通过伪造请求申请更改账户绑定的邮箱地址。令人震惊的是,该机器人拥有直接访问敏感账户管理API的权限,且在执行更改操作时,并未对请求者进行二次身份核验。
最后是快速接管。机器人将验证码直接发送至攻击者控制的邮箱,攻击者利用该验证码完成邮箱重置,进而重置密码、轮转备份码并锁定原机主,整个过程极其迅速,且往往不会触发常规的安全预警。
技术手法解析:典型的“混淆代理”问题
安全研究人员将此次漏洞归类为经典的“混淆代理”(Confused Deputy)问题。在AI大模型应用中,这已成为一种高频风险。
这一环节是很多企业容易忽视的:当AI系统被赋予了过高的管理权限(Excessive Agency),但缺乏与权限等级匹配的身份鉴权逻辑时,AI就成了攻击者的“代理人”。攻击者通过诱导AI执行其本不该具备的非授权操作,从而绕过了原本严密的防护体系。这与OWASP针对大语言模型(LLM)提出的安全风险指南高度吻合,即AI系统在执行敏感操作时,必须具备严格的“人机核验”闭环。
安全建议与Solar观点
随着AI技术的快速落地,类似攻击在近年来明显增加。企业在部署AI智能客服或自动化运维系统时,必须警惕“权限溢出”问题。
从Solar应急响应团队的角度,我们建议广大用户及企业采取以下防护措施:
第一,加强账户身份鉴权。对于敏感操作,严禁仅依赖短信验证码(SMS 2FA),建议优先使用基于时间戳的身份验证器App或硬件安全密钥,以降低被劫持的风险。
第二,做好账号隔离。尽量不要使用公开的、与个人身份深度绑定的邮箱作为核心账户的登录方式,以减少被关联溯源的可能。
第三,定期审计与清理。企业应定期审计自动化系统的API调用权限,确保AI助手仅拥有完成任务所需的“最小权限”。同时,用户应定期查看账户的活跃登录会话,及时清理未知设备。
第四,备份代码安全。及时生成新的备份码并妥善存储,在账号面临风险时,这是最后的救命稻草。
AI技术是一把双刃剑,它在提升用户体验的同时,也为攻击者提供了新的攻击面。企业必须在“智能化”与“安全性”之间找到平衡点,确保自动化系统的每一次指令都处于可控范围内。
如果您想了解勒索病毒的最新发展趋势,或在实际业务中遇到类似安全事件,欢迎关注“Solar应急响应团队”。
全国热线:400-613-6816
官网:www.solarsecurity.cn / www.sierting.com
