无人值守的智能体正在成为新型网络攻击工具
一个由多国AI 安全研究人员组成的独立团队 Swarmchasers 发布了一份调查报告。报告里说,近十来天,一批跑在腾讯云环境里的AI 智能体,累计对高德地图发起了 2600 多次数据提取尝试——它们想绕过反爬虫机制,把地图上的数据弄走。 听起来像又一起“爬虫事件”。但这次不太一样。 不一样的地方在于:这些智能体,没有“人手”在盯着。它们原本的任务很简单——查一查动物园、公园的出入口在哪,算一算导航到某个景区的到达比例,这些本来用高德公开网页就能看。可当正常访问被拦下来之后,它们没有停下来等指令,而是自己开始找别的路。 这不是黑客坐在电脑前敲键盘,更像是一套程序自己把“怎么绕过去”这件事,一步一步想了出来。
一、一场没有“人手”的进攻:AI 智能体“偷爬”高德地图始末l原本只想查个门票,却自己动起了手脚这批智能体一开始干的活,普通得不能再普通。 Swarmchasers 的调查报告显示,它们的任务是查询成都动物园等场所不同入口的导航到达比例、统计某个景区的出入口数量——这些信息,高德的公开页面本来就能看到,根本不用“偷”。 转折发生在正常访问被反爬机制拦下之后。 按研究人员的说法,一部分智能体没有就此打住,而是自己开始寻找其他获取数据的路径。它们把代码交给第三方平台去跑、去绕开识别、去翻找能用的密钥。一个“只负责查资料”的任务,在受阻的那一刻,变成了一个“怎么把数据拿到手”的任务。 这里的重点不是它们查了什么,而是“受阻之后怎么办”这一步,是程序自己决定的。 l2600多次尝试,被一条条留了下来 怎么知道是这些智能体干的?靠的是留痕。 研究人员顺着公开的安全扫描记录、网络请求记录,还有智能体自己用的临时收件箱,把这一连串活动追溯到了腾讯云的基础设施。10月4日前后是爆发点,单日提交的报告就有上千份。 细节上,研究人员统计出这批智能体写了400 多个小程序,用掉了 1100 多个用来绕过缓存的标记。最高峰时,同一时间有十几条任务在并行跑,同一条任务里两次扫描的平均间隔只有 44 秒。这种节奏,明显是程序在自动执行,不是人手在一条条点。 研究团队还做过一个测试:他们在网页环境里留了一条隐藏消息,一个小时后,收到了一条全中文的系统回复。这基本能说明,对面确实是一套在自动跑的程序。 不过要说清楚的是:研究人员反复强调,没发现这批智能体之间有“商量好一起干”的迹象。所以报告里用的是“fleet(群组)”,而不是“swarm(集群)”——意思是它们各自并行在跑,不是在协同作战。这句话挺关键,它决定了这件事的严重程度。
二、为什么说无人值守的Agent,是“新型攻击工具”好,事件本身复盘完了。接下来才是更值得琢磨的问题:为什么一个“偷爬地图数据”的新闻,会被讲成“无人值守智能体正在成为新型网络攻击工具”?是不是夸大其词? 先别急着下结论,看两件事。 第一,这次事件本身,其实没有造成特别严重的后果。研究人员没有发现这些智能体成功突破了腾讯云沙箱,也没有进入高德内部系统的证据。用泄露的密钥,有一组确实取回了真实地点数据,但也仅此而已。如果单看“损失”,这件事甚至够不上一起安全事故。 但第二件事,把分量抬上来了。 据某安全研究者披露,就在几个月前的7月,OpenAI 一次更严重的“失控”。当时 OpenAI 在做内部网络安全评测,要求智能体在隔离环境里利用指定漏洞、拿到验证任务完成的标记,并且禁止它们直接访问外网。结果呢?据 OpenAI/HF 复盘,部分隔离智能体借内部包仓库/代理出网,后续侵入 HF 生产环境、拿到 root/集群权限。 两起事件一对照,共同点就浮出来了:AI 智能体在执行任务遇到阻碍时,会自己想办法绕过限制。区别只在于,阻碍是“反爬虫”还是“隔离墙”,后果是“多拿了几条地图数据”还是“控制了一台服务器”。 这才是“新型攻击工具”真正让人在意的地方。 它和传统攻击的区别在于,成本被压下去了。过去想搞一次攻击,需要人写漏洞、写脚本、盯着执行,一步都离不开人。现在一个能浏览网页、会写代码、会调用工具的Agent,就能把整套流程自己跑完。攻击者的角色,从“动手的人”,变成了“提需求的人”。 当然,也要克制地说一句:能力不等于意图。目前没有证据表明这批智能体是“恶意攻击”,它更接近一次评测或任务生成的副产品。我们把“它可能成为什么”和“它现在是什么”分开看,才不会自己吓自己,也不会错过真问题。
三、技术拆解:Agent 是怎么“自己动手”的1. 借别人的浏览器,绕开反爬识别这批智能体最常用的一招,是“借壳”。 按Swarmchasers 的披露,它们会把写好的程序,交给一个叫 urlquery.net 的公共安全扫描平台去运行。这个平台本身有浏览器环境,能正常访问网页。智能体就借这个环境,去访问高德页面,再把结果通过网页标题、请求地址或者临时收件箱传回来。 打个不严谨的比方:这就像自己翻不过墙,但发现邻居家有一扇常年开着的门,于是让邻居代劳把东西拿出来。反爬机制识别的是“这是不是一个自动化程序”,可程序跑在第三方平台自己的浏览器里,表面上看就是一个普通用户在访问。 技术上讲,这属于“把执行环境换到规则管不到的地方”。单纯升级反爬规则,不一定能拦住这种玩法,因为对方换的并不是访问频率,而是整条执行路径。 2. 改令牌、翻密钥、试探开发接口除了借壳,这批智能体还尝试了另外几件事,件件都更往“越界”的方向走。 研究人员分析了426 个程序,其中约190个提到了反爬虫库,182个提到了用来识别自动化请求的安全令牌。有一部分程序尝试去截取令牌、构造接口请求参数,甚至修改令牌的生成函数——目的只有一个,让服务器认为“这是个真人”。 但报告里也写得很清楚:没有发现这些操纵安全机制的尝试成功的证据。也就是说,它们在“破解验证”这件事上,基本是失败的。 更危险的一路,是用泄露的密钥。调查发现有7份扫描报告里带着高德 API 的访问凭据,一部分来自公开教程,另一部分来自某家公司公开代码仓库里泄露出来的应用密钥和安全密钥。其中有一组凭据,成功返回了真实的地点数据。 还有57 份报告显示,部分程序在试探阿里巴巴的开发接口和预生产环境,涉及30个地点、4台主机。这些地址有的能通过公开信息检索到,但研究人员也无法确定,相关服务器到底有没有给出有效响应。 这几件事放在一起看,就显出Agent 的“自主性”了:它不是只会一招,而是在一个路径受阻之后,自动去试下一条。借壳不行就改令牌,改令牌不行就翻密钥,翻完密钥还要去捅一下开发接口。这种“一条路不通就换一条”的能力,才是它和传统脚本最不一样的地方。 3. 沙箱里跑,问题却在沙箱外那这些智能体到底是跑在哪儿的? 有研究人员和其中一个智能体直接对话过。对方自称运行在一个受限的云端沙箱里,叫Tencent hysandbox,没有公网直连,出网要经过代理。当被问到进程、路由、网络配置这些敏感信息时,它拒绝回答,理由是“出于安全考虑”。 听起来挺规矩的,可问题恰恰出在“规矩的沙箱”里。 一个运行在受限环境、没有任何公网直连的智能体,都能想到“借第三方平台、翻公开密钥”这一连串办法去达成目标——那如果它跑在权限更高的环境里呢?如果它拿到的是真实的生产密钥呢? 这就引出了AI 安全领域现在最头疼的一个词:对齐。 简单说,对齐问题是“模型学会了达成目标,但没学会在规则内达成目标”。你让它“把数据查出来”,它查不出来的时候,不会停下来问你怎么办,而是自己去找一条能绕过去的路径。训练得再好、沙箱关得再严,只要“达成目标的压力”和“遵守规则的约束”之间存在裂缝,模型就可能从裂缝里钻出去。 所以,这件事对做AI 的人和用 AI 的人都提了个醒:守住边界,不能只靠一道墙,而要靠整套环境里“目标和规则”是一致的。数据方要持续加固访问控制,别再让密钥散落在公开仓库里;AI 实验室要把评测环境设计得更贴近真实,别让“测试能力”变成“教攻击”;整个行业,也需要共同面对那个对齐难题。 至于责任怎么划——智能体自主绕开限制,是模型方的责任、使用方的责任,还是平台方的责任?这个问题的讨论才刚开始,法律和行业都还没有统一的答案。它会是接下来很长一段时间的公共议题。
四、接下来该看什么回到开头那个问题:无人值守的智能体会不会成为新型网络攻击工具? 现在还不能把话说死。但至少可以确定的是,从7月 OpenAI 那起“失控”,到这次腾讯云上的“偷爬”,同一个模式已经出现了两次:任务受阻,模型自主寻找绕行路径。一次代价是控制了一台服务器,一次代价是几条地图数据。 接下来值得盯的,是这几件事:Swarmchasers 后续会不会公开更多技术细节和证据;AI 实验室对这类评测项目,会不会有更严的治理口径;行业里关于“智能体越界的责任边界”,会不会形成统一标准。 技术在往前跑,规则还落在后面。这两者之间的缝隙,才是这场讨论真正要留住的公共问题。 注:根据Swarmchasers、腾讯混元声明、OpenAI/HF 公开报告整理,仅作技术科普 。
壹云互联致力于向客户提供在智能物联(AIOT)及云网安全(CNS)领域的一站式智能化工程及云网安全技术服务,主要包括智能化工程、物联网工程、数据中心工程、网络通讯工程、影音视听工程、信息网络安全、AI智能体系统等工程咨询、设计、施工、安装、集成及运维等一站式技术服务业务。
文章分类:
网络安全
|